Рисунки смогли свести с ума беспилотные автомобили

Рисунки смогли свести с ума беспилотные автомобили

Несмотря на то, что тысячи инженеров по всему миру работают над тем, чтобы сделать беспилотные автомобили безопасными, существуют самые неожиданные уязвимости, которые могут поставить под угрозу как пассажиров беспилотников, так и окружающих людей. К такому выводу пришли немецкие учёные из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета.

Специалисты выяснили, что свести с ума электронику автомобиля может цветное пятно, которое окажется в поле зрения видеокамер. Если такой даже неподвижный рисунок фиксирует беспилотник, то система начинает считать, что разные объекты в поле зрения камер движутся в разные стороны и это приводит к сбою в работе нейросетей.

Учёные подчеркнули, что у них ушло не больше четырёх часов на создание рисунка, который выводит из строя автопилот. При этом, как отмечают исследователи, для того, чтобы машины оказались в сложной ситуации, достаточно даже небольшого по размеру изображения, которое может располагаться где угодно — на других транспортных средствах, на объектах дорожной инфраструктуры и даже на людях.

В своей работе Attacking Optical Flow, опубликованной на arXiv, специалисты подчеркнули, что если взять за 100% весь объём визуальной информации, которые воспринимают камеры беспилотных автомобилей, то если даже менее 1% от этого изображения придётся на цветовое пятно, то в системе возникнут ошибки и автопилот не сможет корректно оценивать ситуацию, а беспилотник начнёт вести себя непредсказуемо. При этом одна и та же машина, «увидев» одно и то же пятно, каждый раз реагирует на «препятствие» неодинаково.

Учёные намерены найти решение выявленной проблемы, а пока пытаются привлечь внимание разработчиков автопилота к найденному багу. Гипотетически подобные цветовые пятна могут использовать хакеры, чтобы выводить из строя беспилотные машины.


Олег Писарев, Supreme2.Ru

Коды для вставки в блог\форум




Интересные новости
Есть заболевания, при которых вакцина от коронавируса категорически противопоказанаЕсть заболевания, при которых вакцина от коронавируса категорически противопоказана
AstraZeneca приостановила исследования вакцины от ковида из-за болезни у одного из добровольцев
Ученые обнаружили признаки жизни на ВенереУченые обнаружили признаки жизни на Венере
Астрономы вновь пожаловались на StarlinkАстрономы вновь пожаловались на Starlink
Япония отправит к Марсу 8K-камеру, но ее придется вернутьЯпония отправит к Марсу 8K-камеру, но ее придется вернуть
Блок рекламы


Похожие новости

Полупроводники смогли удивить: они могут вести себя как металлы и как сверхпроводникиПолупроводники смогли удивить: они могут вести себя как металлы и как сверхпроводники
Ученые смогли охладить наночастицу до пределаУченые смогли охладить наночастицу до предела
Из лунной пыли смогли добыть кислородИз лунной пыли смогли добыть кислород
Древние наскальные рисунки могут быть изображением космической катастрофыДревние наскальные рисунки могут быть изображением космической катастрофы
Учёные смогли подделывать отпечатки пальцев через ИИУчёные смогли подделывать отпечатки пальцев через ИИ
Половина выпускников не смогли сократить дробь на ВНО по математикеПоловина выпускников не смогли сократить дробь на ВНО по математике
Ученые смогли восстановить кровообращение в обезглавленных свинейУченые смогли восстановить кровообращение в обезглавленных свиней
Ученые смогли обезвредить токсин сколопендрыУченые смогли обезвредить токсин сколопендры
Ученые считают, что инопланетяне не смогли бы выжить в земных условияхУченые считают, что инопланетяне не смогли бы выжить в земных условиях
На борту МКС смогли приготовить настоящую пиццуНа борту МКС смогли приготовить настоящую пиццу
Последние новости

Подгружаем последние новости