Рисунки смогли свести с ума беспилотные автомобили

Рисунки смогли свести с ума беспилотные автомобили

Несмотря на то, что тысячи инженеров по всему миру работают над тем, чтобы сделать беспилотные автомобили безопасными, существуют самые неожиданные уязвимости, которые могут поставить под угрозу как пассажиров беспилотников, так и окружающих людей. К такому выводу пришли немецкие учёные из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета.

Специалисты выяснили, что свести с ума электронику автомобиля может цветное пятно, которое окажется в поле зрения видеокамер. Если такой даже неподвижный рисунок фиксирует беспилотник, то система начинает считать, что разные объекты в поле зрения камер движутся в разные стороны и это приводит к сбою в работе нейросетей.

Учёные подчеркнули, что у них ушло не больше четырёх часов на создание рисунка, который выводит из строя автопилот. При этом, как отмечают исследователи, для того, чтобы машины оказались в сложной ситуации, достаточно даже небольшого по размеру изображения, которое может располагаться где угодно — на других транспортных средствах, на объектах дорожной инфраструктуры и даже на людях.

В своей работе Attacking Optical Flow, опубликованной на arXiv, специалисты подчеркнули, что если взять за 100% весь объём визуальной информации, которые воспринимают камеры беспилотных автомобилей, то если даже менее 1% от этого изображения придётся на цветовое пятно, то в системе возникнут ошибки и автопилот не сможет корректно оценивать ситуацию, а беспилотник начнёт вести себя непредсказуемо. При этом одна и та же машина, «увидев» одно и то же пятно, каждый раз реагирует на «препятствие» неодинаково.

Учёные намерены найти решение выявленной проблемы, а пока пытаются привлечь внимание разработчиков автопилота к найденному багу. Гипотетически подобные цветовые пятна могут использовать хакеры, чтобы выводить из строя беспилотные машины.


Олег Писарев, Supreme2.Ru

Коды для вставки в блог\форум




Интересные новости
Создан самый быстрый ротор в мире — 300 млрд об/минСоздан самый быстрый ротор в мире — 300 млрд об/мин
Apple пытается создать замкнутый контур производства, перерабатывая старую элетроникуApple пытается создать замкнутый контур производства, перерабатывая старую элетронику
Зачем SpaceX решил взорвать ракету над океаномЗачем SpaceX решил взорвать ракету над океаном
Черная дыра извергает потоки вещества со сверхсветовой скоростьюЧерная дыра извергает потоки вещества со сверхсветовой скоростью
Boeing отправил на испытания ракету-монстраBoeing отправил на испытания ракету-монстра
Блок рекламы


Похожие новости

Древние наскальные рисунки могут быть изображением космической катастрофыДревние наскальные рисунки могут быть изображением космической катастрофы
Учёные смогли подделывать отпечатки пальцев через ИИУчёные смогли подделывать отпечатки пальцев через ИИ
Половина выпускников не смогли сократить дробь на ВНО по математикеПоловина выпускников не смогли сократить дробь на ВНО по математике
Ученые смогли восстановить кровообращение в обезглавленных свинейУченые смогли восстановить кровообращение в обезглавленных свиней
Ученые смогли обезвредить токсин сколопендрыУченые смогли обезвредить токсин сколопендры
Ученые считают, что инопланетяне не смогли бы выжить в земных условияхУченые считают, что инопланетяне не смогли бы выжить в земных условиях
На борту МКС смогли приготовить настоящую пиццуНа борту МКС смогли приготовить настоящую пиццу
Китайские ученые смогли создать глубоководный агрегат, которым можно управлять дистанционноКитайские ученые смогли создать глубоководный агрегат, которым можно управлять дистанционно
Израильские ученые смогли сделать успешную операцию человеку-деревуИзраильские ученые смогли сделать успешную операцию человеку-дереву
Ученые смогли доказать, что в прошлом на Марсе произошла катастрофаУченые смогли доказать, что в прошлом на Марсе произошла катастрофа
Последние новости

Подгружаем последние новости