Картинка в руках обманула систему видеонаблюдения
gov39.ru  /  Пресс-служба правительства Калининградской области

Бельгийские исследователи смогли обмануть нейросетевые алгоритмы с помощью распечатанного изображения на картонном листе.

Основой "обмана" является создание изображений, которые распознаются как объекты других классов. Как сообщает N+1, ученые из Левенского католического университета применили в качестве постороннего объекта универсальное изображение на картонном листе, которое стали передавать друг другу в кадре. В качестве "живого" объекта камера выбирала только того, у кого в руках не было изображения.

https://www.youtube.com/watch?v=MIbFvK2S9g8

Уязвимость нейросетей была обнаружена в 2013 году и с тех пор стала активно изучаться исследователями, потому что ее можно применять для атак на беспилотные автомобили и системы видеонаблюдения.