fbpx
Технологии

Инженеры нашли способ обмануть ИИ в камерах наблюдения

Системы определения личности начинают появляться повсюду. Пока одни инженеры их разрабатывают, другие — ищут способы обмануть умные камеры.

Группа исследователей из бельгийского университета нашла довольно простой способ спрятать человека на видео от алгоритма. Для этого достаточно распечатать цветное изображение и прикрепить к одежде. С точки зрения алгоритма человек станет невидимым.

Если мы наложим эту технологию на ткань, то сможем создавать принты для футболок, которые будут делать человека невидимым для автоматизированных камер наблюдения.

Из описания результатов исследования

Сама система кажется слишком уж простой и странной. Тем не менее, подобные изображения известны как «состязательные примеры». Их используют, чтобы заставить хрупкий интеллект, основанный на компьютерном зрении, видеть то, чего нет.

В прошлом «состязательные примеры» использовали, чтобы обмануть систему распознавания лица. Например, можно надеть специальные очки, и алгоритм подумает, что вы Алла Пугачёва. Специальные стикеры заставляли компьютерное зрение подменять предметы. По сути такие изображения работают как QR-коды — алгоритм сканирует их и выполняет задачу.

В этом видео алгоритм решает, что банан стал тостером после того, как рядом с фруктом оказался специальный стикер

Многие исследователи говорят, что использование подобных методик может быть очень опасным. Например, футболка с особым принтом сделает вас невидимым не только для камер наблюдения, но и для самоуправляемых автомобилей. Кроме того, принты можно использовать для умышленного нанесения вреда.

Пока что способ стать невидимым от бельгийских инженеров работает только с одним алгоритмом YOLOv2. Поэтому ждать нового вида камуфляжа ещё рано. Но рано или поздно возможность полностью спрятаться от всех систем всё же появится. И это будет тот самый «дивный новый мир».

52580509