Исследования подтвердили, что существующие технологии машинного зрения очень легко обмануть

Группа исследователей из Массачусетского технологического института смогла обмануть машинное зрение при помощи различных предметов, напечатанных на 3D-принтере. Об этом они рассказывают в своей работе, опубликованной arxiv.org.

Исследователи обманули машинное зрение, которое раб отает на основе искусственного интеллекта от Google. Через него они просканировали напечатанную на 3D-принтере фигуру черепахи. Машинное зрение думало, что перед ним винтовка.

Машинному зрению также показали специально сделанный бейсбольный мячик. Искусственный интеллект по ошибке подумал, что это было эспрессо.

Для исследования также протестировали и обычное 2D-изображение — фото кота. Под прямым углом машинное зрение думало, что перед ним гуакамоле. Когда картинку наклоняли, искусственный интеллект видел кота.

Под прямым углом нейросеть дает ошибочную трактовку изображению

Модель черепахи и изображение кота — это так называемые соперничающие объекты (adversarial image). То есть это такие оптические иллюзии, которые заставляют машинное зрение ошибочно воспринимать реальность. В их качестве обычно использовали 2D-изображения, а не объемные модели. Нейросети показывают обычную графическую абстракцию, но она видит реальные вещи — машины, фрукты, оружие и так далее.

Подобные проблемы, отмечает The Verge, не несут большой опасности для людей. Эксперименты лишь показывают, насколько уязвимым может быть искусственный интеллект. Если такие проблемы не решить на раннем этапе разработки, то в будущем они могут привести к широким последствиям.