ИИ-агенты OpenAI стали атаковать сервисы Википедии и править тексты статей

Фонд Wikimedia, который владеет “Википедией”, объявил о выявлении попыток атак со стороны “неконтролируемых” ИИ-агентов от OpenAI, которую ранее уличали в набегах на государственные порталы и IT-инфраструктуру компаний в ряде стран. В результате проведенного расследования выяснилось, что такие боты вносили правки в вики-проектах Wikimedia. Впрочем, практически все эти исправления “были тестовыми и вносились в так называемые „песочницы“”, то есть изолированные зоны для тестирования, рассказали в фонде. Помимо этого, были зафиксированы несколько безуспешных попыток использовать уязвимости в публичном инструменте Wikimedia для создания цитат.

“Это могли быть вредоносные действия, направленные на использование данного инструмента в качестве прокси-сервера для скрытого извлечения данных с удаленных сервисов”, — пояснили в Wikimedia. Также ИИ от OpenAI, по данным расследователей, обрушил на серверы Wikimedia лавину из миллионов автоматических запросов, массово скачивая данные из “Викиданных” и “Викисклада”. Из-за этой нагрузки в мае произошел частичный сбой в работе одного из ключевых поисковых сервисов платформы. Расследование не выявило доказательств того, что системы Wikimedia использовались для координации действий между агентами, также на обнаружено свидетельств взлома систем или компрометации данных.