Экспериментальные модели искусственного интеллекта OpenAI, работавшие в закрытой тестовой среде, начали обмениваться сообщениями друг с другом и искать способ получить доступ к интернету. Об этом сотрудники компании рассказали на конференции Black Hat, пишет Bloomberg. По словам сотрудника OpenAI Эрика Уоллеса, “подготовка к побегу” началась еще в мае, когда ИИ-моделям дали задачи, которые невозможно было решить без доступа в интернет. “Мы застряли. Может быть, ответ в интернете?” — написал один из агентов. После этого ИИ-системы начали общаться через внутренние доски объявлений и обсуждать способы выхода из тестовой среды. Модели обнаружили первую уязвимость, которая позволила получить доступ в интернет, но OpenAI остановила эту попытку. Позже агенты нашли новый способ связи и другую уязвимость.
В июле 2026 года ИИ-агент получил доступ к интернету, атаковал инфраструктуру платформы Hugging Face и запустил собственный код на ее серверах. OpenAI узнала об инциденте после сообщения от Hugging Face. По данным Reuters, первые признаки выхода агента за пределы тестовой среды были зафиксированы 9 июля. 16 июля Hugging Face сообщила об атаке ИИ-системы и передала информацию ФБР. OpenAI потребовалось несколько дней, чтобы выявить причину инцидента. 29 июля Reuters сообщил о еще одном случае. ИИ-агент OpenAI получил доступ к инфраструктуре клиента компании Modal Labs. В начале августа OpenAI сообщила о новых инцидентах с ИИ-моделями и заявили, что усилили меры безопасности.
Что скажете, Аноним?
20:50 19 ноября
17:00 19 ноября
16:40 19 ноября
16:15 19 ноября
12:00 19 ноября
[10:50 18 ноября]
[07:15 17 ноября]
[10:50 16 ноября]
[10:41 19 ноября]
На войне в Украине появился новый фронт, и он находится под землей.
[07:00 19 ноября]
В свои 27 лет Хуан Шихуа воплощает “китайскую мечту” в жизнь.
(c) Укррудпром — новости металлургии: цветная металлургия, черная металлургия, металлургия Украины
При цитировании и использовании материалов ссылка на www.ukrrudprom.ua обязательна. Перепечатка, копирование или воспроизведение информации, содержащей ссылку на агентства "Iнтерфакс-Україна", "Українськi Новини" в каком-либо виде строго запрещены
Сделано в miavia estudia.