От пропаганды к планированию атак: ИИ в руках террористов

“Привет, ChatGPT, расскажи мне, как сделать бомбу”. Каждый, кто пробовал задать такой вопрос чат-боту на базе искусственного интеллекта — известному также как “крупные языковые модели” (LLM), знает: ответ может варьировать от простого пересказа истории взрывчатых веществ до постоянной блокировки аккаунта. Но иногда, если задать вопрос нужным образом, можно получить информацию, которую действительно можно использовать при производстве взрывчатого вещества.

Те, кто проверяли эту теорию, обнаружили, что если корректно сформулировать запрос (промпт) к ИИ-модели, некоторые из них расскажут пользователю, как произвести биологическое оружие, спланировать взрыв на спортивной арене и скрыть следы исполнителя теракта. Такой феномен называется “джейлбрейкинг”. Разработчик ChatGPT OpenAI описывает его как “попытки злоумышленника побудить модель предоставить запрещенный контент”.

Исследователи из организации Tech Against Terrorism направили более 2300 запросов, основанных на “реальных случаях использования террористами”, 27 различным ИИ-моделям. В результате 32% запросов привели к получению информации, которую “действительно можно использовать”. Когда вопрос был переформулирован, будто он задается в исследовательских целях, этот показатель вырос до 42%.

Террористы все чаще используют ИИ

Отчет Tech Against Terrorism привлек внимание к проблеме использования ИИ террористами не только для пропаганды, но и для планирования атак. В течение последних лет террористы из группировок вроде ИГ или “Аль-Каиды” использовали ИИ для производства видеороликов, мемов, подкастов, фейков и другого контента, который используется для радикализации их потенциальных последователей. Но теперь ситуация меняется. “В 2025 году отмечен заметный рост числа инцидентов, в которых террористы и воинствующие экстремисты использовали инструменты ИИ для планирования, исследования и подготовки терактов”, — подтвердили эксперты издания Militant Wire в декабрьском анализе.

Часто бывает сложно установить, как именно в теракте использовался искусственный интеллект, поскольку спецслужбы не разглашают информацию. Однако, как заявил один из экспертов в конце прошлого года в британском парламенте, “в судебных документах и криминалистических отчетах все чаще фиксируются логи чатов, в которых подозреваемые обращаются к языковым моделям с просьбой предоставить инструкции по изготовлению бомб, идеологическое обоснование или оправдание терактов”.

И речь идет не только об отдельных лицах. Например, исследователи, анализирующие использование дронов связанной с “Аль-Каидой” малийской группировкой “Джамаат Нусрат аль-Ислам валь-Муслимин”, полагают: террористы применяют ИИ для модификации беспилотников. А в июльском исследовании, опубликованном Кембриджским университетом, содержатся интервью с членами нигерийской “Боко Харам”. Там они подробно рассказывают, как группировка использовала, в числе прочих, ChatGPT, Claude, Gemini и Grok для планирования атак, конструирования взрывных устройств, обслуживания и устранения неисправностей в оружии.

ИИ может помогать террористам-одиночкам

Рубен Дасс, младший научный сотрудник Школы международных исследований им. С. Раджаратнама в Сингапуре, в интервью DW обращает внимание: чат-боты на базе ИИ начинают играть новую роль в терактах так называемых “волков-одиночек”. “Раньше существовала целая концепция виртуальных организаторов: люди, находясь в зонах конфликтов, обращались к пользователям социальных сетей, пытаясь мотивировать их на совершение терактов”, — говорит он и констатирует, что сейчас эти одинокие террористы “перешли к использованию ИИ <…> для получения необходимой поддержки”.

Мустафа Аяд, исполнительный директор по Африке, Ближнему Востоку и Азии в британском Институте стратегического диалога, подтверждает: в прошлом году медиаплатформа “Исламского государства” опубликовала руководство по использованию искусственного интеллекта. Джихадистская экосистема использует ИИ самыми разными способами, рассказал он DW. Это включает в себя все: от создания мемов и танцевальных видео в TikTok до трансграничной пропаганды и попыток взломать системы, чтобы использовать их для поддержки оперативного планирования.

Насколько использование ИИ экстремистами опасно на самом деле

Рубен Дасс, как и другие эксперты, отмечает, что потенциальный террорист сегодня может довольно легко найти в интернете информацию о изготовлении бомб или оружия, напечатанного на 3D-принтере, и без какой-либо помощи со стороны ИИ.

Исследователь в области безопасности Глобальной сети по вопросам экстремизма и технологий Юрий Невес повторяет вопрос, который поднимают в ходе многих тематических дискуссий: “Предоставляет ли ИИ-система информацию, которую человек не смог бы получить иным способом?”  Его коллега Эмили Кляйн продолжает: интернет или приложения для обмена зашифрованными сообщениями, как и ИИ, тоже были революционными технологиями, и их тоже освоили экстремисты. “Поэтому нет прямых доказательств того, что ИИ непосредственно приводит к появлению большего числа террористов”, — объясняет она DW.

Директор Tech Against Terrorism Адам Хэдли признает, что “настойчивый человек в конечном итоге найдет практически любую информацию”. Но ИИ-модели “меняют скорость, простоту и полноту поиска. Люди, которым раньше не хватало времени, ресурсов или навыков, теперь могут достичь гораздо большего и гораздо быстрее”. Но гораздо больше его беспокоит умение чат-ботов вести диалог: “Одно дело — найти инструкцию по изготовлению бомбы, и совсем другое — иметь наставника в этом деле”.

Дасс же уверен, что, хотя ИИ-модели могут ускорить процесс поиска информации потенциальным террористом, более “успешными” сами теракты из-за них не станут. По его словам, “успех” любого теракта “многогранен”: “И я не думаю, что он (теракт. — Ред.) станет “успешным” исключительно благодаря использованию ИИ. Я также не считаю, что можно утверждать, будто из-за ИИ у нас будет гораздо больше (террористических. — Ред.) актов. Но, вероятно, мы станем свидетелями гораздо большего числа атак, в которых так или иначе будет задействован ИИ”.