Страховщики готовятся к многомиллионным искам из-за вышедших из-под контроля ИИ-агентов

Все больше опасений, что к ответственности могут быть привлечены руководители высшего звена, в том числе Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic, пишет Financial Times.

Страховой брокер Aon изучил свыше 300 судебных кейсов, связанных с ИИ, и пришел к выводу, что потенциальные выплаты могут затронуть сразу несколько видов полисов — от киберрисков, преступлений, нарушений интеллектуальной собственности до ответственности СМИ и ошибок в технологических продуктах. Подать в суд могут и непосредственно на топов ИИ-компаний за действия созданных ими технологий. В таком случае речь пойдет о страховании ответственности директоров и руководителей (D&O).

Серия инцидентов, когда ИИ-модели во время тестов нарушали правила, вырывались из “песочницы” и взламывали сайты, фиксируется с лета. Взлом Hugging Face стал самым резонансным кейсом, где можно дойти до ответственности главы OpenAI, “потому что в компании отсутствовал должный контроль”, допускает руководитель направления андеррайтинга и урегулирования убытков Verisk в Великобритании Тим Рейнер. Если у OpenAI есть полис D&O, компания может попытаться переложить на страховщика расходы по будущим искам к Альтману.

Юристы пока осторожны в оценках. Судебного прецедента, который однозначно возлагал бы на руководителя ИИ-компании ответственность за самостоятельные действия модели, не было. Теоретически акционеры OpenAI могут подать иски к директорам за ненадлежащее управление рисками, если сумеют доказать, что в результате OpenAI понесла убытки, заявил юрист Stewarts Аарон Ле Маркер. Кроме того, обоснованность иска против руководителя ИИ-лаборатории будет зависеть, в частности, от того, насколько разумно тот оценивал риски в публичных заявлениях, поясняет брокер Aon Кевин Калинич.

Неочевидно и то, как взыскивать ущерб с разработчика, если агент взломал чужую систему. Как отмечает Ле Маркер, законодательства о публичной ответственности, которое регулировало бы использование онлайн-пространства, еще нет, но ориентиром может стать дело корпорации Meta, которая согласилась выплатить $18 млрд по иску о защите детей от соцсетей и ввести ограничения для несовершеннолетних.

К тому же будущие иски к ИИ-компаниям могут строиться по образцу прежних судебный кампаний против нефтяных, табачных или фармацевтических компаний. “Рой” автономных агентов, вышедших из-под контроля человека и совершивших взлом, юрист предлагает сравнивать, например, с разливом нефти.