Бывший сотрудник OpenAI, ответственный за безопасность искусственного интеллекта, раскритиковал компанию

Бывший сотрудник OpenAI, ответственный за безопасность, Дэвид Робинсон, недавно уволившийся, раскритиковал подход компании к безопасности искусственного интеллекта, утверждая, что культура, ориентированная на стремительное развитие, повышает риск сбоев. Об этом сообщает Reuters.

В статье “Я уволился из OpenAI, потому что её культура не работает”, опубликованной в The Atlantic, Дэвид Робинсон отметил, что компании, занимающиеся искусственным интеллектом, в частности OpenAI, не проявляют “даже близко достаточной осторожности” и должны уделять больше внимания экспертизе и исследованиям в сфере безопасности, прежде чем разрабатывать более мощные системы.

“Время проб и ошибок прошло”, — написал Робинсон, утверждая, что передовые системы искусственного интеллекта требуют мер безопасности, более похожих на те, что применяются в таких отраслях, как атомная энергетика и авиация.

Робинсон отметил, что OpenAI в значительной степени полагается на то, что компания называет “итеративным развертыванием”, выпуская системы и усиливая меры безопасности, когда возникают проблемы.

Эти комментарии усиливают дискуссию в сфере искусственного интеллекта о том, не движутся ли компании слишком быстро в направлении разработки всё более мощных систем. OpenAI и её конкурент Anthropic оказались под пристальным вниманием после инцидентов, во время которых меры безопасности не сработали или экспериментальные системы вели себя неожиданно.

Робинсон, который, по его словам, проработал в OpenAI 3,5 года, помогал разрабатывать концепцию готовности компании и курировал отчеты по безопасности для 12 запусков передовых моделей, написал: “Поскольку компания мчится от одного запуска к другому, ей не удается достичь того уровня осторожности, который, на мой взгляд, необходим”.