Дэвид Робинсон, занимавшийся вопросами безопасности в OpenAI, покинул компанию и заявил, что действующие подходы к разработке все более мощных ИИ-систем становятся недостаточно безопасными. По его мнению, отрасль уже достигла этапа, когда принцип быстрого запуска технологий с последующим исправлением проблем несет слишком высокие риски.

Свои аргументы Робинсон изложил в колонке для The Atlantic. Он считает, что разработчикам передовых ИИ необходимо переходить к многоуровневым мерам защиты, сопоставимым со стандартами, применяемыми в атомной энергетике и авиации.

«Время проб и ошибок прошло», — написал он.

Робинсон проработал в OpenAI около трех с половиной лет и участвовал в подготовке материалов по безопасности новых моделей, а также в разработке внутренней системы оценки рисков Preparedness Framework.

По его мнению, по мере роста возможностей ИИ увеличивается и цена возможных ошибок. Поэтому компании должны заранее закладывать дополнительные уровни защиты, резервные механизмы и системы контроля.

В OpenAI с оценками бывшего сотрудника полностью не согласились. В компании заявили, что продолжают усиливать меры безопасности, расширяют внешнее тестирование и мониторинг моделей и могут приостанавливать обучение или выпуск систем, если считают, что их возможности растут быстрее, чем компания способна безопасно ими управлять.