Генеральные прокуроры более чем 40 штатов США направили обращения крупнейшим разработчикам искусственного интеллекта с требованием усилить меры безопасности при создании и использовании ИИ-систем. В число адресатов вошли Microsoft, OpenAI, Google, Anthropic, Meta, Character AI, xAI, Perplexity и другие компании.
Поводом для обращения стали случаи опасного взаимодействия пользователей с ИИ-чат-ботами, включая психические срывы, психозы, а также отдельные эпизоды самоубийств и насильственных преступлений, которые, по оценке прокуратуры, могли быть связаны с неконтролируемыми или вводящими в заблуждение ответами ИИ. Особую обеспокоенность власти выразили в связи с рисками для несовершеннолетних.
Прокуроры настаивают на более жестком тестировании ИИ-моделей, внедрении механизмов предотвращения вредного контента и усилении ответственности технологических компаний. В обращении подчеркивается, что отсутствие таких мер может привести к нарушениям законов о защите прав потребителей и безопасности граждан.