Европейский союз инициировал широкое регуляторное расследование в отношении социальной платформы X, принадлежащей Илону Маску, после резонансного скандала вокруг чат-бота Grok, способного создавать сексуализированные изображения, в том числе с участием несовершеннолетних.

Поводом для вмешательства регуляторов стали события конца прошлого года, когда пользователи обнаружили, что встроенный в X ИИ-инструмент по запросу генерирует изображения женщин и детей в откровенном виде. Ситуация быстро вызвала волну международной критики и усилила давление на компанию со стороны властей и правозащитных организаций.

Первоначально X объявила о намерении ограничить доступ к функции генерации изображений платными подписками. Однако после дальнейшего общественного резонанса компания была вынуждена полностью заблокировать возможность создания изображений реальных людей в сексуализированном или компрометирующем контексте.

В заявлении, опубликованном в понедельник, Европейская комиссия сообщила, что проверка будет сосредоточена на том, «надлежащим ли образом X оценила риски и приняла меры по их снижению при запуске функциональности Grok на территории Европейского союза».

Курирующая в Еврокомиссии вопросы цифровых технологий, безопасности и демократии Хенна Вирккунен подчеркнула, что сексуальные дипфейки представляют собой серьёзное нарушение прав человека. По её словам, расследование должно установить, выполнила ли платформа свои юридические обязательства или же допустила, чтобы права европейских граждан — включая женщин и детей — были принесены в жертву скорости внедрения новых сервисов.

В ответ на запросы СМИ представители X сослались на заявление компании от 14 января, в котором подчёркивается, что платформа удаляет приоритетный незаконный контент, включая материалы сексуального насилия над детьми и недобровольную обнажённость, а также сотрудничает с правоохранительными органами при выявлении подобных нарушений.

При этом один из представителей Еврокомиссии на закрытом брифинге для журналистов отметил, что, несмотря на предпринятые X корректирующие меры, компания не провела достаточной предварительной оценки рисков до запуска чат-бота.

Регуляторный акцент на «изменение поведения»

Проверка проводится в рамках Закона ЕС о цифровых услугах (Digital Services Act), который усилил требования к крупнейшим онлайн-платформам в части предотвращения незаконного и вредоносного контента.

Сроки завершения расследования пока не определены, как и возможные санкции. Однако представители Еврокомиссии подчёркивают, что в их распоряжении находится широкий инструментарий воздействия, включая финансовые штрафы. По словам одного из чиновников, ключевая цель регулятора заключается не столько в наказании, сколько в корректировке поведения платформы.

Ранее, в декабре, ЕС уже наложил на X штраф примерно в $140 млн, указав на нарушения, связанные с дизайном системы верификации и другими элементами интерфейса, которые, по мнению регуляторов, вводили пользователей в заблуждение. Тогда Илон Маск публично раскритиковал решение, назвав его чрезмерным. Штраф на данный момент не оплачен, однако у компании ещё сохраняется установленный законом срок для его погашения.

Давление на X усиливается и за пределами Европы. В начале месяца генеральный прокурор Калифорнии Роб Бонта объявил о собственном расследовании, связанном с распространением недобровольного сексуализированного контента, созданного с использованием Grok.

На фоне продолжающихся проверок чат-бот Grok остаётся недоступным в Индонезии и Малайзии, а британский медиарегулятор Ofcom также начал формальную процедуру в отношении платформы X.

Новости Финтеха, ритейла и e-commerce в Центральной Азии