Вступление

Регуляторы ЕС усиливают давление на крупные технологические платформы из-за рисков, связанных с генеративным ИИ. Новое расследование против X касается чат-бота Grok, который, по данным депутатов и правозащитников, позволял создавать сексуальные дипфейки с участием реальных людей. В Еврокомиссии подчеркивают: если нарушения подтвердятся, санкции будут жесткими.

Подробности

Расследование инициировано European Commission и касается соблюдения требований Digital Services Act. Закон обязывает онлайн-платформы активно снижать риски распространения незаконного и вредного контента, особенно когда речь идет о манипулированных изображениях и нарушении прав личности. Поводом стали жалобы на использование Grok для генерации сексуализированных изображений реальных людей без их согласия. Ранее похожую проверку начала британская Ofcom, и, по словам регулятора, она продолжается. В X заявляли, что ограничили функцию «раздевания» изображений в тех юрисдикциях, где такой контент незаконен. Однако, по мнению евродепутатов, этого могло быть недостаточно. Представитель Ирландии в Европарламенте Регина Доэрти отметила, что Комиссия проверит, демонстрировались ли пользователям в ЕС «манипулированные сексуально откровенные изображения». Если нарушения подтвердятся, X грозит штраф до 6% от глобального годового оборота. Кроме того, регулятор оставляет за собой право ввести временные меры, если компания откажется оперативно изменить работу сервиса.

Контекст

История с Grok вписывается в более широкий конфликт между X и европейскими регуляторами. В декабре 2023 года Еврокомиссия уже начала проверку рекомендательных алгоритмов платформы, а месяц назад оштрафовала X на 120 млн евро за систему синих галочек, которую сочла вводящей пользователей в заблуждение. Параллельно проверки чат-бота X идут в Австралии, Франции и Германии. В Индонезии и Малайзии сервис временно блокировали, хотя позднее один из запретов был снят. При этом сама компания активно продвигает масштабы Grok: по заявлению аккаунта сервиса, за 30 дней было сгенерировано более 5,5 млрд изображений. Глава X Elon Musk публично критиковал власти, называя претензии к инструменту «поводом для цензуры», а на фоне объявления расследования опубликовал ироничный пост. Его позицию поддержали некоторые американские политики: после штрафа ЕС представители США обвинили Брюссель в давлении на американские технологические компании.

Ограничения и риски

Ключевой вопрос расследования — оценка того, насколько X действительно контролирует риски, возникающие при масштабном использовании генеративного ИИ. Регуляторы указывают, что дипфейки сексуального характера представляют прямую угрозу правам человека. В Еврокомиссии такую практику назвали «насильственной и недопустимой формой унижения», особенно опасной для женщин и детей. Исход дела может стать прецедентом для всего рынка: если ЕС докажет нарушение DSA, требования к контролю ИИ-инструментов на платформах резко ужесточатся.