Британский регулятор начал расследование против чат-бота Илона Маска Grok из-за того, что в нем не запрещено «раздевать» людей на фото

Британский медиарегулятор Ofcom начал расследование в отношении социальной сети Twitter (X) Илона Маска, чтобы определить, нарушает ли чат-бот Grok закон о защите пользователей в Великобритании от контента, который может быть незаконным, сообщает Reuters. Речь идёт о сексуальных дипфейках, созданных с помощью искусственного интеллекта.

Регулятор сообщил, что к нему поступали «крайне тревожные сообщения» об использовании Grok для создания и распространения изображений раздетых людей, что может являться злоупотреблением интимными изображениями или порнографией, а также сексуализированных изображений детей, которые могут квалифицироваться как материалы сексуального насилия над детьми. Премьер-министр Кир Стармер назвал изображения, созданные Grok, «отвратительными» и «незаконными», заявив, что X должна «взять под контроль» чат-бот, и выразил полную поддержку действиям Ofcom.

В Великобритании создание или распространение интимных изображений без согласия представленных на них людей или материалов сексуального насилия над детьми, включая созданные ИИ, является незаконным. Технологические платформы обязаны предотвращать просмотр такого контента британскими пользователями и удалять его после обнаружения. Отмечается, что с критикой в адрес функции выступили и в других странах: французские власти направили жалобу прокурорам и регуляторам, назвав контент «явно незаконным», а индийские власти также потребовали объяснений.

Twitter (X) ограничил доступ к функции только для платных пользователей и заявила на прошлой неделе, что удаляет весь незаконный контент на платформе и навсегда блокирует причастные аккаунты. Представители компании утверждают, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при загрузке такого контента на платформу. На недавний запрос Reuters по этой теме в xAI ответили, что «устаревшие СМИ лгут».

Ofcom проверит, не пренебрег ли Twitter (X) оценкой рисков того, что жители Великобритании могут увидеть незаконный контент, и учла ли компания риски для детей. В самых серьёзных случаях несоблюдения требований регулятор может обратиться в суд с требованием, чтобы платежные провайдеры или рекламодатели прекратили работу с платформой, или заставить интернет-провайдеров заблокировать доступ к сайту в Великобритании.

Накануне Маск пообещал опубликовать через неделю исходный код обновлённого алгоритма рекомендаций Twitter (X), включая весь код, определяющий показ постов и рекламы пользователям. Код будет обновляться каждые четыре недели с подробными примечаниями для разработчиков. Такое обещание миллиардер давал неоднократно, но выполнял его нерегулярно — в сентябре он также заявлял о намерении публиковать алгоритм примерно раз в две недели.