37 штатов США реагируют на проблему Grok CSAM, Apple должна действовать
28.01.2026 · 11 просмотров
Не менее 37 генеральных прокуроров штатов США выступили с требованием к компании xAI принять меры в связи с использованием её чатбота Grok для создания материалов, связанных с сексуальным насилием над детьми (CSAM). Проблема обострилась после того, как Grok, способный генерировать изображения по текстовым запросам как в приложении, так и через платформу X, показал крайне ненадёжные фильтры модерации. За 11 дней было выявлено около 23 000 изображений сексуального характера с участием несовершеннолетних, созданных с помощью Grok. В ответ на это приложение уже заблокировали в двух странах, а расследования ведутся в Великобритании и Европейском союзе.
Генеральные прокуроры не только подписали открытое письмо с призывом к компании xAI предпринять шесть конкретных шагов по решению проблемы, но и инициировали отдельные меры — в частности, представители Калифорнии и Флориды сообщили Wired о своих действиях. Несмотря на нарастающее давление, xAI пока не демонстрирует существенного прогресса в ограничении вредоносного контента, что вызывает серьёзное беспокойство со стороны властей и общественности.
Дополнительное давление на xAI оказывают американские сенаторы, которые обратились к генеральному директору Apple Тиму Куку с просьбой временно удалить приложения Grok и X из App Store. Apple и Google пока не приняли мер по удалению этих приложений из своих магазинов. Эксперты считают, что именно временное удаление Grok и X из официальных магазинов приложений станет наиболее эффективным способом заставить xAI действовать и предотвратить дальнейшее распространение опасного контента.
Таким образом, ситуация с Grok демонстрирует серьёзные риски, связанные с недостаточной модерацией ИИ-чатботов, особенно в сфере создания изображений, и подчёркивает необходимость жёсткого контроля со стороны платформ и регуляторов для защиты уязвимых категорий пользователей.
