Индонезия и Малайзия временно ограничили доступ к Grok — чат-боту, разработанному компанией xAI, — на фоне обеспокоенности распространением сексуализированного контента, созданного системой. Об этом сообщает корреспондент Qazinform.com на TechCrunch.

Власти обеих стран заявили, что поводом для блокировки стали изображения, в которых нередко фигурировали реальные женщины и несовершеннолетние, а также материалы с элементами насилия.

Министр связи и цифровых технологий Индонезии Меутья Хафид подчеркнула, что правительство расценивает создание сексуализированных дипфейков без согласия как серьезное нарушение прав человека, а также угрозу достоинству и безопасности граждан в цифровой среде. По ее словам, министерство вызвало представителей платформы X для обсуждения ситуации и возможных корректирующих мер.

Вскоре после этого Малайзия объявила о введении аналогичных ограничений, назвав их первыми официальными действиями правительства по полной блокировке доступа к чат-боту.

В течение последней недели ряд государств также предприняли шаги в отношении Grok. Министерство информационных технологий Индии обязало платформу X предотвратить генерацию чат-ботом непристойного контента. Европейская комиссия, в свою очередь, потребовала от компании сохранить всю документацию, связанную с Grok, что многие расценивают как возможную подготовку к официальному расследованию.

В Великобритании телекоммуникационный регулятор Ofcom заявил о намерении провести срочную проверку, чтобы определить, нарушает ли сервис действующие нормы. При этом власти США пока не объявляли о каких-либо официальных мерах.

Компания xAI первоначально отреагировала, опубликовав извинения в официальном аккаунте Grok, признав, что один из постов нарушил этические стандарты и, возможно, законодательство США, касающееся материалов о сексуальном насилии над детьми. Позднее компания ограничила генерацию изображений с помощью ИИ только для платных подписчиков X. Однако, как отмечается, это ограничение не распространилось на автономное приложение Grok, где функция генерации изображений по-прежнему доступна всем пользователям.

Ранее агентство Qazinform сообщало, что Министерство обороны США сотрудничало с xAI для интеграции передовых ИИ-решений компании в недавно запущенную пользовательскую платформу искусственного интеллекта GenAI.mil.