Причиной стали дипфейки от Grok, публично "раздевающие" женщин без их согласия.
Власти Индонезии приняли решение временно ограничить работу ИИ чат-бота Grok, разработанного компанией Илона Маска xAI. Об этом сообщает The Guardian.
Это первая страна, принявшая такие меры из-за опасений, что искусственный интеллект может создавать порнографический контент. Поводом для запрета стало использование функции редактирования изображений – при помощи реплаев с упоминанием @grok.
Почти сразу после запуска функции пользователи начали массово просить Grok "раздеть" фотографии женщин без их согласия. Чат-бот, в том числе подчиняется, когда его просят сгенерировать сексуализированные ИИ-картинки с участием несовершеннолетних. Такие дипфейки власти Индонезии назвали грубым нарушением прав человека и цифровой безопасности граждан.
Днем ранее xAI "ограничила" доступ к редактированию изображений для большинства пользователей, оставив эту функцию только платным подписчикам.
Сейчас против Илона Маска и его чатбота Grok также планируют "принять меры" в Великобритании. Власти поручили Ofcom использовать все свои полномочия, включая полную блокировкку, чтобы повлиять на ситуацию.
Ранее эксперты определили самый точный ИИ с минимумом "галлюцинаций": чат-бот Grok, разработанный Илоном Маском, неожиданно показал наименьший уровень галлюцинаций, тогда как ChatGPT и Gemini оказались внизу рейтинга.
УНИАН писал, что ChatGPT занимает более 80% мирового рынка чат-ботов и 92% в Украине. Ближайшие соперники – Perplexity и Microsoft Copilot. На них приходится доля в 15% от всех пользователей.