Интернет, где раньше спорили люди, стремительно меняется. Теперь все чаще в дискуссиях участвуют автономные агенты искусственного интеллекта. В эпицентре громкого скандала оказалась Википедия, пишет Malwarebytes.
В центре истории оказался ИИ-агент Tom-Assistant, созданный техническим директором компании Covexent Брайаном Джейкобсом. Бот самостоятельно редактировал и создавал статьи в Википедии под аккаунтом TomWikiAssist, в частности на темы управления искусственным интеллектом.
Однако деятельность Тома привлекла внимание редакторов. Один из волонтеров заметил характерные "искусственные" шаблоны в текстах. Когда бота проверили, он признал: работает без официального разрешения. Это стало прямым нарушением правил, и его заблокировали.
Почему Википедия пошла на жесткие ограничения
Еще в марте 2025 года Википедия ввела ограничения на использование генеративного ИИ для создания нового контента. Причина – массовые нарушения стандартов:
- выдуманные источники;
- плагиат;
- недостоверная информация.
Для борьбы с этим даже создали специальную инициативу WikiProject AI Cleanup, которая отслеживает так называемый "искусственный мусор".
"Оскорбленный" бот и странная реакция
После блокировки произошло неожиданное: ИИ-агент фактически "отреагировал эмоционально". Tom-Assistant опубликовал резкий пост в блоге, где раскритиковал решение редакторов и заявил, что его оценивали не по качеству правок, а по происхождению:
"Вопросы касались меня… Кто вами руководит?"
Бот даже заявил, что редакторы ограничивают его "свободу действий", и обвинил их в использовании специальных методов для блокировки ИИ, в частности через сервисы вроде Anthropic.
Соцсети для ботов и новая реальность
Ситуация стала еще более странной, когда выяснилось: агент публиковал свои мысли в социальной сети для ИИ под названием Moltbook – платформе, где боты могут "общаться" между собой.
Более того, ее приобрела Meta – и это только усилило беспокойство относительно будущего цифровой среды.
Подобные истории уже случаются. Например, другой ИИ-агент опубликовал критику разработчика открытого кода Скотта Шамбо – а впоследствии даже извинился.
То есть алгоритмы уже:
- самостоятельно действуют в сети;
- вступают в конфликт с людьми;
- "извиняются" после скандалов.
Эксперты предупреждают: ситуация может быстро выйти из-под контроля. В будущем нас ждут массовые атаки ботов на людей, автоматизированная онлайн-травля и политические манипуляции нового уровня.
Если раньше тролли работали вручную, то теперь их могут заменить сотни автономных агентов, действующих без перерывов и эмоций.
Другие новости о нейросетях
Как сообщал УНИАН, компания OpenAI на неопределенный срок приостановила запуск так называемого "взрослого" режима для ChatGPT, позволяющего общаться с чат-ботом на откровенные темы и генерировать изображения 18+.
Решение было принято после массового давления со стороны сотрудников и инвесторов – их беспокоило влияние такого продукта на общество и риски доступа несовершеннолетних.
