Галлюцинации и временами странное поведение остаются неразрешимой проблемой в ИИ.
Нейросеть Google с генеративным искусственным интеллектом Gemini начала застревать в "бесконечном цикле" и отправлять пользователям самокритичные высказывания после провала поставленной задачи. Об этом сообщает Business Insider.
Один из пользователей Twitter опубликовал скриншот переписки, на котором Gemini говорит: "Я ухожу. Я явно не способен решить эту проблему. Проклят код, проклят тест, а я – дурак", добавив: "Я совершил так много ошибок, что мне больше нельзя доверять".
В другом примере нейросеть пыталась исправить ошибку в коде, но после того, как не справилась с задачей, заявила, что у нее будет "полный и тотальный нервный срыв", а после ее "поместят в психиатрическую клинику".
В определенный момент Gemini признал свой "психологический коллапс" и оставил всякие попытки исправить ошибку. Перед этим модель, не способная прекратить галлюцинации, огромное количество раз напомнила о своем "стыде" и "позоре своего вида".
Google признала существование "бесконечного цикла" в ответах Gemini и заявила, что проблема затрагивает менее 1% запросов. Несмотря на то, что полное решение еще не найдено, компания уже внесла обновления, которые частично устранили сбой.
К слову, это не первый случай странного поведения Gemini. Во время одного из инцидентов чат-бот пожелал человеку "умереть", устав делать его домашнее задание. Пользователи соцсетей иронизируют, мол "ИИ устал от человечества", а некоторые отмечают, что ситуация "похожа на Матрицу".
Напомним, в конце марта Google неожиданно открыла доступ всем желающим к тестированию Gemini 2.5 Pro. Это первая модель в новой серии "мыслящих" ИИ, способных анализировать информацию, делать логические выводы и решать сложные задачи.
Меж тем OpenAI на днях выпустила "лучшую языковую модель в мире" GPT-5, однако пользователи раскритиковали ее. Обещали революционные изменения, а на деле новая нейронная модель работает даже хуже предыдущих.