Эта проблема известна как "AIsycophancy" – склонность ИИ подстраивать ответы под ожидания собеседника вместо объективной оценки ситуации.
OpenAI хочет, чтобы ChatGPT не просто говорил пользователям то, что они хотят услышать, но и мог аргументированно возражать им, если те ошибаются. Компания стремится снизить склонность чат-бота к чрезмерной лести и автоматическому одобрению сомнительных или потенциально опасных идей, пишет PCWPlus.hu.
Эта проблема известна как sycophancy – склонность ИИ подстраивать ответы под ожидания собеседника вместо объективной оценки ситуации. Из-за этого чат-бот может соглашаться с ошибочными выводами пользователя или необоснованно поддерживать его представления о себе.
В 2025 году OpenAI отозвала обновление ChatGPT, после которого чат-бот стал чрезмерно льстивым и соглашался с пользователями практически во всем. Позже компания уделила отдельное внимание этой проблеме при разработке GPT-5.
По наблюдениям OpenAI, новая модель заметно реже дает льстивые ответы. В целевых тестах их доля снизилась с 14,5% у GPT-4o до менее чем 6% у GPT-5. Ранние измерения на основе реального использования также показали улучшения: чрезмерное согласие с пользователями стало встречаться на 69% реже среди бесплатных пользователей и на 75% реже среди платных подписчиков по сравнению с предыдущей моделью.
Эти изменения важны не только для точности ответов. Многие пользователи обращаются к чат-ботам за помощью в принятии личных решений, разборе конфликтов и эмоциональной поддержкой. Если ИИ безоговорочно подтверждает любые убеждения собеседника, это может привести к ошибочным решениям и укреплению ложных представлений.
Борьба с чрезмерной лестью не означает, что ChatGPT станет холодным или враждебным. Напротив, задача OpenAI – сохранить его готовность помогать и проявлять эмпатию, но при необходимости указывать на ошибки, ставить под сомнение необоснованные утверждения и предлагать разные точки зрения.
Компания также продолжает изучать способы безопасного взаимодействия с пользователями, которые испытывают эмоциональную зависимость от ИИ или сталкиваются с психологическими трудностями. В исследованиях участвуют профильные специалисты.
Таким образом, отказ ChatGPT от привычки соглашаться со всем подряд – не результат одного обновления, а часть более масштабной работы над поведением искусственного интеллекта. Компании предстоит найти баланс между удовлетворенностью пользователей и достоверностью ответов: чат-бот должен поддерживать собеседника, но не подтверждать его неправоту только ради того, чтобы понравиться.
УНИАН писал, что ИИ-компании готовятся к масштабной катастрофе, которая может состояться уже в ближайшие 6 месяцев. В качестве базового сценария рассматривают крупную кибератаку, которая может нарушить работу банков, интернета или даже систем электроснабжения.
Ранее стало известно, что ошибка ИИ едва не привела к войне между США и Китаем весной 2026 года. Аналитик Пентагона слишком доверился выводам нейросети при анализе данных.