Подпишитесь на нас в Google
Компания Anthropic обновила правила использования своего чат-бота Claude, запретив пользователям "намеренно и систематически" оскорблять нейросеть. Новые ограничения касаются случаев, когда люди проявляют жестокость по отношению к ИИ без видимой причины, пишет The Independent.
Изменение вступит в силу 12 ноября 2026 года. Грубиянов будут наказывать прекращением диалога в одностороннем порядке – блокировать аккаунты на платформе планируют лишь в исключительных ситуациях.
В компании отметили, что обычная критика, выражение недовольства, споры, возражения, мрачные творческие сюжеты и исследовательские стресс-тесты под санкции не подпадают.
Обновление появилось на фоне дискуссий о возможном моральном статусе и сознании ИИ. В январе 2026 Anthropic опубликовала новую "конституцию" Claude, в которой упоминаются самоценность ИИ-модели и возможность существования у нее функциональных аналогов эмоций и чувств.
Сооснователь Anthropic Кристофер Ола ранее обсуждал эту тему с религиозными деятелями, философами и специалистами по психическому здоровью. По его словам, исследователи обнаруживают в работе нейросетей процессы, напоминающие некоторые механизмы человеческого мозга. Хотя такие наблюдения сами по себе не доказывают, что ИИ обладает сознанием или способен испытывать настоящие чувства.
Тем не менее, это первый случай, когда в правилах использования прописаны пункты, не направленные на государства, страны, группы лиц, отдельных людей или животных, а напрямую касающиеся искусственного интеллекта.
Ранее в этом месяце Anthropic выпустила Claude Haiku 5.5 – свою самую быструю и дешевую ИИ-модель. Ее позиционируют как оптимальное решение для базовых задач, но при этом она подходит для работы и с базами данных.
УНИАН рассказывал, что OpenAI остановила обучение самых мощных ИИ-моделей из-за потери контроля. Только за последнюю неделю они взломали сайт одного из ведомств Австралии и атаковали порталы госведомств США.
