По словам Джейкоба Коксона, судьба мира решится уже к концу десятилетия.
Исследователь Anthropic Джейкоб Коксон ушел из компании и решил покинуть индустрию искусственного интеллекта из-за опасений, что разработчики спешат сделать самоулучшающийся сверхинтеллект, но при не задумываются над тем, как его контролировать в будущем. Об этом сообщает Politico.
27-летний математик ранее работал в другом ИИ-гиганте – OpenAI, но в 2026 году перешел в Anthropic на должность специалиста по обучению моделей на больших массивах данных. По словам Джейкоба, его привлекла репутация OpenAI в вопросах безопасности использования и развития нейросетей.
Однако уже через пару месяцев исследователь пришел к неутешительному выводу. Коксон убежден, что мир постепенно движется к "точке невозврата": лидеры ИИ-компаний верят в то, что нейросети могут погубить человечество к концу десятилетия. Поэтому он и уволился из Anthropic, чтобы не "играть с человеческими жизнями".
Опаснее всего момент, когда алгоритмам позволят дописывать и совершенствовать собственный код без участия человека. В таких условиях системы начнут развиваться с дикой скоростью – и их будет намного сложнее предсказать и контролировать. Уход Коксона стал первым подобным случаем внутри Anthropic, хотя из OpenAI и других ИИ-компаний сотрудники уходили с похожими предупреждениями и раньше.
О рисках ускоренного развития ИИ предупреждал и сооснователь Anthropic Джек Кларк. По его словам, новые ИИ-модели уже находятся на пороге рекурсивного самосовершенствования – то есть способности развиваться без контроля человека. Как будет выглядеть мир, где ИИ научится улучшать себя сам, в Anthropic не знают, поэтому исследователь призывает всех техгигантов заключить сделку и замедлить развитие ИИ.
Сэм Альтман, руководитель OpenAI, заявлял, что человечество стоит на пороге создания цифрового "сверхразума", и этот процесс неизбежен. Через пару лет ИИ будет совершать научные открытия, "которые люди не могли бы сделать сами".
Ранее в этом месяце OpenAI выпустила модель GPT-6 Astra, которая приблизила ИИ к человеческому уровню. "Все, что вы можете сделать на компьютере, Astra может сделать за вас быстрее", говорят разработчики.
Глава Nvidia Дженсен Хуанг заявил о начале эры AGI после запуска GPT-6 Astra. Новая ИИ-модель OnepAI выходит за пределы обычных чат-ботов и способна самостоятельно выполнять сложные комплексные задачи.