Главные руководители OpenAI по безопасности покинули компанию на этой неделе после того, как разногласия относительно того, стоит ли отдавать приоритет "блестящим продуктам" или безопасности, достигла "переломной точки". Об этом сообщает Financial Times.
Отмечается, что Ян Лейке, который возглавлял подразделение OpenAI по управлению и контролю сверхмощных инструментов искусственного интеллекта, сказал, что ушел из компании после конфликта со своим руководством по количеству времени и ресурсов, которые стартап тратит на эти усилия.
"В последние годы культура безопасности и процессы отошли на второй план, чем блестящие продукты", - подчеркнул Лейке.
Издание пишет, что OpenAI был лидером в ожесточенной гонке за создание все более мощных моделей, конкурируя с такими конкурентами, как Google, Meta и Anthropic, чтобы расширить границы технологии ИИ.
"Компания привлекла миллиарды долларов - в том числе 13 миллиардов долларов от Microsoft - для создания моделей искусственного интеллекта, которые могут интерпретировать текст, язык и изображения и демонстрировать способность рассуждать. Скорость этих достижений вызвала беспокойство относительно всего, от распространения дезинформации до экзистенциального риска, если инструменты искусственного интеллекта станут мошенниками", - говорится в материале.
СМИ подчеркивает, что Лейке, один из самых уважаемых исследователей OpenAI, ушел вместе с Ильей Суцкевером, соучредителем компании и одним из руководителей "команды супервыравнивания", ориентированной на безопасность, который объявил о своей отставке в начале этой недели.
"Это фактически распускает команду OpenAI, которая больше всего сосредоточена на обеспечении безопасной разработки своей технологии. Остальные члены команды супергруппы сохранят свое внимание к безопасности и будут распределены между исследовательскими группами компании", - пишет издание.
Авторы отмечают, что этот шаг выявил растущее напряжение в центре компании между использованием первого преимущества ИИ и соблюдением своей основной миссии обеспечения сверхмощного ИИ "на благо всего человечества".
"Нам срочно нужно выяснить, как управлять и контролировать системы ИИ, которые гораздо более умные, чем мы. Я присоединился, потому что считал, что OpenAI будет лучшим местом в мире для проведения этого исследования. Однако я довольно долго не соглашался с руководством OpenAI относительно основных приоритетов компании, пока мы наконец не достигли переломной точки", - резюмировал Лейке.
Искусственный интеллект - последние новости
В апреле OpenAI выпустила улучшенную версию ChatGPT и она уже покоряет интернет. GPT-4 Turbo демонстрирует улучшенные возможности в написании, кодировании и логике по сравнению с предыдущей версией. Особенно заметен прогресс в решении математических задач олимпиадного уровня.
Также УНИАН сообщал, что авторы ChatGPT собрались выходить на рынок ИИ-порно. Это не первый случай, когда OpenAI сообщает о готовности разрешить пользователям создавать контент для взрослых с помощью своих сервисов.
Вас также могут заинтересовать новости:
