OpenAI выпустила ChatGPT с открытыми весами / Скриншот

OpenAI впервые с 2019 года выпустила полноценные модели с открытыми весами, то есть такие, с которыми разработчики могут не просто видеть результат, но и напрямую работать с внутренними числовыми параметрами модели. Их можно скачать, запускать локально, модифицировать и интегрировать в собственные системы.

Модели называются gpt-oss-20b и gpt-oss-120b, и содержат соответственно 20 и 120 миллиардов параметров. Они выложены в открытый доступ на GitHub, где можно найти и веса моделей, и код для их запуска.

Они работают даже на Apple Silicon, то есть для их использования не нужен сервер или интернет, всё можно вычислять локально, без внешнего контроля или задержек, связанных с облачной обработкой.

Видео дня

Это важно, ведь большинство современных моделей, включая сам ChatGPT, работают исключительно через API и жёстко контролируются их разработчиками.

OpenAI распространяет эти модели под лицензией Apache 2.0, одной из самых свободных в мире программного обеспечения. Это значит, что их можно использовать как в исследовательских, так и в коммерческих целях без каких-либо ограничений, включая перепаковку или интеграцию в собственные продукты.

При этом компания сопровождает релиз политикой добросовестного использования, мол, инструменты должны служить безопасному, ответственному и демократическому применению. 

С технической точки зрения модели выглядят конкурентоспособно: версия на 120 миллиардов параметров, это модель типа Mixture-of-Experts, которая задействует не все параметры одновременно, а только часть, за счёт чего выдаёт результаты быстрее и требует меньше ресурсов.

У обеих моделей контекстное окно 128 тысяч токенов, что позволяет работать с длинными текстами и более сложной логикой.

Ранее глава OpenAI предупредил, что ваши переписки с ChatGPT могут быть использованы в суде. Действующее законодательство не предоставляет ИИ-чатботами особого статуса конфиденциальности.

Вас также могут заинтересовать новости: