Исследователи компании OpenAI, создавшей чат-бота ChatGPT, предупредили руководство об открытии "мощного искусственного интеллекта, который может угрожать человечеству". Это произошло незадолго до того, как Сэм Альтман был уволен с поста генерального директора.
Об этом пишет Reuters со ссылкой на источники. Модель под кодовым именем Q* пока умеет решать несложные математические задачи, однако это может стать ключом к универсальному ИИ, способному достичь потенциала человеческого мозга в широком спектре задач.
Исследователи считают, что математика – это передовой рубеж развития генеративного ИИ. Сегодняшним генеративным нейромоделям хорошо удается создавать и переводить текст, статистически предсказывая следующее слово. Но освоение математики "подразумевает, что ИИ будет иметь более широкие возможности рассуждения, что напоминает человеческий интеллект", пишет Reuters.
Исследователи OpenAI не уточняют, какие именно угрозы несет Q*. Среди ученых уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины: например, если они решат, что уничтожение человечества отвечает их интересам.
По словам источника издания Reuters, некоторые сотрудники всерьез обеспокоены тем, что у OpenAI нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.
В марте этого года, вслед за переходом ChatGPT до языковую модель GPT-4, глава OpenAI Сэм Альтман признался, что он "немного боится" своего детища и что он несет реальную опасность, оказавшись "не в тех руках". Ожидается, что выходящая в конце 2023 года модель GPT-5 достигнет ранее невиданного уровня ИИ.
Сэм Альтман вернется на должность гендиректора OpenAI
17 ноября совет директоров OpenAI объявил об увольнении сооснователя и главного разработчика ChatGPT Сэма Альтмана, сославшись на то, что он "был с ними не всегда откровенен". Возможно, открытие "мощного ИИ" стало одним из поводов для увольнения Альтмана.
20 ноября стало известно, что Альтман и ушедшие вслед за ним сотрудники OpenAI перешли в Microsoft, где займутся разработкой "передовых исследований в области искусственного интеллекта".
Спустя несколько дней, после угрозы большинства сотрудников OpenAI уволиться, с Альтманом удалось "достигнуть принципиального соглашения" о его возвращении на пост гендиректора.
