На фоне ошеломительной популярности умного чат-бота ChatGPT и появления множества конкурирующих продуктов, ведущая группа экспертов в сфере искусственного интеллекта (ИИ) и представителей ИТ-отрасли призвала как минимум на полгода приостановить обучение нейросетей, превосходящих GPT-4.
Открытое письмо о рисках таких технологий для общества и цивилизации подписали Илон Маск, сооснователь Apple Стив Возняк и еще более 1100 человек.
В заявлении упоминаются, что подобные ИИ-системы должны разрабатываться только после того, как появится уверенность в том, что они будут иметь положительные последствия, а связанные с ними риски будут управляемы. В частности, необходимо создать специальные протоколы и стандарты безопасности, за применением которых будут следить независимые аудиторы.
Пока предлагается временная мера: с остановкой работ до того момента, пока не будут разработаны стандарты безопасности.
Отмечается, что с момента своего запуска в конце 2022 года ChatGPT побудил конкурентов ускорить разработку аналогичных мощных языковых моделей, а компании интегрировать генеративные модели ИИ в свои продукты. Microsoft, к примеру, с последним обновлением Windows 11 интегрировала обновленный поисковик Bing со встроенным ChatGPT прямо в панель задач.
Что умеет новая языковая модель от OpenAI GPT-4
Ранее в этом месяце "умный" чат-бот ChatGPT обновили до языковой модели GPT-4. Теперь нейросеть способна понимать не только текст, но и распознавать изображения – и может объяснить даже значение мемов.
Разработчики утверждают, что GPT-4 более "креативная" и может решать сложные задачи с большей точностью благодаря расширенным общим знаниям. Кроме того, обновленный ChatGPT научился на отлично сдавать сложные экзамены по математике и юриспруденции
Исследовательская команда Microsoft оценила мощность GPT-4 близкой к человеческому уровню. Обновленную языковую модель назвали первым шагом к "общему искусственному интеллекту" (ОИИ), то есть способному на выполнение широкого круга задач.
