Ведущие разработчики искусственного интеллекта (ИИ), включая изобретателя Илона Маска и сооснователя Apple Стива Возняка, предложили приостановить его развитие до составления надежных протоколов безопасности.
Об этом говорится в открытом письме, которое обнародовал некоммерческий исследовательский Институт будущего жизни. Его подписали более тысячи ведущих в этой сфере предпринимателей и специалистов.
"ИИ-системы стоит создавать лишь после уверенности в том, что результаты их применения будут положительными, а риск - управляемым", - написали автры послания.
Авторы считают, что потенциальные риски состоят в том, что ИИ может конкурировать с людьми, что приведет к экономическим и политическим взрывам.
В письме эксперты назвали четыре вопроса, которые должно задать себе человечество:
- "Должны ли люди разрешать машинам заполнить информационные каналы пропагандой и дезинформацией?"
- "Должны ли люди перепоручить автоматам работу, в том числе ту, что приносит людям удовольствие?"
- "Должны ли люди развивать разум нечеловеческого происхождения, который может превзойти людей по численности и интеллекту, сделать людей неполноценными и заместить их?"
- "Должны ли люди рисковать потерей контроля над цивилизацией?"
По оценкам экспертов и представителей ИИ-индустрии, на разработку и введение протоколов безопасности должно уйти полгода.
Что такое ChatGPT
Чат-бот ChatGPT может пользоваться разными языковыми стилями и отвечает так, что у пользователя может создаться впечатление, что он разговаривает с человеком.
А 19 марта глава OpenAI, компании-разработчика ChatGPT, Сэм Альтман заявил, что опасается по поводу возможного влияния ИИ на человечество. Он признался, что GPT-4 будет составлять реальную опасность, оказавшись "не в тех руках".
