Подпишитесь на нас в Google
Искусственный интеллект приближается к порогу, который еще недавно считался научной фантастикой. Новые системы ИИ могли бы внести свой вклад, наряду с людьми, в открытие, достойное Нобелевской премии, в следующие 12 месяцев, по мнению соучредителя Anthropic Джека Кларка.
Параллельно с этим эксперты индустрии заговорили о возможности появления компаний, управляемых полностью искусственным интеллектом, а также о стремительном распространении гуманоидных роботов в повседневной деятельности, пишет EVZ.
В лекции, прочитанной в Оксфордском университете, Кларк предупредил, что все еще существуют правдоподобные сценарии, при которых технология может иметь экстремальные последствия, заявив, что существуют ситуации, в которых она имела бы "вероятность выше нуля убить все население планеты", и подчеркнув, что "важно четко заявить, что этот риск не исчез".
В том же контексте он описал нынешний темп развития ИИ как трудноконтролируемый и предположил, что общество не готово к его долгосрочным последствиям.
Глава Anthropic заявил, что развитие ИИ следовало бы замедлить
Он также утверждает, что было бы предпочтительнее замедлить технологическое развитие, чтобы дать больше времени для адаптации, говоря, что было бы лучше, если бы люди могли замедлить прогресс, "чтобы предоставить нам больше времени как виду" для понимания последствий.
Тем не менее он считает данный сценарий маловероятным, поскольку развитие технологии поддерживается параллельно многочисленными игроками и государствами, находящимися в непрерывной конкуренции, в которой коммерческие и геополитические соперничества склонны отодвигать на второй план риски, связанные с созданными технологиями.
Кларк ушел из компании OpenAI из-за разногласий
Кларк является одной из центральных фигур компании Anthropic, основанной исследователями, которые покинули OpenAI из-за разногласий, связанных с безопасностью ИИ.
Компания, известная своей моделью Claude, недавно разработала также версию под названием Mythos, о которой утверждается, что она продемонстрировала высокие способности в тестах по кибербезопасности.
В то же время компания подверглась критике со стороны сторонников ускорения развития ИИ, в том числе из политической сферы, которые обвинили ее в том, что она является "алармистской" с целью влияния на регулирование, – обвинения, которые Anthropic отвергла.
Кларк утверждает, что многие люди все еще находятся на этапе отрицания в отношении реальной скорости прогресса искусственного интеллекта. "Вскоре он будет более способен, чем все мы вместе взятые", – предупредил он. Он сравнил неготовность к ИИ с трудностями реагирования во время пандемии COVID-19.
"Если мы будем сидеть сложа руки и позволим искусственному интеллекту размножаться, то мы в конечном итоге будем вынуждены реагировать", – добавил он.
Критики крупных компаний в этой области, таких как Anthropic, OpenAI и Google, предупреждают, что зависимость от нескольких доминирующих моделей может создать "единую точку отказа" в глобальных инфраструктурах.
Что такое сократовский ИИ
В то же время профессор Эдвард Харкорт, директор Института этики в сфере ИИ и соорганизатор конференции, сигнализировал о возможных когнитивных эффектах, вызванных широкомасштабным использованием этих систем.
Он заговорил о риске возникновения "когнитивной атрофии", которая может снизить аналитические способности и способность суждения людей, и поддержал разработку моделей типа "сократовского ИИ", созданных для стимулирования мышления пользователей.
По мнению Кларка, даже самая осторожная оценка будущей эволюции может принести крупные изменения в экономику и общество, включая возможное разделение между человеческой деятельностью и деятельностью автоматизированных систем.
Ранее УНИАН сообщал, чего не может искусственный интеллект.
