Открытое обсуждение угроз со стороны ИИ ведет к более широкой осведомленности.
В последние дни все чаще звучат громкие заявления о том, что уже совсем скоро искусственный интеллект может стать угрозой для человечества. Первым, кто возглавил эту новую волну апокалиптических предупреждений, стал бывший исследователь Anthropic Джейкоб Коксон, который утверждает, что Anthropic и OpenAI "рискуют жизнями людей". Позже его поддержал Пол Кристиано из совета директоров и комитет по безопасности OpenAI.
Как пишет Business Insider, все это внезапное внимание может снизить вероятность реализации наихудшего сценария. Более того, крупные игроки в ИИ-индустрии согласились объединиться, чтобы бороться с этой угрозой.
Кристиано после заявления Коксона заверил, что "большинство людей может погибнуть", если будет создан "сверхразум без более надежной системы согласования". Позже генеральный директор Anthropic Дарио Амодей поддержал это заявление и предложил план безопасности из трёх шагов.
Затем глава OpenAI Сэм Альтман ответил, что его компания присоединится к инициативе Anthropic по предоставлению независимым экспертам широкого доступа. Позже глава Tesla и SpaceX Илон Маск в соцсетях написал, что Амодей прав относительно опасности ИИ.
В издании подчеркнули, что открытое обсуждение угроз со стороны ИИ ведёт к более широкой осведомлённости. Вероятно, это может помочь избежать события, способного привести к вымиранию человечества, о котором предупреждают в компаниях Anthropic и OpenAI.
Также в издании отметили, что рынки в целом остаются невозмутимыми. На прошлой неделе фондовый рынок продемонстрировал снижение, однако затем акции компаний в сфере ИИ выросли, завершив неделю в плюсе.
Ранее 27-летний исследователь Anthropic Джейкоб Коксон решил уйти из компании и индустрии искусственного интеллекта из-за опасений, что разработчики спешат сделать самоулучшающийся сверхинтеллект, но при этом не задумываются над тем, как его контролировать в будущем.
Коксон убежден, что мир постепенно движется к "точке невозврата": лидеры ИИ-компаний верят в то, что нейросети могут погубить человечество к концу десятилетия. Поэтому он и уволился из Anthropic, чтобы не "играть с человеческими жизнями".