Генеральный директор стоящей за ChatGPT компании OpenAI Сэм Альтман заявил на заседании Сената США, что использование искусственного интеллекта для вмешательства в честность выборов является "серьезной проблемой". Он добавил, что это требует регулирования.
Как пишет Reuters, в течение нескольких месяцев разные компании стремились вывести на рынок все более универсальный искусственный интеллект, бросая на выполнение эту задачу бесконечные данные и миллиарды долларов. Некоторые критики опасаются, что технология усугубит общественный вред, в том числе предубеждения и дезинформацию, в то время как другие предупреждают, что ИИ может уничтожить само человечество.
"Невозможно посадить этого джинна в бутылку. Во всем мире это имеет взрывной эффект", - сказал сенатор Кори Букер, задавшийся вопросом о том, как лучше всего регулировать ИИ.
Сенатор Мэйзи Хироно отметила опасность дезинформации по мере приближения выборов 2024 года. "Например, в контексте выборов я видела фотографию бывшего президента Трампа, арестованного полицией Нью-Йорка, и она стала вирусной", - сказала она, настаивая на том, чтобы Альтман счел поддельное изображение вредным.
Альтман ответил, что создатели должны четко указывать, когда изображение является созданным, а не фактическим.
Выступая перед Конгрессом, Альтман предположил, что в целом США следует рассмотреть требования к лицензированию и тестированию деятельности по разработке моделей ИИ.
Отвечая на вопрос о том, какой ИИ должен подлежать лицензированию, Альтман сказал, что модель, которая может убеждать или манипулировать убеждениями человека, будет примером "большого порога".
Директор OpenAI также отметил, что компании должны иметь право заявить, что они не хотят, чтобы их данные использовались для обучения ИИ, что является одной из идей, обсуждаемых в Конгрессе. При этом он добавил, что материалы в общедоступной сети будут честной игрой.
Альтман также сказал, что он "никогда не откажется" от идеи рекламы, но предпочитает модель, основанную на подписке.
Как отмечает Reuters, Белый дом созвал руководителей ведущих технологических компаний, в том числе Альтмана, для решения проблемы искусственного интеллекта. Американские законодатели также стремятся принять меры для дальнейшего использования преимуществ технологии и национальной безопасности, ограничивая при этом ее неправомерное использование. Однако консенсус далеко не определен.
Издание также добавляет, что сотрудник OpenAI недавно предложил создать в США агентство по лицензированию ИИ, которое можно было бы назвать Управлением безопасности ИИ и безопасности инфраструктуры (OASIS).
Сэм Альтман также призывает к глобальному сотрудничеству в области ИИ и стимулированию соблюдения требований безопасности.
Кристина Монтгомери, директор по конфиденциальности и доверию International Business Machines, призвала Конгресс сосредоточить регулирование на сферах, которые могут нанести наибольший общественный вред.
Регулирование технологий искусственного интеллекта
Как сообщал УНИАН, в США изучают возможности регулирования технологий искусственного интеллекта, таких как ChatGPT, из-за опасений по поводу их влияния на образование и национальную безопасность. В частности, Нацагентство по телекоммуникациям и информации США хочет выработать меры по обеспечению законности и безопасности систем ИИ.
Тем временем, Европейский парламент готовит новые жесткие требования по использованию искусственного интеллекта. Среди прочего, депутаты хотят заставить создателей чат-ботов раскрывать информацию о том, используют ли они материалы, защищенные авторским правом. Депутаты Европарламента также хотят, чтобы ответственность за неправомерное использование программ ИИ возлагалась на таких разработчиков, как OpenAI, а не на малые предприятия, использующие его.
Одним из спорных предложений депутатов Европарламента является запрет на использование системы распознавания лиц в общественных местах при любых обстоятельствах.
Ранее в Италии ограничили доступ к чат-боту с ChatGPT. Свое решение там объяснили беспокойством по поводу обработки персональных данных. Рим обратил внимание на отсутствие правовой базы, которая оправдывала бы массовый сбор и хранение персональных данных пользователей.
