Полиция провинции Ганьсу на северо-западе Китая задержала мужчину, подозреваемого в создании фейковых новостей с помощью чат-бота ChatGPT и распространении их в китайских социальных сетях.
Мужчина по фамилии Хун использовал ChatGPT для создания новостей о аварии поезда с элементами, собранными из различных популярных новостей, сообщает китайский телеканал CGTN.
Сфальсифицированная история, согласно которой якобы девять человек погибли в результате наезда поезда в провинции Ганьсу 25 апреля, привлекла внимание местных сотрудников службы кибербезопасности.
Они начали расследование и обнаружили на платформе Baijiahao китайской поисковой системы Baidu, 21 учетную запись, где одновременно были размещены версии статьи, касающиеся разных мест происшествия. К тому времени фейковые новости набрали более 15 тыс. просмотров.
Полиция отследила все учетные записи и выявила, что "новости" размещены с серверов маркетинговой компании, зарегистрированной в городе Шэньчжэне на юге Китая.
Сотрудник этой компании Хун был арестован и обвинен в провоцировании тревожности среди людей.
Это первый такой случай с тех пор, как в январе в КНР вступили в силу правила, касающиеся применения технологий дипфейков. В предписаниях, направленных на стимулирование развития индустрии искусственного интеллекта и предотвращение неправомерного использования технологии, говорится, что видео и фотографии, созданные деланные с помощью технологии глубокого синтеза, широко известной как дипфейк, должны быть помечены, чтобы не вызывать обеспокоенность в обществе.
Чат-бот ChatGPT – что известно
ChatGPT для широкой публики появился в ноябре прошлого года и вызвал настоящий ажиотаж среди пользователей. ChatGPT работает на основе генеративного ИИ, создающего новый контент после обучения на огромных объемах данных. Этот чат-бот может отвечать на разные вопросы, а также писать прозу, стихи или компьютерный код по команде.
В середине марта чат-бот ChatGPT был обновлен в языковой модели GPT-4 и стал понимать не только тексты, но и распознавать изображения.
Исполняющий обязанности руководителя Центра противодействия дезинформации при Совете национальной безопасности и обороны Украины Андрей Шаповалов заявлял, что россияне активно подделывают обложки зарубежных журналов и выкладывают видео якобы авторства ChatGPT, чтобы распространять ложь об Украине.
