В сети обсуждают крупный скандал, связанный с использованием ИИ, в центре которого оказалась одна из ведущих американских газет Chicago Sun-Times. Издание опубликовало на своих страницах список книг на летнее чтение, которых не существует.
Из 15 книг в списке только пять являются настоящими, которые вы действительно можете прочитать. Например, "Вино из одуванчиков" Рэя Брэдбери и "Назови меня своим именем" Андре Асимана. Все остальные произведений оказались выдумкой нейросети, в том числе от реальных авторов.
Забавно, что одна из подделок – книга Энди Вейра "Последний алгоритм". В вымышленной аннотации говорится о программисте, обнаружившем, что ИИ обрел сознание и тайно влияет на мировые события – ироничный синопсис, учитывая, как именно возник этот скандал.
Как оказалось, фрилансер, работавший на партнера газеты, использовал генерацию с ИИ, не проверив информацию. Но как это попало в печать, в издание не смогли ответить.
Эксперты в области ИИ считают случай с Chicago Sun-Times показательным примером опасности современных генеративных нейросетей, которые могут создавать убедительный, но ложный контент, который затем распространяется как достоверный. Это представляет потенциальную угрозу, особенно в сферах, где достоверность информации критически важна.
Галлюцинации, или предоставление ложных, или фиктивных ответов, являются одной из постоянных проблем чат-ботов ИИ. Так, например, был случай, когда американский юрист использовал в суде фиктивные цитаты, сгенерированные ChatGPT. Позже выяснилось, что чат-бот OpenAI в своих ответах ссылался на несуществующие дела. Новое исследование показало, что просьбы к чат-ботам давать краткие ответы могут привести к увеличению галлюцинаций.
