Генеральный директор NVIDIA Дженсен Хуанг говорит, что сегодняшний искусственный интеллект (ИИ) не дает лучших ответов, и что отрасль все еще находится "в нескольких годах от" ИИ, которому мы сможем "в значительной степени доверять", пишет Business Insider.
Что касается проблемы галлюцинаций, или тенденции ИИ выдавать ложные, но правдоподобные ответы, руководитель самой дорогой компании в мире считает, что люди не должны сомневаться в ответе ИИ, задаваясь вопросом, "галлюцинация это или нет", "разумно это или нет".
Большие языковые модели, такие как ChatGPT, за последние несколько лет значительно продвинулись в своей способности отвечать на сложные вопросы, но у них все еще есть ограничения.
Галлюцинации, или предоставление ложных, или фиктивных ответов, являются одной из постоянных проблем чат-ботов ИИ. Так, например, был случай, когда американский юрист использовал в суде фиктивные цитаты, сгенерированные ChatGPT. Позже выяснилось, что чат-бот OpenAI в своих ответах ссылался на несуществующие дела.
Глава NVIDIA предложил обязать языковые системы изучать и подтверждать ответы из достоверных источников перед выдачей результата. По его словам, этот процесс может быть похожим на "фактчекинг" в журналистике: сравнить факты из источников с известными истинами, и если ответ частично неточен – отбросить весь источник.
Ранее сообщалось, что Google инвестирует в ядерную энергетику из-за растущего аппетита ИИ, а Microsoft "воскресила" выведенный из эксплуатации ядерный реактор для питания ИИ-серверов. В истории США еще не было такого, чтобы закрытая АЭС возвращалась в строй и тем более поставляла всю энергию одному заказчику.
Меж тем OpenAI зимой должна представить новую модель ИИ. По ожиданиям разработчиков, эта модель должна выйти на уровень общего искусственного интеллекта (AGI). То есть общение с ней будет напоминать общение с живым человеком.
