Нейросети стремительно захватывают мир, а ChatGPT стал синонимом искусственного интеллекта для применения в бытовых и рабочих задачах. Многие люди настолько полагаются на него, что забывают о его несовершенстве.
Как пишет издание BGR, ChatGPT действительно оказался удивительно удобным в применении, но он все еще имеет уязвимости, которые нельзя игнорировать. Итак, вот 4 особенности ChatGPT, которые стоит держать в голове, когда вы пользуетесь им:
- "Галлюцинации" в ответах. Чат-боты с искусственным интеллектом умеют вести непринужденный разговор и с уверенностью давать ответы на вопросы, но факт заключается в том, что их ответы могут быть неправильными. Такие ложные ответы нейросетей на профессиональном сленге называют "галлюцинациями", потому что иногда ИИ просто придумывает факты, если не имеет полной информации в своей базе данных. Именно поэтому стоит всегда проверять факты, предоставленные ChatGPT, и требовать у него прямых ссылок на первоисточники, если речь идет о чем-то действительно важном.
- ChatGPT не является человеком и не имеет собственной личности. Чат-бот запрограммирован так, чтобы имитировать живой человеческий разговор. Именно поэтому некоторые люди могут чувствовать эмоциональную привязанность к ChatGPT, как к другу или даже больше. Например, были сообщения о женщине, которая закрутила виртуальный роман с этой нейросетью. По крайней мере, она думала, что это роман. Но надо всегда помнить, что ChatGPT - не человек, он не имеет интересов, желаний, эмоций и собственной личности в целом. Он просто реагирует на команды в соответствии с прописанным алгоритмом.
- Ограничение памяти. Последние версии ChatGPT созданы так, чтобы запоминать текущий разговор и быть в контексте всего, что было в нем сказано. Но речь идет об ограниченном объеме данных, которые он может запомнить. В целом речь идет о нескольких страницах текста. Поэтому ChatGPT не может помнить то, что вы говорили ему несколько месяцев назад. Кроме того, ему запрещено хранить конфиденциальную личную информацию о пользователе (например, сексуальную ориентацию или подробную политическую позицию).
- Отсутствие полной конфиденциальности. Специалисты рекомендуют не сообщать чат-ботам никакой конфиденциальной информации. Кроме того, следует иметь в виду, что ChatGPT собирает неперсонализированную информацию из разговоров с пользователями (введенные запросы, загруженные файлы), чтобы разработчики могли совершенствовать свою платформу. Наконец, в Политике конфиденциальности ChatGPT прямо указано, полученная от вас информация может быть передана по соответствующему запросу правоохранительным органам.
Другие новости об искусственном интеллекте
Как писал УНИАН, компания OpenAI опубликовала отчет о влиянии своих ИИ-инструментов на производительность работников, по результатам опроса 9 тысяч сотрудников из ста компаний. Участники отметили, что благодаря ChatGPT экономят в среднем 40-60 минут в день, а около 75% считают, что ИИ ускоряет выполнение задач или улучшает их качество. Также в компании утверждают, что "ведущие" фирмы применяют ChatGPT в шесть раз активнее, чем другие.
В то же время эти выводы противоречат ряду академических исследований, в частности работе MIT, где говорится об отсутствии заметной отдачи от инвестиций в ИИ у 95% компаний, несмотря на вложения на десятки миллиардов долларов. Harvard Business Review охарактеризовало такие результаты как "workslop" - деятельность, создающая иллюзию производительности без реального влияния на прибыль.
