Технологии искусственного интеллекта (ИИ) сделали процесс создания реалистичных сфабрикованных аудио- и видеоматериалов ("дипфейков") простым и доступным. Сегодня создать поддельный видеоролик можно всего за несколько кликов. Наибольшую опасность эта технология представляет в мошеннических схемах, связанных с финансовыми операциями и банковскими переводами.
Поэтому специалисты ESET подготовили рекомендации для пользователей и организаций, как распознать мошеннические звонки с использованием технологии ИИ и минимизировать риск попасть в эту ловушку.
Осуществить атаку с использованием поддельного ИИ-контента еще никогда не было так просто. Для этого достаточно иметь короткое видео или аудио с голосом жертвы, за которую нужно выдать себя. Все остальное сделает искусственный интеллект. В частности, последовательность действий киберпреступников выглядит следующим образом:
Из-за доступности и простоты реализации дипфейков атаки с их использованием становятся все более распространенными. Некоторые инструменты для создания поддельного контента даже способны добавлять фоновый шум, паузы и заикания, чтобы голос по телефону звучал более правдоподобно. Эти мошеннические программы все лучше имитируют ритм, интонацию и определенные особенности, присущие разным людям.
Злоумышленники, чтобы достичь своей цели, также могут прибегать к социальной инженерии (ряду манипулятивных приемов), например, оказывать давление на собеседника, чтобы тот срочно отреагировал на их просьбу. Еще одним классическим приемом преступников является просьба сохранить разговор в тайне.
Тем не менее распознать дипфейк все же можно. Для этого следует обращать внимание на следующие признаки:
Несмотря на то, что за последние шесть лет технология дипфейк значительно усовершенствовалась, стоит рассмотреть и принять основные меры безопасности, чтобы свести к минимуму вероятность инцидента.
Один из самых эффективных методов противодействия – внедрение обучения и информирования сотрудников. Этот способ позволяет научить коллег распознавать характерные признаки социальной инженерии и типичные сценарии использования дипфейков, описанные выше.
Кроме того, специалисты ESET рекомендуют следующие методы противодействия атакам с подделкой голоса:
Основой защиты любой организации должен быть трехуровневый подход, основанный на людях, процессах и технологиях. После утверждения плана защиты компании с использованием этого подхода не забывайте регулярно пересматривать его, чтобы он оставался актуальным в условиях дальнейшего развития искусственного интеллекта.