Вымогатели начали использовать ИИ для подделки голосовых в Telegram
Мошенники генерируют с помощью ИИ голосовые обращения на основе аудиосообщений владельцев аккаунта — это позволяет убедительнее просить деньги у его знакомых. Эксперты называют такую схему новой для России, но сложной в исполнении
Пользователи Telegram столкнулись с новым видом мошенничества, выяснил РБК. Сначала преступники получают доступ к аккаунту, затем начинают писать потенциальным жертвам из числа списка контактов его владельца с просьбой перевести деньги. Историю о необходимости помощи преступники подкрепляют голосовым сообщением якобы от лица владельца аккаунта. Для аудиосообщения используются нарезки из его реальных старых голосовых сообщений.
Аудиосообщение дублируется в личную переписку и во все чаты, где состоит хозяин украденного аккаунта. Затем направляется фото банковской карты с именем и фамилией. Причем у пострадавшего собеседника РБК имя и фамилия отличались в соцсетях от информации в паспорте, и мошенники использовали данные именно паспорта. Сумма, которую хотели заполучить преступники, составляла 200 тыс. руб.
С аналогичной ситуацией столкнулся один из пользователей "ВКонтакте". В этом случае потеря составила 3 тыс. руб.
Представитель "ВКонтакте" заверил, что массовых мошеннических действий с такой механикой на их площадке нет. "Системы безопасности соцсети успешно противодействуют подобного рода действиям. Для борьбы с мошенниками "ВКонтакте" использует автоматические инструменты на базе искусственного интеллекта, а также оперативно реагирует на обращения пользователей", — сообщил он.
РБК направил запрос в Telegram.
Что говорят эксперты
Ведущий специалист департамента Digital Risk Protection компании F.A.C.C.T. Евгений Егоров назвал такую схему новой и "довольно продвинутой" для России, хотя за рубежом такие случаи встречались. "Мошенники давно используют и "угоны" телеграм-аккаунтов, и фейковые рассылки с просьбой одолжить деньги, но в этом случае скамеры собрали воедино все части своего конструктора", — отметил эксперт. Он объясняет, что на первом этапе происходит взлом аккаунта Telegram или WhatsApp, например, через фейковые голосования, волна которых наблюдалась в конце прошлого года. Затем мошенники скачивают сохраненные голосовые сообщения и с помощью сервисов искусственного интеллекта синтезируют новые "голосовушки" с необходимым контекстом, указал Егоров. Наконец, происходит рассылка сообщений в "личку" или групповые чаты с просьбой одолжить крупную сумму денег, для убедительности используют сгенерированные искусственным интеллектом "голосовушки" и отфотошопленную банковскую карту с поддельным именем получателя.
Схожие случаи с подделкой голосовых сообщений были описаны в 2019 году, но тогда злоумышленники использовали для их создания монтажа аудио.
"Схема опасна тем, что мошенники используют несколько факторов идентификации жертвы — аккаунт, голос и банковскую карту. Чтобы не потерять деньги, необходимо перепроверить, действительно ли владелец аккаунта обращается с подобной просьбой, например, перезвонив ему по телефону", — заключил Егоров.
Эксперт центра мониторинга внешних цифровых угроз Solar AURA ГК "Солар" Диана Селехина отметила, что компания регистрирует волну новых случаев мошенничества, связанных с кражей личных аккаунтов в Telegram. За последние 30 дней, по ее словам, компания выявила более 500 новых доменных имен, созвучных с названием мессенджера. Селехина также напомнила, что, помимо фейковых голосований, в Telegram активно распространялась мошенническая схема с получением подписки Premium. "Все эти схемы объединяет необходимость ввода своего номера телефона и SMS-кода. Полученные данные затем используются злоумышленниками для несанкционированного доступа к учетной записи и последующей рассылки спама или вымогания денег", — пояснила она.
Часть людей, по словам Селехиной, остаются бдительными, в том числе благодаря постоянным предупреждениям о подобных мошенничествах, поэтому злоумышленники усовершенствовали свои схемы, начали использовать нейронные сети и фрагменты старых голосовых сообщений, чтобы убедить жертву, что она общается с реальным знакомым. "Мы сталкивались с случаями использования дипфейков (методика синтеза изображения или голоса, основанная на искусственном интеллекте. — РБК), эксплуатирующих образы известных личностей для рекламы мошеннических ресурсов, и теперь эта техника постепенно внедряется в Telegram, часто в сочетании с голосовыми сообщениями", — указала эксперт.
Руководитель исследовательской группы Positive Technologies Ирина Зиновкина отметила, что упомянутый способ, как и другие, которые появились в последнее время, являются техниками более продвинутой социальной инженерии. При этом такая форма может быть не всегда эффективна по нескольким факторам, поскольку не все пользователи пользуются голосовыми сообщениями, и не всегда удается склеить нужную фразу из того материала, который уже есть.