Во всем мире наблюдается взрывной рост случаев мошенничества с использованием искусственного интеллекта. Например, в июне сервис Booking оценил рост AI-афер за последние 18 месяцев в 500–900%. А недавно мы рассказывали о том, как жертвами мошенников все чаще становятся не только обычные люди, но и высокопоставленные чиновники. Сами мошенники научились прикидываться и вице-премьерами, и ФСБшниками. Сегодня вместе с независимым просветительским проектом «Теплица социальных технологий» расскажем, как мошенники используют AI и как от них защититься.
(В предыдущей рубрике «Теплица» рассказывала о том, как в России взламывают Telegram).
Инструменты
Если говорить именно о мошенниках, а не вообще о киберпреступниках, то в основе их методов работы остается социальная инженерия. Но ее использование с развитием AI стало намного эффективнее: нейросети позволяют мошенникам генерировать тексты, голос и видео, успешно имитирующие реальных людей, вплоть до манеры общения и интонаций. Это ставшие хорошо известными дипфейки (подделка изображения и/или голоса), генерация правдоподобных текстов и использование ИИ для реализации интерактивных сценариев мошенничества и создания эффективных фишинговых рассылок.
Как это работает? Например, у вас угнали аккаунт в Telegram, скачали ваши голосовые сообщения, тексты ваших переписок, а также видео, если они там есть. На основании этих данных мошенники обучают искусственный интеллект. После этого он может достаточно правдоподобно имитировать ваш стиль общения как текстом, так и голосом, «переводя» сценарий мошенников на «ваш» язык. Это увеличивает вероятность того, что предполагаемые жертвы — ваши знакомые, коллеги, родственники — поверят мошенникам и произведут нужные действия, например переведут деньги. Чем больше данных о вас имеется для обучения AI, тем правдоподобнее он будет действовать.
Более того, AI вполне может и сам реагировать на вопросы и правдоподобно отвечать на них, оставаясь в рамках своей «роли». AI может обучиться не только быть похожим на кого-то, но и выманивать информацию и добиваться результата от собеседника, например, если обучить нейросеть на успешных сценариях и реальных диалогах.
Технология не подразумевает глубокого знания методов программирования или системного администрирования, поэтому и порог вхождения невысок. Опубликовано достаточно много моделей и инструментов с открытым исходным кодом, что позволяет использовать self-hosted решения и устанавливать все нужное программное обеспечение на собственных серверах.
Для ИИ не принципиально, на каком языке говорят потенциальные жертвы мошенников, и сама «индустрия» становится все более интернациональной и международной, но все-таки пока существенно больше практики по США, отмечают специалисты.
Примеры использования AI для безопасности
AI помогает как генерировать правдоподобный контент, так и определять наличие сгенерированного контента — для решения второй задачи можно использовать, например, Copyleaks и ZeroGPT. Но в такой гонке всегда выигрывает «меч», а не «щит», отмечают эксперты, так что полагаться на 100% на оценки AI нельзя.
Сегодня AI активно используется компаниями в сфере кибербезопасности, например Norton 360 и McAfee. Но многие из нас уже используют AI для защиты, не подозревая об этом.
Например, AI использует компания CloudFlare (это продукт для защиты сайтов, внутри него есть проект Galileo, в котором могут принять участие НКО для улучшения своей защиты). И даже «прославившаяся» недавним глобальным сбоем компьютеров CrowdStrike использует AI для поиска и предотвращения угроз (в недавнем инциденте ИИ был не виноват).
Меры предосторожности
Как и в случае с обычным мошенничеством, лучшая защита — это не поддаваться эмоциям, перепроверять полученную информацию через альтернативные каналы, советоваться с доверенными людьми и не принимать поспешных решений, отмечают специалисты «Теплицы». Часто встречается позиция «Я на это не попадусь, я все знаю», и так же часто она оказывается ошибочной. Жертвами мошенников люди становятся независимо от уровня образования, пола и возраста. Основная гарантия защищенности — это информированность, внимание и осторожность.
Вот несколько советов по безопасности от «Теплицы»:
- Переводите рабочие коммуникации в корпоративные мессенджеры, уменьшающие риск подделки сообщения, и надежно защищайте свои коммуникации.
- Не доверяйте своим глазам и ушам. Даже знакомый номер телефона или адрес электронной почты, родной голос или изображение близких людей — не доказательство того, что на той стороне не мошенник. Помните, что мошенники пытаются создать для вас ситуацию, которая выводит из спокойного состояния и требует быстрых действий. Используйте второй канал связи для проверки информации. Не принимайте быстрых решений, при любых сомнениях советуйтесь с доверенными людьми.
- Не переходите по ссылкам, которые вам прислали, прежде чем не убедитесь, что за информация скрывается за линком, даже если внешне ссылка выглядит вполне обычно и не вызывает подозрений.
- Подумайте про использование антивирусного ПО. Вопреки расхожему мнению, «антивирусы» давно стали комплексным средством защиты, включая фишинговые атаки.
- Везде и всегда используйте не только уникальные и сложные пароли, но и двухфакторную аутентификацию (подробнее о ней можно почитать здесь).
- Распространяйте эти знания, прежде всего среди тех, кто информирован и защищен меньше, чем вы.
Что мне с этого?
Знания о том, как мошенники оперируют AI, полезны для профилактики финансовых потерь, защиты данных, противодействия дезинформации и манипулированию, ориентации в цифровой среде, повышения критического мышления и возможности сохранять свою репутацию и помогать другим людям в подобных ситуациях.
— The Washington Post опубликовала результат 6-месячного расследования на базе тысяч страниц корпоративных и судебных записей, опросов десятков спикеров и геопространственного анализа проектов застройки в бразильской Амазонии. По подсчетам журналистов, половина проектов реализуются на государственных землях. Эти проекты значительно увеличивают объемы углеродных выбросов в атмосферу, поскольку застройщики получают много углеродных кредитов и, возможно, превышают разрешенный объем выбросов. Углеродные кредиты представляют собой квоту на допустимое количество выбросов. Один кредит эквивалентен одной тонне углекислого газа. Каждому государству выдается определенная квота на выбросы газов в атмосферу, которая дальше распределяется между компаниями.
— Группа медиапартнеров Urban Journalism Network на основании данных Евростата о бронировании жилья на четырех крупнейших платформах, подсчитала, что туризм в Европе достиг рекордных значений после пандемии. В частности, польская Gazeta Wyborcza подсчитала, что Франция, Италия и Испания остаются самыми популярными европейскими странами для краткосрочного бронирования жилья. Также на лидирующие позиции начали подниматься Польша и Румыния, но журналисты связывают это не с туризмом, а с потоком беженцев, в первую очередь из Украины. Бронирование краткосрочного проживания в Амстердаме снизилось, вероятно, из-за нового закона, регулирующего краткосрочную аренду.
— Bloomberg показывает в красочных графиках рост индустрии K-pop — корейской поп-культуры. Чтобы найти новые рынки и источники дохода, ей нужно расширяться на Запад, а для этого требуется выпускать песни на английском языке. Журналисты подсчитали, что в этом году на них пришлось почти 50%. Кроме того, сферой роста музыкальной индустрии на международном рынке являются концерты и стриминг. Это не сильная сторона K-pop, поэтому объемы продаж альбомов за 15 лет упали вдвое. Сейчас этому жанру предстоит проверка на европейском рынке.