Сотрудник Microsoft сообщил о появлении новой и очень реалистичной схемы мошенничества, которая использует ИИ и способна обмануть даже опытных пользователей. Основная цель данной аферы — захват учётных записей Gmail за счет поддельных звонков и электронных писем от Google.
С развитием технологий злоумышленники всё чаще используют искусственный интеллект в своих целях. Консультант Microsoft, Сэм Митрович, едва не оказался жертвой этой схемы и поделился своим опытом в блоге.
Недавно Митрович получил SMS с просьбой подтвердить попытку восстановления доступа к своему аккаунту Gmail. Запрос пришёл из США, и он решил его проигнорировать. Однако спустя 40 минут он заметил пропущенный звонок с идентификатором Google Sydney. Через неделю ситуация повторилась: он снова получил уведомление о восстановлении доступа к аккаунту и ответил на звонок. По его словам, собеседник говорил с американским акцентом, был вежлив, а номер телефона оказался австралийским.
Звонивший представился и сообщил о подозрительной активности на аккаунте, спросив, не находится ли Митрович в поездке. После отрицательного ответа собеседник задал несколько уточняющих вопросов. В ходе разговора Митрович решил проверить номер через Google и, к его удивлению, нашёл официальное подтверждение, что звонки действительно могут поступать из Австралии, а номер выглядел подлинным.
Зная о возможности подмены номеров, он продолжил проверку и попросил отправить ему электронное письмо, и мошенник согласился. Во время ожидания на линии слышались звуки клавиатуры и шум колл-центра, что создавало впечатление достоверности. Однако всё изменилось, когда собеседник несколько раз повторил «Алло». Митрович понял, что общается с ИИ, потому что «произношение и паузы звучали слишком идеально».
После завершения разговора он попытался перезвонить, но услышал автоматическое сообщение: «Это Google Maps, мы не можем принять ваш звонок». Затем он проверил активность входа в свой аккаунт Gmail. Сделать это просто: нужно перейти в «Управление аккаунтом Google», выбрать раздел «Безопасность», а затем «Недавняя активность безопасности». К счастью, все входы в систему были осуществлены им самим.
Изучив заголовки полученного письма, Митрович обнаружил, что мошенник подделал адрес отправителя с помощью системы Salesforce CRM, которая позволяет устанавливать любой адрес и отправлять письма через серверы Google Gmail. Таким образом, мошенники, используя ИИ и фальшивые электронные письма, могут быть настолько убедительными, что даже опытные пользователи рискуют стать жертвами обмана.