Вам звонит родственник или друг и взволнованным голосом сообщает, что попал в беду. Не давая опомниться, торопливо объясняет ситуацию - например, стал виновником ДТП или у него украли кошелек - и просит прислать деньги. Знакомо?
Сценарии могут быть самыми разными - все ограничивается лишь воображением и цинизмом мошенников. Играя на эмоциях и инстинктивном доверии, когда речь идет о здоровье и безопасности близких, аферисты порой с легкостью обманывают даже очень осторожных в посведневной жизни людей. А теперь на помощь мошенникам пришел и искусственный интеллект (ИИ), с помощью которого они могут имитировать чей угодно голос, причем весьма достоверно. Но и на этот прием есть свой лом.
Еще пять лет назад такое казалось далеким будущим или, по крайней мере, недоступным людям без глубоких технических навыков. Но теперь это реальность - ИИ научился создавать очень достоверный голосовой "клон" даже из небольших фрагментов речи. И мы сами оставляем образцы собственного голоса для обучения этих инструментов - например, в социальных сетях.
Подобное мошенничество - это не только финансовые потери, но и сильные эмоциональные потрясения. "Мама, меня похитили! Помоги мне, помоги!" - эта фраза заставила бы застыть кровь в жилах любого родителя, услышавшего ее по телефону от своего ребенка. В случае Дженнифер Дестефано это был всего лишь сгенерированный компьютером голос - на самом деле ее дочь была в безопасности. Однако вначале она поверила, что это действительно ее ребенок и даже вела переговоры о выкупе с "похитителями", пока кто-то не сказал ей о существовании мошенничества с фальшивыми голосами. Позднее полиция отказалась принимать заявление от женщины, назвав произошедшее "розыгрышем".
Дестефано была одной из потенциальных жертв и она рассказала о своем опыте подкомитету Сената США, обратив внимание на опасность искусственного интеллекта в руках преступников. "Сколько раз, когда близкий человек в отчаянии обращается к вам за помощью, вы проверяли его личность? Наверное, ни разу", - сказала женщина в своих показаниях.
В прошлом году телеканал CBS News сообщал, что только в США за один год мошенники выманили у людей девять миллиардов долларов. В Латвии, по данным Госполиции, в 2023 году преступникам удалось выманить у жителей более 8,5 миллиона евро, из них 4,5 миллиона евро - по телефону.
Эксперт по кибербезопасности Пит Николетти отмечает, что современным инструментам ИИ требуется всего 10 минут обучения, чтобы достоверно изобразить голос какого-то человека. Мы можем думать, что защищены от подобного мошенничества, но разве можно быть уверенным на 100%, что критическое мышление и осторожность сработают, если среди ночи мы услышим по телефону отчаянный зов о помощи от близкого человека?
Как же защитить себя? Оказывается, есть простой способ. И, как ни странно, помочь могут те же принципы, которые защищают компьютерные системы.
Первым тревожным сигналом, конечно же, является просьба о деньгах. Если по телефону вы слышите голос близкого человека, но что-то настрораживает - нетипичное для звонка время суток, нехарактерная для человека структура предложений в речи или вышеупомянутые просьбы о деньгах, - проще всего проверить личность с помощью заранее заготовленного кодового слова.
"Как в Интернете, так и по телефону ведите себя так, как будто вы имеете дело со страницей входа в электронную почту. Придумайте пароль - конкретное слово, фразу - и согласуйте его с человеком лично, а не отправляйте в электронном виде, - пишет технологический обозреватель Бен Гуарино в Scientific American. - Если кто-то звонит и просит денег, попросите назвать кодовое слово или фразу, чтобы подтвердить личность". ИИ может имитировать ваш голос, но мошенники не узнают ключевое слово, о котором вы договорились лично.
По словам профессора Хани Фарида из Школы информации Калифорнийского университета, это очень простой и эффективный способ противостоять мошенническим звонкам с инструментами ИИ. "Мне нравится эта идея - она очень проста и, при условии, что получатель звонка может отреагировать и не забывает спросить пароль, обойти ее трудно. На данный момент не существует других очевидных способов выяснить, действительно ли человек, с которым вы разговариваете по телефону, является тем, за кого себя выдает, - говорит эксперт и напоминает, что не помешает время от времени напоминать себе и собеседнику кодовое слово или фразу в личных разговорах. - В отличие от паролей на компьютерах, мы не используем их ежедневно, поэтому их легко забыть".