Видеозвонок от близкого человека больше не гарантирует, что на экране действительно он. Мошенники могут подделать лицо и голос с помощью нейросети, поэтому эксперты по безопасности советуют заранее придумать семейное кодовое слово.
Один из самых крупных известных случаев произошел в Гонконге. Сотрудник финансового отдела филиала британской компании Arup участвовал в видеоконференции с коллегами и «финансовым директором». Его убедили перевести 25,6 миллиона долларов. Позже выяснилось, что все участники разговора, кроме самого сотрудника, были дипфейками, созданными на основе доступных в интернете выступлений руководителей компании.
В 2023 году распространилось изображение взрыва возле Пентагона. Оно выглядело как свидетельство теракта или военной атаки: телеканалы выпустили экстренные сообщения, а на биржах началась паника. Официальные органы быстро опубликовали опровержения. Эксперты указывали на искаженные колонны и оконные рамы, забор, растворявшийся в асфальте, и предметы, будто висящие в воздухе. Кроме того, никто не публиковал другие кадры происшествия, хотя в Вашингтоне и Арлингтоне установлены тысячи дорожных камер.
Нейросети создают подделки не только с вымышленными событиями, но и с известными людьми. Незаконные ролики со знаменитостями можно изготовить почти бесплатно, тогда как съемка с их участием обошлась бы в миллионы долларов. Звездам приходится обращаться к юридическим способам защиты от фальшивых двойников.
Несколько лет назад широко разошлась фотография папы римского Франциска в белом пуховике Balenciaga. В подлинность изображения поверили и блогеры, и крупные СМИ. Позже выяснилось, что его создал 31-летний строитель из Чикаго Пабло Ксавье. Подделку выдали деформированные пальцы, державшие стакан, хотя теперь нейросети научились изображать пальцы без таких ошибок.
Распространение дипфейков привело к появлению выражения «дивиденд лжеца»: преступник или коррупционер может заявить, что запись с ним — подделка, созданная врагами. Так оправдывался Трамп после появления старого скандального видео, где он вульгарно хвастался ведущему телешоу своим поведением с женщинами. Телекомпания официально подтвердила подлинность записи.
В 2023 году юристы Илона Маска также назвали дипфейком запись, показанную в суде по делу о смертельном ДТП с участием автопилота Tesla. На видео Маск утверждал, что его автомобили могут двигаться полностью автономно. Судья заявил, что не позволит ему отказываться от собственных слов, сказанных на камеру.
Еще пять лет назад подделка видео была сложной задачей, но теперь искусственный интеллект сделал ее доступной. Система создает фальшивое лицо, а другая проверяет результат на ошибки; они совершенствуются, обучаясь друг на друге.
Некоторые признаки подделки можно заметить при внимательном просмотре:
- Размытые или несовпадающие участки у линии волос и на границе челюсти с шеей.
- Непохожие друг на друга зрачки или неестественное расположение бликов в глазах.
- Неестественное моргание и движения глаз.
- Зубы, сливающиеся в сплошную белую полосу, вместо отчетливых отдельных зубов.
- Мимика без обычной небольшой асимметрии между правой и левой половинами лица.
- Несовпадающее направление теней на заднем плане и под носом человека.
- Запаздывание части лица при повороте головы.
- Во время вдоха могут не двигаться ключицы, подбородок и крылья носа: нейросеть часто анимирует только губы.
Мошенники способны подделывать и голос. Современным моделям искусственного интеллекта может хватить от трех до десяти секунд аудио, чтобы скопировать тембр, интонации, вздохи и даже акцент человека.
Для защиты от таких звонков специалисты советуют:
- Заранее договориться с семьей о кодовом слове или фразе, которую нельзя найти, изучая биографию родственников. Если с незнакомого номера звонит якобы ребенок или супруг, не поддаваться панике и спросить пароль. В качестве примеров предлагаются «старый клен» и «синий-синий иней».
- Не разговаривать со спамерами и сразу класть трубку: мошенники могут записать голос для клонирования.
- Ограничить доступ к аудио и видео, опубликованным в интернете: материалы могут использовать генераторы ИИ.
- Задать родственнику вопрос о том, чего нет в открытом доступе, например, что семья ела накануне.
- Во время видеозвонка попросить собеседника медленно провести ладонью перед лицом или повернуться в профиль. Многие современные дипфейки при этом начинают размываться или распадаться на пиксели.
- Не переходить по ссылкам под сенсационными роликами о закрытии банков, раздаче призов или катастрофах. Проверить новость на крупных новостных ресурсах: если сообщение нигде больше не появилось, оно может быть создано для распространения паники или кражи данных.
Искусственный интеллект используют и в кино. В 2022 году вышла четвертая часть сериала «Диверсант» с Владиславом Галкиным, умершим в 2010 году. Актера нельзя было заменить, поэтому его образ создали с помощью дипфейка: виртуальный Калтыгин появился в фильме на восемь минут, а основой стали первые сезоны сериала.
Это решение вызвало неоднозначную реакцию. Друг актера Сергей Юшкевич говорил: «Я человек старой формации. Я за живое. Попытки „воскрешения“, даже с помощью технологий, печальны. Потому что те харизму, природу, неистовство, которые всегда были во Владе, никакая программа не сможет восстановить».
Отец Галкина тоже признавался, что ему тяжело смотреть на компьютерную копию: «Печально, что продюсеров не интересуют талант, душа и особенности характера Владислава, если они решают без него демонстрировать только его изображение. Он был необычайно пульсирующий, живой человек. А тут что будет — манекен».
В фильме «Манюня: Приключения в Москве» 2024 года покойный актер «сыграл» одну из ключевых ролей: нейросети создали его лицо, мимику и голос. Близкие Никулина поддержали проект, но выдвинули условие: не использовать его образ в трейлерах и рекламных кампаниях, чтобы не спекулировать на его имени.
ИИ помог показать главного героя Глеба Барнашева в молодости в первом сезоне сериала «Контакт» с Павлом Майковым. Раньше для этого использовали сложный пластический грим. В сериале «Эпидемия» технологию применили в сценах-воспоминаниях, где персонаж Александра Робака, Леонид Кубасов, вернулся в 1990-е годы.
Во время пенсионных протестов во Франции в 2023 году появились поддельные снимки президента страны Франсуа Макрона. На них он сидел в деловом костюме среди горящих покрышек, а затем убегал от спецназа. Некоторые поверили, что глава государства вышел на улицу ради пиар-акции. Подделку выдали безупречно чистый костюм Макрона на фоне беспорядка и странные лица полицейских на заднем плане.