Что такое DeepFake, как заставить Джима Керри сняться в «Сиянии», а Марка Цукерберга удалить Facebook, как выглядят современные киберпреступления, и как от них защититься? Открывай статью и погружайся в киберпанк 2019.

За последние 10 лет нейронные сети стали стремительнее входить в нашу жизнь, искусственный интеллект обнаруживает генетические заболевания по ДНК, а робот ATLAS делает сальто и садится на шпагат.

DeepFake. Что это и как это работает?
Начиная с 2016 года, миру была представлена технология, позволяющая «оживлять» фотографии и производить замену лиц на видеозаписях. Методика соединения и наложения фото и видеозаписей получила название DeepFake (от английского «deep learning» + «fake», «глубинное обучение» + «подделка») в 2017 году.

Методика построена на использовании GAN – генеративно-состязательных нейросетей. Алгоритм состоит из двух частей, одна из которых, изучая фото реального человека, создает изображения, а вторая, сравнивает их с оригиналами. Процесс обучения продолжается до тех пор, пока вторая часть алгоритма не перестает находить отличия между изображениями.

Скандал с Zao
29 августа этого года в Китае на рынок было выпущено приложение Zao, построенное на технологии DeepFake. Продукт быстро обрел популярность и завирусился. Популярность программы привела к тому, что сервера, на которых она была развернута, падали от перегрузки.

Под сомнение сразу попали средства защиты личной информации пользователей. У многих возник вопрос: а могут ли использовать приложение злоумышленники, с целью обхода систем распознавания лиц? По заверениям представителей AliPay, фейковые видео не способны обмануть такие системы, как, например, Smile to Pay, поскольку последние оснащены мощнейшими алгоритмами для защиты от фото и видео-фейков.

Однако, несмотря на мощную техническую защиту платежных систем, пользователи обнаружили, что по условиям соглашения, разработчики получали право на бессрочное и бесплатное использование изображений, созданных с помощью Zao, в личных целях и передачи этих прав третьим лицам.

В итоге, издателю пришлось изъять из пользовательского соглашения условие, нарушающее китайские законы, и принести извинения.

«Клубничка» со Скарлетт Йоханссон и речь Обамы
Опытный пользователь сети Интернет способен найти абсолютно любую информацию, а опытный пользователь GitHub`а – любой код. Алгоритмы для «замены лиц» - не исключение.

Так, жертвами DeepFake`ов стали такие известные личности, как: Натали Портман и Скарлетт Йоханссон, снимающиеся в порно, Барак Обама, на камеру оскорбляющий Дональда Трампа и Марк Цукерберг, удаляющий Facebook.

Технология применима и в искусстве. С помощью DeepFake ютубер Ctrl Shift Face «поменял» актера в фильме «Сияние». Вместо зловещего Джека Николсона роль «исполнил» Джим Керри. Комментарии под роликом гласят, что с известным комиком фильм выглядит более пугающим.

Ютубер не остановился на шедевре по роману Кинга и продолжает «менять» актерский состав известных кинолент. Под его руку попали «Цельнометаллическая оболочка», «Терминатор 2» и многие другие.

Совсем недавно появилось видео, на котором Киану Ривз предотвращает ограбление магазина и обезвреживает преступника. Авторы YouTube-канала, на котором появился ролик, признались, что использовали технологию DeepFake. Комментаторы пишут, что догадаться о том, что видео подделка, им помог голос «героя без плаща», ведь в остальном мужчину на видео легко принять за интернет-любимчика – Киану Ривза.

Преступление от чужого имени
В марте 2019 года состоялось ограбление с помощью голосового DeepFake. Директор британской энергокомпании, под руководством главы материнской немецкой фирмы, перевел €220 000 поставщикам из Венгрии.

По словам пострадавшего, босс из Германии несколько раз четко подтвердил инструкции по переводу денег. Сообщения, поступавшие с немецкого адреса руководителя компании, убеждали британского управляющего перевести деньги в течение часа. Так как экстренные ситуации случались не в первый раз, сомнений не возникло. Но когда звонок с той же просьбой поступил второй раз, британский директор заподозрил неладное.

Он позвонил настоящему боссу, который, в свою очередь, опроверг свое участие в переводе денег. По очереди принимая звонки от фейкового и настоящего руководителя с одинаковыми голосами, вплоть до немецкого акцента и пунктуации, директор не мог адекватно понимать происходящий сюрреализм.

На данный момент названия компаний и имена держатся в тайне, а преступники все еще на свободе.

Уже сегодня любой может попробовать сымитировать чужие голоса, имея в наличии записи голоса конкретного человека и программу для создания голосовой «маски». Google Duplex уже способен имитировать человеческий голос и правдоподобно изображать интонации любого человека.

Сегодня инструментов защиты с голосовыми и видеофейками еще не существует. Мир охватывает волна новых киберпреступлений, бороться с которыми можно лишь с помощью внимательности и осторожности в сети.

Следите за своим интернет-следом, заклеивайте вебку пластырем и используйте VPN:)
Скоро увидимся!

Алевская Анна