«Неэтичные» технологии: как женщине защитить себя от цифровизации
Приложение Deep Nude, позволявшее раздевать женщин, было закрыто через несколько дней после запуска. Сегодня технологии могут легко и быстро добраться до рядового пользователя смартфона и стать инструментом шантажа и манипуляций
Приложение для смартфона Deep Nude, появившееся в открытом доступе 23 июня, было закрыто разработчиками сразу через несколько дней из-за судебных исков в адрес разработчиков. Оно позволяло снять одежду с женщины на фото, и успело разойтись в таком огромном количестве, что приложение мгновенно стало вирусным. Чтобы создать программу, надо было обучить нейросети редактированию фотографий так, чтобы они автоматически «оголяли» части тела, скрытые под одеждой. Основой для фальшивок стала база данных, содержащая фото более чем 10000 женщин.
Неэтичные приложения, подобные этим, появляются регулярно, но, встречая сопротивление, сворачиваются, иногда возвращаясь под другим названием. На основе каких технологий они создаются? Каковы мотивы их создателей и как можно от них защититься?
Фото- и видеофальшивки
Бывший израильский онлайн сервис Deep Nude — из серии правдоподобных фальсификаций (Deep Fake). Эта технология названа журналистами и IT-аналитиками одним из наиболее опасных изобретений последних лет.
Термин произошел от английских слов «deep learning» («глубокое обучение») и «fake» («подделка») и означает получение изображения человека с помощью искусственного интеллекта. Используется для объединения и наложения существующих изображений на видео или фото. Так создаются фото и ролики с людьми, которые в них не участвовали, их действия и слова им не принадлежат.
Отличить видео-deepfake от ролика, соответствующего действительности, — сложно не только неискушенному зрителю, но даже беспристрастной машине, то есть компьютеру. Поэтому сказать, что человек оказывается в неловком положении — ничего не сказать. Любая женщина может быть дискредитирована, начиная от звезд и политиков и заканчивая обычной школьницей, которая выставляет в сеть безобидные селфи с подругами.
Фейковые порноролики — это не просто аморальное издевательство над женщиной. Это еще и угроза реального тюремного срока, если не удастся доказать, что в видео снималась не она. А уж такие технологии в руках преступников — обширное поле для того, чтобы подменить на видео себя и соучастников изображениями невиновных людей. При этом жертвой deepfake может стать любой. По статистике в 2015–2016 годах пользователи загрузили в Google Photos не менее 24 млрд селфи. Злоумышленникам достаточно найти эти фотографии и вставить их в фейковые порноматериалы.