Какие опасности в себе таит искусственный интеллект и нейросети?

Популярная механикаHi-Tech

Вы будете голыми и вам будет стыдно: темные стороны нейросетей

Искусственный интеллект, машинное обучение, дата-майнинг, нейросети — список модных терминов можно продолжать довольно долго. Но что за опасности появились вместе с этими явлениями, и какова их темная сторона? Вот лишь несколько примеров, которые станут серьезными поводами для беспокойства.

Василий Парфенов

Любой инструмент можно использовать во зло — мощные нейросетевые алгоритмы обработки мультимедийных данных не исключение. Не так давно в сети появился новый термин: DeepFake. Это одновременно и отсылка к слову «глубокий», часто употребляемому в названиях технологий которые связаны с искусственным интеллектом, и при этом просто «фальшивка». Данный термин применяется к невероятно реалистичным видеозаписям, фотографиям и звуковым файлам, модифицированным или полностью созданным с помощью нейросетей.

Голос

В качестве примера можно вспомнить несколько нашумевших проектов. С голосом работает продукт стартапа Modulate. Их программный комплекс способен практически на лету преобразовывать речь человека с помощью десятков различных фильтров. Можно сделать женский голос из мужского, повысить возраст или даже сменить расу говорящего. Процесс полностью автоматизирован и от пользователя требуется только выбрать желаемые предустановки. Существующие демонстрации технологии не поражают воображение, но ее совершенствование лишь вопрос времени. Разработчики не раскрыли всех возможностей своего детища, однако совершенно точно распознавание личности по голосу больше не считается надежным.

Опасность заключается в том, что мы слишком уверенно опираемся на звук голоса человека при разговоре с ним без визуального контакта. Можно ли теперь быть уверенным, что это именно твой друг звонит с незнакомого номера и просит о помощи? Чье это голосовое сообщение на самом деле в чате? Я сам позвонил во время корпоратива в нетрезвом состоянии и отдал опрометчивые распоряжения, либо кто-то сделал это за меня? Команда Modulate описывает проект, как новое слово в персонализации своего онлайн-образа — для игр, ролевых чатов или условно анонимного общения. Однако попадание в руки злоумышленников этого программного комплекса или разработка аналогичного — вопрос времени.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как выжить в технологической сингулярности? Как выжить в технологической сингулярности?

Что такое концепция сингулярности?

Популярная механика
Дорога перемен. Как 20-летняя гонщица запустила программу наставничества для женщин Дорога перемен. Как 20-летняя гонщица запустила программу наставничества для женщин

Аврора Страус верит, что наставничество поможет изменить многие мужские сферы

Forbes
Робособаку научили карабкаться по стенам враспор Робособаку научили карабкаться по стенам враспор

Как инженеры научили робособаку научили эффективно двигаться по вертикали

N+1
Обзор умной колонки LG XBOOM AI ThinQ WK7Y: Алиса, музыку! Обзор умной колонки LG XBOOM AI ThinQ WK7Y: Алиса, музыку!

Что умеет модель и как она звучит — рассказываем в обзоре

CHIP
Что скрывает от нас подземка: 10 интересных фактов о московском метро Что скрывает от нас подземка: 10 интересных фактов о московском метро

Московское метро — незаменимый транспорт, про который мы не все знаем

ТехИнсайдер
Лучшее на «Ночи кино 2019»: в бассейне, в метро и на высотке Лучшее на «Ночи кино 2019»: в бассейне, в метро и на высотке

Что посмотреть во время «Ночи кино», которая пройдет в Москве 24 августа

Forbes
Ловушка для миллиардера: как основатель JD.com оказался в тюрьме после ужина в США Ловушка для миллиардера: как основатель JD.com оказался в тюрьме после ужина в США

Миллиардер Ричард Лю и обвинения в сексуальном насилии

Forbes
Наука «Аполлонов» Наука «Аполлонов»

Какие новые знания дали человечеству полёты американских астронавтов на Луну?

Наука и жизнь
Тест телевизора Sony KD-75XG9505: огромный экран с суперкартинкой Тест телевизора Sony KD-75XG9505: огромный экран с суперкартинкой

UHD-телевизор Sony KD-75XG9505 продемонстрировал хорошее качество изображения

CHIP
Как начать бегать, если не хочется: личный опыт Как начать бегать, если не хочется: личный опыт

Начать бегать — сложно. Но начать бегать снова — еще сложнее

Esquire
На хайпе: как Стас Михайлов составил конкуренцию Элджею, а Басков – Лил Пампу На хайпе: как Стас Михайлов составил конкуренцию Элджею, а Басков – Лил Пампу

Звезды из этой подборки начали осваивать современные тренды

Cosmopolitan
16 незаслуженно пропущенных фильмов 2015-го 16 незаслуженно пропущенных фильмов 2015-го

Мы отобрали для тебя реально замечательные кинокартины 2015 года

Maxim
Выйти из зоны отпуска. 8 летних приключений, которые перевернут ваше сознание Выйти из зоны отпуска. 8 летних приключений, которые перевернут ваше сознание

Предлагаем этим летом стряхнуть пыль не с книги, а с самих себя

Forbes
Уловка-210: почему так легко попасть в тюрьму за организацию преступного сообщества Уловка-210: почему так легко попасть в тюрьму за организацию преступного сообщества

Все чаще портреты бизнесменов сменяются их же фотографиями за решеткой

Forbes
Вдохновивший Тинькова банк сообщил об утечке данных 100 млн клиентов Вдохновивший Тинькова банк сообщил об утечке данных 100 млн клиентов

Американский банк Capital One сообщил об утечке данных более 100 млн клиентов

Forbes
«Мы превратимся в киборгов». Президент бизнес-школы «Сколково» Андрей Шаронов о будущем образования «Мы превратимся в киборгов». Президент бизнес-школы «Сколково» Андрей Шаронов о будущем образования

Интервью с президентом московской школы управления «Сколково» Андреем Шароновым

Forbes
Гильотина для короля Гильотина для короля

21 января 1793 года был публично казнён король Франции

Дилетант
«Я сидел на ферме и рисовал презентацию»: как профессор Гарварда помогает Мильнеру искать внеземной разум «Я сидел на ферме и рисовал презентацию»: как профессор Гарварда помогает Мильнеру искать внеземной разум

Физик Ави Лёб рассказал о своей работе и знакомстве с миллиардером

Forbes
Куда потратить триллионы? В Госдуме отклонили идею о поддержке экспорта деньгами из ФНБ Куда потратить триллионы? В Госдуме отклонили идею о поддержке экспорта деньгами из ФНБ

Поправку, дающую право тратить ФНБ на экспортные кредиты, отклонили

Forbes
Джузеппе Сантони: «Когда я впервые прилетел в Москву, вокруг были мужчины в остроносых ботинках» Джузеппе Сантони: «Когда я впервые прилетел в Москву, вокруг были мужчины в остроносых ботинках»

Глава Santoni не носит футболки и шьет пижамы на заказ

GQ
Хак ю Хак ю

Вадим Федотов требует крови светских москвичей

Tatler
«Первая карточка Сбербанка была нарисована у нас»: основатель IBS о секретах успешного IT-бизнеса в России «Первая карточка Сбербанка была нарисована у нас»: основатель IBS о секретах успешного IT-бизнеса в России

Новый гость «Forbes Capital» — основатель компании IBS Сергей Мацоцкий

Forbes
Что делать, чтобы твоя пятая точка не потела этим жарким летом: 7 дружеских советов Что делать, чтобы твоя пятая точка не потела этим жарким летом: 7 дружеских советов

Вполне возможно, ты и сейчас испытываешь дискомфорт по этому поводу

Playboy
Продюсер Риз Уизерспун, издатель Сара Джессика Паркер и предприниматель Гвинет Пэлтроу: как голливудские актрисы строят успешный бизнес Продюсер Риз Уизерспун, издатель Сара Джессика Паркер и предприниматель Гвинет Пэлтроу: как голливудские актрисы строят успешный бизнес

Кто из голливудских звезд имеет свой успешный бизнес

Forbes
Остаться в живых Остаться в живых

Как себя вести, чтобы отдых на свежем воздухе не обернулся бедой

StarHit
Станет ли инстаграм без лайков более «здоровым» Станет ли инстаграм без лайков более «здоровым»

Руководство инстаграма намеревается спрятать количество лайков от пользователей

Vogue
Глава ЦБ отказалась разрешить всем подряд покупать акции Apple и Google Глава ЦБ отказалась разрешить всем подряд покупать акции Apple и Google

Брокеры попросили регулятор разрешить инвесторам покупать иностранные акции

Forbes
Секта Секта

«Секта» — проза Дарьи Бобылевой о фольклорной нежити в простой городской жизни

Esquire
Какое все зеленое! Какое все зеленое!

Оливки давно перестали быть для россиян деликатесом

Лиза
Всё ясно! Всё ясно!

Что-то беспокоит, но не поймешь что?

Cosmopolitan
Открыть в приложении