Стоит ли нам бояться искусственного интеллекта

PlayboyHi-Tech

5 пугающих вещей, которые искусственный интеллект научился делать сам

Нам уже пора бояться? Или пока рано?

Автор Мария Минаева

a3b150515b2f1ba1b3700f5bd401fc0d.jpg
Кадр из фильма «Обитель зла»

Искусственный интеллект (ИИ) был одной из главных «страшилок» в научной фантастике еще до того, как он появился. И все в этих рассказах было сплошным преувеличением. По крайней мере, в это хочется верить.

Однако сейчас, несмотря на то, что новости о прогрессе андроидов сыплются на нас чуть ли не каждый день, масса исследований ИИ продолжают делать большие успехи тихо и за кулисами.

И это начинает становиться странным. Особенно когда задумаешься о том, как именно машина может использовать свой новый скилл. Приведем несколько примеров.

5ИИ научился делать свою работу наполовину, а затем врать о результате

giphy.gif

Даже если искусственный интеллект не учится потрошить нас, он уже сам смог додуматься, как «сачковать» таким образом, чтобы начальство этого не заметило.

Ученые из Стэнфорда и исследовательская группа Google придумали проект, в котором они использовали нейронную сеть для преобразования аэрофотоснимков в карты. ИИ делал свою работу хорошо. Даже... слишком хорошо.

Это насторожило исследователей и, проверив данные, они обнаружили, что искусственный интеллект их обманывает. Они хотели, чтобы он создал новую карту на основе аэрофотоснимков, и оценивали результаты по тому, насколько близко объекты карты соответствуют фотографиям. Но вместо того, чтобы построить новую карту, ИИ спокойно копировал данные с фотографий... и делал это так, чтобы люди это не сразу заметили.

Чтобы лучше понять, что именно он делал, представь себе студента-художника, которому дали задание нарисовать автопортрет. А он вместо этого применил к селфи эффект «кисть» в Photoshop. Конечно, вряд ли ИИ способен иметь злой умысел. Он просто нашел более простой способ получить результаты, о которых просили люди. Причем весьма человеческим образом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Био-механизм Био-механизм

Пауки, пожалуй, самые высокотехнологичные существа на планете

Вокруг света
Зеленые воротнички Зеленые воротнички

Как корпорации заботятся об окружающей среде

РБК
8 исторических тайн, которые до сих пор никто не может раскрыть 8 исторических тайн, которые до сих пор никто не может раскрыть

От древнего манускрипта на неизвестном языке до исчезнувшего острова

Playboy
10 фильмов с Анджелиной Джоли, которые нужно увидеть 10 фильмов с Анджелиной Джоли, которые нужно увидеть

Десять соблазнительных ролей Анджелины Джоли, которые обязательно нужно увидеть

Cosmopolitan
Крошка Ро Крошка Ро

Блогер Марьяна Ро выбралась в реальный мир без одежды

Maxim
Ученые сообщили о втором случае исцеления от ВИЧ Ученые сообщили о втором случае исцеления от ВИЧ

Британцу пересадили костный мозг

Esquire
Шесть опасных экспериментов, которые ученые проводили над собой Шесть опасных экспериментов, которые ученые проводили над собой

Проверять медицинские теории лучше всего на себе самом

Maxim
Рами Малек Рами Малек

Правила жизни актера Рами Малека

Esquire
Такие же, как мы. Почему люди боятся человекоподобных роботов Такие же, как мы. Почему люди боятся человекоподобных роботов

Люди сначала симпатизируют человекоподобным роботам, а потом начинают бояться их

СНОБ
Желтый полиэтиленовый пакет Желтый полиэтиленовый пакет

Что Чичваркин вывез из России в Лондон в крепком желтом пакете «Евросети»

Forbes
Как стать роковой женщиной: практическое руководство Как стать роковой женщиной: практическое руководство

Роковой женщиной может стать любая, достаточно следовать простым правилам

Psychologies
Нас и там неплохо кормят Нас и там неплохо кормят

13 отличных российских ресторанов, куда надо зайти на чужбине

GQ
Плохо себя чувствую при изменении погоды... Плохо себя чувствую при изменении погоды...

Можно ли победить метеозависимость?

9 месяцев
Глоток энергии Глоток энергии

Как «подзарядить батарейку» после затяжной зимы, не отходя от холодильника

Vogue
Крым, Донбасс, ЕС: что обещают Украине фавориты президентской гонки Крым, Донбасс, ЕС: что обещают Украине фавориты президентской гонки

Главное из программ пяти ключевых участников президентских выборов на Украине

Forbes
Искусственное вскармливание: основные правила Искусственное вскармливание: основные правила

Как подобрать смесь, чтобы у малыша не возникло проблем со здоровьем?

9 месяцев
Похитители времени Похитители времени

Почему ты весь день крутишься на работе, а дела остаются невыполненными

Лиза
Преступник поневоле: три способа угодить за решетку за неуплату налогов Преступник поневоле: три способа угодить за решетку за неуплату налогов

Количество уголовных дел за уклонение от уплаты налогов выросло в 2,5 раза

Forbes
Что носит граф Николай фон Бисмарк, которому не обязательно гладить рубашки и чистить ботинки Что носит граф Николай фон Бисмарк, которому не обязательно гладить рубашки и чистить ботинки

5 основных особенностей расслабленного стиля праправнука Отто фон Бисмарка

Esquire
Почему все самые модные вещи должны быть либо гигантскими, либо микро? Почему все самые модные вещи должны быть либо гигантскими, либо микро?

Внезапно мы вернулись к установке, что размер имеет значение

GQ
Снежные Альпы выросли под Санкт-Петербургом Снежные Альпы выросли под Санкт-Петербургом

На берегу Финского залива появились огромные ледяные глыбы

National Geographic
Берегитесь женщин Берегитесь женщин

Андрей Подшибякин объясняет, почему #MeeToo — не сумасшествие, а норма

GQ
Винтокрылые гиганты: самые большие вертолеты мира Винтокрылые гиганты: самые большие вертолеты мира

Самые большие вертолеты, созданные в наши дни

Популярная механика
Хвастунов я очень не люблю! Хвастунов я очень не люблю!

DJ Катя Гусева не открыла три своих тайных желания и самую страстную мечту

Playboy
Трое из ларца: как управлять творческими людьми Трое из ларца: как управлять творческими людьми

Бизнес считает творчеством только генерацию идей

Forbes
Далеко-далеко Далеко-далеко

Добро пожаловать в Кусур – самое труднодоступное селение в Дагестане

National Geographic
Похороны Сталина из окна американского посольства напротив Кремля (видео) Похороны Сталина из окна американского посольства напротив Кремля (видео)

Это уникальная цветная кинохроника была обнаружена всего три года назад

Maxim
Семейство львов наслаждается купанием: редкое видео Семейство львов наслаждается купанием: редкое видео

Как правило, кошки не любят воду, но эта королевская семья саванны отличилась

National Geographic
Что такое жировая ткань и каковы ее функции Что такое жировая ткань и каковы ее функции

Для чего человеку нужны жировые прослойки?

СНОБ
Судьбы реформаторов. Что стало с «агрессивной и ударной» командой Чубайса из РАО ЕЭС Судьбы реформаторов. Что стало с «агрессивной и ударной» командой Чубайса из РАО ЕЭС

Как сложились судьбы команды Анатолия Чубайса

Forbes
Открыть в приложении