ИИ обладают предсказательной способностью, но не могут заглянуть на шаг вперед

ForbesHi-Tech

Самоуверенный алгоритм: какие риски внедрения ИИ пока недооцениваются

Иван Стельмах

Фото Axel Heimken / picture alliance via Getty Images

Главную проблему алгоритмов ИИ можно сформулировать как парадокс: они обладают мощной предсказательной способностью, но при этом не в состоянии заглянуть хотя бы на шаг вперед. Чтобы не стать жертвой ошибочных решений, которые предлагает ИИ, в его разработке должны участвовать не только математики, но и менеджеры, социологи и экономисты, считает профессор РЭШ Иван Стельмах.

За громкими спорами о достижении «точки сингулярности» искусственного интеллекта (ИИ) и необходимости запрета дальнейшего развития технологии теряются менее хайповые, но более важные риски. Если разобраться в том, как работает ИИ, часть опасений сойдет на нет: и по поводу восстания машин, и по поводу того, что нейросети уже завтра заменят всех в офисе. Однако мы обнаружим другие риски, которые могут оказать влияние на нашу жизнь уже сейчас. Поговорим об актуальных рисках ИИ и о том, как ученые, бизнес и общество могут совместно работать над безопасной социальной адаптацией искусственного интеллекта.

Реакция системы

За последние годы ИИ как продукт сделал огромный скачок — при общении с ChatGPT сложно поверить, что алгоритм по ту сторону экрана основывается исключительно на статистических закономерностях. При этом основная парадигма остается неизменной: большинство алгоритмов работают по принципу, который состоит из двух шагов:

  • Шаг 1. Нахождение статистических паттернов в исторических данных
  • Шаг 2. Применение найденных паттернов на новых данных

Рассмотрим простой пример — платформу видео-хостинга. Алгоритмы могут проанализировать историю просмотров всех пользователей (Шаг 1) и сделать персонализированные предсказания о том, какое видео понравится каждому пользователю (Шаг 2).

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Маргарет Этвуд и Миучча Прада: женщины, которые вошли в рейтинг 50 Over 50 Forbes USA Маргарет Этвуд и Миучча Прада: женщины, которые вошли в рейтинг 50 Over 50 Forbes USA

Некоторые из тех, кто доказывает, что возраст — не помеха достижениям

Forbes
«Формула-1» бьет рекорды: почему команды серии дорожают на сотни процентов в год «Формула-1» бьет рекорды: почему команды серии дорожают на сотни процентов в год

Оценки стоимости команд «Формулы-1» стремительно растут

Forbes
Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций

Тараканы-киборги — идеальные помощники для спасательных операций

Inc.
Записки отельера: как изменились отношения фанатов и звезд Записки отельера: как изменились отношения фанатов и звезд

Как за годы жизни «Гельвеции» поменялись отношения талантов и поклонников

Правила жизни
Автомобиль для королей, рэперов и миллиардеров: 119 лет истории Rolls-Royce Автомобиль для королей, рэперов и миллиардеров: 119 лет истории Rolls-Royce

Rolls-Royce: история, смысл шильдика на капоте и образ владельца сквозь время

Правила жизни
Инженеры научили робота «плавать» в толще песка Инженеры научили робота «плавать» в толще песка

Инженеры разработали робота, способного автономно передвигаться в толще песка

N+1
Отрывок из книги «Алексей Щусев: Архитектор № 1» писателя и историка Александра Васькина Отрывок из книги «Алексей Щусев: Архитектор № 1» писателя и историка Александра Васькина

Глава из книги Александра Васькина «Алексей Щусев: Архитектор № 1»

СНОБ
Прыщи, усы и седина: «неидеальные» знаменитости, которым плевать на стандарты красоты Прыщи, усы и седина: «неидеальные» знаменитости, которым плевать на стандарты красоты

Эти звезды борются против бьюти-стереотипов, которые нередко портят нам жизнь

VOICE
Гранж, наркотики и Курт Кобейн: что нужно знать о Кортни Лав Гранж, наркотики и Курт Кобейн: что нужно знать о Кортни Лав

Многие до сих пор винят ее в смерти Курта

Правила жизни
Почему Толстой не имел права бросать Анну Каренину под поезд Почему Толстой не имел права бросать Анну Каренину под поезд

Мария Микулина написала новую книгу под названием «Женщина на пике мозга»

Maxim
Комиссарши в пыльных шлемах Комиссарши в пыльных шлемах

Прекрасные дамы, которые активно участвовали в революции

Дилетант
ТОП-10 самых горячих мест на Земле. В этих городах все еще живут люди! ТОП-10 самых горячих мест на Земле. В этих городах все еще живут люди!

Самые жаркие точки планеты: температура там поднимается выше 50°C

ТехИнсайдер
«Простоквашино», поехали! «Простоквашино», поехали!

Центры власти и стратегии выживания в одной нарисованной российской деревне

Weekend
6 навыков внутреннего ребенка, которые пригодятся каждому взрослому 6 навыков внутреннего ребенка, которые пригодятся каждому взрослому

Помните ли вы, как радовались простым вещам в раннем детстве?

Psychologies
Доктор, это опасно? Почему ананас жжет и разъедает слизистую и язык? Доктор, это опасно? Почему ананас жжет и разъедает слизистую и язык?

Почему ананас жжет? Есть ли способ победить коварный фрукт?

ТехИнсайдер
«Мы были выше бога, который сотворил нас». Отрывок из книги об Адаме и Еве «Мы были выше бога, который сотворил нас». Отрывок из книги об Адаме и Еве

«Взлет и падение Адама и Евы»: отрывок из книги Стивена Гринблатта

СНОБ
Почему некоторые растения становятся плотоядными: загадочные хищники Почему некоторые растения становятся плотоядными: загадочные хищники

Что сподвигло некоторые виды растений перейти на диету из живых существ?

ТехИнсайдер
Почему пот оставляет желтые пятна на одежде, если он бесцветный? Почему пот оставляет желтые пятна на одежде, если он бесцветный?

Если пот — бесцветная влага, откуда такой краситель?

ТехИнсайдер
Настоящая женщина: как вредят стереотипы — интервью психолога Настоящая женщина: как вредят стереотипы — интервью психолога

Почему современные женщины слишком зависят от мужского мнения?

Psychologies
Белки плазмы крови предсказали болезнь Альцгеймера Белки плазмы крови предсказали болезнь Альцгеймера

Ученые обнаружили 32 белка плазмы крови, связанные с развитием деменции

N+1
Космические лучи предупредят о землетрясениях Космические лучи предупредят о землетрясениях

Предвестником землетрясений могут оказаться космические лучи

Наука и жизнь
Самый сок: как юрист и рекламщик выжали из сосны новый ингредиент для косметики Самый сок: как юрист и рекламщик выжали из сосны новый ингредиент для косметики

Как вытяжка из сосны пробивала себе путь на рынок, занятый иностранным сырьем

Forbes
Оазис в океане Оазис в океане

В чем причина успеха Benetti Oasis 34M?

Y Magazine
На побережье Британии найдены гигантские каменные топоры возрастом больше 300 000 лет На побережье Британии найдены гигантские каменные топоры возрастом больше 300 000 лет

Один из самых больших ручных топоров, когда-либо обнаруженных в Британии

ТехИнсайдер
Any Wowzers Any Wowzers

Как Аня Баркова придумала бренд пижам c пляжным уклоном Any Wowzers

Собака.ru
Ловушка Джокера: история Арлекина Ненависти от Фингера до Леджера Ловушка Джокера: история Арлекина Ненависти от Фингера до Леджера

Пройдемся по основным вехам жизни Джокера

Правила жизни
«Плюшевый пузырь»: как фильм о создателе мягких игрушек критикует американскую мечту «Плюшевый пузырь»: как фильм о создателе мягких игрушек критикует американскую мечту

Разбираем драмеди «Плюшевый пузырь» — историю предпринимателя Тая Уорнера

Forbes
ИИ делает краткосрочный прогноз погоды быстрее, чем традиционные модели ИИ делает краткосрочный прогноз погоды быстрее, чем традиционные модели

Модели прогнозирования погоды на основе ИИ лучше, чем традиционные

ТехИнсайдер
Шерше ля фам Шерше ля фам

Женщины принимали очень активное участие во Французской революции

Дилетант
Самый большой вулкан в Солнечной системе когда-то был островом Самый большой вулкан в Солнечной системе когда-то был островом

Самый большой вулкан в Солнечной системе когда-то мог быть островом в море

ТехИнсайдер
Открыть в приложении