ИИ обладают предсказательной способностью, но не могут заглянуть на шаг вперед

ForbesHi-Tech

Самоуверенный алгоритм: какие риски внедрения ИИ пока недооцениваются

Иван Стельмах

Фото Axel Heimken / picture alliance via Getty Images

Главную проблему алгоритмов ИИ можно сформулировать как парадокс: они обладают мощной предсказательной способностью, но при этом не в состоянии заглянуть хотя бы на шаг вперед. Чтобы не стать жертвой ошибочных решений, которые предлагает ИИ, в его разработке должны участвовать не только математики, но и менеджеры, социологи и экономисты, считает профессор РЭШ Иван Стельмах.

За громкими спорами о достижении «точки сингулярности» искусственного интеллекта (ИИ) и необходимости запрета дальнейшего развития технологии теряются менее хайповые, но более важные риски. Если разобраться в том, как работает ИИ, часть опасений сойдет на нет: и по поводу восстания машин, и по поводу того, что нейросети уже завтра заменят всех в офисе. Однако мы обнаружим другие риски, которые могут оказать влияние на нашу жизнь уже сейчас. Поговорим об актуальных рисках ИИ и о том, как ученые, бизнес и общество могут совместно работать над безопасной социальной адаптацией искусственного интеллекта.

Реакция системы

За последние годы ИИ как продукт сделал огромный скачок — при общении с ChatGPT сложно поверить, что алгоритм по ту сторону экрана основывается исключительно на статистических закономерностях. При этом основная парадигма остается неизменной: большинство алгоритмов работают по принципу, который состоит из двух шагов:

  • Шаг 1. Нахождение статистических паттернов в исторических данных
  • Шаг 2. Применение найденных паттернов на новых данных

Рассмотрим простой пример — платформу видео-хостинга. Алгоритмы могут проанализировать историю просмотров всех пользователей (Шаг 1) и сделать персонализированные предсказания о том, какое видео понравится каждому пользователю (Шаг 2).

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Болванчик из бейсбола: как фигурки-сувениры приносят миллионы командам МЛБ Болванчик из бейсбола: как фигурки-сувениры приносят миллионы командам МЛБ

Бейсбол: уникальная субкультура и сумасшедший спрос на фигурки

Forbes
Как на вас влияет правильная осанка: интересные факты Как на вас влияет правильная осанка: интересные факты

Как связаны нейробиология осанки и благополучие?

ТехИнсайдер
Почему беспроводные наушники быстро разряжаются Почему беспроводные наушники быстро разряжаются

Причины, по которым беспроводные наушники быстро разряжаются

CHIP
Оценка социального вклада Благотворительного фонда «Даунсайд Ап» | Social Impact Assessment by the Downside Up Charitable Foundation Оценка социального вклада Благотворительного фонда «Даунсайд Ап» | Social Impact Assessment by the Downside Up Charitable Foundation

Как фонд «Даунсайд Ап» повлиял на качество жизни людей с синдромом Дауна

Позитивные изменения
«Был честен с собой и со своим ремеслом»: каким был путь в искусстве Карла Брюллова «Был честен с собой и со своим ремеслом»: каким был путь в искусстве Карла Брюллова

Каким был путь в искусстве Карла Брюллова и как его показывают в музеях

Forbes
Хейтвотчинг: почему мы смотрим на вещи, которые нас очень раздражают Хейтвотчинг: почему мы смотрим на вещи, которые нас очень раздражают

Почему люди продолжают смотреть и читать то, что им не нравится?

Forbes
Виртуальная оперативная память в смартфоне — почему её не стоит использовать Виртуальная оперативная память в смартфоне — почему её не стоит использовать

В чем плюсы и минусы виртуальной оперативной памяти в смартфоне?

CHIP
Самки косаток в постменопаузе защитили взрослых сыновей от драк Самки косаток в постменопаузе защитили взрослых сыновей от драк

Пожилые самки косаток приходят на помощь к взрослым сыновьям

N+1
Какой домашний вентилятор лучше купить вместо кондиционера Какой домашний вентилятор лучше купить вместо кондиционера

Вы знали, что вентиляторы умеют ароматизировать и даже фильтровать воздух?

CHIP
Спустя 500 дней в приюте пес обрел семью. Трогательная история Спустя 500 дней в приюте пес обрел семью. Трогательная история

История пса Чарли, которого прозвали "самым одиноким в Британии"

ТехИнсайдер
Что такое кушон и как им пользоваться. Советы экспертов Что такое кушон и как им пользоваться. Советы экспертов

Разбираемся, так ли хороши кушоны на самом деле и нужно ли их мыть

РБК
Тоннельное мышление: почему мы искажаем реальность и как вернуть себе адекватность Тоннельное мышление: почему мы искажаем реальность и как вернуть себе адекватность

Сталкивались ли вы с людьми, которые убеждены, что только их картина мира верна?

Psychologies
Сон для красоты: 5 секретов от голливудских сомнологов Сон для красоты: 5 секретов от голливудских сомнологов

Как отправиться в объятия Морфея с максимальной пользой для своей внешности

VOICE
За 30 лет число детей с диабетом выросло на 40 процентов За 30 лет число детей с диабетом выросло на 40 процентов

Уровень заболеваемости диабетом увеличился с 9,31 до 11,61 на 100000 населения

N+1
Большой Дракон: как Брюс Ли изменил голливудский экшен-фильм Большой Дракон: как Брюс Ли изменил голливудский экшен-фильм

Как Брюс Ли взбодрил и обновил голливудский менстрим

Правила жизни
10 неожиданных фактов о главном герое каждого лета – арбузе 10 неожиданных фактов о главном герое каждого лета – арбузе

Арбуз — ягода, фрукт или овощ?

ТехИнсайдер
Почему сначала не хочется идти в душ, а потом — выходить из него: 4 необычных феномена «ванной психологии» Почему сначала не хочется идти в душ, а потом — выходить из него: 4 необычных феномена «ванной психологии»

Пчему проще переживать в ванной и почему иногда нам особенно лень идти в душ

Psychologies
Dodge Raider 1987. Японский Bronco от Chrysler Dodge Raider 1987. Японский Bronco от Chrysler

В период с 1975 по 1990-й год Chrysler питался деликатесами от Mitsubishi

4x4 Club
ТОП-10 самых горячих мест на Земле. В этих городах все еще живут люди! ТОП-10 самых горячих мест на Земле. В этих городах все еще живут люди!

Самые жаркие точки планеты: температура там поднимается выше 50°C

ТехИнсайдер
Шахматист Ян Непомнящий: Выигрывать мне нравится больше, чем играть Шахматист Ян Непомнящий: Выигрывать мне нравится больше, чем играть

Сильнейший гроссмейстер планеты — о своем профессиональном пути

СНОБ
«Лаврова не могла выбрать между Смоктуновским и Баталовым», — рассказывала подруга актрисы «Лаврова не могла выбрать между Смоктуновским и Баталовым», — рассказывала подруга актрисы

Роднило ее избранников только одно — все они были талантливы, неординарны

Коллекция. Караван историй
Три мотора и 6 литров на сотню: экономичный тест Chery Tiggo 8 Pro E+ Три мотора и 6 литров на сотню: экономичный тест Chery Tiggo 8 Pro E+

Технологичный, экономичный, солидный кроссовер с роскошным салоном

Maxim
Нестареющая классика научной фантастики: 5 причин прочесть «Академию» Айзека Азимова Нестареющая классика научной фантастики: 5 причин прочесть «Академию» Айзека Азимова

Почему вам стоит взяться за цикл «Академия» Айзека Азимова

ТехИнсайдер
Что где есть в Ленобласти Что где есть в Ленобласти

Где жить в настоящей дореволюционной даче с видом на Финский залив?

Собака.ru
Как он это делает: 17 лучших ролей Киллиана Мёрфи (в порядке возрастания восторга) Как он это делает: 17 лучших ролей Киллиана Мёрфи (в порядке возрастания восторга)

Собрали 17 лучших проектов с Киллианом Мёрфи, в которых раскрывается его талант

Правила жизни
В Индийском океане существует гигантская гравитационная дыра, и мы наконец-то можем узнать ее причину В Индийском океане существует гигантская гравитационная дыра, и мы наконец-то можем узнать ее причину

К образованию этой аномалии привели шлейфы раскаленной магмы

ТехИнсайдер
Находитесь в позиции жертвы? Задайте себе всего 2 вопроса Находитесь в позиции жертвы? Задайте себе всего 2 вопроса

Все мы порой оказываемся жертвой. Но это не значит, что мы обречены на несчастья

Psychologies
«Мы — выживальщики»: как представители разных семейных мифов реагируют на кризис — мнение психолога «Мы — выживальщики»: как представители разных семейных мифов реагируют на кризис — мнение психолога

Что такое индивидуальная самоидентификация семьи?

Psychologies
Золото, цветы и секс. Как жил и писал картины Густав Климт Золото, цветы и секс. Как жил и писал картины Густав Климт

Чем интересны картины Климта?

СНОБ
Ритмы жизни Ритмы жизни

Все причины начать танцевать прямо сегодня

VOICE
Открыть в приложении