ИИ обладают предсказательной способностью, но не могут заглянуть на шаг вперед

ForbesHi-Tech

Самоуверенный алгоритм: какие риски внедрения ИИ пока недооцениваются

Иван Стельмах

Фото Axel Heimken / picture alliance via Getty Images

Главную проблему алгоритмов ИИ можно сформулировать как парадокс: они обладают мощной предсказательной способностью, но при этом не в состоянии заглянуть хотя бы на шаг вперед. Чтобы не стать жертвой ошибочных решений, которые предлагает ИИ, в его разработке должны участвовать не только математики, но и менеджеры, социологи и экономисты, считает профессор РЭШ Иван Стельмах.

За громкими спорами о достижении «точки сингулярности» искусственного интеллекта (ИИ) и необходимости запрета дальнейшего развития технологии теряются менее хайповые, но более важные риски. Если разобраться в том, как работает ИИ, часть опасений сойдет на нет: и по поводу восстания машин, и по поводу того, что нейросети уже завтра заменят всех в офисе. Однако мы обнаружим другие риски, которые могут оказать влияние на нашу жизнь уже сейчас. Поговорим об актуальных рисках ИИ и о том, как ученые, бизнес и общество могут совместно работать над безопасной социальной адаптацией искусственного интеллекта.

Реакция системы

За последние годы ИИ как продукт сделал огромный скачок — при общении с ChatGPT сложно поверить, что алгоритм по ту сторону экрана основывается исключительно на статистических закономерностях. При этом основная парадигма остается неизменной: большинство алгоритмов работают по принципу, который состоит из двух шагов:

  • Шаг 1. Нахождение статистических паттернов в исторических данных
  • Шаг 2. Применение найденных паттернов на новых данных

Рассмотрим простой пример — платформу видео-хостинга. Алгоритмы могут проанализировать историю просмотров всех пользователей (Шаг 1) и сделать персонализированные предсказания о том, какое видео понравится каждому пользователю (Шаг 2).

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Парк вместо поля: как семья воронежского предпринимателя привлекла 200 000 туристов Парк вместо поля: как семья воронежского предпринимателя привлекла 200 000 туристов

Как Маньковы превратили окрестности старинного имения в парк развлечений

Forbes
«Основано на реальных событиях»: сатира на болезненный интерес к серийным убийствам «Основано на реальных событиях»: сатира на болезненный интерес к серийным убийствам

«Основано на реальных событиях» — история о браке, который спасает подкаст

Forbes
В этом вся соль: из чего делают противогололедные реагенты и почему они плавят лед В этом вся соль: из чего делают противогололедные реагенты и почему они плавят лед

Из чего вообще сделана техническая соль и точно ли она безопасна для нас?

ТехИнсайдер
«Ты зануда, а в IT за это платят»: как я за три с половиной месяца стала тестировщиком «Ты зануда, а в IT за это платят»: как я за три с половиной месяца стала тестировщиком

Ольге было 35, когда она решила стать тестировщиком, и вот что из этого вышло

VOICE
«Это ведь не считается!»: 3 неочевидных признака эмоциональной неверности, которые опасно игнорировать «Это ведь не считается!»: 3 неочевидных признака эмоциональной неверности, которые опасно игнорировать

Как понять, что вы вот-вот измените, пусть и не в стандартном понимании?

Psychologies
Физики нашли в замещенном апатите свинца комнатную сверхпроводимость при атмосферном давлении Физики нашли в замещенном апатите свинца комнатную сверхпроводимость при атмосферном давлении

Ученые нашли у апатита свинца сверхпроводящие свойства при комнатной температуре

N+1
Найдены гены, связанные с посттравматическим стрессом и депрессией Найдены гены, связанные с посттравматическим стрессом и депрессией

Гены больного мозга работают совершенно не так, как у здорового

ТехИнсайдер
Смеются ли андроиды над электроовцами? ИИ учится понимать юмор Смеются ли андроиды над электроовцами? ИИ учится понимать юмор

Группа ученых провела тестирование Больших языковых моделей на «чувство юмора»

ТехИнсайдер
На пороге квантового превосходства На пороге квантового превосходства

Квантовые компьютеры: чем они отличаются об обычных и какие задачи выполняют?

Наука и жизнь
Как мозг управляет иммунной системой при воспалениях и травмах Как мозг управляет иммунной системой при воспалениях и травмах

Как наш организм справляется с воспалениями и травмами?

ТехИнсайдер
Тест-драйв китаского люкса: танк во фраке Тест-драйв китаского люкса: танк во фраке

Каким получился TANK 500?

ТехИнсайдер
Лунная диета. Прощайте, лишние килограммы Лунная диета. Прощайте, лишние килограммы

Луна управляет не только приливами и отливами в морях и океанах

Лиза
Рейдер, активист, лифтер Рейдер, активист, лифтер

Как инвестирует Карл Айкан

Деньги
Три группы приматов независимо колонизировали Южную Америку около 30 миллионов лет назад Три группы приматов независимо колонизировали Южную Америку около 30 миллионов лет назад

Палеонтологи описали новый вид южноамериканских приматов

N+1
Сливки европейского edtech: как меняется европейский рынок образовательных технологий Сливки европейского edtech: как меняется европейский рынок образовательных технологий

Как меняется фокус образовательных технологий

Inc.
Тест-драйв гибрида Chery Tiggo 8 Pro e+ Тест-драйв гибрида Chery Tiggo 8 Pro e+

Chery Tiggo 8 Pro e+ успешно освоил гибридную систему с тремя моторами

СНОБ
Сон для красоты: 5 секретов от голливудских сомнологов Сон для красоты: 5 секретов от голливудских сомнологов

Как отправиться в объятия Морфея с максимальной пользой для своей внешности

VOICE
Разработан более дешевый способ обучения Больших языковых моделей Разработан более дешевый способ обучения Больших языковых моделей

Новый способ оптимизации предварительного обучения Больших языковых моделей

ТехИнсайдер
Сложно ли зарегистрировать бизнес в Дубае? И еще несколько задач, которые решала команда Wind Rises Сложно ли зарегистрировать бизнес в Дубае? И еще несколько задач, которые решала команда Wind Rises

Команда Wind Rises — о «легкой» регистрации и неработающих скидках

Правила жизни
Ищу соседку: почему женщины решают жить и строить быт с подругами Ищу соседку: почему женщины решают жить и строить быт с подругами

Понятию «компаньонки» больше 100 лет, и это явление переживает новый расцвет

Forbes
Романтизация OceanGate «вызывала тошноту» у части экспертов, но приводила в восторг клиентов — и они забывали о рисках Романтизация OceanGate «вызывала тошноту» у части экспертов, но приводила в восторг клиентов — и они забывали о рисках

Воспоминания о сооснователе компании Стоктоне Раше OceanGate и «Титане»

VC.RU
18-летняя мама пыталась нанять киллера в интернете, чтобы убить своего 3-летнего сына 18-летняя мама пыталась нанять киллера в интернете, чтобы убить своего 3-летнего сына

Журналисты сообщили, что молодая мама из США решила избавиться от своего ребенка

ТехИнсайдер
Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты

Почему сегмент барбершопов так быстро растет?

Forbes
Как (не) надо выстраивать границы в отношениях: разбор истории Джоны Хилла и Сары Брэди Как (не) надо выстраивать границы в отношениях: разбор истории Джоны Хилла и Сары Брэди

Разбираемся вместе с психологами в тонкостях построения границ в отношениях

Psychologies
Инженеры сделали трехколесный трехсредный трикоптер Инженеры сделали трехколесный трехсредный трикоптер

Трикоптер плавает со скоростью 2 м/с, а скорость на суше составляет 0,5 м/с

N+1
«Бесценных слов транжир и мот»: путеводитель по художественным мирам Маяковского в иллюстрациях, созданных нейросетью «Бесценных слов транжир и мот»: путеводитель по художественным мирам Маяковского в иллюстрациях, созданных нейросетью

Разбираемся в художественном мире Маяковского с помощью иллюстраций

Правила жизни
Оазис в океане Оазис в океане

В чем причина успеха Benetti Oasis 34M?

Y Magazine
Что делать, если потерял ключи: инструкция Что делать, если потерял ключи: инструкция

Как восстановить ключи, что делать с сигнализацией во время вскрытия автомобиля

РБК
Я — сноб. Режиссер Игорь Твердохлебов Я — сноб. Режиссер Игорь Твердохлебов

Режиссер Игорь Твердохлебов о своем главном достижении последнего года

СНОБ
От Месси до Малкома: как испанские налоговые органы преследуют футболистов От Месси до Малкома: как испанские налоговые органы преследуют футболистов

Почему в Испании возбуждают так много дел против топ-игроков?

Forbes
Открыть в приложении