Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Космическая гонка за главный земной ресурс Космическая гонка за главный земной ресурс

Дмитрий Кириллов — о нехватке чистой питьевой воды и решении этой проблемы

СНОБ
Как медитировать правильно: рекомендации экспертов Как медитировать правильно: рекомендации экспертов

Как медитировать в домашних условиях, чтобы от этого была польза?

Psychologies
«Я сама себе лучший друг»: 6 неожиданных плюсов одиночества «Я сама себе лучший друг»: 6 неожиданных плюсов одиночества

Как изменяется жизнь, если понять, что вы сами себе лучший друг

Psychologies
Высоцкий, Рыбников и ансамбль «Арсенал». 100 пластинок «Мелодии»: отрывок из книги Высоцкий, Рыбников и ансамбль «Арсенал». 100 пластинок «Мелодии»: отрывок из книги

О том, как записывались эти альбомы и об историческом контексте их появления

СНОБ
Как освоить бег босиком и избежать ошибок новичка Как освоить бег босиком и избежать ошибок новичка

Что такое босоногий бег и чем он полезен?

ТехИнсайдер
Электронный кошелек Электронный кошелек

Когда электронный кошелек — это удобно, а когда нужно быть особенно осторожной

Лиза
Жительница Нидерландов решила сделать эвтаназию в 28 лет из-за депрессии Жительница Нидерландов решила сделать эвтаназию в 28 лет из-за депрессии

Как депрессия может довести человека до крайности и что об этом думают психологи

Psychologies
Иван Гончаров. Принц де Лень Иван Гончаров. Принц де Лень

Свои любовные болезни Иван Гончаров скрывал, считая их стыдными и недостойными

Караван историй
Мигранты развиваются вместе с российской экономикой Мигранты развиваются вместе с российской экономикой

Растет численность квалифицированного персонала из стран ближнего зарубежья

Монокль
Кто такой ёкарный бабай и что на Руси знали о тонкостях пикапа: 9 необычных книг о славянской культуре Кто такой ёкарный бабай и что на Руси знали о тонкостях пикапа: 9 необычных книг о славянской культуре

Приготовьтесь к погружению в мифические истории, о которых вы точно не знаете

ТехИнсайдер
Неземная тачка: как работал лунный ровер NASA в программе “Аполлон” Неземная тачка: как работал лунный ровер NASA в программе “Аполлон”

Как был сконструирован лунный ровер от Nasa?

ТехИнсайдер
ИИ и технологии ИИ в мире науки, техники и предпринимательства ИИ и технологии ИИ в мире науки, техники и предпринимательства

Какой правовой статус у искусственного интеллекта?

Наука и Техника
«Эксперт РА» ждет замедления кредитования малого бизнеса и роста просрочки «Эксперт РА» ждет замедления кредитования малого бизнеса и роста просрочки

Рост кредитования малого и среднего бизнеса замедлится, а просрочка увеличится

Forbes
Смутная история: почему в геймдеве не нужно сразу стремиться к шедеврам ААА-класса Смутная история: почему в геймдеве не нужно сразу стремиться к шедеврам ААА-класса

Почему российскому геймдеву нужно выпускать просто хорошие игры, а не ААА?

Forbes
Управление неизбежностью: что делать до и после кибератаки Управление неизбежностью: что делать до и после кибератаки

Как подготовиться к киберинциденту и что нужно делать, когда он уже случился?

Forbes
Как и почему в России хотят «выращивать» ипотечных заемщиков на спецдепозитах Как и почему в России хотят «выращивать» ипотечных заемщиков на спецдепозитах

В первом чтении принят законопроект о договорах жилищных сбережений

Forbes
Сдвинуть Землю и умереть: 5 удивительных фактов о самой мощной ГЭС в мире Сдвинуть Землю и умереть: 5 удивительных фактов о самой мощной ГЭС в мире

Говорят, эта ГЭС так велика, что её можно увидеть с Луны

ТехИнсайдер
Как вулканы повлияли на атмосферу Венеры Как вулканы повлияли на атмосферу Венеры

В новой работе исследователей рассматривается вопрос вулканизма на Венере

ТехИнсайдер
Лучезарный Лучезарный

За прозвищем князя Александра Куракина стояло несметное богатство

Дилетант
Почему никто не любит умных женщин: 7 причин Почему никто не любит умных женщин: 7 причин

Почему мужчины до сих пор не воспринимают женщин как равных?

Psychologies
5 фильмов от режиссеров-дебютантов из России, которые покажут новый взгляд на отношения 5 фильмов от режиссеров-дебютантов из России, которые покажут новый взгляд на отношения

О пяти российских картинах, которые действительно стоит посмотреть

Psychologies
11 лучших и интересных сериалов по книгам в жанре фэнтези 11 лучших и интересных сериалов по книгам в жанре фэнтези

Фэнтезийные сериалы, достойные своего литературного первоисточника

Maxim
Теперь можно! Теперь можно!

Устаревшие правила дизайна интерьера, которые давно пора нарушить

Лиза
Чем заняться на свидании после интернет-знакомства: 6 необычных идей Чем заняться на свидании после интернет-знакомства: 6 необычных идей

Как провести свидание с человеком, с которым познакомились в интернете?

Psychologies
Экстремальное похудение: как Оземпик бьет по здоровью Экстремальное похудение: как Оземпик бьет по здоровью

Какой вред здоровью и красоте на самом деле наносит Оземпик?

Psychologies
Почему кошачья моча так плохо пахнет: ученые наконец-то выяснили это Почему кошачья моча так плохо пахнет: ученые наконец-то выяснили это

Почему этот кошачий запах ни с чем не спутать?

ТехИнсайдер
Отмыть неотмываемое: как избавиться от следов перманентного маркера с любой поверхности Отмыть неотмываемое: как избавиться от следов перманентного маркера с любой поверхности

Чем отмыть перманентный маркер с разных поверхностей без специальных средств

ТехИнсайдер
Кто такой колумбийский виолончелист Анджело Торрес, годами обманывавший девушек и российских звезд Кто такой колумбийский виолончелист Анджело Торрес, годами обманывавший девушек и российских звезд

История российского «афериста из „Тиндера“», достойная экранизации

Maxim
Сколько нужно ходить, чтобы «активировать» ваш мозг Сколько нужно ходить, чтобы «активировать» ваш мозг

Почему нам всем нужно больше ходить?

ТехИнсайдер
5 шагов, которые помогут активировать ваши внутренние ресурсы 5 шагов, которые помогут активировать ваши внутренние ресурсы

Внутри каждого из нас есть ресурсы, которые мы не задействуем

Psychologies
Открыть в приложении