Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Феминистская икона наоборот: жизнь Фриды Кало, рассказанная в ее собственных картинах Феминистская икона наоборот: жизнь Фриды Кало, рассказанная в ее собственных картинах

Рассказываем о судьбе Фриды Кало, которую она отразила в своих работах

Forbes
Ученые пытаются понять, что делать с ледниковым шельфом Уилкинса. Он на грани и грозит катастрофой планете Ученые пытаются понять, что делать с ледниковым шельфом Уилкинса. Он на грани и грозит катастрофой планете

Ледниковый шельф Уилкинса в Антарктиде демонстрирует признаки нестабильности

Inc.
ИИ и технологии ИИ в мире науки, техники и предпринимательства ИИ и технологии ИИ в мире науки, техники и предпринимательства

Какой правовой статус у искусственного интеллекта?

Наука и техника
Как стеклышко Как стеклышко

Моем окна до идеальной чистоты, без пятен и разводов

Лиза
5 привычек для здорового старения мозга 5 привычек для здорового старения мозга

Что вы можете сделать, чтобы предотвратить снижение когнитивных способностей?

ТехИнсайдер
Семейные легенды Семейные легенды

Иван Волынский-Жуковский разбирает генезис своей семейной легенды

Правила жизни
18 цитат Казановы, которые должен знать каждый мужчина 18 цитат Казановы, которые должен знать каждый мужчина

Пусть эти цитаты превратят вас в Казанову: великого любовника и путешественника

Maxim
10 отличных сериалов на любой вкус, которые вы могли пропустить 10 отличных сериалов на любой вкус, которые вы могли пропустить

Какие из недавно вышедших сериалов точно стоит оценить?

Правила жизни
Опытным путем Опытным путем

Шеф-повара вспоминают жизненные уроки на старте своей карьеры

Grazia
Конечно, Баста Конечно, Баста

Василий Вакуленко — о легкости, которой учится у новичков «Газгольдера»

СНОБ
Городские хроники Городские хроники

Куда отправиться, чтобы увидеть лучшие образцы современной настенной живописи?

Вокруг света
Пауки и панельки Пауки и панельки

«Паутина страха»: новая хоррор-классика

Weekend
Арт-дилер Денис Арцинович: «Продолжать паразитировать на имени Фаберже неправильно» Арт-дилер Денис Арцинович: «Продолжать паразитировать на имени Фаберже неправильно»

Денис Арцинович о лаврах Фаберже и выборе между живыми и умершими художниками

СНОБ
Узнайте, как кофе влияет на рецидив рака кишечника! Вот чем полезен напиток Узнайте, как кофе влияет на рецидив рака кишечника! Вот чем полезен напиток

Люди с раком кишечника, которые пьют кофе, отмечают отсутствие рецидива

ТехИнсайдер
9 самых распространенных ошибок при мытье окон: мнение профессиональных клинеров 9 самых распространенных ошибок при мытье окон: мнение профессиональных клинеров

Разводы на окнах не исчезли после мытья? Вот почему это произошло

VOICE
10 советов по организации кухни, которые помогут тебе лучше готовить 10 советов по организации кухни, которые помогут тебе лучше готовить

Готовка начинается еще до того, как ты включаешь плиту

VOICE
«Неужели все мужики такие, как говорит мама?»: история одного побега из дома «Неужели все мужики такие, как говорит мама?»: история одного побега из дома

Как дети справляются с утратой привычной жизни — и справляются ли?

Psychologies
Последствия неправильной сушки: как помыть зонт, чтобы избавиться от затхлого запаха Последствия неправильной сушки: как помыть зонт, чтобы избавиться от затхлого запаха

Как правильно мыть зонт дома?

ТехИнсайдер
История автомобиля «Чайка»: как выглядит машина, характеристики История автомобиля «Чайка»: как выглядит машина, характеристики

«Чайка» стала светлым символом. Но недостижимым для простого смертного

РБК
Страна восходящего солнца: что нужно знать о жизни в Японии — топ любопытных фактов Страна восходящего солнца: что нужно знать о жизни в Японии — топ любопытных фактов

А что вам известно о жизни в Японии?

ТехИнсайдер
Валерия: «Думали меня сбить, но не тут-то было!» Валерия: «Думали меня сбить, но не тут-то было!»

Валерия: «Как же сейчас молодежи хорошо — только выходи и пой!»

Коллекция. Караван историй
Запад помог Востоку: что выиграл Китай от санкций против российских металлов Запад помог Востоку: что выиграл Китай от санкций против российских металлов

Санкции, наложенные на российские металлы, могут быть на руку Китаю

Forbes
Урал: от природной кладовой к промышленному производству Урал: от природной кладовой к промышленному производству

Когда мы говорим о природных богатствах России, прежде всего вспоминается Урал

Знание – сила
5 добрых фильмов про собак 5 добрых фильмов про собак

Лучшие экранизации про братьев наших меньших.

Maxim
Михаил Владимирович Голицын и «Угли России» Михаил Владимирович Голицын и «Угли России»

Крупнейший специалист по геологии угля Михаил Голицын и роль угля в жизни России

Знание – сила
Неузнаваемый Дауни, комичный Аффлек, многоликий Макэвой: актеры с несколькими ролями в одном проекте Неузнаваемый Дауни, комичный Аффлек, многоликий Макэвой: актеры с несколькими ролями в одном проекте

Проекты, в которых артисты сыграли сразу несколько ролей

Правила жизни
Пора собирать камни. Зубной камень: что это такое и нужно ли с ним бороться Пора собирать камни. Зубной камень: что это такое и нужно ли с ним бороться

Чем зубной камень опасен, как появляется и почему с ним важно бороться

Лиза
Развод с социопатом: 6 проблем, с которыми вы столкнетесь Развод с социопатом: 6 проблем, с которыми вы столкнетесь

Почему порой развод превращается в настоящий вопрос выживания

Psychologies
Как медитировать правильно: рекомендации экспертов Как медитировать правильно: рекомендации экспертов

Как медитировать в домашних условиях, чтобы от этого была польза?

Psychologies
План «Б» План «Б»

Истории звезд о казусах во время путешествий по миру

Grazia
Открыть в приложении