Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Граф Аверин»: как детективная история про альтернативную Россию и демонического кота влюбила в себя читателей «Граф Аверин»: как детективная история про альтернативную Россию и демонического кота влюбила в себя читателей

«Граф Аверин»: в чем феномен серии книг, как на её популярность повлиял кот?

Psychologies
5 бунтарок, изменивших мир: чему всем нам стоит у них поучиться 5 бунтарок, изменивших мир: чему всем нам стоит у них поучиться

Выдающиеся женщины, которые своим протестом изменили ход истории

Psychologies
(Не)правильный выбор (Не)правильный выбор

Ошибки, которые обернулись успехом

Grazia
Оксана Милковская Оксана Милковская

Кажется, Оксана Милковская открыла новые пределы комфорта

Собака.ru
Конечно, Баста Конечно, Баста

Василий Вакуленко — о легкости, которой учится у новичков «Газгольдера»

СНОБ
Ученые узнали, какая диета увеличивает продолжительность жизни Ученые узнали, какая диета увеличивает продолжительность жизни

Как нужно питаться, чтобы жить значительно дольше?

ТехИнсайдер
Законодатель, проводник, любовник матери: чем важен отец Законодатель, проводник, любовник матери: чем важен отец

Зачем нам нужен отец?

Psychologies
10 советов по организации кухни, которые помогут тебе лучше готовить 10 советов по организации кухни, которые помогут тебе лучше готовить

Готовка начинается еще до того, как ты включаешь плиту

VOICE
Электрическое сопротивление Электрическое сопротивление

Эра электрокаров закончилась, так и не успев начаться

Монокль
Новый дивидендный сезон: что частные инвесторы получат по его итогам Новый дивидендный сезон: что частные инвесторы получат по его итогам

Кто и сколько заплатит акционерам и что из этого достанется частным инвесторам?

Forbes
Топ-10 необычных и полезных приборов для кухни Топ-10 необычных и полезных приборов для кухни

Гаджеты, которые упрощают привычные бытовые дела на кухне

ТехИнсайдер
Синдбад-коммивояжёр Синдбад-коммивояжёр

Канонический Синдбад из древних арабских сказок был купцом из Багдада

Дилетант
Только спокойствие! Только спокойствие!

Семь идей, которые помогут быстро успокоиться в стрессовой ситуации

Лиза
«Эфиопия — наша!» «Эфиопия — наша!»

В 1936 году фашистская Италия ликовала: над столицей Эфиопии поднялся их флаг

Дилетант
Жена Николая Еременко: «В самом начале нашего романа Коля предупредил меня, что женат» Жена Николая Еременко: «В самом начале нашего романа Коля предупредил меня, что женат»

«Я хочу дать тебе свою фамилию. Никаким женам не давал, а тебе дам»

Караван историй
Как людям с ОКР комфортно работать и полностью раскрыть свои таланты Как людям с ОКР комфортно работать и полностью раскрыть свои таланты

Почему нейроотличия — это не всегда плохо и как обратить симптомы в свою пользу

Inc.
Свободные веса: какие бьюти-процедуры помогают оставаться в форме Свободные веса: какие бьюти-процедуры помогают оставаться в форме

Какие бьюти-процедуры помогают уследить за фигурой

Forbes
Сын за отца: Андрей Тарковский — младший о доке «Андрей Рублев: Воспоминания о фильме» Сын за отца: Андрей Тарковский — младший о доке «Андрей Рублев: Воспоминания о фильме»

Чем авторская версия «Рублева» отличается от общедоступной?

Правила жизни
Один метр. Один килограмм. Одна гордость Один метр. Один килограмм. Одна гордость

Признание первенства Советов в космосе смешано с обидой, завистью и досадой

Монокль
Необычная традиция: почему на Пасху принято красить яйца Необычная традиция: почему на Пасху принято красить яйца

Почему на пасху мы красим именно яйца? И зачем вообще это делаем?

ТехИнсайдер
Как повысить ФПС в Доте 2? Полный гайд на 2024 год Как повысить ФПС в Доте 2? Полный гайд на 2024 год

Как поднять ФПС в Доте и какой он должен быть?

CHIP
Реальности недостаточно Реальности недостаточно

«Реальная история Уиннер»: докудрама о расследовании русского следа Трампа

Weekend
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Очень долго фантасты не отваживались представить себе путешествие к звёздам

Наука и жизнь
Общество нового чипа: почему так важен технологический суверенитет в области ИИ Общество нового чипа: почему так важен технологический суверенитет в области ИИ

Почему возможность производить процессоры и микрочипы — не только преимущество

Forbes
На связи с рынком: чем интересно размещение на бирже акций МТС Банка На связи с рынком: чем интересно размещение на бирже акций МТС Банка

Что в бизнес-модели МТС Банка несет риски и преимущества для инвесторов

Forbes
Лучшая версия себя Лучшая версия себя

Опасная погоня за стандартами красоты и её последствия

Grazia
Борьба за нацию Борьба за нацию

Представления о взглядах Симона Петлюры сформированы войной пропагандистов

Дилетант
Жизнь в моменте: почему аренда так популярна в последнее время Жизнь в моменте: почему аренда так популярна в последнее время

Почему зумеры и миллениалы выбирают аренду квартиры вместо покупки?

ТехИнсайдер
Мэр Якутска: как победить пыль и неблагоустроенность Мэр Якутска: как победить пыль и неблагоустроенность

Чем вызваны особенные недостатки столицы Якутии?

ФедералПресс
В поисках смысла: что такое экзистенциальный кризис и как его преодолеть В поисках смысла: что такое экзистенциальный кризис и как его преодолеть

Как ответить себе на извечные вопрос: быть или не быть?

Forbes
Открыть в приложении