Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Неаполь, похороны: отрывок из дебютного романа Элены Ферранте, впервые на русском языке Неаполь, похороны: отрывок из дебютного романа Элены Ферранте, впервые на русском языке

Фрагмент из романа «Любовь в тягость» Элены Ферранте

Forbes
В Карелии есть В Карелии есть

Зимой «русская Финляндия» без толп туристов откроется с новой стороны

Отдых в России
Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так? Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так?

Тем, кто любит побаловать себя суши или лобстером, следует быть осторожными

ТехИнсайдер
Зеленый свет Зеленый свет

Составь витаминный букет из зелени в знак любви к своему организму

Лиза
Витамин на букву «С». Что будет, если съесть много аскорбинок: возможные реакции организма Витамин на букву «С». Что будет, если съесть много аскорбинок: возможные реакции организма

Кажется, что аскорбинки можно есть бесконечно. Но это не так

Лиза
Тяга к свободе: 5 самых знаменитых и  дерзких побегов из тюрем Тяга к свободе: 5 самых знаменитых и  дерзких побегов из тюрем

Рассказываем о 5 самых неординарных попытках сбежать из мест не столь отдаленных

ТехИнсайдер
Половина зумеров сталкивается с выгоранием в первый год трудоустройства Половина зумеров сталкивается с выгоранием в первый год трудоустройства

Зумеры выгорают раньше всех, а миллениалы не любят свою профессию

Forbes
8 нюансов, из-за которых даже идеально убранный дом кажется грязным 8 нюансов, из-за которых даже идеально убранный дом кажется грязным

Оказывается, другие люди видят нюансы в уборке, которые мы не замечаем

VOICE
Капроновый чулок на голове: как попытка переодеть партнершу может быть формой абьюза Капроновый чулок на голове: как попытка переодеть партнершу может быть формой абьюза

Как влияние на стиль одежды партнера может быть формой абьюза

Forbes
Мафиози, байкер, отец Супермена. Марлону Брандо — 100 лет Мафиози, байкер, отец Супермена. Марлону Брандо — 100 лет

Знаковые роли крестного отца Марлона Брандо

СНОБ
Сон о счастливой Москве: фильму «Я шагаю по Москве» — 60 лет Сон о счастливой Москве: фильму «Я шагаю по Москве» — 60 лет

Почему «Я шагаю по Москве» — главный фильм в судьбе Георгия Данелии

СНОБ
7 правил, которые помогут выжить, если вы заботитесь о пожилом нарциссе 7 правил, которые помогут выжить, если вы заботитесь о пожилом нарциссе

Ваш пожилой отец, мать, бабушка — нарцисс? Вам никогда не удастся ему угодить

Psychologies
Бронетехника для выполнения специально-боевых задач Бронетехника для выполнения специально-боевых задач

Колесные бронированные машины как нельзя лучше подходят для задач Росгвардии

Обозрение армии и флота
10 способов чистки лимонной кислотой, о которых ты даже не подозревала 10 способов чистки лимонной кислотой, о которых ты даже не подозревала

Чистка лимонной кислотой — это классика уборки. Но знаешь ли ты о ней всё?

VOICE
Потеря контроля и безопасности: как справиться с культурным шоком за границей Потеря контроля и безопасности: как справиться с культурным шоком за границей

Разбираемся, как распознать культурный шок и эффективно справиться с ним

ТехИнсайдер
Ханами по-приморски Ханами по-приморски

Рододендрон – чудо дальневосточной природы и символ Приморья

Отдых в России
Холодный прием Холодный прием

Реальный случай, когда специалист не помог, а причинил вред

VOICE
Фэншуй: как улучшить отношения при помощи стихии огня Фэншуй: как улучшить отношения при помощи стихии огня

О первой форме энергии и, пожалуй, самой активной из них — стихии Огня.

VOICE
«Время заблуждений: Почему умные люди поддаются фальсификациям, распространяют слухи и верят в теории заговора» «Время заблуждений: Почему умные люди поддаются фальсификациям, распространяют слухи и верят в теории заговора»

Что такое мотивированное рассуждение?

N+1
Вы никогда этого не делали — и очень зря: как правильно чистить фен для волос Вы никогда этого не делали — и очень зря: как правильно чистить фен для волос

Для того, чтобы фен служил как можно дольше, его необходимо периодически чистить

ТехИнсайдер
«Внутри семьи Толстых культа Льва Толстого нет» «Внутри семьи Толстых культа Льва Толстого нет»

Владимир Толстой: каково осознавать себя потомком Льва Николаевича

Правила жизни
Для полного счастья Для полного счастья

Чтобы придумать систему питания для полных женщин, нужно быть одной из них

Лиза
В мире тонких энергий В мире тонких энергий

Яркая пара отечественного шоу-бизнеса — Оксана Устинова и Игорь Burito

OK!
Чем полезна ячневая каша для организма: 6 свойств Чем полезна ячневая каша для организма: 6 свойств

Ячневая каша: почему её недооценивают и какая в ней польза?

РБК
Первый загар. Где можно погреться уже сейчас Первый загар. Где можно погреться уже сейчас

Отправляемся туда, где сейчас можно подзарядиться солнечными лучами

Лиза
Археологи описали три каменные стелы из скифской «Долины царей» Археологи описали три каменные стелы из скифской «Долины царей»

Археологи описали находки, сделанные во время раскопок кургана Туннуг-1

N+1
Как на раз-два отмыть вафельницу с антипригарным покрытием с несъемными панелями Как на раз-два отмыть вафельницу с антипригарным покрытием с несъемными панелями

Как развести хмурые тучи и отмыть вашу электровафельницу с несъемными панелями

ТехИнсайдер
Никита Волков Никита Волков

Никита Волков постучался в наши двери и сердечки задолго до роли архитектора

Собака.ru
Упоительный «Барбенгеймер» во вселенной великой игры: каким получился сериал «Фоллаут» Упоительный «Барбенгеймер» во вселенной великой игры: каким получился сериал «Фоллаут»

«Фоллаут»: экранизация, которая нравится всем

Правила жизни
Самые надежные бензиновые и дизельные двигатели в мире Самые надежные бензиновые и дизельные двигатели в мире

ТОП-6 самых надежных двигателей в мире

РБК
Открыть в приложении