Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что скрывает этикетка Что скрывает этикетка

Научиться расшифровывать эти загадочные и малопонятные надписи не так уж сложно

Лиза
Компьютерный супермозг: каким будет следующий уровень развития ИИ Компьютерный супермозг: каким будет следующий уровень развития ИИ

Что такое эмерджентный интеллект, как он будет выглядеть и какое влияние окажет

ТехИнсайдер
«Претенденты» Луки Гуаданьино: как итальянец снял один из самых злых ромкомов этого года «Претенденты» Луки Гуаданьино: как итальянец снял один из самых злых ромкомов этого года

«Претенденты»: злой и хулиганский ромком от Луки Гуаданьино

Правила жизни
Царь Ирод Царь Ирод

Царь Ирод: злой гений или величайший строитель?

Знание – сила
Устойчивая к лечению депрессия повысила риск ее развития у родственников Устойчивая к лечению депрессия повысила риск ее развития у родственников

В развитии большого депрессивного расстройства генетика играет большую роль

N+1
Теория суперструн Теория суперструн

Ученые нашли теорию, которая раскрывает все неразрешимые загадки Вселенной

Зеркало Мира
Городские хроники Городские хроники

Куда отправиться, чтобы увидеть лучшие образцы современной настенной живописи?

Вокруг света
Военная галерея Военная галерея

Перед главным залом Зимнего дворца несут вечную службу герои войны 1812 года

Дилетант
«Шестидесятые сейчас на пике»: коллекционер Валерий Дудаков о ярмарке «Арт Москва» «Шестидесятые сейчас на пике»: коллекционер Валерий Дудаков о ярмарке «Арт Москва»

Валерий Дудаков, крупный московский коллекционер и арт-дилер, на «Арт Москва»

Forbes
Юлия Шляпникова: «Наличники». Мистический роман о родовых проклятиях Юлия Шляпникова: «Наличники». Мистический роман о родовых проклятиях

Призраки прошлого в мистическом романе Юлии Шляпниковой «Наличники»

СНОБ
Милостыня остается самой популярной формой благотворительности в России Милостыня остается самой популярной формой благотворительности в России

В 2023 году благотворительные пожертвования делали 53% россиян

Forbes
Как сказка помогает справиться с комплексами и изменить жизнь Как сказка помогает справиться с комплексами и изменить жизнь

Как сказкотерапия помогает детям и взрослым?

Psychologies
«Белая нефть» XXI века «Белая нефть» XXI века

Литий твердо занял важное место в хозяйственной жизни людей

Знание – сила
Майя Сантимирова — о культуре повседневности и коллекционном фарфоре Майя Сантимирова — о культуре повседневности и коллекционном фарфоре

«Палаты» — проект, в котором века с легкостью соединяются с современностью

РБК
Анатолий Вассерман: «В эпоху благополучия люди тратят силы не на деторождение» Анатолий Вассерман: «В эпоху благополучия люди тратят силы не на деторождение»

Анатолий Вассерман — о том, какие проблемы стоят перед страной

ФедералПресс
Как убирать спальню каждый день, раз в неделю и раз в месяц: советы профессиональных клинеров Как убирать спальню каждый день, раз в неделю и раз в месяц: советы профессиональных клинеров

Как поддерживать в спальне чистоту и порядок?

VOICE
Стесняюсь спросить: как не потеряться в изобилии онлайн-курсов и грамотно построить дистанционное обучение? Стесняюсь спросить: как не потеряться в изобилии онлайн-курсов и грамотно построить дистанционное обучение?

Как организовать дистанционное обучение, чтобы получить на выходе крепкие знания

Правила жизни
Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так? Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так?

Тем, кто любит побаловать себя суши или лобстером, следует быть осторожными

ТехИнсайдер
Урал: от природной кладовой к промышленному производству Урал: от природной кладовой к промышленному производству

Когда мы говорим о природных богатствах России, прежде всего вспоминается Урал

Знание – сила
Б. Э. Пэрис: «Похищение». Глава из триллера Б. Э. Пэрис: «Похищение». Глава из триллера

Захватывающий триллер Б. Э. Пэрис «Похищение» о последствиях брака по расчету

СНОБ
Чем полезен щавель и кому лучше от него отказаться Чем полезен щавель и кому лучше от него отказаться

Щавель насыщен витаминами и органическими кислотами, а потому очень полезен

РБК
Разум в наследство Разум в наследство

Откуда взялась наша центральная нервная система – головной и спинной мозг?

Вокруг света
Как женщине понять мужчину: рекомендации психолога Как женщине понять мужчину: рекомендации психолога

Как понять мужскую психологию?

Psychologies
План «Б» План «Б»

Истории звезд о казусах во время путешествий по миру

Grazia
Минэкономразвития повысило прогноз по росту экономики и доходов: что за этим стоит Минэкономразвития повысило прогноз по росту экономики и доходов: что за этим стоит

Минэкономразвития пересмотрело трехлетний прогноз экономического развития

Forbes
«Ты мне не отец!»: что важно знать отчиму, чтобы наладить отношения с неродным ребенком «Ты мне не отец!»: что важно знать отчиму, чтобы наладить отношения с неродным ребенком

Как выстроить дружеские и доверительные отношения с пасынком или падчерицей?

Psychologies
«Региональным банкам нужен особый статус» «Региональным банкам нужен особый статус»

О том, как повысить роль средних региональных банков и стимулировать их развитие

Монокль
10+ неожиданных способов использовать отпариватель для одежды во время уборки: советы клинеров 10+ неожиданных способов использовать отпариватель для одежды во время уборки: советы клинеров

Рассказываем, как использовать отпариватель для одежды во время уборки

VOICE
Пылающие горы Пылающие горы

Башкиры всегда относились к Янгантау с большим пиететом. А как иначе?

Лиза
Союз вкусов: как рестораны создают коллаборации с модными и косметическими брендами Союз вкусов: как рестораны создают коллаборации с модными и косметическими брендами

Из чего сделаны новые гастрономические коллаборации и в чем их смысл

Forbes
Открыть в приложении