Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кража с обломом. 20 cамых смешные ограбления двухтысячных Кража с обломом. 20 cамых смешные ограбления двухтысячных

Идиотами оказываются то грабители, то пострадавшие

Maxim
Мужчина, который не умеет дарить подарки: как его научить (чтобы он ничего не заметил) Мужчина, который не умеет дарить подарки: как его научить (чтобы он ничего не заметил)

Как научить партнера играть в игру «подари правильный подарок»?

VOICE
Мир на ощупь: как XXI век изменил жизнь незрячих людей Мир на ощупь: как XXI век изменил жизнь незрячих людей

Каким же тогда «видит» мир человек, лишенный зрения?

Psychologies
Украшаем стол Украшаем стол

Необычные идеи окрашивания яиц и украшения стола

Лиза
От Новой Зеландии до Бангладеш: в каких странах самый чистый и самый грязный воздух От Новой Зеландии до Бангладеш: в каких странах самый чистый и самый грязный воздух

Как маленькие частицы способны убить человека?

Forbes
ТОП-7 удивительных фактов о космосе, о которых вы не знали ТОП-7 удивительных фактов о космосе, о которых вы не знали

Какое отношение лимоны и малина имеют к космосу? Не знаете? Сейчас мы вас удивим

ТехИнсайдер
Не Москвой единой: какие регионы России стали центром развития локальной гастрономии Не Москвой единой: какие регионы России стали центром развития локальной гастрономии

Какие города России оказались первыми на пути движения гастрономического эшелона

Forbes
Проклятый «Спартак»: все тренеры, которых клуб уволил в XXI веке Проклятый «Спартак»: все тренеры, которых клуб уволил в XXI веке

Все тренера «красно-белых», которые работали в клубе со времен Олега Романцева

Forbes
Топ-10 необычных и полезных приборов для кухни Топ-10 необычных и полезных приборов для кухни

Гаджеты, которые упрощают привычные бытовые дела на кухне

ТехИнсайдер
Секс-просвет, мутанты и монархия: 20 сериалов Netflix, которые нужно посмотреть всем Секс-просвет, мутанты и монархия: 20 сериалов Netflix, которые нужно посмотреть всем

Проекты Netflix, на которые не жалко потратить драгоценное время.

Правила жизни
Как выбрать леску для триммера: виды, отличия, рекомендации Как выбрать леску для триммера: виды, отличия, рекомендации

Какой леской лучше косить траву триммером? На что обратить внимание при выборе?

CHIP
Красиво и натурально: 10 способов покрасить пасхальные яйца без «химии» Красиво и натурально: 10 способов покрасить пасхальные яйца без «химии»

Собрали 10 простых и красивых способов покрасить яйца к празднику

ТехИнсайдер
«Аутизм коварен: мне казалось, что со Степой все в порядке» «Аутизм коварен: мне казалось, что со Степой все в порядке»

История женщины, воспитывающей ребенка с аутизмом

Psychologies
Смену власти в майяском городе отметили сожжением останков прежних правителей Смену власти в майяском городе отметили сожжением останков прежних правителей

Следы сожжения останков правителей археологи нашли в одной из пирамид

N+1
6 фильмов об ограблениях, основанные на реальных событиях 6 фильмов об ограблениях, основанные на реальных событиях

Реальность часто подкидывает режиссерам и сценаристам сюжеты для кино

Maxim
«Джойка»: стоит ли смотреть байопик об американской балерине Большого театра «Джойка»: стоит ли смотреть байопик об американской балерине Большого театра

Что получилось из желания западных авторов понять загадочный русский балет

Forbes
Что делают клинеры, чтобы в доме пахло свежестью: 10+ секретов профессионалов Что делают клинеры, чтобы в доме пахло свежестью: 10+ секретов профессионалов

Хочешь знать, как устранить неприятные запахи в доме?

VOICE
Генеральная уборка: избавиться от бардака в вещах, мыслях, эмоциях и отношениях Генеральная уборка: избавиться от бардака в вещах, мыслях, эмоциях и отношениях

Привнося гармонию в окружение, мы можем упорядочить свое внутреннее пространство

Psychologies
10 простых способов успокоиться, если вас бесят подчиненные 10 простых способов успокоиться, если вас бесят подчиненные

Что делать, если кто-то доводит вас до точки кипения одним только присутствием?

Inc.
От заката до заката От заката до заката

«Судная ночь в Аркадии»: Николас Кейдж после очередного конца света

Weekend
10 простых советов, которые помогут снова полюбить свою жизнь 10 простых советов, которые помогут снова полюбить свою жизнь

Советы, которые помогут снова почувствовать радость жизни

Psychologies
Тираннозавры оказались глупее, чем считали ученые Тираннозавры оказались глупее, чем считали ученые

Тираннозавр был не умнее среднестатистической ящерицы или крокодила

ТехИнсайдер
Коллекционер ДНК Коллекционер ДНК

В конце прошлого года ученые описали ранее неизвестную органеллу эксклюсому

N+1
Гигант с крутым нравом Гигант с крутым нравом

Бегемот — животное дружелюбное на вид, но обладающее крайне скверным нравом

Зеркало Мира
Генпрокуратура пришла в суд: кто и почему выбыл из российского списка Forbes за год Генпрокуратура пришла в суд: кто и почему выбыл из российского списка Forbes за год

За год российский список Forbes покинули восемь миллиардеров. Кто это и почему?

Forbes
Полибромированные дифениловые эфиры связали с повышенным риском смерти от рака Полибромированные дифениловые эфиры связали с повышенным риском смерти от рака

Смерть от рака и содержание полибромированных дифениловых эфиров в крови

N+1
Синдбад-коммивояжёр Синдбад-коммивояжёр

Канонический Синдбад из древних арабских сказок был купцом из Багдада

Дилетант
Спасение Колумба от смерти и подтверждение теории Эйнштейна: 5 солнечных затмений, которые повлияли на ход истории Спасение Колумба от смерти и подтверждение теории Эйнштейна: 5 солнечных затмений, которые повлияли на ход истории

В разные периоды солнечные затмения по-разному влияли на историю

ТехИнсайдер
Кто такой ёкарный бабай и что на Руси знали о тонкостях пикапа: 9 необычных книг о славянской культуре Кто такой ёкарный бабай и что на Руси знали о тонкостях пикапа: 9 необычных книг о славянской культуре

Приготовьтесь к погружению в мифические истории, о которых вы точно не знаете

ТехИнсайдер
45 в «кубе» 45 в «кубе»

За что мы любим «Гелендваген»

Автопилот
Открыть в приложении