Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

О чем фильм «Барби»: 5 теорий — версии фанатов О чем фильм «Барби»: 5 теорий — версии фанатов

В чем смысл фильма «Барби»?

Psychologies
Окно в лес Окно в лес

Как в доме в пригороде Казани интерьер стал продолжением лесного пейзажа

RR Люкс.Личности.Бизнес.
Что смотреть в выходные: 6 новых российских сериалов, которые вы могли пропустить Что смотреть в выходные: 6 новых российских сериалов, которые вы могли пропустить

Новые отечественные сериалы: от серьезных драм до кринж- и метакомедий

Правила жизни
Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так? Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так?

Тем, кто любит побаловать себя суши или лобстером, следует быть осторожными

ТехИнсайдер
Дом с подвохом Дом с подвохом

Девять признаков опасной квартиры на вторичном рынке

Лиза
Александр Цыпкин: «Я не читаю свои рассказы ни за какие деньги, когда люди сидят за столами и едят. Ну, пока не читаю» Александр Цыпкин: «Я не читаю свои рассказы ни за какие деньги, когда люди сидят за столами и едят. Ну, пока не читаю»

«С детских лет меня особо привлекала приключенческая литература»

Коллекция. Караван историй
Что делать с детской истерикой: 5 советов, чтобы успокоить ребенка Что делать с детской истерикой: 5 советов, чтобы успокоить ребенка

Что делать родителям, если у ребенка истерика? Как её предотвратить?

Psychologies
Молодые самцы лазоревок уступили чужих самок старшим сородичам Молодые самцы лазоревок уступили чужих самок старшим сородичам

В отсутствии старших самцов лазоревок репродуктивный успех молодых увеличился

N+1
Глупые вопросы о ПДД, которые вызывают недоумение даже у бывалых водителей Глупые вопросы о ПДД, которые вызывают недоумение даже у бывалых водителей

Правила ПДД, которые озадачивают любого водителя до сих пор

Maxim
Зачем люди делают татуировки? Узнайте интересные факты из психологии Зачем люди делают татуировки? Узнайте интересные факты из психологии

Для некоторых людей татуировки — это способ преодоления травмы

ТехИнсайдер
Телескоп Gaia отыскал рекордно массивную черную дыру звездной массы в Млечном Пути Телескоп Gaia отыскал рекордно массивную черную дыру звездной массы в Млечном Пути

Телескоп Gaia обнаружил рекордно массивную черную дыру звездной массы

N+1
Чем мыши отличаются от крыс Чем мыши отличаются от крыс

Почему нам нравятся мыши, но раздражают крысы? В чем между ними разница?

ТехИнсайдер
Историк экономики Быков: «Нам нужна самодостаточность, а не прибыль» Историк экономики Быков: «Нам нужна самодостаточность, а не прибыль»

Зачем России нужна экономика самодостаточности, чем она отличается от автаркии?

ФедералПресс
Как быстро почистить и избавить от запахов тканевый диван: советы клинеров Как быстро почистить и избавить от запахов тканевый диван: советы клинеров

Быстрая чистка тканевого дивана: пошаговая инструкция

VOICE
«Внутри семьи Толстых культа Льва Толстого нет» «Внутри семьи Толстых культа Льва Толстого нет»

Владимир Толстой: каково осознавать себя потомком Льва Николаевича

Правила жизни
Как выбрать аккумулятор в автомобиль, и какой лучше Как выбрать аккумулятор в автомобиль, и какой лучше

Аккумулятор в современном автомобиле — не просто «батарейка»

РБК
6 продуктов питания, которые лишь кажутся «натуральными и здоровыми» 6 продуктов питания, которые лишь кажутся «натуральными и здоровыми»

Ученый-диетолог объясняет влияние продуктов, которые принимают за «полезные»

ТехИнсайдер
ПЭТ/МРТ помогла избежать ненужных биопсий при диагностике рака простаты ПЭТ/МРТ помогла избежать ненужных биопсий при диагностике рака простаты

ПЭТ/МРТ позволяет дифференцировать случаи подозрения на рак простаты

N+1
Прирожденные певцы: для чего и о чем поют птицы Прирожденные певцы: для чего и о чем поют птицы

О чем все время поют птицы? Зачем они это делают?

ТехИнсайдер
«Урал» из Испании и «Спартак» из Англии: как в мире появились тезки российских клубов «Урал» из Испании и «Спартак» из Англии: как в мире появились тезки российских клубов

Команды с привычными для болельщиков названиями существуют и в дальнем зарубежье

Forbes
Уголок Севильи Уголок Севильи

Изучаем столицу Вятского края с экстравагантным местным гидом

Отдых в России
Ребекка Куанг: «Йеллоуфейс». Фрагмент из романа Ребекка Куанг: «Йеллоуфейс». Фрагмент из романа

Отрывок из романа-бестселлера о плагиате Ребекки Куанг

СНОБ
Усиление прибрежных апвеллингов назвали угрозой для мигрирующих морских обитателей Усиление прибрежных апвеллингов назвали угрозой для мигрирующих морских обитателей

Гибель сотен морских животных оказалась связана с усилением апвеллинга

N+1
Подвязочные змеи прошли обонятельный аналог зеркального теста Подвязочные змеи прошли обонятельный аналог зеркального теста

Биологи провели обонятельный зеркальный тест с подвязочными змеями

N+1
Нужны ли мигранты российскому «оливье» Нужны ли мигранты российскому «оливье»

Первым запросом после теракта было ужесточение контроля за миграционным потоком

Монокль
7 способов быстро отмыть жир с фартука на кухне: рейтинг самых эффективных 7 способов быстро отмыть жир с фартука на кухне: рейтинг самых эффективных

Какие экспресс-методы удаления жира с фартука существуют?

VOICE
За и против За и против

Друзья и враги Симона Петлюры иногда переходили из одного стана в другой

Дилетант
«От саванны до дивана: Эволюционная история кошек» «От саванны до дивана: Эволюционная история кошек»

Почему внешность домашних кошек разнообразнее, чем у их предков

N+1
Нуар с двойным дном Нуар с двойным дном

«Шугар»: Колин Фаррелл копипастит голливудскую классику

Weekend
Александр Соколов: «Мы — регион белой нефти» Александр Соколов: «Мы — регион белой нефти»

Какие меры принимаются в Кировской области для улучшения качества

ФедералПресс
Открыть в приложении