Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Для чего нужен «лосиный тест» и как он помог Toyota? Для чего нужен «лосиный тест» и как он помог Toyota?

Из всех существующих автомобильных испытаний, наиболее известен «тест лося»

4x4 Club
Новый дивидендный сезон: что частные инвесторы получат по его итогам Новый дивидендный сезон: что частные инвесторы получат по его итогам

Кто и сколько заплатит акционерам и что из этого достанется частным инвесторам?

Forbes
Глубокое обучение привлекли к проблеме аномального магнитного момента мюона Глубокое обучение привлекли к проблеме аномального магнитного момента мюона

Нейросеть пригодится в будущих экспериментах повышенной светимости

N+1
Как успокоить любимую женщину? Как успокоить любимую женщину?

Как оставаться целым, когда эмоции партнера зашкаливают?

Maxim
Что страшнее: устать или не уметь расслабляться? Что страшнее: устать или не уметь расслабляться?

Умеете ли вы определять меру собственной усталости?

Psychologies
Марсоход Curiosity расскажет, как с планеты уходила вода Марсоход Curiosity расскажет, как с планеты уходила вода

Марсоход NASA Curiosity начал исследование нового региона Марса

ТехИнсайдер
Время Евы Время Евы

История о том, как ученые всех запутали библейской метафорой об Адаме и Еве

Вокруг света
Жительница Нидерландов решила сделать эвтаназию в 28 лет из-за депрессии Жительница Нидерландов решила сделать эвтаназию в 28 лет из-за депрессии

Как депрессия может довести человека до крайности и что об этом думают психологи

Psychologies
Капкан развития: почему для ресторанной индустрии успех обернулся творческим кризисом Капкан развития: почему для ресторанной индустрии успех обернулся творческим кризисом

Почему успех обернулся для шефов и рестораторов творческим кризисом

Forbes
Как найти идеального партнера по типу личности: 4 сценария Как найти идеального партнера по типу личности: 4 сценария

Партнер какого типа личности вам подходит?

Psychologies
Мэр Якутска: как победить пыль и неблагоустроенность Мэр Якутска: как победить пыль и неблагоустроенность

Чем вызваны особенные недостатки столицы Якутии?

ФедералПресс
Как лечить зубы недорого Как лечить зубы недорого

Секреты от стоматолога, которые помогут сэкономить на лечении зубов

Лиза
Археологи описали три каменные стелы из скифской «Долины царей» Археологи описали три каменные стелы из скифской «Долины царей»

Археологи описали находки, сделанные во время раскопок кургана Туннуг-1

N+1
Самые простые способы очистки микроволновой печи: советы профессиональных клинеров Самые простые способы очистки микроволновой печи: советы профессиональных клинеров

Сохранить микроволновку сияющей очень просто — достаточно использовать лайфхаки

VOICE
Новый партнер: 7 пунктов, на которые стоит обратить особое внимание Новый партнер: 7 пунктов, на которые стоит обратить особое внимание

Анализировать отношения с самого их начала бывает крайне полезно!

Psychologies
В Москве поймали «кислотного маньяка» из Монино: как защитить себя от таких людей — инструкция В Москве поймали «кислотного маньяка» из Монино: как защитить себя от таких людей — инструкция

Есть ли способ помочь себе в случае агрессии маньяка?

Psychologies
Жизнь технологии после хайпа: 4 главных вопроса о развитии метавселенной Жизнь технологии после хайпа: 4 главных вопроса о развитии метавселенной

Куда движется развитие метавселенной, как в нее попасть?

ТехИнсайдер
Новая эстетика: как рестораторы возрождают пивную культуру в Москве Новая эстетика: как рестораторы возрождают пивную культуру в Москве

Почему пиво и вино не конкуренты и в чем сложность открытия в Дубае

Forbes
Как и чем почистить дроссельную заслонку и как часто нужно это делать Как и чем почистить дроссельную заслонку и как часто нужно это делать

Все о чистке дросселя: нужно ли это делать, и какие могут быть последствия

РБК
10 простых способов успокоиться, если вас бесят подчиненные 10 простых способов успокоиться, если вас бесят подчиненные

Что делать, если кто-то доводит вас до точки кипения одним только присутствием?

Inc.
6 книг о токсичном родительстве и его последствиях 6 книг о токсичном родительстве и его последствиях

Книги, в которых поднимается тема токсичного родительства

Psychologies
Где искать чувство собственного достоинства: путеводитель от психолога Где искать чувство собственного достоинства: путеводитель от психолога

Почему развивается склонность к перманентному чувству вины и критиканству

Psychologies
«Увидев себя в фильме «Москва слезам не верит», Ирина Муравьева горько заплакала» «Увидев себя в фильме «Москва слезам не верит», Ирина Муравьева горько заплакала»

Вспоминания прошлых лет об актрисе Ирине Муравьевой

Коллекция. Караван историй
Тревожная кнопка Тревожная кнопка

В чем причины повышенной тревожности и как с ней справиться

Лиза
Семинарист, журналист, революционер Семинарист, журналист, революционер

У Булгакова Петлюра предстаёт персонажем мистическим, почти Антихристом

Дилетант
Брокколи Брокколи

Почему броколли считается суперфудом?

Здоровье
«В нашем институте представлены все направления современной астрономии» «В нашем институте представлены все направления современной астрономии»

Директор ГАИШ — об истории института имени П.К. Штернберга МГУ

Зеркало Мира
Третье испытание «Старшипа» Третье испытание «Старшипа»

Очередной и очень ощутимый шаг вперед гигантского гибрида ракеты и звездолета

Наука
Холодный прием Холодный прием

Реальный случай, когда специалист не помог, а причинил вред

VOICE
Октановое число: суть вопроса простыми словами, и на что оно влияет Октановое число: суть вопроса простыми словами, и на что оно влияет

Октановое число в немалой степени определяет эффективность работы двигателя

РБК
Открыть в приложении