Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 способов похудеть — от худшего к лучшему 10 способов похудеть — от худшего к лучшему

Вредные (и не очень) советы о том, как похудеть

Psychologies
Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так? Ученые назвали креветки и омара «токсичной едой, которая вызывает рак». Как так?

Тем, кто любит побаловать себя суши или лобстером, следует быть осторожными

ТехИнсайдер
Культовые кроссовки, выпуск 18: история New Balance 997 — классической беговой модели Культовые кроссовки, выпуск 18: история New Balance 997 — классической беговой модели

Беговая модель кроссовок, которые в свое время оценил даже Билл Клинтон

Правила жизни
Просто принцесса Просто принцесса

Как прокачать в себе женственность: лайфхаки от психолога

Лиза
Ярослава Пулинович: «Земля Эльзы». Фрагмент из монолога Ярослава Пулинович: «Земля Эльзы». Фрагмент из монолога

«Наташина мечта»: отрывок из сборника драматурга Ярославы Пулинович

СНОБ
Приседание плие: как правильно делать и каких ошибок избегать Приседание плие: как правильно делать и каких ошибок избегать

В классической хореографии приседания плие — основа для комплексных движений

РБК
На связи с рынком: чем интересно размещение на бирже акций МТС Банка На связи с рынком: чем интересно размещение на бирже акций МТС Банка

Что в бизнес-модели МТС Банка несет риски и преимущества для инвесторов

Forbes
Археологи описали три каменные стелы из скифской «Долины царей» Археологи описали три каменные стелы из скифской «Долины царей»

Археологи описали находки, сделанные во время раскопок кургана Туннуг-1

N+1
Ни дать ни взять: бизнес не хочет делиться с государством данными Ни дать ни взять: бизнес не хочет делиться с государством данными

Бизнес не хочет бесплатно отдавать государству персональные данные клиентов

Forbes
6 вопросов, которые помогут спасти разговор 6 вопросов, которые помогут спасти разговор

Вопросы, которые сделают любую беседу по-настоящему интересной

Maxim
Мигранты развиваются вместе с российской экономикой Мигранты развиваются вместе с российской экономикой

Растет численность квалифицированного персонала из стран ближнего зарубежья

Монокль
Нзинга Мбади Нгола: как африканская королева 40 лет сражалась с колонизаторами Нзинга Мбади Нгола: как африканская королева 40 лет сражалась с колонизаторами

История африканской королевы, которая была готова пойти на всё ради своей страны

Forbes
Рим наш Рим наш

Разбираемся в том, как работало римское усыновление

Правила жизни
10 умных лайфхаков по чистке холодильника: советы профессиональных клинеров 10 умных лайфхаков по чистке холодильника: советы профессиональных клинеров

Как облегчить чистку холодильника?

VOICE
Как освободиться от психологии бедняка: 4 совета Как освободиться от психологии бедняка: 4 совета

Что мешает вам зарабатывать столько, сколько вы хотите?

Psychologies
Разум в наследство Разум в наследство

Откуда взялась наша центральная нервная система – головной и спинной мозг?

Вокруг света
«Не держите сцепление выжатым, убьете»: это правда или миф «Не держите сцепление выжатым, убьете»: это правда или миф

«Не держите сцепление выжатым!» Мы имеем дело с очередной страшилкой

ТехИнсайдер
Самая длинная династия Самая длинная династия

О судьбе египетского рода, подарившего миру духи, археологию и монотеизм

Правила жизни
8 причин, почему россияне все чаще расстаются после 20 лет брака 8 причин, почему россияне все чаще расстаются после 20 лет брака

Что такое «серый развод»? И почему россияне разводятся после 30 лет брака?

Psychologies
Все в ажуре: зачем торговец медом потратил 700 млн рублей на народный промысел Все в ажуре: зачем торговец медом потратил 700 млн рублей на народный промысел

Как семье Георгиевых удалось монетизировать крестьянскую вышивку

Forbes
Где русская женщина, там всегда притяжение Где русская женщина, там всегда притяжение

Юлия Пересильд известна своей искренностью — это делает ее неуязвимой

OK!
Идеал — квартира после пожара Идеал — квартира после пожара

Флипинг — новый тренд на рынке недвижимости

СНОБ
Российский бренд на Балтике: янтарная история РФ Российский бренд на Балтике: янтарная история РФ

Знакомьтесь с очередным драйвером экономики, задающим тренды мирового рынка

ФедералПресс
Между всех огней Между всех огней

Период Директории УНР — важнейший этап в истории украинской нации

Дилетант
Секстинг и еще 6 признаков микроизмены Секстинг и еще 6 признаков микроизмены

Как понять, что партнера «ведет в сторону», объясняет сексотерапевт

Psychologies
Сочувствие парню Месть Сочувствие парню Месть

«Манкимен»: идеальное кино по версии Дева Патела

Weekend
Как раз и навсегда избавиться от клещей на дачном участке Как раз и навсегда избавиться от клещей на дачном участке

Как быть, если у вас завелись клещи на дачном участке?

ТехИнсайдер
«Синдром половика»: почему люди вытирают о вас ноги «Синдром половика»: почему люди вытирают о вас ноги

Если вам часто кажется, что окружающие вас используют, то вам не кажется

Psychologies
Неземное хобби: чем увлекались на отдыхе Гагарин, Армстронг и еще 7 известных космонавтов Неземное хобби: чем увлекались на отдыхе Гагарин, Армстронг и еще 7 известных космонавтов

Какие увлечения были у известных космонавтов?

ТехИнсайдер
Стройность на кончике вилки Стройность на кончике вилки

Что такое форкинг-диета и правда ли на ней можно похудеть?

Лиза
Открыть в приложении