Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Отец ядерной бомбы»: 7 малоизвестных фактов о Роберте Оппенгеймере «Отец ядерной бомбы»: 7 малоизвестных фактов о Роберте Оппенгеймере

Какой жизнью жил Роберт Оппенгеймер и о чем больше всего жалел в её конце?

СНОБ
The Kooks — гении ретромании и самая недооцененная рок-группа нулевых The Kooks — гении ретромании и самая недооцененная рок-группа нулевых

В чем феномен британской группы The Kooks

СНОБ
Костенки: родина всех европейцев? Костенки: родина всех европейцев?

Человек разумный появился 40 тыс. лет назад именно здесь — в Костенках!

Зеркало Мира
Мне не страшно Мне не страшно

Почему нас пугает возраст и как этому можно противостоять

VOICE
Вместо таблетки Вместо таблетки

10 продуктов, которые лечат не хуже лекарств

Лиза
Попкорн — вред или польза для здоровья? Узнайте интересные факты о популярной закуске! Попкорн — вред или польза для здоровья? Узнайте интересные факты о популярной закуске!

Попкорн — относительно полезная закуска или вредный снэк?

ТехИнсайдер
Клуб добряков Клуб добряков

История женщины, которая справилась с потерями и теперь вдохновляет других

Новый очаг
Анфиса Чехова: «Я не тот человек, который верит во все подряд» Анфиса Чехова: «Я не тот человек, который верит во все подряд»

Любимые блюда Анфисы Чеховой. Каких принципов питания она придерживается?

Лиза
Хочу булочку! Хочу булочку!

Как есть мучное и при этом не набирать вес: советы нутрициолога

Лиза
Игра сёгунов Игра сёгунов

«Сёгун»: ревизия западного взгляда на феодальную Японию

Weekend
Почему мы верим в паранормальные явления Почему мы верим в паранормальные явления

Почему люди верят в паранормальное

ТехИнсайдер
Чек-лист тревожного человека: как понять, что тебе нужна помощь Чек-лист тревожного человека: как понять, что тебе нужна помощь

Как понять, что твоя тревожность уже вышла за рамки нормальной реакции

VOICE
2 главных признака того, что отношения стали скучными 2 главных признака того, что отношения стали скучными

Отсутствие новизны в отношениях рано или поздно настигнет вас

Psychologies
Константин Дебликов: «Насколько ты будешь функциональным, зависит не от протеза, а от тебя» Константин Дебликов: «Насколько ты будешь функциональным, зависит не от протеза, а от тебя»

Человек-киборг Константин Дебликов — каково это жить с новыми и разными руками

РБК
Теодор Курентзис, дирижер-харизматик Теодор Курентзис, дирижер-харизматик

Оркестр musicAeterna — редкий случай среди независимых симфонических оркестров

Монокль
«Тихие радости семейственности»: отрывок из новой книги журналистки Аси Казанцевой «Тихие радости семейственности»: отрывок из новой книги журналистки Аси Казанцевой

Откуда берется желание стать родителем, что может его укрепить, а что пошатнуть

Forbes
У меня лапки У меня лапки

Паралич воли: что делать с выученной беспомощностью

Новый очаг
Сто смет одиночества Сто смет одиночества

Есть ли шанс привить миллениалам и зумерам ценности многодетной семьи

Монокль
Как телефон убивает отношения Как телефон убивает отношения

Что-то пошло не так, и гаджеты всё чаще вызывают ссоры и ревность

Здоровье
Как США стали сверхдержавой и почему им в этом помогли союзы с диктаторами и Голливуд Как США стали сверхдержавой и почему им в этом помогли союзы с диктаторами и Голливуд

Глава из книги «Американцы и все остальные: Истоки и смысл внешней политики США»

Forbes
Наталия Архангельская Наталия Архангельская

Наталия Архангельская выжгла дотла первоосновы русского люкса и глянца

Собака.ru
Кубрик после Кубрика Кубрик после Кубрика

10 наследников Стэнли Кубрика по кривой

Weekend
Разговоры о яйцах: какие лучше — C0, C1 или C2? Разговоры о яйцах: какие лучше — C0, C1 или C2?

Что означают буквы и цифры на яйцах? Как правильно яйца хранить?

ТехИнсайдер
Терминальная стадия: как в Черном море стало тесно продавцам зерна Терминальная стадия: как в Черном море стало тесно продавцам зерна

Через зерновые терминалы Черного моря уходит до 90% зерновых на экспорт

Forbes
Мексиканская Калифорния с севера на юг Мексиканская Калифорния с севера на юг

Калифорнийский полуостров — место особенное

Y Magazine
В мире странствий В мире странствий

Мы поговорили с Ниной о том, как важно ничего не бояться, даже «в Африку гулять»

OK!
Планета Китай Планета Китай

Переезд в Поднебесную с детьми — личный опыт

Новый очаг
Свинья Пигкассо, одноухий питбуль Ван Гог и конь Чойя. Животные-художники, которые зарабатывали миллионы долларов Свинья Пигкассо, одноухий питбуль Ван Гог и конь Чойя. Животные-художники, которые зарабатывали миллионы долларов

Почему Пигкассо стала рисовать и какие еще животные заработали миллионы?

СНОБ
Источники энергии Источники энергии

Кетогенная диета – система питания, придуманная почти сто лет назад

Добрые советы
Точка баланса Точка баланса

Интерьер как фон для произведений искусства

RR Люкс.Личности.Бизнес.
Открыть в приложении