Смогут ли системы функционировать без прямого вмешательства человека?

ForbesHi-Tech

Думай сам: когда человечество создаст сильный ИИ и как это отразится на обществе

Иван Гиганов

Бен Герцель (Фото Nora Tam / South China Morning Post via Getty Images)

Известный ученый и популяризатор концепции общего искусственного интеллекта (Artificial General Intelligence, AGI) Бен Герцель в ходе своего выступления на Beneficial AGI Summit 2024 в Панаме в марте предсказал появление ИИ, который будет таким же умным, как человек, уже в ближайшие три года. По его мнению, момент сингулярности в развитии ИИ быстро приближается. Создание ИИ, способного самостоятельно мыслить, волнует человечество. О том, смогут ли системы функционировать без прямого вмешательства человека, какие технологические препятствия существуют на данный момент, а главное — насколько обосновано создание такого искусственного интеллекта, рассказывает ИИ-эксперт и управленческий консультант Иван Гиганов.

Сильный и слабый ум

Под самостоятельным мышлением в контексте ИИ понимается его способность функционировать и принимать решения без прямого вмешательства человека. Эта способность — ключевой признак сильного ИИ, или AGI. Самостоятельное мышление предполагает наличие следующих навыков:

  • умения адаптироваться к выполнению новых, заранее не запрограммированных задач;
  • обучаемости на основе собственного, в том числе единичного, опыта;
  • критического мышления;
  • способности ставить себе новые задачи.

Такая система будет способна адаптироваться к любой новой задаче без необходимости специального программирования со стороны человека. Она сможет разложить сложную задачу на несколько простых, собрать необходимую информацию, обработать результаты и сделать логические выводы, предложить дальнейшие шаги и обучиться на полученном опыте. При этом сильный ИИ должен уметь взаимодействовать не только с цифровым миром, но и с физическим.

Современные же алгоритмы ИИ относятся к категории слабого. Они предназначены для решения узких задач: сгенерировать текст, поиграть в шахматы, спрогнозировать стоимость акций. У подобных систем нет гибкости — они ограничены заданными сценариями использования, а их ответы или действия обычно базируются на данных, которые в них внесли программисты и пользователи.

Мыслить независимо

Хотя современные алгоритмы относятся к слабому ИИ, некоторые из них уже обладают навыками, присущими сильному. Рассмотрим их подробнее.

Генеративные модели. Генеративные нейронные сети, лежащие в основе ChatGPT от OpenAI и Gemini от Google, приобрели впечатляющую обобщающую способность. Она позволяет им адаптироваться и решать задачи, выходящие за рамки первоначальных данных и функций, для которых они были обучены. Например, GPT-4, изначально обученный для генерации текста, близкого к человеческому, освоил принципы программирования и теперь может создавать часто работающий программный код. Многие современные генеративные модели являются мультимодальными, то есть могут работать с различными типами данных — не только с текстом, но и с видео или звуком. Это расширяет их способности анализировать и в будущем взаимодействовать с окружающим миром.

Кроме того, если попросить, эти модели способны разложить сложную задачу на более простые шаги, решить их отдельно и предоставить логически обоснованный ответ. Эта техника известна как «цепь рассуждений» (Chain-of-Thought). Конечно, эти модели не обладают концептуальным и ассоциативным мышлением, присущим человеку. Однако можно сказать, что они начинают проявлять зачатки того, что в будущем станет критическим мышлением.

Обучение с подкреплением. Технология обучения с подкреплением, или Reinforcement Learning (RL), позволяет ИИ учиться на основе собственного опыта, анализируя окружающую среду и испытывая различные стратегии действий. ИИ получает вознаграждение за желаемый результат и штраф — за нежелательный. Его задача — найти такую стратегию, которая позволит заработать максимальное вознаграждение.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Завтрак на траве Завтрак на траве

Как легко, без спешки и, главное, правильно подготовиться к пикнику?

Лиза
Правда, что от страха можно поседеть за одну ночь? Правда, что от страха можно поседеть за одну ночь?

Неужели действительно можно в одночасье поседеть?

ТехИнсайдер
Я художник, я так вижу Я художник, я так вижу

Об удачных ошибках в мире искусства

Grazia
Ледяное «сердце» Плутона объяснили косым столкновением с крупным телом Ледяное «сердце» Плутона объяснили косым столкновением с крупным телом

Исследование: подповерхностного океана на карликовой планете может и не быть

N+1
Как убирать спальню каждый день, раз в неделю и раз в месяц: советы профессиональных клинеров Как убирать спальню каждый день, раз в неделю и раз в месяц: советы профессиональных клинеров

Как поддерживать в спальне чистоту и порядок?

VOICE
Капкан развития: почему для ресторанной индустрии успех обернулся творческим кризисом Капкан развития: почему для ресторанной индустрии успех обернулся творческим кризисом

Почему успех обернулся для шефов и рестораторов творческим кризисом

Forbes
Пылающие горы Пылающие горы

Башкиры всегда относились к Янгантау с большим пиететом. А как иначе?

Лиза
Электрическое сопротивление Электрическое сопротивление

Эра электрокаров закончилась, так и не успев начаться

Монокль
2023 год в России оказался на градус жарче нормы 2023 год в России оказался на градус жарче нормы

Наиболее аномально теплым сезоном 2023 года в России была осень

N+1
ТОП-7 удивительных фактов о космосе, о которых вы не знали ТОП-7 удивительных фактов о космосе, о которых вы не знали

Какое отношение лимоны и малина имеют к космосу? Не знаете? Сейчас мы вас удивим

ТехИнсайдер
Секс и кожа: как интимные отношения сказываются на внешности? Секс и кожа: как интимные отношения сказываются на внешности?

Каким образом регулярная половая жизнь может влиять на состояние кожи

Правила жизни
Лучшие дорамы, снятые по книгам Лучшие дорамы, снятые по книгам

Подборка леденящих кровь остросюжетных дорам, снятых по известным романам

Maxim
6 актеров, которые просто созданы для боевиков 6 актеров, которые просто созданы для боевиков

Вспомнили одних из самых брутальных мужчин мирового кинематографа

Maxim
Как вести мировую экономическую войну Как вести мировую экономическую войну

О природе экономического роста, происходящего сейчас в России

Монокль
«Ты бросил меня!» 7 системных сценариев, из-за которых уходят мужчины «Ты бросил меня!» 7 системных сценариев, из-за которых уходят мужчины

Типы мужчин и женщин, которые чаще всего рискуют остаться одни

Лиза
Академик Андрей Книппер Академик Андрей Книппер

Жизнь и труды советского и российского геолога Андрея Книппера

Знание – сила
Почему вы всегда опаздываете Почему вы всегда опаздываете

Почему же вы продолжаете опаздывать?

ТехИнсайдер
Эксперт фен-шуй раскрыла секрет гармоничного пространства даже в небольшой студии Эксперт фен-шуй раскрыла секрет гармоничного пространства даже в небольшой студии

Что поможет восстановить гармонию энергий и баланс в квартире-студии

VOICE
Нуар с двойным дном Нуар с двойным дном

«Шугар»: Колин Фаррелл копипастит голливудскую классику

Weekend
«Бежевые мамы»: за что ругают родителей, которые окружают детей бежевыми вещами «Бежевые мамы»: за что ругают родителей, которые окружают детей бежевыми вещами

За что критикуют «бежевых мам» и какими цветами важно окружать ребенка.

Psychologies
Урал Бажова Урал Бажова

Как Павел Бажов собрал и сформулировал образ Урала

Знание – сила
В предчувствии конца. Алексей Поляринов: «Кадавры» В предчувствии конца. Алексей Поляринов: «Кадавры»

Отрывок из романа «Кадавры» о мучительном предчувствии конца света

СНОБ
Как укрепить иммунитет Как укрепить иммунитет

Что поможет повысить иммунитет весной

Здоровье
Ученые смогли расшифровать самую загадочную книгу в истории человечества — рукопись Войнича Ученые смогли расшифровать самую загадочную книгу в истории человечества — рукопись Войнича

Рукопись Войнича вот уже 600 лет ставит в тупик криптографов и историков

ТехИнсайдер
Человек играющий, или страницы древней истории спорта Человек играющий, или страницы древней истории спорта

Спорт был всегда частью культурной жизни человечества

Зеркало Мира
«Из бухты вон» или 10 смешных морских терминов времен парусных кораблей «Из бухты вон» или 10 смешных морских терминов времен парусных кораблей

Флотские словечки 19 века

ТехИнсайдер
Валерия: «Думали меня сбить, но не тут-то было!» Валерия: «Думали меня сбить, но не тут-то было!»

Валерия: «Как же сейчас молодежи хорошо — только выходи и пой!»

Коллекция. Караван историй
История одной звездной системы История одной звездной системы

В 366 световых годах от нас находится гигантская звезда Дзета Змееносца

Наука и техника
Военная галерея Военная галерея

Перед главным залом Зимнего дворца несут вечную службу герои войны 1812 года

Дилетант
Зоя Богуславская — от первого лица. Отрывок из новой книги воспоминаний писательницы Зоя Богуславская — от первого лица. Отрывок из новой книги воспоминаний писательницы

Фрагмент из книги о периоде до брака Зои Богуславской с Андреем Вознесенским

СНОБ
Открыть в приложении