Футуролог о сильном искусственном интеллекте

Цифровой океанHi-Tech

Мыслю, значит, существую

В конце 2023 года весь мир заговорил о сильном искусственном интеллекте. Поводом стало загадочное увольнение главы OpenAI Сэма Альтмана с последующим восстановлением в должности через пять дней. По слухам, одной из причин стал прорыв в создании машинного разума, ставящий под угрозу все человечество. Футуролог Данила Медведев помог «Цифровому Океану» оценить шансы разработчиков на создание сильного ИИ.

Данила Медведев

Российский общественный деятель, философ, футуролог, популяризатор науки. Один из создателей Российского трансгуманистического движения, с июня 2005 года член координационного совета Российского трансгуманистического движения. Председатель Совета директоров российской крио компании «КриоРус». Ведущий «Программы на будущее» на телеканале «Россия-2» (2011–2013). Кандидат экономических наук.

Сильный (общий, универсальный) искусственный интеллект — гипотетическая компьютерная система, способная мыслить, осознавать себя и самообучаться для решения любых задач

OpenAI — американская научно-исследовательская организация, разработчик систем искусственного интеллекта, в том числе GPT-4 и ChatGPT

Могли ли в OpenAI сделать сильный искусственный интеллект?

Зависит от того, что именно мы понимаем под сильным ИИ. Википедийное определение слишком широкое и позволяет всем участникам хайпа — разработчикам, венчурным инвесторам, СМИ — приукрашивать реальность в свою пользу.

Все более-менее согласны с тем, что своей универсальностью сильный ИИ подобен человеческому. Тогда не мешало бы условиться, какие требования мы предъявляем к самим людям. Отвечать на вопросы в чате — это один уровень. Управлять автомобилем, доставлять посылки, укладывать асфальт — другой. Ходить по Москве в теле робота и решать какие-то вопросы — третий. Наконец, создать новый жанр в искусстве или написать симфонию — четвертый.

Определить «общечеловеческий уровень» интеллекта сложно, потому что современное общество практически запрещает нам его измерять — а следом и изучать. Измерения приводят к сравнению, а это уже табу. Когда Джеймс Уотсон заикнулся о том, что уровень интеллекта может коррелировать с расой, он чуть не лишился карьеры — и неважно, что он нобелевский лауреат. В статье 2014 года психолог Эрл Хант указал, что из шести ведущих американских вузов с программами по психологии ни один не изучает интеллект — от греха подальше.

Пока мы стесняемся мериться интеллектами, разработчики натаскивают ИИ на решение «сложных человеческих задач» — учат его играть в шахматы, словно механического турка, сдавать экзамен на адвоката или сочинять рэп. Чтобы получать венчурные деньги, ИИ-стартапам необходимо демонстрировать эффектный «результат» в кратчайшие сроки.

Тот ИИ, который сможет читать рэп, водить машину и выступать в суде, и будет универсальным, разве не так?

Такой подход может направить разработчиков по ложному следу, особенно тех, у которых есть сто миллиардов долларов. Когда у тебя есть сто миллиардов долларов, ты мыслишь немного не так, как обычные люди. К примеру, у певицы Мэрайи Кери есть специальный сотрудник: он подает напитки, чтобы она пила из трубочки. Даже над самыми мелкими проблемами крупные корпорации предпочитают не думать, а просто закидывать их деньгами. В итоге половина людей в развитых странах занята тем, что Дэвид Гребер называл «буллшит джобс».

Применительно к ИИ принцип работает так. Со стороны рынка или даже сообщества экспертов поступают запросы: ваша модель должна уметь водить машину, сочинять сказки, управлять бизнесом. Разработчики оперативно добавляют в программу новые функции, демонстрируют результат — и при этом не делают внутри модели никаких структур, способных порождать интеллект. Так поступают все крупные компании: российские, американские, китайские.

Однако бесконечная сумма подпрограмм никогда не сравняется с универсальным интеллектом. Любой айтишник знает, что с ростом сложности системы затраты на ее поддержку растут квадратично или еще быстрее. Можно до бесконечности пытаться совместить перехватчик, разведчик и стелс-бомбардировщик в одной машине, но дешевле и эффективнее будет сделать три разных самолета.

Человек развил интеллект не потому, что по очереди учился разным вещам. Есть базовые принципы, они породили базовые механизмы, благодаря которым мы можем делать то, что мы делаем, — мыслить. Были буквально две-три функции, не пятьдесят и не сто, которые породили все наши способности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бог из машины Бог из машины

Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг света
Правила жизни Александра Ширвиндта Правила жизни Александра Ширвиндта

Правила жизни народного артиста России Александра Ширвиндта

Правила жизни
Таблица элементов Таблица элементов

Девять перспективных видов аккумуляторов

Цифровой океан
101-летний долгожитель рассказал, как он добился своих целей в карьере, и поделился своим секретом долголетия 101-летний долгожитель рассказал, как он добился своих целей в карьере, и поделился своим секретом долголетия

101-летний Коэн рассказал, что за десятилетия усвоил ряд уроков долголетия

Inc.
Новая грамотность Новая грамотность

Что значит быть грамотным в современном мире?

Цифровой океан
5 ярких мистификаций в истории русской литературы 5 ярких мистификаций в истории русской литературы

В мире русской литературы мистификация занимает особое место

Maxim
Дарвину и не снилось Дарвину и не снилось

Какие специалисты могут запрограммировать искусственную эволюцию

РБК
Как оставить мысли о работе за порогом дома: 6 советов нейропсихолога Как оставить мысли о работе за порогом дома: 6 советов нейропсихолога

Как перестроиться на «домашний» лад и оставить все рабочие мысли на работе?

Psychologies
Не да Винчи Не да Винчи

Стендап-комик Евгений Чебатков — почему важно коллекционировать эмоции

RR Люкс.Личности.Бизнес.
Как ученые смогли снять отпечатки пальцев с 2400-летнего трупа! История болотного тела из Толлунда Как ученые смогли снять отпечатки пальцев с 2400-летнего трупа! История болотного тела из Толлунда

Усопший когда-то стал жертвой человеческого жертвоприношения

ТехИнсайдер
Юрий Стоянов: «Я непростой человек, но, мне кажется, не мерзавец» Юрий Стоянов: «Я непростой человек, но, мне кажется, не мерзавец»

Я стал знаменитым ради женщин. В профессию пошел, чтобы нравиться им

Коллекция. Караван историй
«О расставании как о хеппи-энде» «О расставании как о хеппи-энде»

Любовь Мульменко о своем фильме «Фрау»

Weekend
Мирослава Карпович: «Жить в мире с собой и своей совестью – огромное счастье!» Мирослава Карпович: «Жить в мире с собой и своей совестью – огромное счастье!»

Мирослава Карпович про «артистическое» питание, об отношении к хейту и здоровью

Здоровье
Помог случай Помог случай

Иногда в, казалось бы, безвыходных ситуациях может спасти случайный человек

Лиза
Елочные игрушки Елочные игрушки

Елочные игрушки – не только радость для детей, но и роскошь для взрослых

Правила жизни
Ценное приложение: как поменялась мобильная разработка в России за последние 15 лет Ценное приложение: как поменялась мобильная разработка в России за последние 15 лет

Вехи развития отечественной мобильной разработки и что происходит с ней сегодня

Forbes
Язык: сделай сам. Искусственные языки в истории человечества Язык: сделай сам. Искусственные языки в истории человечества

Зачем люди придумывают искусственные языки? Мало им естественных?

Знание – сила
Парадоксы «кроличьей норы» Парадоксы «кроличьей норы»

Что случится, если упасть в туннель, проходящий Землю насквозь через её центр?

Наука и жизнь
Из свиней сделают чипсы Из свиней сделают чипсы

Агрохолдинг «Талина» запустил в Мордовии промышленное производство мясных снеков

Монокль
Как ученые обнаружили «потерянный металл Атлантиды»! Интересная история и тайна прошлого Как ученые обнаружили «потерянный металл Атлантиды»! Интересная история и тайна прошлого

Чем оказались слитки загадочного металла, найденные среди затонувшего корабля

ТехИнсайдер
Порноместь: 6 причин, почему мужчины делятся интимными фото и видео бывших подруг Порноместь: 6 причин, почему мужчины делятся интимными фото и видео бывших подруг

Что такое порноместь и почему мужчины это делают

Psychologies
Проще простого: самый быстрый способ почистить садовые инструменты Проще простого: самый быстрый способ почистить садовые инструменты

Хочешь знать, как быстро почистить садовые инструменты?

VOICE
Прослушка: TumaniYO — об астраханском рэпе, рагге, MiyaGi и Эндшпиле Прослушка: TumaniYO — об астраханском рэпе, рагге, MiyaGi и Эндшпиле

TumaniYO — о том, чем отличается астраханский и владикавказский рэп

Правила жизни
Делай раз. Что будет, если отжиматься каждый день: плюсы и минусы упражнения Делай раз. Что будет, если отжиматься каждый день: плюсы и минусы упражнения

Сколько отжиматься каждый день можно на самом деле?

Лиза
Казнить нельзя помиловать Казнить нельзя помиловать

Стоит ли прощать измену и как вернуть утраченное доверие?

Лиза
Биохакинг: Победить старение и смерть Биохакинг: Победить старение и смерть

Что говорит про мечты о вечной молодости настоящая наука?

Новый очаг
Острова сокровищ Острова сокровищ

В одном из самых малоизученных мест на планете, живут только ученые и животные

Лиза
Фантазировать и\или желать Фантазировать и\или желать

Как способность создавать в воображении миры может помешать жить в реальности

Psychologies
От утопии до ящика От утопии до ящика

Как советское телевидение замещало зрителям политику

Weekend
Что будет, если женщина выпьет «Виагру» Что будет, если женщина выпьет «Виагру»

Интересно, а что будет с женщиной, если она примет дозу «Виагры»?

ТехИнсайдер
Открыть в приложении