Отрывок из книги «Скайнет в эпоху киберпанка»

ForbesHi-Tech

Скайнет в эпоху киберпанка: книга о сверхразуме, написанная в соавторстве с ИИ

Редакция Forbes Life

Кадр из фильма "Терминатор: Да Придёт Спаситель"

Количество разума во Вселенной удваивается каждые 18 месяцев, что означает, что нейросети и модели LLM становятся все более мощными и масштабируемыми, говорится в книге кофаундеров Web-3 платформы Bithoven Антона Платунова и Андрея Глебова «Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке». Соавтором книги, вышедшей в мае на Литрес, стал искусственный интеллект языковой модели GPT-4. Он создавал диалоги и участвовал в формировании сюжетной линии. Forbes Life публикует отрывок из произведения.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям. Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия ОИИ.

Это приводит к осознанию необходимости более глубокого изучения подобных систем ИИ и исследований. Ведь наш разум будет просто не способен осознать мышление AGI, как муравью не понять ход мыслей и мышление человека. Если заглянуть на открытый отчет исследований GPT-4 от Microsoft, то процесс зарождения AGI становится очевидным: «GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностейGPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова», – сказано в открытом отчете Microsoft.

То есть уже сейчас не предполагаются, а опытно фиксируются зачатки разума общего искусственного интеллекта. Человеку трудно и даже невозможно представить на что будет способна GPT-5. «Новая версия закона Мура, которая может начать действовать в ближайшее время: количество разума во Вселенной удваивается каждые 18 месяцев», – высказывание, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT.

А теперь давайте разберемся с основами нейросетей. Нейронные сети – это модели машинного обучения, которые вдохновлены биологическими нейронными сетями. Они состоят из слоев, каждый из которых содержит узлы, называемые нейронами. Нейроны внутри одного слоя связаны с нейронами следующего слоя, и каждая связь имеет свою значимость и приоритет. В процессе обучения нейросети, зависимости значимостей и приоритеты изменяются для минимизации ошибки предсказания контекста. Теперь перейдем к моделям LLM (Large Language Models) и их связи с законом Мура. Закон Мура был сформулирован в 1965 году и утверждал, что количество транзисторов на интегральной схеме будет удваиваться примерно каждые два года. Новая версия закона Мура, о которой заявил основатель Open AI, говорит о том, что количество разума во Вселенной удваивается каждые 18 месяцев. Это утверждение относится к экспоненциальному росту производительности и масштабирования алгоритмов машинного обучения, в частности, к моделям LLM. Модели LLM, такие как GPT-4, тренируются на огромных объемах текстовых данных. Они учатся предсказывать следующее слово в последовательности на основе контекста, что позволяет им генерировать связные и осмысленные тексты. Обучение и масштабирование моделей LLM требует больших вычислительных ресурсов и разработки продвинутых алгоритмов оптимизации.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Миссионер, исследователь и борец с работорговлей: как Давид Ливингстон открыл миру внутреннюю Африку Миссионер, исследователь и борец с работорговлей: как Давид Ливингстон открыл миру внутреннюю Африку

Давид Ливингстон был бродячим проповедником и нес африканцам весть христианства

Вокруг света
Чтобы она улыбалась Чтобы она улыбалась

Что делать ребенку, если учеба превратилась в желание понравиться учительнице

СНОБ
От Дании до Японии: пять главных коронаций монархов Европы и Азии за последние 50 лет От Дании до Японии: пять главных коронаций монархов Европы и Азии за последние 50 лет

Яркие церемонии восшествия на престол и пять действующих правителей

Forbes
Мыши забыли о страшном опыте при помощи нейронных связей между гиппокампом и миндалиной Мыши забыли о страшном опыте при помощи нейронных связей между гиппокампом и миндалиной

Ученые перезаписали страшные воспоминания у мышей

N+1
Катя Chepikk: «Стать большим артистом — это не мечта. Это мое предназначение» Катя Chepikk: «Стать большим артистом — это не мечта. Это мое предназначение»

Катя Chepikk не сомневается в своем успехе

ЖАРА Magazine
Десять самых диких фактов об алкоголе Десять самых диких фактов об алкоголе

Тема алкоголя бездонна и не перестает нас удивлять, восхищать и ужасать

Maxim
«Монастырь и тюрьма» «Монастырь и тюрьма»

Места заключения в Западной Европе и в России от Средневековья до модерна

N+1
«Как закалялась сталь» Николая Островского: трагическая история одного писателя и пациента «Как закалялась сталь» Николая Островского: трагическая история одного писателя и пациента

Как слепой и парализованный Николай Островский написал первую часть романа

ТехИнсайдер
30 фактов о женщинах, которые не знают мужчины 30 фактов о женщинах, которые не знают мужчины

С этой секунды все женщины перестанут быть для вас загадкой

Maxim
Две звезды, пожирающие друг друга, скоро превратятся в черные дыры и столкнутся: удивительное открытие Две звезды, пожирающие друг друга, скоро превратятся в черные дыры и столкнутся: удивительное открытие

Эти две звезды поглотят друг друга и создадут рябь в пространстве и времени

ТехИнсайдер
5 ситуаций, когда менять работу — плохая идея 5 ситуаций, когда менять работу — плохая идея

Те самые случаи, когда стоит дать вашим отношениям с работой еще один шанс!

Maxim
Геологи посчитали глобальную толщину и плотность коры Марса Геологи посчитали глобальную толщину и плотность коры Марса

В среднем марсианская кора намного толще земной или лунной

ТехИнсайдер
«Я была малолеткой, никто не желал мне помогать»: почему женщины идут в проституцию «Я была малолеткой, никто не желал мне помогать»: почему женщины идут в проституцию

Отрывок из книги Роберта Колкера «Исчезнувшие девушки»

Forbes
Человек и животные страдают от несчастий пережитых в детстве. Но только не гориллы Человек и животные страдают от несчастий пережитых в детстве. Но только не гориллы

Что помогает гориллам справиться с детскими бедами?

ТехИнсайдер
Просто космос Просто космос

Юлия Пересильд — о “вызове” в кино и вызовах в жизни

Men Today
«Я психанул, когда увидел Брэда Питта»: Гоша Куценко рассказал, как опозорился перед голливудским актером «Я психанул, когда увидел Брэда Питта»: Гоша Куценко рассказал, как опозорился перед голливудским актером

Как Гоша Куценко отказался от роли после беседы с Брэдом Питтом

VOICE
Запретная любовь в Сарае: как были устроены гаремы турецких султанов Запретная любовь в Сарае: как были устроены гаремы турецких султанов

Как был устроен султанский гарем

Вокруг света
Две группы физиков смоделировали неабелевы энионы на квантовых компьютерах Две группы физиков смоделировали неабелевы энионы на квантовых компьютерах

Опубликованы результаты по симуляции неабелевых энионов на квантовом процессоре

N+1
«Меня ударили деньгами по лицу»: как беженец из Камеруна меняет правила в ММА «Меня ударили деньгами по лицу»: как беженец из Камеруна меняет правила в ММА

Почему соглашение Фрэнсиса с PFL может изменить правила игры в ММА

Forbes
Стоит ли смотреть уругвайский хоррор «Эпидемия: Вирус 32»: рецензия MAXIM Стоит ли смотреть уругвайский хоррор «Эпидемия: Вирус 32»: рецензия MAXIM

Отрадно узнать, что кроме футбола и джунглей в Уругвае водятся зомби

Maxim
Квантовую электродинамику проверили в мюонном неоне Квантовую электродинамику проверили в мюонном неоне

Физики измерили частоты переходов между высоколежащими уровнями в мюонном неоне

N+1
Больцман на танцполе Больцман на танцполе

Исследовали ли физики мош? Я вышел в интернет с таким вопросом

N+1
Однажды маньяк из США держал 14-летнюю девочку 9 месяцев в плену! Но она простила маньяка Однажды маньяк из США держал 14-летнюю девочку 9 месяцев в плену! Но она простила маньяка

В 2013 году Нейт Кибби пригласил школьницу Эбби Эрнандес к себе в машину...

ТехИнсайдер
Стесняюсь спросить: что делать, если не хочется работать Стесняюсь спросить: что делать, если не хочется работать

Что делать, если проблема выгорания и нежелания работать накрыла с головой

Правила жизни
Осторожно: ультраобработано! Осторожно: ультраобработано!

Почему не стоит увлекаться полуфабрикатами

Здоровье
«Дипломатка»: история о женщине, которая способна решать мировые кризисы «Дипломатка»: история о женщине, которая способна решать мировые кризисы

Что делает историю о дипломатических интригах в лондонских кабинетах интересной

Forbes
Зависть — это бомба замедленного действия. Что делать, если вы завидуете другим Зависть — это бомба замедленного действия. Что делать, если вы завидуете другим

Что такое зависть, как с ней обходиться и использовать ее энергию во благо

Psychologies
«Когда все снова придет в норму?»: искусственный интеллект отвечает на 8 сложных жизненных вопросов «Когда все снова придет в норму?»: искусственный интеллект отвечает на 8 сложных жизненных вопросов

Как GPT-3 отвечает на философские вопросы о нашей жизни?

Psychologies
Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры

Образованных китайцев с амбициями оказалось больше, чем рабочих мест для них

Forbes
В поисках гробницы Клеопатры археологи нашли «геометрический чудо-туннель» В поисках гробницы Клеопатры археологи нашли «геометрический чудо-туннель»

Археологи обнаружили огромный туннель, «геометрическое чудо»

ТехИнсайдер
Открыть в приложении