Отрывок из книги «Скайнет в эпоху киберпанка»

ForbesHi-Tech

Скайнет в эпоху киберпанка: книга о сверхразуме, написанная в соавторстве с ИИ

Редакция Forbes Life

Кадр из фильма "Терминатор: Да Придёт Спаситель"

Количество разума во Вселенной удваивается каждые 18 месяцев, что означает, что нейросети и модели LLM становятся все более мощными и масштабируемыми, говорится в книге кофаундеров Web-3 платформы Bithoven Антона Платунова и Андрея Глебова «Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке». Соавтором книги, вышедшей в мае на Литрес, стал искусственный интеллект языковой модели GPT-4. Он создавал диалоги и участвовал в формировании сюжетной линии. Forbes Life публикует отрывок из произведения.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям. Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия ОИИ.

Это приводит к осознанию необходимости более глубокого изучения подобных систем ИИ и исследований. Ведь наш разум будет просто не способен осознать мышление AGI, как муравью не понять ход мыслей и мышление человека. Если заглянуть на открытый отчет исследований GPT-4 от Microsoft, то процесс зарождения AGI становится очевидным: «GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностейGPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова», – сказано в открытом отчете Microsoft.

То есть уже сейчас не предполагаются, а опытно фиксируются зачатки разума общего искусственного интеллекта. Человеку трудно и даже невозможно представить на что будет способна GPT-5. «Новая версия закона Мура, которая может начать действовать в ближайшее время: количество разума во Вселенной удваивается каждые 18 месяцев», – высказывание, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT.

А теперь давайте разберемся с основами нейросетей. Нейронные сети – это модели машинного обучения, которые вдохновлены биологическими нейронными сетями. Они состоят из слоев, каждый из которых содержит узлы, называемые нейронами. Нейроны внутри одного слоя связаны с нейронами следующего слоя, и каждая связь имеет свою значимость и приоритет. В процессе обучения нейросети, зависимости значимостей и приоритеты изменяются для минимизации ошибки предсказания контекста. Теперь перейдем к моделям LLM (Large Language Models) и их связи с законом Мура. Закон Мура был сформулирован в 1965 году и утверждал, что количество транзисторов на интегральной схеме будет удваиваться примерно каждые два года. Новая версия закона Мура, о которой заявил основатель Open AI, говорит о том, что количество разума во Вселенной удваивается каждые 18 месяцев. Это утверждение относится к экспоненциальному росту производительности и масштабирования алгоритмов машинного обучения, в частности, к моделям LLM. Модели LLM, такие как GPT-4, тренируются на огромных объемах текстовых данных. Они учатся предсказывать следующее слово в последовательности на основе контекста, что позволяет им генерировать связные и осмысленные тексты. Обучение и масштабирование моделей LLM требует больших вычислительных ресурсов и разработки продвинутых алгоритмов оптимизации.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Точка бифуркации: как еще могло закончиться Ледовое побоище Точка бифуркации: как еще могло закончиться Ледовое побоище

Каким был бы мир, если бы Александр Невский проиграл Ледовое побоище?

Вокруг света
Медицинский каннабис помог справиться с болью при онкологии Медицинский каннабис помог справиться с болью при онкологии

Как препараты медицинского каннабиса облегчают симптомы онкологии

N+1
Успевать все и оставаться королевой: 5 лайфхаков бизнесвумен, которые сделают твою жизнь лучше Успевать все и оставаться королевой: 5 лайфхаков бизнесвумен, которые сделают твою жизнь лучше

Как играючи управлять бесконечным круговоротом дел и не забывать о красоте

VOICE
И кто научил быть звездой? Самые эпатажные российские знаменитости родом из деревни И кто научил быть звездой? Самые эпатажные российские знаменитости родом из деревни

Про этих знаменитостей точно можно сказать — сделали себя сами!

VOICE
Девятилетний мальчик нашел на даче у бабушки зуб мамонта. Находке 10 тысяч лет! Девятилетний мальчик нашел на даче у бабушки зуб мамонта. Находке 10 тысяч лет!

Мальчик и не представлял, что он нашел зуб мамонта возрастом 10 000 лет

ТехИнсайдер
Всё, что нужно знать о новом поколении Mitsubishi Outlander Всё, что нужно знать о новом поколении Mitsubishi Outlander

Каким получилось новое поколение Mitsubishi Outlander

4x4 Club
Австралийские муравьи притворились мертвыми всей колонией Австралийские муравьи притворились мертвыми всей колонией

Зоологи обнаружили муравьев, которые притворяются мертвыми всей колонией

N+1
Николай Коляда: «Слава богу, зрители не знают о нашей театральной кухне ничего» Николай Коляда: «Слава богу, зрители не знают о нашей театральной кухне ничего»

Николай Коляда о Галине Волчек и «Современнике»

Коллекция. Караван историй
Школьник обманом привлёк миллионы на компанию по чистке ковров, а «прогорел» из-за украденных у секретарши $600 Школьник обманом привлёк миллионы на компанию по чистке ковров, а «прогорел» из-за украденных у секретарши $600

Барри Минкоу хотел стать «General Motors в мире клининга» обманным путём

VC.RU
Как Южная Корея ищет баланс между Китаем, Россией и США Как Южная Корея ищет баланс между Китаем, Россией и США

Как Южная Корея пытается сохранить хорошие отношения со всеми странами

Forbes
От «Вестника парижских мод» до «Работницы»: женская пресса в дореволюционной России От «Вестника парижских мод» до «Работницы»: женская пресса в дореволюционной России

Forbes Woman рассказывает об эволюции женских СМИ в России

Forbes
Как правильно хранить фрукты: 7 принципов, которые предотвратят порчу продуктов Как правильно хранить фрукты: 7 принципов, которые предотвратят порчу продуктов

Как продлить свежесть любимых продуктов и таким образом сэкономить деньги?

ТехИнсайдер
Астрономы нашли прародителя двойной системы черных дыр в соседней галактике Астрономы нашли прародителя двойной системы черных дыр в соседней галактике

Астрономы нашли теснаую двойную систему очень массивных звезд

N+1
Волки, зараженные этим паразитом, многократно повышают свои шансы стать вожаками стаи Волки, зараженные этим паразитом, многократно повышают свои шансы стать вожаками стаи

Заражение паразитом повышает вероятность того, что волки станут вожаками

ТехИнсайдер
Пять китайских автомобилей, за которые брендам теперь стыдно. Список Пять китайских автомобилей, за которые брендам теперь стыдно. Список

Как изменились китайские автомобили с момента прихода в Россию

РБК
Динозавр с Дикого запада: посмотрите на ящера с клювом, которого не смогли классифицировать ученые Динозавр с Дикого запада: посмотрите на ящера с клювом, которого не смогли классифицировать ученые

Палеонтологи обнаружили нового ринхозавра

Вокруг света
Вдумчивый, тревожный, сдержанный: какой вы интроверт? Вдумчивый, тревожный, сдержанный: какой вы интроверт?

Наши представления об интровертах нуждаются в пересмотре, считают психологи

Psychologies
«Джеймс Уэбб» нашел водяной пар в атмосфере планеты близкой к Земле «Джеймс Уэбб» нашел водяной пар в атмосфере планеты близкой к Земле

Из-за чего на экзопланетах может возникать водяной пар?

ТехИнсайдер
«Безос. Человек, создавший Amazon»: почему фильм о миллиардере оказался таким скучным «Безос. Человек, создавший Amazon»: почему фильм о миллиардере оказался таким скучным

Почему «Безос. Человек, создавший Amazon» совершенно не оправдывает ожидания

Forbes
Ушли в минус Ушли в минус

Зачем автопроизводители выпускают холодильники

Автопилот
Можно ли «отмотать назад» свой возраст? Да, говорят генетики, и вот как стать новым Дорианом Греем Можно ли «отмотать назад» свой возраст? Да, говорят генетики, и вот как стать новым Дорианом Греем

Ученые показали, как повернуть вспять ход собственных биологических часов

Вокруг света
Захотелось перекусить ночью? 5 продуктов, которые можно себе позволить! Захотелось перекусить ночью? 5 продуктов, которые можно себе позволить!

Вот несколько советов для любителей ночных перекусов

ТехИнсайдер
Вокруг света в 80 лет: как две пенсионерки за 80 дней посетили 18 стран и Антарктиду Вокруг света в 80 лет: как две пенсионерки за 80 дней посетили 18 стран и Антарктиду

Подруги планировали приключение, и оно удалось

Вокруг света
Как лучше худеть — быстро или медленно? Эксперты все объяснили! Как лучше худеть — быстро или медленно? Эксперты все объяснили!

У специалистов есть объяснение, почему спешить с похудением не нужно

ТехИнсайдер
Медленно, но верно Медленно, но верно

Как определить, что ты слишком усердно занимаешься фитнесом

Лиза
Зоопарки России Зоопарки России

К Дню защиты детей сделали подборку лучших зоологических садов

Лиза
Полезное расставание: как превратить неудачу в успех — мнение психолога Полезное расставание: как превратить неудачу в успех — мнение психолога

Даже из расставания можно вынести пользу

Psychologies
Генералы песчаных карьеров Генералы песчаных карьеров

Шагающие экскаваторы, или драглайны, – самые большие мобильные наземные машины

ТехИнсайдер
Одними из первых людей в Америке были... китайцы? Удивительное открытие! Одними из первых людей в Америке были... китайцы? Удивительное открытие!

Среди первых людей в Америке были выходцы из нынешнего Китая

ТехИнсайдер
Почему на Руси носили кокошники? Почему на Руси носили кокошники?

Марьяна Скуратовская рассказала, как появился старинный русский головной убор

Культура.РФ
Открыть в приложении