Отрывок из книги «Скайнет в эпоху киберпанка»

ForbesHi-Tech

Скайнет в эпоху киберпанка: книга о сверхразуме, написанная в соавторстве с ИИ

Редакция Forbes Life

Кадр из фильма "Терминатор: Да Придёт Спаситель"

Количество разума во Вселенной удваивается каждые 18 месяцев, что означает, что нейросети и модели LLM становятся все более мощными и масштабируемыми, говорится в книге кофаундеров Web-3 платформы Bithoven Антона Платунова и Андрея Глебова «Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке». Соавтором книги, вышедшей в мае на Литрес, стал искусственный интеллект языковой модели GPT-4. Он создавал диалоги и участвовал в формировании сюжетной линии. Forbes Life публикует отрывок из произведения.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям. Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия ОИИ.

Это приводит к осознанию необходимости более глубокого изучения подобных систем ИИ и исследований. Ведь наш разум будет просто не способен осознать мышление AGI, как муравью не понять ход мыслей и мышление человека. Если заглянуть на открытый отчет исследований GPT-4 от Microsoft, то процесс зарождения AGI становится очевидным: «GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностейGPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова», – сказано в открытом отчете Microsoft.

То есть уже сейчас не предполагаются, а опытно фиксируются зачатки разума общего искусственного интеллекта. Человеку трудно и даже невозможно представить на что будет способна GPT-5. «Новая версия закона Мура, которая может начать действовать в ближайшее время: количество разума во Вселенной удваивается каждые 18 месяцев», – высказывание, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT.

А теперь давайте разберемся с основами нейросетей. Нейронные сети – это модели машинного обучения, которые вдохновлены биологическими нейронными сетями. Они состоят из слоев, каждый из которых содержит узлы, называемые нейронами. Нейроны внутри одного слоя связаны с нейронами следующего слоя, и каждая связь имеет свою значимость и приоритет. В процессе обучения нейросети, зависимости значимостей и приоритеты изменяются для минимизации ошибки предсказания контекста. Теперь перейдем к моделям LLM (Large Language Models) и их связи с законом Мура. Закон Мура был сформулирован в 1965 году и утверждал, что количество транзисторов на интегральной схеме будет удваиваться примерно каждые два года. Новая версия закона Мура, о которой заявил основатель Open AI, говорит о том, что количество разума во Вселенной удваивается каждые 18 месяцев. Это утверждение относится к экспоненциальному росту производительности и масштабирования алгоритмов машинного обучения, в частности, к моделям LLM. Модели LLM, такие как GPT-4, тренируются на огромных объемах текстовых данных. Они учатся предсказывать следующее слово в последовательности на основе контекста, что позволяет им генерировать связные и осмысленные тексты. Обучение и масштабирование моделей LLM требует больших вычислительных ресурсов и разработки продвинутых алгоритмов оптимизации.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Миссионер, исследователь и борец с работорговлей: как Давид Ливингстон открыл миру внутреннюю Африку Миссионер, исследователь и борец с работорговлей: как Давид Ливингстон открыл миру внутреннюю Африку

Давид Ливингстон был бродячим проповедником и нес африканцам весть христианства

Вокруг света
Возрастная забывчивость или болезнь Альцгеймера: когда пора бить тревогу — 5 примеров из жизни Возрастная забывчивость или болезнь Альцгеймера: когда пора бить тревогу — 5 примеров из жизни

Как понять, что пора беспокоиться об изменениях памяти ваших пожилых близких?

Psychologies
Ничего не делала, но устала: привычки, которые воруют энергию Ничего не делала, но устала: привычки, которые воруют энергию

Куда ушли энергия и силы при объективно нетрудной неделе?

VOICE
Застольное многоголосье: как традиция грузинского хорового пения возвышает скромную пирушку до шедевра мировой культуры Застольное многоголосье: как традиция грузинского хорового пения возвышает скромную пирушку до шедевра мировой культуры

Запись одной из застольных песен Грузии бороздит просторы Вселенной

Вокруг света
Ghibli крепчает: вспоминаем все полнометражные фильмы Хаяо Миядзаки в хронологическом порядке Ghibli крепчает: вспоминаем все полнометражные фильмы Хаяо Миядзаки в хронологическом порядке

Самое время пересмотреть парочку любимых работ мастера

Правила жизни
От «Вестника парижских мод» до «Работницы»: женская пресса в дореволюционной России От «Вестника парижских мод» до «Работницы»: женская пресса в дореволюционной России

Forbes Woman рассказывает об эволюции женских СМИ в России

Forbes
Что посмотреть в ближайшем зарубежье: Узбекистан, Казахстан, Монголия Что посмотреть в ближайшем зарубежье: Узбекистан, Казахстан, Монголия

Кристина Резникова собрала гид по соседним с Россией безвизовым странам

РБК
«Я стала ее злейшим врагом»: Анастасия Волочкова обиделась на дочь, которая запретила звезде появляться на выпускном «Я стала ее злейшим врагом»: Анастасия Волочкова обиделась на дочь, которая запретила звезде появляться на выпускном

Ариадна Волочкова удивила мать

VOICE
Партнер подвергался сексуальному насилию в детстве: как поддержать и чем помочь Партнер подвергался сексуальному насилию в детстве: как поддержать и чем помочь

Как себя вести, если ваш любимый человек пережил в детстве сексуальное насилие?

Psychologies
А вы знаете, как правильно завести машину с механикой и автоматом? А вы знаете, как правильно завести машину с механикой и автоматом?

Нюансы при запуске двигателя автомобиля

РБК
«У меня сердце плачет»: Татьяна Веденеева рассказала, почему носила платья от Зайцева, а не от Юдашкина «У меня сердце плачет»: Татьяна Веденеева рассказала, почему носила платья от Зайцева, а не от Юдашкина

Татьяна Веденеева рассказала об опыте сотрудничества с российскими модельерами

VOICE
Диабет 2 типа стремительно распространяется по миру — врачи винят в этом неправильное питание Диабет 2 типа стремительно распространяется по миру — врачи винят в этом неправильное питание

Как неправильное питание влияет на здоровье людей?

ТехИнсайдер
Стобалльный стресс. Как помочь себе и ребенку успокоиться перед ЕГЭ Стобалльный стресс. Как помочь себе и ребенку успокоиться перед ЕГЭ

Как родителям поддержать выпускников и помочь им справиться со стрессом

СНОБ
Долгосрочная память может храниться в мембранах нейронов Долгосрочная память может храниться в мембранах нейронов

Как формируется память, где она находится?

ТехИнсайдер
«Всегда говори „да“»: 13 правил достижения успеха — как не выгореть на полпути и прийти к цели «Всегда говори „да“»: 13 правил достижения успеха — как не выгореть на полпути и прийти к цели

Советы, которые помогут реализовать потенциал

Psychologies
Мелочь, а приятно Мелочь, а приятно

11 важных деталей в доме, которые никогда не выйдут из моды

Лиза
«Отношения должны принять иную форму»: 5 шагов, чтобы расстаться осознанно, — история семейного психотерапевта «Отношения должны принять иную форму»: 5 шагов, чтобы расстаться осознанно, — история семейного психотерапевта

Возможно ли объединить понятия «осознанность» и «расставание»?

Psychologies
Могут ли люди предвидеть разрыв и расставание влюбленной пары и стоит ли им верить Могут ли люди предвидеть разрыв и расставание влюбленной пары и стоит ли им верить

Как факт разрыва отношений меняет представление окружающих о паре

ТехИнсайдер
Пространство для рефлексии о прошлом: как Лидия Лобанова развивает Музей криптографии Пространство для рефлексии о прошлом: как Лидия Лобанова развивает Музей криптографии

Как говорить о современных технологиях и неудобном прошлом с разными возрастами

Forbes
Боль в висках. Почему возникает и 6 способов быстро от нее избавиться Боль в висках. Почему возникает и 6 способов быстро от нее избавиться

Причин боли в висках много – от усталости до серьезных заболеваний

Лиза
Человек и животные страдают от несчастий пережитых в детстве. Но только не гориллы Человек и животные страдают от несчастий пережитых в детстве. Но только не гориллы

Что помогает гориллам справиться с детскими бедами?

ТехИнсайдер
Мелатонин Мелатонин

Мелатонин управляет нашим самочувствием, здоровьем и качеством жизни

Здоровье
Лягушек впервые застали за кормлением нектаром и заподозрили в опылении растений Лягушек впервые застали за кормлением нектаром и заподозрили в опылении растений

Ромбоглазые квакши из Бразилии оказались любительницами нектара

N+1
Кольчатых червей уличили в синтезе растительного аналога холестерина Кольчатых червей уличили в синтезе растительного аналога холестерина

Ученые обнаружили, что морские кольчатые черви способны к синтезу ситостерина

N+1
Японская философия «ваби-саби»: как принять несовершенство мира Японская философия «ваби-саби»: как принять несовершенство мира

Как же перестать гнаться за идеалами и начать жить здесь и сейчас?

Psychologies
«Как сказать мужчине, чего мне хочется?»: 3 совета сексолога «Как сказать мужчине, чего мне хочется?»: 3 совета сексолога

Как откровенно разговаривать со своим партнером?

Psychologies
Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях» Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях»

Какую задачу решают власти, устраивая массовые гонения на деятелей культуры?

Forbes
Как зарабатывать больше денег? Надо изучать философию в университете! Как зарабатывать больше денег? Надо изучать философию в университете!

Специалисты по философии зарабатывают больше денег, чем многие их сверстники

ТехИнсайдер
Почему «Стражи Галактики. Часть 3» — лучший кинокомикс (мы уже забыли, с каких пор) Почему «Стражи Галактики. Часть 3» — лучший кинокомикс (мы уже забыли, с каких пор)

Каким получился новый фильм о Звездном Лорде и его команде?

Maxim
«Я расплакалась после отъезда из России»: Яна Троянова призналась, что эмигрировала во Францию «Я расплакалась после отъезда из России»: Яна Троянова призналась, что эмигрировала во Францию

Яна Троянова устраивает жизнь во Франции

VOICE
Открыть в приложении