Отрывок из книги «Скайнет в эпоху киберпанка»

ForbesHi-Tech

Скайнет в эпоху киберпанка: книга о сверхразуме, написанная в соавторстве с ИИ

Редакция Forbes Life

Кадр из фильма "Терминатор: Да Придёт Спаситель"

Количество разума во Вселенной удваивается каждые 18 месяцев, что означает, что нейросети и модели LLM становятся все более мощными и масштабируемыми, говорится в книге кофаундеров Web-3 платформы Bithoven Антона Платунова и Андрея Глебова «Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке». Соавтором книги, вышедшей в мае на Литрес, стал искусственный интеллект языковой модели GPT-4. Он создавал диалоги и участвовал в формировании сюжетной линии. Forbes Life публикует отрывок из произведения.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) – это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям. Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия ОИИ.

Это приводит к осознанию необходимости более глубокого изучения подобных систем ИИ и исследований. Ведь наш разум будет просто не способен осознать мышление AGI, как муравью не понять ход мыслей и мышление человека. Если заглянуть на открытый отчет исследований GPT-4 от Microsoft, то процесс зарождения AGI становится очевидным: «GPT-4 поразительно близка к производительности на уровне человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностейGPT-4, мы считаем, что его можно разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI). В нашем исследовании GPT-4 мы уделяем особое внимание выявлению его ограничений и обсуждаем предстоящие проблемы, связанные с продвижением к более глубоким и всесторонним версиям ОИИ, включая возможную потребность в следовании новой парадигме, которая выходит за рамки предсказания следующего слова», – сказано в открытом отчете Microsoft.

То есть уже сейчас не предполагаются, а опытно фиксируются зачатки разума общего искусственного интеллекта. Человеку трудно и даже невозможно представить на что будет способна GPT-5. «Новая версия закона Мура, которая может начать действовать в ближайшее время: количество разума во Вселенной удваивается каждые 18 месяцев», – высказывание, данное Сэмом Альтманом (гендиром компании OpenAI, создавшей ChatGPT) для последствий происходящей революции, символом которой стал ChatGPT.

А теперь давайте разберемся с основами нейросетей. Нейронные сети – это модели машинного обучения, которые вдохновлены биологическими нейронными сетями. Они состоят из слоев, каждый из которых содержит узлы, называемые нейронами. Нейроны внутри одного слоя связаны с нейронами следующего слоя, и каждая связь имеет свою значимость и приоритет. В процессе обучения нейросети, зависимости значимостей и приоритеты изменяются для минимизации ошибки предсказания контекста. Теперь перейдем к моделям LLM (Large Language Models) и их связи с законом Мура. Закон Мура был сформулирован в 1965 году и утверждал, что количество транзисторов на интегральной схеме будет удваиваться примерно каждые два года. Новая версия закона Мура, о которой заявил основатель Open AI, говорит о том, что количество разума во Вселенной удваивается каждые 18 месяцев. Это утверждение относится к экспоненциальному росту производительности и масштабирования алгоритмов машинного обучения, в частности, к моделям LLM. Модели LLM, такие как GPT-4, тренируются на огромных объемах текстовых данных. Они учатся предсказывать следующее слово в последовательности на основе контекста, что позволяет им генерировать связные и осмысленные тексты. Обучение и масштабирование моделей LLM требует больших вычислительных ресурсов и разработки продвинутых алгоритмов оптимизации.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вы удивитесь, что на самом деле означает слово «колготки», и как правильно говорить: «калготы» или «колготки»? Вы удивитесь, что на самом деле означает слово «колготки», и как правильно говорить: «калготы» или «колготки»?

Задумывались ли вы когда-нибудь, почему колготки называются именно так?

ТехИнсайдер
Японская философия «ваби-саби»: как принять несовершенство мира Японская философия «ваби-саби»: как принять несовершенство мира

Как же перестать гнаться за идеалами и начать жить здесь и сейчас?

Psychologies
В поисках утраченного: почему мы так мало знаем о греческой поэтессе Сапфо В поисках утраченного: почему мы так мало знаем о греческой поэтессе Сапфо

Отрывок из книги «Каталог утраченных вещей»

Forbes
Дело вкуса: как формируются и почему меняются предпочтения в еде — объяснение нутрициолога Дело вкуса: как формируются и почему меняются предпочтения в еде — объяснение нутрициолога

Вкусовые предпочтения меняются со временем. Но с чем это может быть связано?

Psychologies
Вопрос-ответ Вопрос-ответ

Откуда взялась Луна, заразен ли рак и другие вопросы

Вокруг света
«Бесит, когда актриса отталкивает мой язык»: Гоша Куценко рассказал о постельных сценах в кино «Бесит, когда актриса отталкивает мой язык»: Гоша Куценко рассказал о постельных сценах в кино

Гоша Куценко откровенно высказался об интимной стороне профессии

VOICE
Мир, который построил Шухов Мир, который построил Шухов

Самые значимые работы инженера Владимира Шухова

Культура.РФ
Они живые и светятся Они живые и светятся

Зачем червям система биолюминесценции?

Наука и жизнь
Геологи посчитали глобальную толщину и плотность коры Марса Геологи посчитали глобальную толщину и плотность коры Марса

В среднем марсианская кора намного толще земной или лунной

ТехИнсайдер
10 самых провальных российских фильмов XXI века 10 самых провальных российских фильмов XXI века

Про половину из этих убыточных кинолент вы даже не слышали

Maxim
6 золотых правил нестареющих женщин: запомни их как мантру! 6 золотых правил нестареющих женщин: запомни их как мантру!

Простейшие привычки, которые помогут отсрочить старение на десятки лет

VOICE
Чтобы она улыбалась Чтобы она улыбалась

Что делать ребенку, если учеба превратилась в желание понравиться учительнице

СНОБ
Права на мотоцикл: что надо знать для получения категории «А» Права на мотоцикл: что надо знать для получения категории «А»

Что нужно, чтобы стать мотоциклистом?

РБК
12 лайфхаков для избавления от секущихся кончиков: мнение экспертов по волосам 12 лайфхаков для избавления от секущихся кончиков: мнение экспертов по волосам

С этими простыми советами ты забудешь о проблеме секущихся кончиков

VOICE
В IT в доверие: как молодые преподаватели решат проблему подготовки айтишников В IT в доверие: как молодые преподаватели решат проблему подготовки айтишников

Как ассистенты преподавателей помогут индустрии IT утолить кадровый голод

Forbes
Отпускной набор Отпускной набор

Возможно ли не набирать вес даже в отеле «всё включено»?

Новый очаг
Попугаи научились звонить сородичам по видеосвязи — и вот как это изменило домашних птиц Попугаи научились звонить сородичам по видеосвязи — и вот как это изменило домашних птиц

Без общения с себе подобными страдают не только люди

Вокруг света
Советские граждане, а не евреи: почему в СССР практически не говорили о Холокосте Советские граждане, а не евреи: почему в СССР практически не говорили о Холокосте

Почему советские власти пытались замолчать трагедию о Холокосте

Forbes
10 тем, которые нужно обсудить в начале отношений 10 тем, которые нужно обсудить в начале отношений

Что такое «карта отношений» и как она помогает свести конфликты к минимуму?

Psychologies
Эволюция русалочки: нужен ли под водой темный цвет кожи Эволюция русалочки: нужен ли под водой темный цвет кожи

Существует ли эволюционная выгода для русалок от темной кожи под водой?

СНОБ
Радиошум земных вышек мобильной связи оказался недоступен для обнаружения с ближайших звезд Радиошум земных вышек мобильной связи оказался недоступен для обнаружения с ближайших звезд

Утечка излучения от вышек мобильной связи на Земле не может быть обнаружена

N+1
Это вам не кино: ученые назвали растение, которое выживет и даст урожай на Марсе Это вам не кино: ученые назвали растение, которое выживет и даст урожай на Марсе

Сценарий выживания, как в фильме «Марсианин», оказался не самым перспективным

Вокруг света
Почему римляне не сумели приручить ни одно новое животное? Разбирается биолог Почему римляне не сумели приручить ни одно новое животное? Разбирается биолог

Тим Флэннери проследил историю европейского континента

Вокруг света
10 странных фактов о теле человека, которые мало кто знает 10 странных фактов о теле человека, которые мало кто знает

Человек светится в темноте, производит алкоголь и несет килограммы бактерий

Maxim
Высокие цели Высокие цели

13 громких автомобильных покушений XX века

Автопилот
Главное вовремя начать Главное вовремя начать

Какие протоколы красоты сочетают антиэйдж и превент в одном флаконе

Собака.ru
Лучшие аудиокниги для больших и маленьких путешествий Лучшие аудиокниги для больших и маленьких путешествий

Хорошая аудиокнига скрасит как поездку на дачу, так и дальнее странствие

Maxim
Эксперты назвали смартфоны, которые излучают сильнее всего Эксперты назвали смартфоны, которые излучают сильнее всего

Стоит ли опасаться своего смартфона?

ТехИнсайдер
Правила жизни Тины Тернер Правила жизни Тины Тернер

Правила жизни королевы рок-н-ролла Тины Тернер

Правила жизни

Владелец «Гельвеции» — об одной маленькой, но очень активной категории гостей

Правила жизни
Открыть в приложении