Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сексомния существует. Что нужно знать о Сексомния существует. Что нужно знать о

Что такое сексомния?

ТехИнсайдер
Интервью Интервью

Али Онгер и Алексей Горский: почему сейчас самое время покупать яхту в Турции

Y Magazine
Секстинг вместо секса Секстинг вместо секса

Не секстинг виноват в том, что исследователи называют кризисом секса

Playboy
Турандот нашего времени Турандот нашего времени

Спектакль «Турандот» в постановке Андрея Прикотенко

СНОБ
Как IT-сервисы проходят путь от внутреннего инструмента до публичного решения Как IT-сервисы проходят путь от внутреннего инструмента до публичного решения

Как множество компаний создают внутренние инструменты для своих целей

Forbes
7 лучших современных комедийных медицинских сериалов 7 лучших современных комедийных медицинских сериалов

Зрелища, от которых сердце начинает биться без помощи дефибриллятора

Maxim
Какое растительное молоко лучше не покупать: эксперт раскрыла особенности состава популярного постного напитка Какое растительное молоко лучше не покупать: эксперт раскрыла особенности состава популярного постного напитка

На что обратить внимание, выбирая растительное молоко?

VOICE
6 типичных ошибок в публичных выступлениях 6 типичных ошибок в публичных выступлениях

Как сделать свое выступление запоминающимся, ярким и полезным?

Psychologies
Одна вокруг света: игра в така-така и спасение машины механиком Хосе Одна вокруг света: игра в така-така и спасение машины механиком Хосе

210-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Как научиться много зарабатывать и достигать поставленных целей: 5 новых книг о бизнесе и саморазвитии Как научиться много зарабатывать и достигать поставленных целей: 5 новых книг о бизнесе и саморазвитии

Книги, которые помогут посмотреть на бизнес с нетривиальных ракурсов

ТехИнсайдер
Макар Кожухов, заместитель генерального директора Premier: Онлайн-кинотеатры — это новые библиотеки Макар Кожухов, заместитель генерального директора Premier: Онлайн-кинотеатры — это новые библиотеки

Заместитель генерального директора Premier — о герое нашего времени и аналитике

СНОБ
Гоша Гоша

Гоша Карцев выходит из треугольника печали и амплуа фэшн-суки

Собака.ru
Главные китайские автоновинки разбили в краш-тестах. Их продают в России Главные китайские автоновинки разбили в краш-тестах. Их продают в России

Кто оказался самым надежным из новых китайских автомобилей?

РБК
Волшебство или химический коктейль: что такое любовь с точки зрения биологии Волшебство или химический коктейль: что такое любовь с точки зрения биологии

Как чувство любви меняет мозг?

Psychologies
Балет за границу Балет за границу

Сергей Дягилев стал гениальным продюсером задолго до появления слова «продюсер»

Правила жизни
Психолог — о возрастных стереотипах и «третьей молодости» Психолог — о возрастных стереотипах и «третьей молодости»

Как наслаждаться второй половиной жизни?

РБК
Городские подростки перестали быть выше сельских Городские подростки перестали быть выше сельских

Почему рост городских и сельских детей перестал различаться?

N+1
Полуподводный флот Полуподводный флот

Полупогружные транспортные суда: новое для российского судостроения направление

ТехИнсайдер
Адреналина и зрелищ: самые экстремальные экологичные гонки Адреналина и зрелищ: самые экстремальные экологичные гонки

Что будет, если скрестить «дакар» и ралли-кросс на машинах с электродвигателями?

ТехИнсайдер
«Женщина в Азии себе не принадлежит»: как девочек воспитывают согласно традициям «Женщина в Азии себе не принадлежит»: как девочек воспитывают согласно традициям

Екатерина Манойло — о том, как семейное насилие лишает будущего

Forbes
«Титаник»: разные судьбы. Реальные истории спасшихся и погибших пассажиров «Титаник»: разные судьбы. Реальные истории спасшихся и погибших пассажиров

Как сложились судьбы людей, попавших на «Титаник»

Караван историй
Храни меня, мой талисман Храни меня, мой талисман

Как выбрать украшения с пользой для здоровья

Лиза
«Навеселе» «Навеселе»

Как люди хотели устроить пьянку, но построили цивилизацию

N+1
От Эдипа до Нарцисса: как изменилось воспитание детей — взгляд нейропсихолога От Эдипа до Нарцисса: как изменилось воспитание детей — взгляд нейропсихолога

Почему все чаще современные дети чувствуют себя несчастными?

Psychologies
Художник за час: почему на мастер-классе тебя не научат рисовать? Художник за час: почему на мастер-классе тебя не научат рисовать?

Мастер-класс «Картина за час». Идти нельзя не идти? Где поставить запятую?

VOICE
Без интернатов: как социализация помогает детям с инвалидностью стать частью общества Без интернатов: как социализация помогает детям с инвалидностью стать частью общества

Кто и как в России занимается социализацией детей с инвалидностью

Forbes
Как устроено донорство яйцеклеток в России Как устроено донорство яйцеклеток в России

Как ЭКО с донорскими яйцеклетками решает проблемы тяжелого бесплодия

СНОБ
Вызывала матери скорую: трудное детство дочери Курта Кобейна и Кортни Лав Вызывала матери скорую: трудное детство дочери Курта Кобейна и Кортни Лав

Когда ты родилась в семье рокеров, тебя ждут совсем недетские испытания

VOICE
Как независимая киностудия стала триумфатором «Оскара»: 10 фильмов A24, с которыми стоит познакомиться Как независимая киностудия стала триумфатором «Оскара»: 10 фильмов A24, с которыми стоит познакомиться

Как киностудии А24 удается сочетать остроумный артхаус и кассовый успех

Правила жизни
20 профессий в зоне риска: эти специальности может заменить искусственный интеллект 20 профессий в зоне риска: эти специальности может заменить искусственный интеллект

От судей до эпидемиологов: кого заменит ИИ

ТехИнсайдер
Открыть в приложении