Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Книги Книги

Отношения предпринимателя со своим бизнесом и изнанка неочевидных индустрий

Правила жизни
Система ABS в автомобиле: сокращает ли она тормозной путь? Система ABS в автомобиле: сокращает ли она тормозной путь?

Изучаем главный факт о системе, которая знакома большинству водителей

CHIP
Простатит Простатит

Простатит – золотое дно для медицины и страшный сон для любого мужчины

Maxim
Стоит ли смотреть третий сезон «Мандалорца»? Аргументы за и против для самых преданных фанатов Стоит ли смотреть третий сезон «Мандалорца»? Аргументы за и против для самых преданных фанатов

Почему у нас все же много надежд на сериал «Мандалорец»?

Правила жизни

Новое поколение передовых методов лечения поднимает серьезные этические проблемы

ТехИнсайдер
Физика в НИИ Черногорье Физика в НИИ Черногорье

Большой и подробный разбор досок из Black Mesa — ремейка оригинального Half-Life

N+1
Нейросети, доступные каждому: большой актуальный каталог Нейросети, доступные каждому: большой актуальный каталог

Составили для вас большой каталог нейросетей на все случаи жизни

CHIP
Режиссер и продюсер Бауддхаян Мукхерджи: Мы в неоплатном долгу перед русскими мастерами Режиссер и продюсер Бауддхаян Мукхерджи: Мы в неоплатном долгу перед русскими мастерами

Бауддхаян Мукхерджи — о том, что общего между российским и индийским кино

СНОБ
Головные боли, бессонница и даже тяга к суициду: неочевидные проблемы со здоровьем, которые могут возникнуть из-за проблем с зубами Головные боли, бессонница и даже тяга к суициду: неочевидные проблемы со здоровьем, которые могут возникнуть из-за проблем с зубами

Придет ли кому-то в голову лечить депрессию у стоматолога? Вряд ли. А зря!

Maxim
На льду Байкала установили рекорд скорости На льду Байкала установили рекорд скорости

Какую скорость может развить электрокроссовер VOYAH FREE

Maxim
ИИ научился убирать атмосферные помехи с астрономических снимков ИИ научился убирать атмосферные помехи с астрономических снимков

Изображения с лучших наземных телескопов размыты из-за смещения воздушных масс

ТехИнсайдер
Досчитай до 10 Досчитай до 10

Учимся успокаиваться и управлять гневом

Лиза
9 внутренних установок, которые сделают из вас неудачника 9 внутренних установок, которые сделают из вас неудачника

Какие внутренние установки активируют в людях комплекс неудачника?

Psychologies
5 невероятных технологий будущего, которыми мы пользуемся каждый день 5 невероятных технологий будущего, которыми мы пользуемся каждый день

Еще несколько лет назад о таких технологиях только мечтали писатели-фантасты

Maxim
Машины времени Машины времени

В чем прелесть старинных вещей, в частности автомобилей?

Y Magazine
Музыка Музыка

Что общего у симфонии Авраамова с изящным модернизмом Стравинского

Правила жизни
Ковбойня Тейлора Шеридана Ковбойня Тейлора Шеридана

«1923»: ностальгия по американской мечте

Weekend
Интервью Интервью

Али Онгер и Алексей Горский: почему сейчас самое время покупать яхту в Турции

Y Magazine
5 признаков кризиса в ваших отношениях 5 признаков кризиса в ваших отношениях

Как восстановить баланс в паре?

Psychologies
Цвет имеет значение: как необычные драгоценные камни становятся выгодной инвестицией Цвет имеет значение: как необычные драгоценные камни становятся выгодной инвестицией

Почему стоит обратить внимание именно на цветные драгоценные камни?

Forbes
Кейт Бланшетт в фильме «Тар»: как женщина-дирижер существует в культуре отмены Кейт Бланшетт в фильме «Тар»: как женщина-дирижер существует в культуре отмены

Каким получился фильм «Тар» Тодда Филда с Кейт Бланшетт в главной роли

Forbes
И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

Forbes
15 фактов о сериале «Уэнсдэй» 15 фактов о сериале «Уэнсдэй»

Чему Дженне Ортеге училась для роли и как снимали сцены с отрубленной рукой?

ЖАРА Magazine
В Челябинске запустили производство шаровых кранов большого диаметра — в чем их особенность В Челябинске запустили производство шаровых кранов большого диаметра — в чем их особенность

УЗСА начал производить уникальные для России устройства

СНОБ
Эти полезные простые утренние привычки помогают женщинам худеть, ничего не делая: секреты диетологов Эти полезные простые утренние привычки помогают женщинам худеть, ничего не делая: секреты диетологов

Что нужно делать, если ты решила сбросить лишний вес, но не готова к подвигам?

VOICE
Мартовский кот: как выжить семье, когда у питомца страсть Мартовский кот: как выжить семье, когда у питомца страсть

Как быть хозяевам котов в это непростое время года?

Psychologies
Как бывший гендиректор Microsoft строит новую арену для собственного клуба НБА Как бывший гендиректор Microsoft строит новую арену для собственного клуба НБА

Как Стив Балмер строит для «Лос-Анджелес Клипперс» роскошную спортивную арену

Forbes
Животные без мозга могут формировать ассоциативные воспоминания Животные без мозга могут формировать ассоциативные воспоминания

У стрекающих есть нервная сеть и этого достаточно для формирования воспоминания

ТехИнсайдер
Образ матери: как он влияет на дочь? Образ матери: как он влияет на дочь?

Как воспитывают детей разные типы матерей?

Psychologies
Вакуумный корабль Вакуумный корабль

Отличным грузовым транспортом могут стать дирижабли, наполненные вакуумом

ТехИнсайдер
Открыть в приложении