Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

CERN разрабатывает роботов-собак для работы в подземных лабиринтах Большого адронного коллайдера CERN разрабатывает роботов-собак для работы в подземных лабиринтах Большого адронного коллайдера

Новый робот-собака очень нужен: он может пройти там, где другие роботы не могут

ТехИнсайдер
Внутренний компас Внутренний компас

О новых проектах, планах и ориентирах в профессии Соня Присс рассказала ОK!

OK!
Почему в мировых музеях мало работ женщин и как кураторы пытаются это изменить Почему в мировых музеях мало работ женщин и как кураторы пытаются это изменить

Как художественные институции пересматривают канон в пользу гендерного баланса

Forbes
Этот Ford Bronco 1968 года с двигателем Coyote, способен разорвать любое бездорожье Этот Ford Bronco 1968 года с двигателем Coyote, способен разорвать любое бездорожье

Ford Bronco, определивший внедорожные тренды на много десятилетий вперёд

4x4 Club
Не только перепродажи: как заработать на рынке недвижимости Дубая Не только перепродажи: как заработать на рынке недвижимости Дубая

Какие бизнес-модели эффективны на дубайском рынке недвижимости

Forbes
Трудоголики, боссы и паникеры: кто работает по выходным и придется ли это делать вам Трудоголики, боссы и паникеры: кто работает по выходным и придется ли это делать вам

Останутся ли в ближайшем будущем выходные у «белых воротничков»?

Forbes
Когда мы будем есть личинки Когда мы будем есть личинки

Новый источник пептидов для медицины, кормов и продуктов питания — насекомые

Эксперт
Как брать, давать и не давать в долг: мужской кодекс Как брать, давать и не давать в долг: мужской кодекс

Нет ничего хуже для дружбы, чем долги. Но ситуации бывают разные

Maxim
Как восстановиться после развода: 7 советов психотерапевта — залечите раны Как восстановиться после развода: 7 советов психотерапевта — залечите раны

Как помочь себе, когда кажется, что нечем дышать, и земля уходит из-под ног?

Psychologies
Диета: Стол №1 Диета: Стол №1

Правила питания для больного желудка плюс примерное меню на неделю

Лиза
Невозвращенец Невозвращенец

Один из первых политических эмигрантов Петровской эпохи — Авраам Веселовский

Дилетант
Интерьер Интерьер

Курс светотерапии в гостях у медиахудожников Евгении Годуновой и Юрия Пелина

Собака.ru
Благоденствие из головы диктатора Благоденствие из головы диктатора

Зачем государству равенства в утопии «История севарамбов» нужен монарх

Weekend
«Почему мы такие на работе»: отрывок из книги «Почему мы такие на работе»: отрывок из книги

Как условная типологизация людей может помочь улучшить атмосферу в коллективе

СНОБ
Колыбель для ВПК Колыбель для ВПК

Академгородок как главная утопия Холодной войны

Weekend
Земля шести «единорогов»: как растут стартапы в Греции и других странах Балкан Земля шести «единорогов»: как растут стартапы в Греции и других странах Балкан

Как устроен венчурный рынок в балканский странах?

Forbes
Алексей Баталов: «Теперь мне страшно вспоминать, сколько раз я отказывался от роли Гоши, не подозревая, какой это будет фильм» Алексей Баталов: «Теперь мне страшно вспоминать, сколько раз я отказывался от роли Гоши, не подозревая, какой это будет фильм»

Я — бродяга и много раз бросал кино, занимаясь совсем другим

Караван историй
Мартовский кот: как выжить семье, когда у питомца страсть Мартовский кот: как выжить семье, когда у питомца страсть

Как быть хозяевам котов в это непростое время года?

Psychologies

Полезные привычки, которые помогут держать давление в норме

VOICE
Когда летние шины выгоднее всего покупать: секрет хитрых водителей Когда летние шины выгоднее всего покупать: секрет хитрых водителей

Хитрые водители разделяют покупку и установку шин

ТехИнсайдер
Вакуумный корабль Вакуумный корабль

Отличным грузовым транспортом могут стать дирижабли, наполненные вакуумом

ТехИнсайдер
«Midjourney — революция, сравнимая с изобретением фотографии». Интервью с экспертом в области цифровых технологий Львом Мановичем «Midjourney — революция, сравнимая с изобретением фотографии». Интервью с экспертом в области цифровых технологий Львом Мановичем

Вытеснит ли искусственный интеллект художников, фотографов и дизайнеров?

Правила жизни
История одной вещи: как за «Тетрис» боролись англичане, американцы и японцы История одной вещи: как за «Тетрис» боролись англичане, американцы и японцы

«Я изобрел тетрис для собственного удовольствия». История культовой головоломки

Правила жизни
Угол презрения Угол презрения

Русские футуристы пытались освистать Маринетти так, чтобы ему это не польстило

Правила жизни
Самцы мышей повели себя спонтаннее самок Самцы мышей повели себя спонтаннее самок

Ученые не заметили связи между изменчивостью поведения и эстральным циклом

N+1
Лучшие игры про Супер Марио: топ представителей серии, в которые можно сыграть сегодня Лучшие игры про Супер Марио: топ представителей серии, в которые можно сыграть сегодня

Какие проекты Супер Марио можно запустить сегодня на актуальных платформах

CHIP
«Сердце пармы» и не только: 13 фильмов с Александром Кузнецовым «Сердце пармы» и не только: 13 фильмов с Александром Кузнецовым

13 беспроигрышных тайтлов с Александром Кузнецовым, которые стоит посмотреть

Правила жизни
Дмитрий Леонтьев. Грейдер в Небесный Иерусалим Дмитрий Леонтьев. Грейдер в Небесный Иерусалим

Надо ли так держаться за асфальт?

4x4 Club
Правда ли, что вейпы безобиднее сигарет Правда ли, что вейпы безобиднее сигарет

Насколько безопасны вейпы? Правда ли, что с их помощью можно бросить курить?

СНОБ
Почему армянский коньяк такой вкусный и другие факты об этом невероятном напитке Почему армянский коньяк такой вкусный и другие факты об этом невероятном напитке

Коньяк в Армении начали делать от избытка творческого потенциала

Maxim
Открыть в приложении