Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

АвтоВАЗ: перестройка и экспансия АвтоВАЗ: перестройка и экспансия

Флагман российского автопрома наращивает выпуск автомобилей. Впереди — изменения

Эксперт
«Великий квест» «Великий квест»

Глава из книги «Великий квест. Гении и безумцы в поиске истоков жизни на Земле»

N+1
«Я никогда не была с женатыми мужчинами»: Лолита рассказала о съёмках сериала «Актрисы» «Я никогда не была с женатыми мужчинами»: Лолита рассказала о съёмках сериала «Актрисы»

Лолита Милявская рассказала, каково ей было работать с популярным режиссером

VOICE
Смола и цветы Смола и цветы

История любви к хобби, которое стало профессией

Новый очаг
Навстречу новой жизни Навстречу новой жизни

Как разлюбить человека, если отношения зашли в тупик

Лиза
«На краю пропасти. Экзистенциальный риск и будущее человечества» «На краю пропасти. Экзистенциальный риск и будущее человечества»

Что угрожает существованию нашей цивилизации и как ее сохранить

N+1
«Наука должна отвечать на вызовы, стоящие перед промышленностью» «Наука должна отвечать на вызовы, стоящие перед промышленностью»

В центре внимания НОЦ «Инженерия будущего» разработки для индустрии

Эксперт
Как помочь тем, кто находится в кризисной ситуации. 5 советов для родственников, друзей и близких Как помочь тем, кто находится в кризисной ситуации. 5 советов для родственников, друзей и близких

Как поддержать того, кому действительно нужна помощь

СНОБ
Что нужно знать, если вы решили подать на развод: 7 фактов Что нужно знать, если вы решили подать на развод: 7 фактов

Семь вопросов, которые нужно задать себе, прежде чем разводиться

Psychologies
В носочках и под музыку В носочках и под музыку

6 приемов для лучшего секса, доказанные наукой

Лиза
«Женщина в Азии себе не принадлежит»: как девочек воспитывают согласно традициям «Женщина в Азии себе не принадлежит»: как девочек воспитывают согласно традициям

Екатерина Манойло — о том, как семейное насилие лишает будущего

Forbes
Спи, моя красавица Спи, моя красавица

7 комнатных растений, которые помогают уснуть

Лиза
Выгорание, опустошение и хронический стресс: 5 признаков, что вы в зоне риска, и советы от психолога Выгорание, опустошение и хронический стресс: 5 признаков, что вы в зоне риска, и советы от психолога

Как предотвратить выгорание?

Psychologies
Укололи и — пошел: главные тренды в инъекционной косметологии Укололи и — пошел: главные тренды в инъекционной косметологии

Как современные косметологи помогают коже не стареть?

Forbes
Лучшие упражнения для любительниц каблуков, которые ты сможешь выполнять прямо дома Лучшие упражнения для любительниц каблуков, которые ты сможешь выполнять прямо дома

Самые простых способах спасти ноги после каблуков

VOICE
Как предотвратить старость и не стать обузой для близких: 3 простых совета Бубновского Как предотвратить старость и не стать обузой для близких: 3 простых совета Бубновского

Как оставаться активной в любом возрасте?

VOICE
Полуподводный флот Полуподводный флот

Полупогружные транспортные суда: новое для российского судостроения направление

ТехИнсайдер
6 мужских недостатков, на которые женщины на самом деле не обращают внимания 6 мужских недостатков, на которые женщины на самом деле не обращают внимания

Если ты комплексуешь по любому из этих поводов, срочно переставай!

Maxim
Орбитальное движение атомов повлияло на формирование ультрахолодных димеров в оптических решетках Орбитальное движение атомов повлияло на формирование ультрахолодных димеров в оптических решетках

Физики исследовали образование фешбаховских димеров из атомов калия-40

N+1
Танец цвета Танец цвета

Отправной точкой для оформления этой квартиры послужила картина «Танец»

Идеи Вашего Дома
«Коллаборации выгодны всем»: шеф-повар Роман Киселев о трендах ресторанной индустрии «Коллаборации выгодны всем»: шеф-повар Роман Киселев о трендах ресторанной индустрии

Зачем шеф-поварам нужна творческая свобода и зачем объединяются специалисты

Forbes
HR-специалисты — о том, существует ли эйджизм при приеме на работу HR-специалисты — о том, существует ли эйджизм при приеме на работу

В каких сферах востребованы зрелые соискатели?

РБК
«Мой ребенок прекрасен!»: 82-летний Роберто Кавалли стал отцом в шестой раз «Мой ребенок прекрасен!»: 82-летний Роберто Кавалли стал отцом в шестой раз

Бывшая шведская модель Playboy сделала Роберто Кавалли отцом в шестой раз

VOICE
«Очень талантливый прощелыга»: почему КиберДед попал под санкции США «Очень талантливый прощелыга»: почему КиберДед попал под санкции США

Какую реальную угрозу КиберДед представляет для США

Forbes
Кейт Бланшетт и Меган Рапино: кто вошел в список женщин года Time Кейт Бланшетт и Меган Рапино: кто вошел в список женщин года Time

Героини списка «Женщины года» по версии журнала Time очень разные

Forbes
Архитектура Архитектура

Революция даже архитектуре придавала нездоровый драматизм

Правила жизни
Почему выпадают волосы? Почему выпадают волосы?

От чего зависит здоровье волос?

Здоровье
3 этапа, которые необходимо пройти после развода 3 этапа, которые необходимо пройти после развода

Как пережить развод?

Psychologies
Искусственная кожа, выдерживающая экстремальный холод и убивающая микробов: теперь покров кальмаров могут носить и люди Искусственная кожа, выдерживающая экстремальный холод и убивающая микробов: теперь покров кальмаров могут носить и люди

Искусственная кожа сможет убивать бактерии и грибки

ТехИнсайдер
«Нужна конфиденциальность — не вступайте в программу лояльности»: какие покупательские данные может собирать супермаркет «Нужна конфиденциальность — не вступайте в программу лояльности»: какие покупательские данные может собирать супермаркет

Монетизация данных о клиентах — это ещё один источник дохода для компаний

VC.RU
Открыть в приложении