Куда нас приведут игры с искусственным интеллектом

СНОБHi-Tech

Куда нас приведут нейросети?

В последние годы в России развитию сферы искусственного интеллекта уделялось немало внимания. Сейчас сложно говорить о том, что будет в стране дальше, но нельзя упускать из виду мировые тренды, которые со временем окажут влияние и на нашу жизнь. О происходящем в науке рассказывает NLP-инженер и исследователь Иван Ильин.

Текст: Иван Ильин

Natural language understanding

Область понимания естественного языка находится на переднем крае создания сильного искусственного интеллекта. Ведь язык – это основная система передачи информации от человека к человеку. От современных языковых нейросетей ждут умения делать логические выводы как подтверждения способности к «мышлению».

Гигантские языковые модели, обученные на терабайтах текстовых данных, по-прежнему в трендах мировых компаний. Недавно Facebook (соцсеть признана в РФ экстремистской и запрещена) представила OPT-2, Google – PaLM, DeepMind – Gopher и RETRO, Nvidia – Megatron, OpenAI – обновила GPT-3 и выпустила Codex.

За счет увеличения числа параметров и обучения на огромных массивах данных нейросети стали демонстрировать возможность few-shot-обучения. Это способность буквально за пару тренировочных кейсов «по аналогии» решать математические задачи, выдавать ответы на реплики, продолжать повествование и вести диалог.

Обновленная модель GPT-3 от OpenAI теперь умеет редактировать и делать вставки в текст, а не только продолжать его. Поэтому новую версию можно использовать для рерайта, чтобы ускорить работу редакторов. Модель Codex (аналог GPT-3, обученная вместо текста на коде) может генерировать синтаксически корректный и функциональный код по описанию функций комментариями, ускоряя работу программиста. Генерация кода на основе этой модели уже успешно применяется в сервисе GitHub Copilot.

Следующий тренд – инъекция в языковые модели знаний об устройстве окружающего мира с помощью «Википедии» или графов знаний (создание своеобразной «памяти»), что позволило бы им при ответах на вопросы использовать не только контекст и данные из обучающей выборки, но и иметь прямой доступ к фактологической информации. Один из таких примеров – RETRO от DeepMind.

Гигантские языковые модели по-прежнему вотчина глобальных корпораций и их лабораторий, так как для обучения требуются огромные вычислительные ресурсы, высокопрофессиональные инженеры и исследователи в области машинного обучения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
Колибри оказались самыми пестрыми птицами Колибри оказались самыми пестрыми птицами

Девять из десяти птиц с самой разнообразной окраской относятся к колибри

N+1
20 вещей, которые могут тебе пригодиться в постели 20 вещей, которые могут тебе пригодиться в постели

Объекты и явления, при помощи которых твой секс будет еще великолепнее

Maxim
Гороскоп нового времени: как предсказать свое будущее с помощью ДНК-тестов Гороскоп нового времени: как предсказать свое будущее с помощью ДНК-тестов

Люди запрашивают множество разных тестов, но ситуация с ними весьма запутанна

Вокруг света
Синтетический футуризм Синтетический футуризм

Эксперимент редакции с нейросетью, «вобравшей» в себя Сорокина и Пелевина

СНОБ
Аллергия на солнце Аллергия на солнце

Солнечная аллергия: симптомы, тест на предрасположенность, лечение

Лиза
Ресторатор Борис Зарьков: «Дальше очень просто – жизнь продолжается. Вы находитесь “здесь”» Ресторатор Борис Зарьков: «Дальше очень просто – жизнь продолжается. Вы находитесь “здесь”»

Ресторатор Борис Зарьков – пат в шахматах, уход Michelin и «голые короли

СНОБ
Цена прохлады: как выбрать кондиционер для дома Цена прохлады: как выбрать кондиционер для дома

На что обратить внимание при выборе кондиционера?

CHIP
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
10 книг, из-за которых ты снова полюбишь читать 10 книг, из-за которых ты снова полюбишь читать

Смотришь с отвращением на всю литературу ещё со школы?

Maxim
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
5 способов прокачать знание иностранных языков с помощью музыки 5 способов прокачать знание иностранных языков с помощью музыки

Можно ли использовать музыку для изучения иностранных языков?

ТехИнсайдер
Кто Вы, княгиня Эльга? Кто Вы, княгиня Эльга?

Отрывок из готовящейся к печати книги «Киев — Москва. Расхождение»

Дилетант
5 крутых возможностей вакуумного упаковщика 5 крутых возможностей вакуумного упаковщика

Мы нашли целых 5 причин купить вакууматор

CHIP
Властитель «страны грез»: жизнь и таинственная смерть баварского короля Людвига II Властитель «страны грез»: жизнь и таинственная смерть баварского короля Людвига II

Память о Людвиге II не умрет до тех пор, пока в горах будут стоять его замки

Вокруг света
Всё, что хочу Всё, что хочу

Актриса Елена Лядова – о сложном характере, любви и терпении

Новый очаг
Вопрос психологу: как пережить расставание? Вопрос психологу: как пережить расставание?

Как пережить расставание с наименьшими потерями? Как отпустить человека?

Правила жизни
Недалеко от Рима нашли останки древнейшей курицы Италии Недалеко от Рима нашли останки древнейшей курицы Италии

Палеозоологи нашли фрагменты птичьих костей X– IX века до нашей эры

N+1
Российские физики рекордно разогрели плазму в сферическом токамаке «Глобус-М2» Российские физики рекордно разогрели плазму в сферическом токамаке «Глобус-М2»

Физики нагрели в «Глобуск-М2» дейтериевую плазму до очень высокой температуры

N+1
5 городов, которые на самом деле сводят с ума: все об опасных для психики «синдромах путешественника» 5 городов, которые на самом деле сводят с ума: все об опасных для психики «синдромах путешественника»

Какие опасности поджидают туристов в Иерусалиме, Париже и Венеции?

Вокруг света
Ашельским ручным рубилам из Англии оказалось более 560 тысяч лет Ашельским ручным рубилам из Англии оказалось более 560 тысяч лет

Гоминины изготовили древнейшие из этих орудий около 620–560 тысяч лет назад

N+1
Навыки выживания: что делать, если вы заблудились в лесу Навыки выживания: что делать, если вы заблудились в лесу

Советы эксперта, которые могут спасти вам жизнь

Вокруг света
Добро пожаловаться Добро пожаловаться

Три повода для ссор с соседями, в которых можно и нужно идти до конца

Лиза
Московский оборотень: история первого советского маньяка, который ненавидел богачей Московский оборотень: история первого советского маньяка, который ненавидел богачей

Первым серийным убийцей в СССР стал Василий Комаров, убивший 29 человек

VOICE
Сладкие двойники Сладкие двойники

Стоит ли заменять сахар на его низкокалорийные аналоги?

Здоровье
400 лет спустя: управляемое ИИ судно повторило маршрут корабля пилигримов Mayflower 400 лет спустя: управляемое ИИ судно повторило маршрут корабля пилигримов Mayflower

Механическое судно повторяет путь корабля Mayflower

Вокруг света
«Красный барон»: история самого известного хот-рода в мире «Красный барон»: история самого известного хот-рода в мире

Хот-роддинг — автомобильное искусство, признанное и уважаемое

Maxim
«Живите долго!»: простые советы долгожителей «Живите долго!»: простые советы долгожителей

Как встать на путь к долголетию?

Psychologies
Действующие и потухшие: 5 самых красивых вулканов России Действующие и потухшие: 5 самых красивых вулканов России

Труднодоступные, но желанные локации, до которых доберется не каждый

Вокруг света
Это не бумажки! Как строить отношения с деньгами, чтобы их было много Это не бумажки! Как строить отношения с деньгами, чтобы их было много

Никто никогда не объясняет, как правильно построить отношения с деньгами

VOICE
Открыть в приложении