Мог ли чат GPT появиться в России и почему Китай скоро обгонит США

НаукаHi-Tech

«Криворукие гуманоиды», или Поговори со мной, машина!

Директор Центра прикладного искусственного интеллекта Сколтеха, руководитель научной группы AIRI Евгений Бурнаев рассказывает, мог ли чат GPT появиться в России, почему Китай скоро обгонит США и может ли ИИ разгадать загадки человеческого мозга.

Беседовала Елена Кудрявцева

Профессор Бурнаев — научный руководитель медиапроекта Сколтеха по популяризации AI-технологий Kapitsa.AI (проект реализуется при грантовой поддержке Минобрнауки РФ).

Что было придумано такого в ChatGPT, чего не было до этого? Почему вдруг такой взрыв интереса?

— Как обычно, это сочетание нескольких факторов. Первый фактор — очень специальная архитектура нейросети, то есть, по сути, очень специальная конструкция вычислительного алгоритма. Используется так называемый механизм внимания — специальный класс алгоритмов, который позволяет оценивать, насколько сильно какие‑то слова в предложении зависят от контекста. Механизм внимания был известен уже давно, однако в процессе проведения экспериментов было замечено, что если использовать очень большие нейросети (с большим числом параметров), которые позволяют делать оценку внимания для текстов большого размера и настраивать параметры нейросетей по огромным выборкам данных, то в результате получаются модели, которые на качественно новом уровне могут извлекать смыслы из текстов. Это второй фактор. Конечно, при этом требуются значительные вычислительные мощности.

Сотрудники компании OpenAI, которые первыми заметили эту тенденцию, продолжили активно инвестировать в данное направление. Третье — был предложен и использован для обучения ChatGPT новый алгоритм с подкреплением на основе обратной связи от пользователя. Для этого требуются значительные средства для получения специальным образом подготовленной выборки данных в виде вопросов и ответов людей на них. В итоге модель ChatGPT на регулярной основе получала обратную связь от пользователей, что позволяло автоматически улучшать ее работу.

Пример прогноза вероятности возникновения лесного пожара на четыре дня вперед, Иркутская область, сетка 21x21 км, май 2022 года

— Как это выглядело в реальности?

— Они наняли столько‑то сотен определенным образом подготовленных людей, сначала тренировали их, как правильно составлять вот эти пары вопросов‑ответов — определенные вопросы и детальные ответы на них. Более того, некоторые из ответов были развернутые, представленные в виде рассуждений.

— То есть логически?

— Эта цепочка рассуждений в конце приводит к ответу на поставленный вопрос. Все указанные факторы, описанные выше приемы оказались очень важными и полезными, кардинально повышающим качество, они позволили «дойти последнюю милю». Примерно так же было с системой распознавания лиц. Долгое время качество распознавания, условно, не превышало 85%. Вроде бы с формальной точки зрения точность в 85% выглядит неплохо, но этого совсем недостаточно для приложений.

На практике нужна точность гораздо больше 95%. Преодоление этой разницы требовало наиболее значительных усилий. Как только удалось это сделать за счет новых алгоритмов, сразу стало возможным строить системы распознавания, которые работали в разы лучше прежних, и их использование в различных бизнес‑приложениях стало экономически оправданным. Так и в случае языковых моделей. Языковые модели предыдущего поколения неплохо работали в каких‑то достаточно узких инженерных задачах. За счет сочетания факторов, которые я описал выше, удалось кардинально повысить качество и выйти на новый уровень понимания естественного языка.

Ненужные люди

— Все как раз прогнозируют какой‑то передел структуры рынка, замену ИИ большого количества специальностей, переживают инженеры, художники, журналисты.

— Это, конечно, больная тема, но на самом деле эти процессы, на мой взгляд, не слишком быстрые. Конечно, если речь идет о, например, стоковых рисунках для презентаций, то да, я согласен, генеративная модель может вместо художника такой рисунок легко сгенерировать. Но для результатов более высокого уровня пока еще требуется участие профессионала.

— OpenAI довольно неплохо привлекла к себе внимание, уволив и взяв обратно на работу Сэма Альтмана, который якобы хотел предупредить человечество о том, что ИИ достиг какого‑то опасного порога развития.

— Действительно, в прессе стали появляться сообщения, что фактически уже создан интеллект, который всех скоро поработит, займет рабочие места и т. д. Например, даже лауреат Нобелевской премии Кристофер Писсаридес посоветовал абитуриентам не стремиться изучать естественные науки, технические дисциплины и математику. Он считает, что в будущем будут гораздо выше цениться «эмпатические» и творческие навыки, которые помогут процветать в мире доминирования искусственного интеллекта. На мой взгляд такие советы — это, конечно, крайность.

Займет ли ИИ рабочие места? Конечно, займет! А потом создаст в два раза больше рабочих мест, чтобы разгрести все то, что ИИ же и наворотил, а точнее, «криворукие гуманоиды» с его помощью. Действительно, программный модуль на основе ИИ, вообще говоря, имеет ненулевую вероятность выдать ошибочный прогноз. Соответственно, такого рода модуль может, с одной стороны, повысить эффективность принятия решений, но с другой стороны требуется встраивать его в ИТ‐системы надлежащим образом, принимая во внимание эту особенность — что некоторые прогнозы, пусть даже и очень небольшая их часть, могут быть ошибочными. В случае если речь идет о какой‐то ИТ‐системе для управления критической инфраструктурой, появление таких ошибок может быть фатальным. Соответственно, очень важно наличие высококвалифицированных специалистов экспертов в ИИ, которые могут надлежащим образом оценить все риски и верифицировать решение на основе ИИ. Помимо этого, требуется вовлечение квалифицированных разработчиков со знанием основ ИИ, которые смогут правильным образом встроить модуль на основе ИИ в ИТ‑систему с учетом всех его особенностей.

— Зато вылезают какие‑то опасности, о которых мы раньше и не подозревали.

— Понятно, что искусственный интеллект можно встраивать в военные изделия. Но, опять‑таки, кажется, что это просто всего лишь еще одна дополнительная техническая возможность, которой раньше не было. Если мы уже начали говорить про технику, то сначала тракторов не было, потом они появились. Хорошая вещь? Конечно, стало проще выращивать пшеницу. Но трактора — это еще и танки. С ИИ примерно такая же история будет, в моем понимании. Стали появляться дипфейки — стали появляться и методы, и сервисы на их основе для выявления дипфейков.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Левее левых: гошисты в водовороте событий мая—июня 1968 года во Франции Левее левых: гошисты в водовороте событий мая—июня 1968 года во Франции

Антиколониальная борьба во Франции и разочарование в коммунистах

Наука
Как отбросить сожаления: 8 простых способов Как отбросить сожаления: 8 простых способов

Стоит ли долго заниматься самобичеванием, если вы совершили ошибку?

Psychologies
Ужасная красавица Ужасная красавица

Плотный облачный покров долго скрывал от людей настоящий характер этой планеты

ТехИнсайдер
Повод для волнений Повод для волнений

Почему собиратели искусства переживают за свои коллекции?

RR Люкс.Личности.Бизнес.
Дальнобойщики 2:0 Дальнобойщики 2:0

Страшно ли ехать в кабине беспилотного грузовика?

ТехИнсайдер
«Сельдь под шубой» «Сельдь под шубой»

Уверенное второе место после оливье в рейтинге самых популярных праздничных блюд

КАНТРИ Русская азбука
Академик Юрий Наточин: главная забота почки — чтобы каждая клетка организма могла жить своей жизнью Академик Юрий Наточин: главная забота почки — чтобы каждая клетка организма могла жить своей жизнью

Академик Юрий Наточин: жизнь появилась не в морях, а в калиевых озерах

Наука
Психолог Юлия Дердо: Я по пальцам одной руки могу пересчитать семьи, которые бы не столкнулись с изменой Психолог Юлия Дердо: Я по пальцам одной руки могу пересчитать семьи, которые бы не столкнулись с изменой

Психолог Юлия Дердо — о семейных отношениях и изменах

СНОБ
«Нaполеон» «Нaполеон»

Еще один псевдопарижанин, павший в бою наших представлений о европейской кухне

КАНТРИ Русская азбука
Два месяца в открытом океане по своей воле: история врача-экспериментатора Алена Бомбара Два месяца в открытом океане по своей воле: история врача-экспериментатора Алена Бомбара

Как молодой врач стал первым человеком, в одиночку пересекшим Атлантику

ТехИнсайдер
Туда и обратно Туда и обратно

Как в классических детективах переплетаются персонажи и личности авторов

P.I.C. Partner In Crime
«Джеймс Уэбб» рассмотрел растущий за счет слияния с массивными галактиками квазар из ранней Вселенной «Джеймс Уэбб» рассмотрел растущий за счет слияния с массивными галактиками квазар из ранней Вселенной

«Джеймс Уэбб» рассмотрел массивный квазар, сливающийся с двумя галактиками

N+1
360 000 рублей от государства: как население стимулируют к долгосрочным сбережениям 360 000 рублей от государства: как население стимулируют к долгосрочным сбережениям

Как будет работать программа сбережений и куда пойдут длинные деньги россиян?

Forbes
Сладкое время для молодоженов: почему месяц после свадьбы зовется медовым Сладкое время для молодоженов: почему месяц после свадьбы зовется медовым

Мы решили разобраться в происхождении термина медового месяца

ТехИнсайдер
Дмитрий Кюлленен Дмитрий Кюлленен

Дмитрий Кюлленен — ресторатор, который создает неопанк-вайбы

Собака.ru
Что делать, если не приходят СМС с кодом подтверждения: решить проблему сможет каждый Что делать, если не приходят СМС с кодом подтверждения: решить проблему сможет каждый

Почему не приходят сообщения с кодом подтверждения и как исправить эту ошибку

ТехИнсайдер
Людмила Иванова: «Нет, мне не плохо... Я так живу» Людмила Иванова: «Нет, мне не плохо... Я так живу»

О Людмиле Ивановой рассказывает главный редактор Анжелика Пахомова

Коллекция. Караван историй
5 правил, как сделать тренировку на улице комфортной 5 правил, как сделать тренировку на улице комфортной

Что нужно учитывать, если вы собираетесь тренироваться на улице?

Maxim
Правила идеальных отношений: возможно ли счастье по инструкции? Правила идеальных отношений: возможно ли счастье по инструкции?

Существует ли секретная формула счастливого брака?

Psychologies
«Таких эмоций не найдешь в боулинге или кино» «Таких эмоций не найдешь в боулинге или кино»

Почему у баскетбола миллионы фанатов по всему миру? Отвечает Андрей Кириленко

VOICE
Как отбелить межплиточные швы без особых усилий: 7 гениальных лайфхаков, которые понравятся каждой хозяйке Как отбелить межплиточные швы без особых усилий: 7 гениальных лайфхаков, которые понравятся каждой хозяйке

Надоело смотреть на потемневшую затирку на кухне или в ванной комнате?

ТехИнсайдер
Ароматные звёздочки в саду Ароматные звёздочки в саду

Эти удивительные цветы-звёзды можно вырастить в саду в средней полосе России

Наука и жизнь
Почему слышен хруст при повороте руля и как это исправить Почему слышен хруст при повороте руля и как это исправить

Хруст при повороте руля — тревожный знак. Но где именно кроется неисправность?

РБК
Фaршированные перцы Фaршированные перцы

Перец – хоть он и болгарский – дал зеленый свет многим кухням мира

КАНТРИ Русская азбука
Как собрать чемодан для путешествия: 9 полезных советов стюардесс Как собрать чемодан для путешествия: 9 полезных советов стюардесс

Лайфхаки, которые помогут легко и быстро упаковать чемодан перед путешествием

VOICE
Самок лягушек заподозрили в сексуальном каннибализме Самок лягушек заподозрили в сексуальном каннибализме

Зоологи зафиксировали попытку золотистой литории съесть потенциального партнера

N+1
Сериалу «Санта-Барбара» 40 лет! Как эпохальная мыльная драма изменила постсоветское и мировое телевидение Сериалу «Санта-Барбара» 40 лет! Как эпохальная мыльная драма изменила постсоветское и мировое телевидение

Один из самых известных ситкомов «Санта-Барбара» празднует юбилей

Правила жизни
ЦБ повысил ставку до 18%: что будет дальше ЦБ повысил ставку до 18%: что будет дальше

Банк России впервые за 7 месяцев повысил ключевую ставку на существенные 2 п.п

Forbes
После Ленина: гибель левой оппозиции После Ленина: гибель левой оппозиции

Как соратники тяжело больного Ленина начали ожесточённую борьбу за власть

Дилетант
Державинские «университеты» Державинские «университеты»

«Нравом и обычаем каторжник, а познаниями невежда», – так был наречен Иосиф Розе

Знание – сила
Открыть в приложении