Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему нельзя пропускать завтрак и еще 7 важных вопросов о еде по утрам Почему нельзя пропускать завтрак и еще 7 важных вопросов о еде по утрам

Что нужно есть на завтрак?

Правила жизни
Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя

Не любишь скручиванию и планку? Есть другие варианты для прокачки пресса!

VOICE
«Чувства Анны»: мир без любви «Чувства Анны»: мир без любви

Анна Меликян рассказывает классическую историю Золушки в фильме «Чувства Анны»

Монокль
Изучаем состав Изучаем состав

5 ингредиентов в составе зубной пасты, которые на самом деле опасны

Лиза
Исключение из правил: какая женщина на Руси сама могла выбрать мужа Исключение из правил: какая женщина на Руси сама могла выбрать мужа

Могла ли женщина на Руси выбрать себе мужа, или это не более чем миф?

VOICE
Водочный король: история Петра Арсеньевича Смирнова Водочный король: история Петра Арсеньевича Смирнова

Как крепостной крестьянин стал одним из самых богатых людей Российской империи

Maxim
Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года

2023 год стал важной вехой в истории современной музыки

Forbes
Тонкая работа. Операция по замене сустава или инъекции? Что выбрать при лечении коленей Тонкая работа. Операция по замене сустава или инъекции? Что выбрать при лечении коленей

Одни из самых эффективных способов избавления от болей в коленях

Лиза
10 неожиданных вопросов к Адель Вейгель 10 неожиданных вопросов к Адель Вейгель

Модель и блогер Адель Вейгель рассказала, как люди причиняли ей боль

VOICE
Диет-советы к празднику Диет-советы к празднику

Как легко похудеть к 31 декабря

Лиза
Шекспировская трагедия в стенах Царьграда Шекспировская трагедия в стенах Царьграда

Борьба за власть по-византийски

Знание – сила
Растениеводы вновь теряют маржу Растениеводы вновь теряют маржу

Зарегулированность отрасли, низкие цены на продукцию и активный рост затрат

Агроинвестор
«Один на один с малышом»: как общественное осуждение разлучало соло-матерей с детьми «Один на один с малышом»: как общественное осуждение разлучало соло-матерей с детьми

Отрывок из «Книги украденных детей» Джуди Кристи и Лизы Уингейт

Forbes
На всю голову На всю голову

5 опасных манипуляций с волосами, о которых лучше забыть

Лиза
«Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи «Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи

Глава из сборника семейных историй Дины Рубиной «Не вычеркивай меня из списка»

Forbes
Чудеса случаются! Чудеса случаются!

Истории о сказочных сюрпризах и зимних чудесах, которые преподнесла героям жизнь

Лиза
Слишком дорого и неоднозначно. Тест-драйв Volkswagen Taos 4 Motion Слишком дорого и неоднозначно. Тест-драйв Volkswagen Taos 4 Motion

Почему маленький кроссовер Volkswagen не может привлечь покупателей

4x4 Club
Москва до Юрия Долгорукого. Кто здесь жил прежде? Москва до Юрия Долгорукого. Кто здесь жил прежде?

Попробуем разобраться в том, кто жил на месте Москвы до XII века

Зеркало Мира
Не наркотик, или листья растения кока Не наркотик, или листья растения кока

Кока – страшный враг человека или друг и помощник?

Зеркало Мира
Чужд нам берег заморский Чужд нам берег заморский

В этом году россияне остались без иностранных ценных бумаг

Деньги
Сердечные орешки! Сердечные орешки!

Как растут орешки кешью?

Наука и жизнь
План Б по-американски План Б по-американски

Как Брэд Питт стал последней голливудской звездой

Weekend
История ритуального убийства История ритуального убийства

Книга, в которой подробно описана история краха Советского Союза

Монокль
Привидения Дома Кранкенгагена Привидения Дома Кранкенгагена

Дом Кранкенгагена известен в Петербурге всем, чья страсть — привидения

СНОБ
«Лучший контент производят телевизионные люди» «Лучший контент производят телевизионные люди»

Будущее телевидения, онлайн-платформ и то, как на нем скажется смена эпох

Правила жизни
Плюсы минуса Плюсы минуса

Варианты отдыха для тех, кто не хочет сидеть на месте

Men Today
Как общаться с манипулятором: 5 готовых сценариев разговора Как общаться с манипулятором: 5 готовых сценариев разговора

Как сориентироваться и поступить, столкнувшись с манипулятором

Psychologies
Голова кругом Голова кругом

Есть ли у сосудов мозга углы

N+1
В языке кашалотов нашли аналогии гласным и дифтонгам языков людей В языке кашалотов нашли аналогии гласным и дифтонгам языков людей

Носовой комплекс кашалота работает как речевой аппарат у человека

ТехИнсайдер
«Я работаю волшебником». Один день из жизни Деда Мороза «Я работаю волшебником». Один день из жизни Деда Мороза

Заглянем в гости к главному Деду Морозу столицы

Лиза
Открыть в приложении