Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 самых популярных телесериалов СССР 15 самых популярных телесериалов СССР

Сериалы из СССР: дешево, но порой весьма сердито!

Maxim
Самый странный мотив убийства: история Даны Сью Грей, помешанной на шоппинге Самый странный мотив убийства: история Даны Сью Грей, помешанной на шоппинге

Началось всё 16 февраля 1994 года: в этот день было найдено тело Нормы Дэвис

VOICE
Требуется производство! Требуется производство!

Интеллектуальные цифровые платформы могут повысить эффективность промышленности

Монокль
Спорно, но задорно Спорно, но задорно

Гарик Харламов вспомнил и проанализировал историю конфликтов в своей жизни

Men Today
Голова кругом Голова кругом

Есть ли у сосудов мозга углы

N+1
Русско-японская война и манипуляции памятью Русско-японская война и манипуляции памятью

Как война с Японией прочно вошла героический раздел русской истории

Знание – сила
Банковская «цифра» для экспортера Банковская «цифра» для экспортера

Что сегодня позволяет получать господдержка российского экспорта

РБК
Современные «Отцы и дети»: психологический разбор героев нового российского сериала «Цикады» Современные «Отцы и дети»: психологический разбор героев нового российского сериала «Цикады»

На что могут повлиять детско-родительские отношения? Разбираем на «Цикадах»

Psychologies
Дороги без дураков Дороги без дураков

Разбираемся, как именно строится транспортная система будущего

РБК
Шекспировская трагедия в стенах Царьграда Шекспировская трагедия в стенах Царьграда

Борьба за власть по-византийски

Знание – сила
Заморозить развитие: почему криобанки — это технологии будущего Заморозить развитие: почему криобанки — это технологии будущего

На самом деле уже очевидно, что не за горами новый король — биотех

Forbes
«Декабрист» и другие шлумбергеры «Декабрист» и другие шлумбергеры

Первый по распространённости в мире кактус

Наука и жизнь
ANNA ASTI: «Я не привыкла к наградам» ANNA ASTI: «Я не привыкла к наградам»

ANNA ASTI о выборе песни для своего репертуара, собаках и главном в шоу-бизнесе

ЖАРА Magazine
Завал на работе Завал на работе

Как все успевать и грамотно снизить нагрузку на работе

Лиза
Физики обжали скирмионную струну хопфионным кольцом Физики обжали скирмионную струну хопфионным кольцом

Физики пронаблюдали образование хопфионных колец вокруг скирмионных струн

N+1
Теневой биткоин: Как наказывают майнеров, ворующих электричество Теневой биткоин: Как наказывают майнеров, ворующих электричество

Энергетики сдерживают аппетиты воротил «серого» сектора биткоинов

ФедералПресс
Парк развлечений Парк развлечений

Александр Борода том, как устроен один из лучших частных музеев столицы

Robb Report
Что искали крестоносцы Что искали крестоносцы

Один из сложнейших символов христианской культуры — Святой Грааль

Зеркало Мира
Условно-досрочная пенсия Условно-досрочная пенсия

Как сформировать долгосрочные сбережения и разморозить пенсионные в 2024 году

Деньги
В банде только девушки В банде только девушки

«Контрабандистки»: корейское криминальное ретро с женским характером

Weekend
Машины времени Машины времени

11 лучших автомобилей российского рынка 2023 года

Men Today
Аппаратное будущее: как искусственный интеллект меняет индустрию косметологии Аппаратное будущее: как искусственный интеллект меняет индустрию косметологии

Как выглядит косметология будущего?

Forbes
Регина Тодоренко: «Не нужно бояться менять свою жизнь к лучшему!» Регина Тодоренко: «Не нужно бояться менять свою жизнь к лучшему!»

Регина Тодоренко считает, что каждый – творец собственной жизни

Добрые советы
Город дорог: 10 фильмов, действие которых происходит в автомобиле Город дорог: 10 фильмов, действие которых происходит в автомобиле

«Соучастник», «Драйв» и другие картины, в которых важную роль играет автомобиль

Правила жизни
Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест

Хочешь, чтобы твой дом всегда благоухал свежестью, но не можешь этого добиться?

VOICE
Как завязывать галстук: 4 простых способа, с которыми справится каждый Как завязывать галстук: 4 простых способа, с которыми справится каждый

Как завязать галстук (и даже галстук-бабочку!) разными способами и без стресса

ТехИнсайдер
Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе

С какими трудностями сегодня сталкиваются предпринимательницы и руководительницы

Inc.
Вся правда о мандаринах: какие самые сладкие и без косточек. И самое главное: сколько килограммов в день можно съесть? Вся правда о мандаринах: какие самые сладкие и без косточек. И самое главное: сколько килограммов в день можно съесть?

Как выбрать вкусные мандарины и сколько их можно съесть

ТехИнсайдер
Беспощадный космос Беспощадный космос

Какие смертельные опасности таит в себе космос?

Зеркало Мира
Археологи нашли древнейшие в Северной Африке следы человеческих ног Археологи нашли древнейшие в Северной Африке следы человеческих ног

Древнейшие отпечатки ног людей, которые когда-либо находили в Северной Африке

N+1
Открыть в приложении