Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят) Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят)

Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят)

Playboy
История потерянной надежды История потерянной надежды

«Время "Спартака"»: документальный сериал о футболе и стране

Weekend
Академик Евгений Чойнзонов: «Путь к онкологу должен быть коротким» Академик Евгений Чойнзонов: «Путь к онкологу должен быть коротким»

Томская онкология известна далеко за пределами России

Наука
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
«Чувства Анны»: мир без любви «Чувства Анны»: мир без любви

Анна Меликян рассказывает классическую историю Золушки в фильме «Чувства Анны»

Монокль
Научная фантастика Поднебесной: с каких книг начать читать Лю Цысиня Научная фантастика Поднебесной: с каких книг начать читать Лю Цысиня

С каких произведений начать знакомиться с великим китайским фантастом Лю Цысинем

ТехИнсайдер
Что есть будем Что есть будем

Чем опасны для ребенка здоровые пищевые привычки: 7 неочевидных факторов

Лиза
Коллекционер Михаил Царев: Мы сохранили целое поколение искусства Коллекционер Михаил Царев: Мы сохранили целое поколение искусства

Почему коллекционер Михаил Царев беспокоится за современную российскую арт-сцену

СНОБ
Возвращение «Метеора» Возвращение «Метеора»

В сентябре 2017 на воду спустили судно на подводных крыльях типа «Валдай 45Р»

Наука и техника
Как продлить жизнь букету цветов: простые лайфхаки Как продлить жизнь букету цветов: простые лайфхаки

Что можно сделать, чтобы продлить жизнь срезанным растениям

ТехИнсайдер
Исследование: у владельцев собак риск развития деменции на 40% ниже Исследование: у владельцев собак риск развития деменции на 40% ниже

Люди старше 65 лет, у которых есть собаки, намного реже страдают деменцией

ТехИнсайдер
Большой ресурс для маленькой компании Большой ресурс для маленькой компании

Где предпринимателю взять деньги на развитие бизнеса?

РБК
Миссис Харрис едет в Нью-Йорк Миссис Харрис едет в Нью-Йорк

«Миссис Харрис едет в Нью-Йорк»: винтажная комедия, греющая душу

Правила жизни
Император и историческая память Император и историческая память

Как Карл Великий превратился во «второго короля Артура»

Знание – сила
Камиль Ларин: Правила хорошей дружбы Камиль Ларин: Правила хорошей дружбы

История-посиделка от участника «Квартета И»

Maxim
Роковая пощечина Берии: почему советская актриса Евгения Гаркуша ушла из жизни в 33 года Роковая пощечина Берии: почему советская актриса Евгения Гаркуша ушла из жизни в 33 года

Смерть актрисы Евгении Гаркуши загадочна

VOICE
Аркадий Ипполитов (26.03.1958 - 5.11.2023) Аркадий Ипполитов (26.03.1958 - 5.11.2023)

Историк искусства Екатерина Андреева об искусствоведе Аркадии Ипполитове

Собака.ru
Стояние в середине взрыва Стояние в середине взрыва

За год Александр Плотников посадил вишневый сад и поставил четыре спектакля

СНОБ
Танец разведчицы Танец разведчицы

Карл фон Фриш — человек, открывший пчелиный язык танцев

Знание – сила
Упразднение города Н. Упразднение города Н.

Красный командир Яков Тряпицын воплотил фантасмагорию великого сатирика в жизнь

Дилетант
Рукокрылые резервуары Рукокрылые резервуары

Почему летучие мыши резко выделяются среди источников инфекционных болезней?

Знание – сила
Переживая Фассбиндера Переживая Фассбиндера

Как Ханна Шигулла победила прошлое, не прощаясь с ним

Weekend
Появление олдованской культуры удревнили до 3,2-3 миллионов лет назад Появление олдованской культуры удревнили до 3,2-3 миллионов лет назад

Археологи определили, когда появилась олдованская культура

N+1
Линия энергии Линия энергии

Минималистичный интерьер квартиры для молодой семьи с двумя детьми

SALON-Interior
Дочь и внук Эльдара Рязанова рассказывают о его первой семье Дочь и внук Эльдара Рязанова рассказывают о его первой семье

Жизнь родителей оказалась длиннее, чем одна любовь

Караван историй
Камин в квартире — это реально? Камин в квартире — это реально?

Какие есть типы каминов, которые можно установить в обычных квартирах

CHIP
Как подобрать правильно вклад и не ошибиться? Как подобрать правильно вклад и не ошибиться?

С повышением ключевой ставки Банком России ставки по вкладам поползли вверх

Наука и техника
Ловись, рыбка! Ловись, рыбка!

Выбирайте для своего стола лучшую рыбу

Добрые советы
Правую или заднюю? Какую лапу сосет медведь в своей берлоге? Спойлер: никакую! Да и берлоги у него нет Правую или заднюю? Какую лапу сосет медведь в своей берлоге? Спойлер: никакую! Да и берлоги у него нет

Задумывались ли вы когда-нибудь, почему медведь сосет лапу?

ТехИнсайдер
Резерфорд и рождение экспериментальной ядерной физики Резерфорд и рождение экспериментальной ядерной физики

Первое искусственное превращение химических элементов

Наука и жизнь
Открыть в приложении