Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Черная быль. Что именно произошло на Чернобыльской АЭС и чем все кончилось Черная быль. Что именно произошло на Чернобыльской АЭС и чем все кончилось

С момента катастрофы на Чернобыльской АЭС прошло уже много лет

Maxim
Инновации как способ выживания Инновации как способ выживания

На макроуровне никакой активизации НИОКР в средних компаниях не замечено

Монокль
Анализ экспорта вооружений КНР в страны Ближнего Востока Анализ экспорта вооружений КНР в страны Ближнего Востока

Продукция китайского оборонно-промышленного комплекса для ближневосточных стран

Обозрение армии и флота
Академик Евгений Чойнзонов: «Путь к онкологу должен быть коротким» Академик Евгений Чойнзонов: «Путь к онкологу должен быть коротким»

Томская онкология известна далеко за пределами России

Наука
Аркадий Ипполитов (26.03.1958 - 5.11.2023) Аркадий Ипполитов (26.03.1958 - 5.11.2023)

Историк искусства Екатерина Андреева об искусствоведе Аркадии Ипполитове

Собака.ru
История ритуального убийства История ритуального убийства

Книга, в которой подробно описана история краха Советского Союза

Монокль
Военно-политическая обстановка в Пакистане Военно-политическая обстановка в Пакистане

Что поставило под угрозу достижения Пакистана в борьбе с терроризмом

Обозрение армии и флота
Слово плохиша Слово плохиша

«Ловкий Плут»: спин-офф Диккенса

Weekend
Экономика в двух измерениях Экономика в двух измерениях

После открытия графена обнаружены более десяти веществ со схожей структурой

Наука
«О самом лютом из владык» «О самом лютом из владык»

В том, что Влад Дракул был реальной исторической личностью, сомнений нет

Дилетант
Все оттенки красного Все оттенки красного

На экраны врывается «Феррари»

Автопилот
Пальма первенства Пальма первенства

Эффектный и современный интерьер апартаментов в фешенебельном комплексе

SALON-Interior
Малая авиация большой страны: куда долетит ТВС-2МС Малая авиация большой страны: куда долетит ТВС-2МС

О возможностях и перспективах легких самолетов в России и за ее пределами

ФедералПресс
Современные «Отцы и дети»: психологический разбор героев нового российского сериала «Цикады» Современные «Отцы и дети»: психологический разбор героев нового российского сериала «Цикады»

На что могут повлиять детско-родительские отношения? Разбираем на «Цикадах»

Psychologies
Образование в России: «Хороший специалист всегда найдет себе применение» Образование в России: «Хороший специалист всегда найдет себе применение»

Какая сейчас идет нагрузка на школьников и как молодым людям найти призвание

ФедералПресс
Лед тронулся: как перестать возводить стену между собой и миром Лед тронулся: как перестать возводить стену между собой и миром

Почему мы стараемся казаться сильнее, чем есть на самом деле?

Psychologies
Лаконичность в деталях Лаконичность в деталях

Дизайн-микс из дорогой акцентной мебели и предметов, найденных на маркетплейсах

Идеи Вашего Дома
Мужчина, это биохак! Мужчина, это биохак!

Как современные мужчины и женщины поддерживают молодость, красоту и здоровье

Men Today
Линия энергии Линия энергии

Минималистичный интерьер квартиры для молодой семьи с двумя детьми

SALON-Interior
Правильный подарок Правильный подарок

Нумерология поможет не ошибиться с выбором подарка и найти идеальный презент

Лиза
Фитнес тридесятого царства Фитнес тридесятого царства

Правила жизни спортсменов в самом расцвете сил

Men Today
Наука о чужих. Жизнь и разум во Вселенной Наука о чужих. Жизнь и разум во Вселенной

Веками учёные настойчиво искали «космическое чудо»

Наука и жизнь
Япона-рама Япона-рама

Dongfeng водим, Nissan в уме

Автопилот
От жертвоприношений до подарков: как появились традиции празднования Нового года От жертвоприношений до подарков: как появились традиции празднования Нового года

Как складывались праздничные традиции и почему Новый год такой популярный

Forbes
Что делать, если у вас чешутся глаза Что делать, если у вас чешутся глаза

Почему возникает зуд в глазах и почему их ни в коем случае нельзя тереть

ТехИнсайдер
Дропперы малолетние Дропперы малолетние

Активное вовлечение подростков в мошеннические схемы вынуждает менять закон

Деньги
Чай, сжигающий жир на животе: какой напиток выбрать и как его правильно пить Чай, сжигающий жир на животе: какой напиток выбрать и как его правильно пить

Есть продукты, ускоряющие избавление от висцерального жира

VOICE
Загадки Третьего рейха Загадки Третьего рейха

Аненербе – самая таинственная организация в новейшей истории человечества

Зеркало Мира
Джоли Алиен Джоли Алиен

Художница Джоли Алиен — как найти авторский стиль, чего ждать от моды

Grazia
Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна

Из какого вина лучшего всего варить глинтвейн

СНОБ
Открыть в приложении