Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ныряющий «воробей» Ныряющий «воробей»

Почему необычную птаху, проводящую часть жизни под водой, назвали оляпкой?

Наука и жизнь
Простуда в условиях невесомости: может ли человек заболеть в космосе Простуда в условиях невесомости: может ли человек заболеть в космосе

Почему в условиях невесомости намного тяжелее переносить болезни

ТехИнсайдер
Орфей Советского Союза Орфей Советского Союза

Жан Маре глазами его самых восторженных зрителей

Weekend
Привыкшие к зеркалу и к сородичам мыши прошли зеркальный тест Привыкшие к зеркалу и к сородичам мыши прошли зеркальный тест

Ученые определили, что отвечает за распознавание себя в зеркале

N+1
Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года

2023 год стал важной вехой в истории современной музыки

Forbes
Все на подъеме Все на подъеме

Самые выгодные инвестиции 2023 года

Деньги
Раскрыть себя на почве быта Раскрыть себя на почве быта

Что нравится делать по дому лично тебе?

Лиза
Дешево и сердито Дешево и сердито

Дискаунтеры захватывают российский рынок

Агроинвестор
Татарское гостеприимство Татарское гостеприимство

Казань – город с тысячелетней историей и настоящим чак-чаком

Лиза
«Черные лебеди»–2024 «Черные лебеди»–2024

Основные опасения за будущее респондентов связаны с вооруженными конфликтами

Деньги
Елена Морозова: «Тогда Паша Каплевич сказал Виктюку: «Бери, она точно твоя» Елена Морозова: «Тогда Паша Каплевич сказал Виктюку: «Бери, она точно твоя»

Ведь, задабривая меня, папа объяснял: искусство не терпит фальши

Коллекция. Караван историй
Сделаю завтра: почему мы нарушаем дедлайны и как с этим покончить Сделаю завтра: почему мы нарушаем дедлайны и как с этим покончить

Почему многие люди — независимо от силы воли — откладывают дела, срывают сроки

РБК
Кто хочет стать триллионером Кто хочет стать триллионером

Почему 100 лет назад рухнула германская марка

Деньги
Все хотят Настю Ивлееву — самую горячую девушку декабря Все хотят Настю Ивлееву — самую горячую девушку декабря

Настя Ивлеева всенародно и единогласно избрана верховной фэшн-дивой!

Собака.ru
Прадедушка современных дронов: как был устроен беспилотный самолет-торпеда времен Первой мировой Прадедушка современных дронов: как был устроен беспилотный самолет-торпеда времен Первой мировой

Почему история воздушной торпеды Чарльза Кеттеринга закончилась плачевно

ТехИнсайдер
Почему компьютер постоянно перегревается? 7 способов охладить устройство Почему компьютер постоянно перегревается? 7 способов охладить устройство

Есть ли способы охладить лэптоп?

ТехИнсайдер
Шекспировская трагедия в стенах Царьграда Шекспировская трагедия в стенах Царьграда

Борьба за власть по-византийски

Знание – сила
«Коты полезны для здоровья?»: как работает фелинотерапия «Коты полезны для здоровья?»: как работает фелинотерапия

Как повседневное общение с кошками приводит к исцелению тела и души?

Psychologies
Синдром именинника: почему перед днем рождения нам бывает грустно Синдром именинника: почему перед днем рождения нам бывает грустно

Почему перед днем рождения хочется ото всех закрыться в комнате

ТехИнсайдер
Отчаянный газовый покер Отчаянный газовый покер

На рынке СПГ есть только два игрока, которые имеют достаточные амбиции

Монокль
Загадки Третьего рейха Загадки Третьего рейха

Аненербе – самая таинственная организация в новейшей истории человечества

Зеркало Мира
Злость, зависть, вина: что с ними делать — глава из новой книги Ольги Примаченко Злость, зависть, вина: что с ними делать — глава из новой книги Ольги Примаченко

Злость, зависть, вина — такие неудобные, «плохие чувства». Стоп! Почему плохие?

Psychologies
Духи, шаманы и амулеты: любопытные факты о мифологии северных народов России Духи, шаманы и амулеты: любопытные факты о мифологии северных народов России

Боги-демиурги, злые духи, почитаемые животные: мифология Севера России

ТехИнсайдер
Шимпанзе долины Исса кастрировали и убили детеныша-чужака Шимпанзе долины Исса кастрировали и убили детеныша-чужака

Почему шимпанзе саванн убивают друг друга?

N+1
9 лучших кукольных советских мультфильмов 9 лучших кукольных советских мультфильмов

Кукольные мультфильмы из СССР, которые вы посмотрите с удовольствием

Maxim
Портрет со многими неизвестными Портрет со многими неизвестными

Как ученые исследовали тайны и парадоксы «Моны Лизы»

Weekend
Очень важные персональные данные Очень важные персональные данные

На что повлияет ужесточение наказания за незаконный сбор личных данных граждан

Монокль
Из любви к искусству Из любви к искусству

Как коллекционировать искусство

SALON-Interior
«Лучше всего за людей говорит то, что они делают» «Лучше всего за людей говорит то, что они делают»

Тихон Жизневский славы не ищет, а к своей популярности относится с иронией

OK!
Венеры Серебряного века. Как видели идеал красоты русские художники рубежа XIX–XX веков Венеры Серебряного века. Как видели идеал красоты русские художники рубежа XIX–XX веков

Каких Венер создавали художники Серебряного века

СНОБ
Открыть в приложении