Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Алла Юганова: «Была уверена, что Кончитту должна играть очень красивая актриса, а я самая обыкновенная...» Алла Юганова: «Была уверена, что Кончитту должна играть очень красивая актриса, а я самая обыкновенная...»

Иногда читаешь сценарий и думаешь: «Ну, авторы накрутили! Разве так бывает?»

Коллекция. Караван историй
Почему мужчина пропал после удачного свидания: 4 причины гостинга Почему мужчина пропал после удачного свидания: 4 причины гостинга

О том, почему ваши с партнером ожидания могут не совпадать, размышляет психолог

Psychologies
Накопленный провал Накопленный провал

Накопительная пенсионная система провалилась как инструмент сбережений

Монокль
Полная гармония Полная гармония

Квартира с яркими цветовыми сочетаниями и оригинальными дизайнерскими приемами

Идеи Вашего Дома
Йоргос Лантимос Йоргос Лантимос

Режиссер Йоргос Лантимос о своей музе Эмме Стоун

Grazia
Конфликт с начальством Конфликт с начальством

Как себя правильно вести и не испортить репутацию

Лиза
От $300 до $1300 в час: кто нанимает бухгалтеров-криминалистов и сколько это стоит От $300 до $1300 в час: кто нанимает бухгалтеров-криминалистов и сколько это стоит

Кто такие бухгалтера-криминалисты и кто пользуется их услугами?

Forbes
Смех – подарок культуры Смех – подарок культуры

Арсений Дежуров напоминает: человека от животного отличает способность смеяться

Правила жизни
Вы вернулись на маршрут Вы вернулись на маршрут

Московский ресторатор Алексей Пинский прокатился на внедорожнике Tank 500

Robb Report
Правую или заднюю? Какую лапу сосет медведь в своей берлоге? Спойлер: никакую! Да и берлоги у него нет Правую или заднюю? Какую лапу сосет медведь в своей берлоге? Спойлер: никакую! Да и берлоги у него нет

Задумывались ли вы когда-нибудь, почему медведь сосет лапу?

ТехИнсайдер
Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента» Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента»

Евгений Колбин рассказал о том, как развиваются облака в России

РБК
Рыночные отношения Рыночные отношения

Известный российский гастрокритик познает этот мир самым действенным способом

СНОБ
Дом, который построил страх Дом, который построил страх

Как устроен хоррор от крыши до фундамента

Weekend
Орфей Советского Союза Орфей Советского Союза

Жан Маре глазами его самых восторженных зрителей

Weekend
Фильм начинается Фильм начинается

Небольшая студия с интерьером в стиле «Криминального чтива»

Идеи Вашего Дома
«О самом лютом из владык» «О самом лютом из владык»

В том, что Влад Дракул был реальной исторической личностью, сомнений нет

Дилетант
Мужчина хранил древний метеорит, думая, что это камень с золотом! Интересная история Мужчина хранил древний метеорит, думая, что это камень с золотом! Интересная история

Лишь годы спустя австралиец раскрыл тайну своей очень прочной находки

ТехИнсайдер
Что такое поколение «альфа»: разбираем, чем эти дети отличаются от своих родителей Что такое поколение «альфа»: разбираем, чем эти дети отличаются от своих родителей

Поведение поколения альфа: чего ждать от тех, кто придет на смену зумерам

Psychologies
Как правильно позировать, чтобы отлично получаться на фото: мастер-класс от фотографа и модели Как правильно позировать, чтобы отлично получаться на фото: мастер-класс от фотографа и модели

Как сделать снимки стильными и гармоничными?

VOICE
Татарское гостеприимство Татарское гостеприимство

Казань – город с тысячелетней историей и настоящим чак-чаком

Лиза
У берегов Израиля нашли деревянные артефакты эпох неолита и халколита У берегов Израиля нашли деревянные артефакты эпох неолита и халколита

Израильские археологи исследовали 16 древних артефактов, изготовленных из дерева

N+1
На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами

Почему иллюминаторы самолетов имеют округлую форму

ТехИнсайдер
Сколько секса нужно для счастья? Сколько секса нужно для счастья?

Сколько секса нам нужно?

Добрые советы
7 отличных современных детективов, которые нужно прочитать 7 отличных современных детективов, которые нужно прочитать

Сегодня мы обращаемся к детективам не за новым, а за уютным старым

Правила жизни
Елена Морозова: «Тогда Паша Каплевич сказал Виктюку: «Бери, она точно твоя» Елена Морозова: «Тогда Паша Каплевич сказал Виктюку: «Бери, она точно твоя»

Ведь, задабривая меня, папа объяснял: искусство не терпит фальши

Коллекция. Караван историй
Зооразвод. Как не попасть в ловушку из-за любви к животным? Зооразвод. Как не попасть в ловушку из-за любви к животным?

4 уловки зоомошенников, которые угрожают не только кошельку владельца

Лиза
Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна

Из какого вина лучшего всего варить глинтвейн

СНОБ
Теория вырождения: вниз по лестнице, ведущей вверх Теория вырождения: вниз по лестнице, ведущей вверх

«Раньше было лучше», или «Золотой век» и теория вырождения

Знание – сила
«Диагноз» по селфи «Диагноз» по селфи

Иногда селфи может рассказать о человеке больше, чем тысяча слов

Здоровье
Малопонятный государственный муж Малопонятный государственный муж

Портреты изображают Победоносцева человеком сухим и строгим, без тени улыбки

Дилетант
Открыть в приложении