Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Карина-вирус! Карина-вирус!

В это тревожное время героиней обложки стала главная медсестра страны

Maxim
Фабрика счастья: как гуру, коучи и предприниматели зарабатывают на наших эмоциях Фабрика счастья: как гуру, коучи и предприниматели зарабатывают на наших эмоциях

Отрывок из книги «Фабрика счастливых граждан» об экономике счастья

Forbes
Плоды ошибок трудных Плоды ошибок трудных

Государство усиливает регулирование в сфере абортов

Монокль
Сквозные и критические: как изменилась стратегия развития технологий Сквозные и критические: как изменилась стратегия развития технологий

Сектор инноваций в России продолжает развиваться благодаря господдержке

РБК
На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами

Почему иллюминаторы самолетов имеют округлую форму

ТехИнсайдер
«Тушкино семейство» «Тушкино семейство»

Ту-204 – среднемагистральный пассажирский самолет

Наука и техника
Без паники! Без паники!

Что делать, если потеряла все документы

Лиза
Удивительные шишки Удивительные шишки

У каких деревьев бывают шишки? И какие они?

Наука и жизнь
Синдром высокого мака: почему ненавидят тех, кому «больше всех надо»? Синдром высокого мака: почему ненавидят тех, кому «больше всех надо»?

Почему тот, кто выбивается из среднего уровня, раздражает всех вокруг?

Psychologies
Затянуть ниже пояса Затянуть ниже пояса

Алиса Загрядская о том, что такое телесные иерархии и как они связаны с юмором

Правила жизни
5 черт поколения Y, которые могут его погубить 5 черт поколения Y, которые могут его погубить

Карьерный маркетолог выделила черты поколения Y, которые могут ему навредить

Psychologies
«Извините за задержку, я попал в пробку»: какие анекдоты рассказывали заключенные перед смертной казнью «Извините за задержку, я попал в пробку»: какие анекдоты рассказывали заключенные перед смертной казнью

Люди, которые сохраняли спокойствие даже перед смертью, и их шутки

VOICE
(Не) как у всех (Не) как у всех

Кухня — безупречный образец бесконечных повторений

Grazia
Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет» Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет»

Коллекционер Татьяна Столяр — о ее взаимоотношения с современным искусством

РБК
Архитектурная основа Архитектурная основа

Нестандартная двухуровневая квартира в стиле минимализм

Идеи Вашего Дома
Эритрея: наследница древней цивилизации и детище итальянских колонизаторов Эритрея: наследница древней цивилизации и детище итальянских колонизаторов

Эритрея – неожиданная страна с необычной историей

Зеркало Мира
Синдром именинника: почему перед днем рождения нам бывает грустно Синдром именинника: почему перед днем рождения нам бывает грустно

Почему перед днем рождения хочется ото всех закрыться в комнате

ТехИнсайдер
Реальность под знаком рыбы Реальность под знаком рыбы

Она — рыбка-кормилица — без всякого преувеличения, поистине Золотая рыбка

Знание – сила
7 неочевидных признаков того, что вас не уважают 7 неочевидных признаков того, что вас не уважают

Признаки того, что ваши слова не имеют никакого веса для других людей

Maxim
Чему учат в школе: как в России изменилась сфера образования Чему учат в школе: как в России изменилась сфера образования

Как учебные учреждения развиваются по всей стране и к чему это все приведет

Правила жизни
Гавань по имени БРИКС Гавань по имени БРИКС

БРИКС привлекает глобальные инвестиции в эпоху перемен

Деньги
16 фактов о дворовых бандах Казани: что послужило основой для создания сериала «Слово пацана. Кровь на асфальте» 16 фактов о дворовых бандах Казани: что послужило основой для создания сериала «Слово пацана. Кровь на асфальте»

Почему подростковые банды возникли именно в Казани и кто такой Роберт Гараев?

Maxim
Биополимеры вошли в госзадание Биополимеры вошли в госзадание

Ученые не первый год работают над созданием биоразлагаемой пленки

Наука
Археологи нашли древнейшие в Северной Африке следы человеческих ног Археологи нашли древнейшие в Северной Африке следы человеческих ног

Древнейшие отпечатки ног людей, которые когда-либо находили в Северной Африке

N+1
Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна Минимум танинов и никакой выдержки. Как выбрать вино для глинтвейна

Из какого вина лучшего всего варить глинтвейн

СНОБ
Пока живу — эволюционирую Пока живу — эволюционирую

Может ли эволюционировать организм, все гены которого необходимы для жизни?

Знание – сила
А мне летать охота: как стать бортпроводником А мне летать охота: как стать бортпроводником

Плюсы и минусы работы бортпроводником

ТехИнсайдер
Большой переполох Большой переполох

На что обратить внимание при выборе клининговой компании?

Лиза
Салат «Оливье» Салат «Оливье»

Как появился культовый салат «Оливье»

Знание – сила
Линия энергии Линия энергии

Минималистичный интерьер квартиры для молодой семьи с двумя детьми

SALON-Interior
Открыть в приложении