Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Электрическое сопротивление Электрическое сопротивление

Эра электрокаров закончилась, так и не успев начаться

Монокль
Метаморфозы Иракли Метаморфозы Иракли

Ираклий Пирцхалава редкий гость в Москве, но интервью получилось интересным!

OK!
Ты «чушпан», а я пацан. О чем сериал «Слово пацана. Кровь на асфальте» Ты «чушпан», а я пацан. О чем сериал «Слово пацана. Кровь на асфальте»

Почему «Слово пацана. Кровь на асфальте» стал таким популярным

Psychologies
Ферма будущего Ферма будущего

Как семейное увлечение мыловарением выросло в большой бренд

Seasons of life
Творец Творец

«Копия». Серия рассказов Саши Николаенко

Grazia
Итоги-2023 Итоги-2023

Уходящий год был насыщен событиями, и вот некоторые из них

Агроинвестор
Как и зачем тренировать интимные мышцы Как и зачем тренировать интимные мышцы

Рассказываем, зачем нужен вумбилдинг и как правильно тренироваться

Добрые советы
А мне летать охота: как стать бортпроводником А мне летать охота: как стать бортпроводником

Плюсы и минусы работы бортпроводником

ТехИнсайдер
Дима Лорен: «Не надо меня копировать!» Дима Лорен: «Не надо меня копировать!»

Автор мегахитов — о сонграйтерах, главной проблеме авторов песен и успехе

ЖАРА Magazine
Городская легенда Городская легенда

Tank 300 City. Теперь и в ритме мегаполиса

Автопилот
Елки-палки Елки-палки

Как выбрать живую и искусственную елку

Лиза
Мочить в сатире Мочить в сатире

Сатирические издания всегда играли в советском обществе особую роль

Правила жизни
Дети у экрана Дети у экрана

Как экранное время влияет на развитие и здоровье детей?

Здоровье
Как устроен рынок спешелти-кофе Как устроен рынок спешелти-кофе

Почему кофе считают более сложным продуктом, чем вино?

СНОБ
Сам себе психолог: как найти внутреннюю опору Сам себе психолог: как найти внутреннюю опору

Как взрастить внутренний стержень?

Правила жизни
Дорогие коллеги Дорогие коллеги

Как подобрать подарок для коллег или подчиненных и не прогадать

Лиза
Очень нужный сервис: зачем в СССР звонили по номеру 06 Очень нужный сервис: зачем в СССР звонили по номеру 06

Для чего существовал номер 06 в СССР? Давайте вспоминать!

ТехИнсайдер
От «золотой клетки» к art of living От «золотой клетки» к art of living

Как изменились ценности покупателя элитной недвижимости за 30 лет

РБК
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы

Через какие эмоциональные этапы проходят все высококлассные профессионалы

ТехИнсайдер
Тайна перевернутой птицы Тайна перевернутой птицы

Народы Междуречья обладали своей уникальной и неповторимой письменностью

Зеркало Мира
Возвращение «Метеора» Возвращение «Метеора»

В сентябре 2017 на воду спустили судно на подводных крыльях типа «Валдай 45Р»

Наука и техника
Водочный король: история Петра Арсеньевича Смирнова Водочный король: история Петра Арсеньевича Смирнова

Как крепостной крестьянин стал одним из самых богатых людей Российской империи

Maxim
В центре мира В центре мира

Как ощущается Венеция и есть ли в венецианских буднях время для праздника

Seasons of life
Он у меня не подарок Он у меня не подарок

Если мужчина преподносит поющую корову, вместо того чтобы изучить твой вишлист

VOICE
Опередивший время Опередивший время

Посадка «Бурана» — наивысший триумф советского космического проекта

Монокль
Магия магния Магия магния

Орехи, шоколад и еще 8 продуктов, содержащих магний в большом количестве

Лиза
Мартин Скорсезе, Кристофер Нолан, Грета Гервиг, Уэс Андерсон: лучшие фильмы 2023 года Мартин Скорсезе, Кристофер Нолан, Грета Гервиг, Уэс Андерсон: лучшие фильмы 2023 года

Лучшие фильмы 2023 года, которые заставляли нас испытывать эмоции

Forbes
Кино Кино

Маршал советской комедии: путь Леонида Гайдая к эталону юмористического фильма

Правила жизни
«Необъятный мир: Как животные ощущают скрытую от нас реальность» «Необъятный мир: Как животные ощущают скрытую от нас реальность»

Головастики лягушек спасаются из икринок, улавливая присутствие хищника

N+1
Открыть в приложении