О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Победа без победителя: кто одержал верх в Палестине? Победа без победителя: кто одержал верх в Палестине?

Замороженный кризис в Газе можно смело назвать «конфликтом без победителей»

Монокль
75% людей принимают приглашение в гости, куда вообще не хотят идти, чтобы никого не обидеть 75% людей принимают приглашение в гости, куда вообще не хотят идти, чтобы никого не обидеть

Что хуже: посетить вечеринку, на которую вы не хотите идти, или остаться дома?

Inc.
Meta-Gene 2: программа для автоматизации процесса генетического мета-анализа Meta-Gene 2: программа для автоматизации процесса генетического мета-анализа

Программа, которая облегчает выявление генетических причин тяжелых заболеваний

Наука и техника
Мусор оптом: проблема стихийных свалок на Южном Урале Мусор оптом: проблема стихийных свалок на Южном Урале

Как устранить очаги захламления земель?

ФедералПресс
Мода бывает разной Мода бывает разной

Мода может проявляться во всем, чем занимается человечество

Знание – сила
История потерянной надежды История потерянной надежды

«Время "Спартака"»: документальный сериал о футболе и стране

Weekend
Передел Европы. Часть II. Хирургия без наркоза Передел Европы. Часть II. Хирургия без наркоза

Тирольская трагедия и ошибка Вудро Вильсона

Знание – сила
Тонкая работа. Операция по замене сустава или инъекции? Что выбрать при лечении коленей Тонкая работа. Операция по замене сустава или инъекции? Что выбрать при лечении коленей

Одни из самых эффективных способов избавления от болей в коленях

Лиза
5 неожиданных фактов о женщинах и мужчинах с короткой стрижкой 5 неожиданных фактов о женщинах и мужчинах с короткой стрижкой

Короткая стрижка может сказать много интересного о своем обладателе

Psychologies
Точки роста Точки роста

В 2023 году особенно бурно росли фьючерсы на продовольствие

Монокль
Военторг Чарли Военторг Чарли

Как в перерывах между вечеринками американский конгрессмен развалил СССР

Дилетант
Ученые научились узнавать, какой из ваших органов откажет первым Ученые научились узнавать, какой из ваших органов откажет первым

Что бы вы предпочли: знать, когда вы умрете, или как?

ТехИнсайдер
«Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году «Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году

Музыка, которую с удовольствием можно оставить бы в 2023 году

Правила жизни
«Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи «Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи

Глава из сборника семейных историй Дины Рубиной «Не вычеркивай меня из списка»

Forbes
Планетам земной группы разрешили формироваться в сильно облученных протопланетных дисках Планетам земной группы разрешили формироваться в сильно облученных протопланетных дисках

Как может протекать процесс формирования планет земной группы

N+1
Предприниматели среди нас Предприниматели среди нас

Кто каждый день делает нашу жизнь ярче и проще? И как им это удается?

Men Today
Камиль Ларин: Правила хорошей дружбы Камиль Ларин: Правила хорошей дружбы

История-посиделка от участника «Квартета И»

Maxim
Злость, зависть, вина: что с ними делать — глава из новой книги Ольги Примаченко Злость, зависть, вина: что с ними делать — глава из новой книги Ольги Примаченко

Злость, зависть, вина — такие неудобные, «плохие чувства». Стоп! Почему плохие?

Psychologies
Стояние в середине взрыва Стояние в середине взрыва

За год Александр Плотников посадил вишневый сад и поставил четыре спектакля

СНОБ
Новые отношения Новые отношения

После развода кажется, что новый брак почти невозможен, да и нужен ли?

Новый очаг
Атомно-силовой микроскоп отличил дейтерий от водорода в молекуле пентацена Атомно-силовой микроскоп отличил дейтерий от водорода в молекуле пентацена

Теперь электронный парамагнитный резонанс можно измерять и с одной молекулы

N+1
Герой нашего времени Герой нашего времени

M-Hero в сугробах Кольского полуострова

Автопилот
В море из садка: зачем производитель черной икры отпускает осетров на волю В море из садка: зачем производитель черной икры отпускает осетров на волю

Почему BelugaFarm считает себя должником Каспия

Forbes
Затянуть ниже пояса Затянуть ниже пояса

Алиса Загрядская о том, что такое телесные иерархии и как они связаны с юмором

Правила жизни
Дофаминовый декор: какие изменения нужно внести в интерьер, чтобы стать счастливее Дофаминовый декор: какие изменения нужно внести в интерьер, чтобы стать счастливее

Хочешь знать, каким должен быть интерьер для счастья?

VOICE
«Армяне не хотели придавать карабахскому вопросу статус межгосударственных территориальных претензий» «Армяне не хотели придавать карабахскому вопросу статус межгосударственных территориальных претензий»

Тридцать лет переговоров о судьбе Нагорного Карабаха в интервью с политологом

Монокль
Петлюра. Куст Петлюра. Куст

Александр Петлюра, Симона Куст и семейный панк-вайб

Собака.ru
Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест

Хочешь, чтобы твой дом всегда благоухал свежестью, но не можешь этого добиться?

VOICE
Что такое RunFlat-шины и чем они отличаются от обычных Что такое RunFlat-шины и чем они отличаются от обычных

RunFlat — шины, на которых можно ездить без воздуха

РБК
Шимпанзе долины Исса кастрировали и убили детеныша-чужака Шимпанзе долины Исса кастрировали и убили детеныша-чужака

Почему шимпанзе саванн убивают друг друга?

N+1
Открыть в приложении