О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Рынок захлебнулся маслом Рынок захлебнулся маслом

Кризис перепроизводства в масложировой отрасли говорит о системных просчетах

Монокль
Треугольник печали Треугольник печали

Как устроены любовные треугольники

Men Today
Электрическая коробка-автомат – электропередача тепловоза Электрическая коробка-автомат – электропередача тепловоза

Продолжаем рассказ о тонкостях железнодорожного дела

Наука и техника
the makers the makers

Победители конкурса «Мейкеры» 2023 года

Seasons of life
Все не так однозначно: самые интересные конспирологические теории о писателях Все не так однозначно: самые интересные конспирологические теории о писателях

Настоящие шекспировские страсти в теориях заговора вокруг литераторов

Правила жизни
Мочить в сатире Мочить в сатире

Сатирические издания всегда играли в советском обществе особую роль

Правила жизни
«Лучше всего за людей говорит то, что они делают» «Лучше всего за людей говорит то, что они делают»

Тихон Жизневский славы не ищет, а к своей популярности относится с иронией

OK!
Что сделал Си Цзиньпин для Китая: ликвидация нищеты и полеты на Марс Что сделал Си Цзиньпин для Китая: ликвидация нищеты и полеты на Марс

Каких преобразований господин Си добился за годы правления?

ФедералПресс
Московский бит Московский бит

Если вы не слышали о System 108, то наверняка слышали грохот их вечеринок

СНОБ
Лаконичность в деталях Лаконичность в деталях

Дизайн-микс из дорогой акцентной мебели и предметов, найденных на маркетплейсах

Идеи Вашего Дома
Павильонный зал Павильонный зал

Памяти Людмилы Николаевны Воронихиной, чьё имя — история и легенда Эрмитажа

Дилетант
Маршрут перестроен Маршрут перестроен

Самые красивые и необычные места России

Grazia
Что есть будем Что есть будем

Чем опасны для ребенка здоровые пищевые привычки: 7 неочевидных факторов

Лиза
Сколько волков человеку надо Сколько волков человеку надо

Волк — прекрасный приспособленец и космополит

Наука
Зарабатывала миллионы, но скрывала имя: как женщины создавали популярные комиксы Зарабатывала миллионы, но скрывала имя: как женщины создавали популярные комиксы

Их героини спасали мир и остроумно шутили

Forbes
«Одним меньше стало» «Одним меньше стало»

Какую палитру мнений вызвала кончина главы советского правительства?

Дилетант
Врач, который всегда был не согласен с коллегами Врач, который всегда был не согласен с коллегами

Макс фон Петтенкофер — основатель первого в Европе Института гигиены в Мюнхене

Знание – сила
Миссия — поднять настроение: 10+ лучших новогодних комедий Миссия — поднять настроение: 10+ лучших новогодних комедий

Собрали для тебя восхитительные рождественские юмористические фильмы

VOICE
«Берлога» для геолога «Берлога» для геолога

Колоритное пространство для увлечённого и компанейского парня

Идеи Вашего Дома
«Лучше пока погодить»: писатель Носов о том, нужно ли называть родителей предками «Лучше пока погодить»: писатель Носов о том, нужно ли называть родителей предками

Отрывок из книги Николая Носова «Иронические юморески. Кванты смеха»

Forbes
Женя Кривцова: «Там, где страшно, всегда офигенный результат!» Женя Кривцова: «Там, где страшно, всегда офигенный результат!»

Блогер Женя Кривцова о том, как избавиться от всех пагубных привычек

ЖАРА Magazine
Сквозные и критические: как изменилась стратегия развития технологий Сквозные и критические: как изменилась стратегия развития технологий

Сектор инноваций в России продолжает развиваться благодаря господдержке

РБК
Теория вырождения: вниз по лестнице, ведущей вверх Теория вырождения: вниз по лестнице, ведущей вверх

«Раньше было лучше», или «Золотой век» и теория вырождения

Знание – сила
Ветроэнергетика: освоение новых территорий Ветроэнергетика: освоение новых территорий

Что произошло с ветроэнергетикой за последнее десятилетие?

Наука и жизнь
Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов

Чем являлись события 1943 года с точки зрения канонов Русской церкви?

Наука
Дайте лыжню! Дайте лыжню!

История российского биатлона

Men Today
Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли

Что мешает глубоководным удильщикам передвигаться обычным способом

СНОБ
Впереди — Москва: как устроена столичная система инноваций Впереди — Москва: как устроена столичная система инноваций

Москва начала создавать комплексную систему поддержки инновационного бизнеса

РБК
Что такое инулин, чем полезен и в каких продуктах содержится Что такое инулин, чем полезен и в каких продуктах содержится

Инулин — это разновидность пребиотика, который присутствует во многих овощах

РБК
Пока все дома Пока все дома

Что стоит за страстью к порядку?

Лиза
Открыть в приложении