О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Девальвация доллара в режиме реального времени Девальвация доллара в режиме реального времени

Золото ставит рекорды стоимости, серебро тянется к многолетним максимумам

Монокль
Кино Кино

Маршал советской комедии: путь Леонида Гайдая к эталону юмористического фильма

Правила жизни
Константин Дебликов: «Насколько ты будешь функциональным, зависит не от протеза, а от тебя» Константин Дебликов: «Насколько ты будешь функциональным, зависит не от протеза, а от тебя»

Человек-киборг Константин Дебликов — каково это жить с новыми и разными руками

РБК
Блиц-интервью с Антоном Чижом Блиц-интервью с Антоном Чижом

Писатель детективов Антон Чиж рассказал нам о своих источниках вдохновения

Лиза
Борьба за нацию Борьба за нацию

Представления о взглядах Симона Петлюры сформированы войной пропагандистов

Дилетант
Плечо для внешней торговли Плечо для внешней торговли

Рост российского несырьевого неэнергетического экспорта — в числе приоритетов

РБК
Экстремальное старение одного из органов предсказали у каждого пятого человека Экстремальное старение одного из органов предсказали у каждого пятого человека

Сейчас разработано несколько подходов к оценке биологического возраста организма

N+1
Приморский терруар, магаданский аппелласьон. Кто и зачем делает вино в тайге Приморский терруар, магаданский аппелласьон. Кто и зачем делает вино в тайге

По прогнозам экспертов, через 10 лет в Приморье появятся аналоги аппелласьонов

СНОБ
Почему мужчина пропал после удачного свидания: 4 причины гостинга Почему мужчина пропал после удачного свидания: 4 причины гостинга

О том, почему ваши с партнером ожидания могут не совпадать, размышляет психолог

Psychologies
Пить русское вино: выносимая легкость и яркость вкуса Пить русское вино: выносимая легкость и яркость вкуса

Российское виноделие идет в рост, но до появления развитой индустрии пока далеко

Монокль
Полная гармония Полная гармония

Квартира с яркими цветовыми сочетаниями и оригинальными дизайнерскими приемами

Идеи Вашего Дома
На все четыре стороны На все четыре стороны

Куда отправиться в путешествие за настоящей зимней сказкой?

Добрые советы
Злость, зависть, вина: что с ними делать — глава из новой книги Ольги Примаченко Злость, зависть, вина: что с ними делать — глава из новой книги Ольги Примаченко

Злость, зависть, вина — такие неудобные, «плохие чувства». Стоп! Почему плохие?

Psychologies
Фильм начинается Фильм начинается

Небольшая студия с интерьером в стиле «Криминального чтива»

Идеи Вашего Дома
Условно-досрочная пенсия Условно-досрочная пенсия

Как сформировать долгосрочные сбережения и разморозить пенсионные в 2024 году

Деньги
Джоли Алиен Джоли Алиен

Художница Джоли Алиен — как найти авторский стиль, чего ждать от моды

Grazia
3 серьезных минуса блестящего маникюра с втиркой — самого модного нейл-дизайна последних лет 3 серьезных минуса блестящего маникюра с втиркой — самого модного нейл-дизайна последних лет

Что не так с блестящим маникюром с втиркой?

VOICE
Врач, который всегда был не согласен с коллегами Врач, который всегда был не согласен с коллегами

Макс фон Петтенкофер — основатель первого в Европе Института гигиены в Мюнхене

Знание – сила
Бесконечно биться головой в закрытую дверь: как работают женщины-адвокаты в России Бесконечно биться головой в закрытую дверь: как работают женщины-адвокаты в России

Как не опускать руки, зная, что в России 99% приговоров — обвинительные

Forbes
Инновации как способ выживания Инновации как способ выживания

На макроуровне никакой активизации НИОКР в средних компаниях не замечено

Монокль
Голова в тумане Голова в тумане

10 продуктов, которые могут нарушить работу мозга

Лиза
Аркадий Райкин Аркадий Райкин

Аркадий Райкин, артист эстрады, сатирик, скончался 17 декабря 1987 года

Правила жизни
Иван Антонович Ефремов и его вклад в мировую науку Иван Антонович Ефремов и его вклад в мировую науку

Иван Ефремов оставался признанным классиком жанра и при жизни, и после смерти

Наука и Техника
Павильонный зал Павильонный зал

Памяти Людмилы Николаевны Воронихиной, чьё имя — история и легенда Эрмитажа

Дилетант
Чему учат в школе: как в России изменилась сфера образования Чему учат в школе: как в России изменилась сфера образования

Как учебные учреждения развиваются по всей стране и к чему это все приведет

Правила жизни
Советская мебель и предметы интерьера, которые были в каждой квартире Советская мебель и предметы интерьера, которые были в каждой квартире

Советская мебель, о которой мечтали все

Maxim
Фазовый переход. Как изменился подход к воспитанию детей за последние 30 лет Фазовый переход. Как изменился подход к воспитанию детей за последние 30 лет

Чем дети перестройки отличаются от современных

СНОБ
Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории

Самые необычные новогодние вечеринки — как зарубежные, так и российские

Правила жизни
9 вещей, которых мужчины боятся в женщинах 9 вещей, которых мужчины боятся в женщинах

Какие вещи в отношениях с женщинами пугают мужчин?

Psychologies
Блокчейн: прозрачное будущее человечества Блокчейн: прозрачное будущее человечества

Что принципиально нового принесет блокчейн в нашу жизнь?

Знание – сила
Открыть в приложении