О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Александр Лабас: не авангардист, не соцреалист Александр Лабас: не авангардист, не соцреалист

Голос А. Лабаса — сложный, полифоничный, подчас ускользающий от прямых смыслов

Монокль
Ученые научились узнавать, какой из ваших органов откажет первым Ученые научились узнавать, какой из ваших органов откажет первым

Что бы вы предпочли: знать, когда вы умрете, или как?

ТехИнсайдер
Развитие технологий в цифрах и фактах Развитие технологий в цифрах и фактах

Технологический прорыв в цифрах: рост, рейтинги и «умные» вещи

РБК
10 лучших спортивных российских фильмов XXI века: что смотреть, когда нет трансляций 10 лучших спортивных российских фильмов XXI века: что смотреть, когда нет трансляций

Спортивные фильмы XXI века: от хита середины нулевых до блокбастеров двадцатых

Forbes
Он лгал и учил лгать Он лгал и учил лгать

«Мы не знаем страны, в которой живем». А знаем ли мы Юрия Андропова?

Дилетант
Орфей Советского Союза Орфей Советского Союза

Жан Маре глазами его самых восторженных зрителей

Weekend
Есть ли у них шанс выжить? Есть ли у них шанс выжить?

Как живут и выживают народы-изоляты

Зеркало Мира
«Искусственный интеллект задает основнои вектор нашеи стратегии» «Искусственный интеллект задает основнои вектор нашеи стратегии»

Андрей Белевцев о том, каким он видит будущее AI и о нейроинтерфейсах

Деньги
Спонтанные поездки на зимние каникулы Спонтанные поездки на зимние каникулы

Если планировать ничего не хочется, всегда можно внезапно сорваться в поездку

Лиза
Траты и возвраты: 16 историй предпринимателей, меняющих Россию Траты и возвраты: 16 историй предпринимателей, меняющих Россию

16 историй предпринимателей из регионов — в фоторепортаже Forbes

Forbes
«Секс с учеными: Половое размножение и другие загадки биологии» «Секс с учеными: Половое размножение и другие загадки биологии»

Как дрожжи научились не скрещиваться с близкими родственниками

N+1
Арт-субъект: где на Урале рождается современное искусство Арт-субъект: где на Урале рождается современное искусство

Как актуальное искусство будет развиваться в России

СНОБ
Дрожжи-снежинки. Искусственно созданные многоклеточные организмы Дрожжи-снежинки. Искусственно созданные многоклеточные организмы

Один из важнейших этапов развития жизни – появление многоклеточных организмов

Наука и техника
IBM разработала квантовый чип на 1000 кубитов IBM разработала квантовый чип на 1000 кубитов

IBM представила чип Condor, который содержит 1121 сверхпроводящий кубит

ТехИнсайдер
Смех – подарок культуры Смех – подарок культуры

Арсений Дежуров напоминает: человека от животного отличает способность смеяться

Правила жизни
История ритуального убийства История ритуального убийства

Книга, в которой подробно описана история краха Советского Союза

Монокль
Археологи нашли древнейшие в Северной Африке следы человеческих ног Археологи нашли древнейшие в Северной Африке следы человеческих ног

Древнейшие отпечатки ног людей, которые когда-либо находили в Северной Африке

N+1
Загадки Третьего рейха Загадки Третьего рейха

Аненербе – самая таинственная организация в новейшей истории человечества

Зеркало Мира
Головная боль Головная боль

Какой бывает головная боль и как с ней справиться?

Здоровье
Привидения Дома Кранкенгагена Привидения Дома Кранкенгагена

Дом Кранкенгагена известен в Петербурге всем, чья страсть — привидения

СНОБ
Что может Дед Мороз Что может Дед Мороз

Психолог Мария Зеленова о магическом мышлении и его роли в воспитании.

Новый очаг
«Немой учитель» «Немой учитель»

Тысячелетняя история книги: от глиняных табличек до электронных ридеров

Зеркало Мира
Малопонятный государственный муж Малопонятный государственный муж

Портреты изображают Победоносцева человеком сухим и строгим, без тени улыбки

Дилетант
Химия и жизнь Химия и жизнь

Есть заболевания, разговоры о которых до сих пор стигматизированны — онкологии

Robb Report
Даешь витамины! Даешь витамины!

Какие витамины принимать зимой и как их правильно сочетать

Лиза
Уи, шеф! Уи, шеф!

Сверхпопулярный светский спот — морское бистро Crevette

Собака.ru
Предприниматели среди нас Предприниматели среди нас

Кто каждый день делает нашу жизнь ярче и проще? И как им это удается?

Men Today
Пальма первенства Пальма первенства

Эффектный и современный интерьер апартаментов в фешенебельном комплексе

SALON-Interior
Чайная дорога России Чайная дорога России

Где проходил когда-то Великий чайный путь и шли караваны лошадей и верблюдов

Знание – сила
Время удивительных историй Время удивительных историй

5 интересных историй о путешествиях

СНОБ
Открыть в приложении