О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От Тегерана до Потсдама: большая дипломатия в конце Второй мировой войны От Тегерана до Потсдама: большая дипломатия в конце Второй мировой войны

Как Сталин, Рузвельт и Черчилль преодолевали взаимное недоверие

Монокль
На все четыре стороны На все четыре стороны

Куда отправиться в путешествие за настоящей зимней сказкой?

Добрые советы
Автопалатка — это полная свобода Автопалатка — это полная свобода

Everest Touring выводит на рынок автопалатки с авиатехнологиями

Монокль
Почему сбываются прогнозы астрологов и расклады таро: как работает эффект Розенталя Почему сбываются прогнозы астрологов и расклады таро: как работает эффект Розенталя

Хочешь знать, как работает таро и почему сбываются прогнозы астрологов?

VOICE
Он лгал и учил лгать Он лгал и учил лгать

«Мы не знаем страны, в которой живем». А знаем ли мы Юрия Андропова?

Дилетант
Соль Лондона Соль Лондона

Несколько картинок из жизни безумной лондонской квартирки и ее хозяйки

Seasons of life
Герой нашего времени Герой нашего времени

M-Hero в сугробах Кольского полуострова

Автопилот
Голова в тумане Голова в тумане

10 продуктов, которые могут нарушить работу мозга

Лиза
В природе вещей В природе вещей

Спокойный стиль, природные оттенки и люксовая мебель в интерьере виллы

SALON-Interior
Полное собрание в одном доме Полное собрание в одном доме

Как Андрей Тарковский выяснял отношения с домом — и выяснил

Weekend
Как уменьшить нагрузку на глаза при работе на компьютере: 7 важных правил Как уменьшить нагрузку на глаза при работе на компьютере: 7 важных правил

Несколько правил, чтобы больше не сталкиваться с компьютерным синдромом

ТехИнсайдер
Бесконечно биться головой в закрытую дверь: как работают женщины-адвокаты в России Бесконечно биться головой в закрытую дверь: как работают женщины-адвокаты в России

Как не опускать руки, зная, что в России 99% приговоров — обвинительные

Forbes
“Он улетел, но обещал вернуться”. Как долго кошка помнит своего хозяина? “Он улетел, но обещал вернуться”. Как долго кошка помнит своего хозяина?

Привязываются ли коты к людям?

ТехИнсайдер
Интересный факт! Ученые рассказали, почему у вас звенит в ушах Интересный факт! Ученые рассказали, почему у вас звенит в ушах

"Фантомный шум" в ушах генерируется гиперактивными нервами

ТехИнсайдер
Пятиконечно все сбудется! Пятиконечно все сбудется!

Пять героических явлений, процессов и слов 2023 года

Деньги
Анализ экспорта вооружений КНР в страны Ближнего Востока Анализ экспорта вооружений КНР в страны Ближнего Востока

Продукция китайского оборонно-промышленного комплекса для ближневосточных стран

Обозрение армии и флота
Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед

На страницах романов они обещали, стращали или просили верить в человечество

СНОБ
Метаморфозы Иракли Метаморфозы Иракли

Ираклий Пирцхалава редкий гость в Москве, но интервью получилось интересным!

OK!
Есть ли у них шанс выжить? Есть ли у них шанс выжить?

Как живут и выживают народы-изоляты

Зеркало Мира
Жесткое седло из Монголии назвали древнейшим в мире Жесткое седло из Монголии назвали древнейшим в мире

Жесткое седло из Монголии датируется примерно началом V века нашей эры

N+1
Римские скрепы Римские скрепы

Через 12 лет после гибели Клеопатры Октавиан Август занялся семейными ценностями

Дилетант
Смелый акцент Смелый акцент

Минималистичный интерьер, сочетающий современный дизайн и авторские решения

SALON-Interior
Исключение из правил: какая женщина на Руси сама могла выбрать мужа Исключение из правил: какая женщина на Руси сама могла выбрать мужа

Могла ли женщина на Руси выбрать себе мужа, или это не более чем миф?

VOICE
Россияне пока не догоняют Россияне пока не догоняют

Как сравнить уровень жизни в разных странах?

Монокль
«Одним меньше стало» «Одним меньше стало»

Какую палитру мнений вызвала кончина главы советского правительства?

Дилетант
Правильный подарок Правильный подарок

Нумерология поможет не ошибиться с выбором подарка и найти идеальный презент

Лиза
«Бытовой расизм в России существует, и это огромная проблема» «Бытовой расизм в России существует, и это огромная проблема»

Элла Манжеева о своем фильме «Белой дороги!» и калмыцком кинематографе

Weekend
Академик Евгений Чойнзонов: «Путь к онкологу должен быть коротким» Академик Евгений Чойнзонов: «Путь к онкологу должен быть коротким»

Томская онкология известна далеко за пределами России

Наука
Заимствованные рецепты кулинарных сборников Западной Европы XVI века Заимствованные рецепты кулинарных сборников Западной Европы XVI века

В XVI веке в кулинарную традицию и практику вошли поваренные книги

Знание – сила
Фазовый переход. Как изменился подход к воспитанию детей за последние 30 лет Фазовый переход. Как изменился подход к воспитанию детей за последние 30 лет

Чем дети перестройки отличаются от современных

СНОБ
Открыть в приложении