О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Шелковый путь проложат по льду Шелковый путь проложат по льду

Северный морской путь вырастет в коридор с участием бизнеса и инвесторов

Монокль
Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест

Хочешь, чтобы твой дом всегда благоухал свежестью, но не можешь этого добиться?

VOICE
Владимир Зворыкин Владимир Зворыкин

Правила жизни изобретателя Владимира Зворыкина

Правила жизни
У берегов Израиля нашли деревянные артефакты эпох неолита и халколита У берегов Израиля нашли деревянные артефакты эпох неолита и халколита

Израильские археологи исследовали 16 древних артефактов, изготовленных из дерева

N+1
Кентавр из моря Кентавр из моря

Может ли кентавр существовать с точки зрения биологии?

Вокруг света
«Кукурузная кампания» Никиты Хрущева: как первый секретарь ЦК КПСС пытался накормить всю страну «Кукурузная кампания» Никиты Хрущева: как первый секретарь ЦК КПСС пытался накормить всю страну

Почему именно кукуруза стала предметом кампании Никиты Хрущева

ТехИнсайдер
От древности до петровских времен От древности до петровских времен

История Вологодской области: от войн княжеств до петровских реформ

ФедералПресс
Кто позолотил яйца Кто позолотил яйца

Ведомства не хотят верить в объективные экономические причины удорожания яиц

Монокль
Федерико Арнальди: «Я не могу без любви» Федерико Арнальди: «Я не могу без любви»

Федерико Арнальди – о вкусной еде, русских девушках и любви

Добрые советы
Есть ли у них шанс выжить? Есть ли у них шанс выжить?

Как живут и выживают народы-изоляты

Зеркало Мира
Дельфины чувствуют электрические поля Дельфины чувствуют электрические поля

Дельфины используют «электрочувство» при охоте и навигации

ТехИнсайдер
Ужасная красавица Ужасная красавица

Плотный облачный покров долго скрывал от людей настоящий характер этой планеты

ТехИнсайдер
Малая авиация большой страны: куда долетит ТВС-2МС Малая авиация большой страны: куда долетит ТВС-2МС

О возможностях и перспективах легких самолетов в России и за ее пределами

ФедералПресс
Что сделал Си Цзиньпин для Китая: ликвидация нищеты и полеты на Марс Что сделал Си Цзиньпин для Китая: ликвидация нищеты и полеты на Марс

Каких преобразований господин Си добился за годы правления?

ФедералПресс
Искусственный интеллект в литературе, живописи, музыке и кино: идеальный подмастерье Искусственный интеллект в литературе, живописи, музыке и кино: идеальный подмастерье

Как технологии могут изменить различные виды искусств

Монокль
ВОЗмутительная политика ВОЗмутительная политика

Подходы к борьбе с табакокурением сегодня все больше напоминают охоту на ведьм

Наука
Ничего обнадеживающего: как народные сказки учат нас терпеть абьюз Ничего обнадеживающего: как народные сказки учат нас терпеть абьюз

Отрывок из книги «Архетипы в русских сказках»

Forbes
От «золотой клетки» к art of living От «золотой клетки» к art of living

Как изменились ценности покупателя элитной недвижимости за 30 лет

РБК
Попкорн, маринованные огурцы и хлопок: чем украшают новогоднюю елку в разных странах мира. Что только не вешают! Попкорн, маринованные огурцы и хлопок: чем украшают новогоднюю елку в разных странах мира. Что только не вешают!

В каждой стране мира за новогодним декором скрывается своя история

ТехИнсайдер
Дом-2 Дом-2

Как российское кино и сериалы прописались на даче

Weekend
Ой, всё: почему США признали потолок цен на нефть бесполезным Ой, всё: почему США признали потолок цен на нефть бесполезным

Российский нефтегаз показал чудо адаптации к санкциям

Монокль
«Управляя эмоциями, вы сохраните отношения»: как бороться с гневом и страхом «Управляя эмоциями, вы сохраните отношения»: как бороться с гневом и страхом

Глава из книги «Комплексное ПТСР» — как справиться с гневом и страхом?

Forbes
Ателье как хобби и не только Ателье как хобби и не только

К чему привел выход китайских фабрик в индустрию индивидуального пошива

Монокль
Наука о чужих. Жизнь и разум во Вселенной Наука о чужих. Жизнь и разум во Вселенной

Веками учёные настойчиво искали «космическое чудо»

Наука и жизнь
Как общаться с манипулятором: 5 готовых сценариев разговора Как общаться с манипулятором: 5 готовых сценариев разговора

Как сориентироваться и поступить, столкнувшись с манипулятором

Psychologies
Даешь витамины! Даешь витамины!

Какие витамины принимать зимой и как их правильно сочетать

Лиза
Как подобрать правильно вклад и не ошибиться? Как подобрать правильно вклад и не ошибиться?

С повышением ключевой ставки Банком России ставки по вкладам поползли вверх

Наука и техника
7 опасных привычек водителя, от которых надо избавляться, пока не поздно 7 опасных привычек водителя, от которых надо избавляться, пока не поздно

Перечисляем неочевидные моменты, которых стоит категорически избегать за рулем

Maxim
Приморский терруар, магаданский аппелласьон. Кто и зачем делает вино в тайге Приморский терруар, магаданский аппелласьон. Кто и зачем делает вино в тайге

По прогнозам экспертов, через 10 лет в Приморье появятся аналоги аппелласьонов

СНОБ
Плечо для внешней торговли Плечо для внешней торговли

Рост российского несырьевого неэнергетического экспорта — в числе приоритетов

РБК
Открыть в приложении