О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Гудбай, Чимерика! Гудбай, Чимерика!

Как технологическая блокада Китая со стороны США отразится на мировой экономике

Монокль
Блиц-интервью с Антоном Чижом Блиц-интервью с Антоном Чижом

Писатель детективов Антон Чиж рассказал нам о своих источниках вдохновения

Лиза
Насколько безопасно использование интернет-банкинга? Насколько безопасно использование интернет-банкинга?

Что такое интернет-бакинг и надежен ли он?

Наука и техника
ЦБ предупреждает ЦБ предупреждает

Частные инвесторы становятся активнее, но чаще пытаются манипулировать рынком

Монокль
Пять прелюдий о Грибоедове Пять прелюдий о Грибоедове

Грибоедовский миф занимает особое место среди других литературных мифов

Знание – сила
Пить русское вино: выносимая легкость и яркость вкуса Пить русское вино: выносимая легкость и яркость вкуса

Российское виноделие идет в рост, но до появления развитой индустрии пока далеко

Монокль
Борис Порфирьев, Александр Широв: «Решить климатические проблемы в лоб невозможно» Борис Порфирьев, Александр Широв: «Решить климатические проблемы в лоб невозможно»

Как и кем формируется глобальная климатическая повестка

Монокль
Фиби Уоллер-Бридж: Смех и слезы аристократки Фиби Уоллер-Бридж: Смех и слезы аристократки

Пока Фиби шла к успеху, слез было пролито немало…

Караван историй
Чужд нам берег заморский Чужд нам берег заморский

В этом году россияне остались без иностранных ценных бумаг

Деньги
Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя

Не любишь скручиванию и планку? Есть другие варианты для прокачки пресса!

VOICE
Не такой уж малый Не такой уж малый

Меры поддержки кредитования МСП все еще охватывают ничтожную его часть

Монокль
Орбитальные группировки навигационных спутников Орбитальные группировки навигационных спутников

Какие существуют спутниковые навигационные системы и из чего они состоят

Зеркало Мира
Губительная зацикленность на ипотеке Губительная зацикленность на ипотеке

Льготная ипотека привела к резкому удорожанию жилья и усилила дисбалансы

Монокль
Антидворянец: «Вилла Родэ» Антидворянец: «Вилла Родэ»

Предлагаем вниманию читателя самые свежие слухи и сплетни столетней давности

Правила жизни
Синдром высокого мака: почему ненавидят тех, кому «больше всех надо»? Синдром высокого мака: почему ненавидят тех, кому «больше всех надо»?

Почему тот, кто выбивается из среднего уровня, раздражает всех вокруг?

Psychologies
Мы из будущего Мы из будущего

Кто же такие эти промт-дизайнеры или AI-тренеры?

ТехИнсайдер
Здравствуй, дерево! Здравствуй, дерево!

6 удивительных фактов из истории елки и игрушек

Лиза
«Жаль, нам редко позволяют в хулиганить кадре» «Жаль, нам редко позволяют в хулиганить кадре»

Агате Муцениеце есть чем похвалиться перед другими и за что похвалить себя

OK!
Серьезная инфекция Серьезная инфекция

Как не допустить заражение ВИЧ: 3 главные меры профилактики

Лиза
От авторства до монополии От авторства до монополии

Как лучше защищать свои творческие и инновационные достижения

Наука и техника
Раскрыть себя на почве быта Раскрыть себя на почве быта

Что нравится делать по дому лично тебе?

Лиза
Чат-бот, смерть и роботы: что такое цифровое бессмертие и кто его обещает уже сейчас Чат-бот, смерть и роботы: что такое цифровое бессмертие и кто его обещает уже сейчас

Возможно ли цифровое бессмертие на самом деле?

Forbes
Жизнь других Жизнь других

Почему мы невольно начинаем подстраиваться и как найти «настоящего себя»?

Grazia
От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы

Через какие эмоциональные этапы проходят все высококлассные профессионалы

ТехИнсайдер
Исследование: у владельцев собак риск развития деменции на 40% ниже Исследование: у владельцев собак риск развития деменции на 40% ниже

Люди старше 65 лет, у которых есть собаки, намного реже страдают деменцией

ТехИнсайдер
А мы тебя ждали А мы тебя ждали

Как впустить в жизнь новое – разбираемся с психологом Еленой Голяковской

Новый очаг
Может ли ChatGPT обмануть ученых Может ли ChatGPT обмануть ученых

Инструменты ИИ бросают вызов научным инструментам поиска истины

Монокль
Сахар, ты где? Сахар, ты где?

Как производители маскируют сахар в своих продуктах

Лиза
Магия кино Магия кино

Актриса Юлия Снигирь — о мистике и булгаковщине, спорах в творческой семье

VOICE
10 фактов о сериале «Слово пацана. Кровь на асфальте», которые надо знать, прежде чем начать его смотреть 10 фактов о сериале «Слово пацана. Кровь на асфальте», которые надо знать, прежде чем начать его смотреть

Самые интересные факты о нашумевшем сериале «Слово пацана. Кровь на асфальте»

Maxim
Открыть в приложении