О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лев Толстой как на духу Лев Толстой как на духу

Переиздана книга Дарьи Еремеевой 2017 года о графе Льве Толстом

Монокль
«Сфера» развлечений «Сфера» развлечений

Летом 2023 года над Лас-Вегасом засветилась Луна и превратилась в огромный глаз

ТехИнсайдер
Читать Читать

Эти издания помогут лучше себя чувствовать в виртуальном пространстве

Psychologies
А теперь начнем сначала А теперь начнем сначала

Истории людей, прошедших дорогой перемен

Men Today
Вымереть обратно Вымереть обратно

Пророчество фильма «Парк юрского периода»: можно ли воссоздать вымершие виды

Вокруг света
Когда искусственный интеллект поработит человечество? Когда искусственный интеллект поработит человечество?

Искусственный интеллект выходит из-под контроля людей. Насколько это правда?

Монокль
Откат для Троцкого Откат для Троцкого

Это сегодня о Косенко пишут «выдающийся советский разведчик» и ставят его бюсты

Дилетант
В природе вещей В природе вещей

Спокойный стиль, природные оттенки и люксовая мебель в интерьере виллы

SALON-Interior
Серьезная инфекция Серьезная инфекция

Как не допустить заражение ВИЧ: 3 главные меры профилактики

Лиза
Цветок по имени Настя Цветок по имени Настя

Об эмоциональном выгорании родителей, ухаживающих за неизлечимо больным ребенком

СНОБ
Как кибернетические протезы делают общество лучше и справедливее Как кибернетические протезы делают общество лучше и справедливее

Как технологии делают жизнь людей проще и комфортнее

ФедералПресс
Цирк со слонами и коммунистами Цирк со слонами и коммунистами

«Великая магия»: Нанни Моретти переписывает историю

Weekend
10 цитат Петра Кащенко, которые уберегут вас от психиатрического диспансера 10 цитат Петра Кащенко, которые уберегут вас от психиатрического диспансера

Высказывания Петра Кащенко, которые помогут сохранить ментальное здоровье

Psychologies
Реальность под знаком рыбы Реальность под знаком рыбы

Она — рыбка-кормилица — без всякого преувеличения, поистине Золотая рыбка

Знание – сила
Как правильно сочетать пиво с едой Как правильно сочетать пиво с едой

Открываем новые вкусовые горизонты в сочетаниях алкоголя с едой

Maxim
Москва до Юрия Долгорукого. Кто здесь жил прежде? Москва до Юрия Долгорукого. Кто здесь жил прежде?

Попробуем разобраться в том, кто жил на месте Москвы до XII века

Зеркало Мира
От Байкала до Амура, из Империи в Федерацию От Байкала до Амура, из Империи в Федерацию

Байкало-Амурская магистраль: важная иллюстрация в книге «История СССР, России»

Знание – сила
Ветроэнергетика: освоение новых территорий Ветроэнергетика: освоение новых территорий

Что произошло с ветроэнергетикой за последнее десятилетие?

Наука и жизнь
Голова кругом Голова кругом

Есть ли у сосудов мозга углы

N+1
Еще раз о числе π и о неразрешимой проблеме «квадратуры круга» Еще раз о числе π и о неразрешимой проблеме «квадратуры круга»

Два феномена – число π и египетские пирамиды – связаны невидимыми нитями

Зеркало Мира
Владимир Никифоров: «Нельзя ни на минуту забывать, что ботокс, хоть и разведённый в миллионы раз, всё-таки смертельно опасный яд» Владимир Никифоров: «Нельзя ни на минуту забывать, что ботокс, хоть и разведённый в миллионы раз, всё-таки смертельно опасный яд»

Как яд стал медицинским препаратом? Отвечает доктор медицинских наук

Здоровье
Адаптивный интеллект: как нас спасает умение переучиваться Адаптивный интеллект: как нас спасает умение переучиваться

Зачем и как адаптироваться к постоянным изменениям

Psychologies
Миссия — поднять настроение: 10+ лучших новогодних комедий Миссия — поднять настроение: 10+ лучших новогодних комедий

Собрали для тебя восхитительные рождественские юмористические фильмы

VOICE
Могут ли седые волосы снова стать «цветными»: любопытное исследование Могут ли седые волосы снова стать «цветными»: любопытное исследование

Возможно, в будущем нам не придется закрашивать седину

ТехИнсайдер
Возвращение «Метеора» Возвращение «Метеора»

В сентябре 2017 на воду спустили судно на подводных крыльях типа «Валдай 45Р»

Наука и техника
Головная боль Головная боль

Какой бывает головная боль и как с ней справиться?

Здоровье
Агенты Дмитрия Самозванца убивают сына Бориса Годунова Агенты Дмитрия Самозванца убивают сына Бориса Годунова

Момент, когда низвергнутый царь, сумевший дать отпор убийцам, лишается сил

Дилетант
Бесконечно биться головой в закрытую дверь: как работают женщины-адвокаты в России Бесконечно биться головой в закрытую дверь: как работают женщины-адвокаты в России

Как не опускать руки, зная, что в России 99% приговоров — обвинительные

Forbes
Московский бит Московский бит

Если вы не слышали о System 108, то наверняка слышали грохот их вечеринок

СНОБ
Даешь витамины! Даешь витамины!

Какие витамины принимать зимой и как их правильно сочетать

Лиза
Открыть в приложении