Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Фитнес дома и в зале. 5 самых удобных сервисов для тренировок Фитнес дома и в зале. 5 самых удобных сервисов для тренировок

Приложения для спорта, которые помогут поддерживать форму

Лиза
Воспитание стиля Воспитание стиля

Фэшн-эксперты о преимуществах профильных блогеров перед селебрити

Правила жизни
Арбузное настроение Арбузное настроение

5 небанальных рецептов из летней ягоды

Лиза
«Главное, что тебе дает коллекционирование, это доступ к людям» «Главное, что тебе дает коллекционирование, это доступ к людям»

Как попытка разобраться в системе взаимоотношений приводит к коллекционированию

Правила жизни
Близкий Дальний Восток, новая Анапа и поезд вместо ракет Близкий Дальний Восток, новая Анапа и поезд вместо ракет

Как мы будем путешествовать по России через 30 лет

РБК
Шепоты и фрики Шепоты и фрики

Почему мы все поголовно надели шапочки из фольги?

Правила жизни
Кто трясет Землю? Кто трясет Землю?

Первые гипотезы об устройстве земной коры зародились еще в античности

Вокруг света
Олег Шибанов: «Нейроэкономика и нейрофинансы уже интригуют некоторыми результатами» Олег Шибанов: «Нейроэкономика и нейрофинансы уже интригуют некоторыми результатами»

К чему приведут новые технологии в экономике

РБК
10 сериалов про российскую глубинку: от Ангарска до Мурманска 10 сериалов про российскую глубинку: от Ангарска до Мурманска

Рассказываем о сериалах про города России, до которых мы сами никогда не доедем

Maxim
Сезон открытий Сезон открытий

Программа минимум в Астраханской области: Волга, вобла и арбузы

Лиза
Как правильно принимать любые решения: рассказывает психолог Как правильно принимать любые решения: рассказывает психолог

Почему так важно, чтобы выбор был непременно правильным?

VOICE
Дизайн Дизайн

Натуральные материалы, обтекаемые формы и живые растения

Robb Report
Любовь, обиды, травмы и панк-рок: семь фильмов об отношениях матери и дочери Любовь, обиды, травмы и панк-рок: семь фильмов об отношениях матери и дочери

Фильмы, в которых отношения между матерью и дочерью принимают самую разную форму

Forbes
Только бот простит Только бот простит

Как мы меняем искусственный интеллект и как искусственный интеллект меняет нас

Правила жизни
Как включить режим инкогнито в разных браузерах Как включить режим инкогнито в разных браузерах

Рассказываем, как включить режим инкогнито в популярных браузерах

CHIP
Есть ли любовь с первого взгляда и как найти своего «принца» Есть ли любовь с первого взгляда и как найти своего «принца»

Возможна ли любовь с первого взгляда и как встретить свою судьбу?

Psychologies
15 миллионов россиян находятся в глубокой депрессии: психолог объясняет причины 15 миллионов россиян находятся в глубокой депрессии: психолог объясняет причины

Почему россияне не обращаются за психологической помощью?

Psychologies
ЛПХ-зависимый агро ЛПХ-зависимый агро

77% сельхозпродукции в Забайкальском крае приходится на хозяйства населения

Агроинвестор
Сел и уснул: 10 лайфхаков, как хорошенько выспаться в самолете Сел и уснул: 10 лайфхаков, как хорошенько выспаться в самолете

Как «отключиться» от внешних раздражителей и погрузиться в сон на время полета

ТехИнсайдер
Они ушли на взлете: 12 лет назад под Ярославлем разбился самолет с хоккейной командой «Локомотив» Они ушли на взлете: 12 лет назад под Ярославлем разбился самолет с хоккейной командой «Локомотив»

История «небесной команда»: что с ней произошло?

ТехИнсайдер
Алан Тьюринг Алан Тьюринг

Правила жизни математика, логика, криптографа Алана Тьюринга

Правила жизни
Незаметность простоты Незаметность простоты

Кутюрье Марк Боан: самая долгая карьера и жизнь в истории моды XX века

Weekend
Терминатор Т-800 Терминатор Т-800

Правила жизни Терминатора Т-800

Правила жизни
Куклы романтизма Куклы романтизма

Есть ли в мире бездушной и безжалостной техники место для романтиков?

Правила жизни
Gesamtkunstwerk с конями Gesamtkunstwerk с конями

Как Александр Медведкин отдал всю власть над Москвой народу

Weekend
Ведро, чарка, мерзавчик: Как на Руси мерили водку Ведро, чарка, мерзавчик: Как на Руси мерили водку

Почему именно ведро стало точкой отсчета для торговли спиртным

Maxim
Новые РеалИИ Новые РеалИИ

Российские продукты на базе искусственного интеллекта

ФедералПресс
Стесняюсь спросить: как руководителю решать конфликты в коллективе? Стесняюсь спросить: как руководителю решать конфликты в коллективе?

Как управлять конфликтами в команде?

Правила жизни
Первая и последняя кошка астронавт: история Фелисетт Первая и последняя кошка астронавт: история Фелисетт

Как одна бездомная кошка стала космонавтом

ТехИнсайдер
Открыть в приложении