Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Ученый нашел эффективный способ избавить дороги от выбоин и трещин Ученый нашел эффективный способ избавить дороги от выбоин и трещин

Можно ли предотвратить образование выбоин на дороге?

ТехИнсайдер
Охота на алгоритм Охота на алгоритм

Способна ли машина заменить человека в самых важных ему областях деятельности

Правила жизни
Андрей Коняев: «Наука теряет монополию на описание мира» Андрей Коняев: «Наука теряет монополию на описание мира»

Почему науку сравнивают с гаданием на картах таро

РБК
Затянуть ниже пояса Затянуть ниже пояса

Алиса Загрядская о том, что такое телесные иерархии и как они связаны с юмором

Правила жизни
Первая и последняя кошка астронавт: история Фелисетт Первая и последняя кошка астронавт: история Фелисетт

Как одна бездомная кошка стала космонавтом

ТехИнсайдер
Когда прибывает поезд Когда прибывает поезд

Рассказ Ольги Брейнингер о желании сбежать из реального мира в иллюзорный

Правила жизни
Новый Вавилон Новый Вавилон

В любой непонятной ситуации нужно строить что-нибудь колоссальное

ТехИнсайдер
Легкой поступью Легкой поступью

Если болит стопа при ходьбе: 6 главных причин и лечение

Лиза
Манипуляция в отношениях: как эмоции делают нас жертвами Манипуляция в отношениях: как эмоции делают нас жертвами

Как наши эмоции делают нас жертвами манипуляции и что можно с этим сделать

Psychologies
«Я за то, чтобы жить настоящим» «Я за то, чтобы жить настоящим»

С Камилем Лариным мы поговорили о его новой роли, роботах и спорах с Siri

Лиза
Миссия перевыполнима Миссия перевыполнима

Коммерческий директор Villagio Estate Алексей Коротких привык целиться масштабно

Men Today
Для упругих ягодиц Для упругих ягодиц

10 упражнений, которые помогут тебе обрести соблазнительные формы

Лиза
Цифровой атташе: госчиновник, погруженный в IT и маркетинг Цифровой атташе: госчиновник, погруженный в IT и маркетинг

С лета в торгпредствах России за рубежом начали появляться цифровые атташе

ФедералПресс
Есть варианты. 10 альтернатив прикроватной тумбочке для маленькой спальни Есть варианты. 10 альтернатив прикроватной тумбочке для маленькой спальни

Прикроватная тумбочка нужна в каждой спальне. Но чем ее можно заменить?

Лиза
Глаза американских подростков пострадали от сигарет и вейпов Глаза американских подростков пострадали от сигарет и вейпов

У курильщиков чаще появлялись тяжелые офтальмологические симптомы

N+1
Байки из леса Байки из леса

Самые необычные истории от российских страховщиков

Деньги
Тревожные люди Тревожные люди

Почему пропадают месячные, куда уходит либидо и как стресс влияет на зачатие

VOICE
Кукла, приятная во всех отношениях Кукла, приятная во всех отношениях

«Барби»: Грета Гервиг монетизирует критику капитализма

Weekend
«Звучит незнаемая лира…» «Звучит незнаемая лира…»

Кто такой Антиох Кантемир?

Знание – сила
Искусственный интеллект и нейросети: страхи и перспективы Искусственный интеллект и нейросети: страхи и перспективы

Насколько опасно может быть внедрение ИИ в повседневную жизнь человека

ФедералПресс
Анна Меркулова: «Развитие метростроительства связано с цифровизацией» Анна Меркулова: «Развитие метростроительства связано с цифровизацией»

Как развивается транспортная инфраструктура в регионах

РБК
Всю жизнь — в тепле Всю жизнь — в тепле

В горячих источниках жизнь коротка, но открывает новые возможности

Наука
Спасти мир от самого себя Спасти мир от самого себя

Непростая история одного из создателей атомной бомбы

Наука
Как женщины ухаживали за собой в старину? Как женщины ухаживали за собой в старину?

Помада из бычьего сала, бодяга, кипяченая зала — какой была косметика в старину

Культура.РФ
Кто и зачем покупает премиальную недвижимость в Москве Кто и зачем покупает премиальную недвижимость в Москве

Почему желающих вложить миллионы в трофейные московские метры по-прежнему много

СНОБ
Made in China Made in China

Как развивался китайский автопром

Men Today
Время Пегаса. Осеннее небо Время Пегаса. Осеннее небо

Этой осенью продолжаем разговор о созвездиях семейства Персея

Наука и жизнь
Пессимизм в одной отдельной взятой стране Пессимизм в одной отдельной взятой стране

Художник Иван Дубяга: поэзия в живописи

Weekend
Эротический покер: подборка из 5 игр, которые помогут оживить интимную жизнь Эротический покер: подборка из 5 игр, которые помогут оживить интимную жизнь

Чувствуете, что романтика и огонь страстей покинули вашу спальню?

Psychologies
Открыть в приложении