Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Экономические тяжеловесы Оренбуржья: 10 крупнейших предприятий области Экономические тяжеловесы Оренбуржья: 10 крупнейших предприятий области

Оренбургская область — край, богатый ископаемыми ресурсами

ФедералПресс
Бубновая дама Бубновая дама

Отрывок из книги об истории российского ретейла и концепт-сторе КМ20

Правила жизни
Оскар Конюхов: «С детства понимал, что мой отец делает невероятные вещи» Оскар Конюхов: «С детства понимал, что мой отец делает невероятные вещи»

Оскар Конюхов мечтал стать океанологом, но жизнь его сложилась еще лучше

VOICE
Есть контакт Есть контакт

Как установить и почувствовать связь со своим телом

Grazia
Медведев проиграл в финале: как он извлекал пользу и деньги из прошлых поражений Медведев проиграл в финале: как он извлекал пользу и деньги из прошлых поражений

Как на Даниила Медведева и его карьеру влияли поражения в «мэйджорах»

Forbes
«В балете у меня часто бывают мучения» «В балете у меня часто бывают мучения»

Композитор Илья Демуцкий о музыке со словами и без и о работе по таблицам

Weekend
Рестораны Рестораны

Главные герои московской гастрономической сцены

Robb Report
Надежда Бабкина: «Красотой русских женщин восторгается весь мир!» Надежда Бабкина: «Красотой русских женщин восторгается весь мир!»

Как Надежда Бабкина пришла к гармонии между внутренним и внешним?

Добрые советы
Деревня викингов и деревянное зодчество: что посмотреть в Новгородской области Деревня викингов и деревянное зодчество: что посмотреть в Новгородской области

Что можно посмотреть в Новгородской области и чем она будет удивлять в будущем

ФедералПресс
Цугцванг: как выбраться из тупика. Советы психологов Цугцванг: как выбраться из тупика. Советы психологов

Цугцванг в жизни: что делать, когда задуманное не совпадает с реальностью

РБК
Вокзал как искусство Вокзал как искусство

Вокзал Владивостока – не просто вокзал, а настоящий памятник русского зодчества

Отдых в России
«В нашей стране очень много молчащих регионов» «В нашей стране очень много молчащих регионов»

О «Бери да помни», первом фильме на татарском языке в широком прокате

Weekend
Мария Шумакова: «В 30 лет, как только я разобралась в себе, у меня началась счастливая жизнь» Мария Шумакова: «В 30 лет, как только я разобралась в себе, у меня началась счастливая жизнь»

Люди, которые не видели меня восемь лет, говорят: «Ничего себе! Ты другая!»

Коллекция. Караван историй
Как погибла Грейс Келли — киноактриса и принцесса Монако Как погибла Грейс Келли — киноактриса и принцесса Монако

Как жила и погибла принцесса Монако Грейс Келли

РБК
5 самых распространенных проблем со стопами — почему они возникают и что с ними делать 5 самых распространенных проблем со стопами — почему они возникают и что с ними делать

Пять самых распространенных подологических патологий

VOICE
Нейросети, Арктика и косатки: 7 отличных научных фильмов Нейросети, Арктика и косатки: 7 отличных научных фильмов

Актуальное научное кино на разные темы: от изучения космоса до жизни насекомых

Правила жизни
«Мне больше не нужно общение с другими девушками»: как и почему рушится дружба между мужчинами и женщинами «Мне больше не нужно общение с другими девушками»: как и почему рушится дружба между мужчинами и женщинами

Почему от нас уходят друзья, которые вступают в отношения?

Psychologies
Как отказать абьюзеру: техника от психолога Как отказать абьюзеру: техника от психолога

Как действовать, если в вашем окружении обнаружился абьюзер?

Psychologies
Шутки ради Шутки ради

Что происходит с юмором сегодня и каким он будет завтра?

Men Today
Сдвинувший материки Сдвинувший материки

Альфред Вегенер – человек, понявший, что континенты движутся

Вокруг света
Алло, мы ищем таланты! Алло, мы ищем таланты!

Что делать, когда вы не знаете, где искать свое призвание?

Добрые советы
Фёдор Сологуб Фёдор Сологуб

Русский поэт и писатель Фёдор Сологуб глазами Дмитрия Быкова

Дилетант
Между нами, девочками Между нами, девочками

Как визит к гинекологу помогает решить проблемы с кожей

Лиза
Итак, она была… брюнеткой Итак, она была… брюнеткой

Как отличаются героини эпохальных романов и актрисы, играющие их в экранизациях

Знание – сила
Отказаться от сигарет по науке Отказаться от сигарет по науке

Почему люди продолжают курить сигареты?

Наука
«Звучит незнаемая лира…» «Звучит незнаемая лира…»

Кто такой Антиох Кантемир?

Знание – сила
Евгений Липовицкий: Как я открыл вселенную автохимии Евгений Липовицкий: Как я открыл вселенную автохимии

Таинственный мир моторных масел, допусков, сертификаторов и других жидкостей

4x4 Club
Левински Левински

Тель-авивский рынок Левински — гастро-жемчужина Израиля

Seasons of life
Терминатор Т-800 Терминатор Т-800

Правила жизни Терминатора Т-800

Правила жизни
Открыть в приложении