Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
Алло, мы ищем таланты! Алло, мы ищем таланты!

Что делать, когда вы не знаете, где искать свое призвание?

Добрые советы
Кино Кино

Маршал советской комедии: путь Леонида Гайдая к эталону юмористического фильма

Правила жизни
Перспективы туризма на Чукотке: маршруты, мифы и природа Перспективы туризма на Чукотке: маршруты, мифы и природа

Чукотка активно развивает сферу туризма и восстанавливает турпоток

ФедералПресс
Ген памяти Ген памяти

Какие альтернативные накопители предлагают на рынке хранения данных

РБК
Утренний и вечерний фитнес Утренний и вечерний фитнес

Когда надо тренироваться – утром или вечером? Свои плюсы и минусы есть во всём

Здоровье
Цена шедевра Цена шедевра

Как и кем формируется цена на великое искусство

Правила жизни
Жизнь других Жизнь других

Существуют места, словно созданные для съемок фильмов про иные миры

Men Today
Французский парадокс Французский парадокс

Что едят француженки, чтобы оставаться стройными?

Лиза
Кто трясет Землю? Кто трясет Землю?

Первые гипотезы об устройстве земной коры зародились еще в античности

Вокруг света
Портрет и пейзаж Портрет и пейзаж

Природный ландшафт в оформлении интерьера квартиры в доме в горах

Идеи Вашего Дома
Сочтите за труд! Сочтите за труд!

Ты регулярно сидишь в офисе до ночи, а платят тебе так же? Пора это исправить

VOICE
Гимназия Санкт-Петербургской Академии наук: создание и становление Гимназия Санкт-Петербургской Академии наук: создание и становление

История первой гимназии Санкт-Петербургской Академии наук

Знание – сила
Фитнес дома и в зале. 5 самых удобных сервисов для тренировок Фитнес дома и в зале. 5 самых удобных сервисов для тренировок

Приложения для спорта, которые помогут поддерживать форму

Лиза
Михаил Евланов: «Актерская профессия трогательная, толстокожим в ней нет места» Михаил Евланов: «Актерская профессия трогательная, толстокожим в ней нет места»

Я искал себя всюду и везде. Когда я работал на заводе, мне приснился вещий сон

Коллекция. Караван историй
Ученый нашел эффективный способ избавить дороги от выбоин и трещин Ученый нашел эффективный способ избавить дороги от выбоин и трещин

Можно ли предотвратить образование выбоин на дороге?

ТехИнсайдер
8 видов псевдопсихологии, которые вам обязательно попытаются продать 8 видов псевдопсихологии, которые вам обязательно попытаются продать

Как же отличить псевдопомощников от настоящих профессионалов психологии?

Psychologies
Ирина Хакамада: Как достигать своих целей Ирина Хакамада: Как достигать своих целей

Отрывок из книги «Чиллософия: опыты выхода из безвыходности»

СНОБ
Как не пожалеть о романе с иностранцем: 3 истории Как не пожалеть о романе с иностранцем: 3 истории

Как несмотря на все различия сделать отношения с иностранцем здоровыми?

Psychologies
Как погибла Грейс Келли — киноактриса и принцесса Монако Как погибла Грейс Келли — киноактриса и принцесса Монако

Как жила и погибла принцесса Монако Грейс Келли

РБК
Что такое секс-шантаж и что делать, если вы стали его жертвой Что такое секс-шантаж и что делать, если вы стали его жертвой

Секс-шантаж: кто становится жертвами мошенников чаще всего?

РБК
Дарья Златопольская: «Любовь — это улица с односторонним движением» Дарья Златопольская: «Любовь — это улица с односторонним движением»

Я работаю с детьми, очень за них переживаю и всегда пытаюсь включаться

Коллекция. Караван историй
Недвижимость Недвижимость

Построено в России: интерьеры от лучших дизайнеров и прекрасные виды

Robb Report
Люди думали, что началась ядерная война: жуткая история крупнейшей железнодорожной катастрофы СССР Люди думали, что началась ядерная война: жуткая история крупнейшей железнодорожной катастрофы СССР

Железнодорожная катастрофа под Уфой: кошмар, случившийся наяву

ТехИнсайдер
«Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения «Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения

Почему мы боимся впустить в жизнь нового человека?

Psychologies
Коррупционеры в белоснежных тогах: верно ли мы думаем о Римской империи? Коррупционеры в белоснежных тогах: верно ли мы думаем о Римской империи?

Путешествие в мир алчности и бесстыдства Римской империи

Правила жизни
В офис в тапочках В офис в тапочках

7 лучших профессий для удаленной работы

Лиза
Те и эти Те и эти

Как жила немецкая культура при нацизме

Weekend
ЧВК «Рюрик» ЧВК «Рюрик»

Около 838 года в поле зрения Византии попали люди, называвших себя русами

Дилетант
Ругаться буду! Ругаться буду!

Почему нам так нравится скандалить в соцсетях (и стоит ли этим заниматься)

VOICE
Открыть в приложении