Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

По тайбэйскому времени По тайбэйскому времени

Цикл писем, написанных молодой девушкой из далекого Тайваня в Россию

Правила жизни
«Солнечные космические лучи — моя любовь…» «Солнечные космические лучи — моя любовь…»

Галина Базилевская об исследованиях физики Солнца и космических лучей

Наука и жизнь
Разгадка загадок Разгадка загадок

Исследование тонкостей отношений с искусственным интеллектом

Правила жизни
Made in China Made in China

Как развивался китайский автопром

Men Today
Желудочный тракт Желудочный тракт

Любая дорога для настоящего гурмана — путь наслаждений

СНОБ
Загадка сексуальности: чем женское либидо отличается от мужского Загадка сексуальности: чем женское либидо отличается от мужского

Как жизненные изменения сказываются на нашем либидо?

Psychologies
Зонд Неймана Зонд Неймана

Серая слизь: сценарий апокалипсиса

Вокруг света
Нога как у Барби Нога как у Барби

Как на самом деле живется с высоким подъемом стопы

Лиза
«Рынок серьезно изменился, прежние правила игры уже не актуальны» «Рынок серьезно изменился, прежние правила игры уже не актуальны»

СЕО банка «Точка» Андрей Завадских об адаптации банков к запросам рынка

Деньги
От Граймс до Лили Вачовски: самые влиятельные женщины в ИИ по версии Time От Граймс до Лили Вачовски: самые влиятельные женщины в ИИ по версии Time

Самые интересные героини современности, связанные с ИИ

Forbes
Гонка со временем Гонка со временем

Что происходит в российском автоспорте?

Men Today
«Иногда к нам относятся так, будто мы занимаемся фриковством» «Иногда к нам относятся так, будто мы занимаемся фриковством»

«За каждой народной песней стоит человеческая история»

OK!
Трехмерные художники Трехмерные художники

Почему не «выстрелили» программы для рисования в трех измерениях?

ТехИнсайдер
Интерьер — это ответ на запрос Интерьер — это ответ на запрос

Юлия Тряскина об изменениях в городской среде и о перезагрузке стиля жизни

SALON-Interior
Пограничное состояние Пограничное состояние

Как криптобиржи помогут обойти санкции

FP. BusinessReview
«Любая эволюция предполагает несовершенства. Это естественно» «Любая эволюция предполагает несовершенства. Это естественно»

Михаил Гельфанд — о лжеученых и своей собственной научной работе

Наука
Абонент недоступен. О фильме «Звонок» — великой классике хорроров Абонент недоступен. О фильме «Звонок» — великой классике хорроров

Как хоррор «Звонок» отражает социальные страхи и кризисы японского общества

СНОБ
Карманные деньги: почему полезно давать детям и как это правильно делать Карманные деньги: почему полезно давать детям и как это правильно делать

Карманные деньги не замена заботы, а способ научить детей финансовой грамотности

РБК
Пита в кармане Пита в кармане

Как добавить в блюдо кусочек солнца? Рассказывает шеф ресторана «Мизнон»

Seasons of life
Ученый нашел эффективный способ избавить дороги от выбоин и трещин Ученый нашел эффективный способ избавить дороги от выбоин и трещин

Можно ли предотвратить образование выбоин на дороге?

ТехИнсайдер
Марс — крестьянам, роботов — рабочим! Марс — крестьянам, роботов — рабочим!

«Кибердеревня»: березапанковская Россия будущего

Weekend
Почему мы сожалеем о разводе: 3 основные причины Почему мы сожалеем о разводе: 3 основные причины

Что мешает разведенным людям радоваться новой жизни?

Psychologies
5 самых распространенных проблем со стопами — почему они возникают и что с ними делать 5 самых распространенных проблем со стопами — почему они возникают и что с ними делать

Пять самых распространенных подологических патологий

VOICE
Лунные костюмы Лунные костюмы

Зачем потребовалось перекрашивать скафандр и что нового предложили конструкторы?

ТехИнсайдер
Сцены из двух супружеских жизней Сцены из двух супружеских жизней

«Вычитание»: триллер о двойниках, слишком повернутый на собственной драматургии

Weekend
Что делать, если подозреваешь у себя дефицит витамина D и почему нельзя принимать его без врача? Что делать, если подозреваешь у себя дефицит витамина D и почему нельзя принимать его без врача?

Как безопасно восполнять витамин D?

VOICE
Привет из прошлого Привет из прошлого

Как реагировать, если вдруг начинает писать бывший молодой человек?

Лиза
Так было или не было? Так было или не было?

7 самых известных мифов в истории человечества

Лиза
Персонал напрокат Персонал напрокат

Что такое аутстаффинг и почему он стал популярен в России

FP. BusinessReview
«Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения «Боль продолжается бесконечно»: как несчастная первая любовь влияет на дальнейшие отношения

Почему мы боимся впустить в жизнь нового человека?

Psychologies
Открыть в приложении