Одна из самых интересных битв вокруг ИИ развернется не в области техники

Правила жизниHi-Tech

Парадоксальная угроза

Записала Екатерина Андреева

К появлению искусственного разума культура готова давно – в том смысле, что никакого ИИ еще нет, а бояться войны с роботами люди уже научились. Вероятно, одна из самых интересных битв вокруг ИИ развернется не в области техники, а в области пропаганды и юриспруденции – законодательные запреты против разрешений, технооптимистические манифесты против алармистских открытых писем, регуляторы против интересов IT-индустрии. «Правила жизни» предлагают краткий обзор попыток предотвратить появление «Скайнета» (пока главным образом законодательных).

Отношения человека с техникой можно назвать парадоксальными: с одной стороны, человечество любит контроль и непрерывно создает ограничения, законы и инструкции, надзорные органы и прочие способы обуздать мироздание. И одновременно человек непрерывно пытается все эти ограничения обойти. «Правила созданы, чтобы их нарушать».

Изобретя, например, интернет, человечество долго сохраняло его более-менее свободным. Но со временем его начали ограничивать, ставить в рамки, все более жесткие и строгие. Ввели цензуру, запретили чувствительный контент, начали собирать данные о пользователях. И одновременно параллельно с интернетом возник даркнет. Там, наоборот, можно все: смотри, продавай и покупай что угодно, никаких границ и правил.

Алан Тьюринг в статье 1950 года «Вычислительные машины и разум» предлагает машине тоже попробовать обмануть homo sapiens. Он изобретает простой тест: программа пять минут общается с человеком, которому нужно догадаться, что его собеседник – компьютер. Если искусственному разуму удастся обмануть живого собеседника в 30% случаев, тест считается пройденным. Значит, машина научилась мыслить и скоро станет умнее всех людей на земле. Ученый предсказывал, что уж к 2000 году компьютер точно научится проходить «тест Тьюринга». К счастью (или к сожалению?), этого так и не произошло.

Парадоксальное желание человека перехитрить самого себя проявилось и в разработках искусственного интеллекта. После того как люди разобрались с ChatGPT и научились использовать его для работы, восторженные отзывы сменились беспокойством. Главы технологических компаний и исследователи все чаще стали озвучивать опасения, что нейросети – это угроза, а не помощник человека. Причем речь идет не только о том, что ИИ лишит миллионы человек работы и сделает их невостребованными на рынке труда. Ученые утверждают, что развитие «искусственного разума» угрожает самому существованию жизни на земле.

С таким заявлением выступил и глава компании OpenAI – разработчика ChatGPT Сэм Альтман. На слушаниях конгресса США, посвященных развитию ИИ, он призвал американские власти начать регулировать разработки искусственного интеллекта на государственном уровне. «По мере развития технологии ИИ мы понимаем, что люди обеспокоены тем, как она может изменить наш образ жизни. Мы тоже встревожены», – заявил Альтман. По его словам, у GPT и других нейросетей много преимуществ, но без должного контроля они могут серьезно навредить человечеству.

Год назад тема контроля ИИ почти не привлекала внимания властей. Сегодня правительства по всему миру обсуждают необходимость госрегулирования и даже запрета некоторых нейросетей. Как будто госструктуры вдруг осознали, что сфера растет, а они так и не поместили ее в четкие рамки и не начали системно наказывать за их обход.

Потенциал алгоритма языкового обучения LLM, на котором построен ChatGPT, кажется безграничным. Он меняет подход ко всем сферам – от создания контента и работы с текстом до образования и поиска информации. Именно отсутствие ограничений вызывает беспокойство у исследователей, ведь с прикладных задач ИИ может переключиться на более глобальные. Сооснователь Института исследования машинного интеллекта Элиезер Юдковский считает, что со временем нейросети могут выйти за пределы интернета, захватить все процессы на Земле и избавиться от людей.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лена Ужинова Лена Ужинова

Лена Ужинова — одна из самых известных и титулованных российских художников

Правила жизни
Крик души Крик души

Истории о людях, которые чересчур эмоционально и громко выражают свои эмоции

Лиза
Vicootes Vicootes

Рагим Джафаров сочетает интеллектуальность с сюжетностью

Правила жизни
«Рынок серьезно изменился, прежние правила игры уже не актуальны» «Рынок серьезно изменился, прежние правила игры уже не актуальны»

СЕО банка «Точка» Андрей Завадских об адаптации банков к запросам рынка

Деньги
Бот из машины Бот из машины

Как биороботы оживают и меняют мир технологий

РБК
Украшения Украшения

Оригинальная форма, полёт фантазии и виртуозная техника исполнения

Robb Report
Власть Власть

Как устроена власть в Объединенных Арабских Эмиратах?

Правила жизни
Будущее по дефолту Будущее по дефолту

Какие ожидания сформировал экономический кризис 1998-го

Weekend
15 миллионов россиян находятся в глубокой депрессии: психолог объясняет причины 15 миллионов россиян находятся в глубокой депрессии: психолог объясняет причины

Почему россияне не обращаются за психологической помощью?

Psychologies
Анна Хилькевич: «То, что нам нужно, обязательно придет» Анна Хилькевич: «То, что нам нужно, обязательно придет»

Актриса Анна Хилькевич уже вышла навстречу всему хорошему

VOICE
Семь необычных причин головной боли Семь необычных причин головной боли

Как самим определить «нестандартные» причины возникновения головной боли?

Здоровье
Василий Высоков: «Нам нравится работать в регионе» Василий Высоков: «Нам нравится работать в регионе»

Секрет устойчивости одного из немногих сохранившихся региональных банков

Эксперт
10 современных российских художников, за которыми стоит следить 10 современных российских художников, за которыми стоит следить

Российское современное искусство: на кого обратить внимание?

Правила жизни
12 главных проблем, которые создает трезвый образ жизни 12 главных проблем, которые создает трезвый образ жизни

Почему воздержание от алкоголя — плохая идея

Maxim
«Необходимо кратно увеличить усилия по формированию технологического суверенитета» «Необходимо кратно увеличить усилия по формированию технологического суверенитета»

Самарская область является инициатором создания НОЦ мирового уровня

Эксперт
Сила и мысли Сила и мысли

Чувство мышцы помогает ее растить. Однако есть нюансы

Men Today
За водой на лунный южный полюс («Луна-25» и другие) За водой на лунный южный полюс («Луна-25» и другие)

Задачи, которые стояли перед «Луной-25», никуда не делись. Их придётся решать

Наука и жизнь
Танец — это голос: как первые российские фильмы изображали эмансипированных женщин Танец — это голос: как первые российские фильмы изображали эмансипированных женщин

Глава из книги «Изображая женственность» — об артистках в раннем русском кино

Forbes
Саморазрушение от успехов Саморазрушение от успехов

Как Андрей Платонов пытался стать лояльным литератором и с блеском провалился

Weekend
Седой Адам Драйвер в гонке со смертью: каким получился «Феррари» Майкла Манна Седой Адам Драйвер в гонке со смертью: каким получился «Феррари» Майкла Манна

«Феррари»: каким получился фильм про роковую страсть к гонкам

Forbes
Раскопки в пустыне и тайное общество в Египте: история путешественницы Фрейи Старк Раскопки в пустыне и тайное общество в Египте: история путешественницы Фрейи Старк

История женщины, которая твердо решила повидать мир

Forbes
Северяне в Эстонии Северяне в Эстонии

11 ноября 1918 года перемирием в Компьене закончилась Великая война

Дилетант
С видом на город С видом на город

Интерьер, оформленный в современной эстетике

Идеи Вашего Дома
5 предметов, которые исчезли из школьной программы. Навсегда ли? 5 предметов, которые исчезли из школьной программы. Навсегда ли?

Возможно, школьные дисциплины времен СССР пригодились бы и сегодня?

Psychologies
«Ничего не успеваю»: что такое синдром «белого кролика» «Ничего не успеваю»: что такое синдром «белого кролика»

Почему вам постоянно не хватает времени?

Psychologies
Ставка ЦБ: нужно ли лечить здоровую экономику Ставка ЦБ: нужно ли лечить здоровую экономику

Активный рост производства и спроса говорит не о перегреве

Эксперт
Пойдем гулять? Пойдем гулять?

Как защитить собаку на прогулке

Лиза
Десерт антипода Десерт антипода

Для любого австралийца сладким символом его страны будет пирожное ламингтон

Вокруг света
Смерть в Венеции: почему «Киллер» — самый невзрачный фильм Дэвида Финчера (но его все равно стоит ждать) Смерть в Венеции: почему «Киллер» — самый невзрачный фильм Дэвида Финчера (но его все равно стоит ждать)

«Киллер» — технически совершенный, но удивительно монотонный фильм Финчера

Правила жизни
Карманные деньги: почему полезно давать детям и как это правильно делать Карманные деньги: почему полезно давать детям и как это правильно делать

Карманные деньги не замена заботы, а способ научить детей финансовой грамотности

РБК
Открыть в приложении