Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Мой дом — мои правила: глава из бестселлера Ольги Примаченко «К себе нежно» Мой дом — мои правила: глава из бестселлера Ольги Примаченко «К себе нежно»

Отрывок из книги «К себе нежно»: как сделать комфортным свое пространство

Psychologies
Мексиканский ремень Мексиканский ремень

Фахитас – блюдо, в котором слились традиции Северной и Южной Америки

Вокруг света
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Почему может быть опасно носить чужие украшения? Почему может быть опасно носить чужие украшения?

Есть определённые нюансы ношения украшений, которые ранее принадлежали другим

VOICE
Как стартап Writer решает большие проблемы генеративного ИИ Как стартап Writer решает большие проблемы генеративного ИИ

Writer обещает клиентам, что их языковые модели не будут фантазировать

Forbes
Николай Цискаридзе: «Балет — это каторга в цветах» Николай Цискаридзе: «Балет — это каторга в цветах»

Николай Цискаридзе дал интервью в год 285-летия старейшей балетной школы мира

Караван историй
Затерянный рай Зерзура — мифический город, о котором вы никогда не слышали Затерянный рай Зерзура — мифический город, о котором вы никогда не слышали

Думаете, только у древних греков были легенды о райских городах?

ТехИнсайдер
Зачем нужен тоник: вся правда о самом недооцененном бьюти-средстве Зачем нужен тоник: вся правда о самом недооцененном бьюти-средстве

Как выбрать подходящий тоник и использовать его экологично

Правила жизни
Хладнокровная любовь Хладнокровная любовь

Отправляясь в апрельский лес, я не помышлял ни о какой свадьбе

Наука и жизнь
Как проходили студенческие годы Олега Табакова Как проходили студенческие годы Олега Табакова

Отрывок из биографии актера и режиссера Олега Табакова

СНОБ
Массовое вымирание 260 миллионов лет назад было не одним, а двумя событиями с интервалом 3 миллиона лет Массовое вымирание 260 миллионов лет назад было не одним, а двумя событиями с интервалом 3 миллиона лет

Как связаны выбросы углерода и массовые вымирания?

ТехИнсайдер
Тайные линии Блашко: что скрывает наша кожа Тайные линии Блашко: что скрывает наша кожа

Человеческая кожа скрывает сложные узоры линий, о которых вы вряд ли подозревали

ТехИнсайдер
Голова болит Голова болит

Как предугадать приступы мигрени и когда пора идти к врачу?

Лиза
«Для твоего же блага!»: чем опасна навязчивая любовь — размышления психолога «Для твоего же блага!»: чем опасна навязчивая любовь — размышления психолога

Перед тем, как «причинять добро» близкому, неплохо выяснить, что для него любовь

Psychologies
ИИ сможет предсказать политические предпочтения людей? «Мышление» ChatGPT поразило ученых ИИ сможет предсказать политические предпочтения людей? «Мышление» ChatGPT поразило ученых

ИИ может отвечать на сложные вопросы так же, как реальный человек

ТехИнсайдер
Как модники полюбили «некрасивые» беговые кроссовки — и на какие бренды обратить внимание Как модники полюбили «некрасивые» беговые кроссовки — и на какие бренды обратить внимание

Как утилитарные спортивные модели стали актуальными не только на беговом треке?

Правила жизни
«Что ты с собой сделала»: с какими стереотипами сталкиваются женщины с татуировками «Что ты с собой сделала»: с какими стереотипами сталкиваются женщины с татуировками

Почему тату у женщин — это нормально?

Forbes
«Куплю друга»: почему молодые люди платят за общение — новый тренд «Куплю друга»: почему молодые люди платят за общение — новый тренд

Насколько этично платить за дружбу? Рассуждает писательница

Psychologies
Она валит. Первый тест «убийцы Tesla» BYD Seal Она валит. Первый тест «убийцы Tesla» BYD Seal

На новый седан BYD Seal китайцев большие надежды

РБК
На краю кутерьмы На краю кутерьмы

«Кроличья нора»: Кифер Сазерленд в параноидальном триллере в духе 1970-х

Weekend
Первое свидание: кто платит в ресторане — мнения мужчин и женщин Первое свидание: кто платит в ресторане — мнения мужчин и женщин

Момент, когда приносят счет в ресторане, несет в себе множество смыслов

Psychologies
5 фэнтези-романов для любителей черного юмора 5 фэнтези-романов для любителей черного юмора

Щепотка едкой иронии и мрачный черный юмор добавляют фэнтези огонька и яркости

Maxim
Звонок другу: как видеосвязь помогает попугаям и другим животным не страдать от одиночества Звонок другу: как видеосвязь помогает попугаям и другим животным не страдать от одиночества

Нужны ли домашним питомцам соцсети и созвоны?

СНОБ
Как очистить чайник от накипи: 5 способов и средств Как очистить чайник от накипи: 5 способов и средств

Как отмыть чайник от накипи с помощью средств, которые есть на каждой кухне

CHIP
«Просвещать и карать» «Просвещать и карать»

Функции цензуры в Российской империи середины XIX века

N+1
Ждули: почему российские женщины выходят замуж за заключенных Ждули: почему российские женщины выходят замуж за заключенных

Ждули: разбираемся в истоках феномена и объясняем, при чем тут стереотипы

Forbes
Эпатаж и власть: почему в XX веке кардинально изменился женский гардероб Эпатаж и власть: почему в XX веке кардинально изменился женский гардероб

Как брюки становились предметом судебных разбирательств и символом эмансипации

Forbes
Жители южного побережья Каспия променяли газелей и тюленей на коз и овец уже в VIII тысячелетии до нашей эры Жители южного побережья Каспия променяли газелей и тюленей на коз и овец уже в VIII тысячелетии до нашей эры

Начиная с раннего неолита, обитатели этой стоянки перешли к выращиванию коз

N+1
Деревья помнят: как историки засекли викингов в Америке и поможет ли это добраться до фараонов? Деревья помнят: как историки засекли викингов в Америке и поможет ли это добраться до фараонов?

Устанавливать даты можно не только по письменным источникам

Вокруг света
Инесса Арманд: больше, чем «возлюбленная Ленина» Инесса Арманд: больше, чем «возлюбленная Ленина»

Инесса Арманд — революционерка, прожившая жизнь, полную приключений и арестов

Forbes
Открыть в приложении