Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

6 шагов к развитию эмоционального интеллекта 6 шагов к развитию эмоционального интеллекта

Как научиться понимать других – и как сделать так, чтобы они лучше понимали нас

Psychologies
От земляного вала до кирпича. Как строительство кремлей помогло оформиться государственности на Руси От земляного вала до кирпича. Как строительство кремлей помогло оформиться государственности на Руси

О том, как на Руси появились первые крепости и стали возникать города

СНОБ
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
«Я буду твоим цензором!» «Я буду твоим цензором!»

Эпоха Николая I — время закручивания цензурных гаек

Дилетант
«Убила детей, чтобы отомстить мужчине»: Медея — как менялась интерпретация древнегреческого мифа «Убила детей, чтобы отомстить мужчине»: Медея — как менялась интерпретация древнегреческого мифа

Кто же такая Медея: хладнокровная детоубийца или обманутая женщина?

Psychologies
«Элина говорила: «Я умею держать себя в руках. Никто не должен видеть меня слабой», — рассказывает родная сестра Элины Быстрицкой София Шегельман «Элина говорила: «Я умею держать себя в руках. Никто не должен видеть меня слабой», — рассказывает родная сестра Элины Быстрицкой София Шегельман

О детстве, первых шагах в профессии и других событиях из жизни Элины Быстрицкой

Караван историй
От создателей От создателей

Что мешает заниматься искусством, даже когда у тебя есть талант?

VOICE
Идеальное фото на паспорт — это реально: рабочие советы, как хорошо выглядеть на фото в документах Идеальное фото на паспорт — это реально: рабочие советы, как хорошо выглядеть на фото в документах

Фото на документы и красивый кадр — совместимы ли эти две вещи?

ТехИнсайдер
Опасно, не смешивать! Опасно, не смешивать!

Узнали у врача, какие бьюти-средства лучше не использовать одновременно

Лиза
Как собрать компьютер с прицелом на апгрейд: 5 полезных советов Как собрать компьютер с прицелом на апгрейд: 5 полезных советов

Как сделать процесс обновления компьютера более простым

CHIP
«Я стал совсем западником. Каждый день бреюсь»: о чем писал Родченко жене из Парижа «Я стал совсем западником. Каждый день бреюсь»: о чем писал Родченко жене из Парижа

Отрывок из книги «В Париже. Из писем домой» Александра Родченко

Forbes
Как работает каршеринг: эксперты перечислили главные риски Как работает каршеринг: эксперты перечислили главные риски

Что важно знать каршеринг?

РБК
Кто такие инфоцыгане и за что задержали Елену Блиновскую? Кто такие инфоцыгане и за что задержали Елену Блиновскую?

Кто такие инфоцыгане и почему вдруг к ним постучался следственный коммитет

Правила жизни
Сложно ли избавиться от татуировки Сложно ли избавиться от татуировки

Искусство удаления татуировок существует столько же, сколько и сами татуировки

Maxim
«Планка» не поможет: 7 бесполезных упражнений для восстановления после родов «Планка» не поможет: 7 бесполезных упражнений для восстановления после родов

Рассказываем, на что не стоит делать ставку новоиспеченной маме

VOICE
Правила жизни Сергея Прокофьева Правила жизни Сергея Прокофьева

Правила жизни композитора, дирижёра и пианиста Сергея Прокофьева

Правила жизни
«Меня как будто изнасиловали»: что такое акушерское насилие и почему оно происходит. Часть 1. Беременность «Меня как будто изнасиловали»: что такое акушерское насилие и почему оно происходит. Часть 1. Беременность

Главная проблема родильной культуры лежит на поверхности

Psychologies
Детские воспоминания: чему они могут научить? Детские воспоминания: чему они могут научить?

Как воспоминания детства могут пригодиться во взрослой жизни?

Psychologies
Будущее за продуктами, дающими новое качество жизни клиентам Будущее за продуктами, дающими новое качество жизни клиентам

Член правления ВТБ Святослав Островский — о банковских сервисах

Деньги
Гедонизм в эпоху дедлайнов: как менялся культ наслаждения от античности до наших дней Гедонизм в эпоху дедлайнов: как менялся культ наслаждения от античности до наших дней

Что такое гедонизм и может ли он сделать нас счастливее

Forbes
В погоне за пятерками В погоне за пятерками

Откуда в нас берется синдром отличника и почему от него стоит избавляться

Лиза
Огоньку не найдется? Огоньку не найдется?

Как сексуальные проблемы могут разрушить даже крепкий союз?

Лиза
«Мне нравятся неискушенные дебютантки»: зачем мужчины обращаются к проституткам — история от первого лица «Мне нравятся неискушенные дебютантки»: зачем мужчины обращаются к проституткам — история от первого лица

Когда и почему мужчины прибегают к услугам секс-работниц?

Psychologies
Как снизить сахар в крови: несколько простых шагов, которые помогут почувствовать себя лучше Как снизить сахар в крови: несколько простых шагов, которые помогут почувствовать себя лучше

Рассказываем, как понизить уровень сахара в крови самостоятельно

ТехИнсайдер
Группа итальянцев выкупила «призрачную» деревню и оставила ее разрушаться! Чтобы место не захватили застройщики Группа итальянцев выкупила «призрачную» деревню и оставила ее разрушаться! Чтобы место не захватили застройщики

В Италии осталось множество «деревень-призраков». Как вернуть в них былую жизнь?

ТехИнсайдер
Внутри метеоритов скрываются редчайшие данные, которые энтузиасты уничтожают, сами того не желая Внутри метеоритов скрываются редчайшие данные, которые энтузиасты уничтожают, сами того не желая

Использование редкоземельных магнитов стирает и перезаписывает магнитную запись

ТехИнсайдер
Под грифом “секретно” Под грифом “секретно”

Дмитрий Путылин расследует дело о потерянных кубиках

Men Today
Как работает градусник: почему не меняет показания после измерения и что содержится внутри, если не ртуть? Как работает градусник: почему не меняет показания после измерения и что содержится внутри, если не ртуть?

Что содержится внутри градусника, если не ртуть?

ТехИнсайдер
Приручение скорости Приручение скорости

Национальные и мировые рекорды в автогонках на льду Байкала

Robb Report
Как младенцы учат язык взрослых? Поразительное объяснение ученых! Как младенцы учат язык взрослых? Поразительное объяснение ученых!

Маленькие дети учат язык своих родителей, основываясь на просодии

ТехИнсайдер
Открыть в приложении