Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На игле На игле

Польза и вред витаминных капельниц

Лиза
По-хорошему или по-плохому: 7 способов закончить дружбу — какие наиболее популярны По-хорошему или по-плохому: 7 способов закончить дружбу — какие наиболее популярны

Что же делать, когда отношения с другом или подругой начали тяготить?

Psychologies
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
ABBA. Чем известна шведская поп-группа ABBA. Чем известна шведская поп-группа

Как ABBA завоевала всемирную известность?

СНОБ
Вокал в музыкальных записях стал тише с середины прошлого века Вокал в музыкальных записях стал тише с середины прошлого века

Громкость основного вокала по отношению к инструментам снизилась впятеро

N+1
«Я понимаю, что все это наше русское, родное, а все-таки не привыкну никак» «Я понимаю, что все это наше русское, родное, а все-таки не привыкну никак»

Как Островский превращает всеобщее человеческое в национальное загадочное

Weekend
Как выбрать термобелье для похода? Советы эксперта Как выбрать термобелье для похода? Советы эксперта

Регулируем температуру тела правильно

Вокруг света
Как младенцы учат язык взрослых? Поразительное объяснение ученых! Как младенцы учат язык взрослых? Поразительное объяснение ученых!

Маленькие дети учат язык своих родителей, основываясь на просодии

ТехИнсайдер
Поразительные истории из дореволюционной России: как водка стала атрибутом престижа Поразительные истории из дореволюционной России: как водка стала атрибутом престижа

Глава из книги «Поп Гапон и японские винтовки» — о жизни в России начала XX века

Forbes
Холод полезен для здорового старения: он запускает механизм очищения клеток Холод полезен для здорового старения: он запускает механизм очищения клеток

Как холод влияет на человеческий организм?

ТехИнсайдер
Австралийские клопы обмазались липким растительным соком ради охоты Австралийские клопы обмазались липким растительным соком ради охоты

Один из немногих примеров, когда насекомые используют инструменты для охоты

N+1
Зачем уголь Черной Бороде? Раскрыт секрет затонувшего корабля самого известного английского пирата Зачем уголь Черной Бороде? Раскрыт секрет затонувшего корабля самого известного английского пирата

На судне Эдварда Тича нашли уголь, хотя тогда его не использовали как топливо

Вокруг света
В ментоловом паре электронных сигарет нашли больше микрочастиц В ментоловом паре электронных сигарет нашли больше микрочастиц

Ментоловые электронные сигареты могут быть более вредными для здоровья

N+1
Тренер по сну: как выручить 22 млн рублей на обучающих полезным привычкам ботах Тренер по сну: как выручить 22 млн рублей на обучающих полезным привычкам ботах

Артем Журавлев и Степан Солоднев разработали чат-бота в Telegram «Слипи»

Forbes
Кот Шрёдингера потяжелел до 16 микрограмм Кот Шрёдингера потяжелел до 16 микрограмм

Физики смогли перевести объект массой 16 микрограмм в состояние кота Шрёдингера

N+1
Количеством или качеством: как китайские бренды электроники пришли в Россию Количеством или качеством: как китайские бренды электроники пришли в Россию

Разбираемся, как Китай меняет ландшафт российского IT-сектора

РБК
Вернуть награбленное: почему Эрмитаж не отдает сокровища музеям Германии Вернуть награбленное: почему Эрмитаж не отдает сокровища музеям Германии

Отрывок из книги «Культура как скандал. Из истории Эрмитажа»

Forbes
Плюс одна комната Плюс одна комната

Весна – лучшее время, чтобы превратить лоджию в полноценное жилое пространство

Лиза
Где у планеты легкие Где у планеты легкие

Леса – легкие планеты? Каждый из нас слышал эту фразу

Вокруг света
Искусственный интеллект в психотерапии: польза или вред — мнение психологов Искусственный интеллект в психотерапии: польза или вред — мнение психологов

Психологи — о возможностях ИИ в области психологических запросов

Psychologies
Спорная экспертиза Спорная экспертиза

Самоубийство Елизаветы Черемновой, потрясшее всю Российскую империю

Дилетант
Оазис впечатлений: чем способен удивить современный Ташкент Оазис впечатлений: чем способен удивить современный Ташкент

Что непременно стоит посмотреть в Ташкенте и где лучше остановиться

Forbes
Все про полис ОМС Все про полис ОМС

Что тебе положено по ОМС и как не упустить свою выгоду?

Лиза
6 секретов красоты вечно занятых женщин: с ними ты будешь выглядеть неотразимо! 6 секретов красоты вечно занятых женщин: с ними ты будешь выглядеть неотразимо!

Как бизнесвумен удается успевать все по работе и так прекрасно выглядеть?

VOICE
Только не гугли: чем опасна самодиагностика по статьям из Интернета? Только не гугли: чем опасна самодиагностика по статьям из Интернета?

Почему не стоит увлекаться самодиагностикой?

Здоровье

Что скажут «за корты» люди авторитетные — биологи, медики, антропологи

ТехИнсайдер
Найденный на мадленской стоянке гагат добыли в 500 километрах от нее Найденный на мадленской стоянке гагат добыли в 500 километрах от нее

Горную породу из Швабского Альба обнаружили в Парижском бассейне

N+1
Почему перед футбольным матчем вместе с футболистами на поле выходят дети? Почему перед футбольным матчем вместе с футболистами на поле выходят дети?

Как зародилась традиция выходить на футбольное поле вместе с детьми?

ТехИнсайдер
Одна вокруг света: спящие вулканы и звонкая вода Одна вокруг света: спящие вулканы и звонкая вода

212-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Цитофлуориметрия твердых тканей сократила время поиска опухолевых клеток во время операции Цитофлуориметрия твердых тканей сократила время поиска опухолевых клеток во время операции

Немецкие ученые разработали подход для быстрого обнаружения опухолевых клеток

N+1
Открыть в приложении