Почему лидеры мнений призывают поставить развитие нейросетей на паузу?

ForbesРепортаж

«Человека заменит не ИИ, а другой человек»: как используют ChatGPT и кто этого боится

Кристина Крецу, Инна Титова

Иллюстрация Getty Images

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства — что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы — в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney — при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap — пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart — там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться «ранние последователи» из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски — управляемыми».

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно — всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Природные аналоги лазерной эпиляции: как удалить волосы с тела самостоятельно? Природные аналоги лазерной эпиляции: как удалить волосы с тела самостоятельно?

Существуют ли природные аналоги лазерной эпиляции в домашних условиях?

Cosmopolitan
Как отправить папку по электронной почте: несколько удобных способов Как отправить папку по электронной почте: несколько удобных способов

Как отправить по почте целую папку с файлами? Для этого есть несколько способов

CHIP
Максимально быстрый интернет на даче: как этого добиться Максимально быстрый интернет на даче: как этого добиться

Как сделать так, чтобы интернет на даче был максимально быстрым

CHIP
Скрытое пограничное расстройство личности: что это такое — 10 симптомов Скрытое пограничное расстройство личности: что это такое — 10 симптомов

Чем вызваны неожиданные приступы паники? Откуда берется беспричинный страх?

Psychologies
Приручение скорости Приручение скорости

Национальные и мировые рекорды в автогонках на льду Байкала

Robb Report
Кофе с лимоном помогает худеть? Объяснение эксперта Кофе с лимоном помогает худеть? Объяснение эксперта

Необычный способ избавления от лишнего веса

ТехИнсайдер
7 типов неудобных собеседников: как с ними общаться? 7 типов неудобных собеседников: как с ними общаться?

Разберем наиболее сложные типажи собеседников, а также способы общения с ними

Psychologies
Превентивная медицина. Мифы и реальность Превентивная медицина. Мифы и реальность

Что такое превентивная медицина и можно ли стареть, оставаясь здоровой

Лиза
7 приемов биохакеров: как продлить жизнь с помощью правильных привычек 7 приемов биохакеров: как продлить жизнь с помощью правильных привычек

Что из себя представляет биохакинг?

Правила жизни
«От Ба»: как построить бизнес, помогая пенсионерам из деревни «От Ба»: как построить бизнес, помогая пенсионерам из деревни

Как работает проект по поддержке творческих пенсионеров «От Ба» Дарьи Ледневой

Forbes
Снотворное понизило содержание тау-белка и бета-амилоида в ликворе здоровых людей Снотворное понизило содержание тау-белка и бета-амилоида в ликворе здоровых людей

Прием снотворного может снижать уровень ключевых белков болезни Альцгеймера

N+1
Нарцисс и карьера: как излишнее самолюбование вредит работе Нарцисс и карьера: как излишнее самолюбование вредит работе

Чем опасен нарциссизм на рабочем месте

Psychologies
Самые сексуальные женщины: 4 главных качества — мнение мужчин Самые сексуальные женщины: 4 главных качества — мнение мужчин

Что делает девушку сексуальной в глазах мужчин?

Psychologies
«Болевые точки»: как они влияют на нас и наши отношения «Болевые точки»: как они влияют на нас и наши отношения

Откуда берутся «болевые точки»?

Psychologies
Голландия или Нидерланды: как правильно Голландия или Нидерланды: как правильно

В чем разница между Нидерландами и Голландией?

ТехИнсайдер
Огоньку не найдется? Огоньку не найдется?

Как сексуальные проблемы могут разрушить даже крепкий союз?

Лиза
10 по-настоящему страшных ужастиков без скримеров (ну почти) 10 по-настоящему страшных ужастиков без скримеров (ну почти)

Эти хорроры пугают своей атмосферой, историей и персонажами

Maxim
Цитофлуориметрия твердых тканей сократила время поиска опухолевых клеток во время операции Цитофлуориметрия твердых тканей сократила время поиска опухолевых клеток во время операции

Немецкие ученые разработали подход для быстрого обнаружения опухолевых клеток

N+1
«Мужчины боятся сильных женщин»: 4 контраргумента — узнайте плюсы таких отношений «Мужчины боятся сильных женщин»: 4 контраргумента — узнайте плюсы таких отношений

Многие считают, что сильные женщины несчастны в личной жизни

Psychologies
Исследование: женщины все чаще опережают мужей по зарплате и больше занимаются домом Исследование: женщины все чаще опережают мужей по зарплате и больше занимаются домом

Женщины все чаще становятся основными кормильцами в семье

Forbes
«Когорта добромыслящих» «Когорта добромыслящих»

Специализированная политическая полиция появилась по «обдуманному плану»

Дилетант
10 абсурдистских фильмов эпохи перестройки 10 абсурдистских фильмов эпохи перестройки

Крах исторических нарративов влечет за собой крах большого нарратива в искусстве

Weekend
«Одиночка»: роман о матери, у которой родился ребенок с особенностями развития «Одиночка»: роман о матери, у которой родился ребенок с особенностями развития

Отрывок из книги «Одиночка» — о том, как героиня пытается принять одиночество

Forbes
Шеф-повара китайских ресторанов — о национальных вкусах и жизни в России Шеф-повара китайских ресторанов — о национальных вкусах и жизни в России

Насколько велика ментальная разница между жителями Поднебесной и россиянами

РБК
Плохая дочь или нерадивая сестра: какими бывают семейные роли и как мы их играем Плохая дочь или нерадивая сестра: какими бывают семейные роли и как мы их играем

В романе «Роза» из небольших фрагментов памяти складывается сложный образ

Forbes
Почему болят ноги и стопы: 5 причин, которые не сразу приходят в голову Почему болят ноги и стопы: 5 причин, которые не сразу приходят в голову

Основные причины появления болей в ногах и стопах

VOICE
Олимпийская спортсменка сменила коньки на эротические фото: кто такая Александра Янкулеску и что она делает на OnlyFans Олимпийская спортсменка сменила коньки на эротические фото: кто такая Александра Янкулеску и что она делает на OnlyFans

Канадская рекордсменка румынского происхождения продает свои обнаженные фото

Maxim
«Цифровизация — это интеллектуализация человеческого потенциала» «Цифровизация — это интеллектуализация человеческого потенциала»

«Трансмашхолдинг» выстраивает единую с заказчиком деловую среду

Наука
Гормон победителей дофамин: почему мы от него зависим Гормон победителей дофамин: почему мы от него зависим

Как использовать дофамин себе во благо и не попасть в ловушку зависимости

Правила жизни
Итальянец создал огромный портрет Пикассо на поле с помощью трактора. Талантливо? Итальянец создал огромный портрет Пикассо на поле с помощью трактора. Талантливо?

Ленд-художник Дарио Гамбарин использовал поле в качестве холста

ТехИнсайдер
Открыть в приложении