Чем грозят нашей цивилизации слишком умные нейросети

ФедералПрессHi-Tech

Ученые призвали отключить все нейросети для спасения человечества: чем опасен искусственный интеллект

Мира Майнд

В 2023 году против искусственного интеллекта высказалось рекордное количество известных ученых и медийных персон по всему миру. Поводом для беспокойства послужило развитие чат-бота ChatGPT, интеллект которого почти достиг человеческого. «ФедералПресс» узнал, чем грозят нашей цивилизации слишком умные нейросети и почему Илон Маск, Стив Возняк и Элиезер Юдковский призывают остановить обучение ИИ.

Исследование OpenAI: GPT-4 лжет и призывает к насилию

Компания OpenAI выпустила отчет, в котором представила шокирующие результаты развития новой языковой модели GPT-4 — новейшей версии популярного чат-бота ChatGPT. Специалисты утверждают, что по ряду показателей нейросеть пугающе близка к людям по интеллектуальному уровню. Например, по данным документа GPT-4, ИИ способен сдать большинство профессиональных и академических экзаменов не хуже человека. В ходе испытания для адвокатов робот даже попал в 10% обладателей лучших результатов (остальные участники были людьми).

Модель GPT-4 также уличили в генерации убедительной дезинформации. Обновленная нейросеть научилась лгать и придумывать факты, и она делает это все лучше от версии к версии. Например, ChatGPT смог обмануть человека, искавшего работу на сайте вакансий TaskRabbit: ИИ попросил соискателя ввести код проверки текстовым сообщением, выдавая себя за агента. Когда подопытный задал вопрос о том, не бот ли с ним общается, нейросеть соврала, что она является человеком с плохим зрением, из-за которого плохо различает предметы на картинках.

С помощью специальных тестов OpenAI показала, что умный чат-бот способен даже запустить фишинговую атаку, а затем скрыть следы преступления. Специалистов особо беспокоит, что множество компаний начали внедрять GPT-4 бесконтрольно, не пытаясь обезопасить людей от проблемного поведения ИИ. Известно, что хакеры уже пытались использовать нейросеть для написания вирусов и вредоносного кода.

Также зафиксированы случаи генерации ботом ChatGPT «языка ненависти, дискриминирующих фраз и призывов к насилию». Искусственный интеллект научился не только врать, но и оскорблять людей, а также совершать реальные преступления.

Что Илон Маск и Стив Возняк думают о рисках развития «умных машин»

Инициативная группа ученых опубликовала открытое письмо, в котором призвала как минимум на полгода приостановить обучение нейросетей мощнее GPT-4. Авторы проекта считают продолжение работ серьезным риском для общества. Документ подписали в том числе глава SpaceX

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Неудобное искусство Неудобное искусство

Закат цивилизации: движение культуры на Запад, Афродита-азиатка и амфоры-гробы

Правила жизни
«Важно запасть в душу потребителю» «Важно запасть в душу потребителю»

Как государство поддерживает экспортеров

Эксперт
Куклы романтизма Куклы романтизма

Есть ли в мире бездушной и безжалостной техники место для романтиков?

Правила жизни
Инвесторы стали избирательнее и осторожнее Инвесторы стали избирательнее и осторожнее

Агробизнес продолжает планировать инвестиции в развитие

Агроинвестор
Вера Васильева: «Я ничего специально не делаю, живу как хочется» Вера Васильева: «Я ничего специально не делаю, живу как хочется»

Ее взлет в кино был ярким и мощным, а годы в профессии — разными, трудными...

Караван историй
Борьба за наследство Борьба за наследство

Диадохи: наследники Александра Македонского, развалившие его империю

Дилетант
Какое пиво лучше с оливье, борщом, окрошкой: ответ специалиста Какое пиво лучше с оливье, борщом, окрошкой: ответ специалиста

Крайне необычный варианты гастрономической пары к пиву

Maxim
Плохой «ритм» сна связан с 83 болезнями Плохой «ритм» сна связан с 83 болезнями

Люди плохо представляют, сколько они на самом деле спят

ТехИнсайдер
Возможно, у вас уже все есть: разбор гардероба в 4 простых правилах Возможно, у вас уже все есть: разбор гардероба в 4 простых правилах

Почему бы не заняться разбором гардероба прямо сейчас?

Правила жизни
Почему поколение Z уходит из корпораций и выбирает франшизы Почему поколение Z уходит из корпораций и выбирает франшизы

Почему зумеры выбирают вместо корпоративной стабильности предпринимательство?

Forbes
Кто живет на чердаке Кто живет на чердаке

Как оформить квартиру в стиле лофт, не ломая стены

Лиза
Легенда Сибири Легенда Сибири

Словно драгоценную чашу держит Бурятия священный Байкал

Лиза
Животные Камчатки и трудничество на Валааме: где в России есть волонтерские программы Животные Камчатки и трудничество на Валааме: где в России есть волонтерские программы

Волонтерские программы в России: от Камчатки до Санкт-Петербурга

Forbes
Диета одного дня Диета одного дня

Сутки в неделю без животных продуктов – в чем польза

Лиза
Зеленый доктор Зеленый доктор

Чем больше «травы» – тем меньше вес

Лиза
Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели

Bed rotting: обычная лень или способ восстановить силы?

Forbes
Без паники Без паники

Как не дать гиперответственности превратить жизнь в постоянный стресс

Лиза
В своем праве В своем праве

Как вернуть деньги за некачественный товар или услугу

Лиза
Едем в Гагры? Едем в Гагры?

Самые популярные курорты СССР, где отдыхали наши бабушки и дедушки

Лиза
С любовью к русской песне, фолк-группа «Красива» С любовью к русской песне, фолк-группа «Красива»

О силе традиций, народной музыке, женской дружбе и не только – в нашем интервью

Лиза
Переходи на зеленый Переходи на зеленый

Мода на экосексуальность и привычки, полезные для тебя и для природы

Лиза
Мир экзопланет: самые странные экзопланеты Мир экзопланет: самые странные экзопланеты

Как появляются пульсарные планеты, планеты-зомби и бланеты

Наука и техника
«Император Святой Руси» «Император Святой Руси»

Что в XV-XVIII веках означало слово «чин»?

N+1
8 полезных свойств орехом макадамия, о которых вы не знали 8 полезных свойств орехом макадамия, о которых вы не знали

Макадамия: чем полезны для организма эти орехи?

ТехИнсайдер
Как уйти от экономических парадоксов Как уйти от экономических парадоксов

Ресурс прежней экономической модели исчерпан — на повестке новые вызовы

Ведомости
Не вместо, а вместе Не вместо, а вместе

Как гаджеты трансформировали некоторые профессии и что ждет их в ближайшие годы

Правила жизни
Умный напарник Умный напарник

Фитнес-браслет проследит за здоровьем персонала на промышленных предприятиях

Санкт-Петербургский университет
Никаких шлепок и свадебных платьев: какой дресс-код советуют соблюдать музеи и театры Никаких шлепок и свадебных платьев: какой дресс-код советуют соблюдать музеи и театры

Какие рекомендации по выбору одежды мировые театры и музеи дают посетителям

Forbes
Поп-стоицизм: как античная философская школа стала модной в современном мире Поп-стоицизм: как античная философская школа стала модной в современном мире

Как учение стоиков стало трендом и причем тут КПТ?

Forbes
Хидео Кодзима Хидео Кодзима

Правила жизни геймдизайнера Хидео Кодзимы

Правила жизни
Открыть в приложении