Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Исследование показало, что социальное дистанцирование не защищает от инфекций Исследование показало, что социальное дистанцирование не защищает от инфекций

Социальное дистанцирование не защищает от инфекций. А что защищает?

ТехИнсайдер
«Юг Руси» слил масло «Юг Руси» слил масло

Одна из крупнейших сделок последних лет в АПК — продажа бизнеса «Юга Руси»

Агроинвестор
Марк Цукерберг раскрыл свою ИИ-стратегию: миллиарды на вычисления, гонка за талантами и новое видение Meta* Марк Цукерберг раскрыл свою ИИ-стратегию: миллиарды на вычисления, гонка за талантами и новое видение Meta*

Марк Цукерберг вкладывает сотни миллиардов в сверхинтеллект

Inc.
«Лучи», «химия», гормоны: как сегодня лечат рак груди «Лучи», «химия», гормоны: как сегодня лечат рак груди

Глава из книги онколога Владимира Ивашкова «Все о груди»

Forbes
Пластичность мозга Пластичность мозга

Потрясающие факты о том, как мысли способны менять структуру и функции мозга

kiozk originals
Блокбастер и Маргарита: MAXIM в числе первых посмотрел новую экранизацию Булгакова Блокбастер и Маргарита: MAXIM в числе первых посмотрел новую экранизацию Булгакова

Насколько хорошей получилась экранизация «Мастер и Маргарита» 2024 года

Maxim
Как замедлить старение волос: 5 ошибок в укладке и уходе, которые допускает большинство женщин 50+ Как замедлить старение волос: 5 ошибок в укладке и уходе, которые допускает большинство женщин 50+

Как с возрастом нужно изменить уход за волосами?

VOICE
5 приложений, которые помогут начать питаться осознанно: подборка от нейропсихолога 5 приложений, которые помогут начать питаться осознанно: подборка от нейропсихолога

Приложения для тренировки сознательного пищевого поведения

Psychologies
Падение дома Эрихов: трагическая судьба знаменитой династии рестлеров Падение дома Эрихов: трагическая судьба знаменитой династии рестлеров

Вспоминаем фон Эрихов и пытаемся найти рациональное объяснение мрачной легенде

Правила жизни
Чудеса какие-то! Чудеса какие-то!

Эту фотосъемку Максим Лагашкин экстренно делал на отдыхе

OK!
Приказано снижать! Приказано снижать!

Температура без симптомов болезни: возможные причины

Лиза
7 главных ошибок при хранении продуктов в морозильной камере: их допускает каждый второй 7 главных ошибок при хранении продуктов в морозильной камере: их допускает каждый второй

Как хранить замороженные овощи и мясо, чтобы они не испортились?

ТехИнсайдер
«Я так хотела на свидание, а мне всего 12»: история об одном постсоветском лете «Я так хотела на свидание, а мне всего 12»: история об одном постсоветском лете

Рассказ «Усталость 1993» — о детстве, любви и лете

Psychologies
Чем полезна гвоздика: 5 свойств, ценность для организма Чем полезна гвоздика: 5 свойств, ценность для организма

Гвоздику добавляют в разные блюда для аромата и вкуса, но есть ли от неё польза?

РБК
Крабовый менталитет: что это такое и как от него избавиться Крабовый менталитет: что это такое и как от него избавиться

Почему люди порой вместо поддержки тянут нас на дно?

ТехИнсайдер
«Лучшей возможности, чем сейчас, не будет» «Лучшей возможности, чем сейчас, не будет»

Павел Беликов о перспективах, открывшихся перед российским станкостроением

Монокль
Хрупкая сильная «ботанка»: как Джоди Фостер изменила Голливуд Хрупкая сильная «ботанка»: как Джоди Фостер изменила Голливуд

Как актриса Джоди Фостер боролась за право быть уязвимой и сильной одновременно

Forbes
Красота требует жертв? Как молодая мама умерла после операции по подтяжке ягодиц! Красота требует жертв? Как молодая мама умерла после операции по подтяжке ягодиц!

Может ли пластическая операция закончиться смертью?

ТехИнсайдер
Остров фортов Остров фортов

После пяти лет в Кронштадте команда «Острова фортов» выходит в режим фортиссимо

Собака.ru
Богатая растительным белком пища снизила заболеваемость раком и диабетом Богатая растительным белком пища снизила заболеваемость раком и диабетом

Растительный белок значительно увеличивает вероятность здорового старения

ТехИнсайдер
Миролюбивая сила Миролюбивая сила

Именно Москва начала давить на Каир, принуждая его перейти к переговорам

Дилетант
5 правил, которые помогут вернуться к здоровому режиму питания 5 правил, которые помогут вернуться к здоровому режиму питания

С окончанием каникул самое время вернуться и к нормальному режиму питания

Psychologies
В каком возрасте появляется «запах старушки» и как это предотвратить В каком возрасте появляется «запах старушки» и как это предотвратить

Почему же возникает запах старости и действительно ли это связано с возрастом?

VOICE
Что известно о фильме «Большая гонка. „Ауди“ против „Лянчи“» Что известно о фильме «Большая гонка. „Ауди“ против „Лянчи“»

История знаменитого противостояния итальянской̆ «Лянчи» и немецкой «Ауди»

Maxim
10 малоизвестных и забытых фактов о советских самолетах 10 малоизвестных и забытых фактов о советских самолетах

Мы собрали некоторые интересные факты о советских самолетах и «Аэрофлоте»

Maxim
Спорт вне политики: 10 фильмов, доказывающих обратное Спорт вне политики: 10 фильмов, доказывающих обратное

Фильмы, в которых политика влияет на спорт, спорт — на политику

Forbes
ТОП-7 лучших хэтчбеков: характеристики и фото ТОП-7 лучших хэтчбеков: характеристики и фото

Lada Granta, JAC JS3, Livan X3 Pro и Москвич 6 попали в список лучших хэтчбеков

РБК
Чай матча: какой на вкус модный напиток и как его правильно заваривать Чай матча: какой на вкус модный напиток и как его правильно заваривать

Даже сейчас некоторые люди задаются вопросом: «Что же такое матча?»

ТехИнсайдер
6 самых цепляющих мультфильмов на фольклорной основе 6 самых цепляющих мультфильмов на фольклорной основе

Главные мультфильмы современности, вдохновленные фольклором и сказками

Maxim
Персональный «врач» у вас в кармане Персональный «врач» у вас в кармане

Новые портативные приборы помогут врачам выявлять скрытые патологии

Монокль
Открыть в приложении