Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нежелательных бобров переселили на умирающую реку в пустыне. Через 6 лет она превратилась в зеленый оазис Нежелательных бобров переселили на умирающую реку в пустыне. Через 6 лет она превратилась в зеленый оазис

Почему бобры – яркий пример того, что экологи называют «ключевыми видами»

ТехИнсайдер
С каким шампанским ел ананасы Игорь Северянин С каким шампанским ел ананасы Игорь Северянин

Как появилось стихотворение Игоря Северянина про «ананасы в шампанском»

СНОБ
Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу

Что именно искусственный интеллект делает для бизнеса уже сегодня?

Inc.
Маски шоу: история легендарных советских художников Кукрыниксов Маски шоу: история легендарных советских художников Кукрыниксов

Как Кукрыниксы стали легендарными художниками?

Правила жизни
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
Узнайте, как лучше всего чистить смартфон! Простые советы и интересные факты Узнайте, как лучше всего чистить смартфон! Простые советы и интересные факты

Почему стоит чистить телефон?

ТехИнсайдер
Как стать счастливым: 12 простых способов и 7 действенных техник Как стать счастливым: 12 простых способов и 7 действенных техник

У каждого свой путь к счастью, но есть общие методики, эффективные для каждого

РБК
Раз – и на Кузбасс Раз – и на Кузбасс

Кузбасс: уникальная природа Шерегеша и гостеприимство шорцев

Лиза
Мотои Миура: «Я исключение из правил, редкий экземпляр» Мотои Миура: «Я исключение из правил, редкий экземпляр»

Японский режиссер Мотои Миура — о частном театре и японском театре в целом

Монокль
Мы долгая битва друг с другом Мы долгая битва друг с другом

Сериал «Эхо»: от традиционных супергероев к коренным

Weekend
Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать

Почему внезапно время в теннисе стало проблемой?

Forbes
Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием

Как связаны импульсивность и поведение у приматов и людей?

N+1
«Хорошая сестра»: почему отношения между женщинами в семье могут быть такими сложными «Хорошая сестра»: почему отношения между женщинами в семье могут быть такими сложными

Отрывок из романа Салли Хэпвортс «Хорошая сестра» о сестрах-близнецах

Forbes
5 шагов на пути к настоящей любви 5 шагов на пути к настоящей любви

Чтобы впустить любовь в свою жизнь, надо просто быть к ней готовым

Psychologies
Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта

Почему в автомобиле происходит запотевание стекол и что делать в этой ситуации

ТехИнсайдер
Упущенные возможности и страх переговоров о зарплате: о чём чаще всего жалеют на работе Упущенные возможности и страх переговоров о зарплате: о чём чаще всего жалеют на работе

О чем мужчины и женщины жалеют на своей работе?

VC.RU
Как правильно уволиться: 5 советов бизнес-коуча Как правильно уволиться: 5 советов бизнес-коуча

Несколько нюансов, на которые стоит обратить внимание

Psychologies
Генерал Касем, правитель Ирака Генерал Касем, правитель Ирака

В период с 1958 по 1963 год чаще всего на марках Ирака появлялся генерал Касем

Дилетант
Можно ли заниматься спортом, если ты простужена: «правило шеи», которое следует знать Можно ли заниматься спортом, если ты простужена: «правило шеи», которое следует знать

Принцип, позволяющий определить, допустимы ли занятия спортом при простуде

VOICE
Как наладить сексуальную жизнь после утраты мобильности: 4 совета людям с инвалидностью Как наладить сексуальную жизнь после утраты мобильности: 4 совета людям с инвалидностью

Что нужно знать о сексуальной жизни людей с ограничением подвижности?

Psychologies
Как-то раз под Рождество: российские звезды с непростой судьбой, которые родились 7 января Как-то раз под Рождество: российские звезды с непростой судьбой, которые родились 7 января

Появиться на свет в Рождество – еще не гарантия безоблачной жизни

VOICE
Обманул первого президента США! История доктора-шарлатана Элиша Перкинса Обманул первого президента США! История доктора-шарлатана Элиша Перкинса

Даже известные личности и мыслители попадались на удочку обманщиков

ТехИнсайдер
С небес на землю С небес на землю

Как дистанционное зондирование Земли обеспечивает нашу безопасность

Наука и техника
Приказано снижать! Приказано снижать!

Температура без симптомов болезни: возможные причины

Лиза
Высшее образование значительно сокращает риск смерти Высшее образование значительно сокращает риск смерти

Образование спасает жизни независимо от возраста, пола и местоположения

ТехИнсайдер
Авантюрист и детектив: как директор Русского музея покупал запрещенных художников Авантюрист и детектив: как директор Русского музея покупал запрещенных художников

Глава из книги «Правильной дорогой в обход. Василий Пушкарев»

Forbes
Авианосцы постройки Великобритании и Франции. Часть 1. Великобритания Авианосцы постройки Великобритании и Франции. Часть 1. Великобритания

Королева Элизабет и её свита

Наука и техника
Топ-5 самых честных книг о жизни в 80-90-е в России Топ-5 самых честных книг о жизни в 80-90-е в России

В топе собраны книги, которые в подробностях описывают 80-90-е

Maxim
Сыр. Прыжок молока к бессмертию Сыр. Прыжок молока к бессмертию

Есть мнение, что впервые сыр у древних людей получился случайно

Зеркало Мира
Когда нужно отменить запись на маникюр и педикюр: 5 ситуаций, в которых гель-лак не будет держаться на ногтях Когда нужно отменить запись на маникюр и педикюр: 5 ситуаций, в которых гель-лак не будет держаться на ногтях

Ситуации, когда нельзя делать маникюр и педикюр с покрытием

VOICE
Открыть в приложении