Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Выдающийся математик, который морил себя голодом из-за паранойи: история жизни и смерти Курта Гёделя Выдающийся математик, который морил себя голодом из-за паранойи: история жизни и смерти Курта Гёделя

История Курта Гёделя, выдающегося математика, который умер от паранойи

ТехИнсайдер
Опра в семи действиях: за что мы любим Опру Уинфри Опра в семи действиях: за что мы любим Опру Уинфри

Рассказываем о ключевых ипостасях легендарной телеведущей Опры Уинфри

Правила жизни
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
«Мне хотелось не видеть его совсем»: история одной школьной травли глазами буллера «Мне хотелось не видеть его совсем»: история одной школьной травли глазами буллера

Почему буллеры не могут остановиться? Ищем ответ в рассказе «По парте»

Psychologies
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
«Больше никогда»: как скрытые обиды разрушают отношения «Больше никогда»: как скрытые обиды разрушают отношения

Почему стоит обсуждать с партнером свои обиды?

Psychologies
Автомобильное завтра: 5 самых безумных технологических трендов, увидевших свет в 2023 году Автомобильное завтра: 5 самых безумных технологических трендов, увидевших свет в 2023 году

Кресла с вибратором и грузовики с руками: безумные автомобильные тренды 2023

ТехИнсайдер
Феномен Анатолия Кашпировского: почему люди верили советскому «целителю» Феномен Анатолия Кашпировского: почему люди верили советскому «целителю»

Как и почему «самая читающая в мире страна» поверила в шарлатанство гипнотизера?

ТехИнсайдер
Что такое ретравматизация и как перестать ходить по кругу боли Что такое ретравматизация и как перестать ходить по кругу боли

Как выйти из цикла повторения травмы? Чем себе помочь?

Psychologies
Вымершие калифорнийские гризли оказались в основном растительноядными Вымершие калифорнийские гризли оказались в основном растительноядными

Ошибочные представления об калифорнийских гризли привели к их вымиранию

N+1
Колумб золотых россыпей России Колумб золотых россыпей России

Лев Брусницын совершил технологический прорыв, самый настоящий научный подвиг

Зеркало Мира
Жертва цензуры: как диктатора Антониу Салазара сгубило его любимое детище Жертва цензуры: как диктатора Антониу Салазара сгубило его любимое детище

Глава из книги «Диктатор, который умер дважды» об Антониу Салазаре

Forbes
Вопрос психологу: почему люди коллекционируют? Вопрос психологу: почему люди коллекционируют?

Всегда ли страсть к коллекционированию может считаться нормой?

Правила жизни
«Ванильная кудряшка» «Ванильная кудряшка»

Причудливое растение из Южной Африки, которое приживется дома

Наука и жизнь
Спорт вне политики: 10 фильмов, доказывающих обратное Спорт вне политики: 10 фильмов, доказывающих обратное

Фильмы, в которых политика влияет на спорт, спорт — на политику

Forbes
В древнегреческом Эпидавре нашли руины храма с фонтаном В древнегреческом Эпидавре нашли руины храма с фонтаном

Археологи нашли место, где находилось упоминавшееся Павсанием святилище Асклепия

N+1
5 захватывающих книг с зимним настроением 5 захватывающих книг с зимним настроением

Книги, которые чутко отражают уникальную зимнюю атмосферу

Maxim
«Лучи», «химия», гормоны: как сегодня лечат рак груди «Лучи», «химия», гормоны: как сегодня лечат рак груди

Глава из книги онколога Владимира Ивашкова «Все о груди»

Forbes
Научный ответ на церковный вопрос: почему крещенская вода долго не портится? Научный ответ на церковный вопрос: почему крещенская вода долго не портится?

Как объяснить факт, что крещенская вода не тухнет и не “цветет”?

ТехИнсайдер
«Месье Спейд»: стильный сериал с Клайвом Оуэном в роли культового детектива «Месье Спейд»: стильный сериал с Клайвом Оуэном в роли культового детектива

«Месье Спейд»: по-хорошему старомодное кино в формате сериала

Forbes
Не только из-за похмелья! Узнайте, почему по утрам сухо во рту и как избавиться от этого Не только из-за похмелья! Узнайте, почему по утрам сухо во рту и как избавиться от этого

Почему возникает сухость во рту и что с этим можно сделать?

ТехИнсайдер
«Утренний секс — секрет успеха в жизни»: 5 аргументов, чтобы пересмотреть распорядок дня «Утренний секс — секрет успеха в жизни»: 5 аргументов, чтобы пересмотреть распорядок дня

Сексолог рассказывает о преимуществах и роли утреннего секса в жизни партнеров

Psychologies
Как сделать кухню шикарной, не устраивая в ней ремонт: секреты дизайнеров интерьера Как сделать кухню шикарной, не устраивая в ней ремонт: секреты дизайнеров интерьера

Вот какие идеи для декора кухни стоит взять на вооружение

VOICE
«Седой развод»: почему пожилые люди стали чаще расторгать браки «Седой развод»: почему пожилые люди стали чаще расторгать браки

Почему браки в позднем возрасте становятся обыденным явлением?

Forbes
От Оруэлла до «Мастера и Маргариты»: 7 книг, которые запрещали в СССР От Оруэлла до «Мастера и Маргариты»: 7 книг, которые запрещали в СССР

Запрещенные книги из СССР, которые заслуженно стали классикой

Правила жизни
Ферруччо Ламборгини: биография человека-легенды Ферруччо Ламборгини: биография человека-легенды

Ферруччо Ламборгини упорно шел к цели и достиг головокружительных высот

РБК
10 лучших фильмов Дэвида Линча 10 лучших фильмов Дэвида Линча

Линч: от скандальной экранизации до одного из лучших фильмов в истории кино

Правила жизни
О пользе секса и вреде (некоторых) гормонов: отрывок из книги «Все о груди» онколога Владимира Ивашкова О пользе секса и вреде (некоторых) гормонов: отрывок из книги «Все о груди» онколога Владимира Ивашкова

Как на молочную железу влияют секс, спорт и гормональные препараты?

Правила жизни
В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы

Ученые исследовали останки древних людей из памятника Жаботикаба-II

N+1
Отнять и отомстить: как бывшие супруги спорят из-за детей и зачем нужны медиаторы Отнять и отомстить: как бывшие супруги спорят из-за детей и зачем нужны медиаторы

Как уберечь ребенка от тяжелых судебных процедур при разводе?

Forbes
Открыть в приложении