?

Log in

No account? Create an account

Previous Entry | Next Entry

себе, ого, какая статья

Оригинал взят у a_str в себе, ого, какая статья
 "Как ломаются сложные системы", очень сильно на подумать еще и потом еще раз.

Опасность – неотъемлемый атрибут сложных систем
Сложные системы тщательно и успешно защищаются от сбоев
Катастрофа подразумевает множество сбоев – одиночных нарушений недостаточно
Сложные системы содержат постоянно меняющуюся комбинацию скрытых сбоев
Сложность рассматриваемых систем делает невозможной работу без множественных внутренних ошибок. Поскольку каждая из них неспособна привести к аварии, на операционном уровне они рассматриваются как несущественные. Устранение всех этих ошибок признается экономически нерациональным; кроме того, проактивная оценка их влияния на возможность возникновения системной аварии затруднена. Набор ошибок в составе системы постоянно меняется.

Сложные системы работают в режиме ограниченной производительности
Из сказанного выше следует, что сложные системы всегда работают как поврежденные системы. Система продолжает функционировать, поскольку содержит множество дополнительных средств обеспечения устойчивости, а также поскольку люди заставляют ее работать, несмотря на наличие множества ошибок. В ходе разбора случившихся аварий почти всегда отмечается, что в системе накоплена история «прото-сбоев», которые чуть не стали причиной аварии. Утверждение, что эти ситуации должны были быть выявлены заранее, обычно основано на упрощенном понимании работы систем. В то время как эта работа – и результирующая производительность системы – есть непрерывно меняющееся сочетание сбоев и восстановлений компонентов.

Закладывать на все задачи: дополнительное время. Дополнительный ресурс. Дополнительный стог соломки, если уж на то пошло, ну да.
Всегда, всегда, всегда  иметь набор действий для наименее желательного развития событий. 
План эвакуации. Быстрый и эффективный возврат к рабочему состоянию после единичного сбоя (или, вернее, серии сбоев, единичный не очень-то и замечаешь), потому что накопление сбоев дает катастрофу, а не отсутствие рабочего состояния.
И еще один неожиданный и забавный вывод: если работу системы останавливают просто сбои, это простая система. 

Да, и вот еще что. Относительная несущественность внутренних ошибок (несущественных для сложной системы и очень существенных для простой) может привести к двум одинаково вредным выводам, хотя сами они противоположны:
- да тут за что ни возьмешься, ничего не работает как следует
- этой штуке все ни по чем, все выдержит


This entry was originally posted at http://three-is-one.dreamwidth.org/140413.html. Please comment there using OpenID.

Comments

( 1 comment — Leave a comment )
hugan
Sep. 23rd, 2017 07:07 pm (UTC)

Ну да, вероятностно-статистический принцип работы. Система машинного обучения (в ее собственно статистической части, а не таких системно-простых элементах, как вычисляющий субстрат, который как раз сломать очень легко).
Нервная система и психика.
Общество.

Ничто не работает идеально и безошибочно, но все вместе фантастически устойчиво и надежно относительно единичных инцидентов

Кстати, ограниченная производительность, точнее, закладывание этих ограничений в план/ожидания/надежды/притязания - как раз, по моему, один из факторов устойчивости: медленнее значит надежнее Если все водители в городе будут ездить безошибочно как роботы, пропускная способность дорог увеличится при равной плотности машин на них. Этакая пробка, четко едущая с приличной скоростью... но в таком перенасыщенном состоянии если что-то где-то застопорится, то встанет, скорее всего, весь город..

Немного оффтоп, но не совсем: где-то я наткнулся некую любопытная статейка на эту тему, я ее уж не найду, но зато под ее влиянием мы с сыном (в порядке обучения его программированию на интересных примерах: "посмотри, программист - это же демиург, он может создать произвольный мир и сам написать для него законы, при условии, что он сам ДО КОНЦА понимает, что хочет создать"), так вот, мы недавно взяли и написали следующий нехитрый симулятор пробки на участке дороги: скорость машин зависит от расстояния до ближайшей машины (ну и сверху ограничена), есть небольшая задержка реакции водителя (в т ч и на разгон), и есть ограничение ускорений разгона и торможения. И на этом нехитром симулятор отлично видно, как (при определённых параметрах) стоит пробке возникнуть, она уже сама себя держит, иногда - и по исчезновении первопричины. Иногда еще и самоусиливается. Интересно играть параметрами, особенно касающимися водителя. Если немного усложнить и психологизировать, может выйти дельная вещщ...
( 1 comment — Leave a comment )

Profile

jorkoffski
Вaлентин Юрковский
Website

Latest Month

September 2019
S M T W T F S
1234567
891011121314
15161718192021
22232425262728
2930     

Page Summary

Powered by LiveJournal.com
Designed by yoksel