"Валерий Аджиев "Мифы о безопасном ПО: уроки знаменитых катастроф" [V]" - читать интересную книгу автора

печальным последствиям.

Можно выделить и такой фактор, как переоценка уровня безопасности, в
принципе гарантируемого программным обеспечением. Это послужило стимулом
заменить используемые в предыдущих версиях системы защитные механизмы,
которые контролировали радиационные потоки и блокировали их в случае
выхода из нормального режима, с "аппаратных" блокираторов (на базе
электронно-механических устройств) на чисто программные. Роковую роль
сыграло и отсутствие должным образом поставленной системы контроля и
исследования природы задокументированных инцидентов, а также некорректные
процедуры оценки риска, которые не учитывали специфику ПО. Каждый раз
после очередного случая с переоблучением производитель утверждал, что
причина выяснена и корректирующие действия предприняты; это не было ложью,
но потребовалось два года, чтобы от исправления частностей (которые не
делали систему безопаснее) перейти, наконец, к трезвой оценке глобальных
особенностей проекта, изменить дисциплину разработки и выполнить
корректный анализ рисков.

Мифы о безопасности ПО

Катастрофы с Ariane 5 и Therac-25, сами по себе беспрецедентные,
конечно же не являются уникальными. Можно привести длинный список больших
и малых инцидентов в системах, относящихся к классу mission-critical,
произошедших по причине дефектов в программном обеспечении и проявившихся
только в режиме эксплуатации. Конечно, большинство инцидентов так или
иначе расследовалось и осмыслялось. К сожалению, специфика "ответственных"
систем часто такова, что это осмысление не становилось достоянием всего
программистского сообщества поэтому, неудивительно, что в разное время и в
разных местах повторялись сходные ошибки. Соответственно, слишком многие
приобретают специфические знания и опыт на практике, методом проб и ошибок,
которые как лишний раз показывает разобранные инциденты обходятся дорого.

Что же может предложить в этом отношении наука? Только недавно
общесистемные и общеинженерные дисциплины "Безопасность Систем" (System
Safety) и "Управление Рисками" (Risk Management) начали настраиваться на
ту выраженную специфику, которую имеют программно-аппаратные комплексы в
контексте их разработки, эксплуатации и сопровождения. Крупнейший
специалист в данной области профессор Вашингтонского Университета энси
Левесон (Nancy Leveson)
ввела даже специальный термин Safeware, который вынесла в название
своей книги [7] пока единственной в мировой литературе, где систематически
рассматриваются вопросы безопасности и рисков в компьютерных системах. В
частности, в этой книге разбираются некоторые распространенные
мифологические представления о ПО и связанных с ним безопасности и рисках,
бытующие на фоне все более широкого использования сложных систем в
потенциально опасных приложениях. Остановимся на некоторых из них.


О "дешевом и технологичном" ПО