Сюжеты

Почему случаются ошибки, когда ставки очень высоки

Этот материал вышел в № 43 от 25 Июня 2001 г.
ЧитатьЧитать номер
Общество

Следует провести четкую границу между понятием обычной ошибки и ошибки катастрофической. При этом сущность различия между ними заключается не в природе самой ошибки, а в ситуации, в которой эта ошибка была совершена. Последствия множества...


       
       Следует провести четкую границу между понятием обычной ошибки и ошибки катастрофической. При этом сущность различия между ними заключается не в природе самой ошибки, а в ситуации, в которой эта ошибка была совершена. Последствия множества самых обычных ошибок, которые совершает любой из нас ежедневно, оказались бы ужасными, если бы они были совершены в другой ситуации.
       Например, набирая телефонный номер, вводят последовательность чисел, попадающих в компьютерную систему, которая соединяет звонящего с абонентом, номер которого был набран. Если мы делаем ошибку при наборе номера, нас соединяют с другим человеком, мы приносим извинения, разъединяемся и предпринимаем новую попытку. Ошибка тривиальна. Но в ясную декабрьскую ночь 1995 года пилоты рейса 965 Американских Авиалиний сделали по существу ту же самую ошибку, когда направлялись в Кали, Колумбия. Они ввели неправильную последовательность чисел в навигационный компьютер своего самолета. В результате машина устремилась к горе, и 160 человек погибли.
       
       Привычка и установившаяся практика
       Привычка и установившаяся практика могут помочь защититься от некоторых ошибок, возникающих от скуки. Даже когда индивидуум в действительности не задумывается о том, что он делает, он может продолжать правильно поступать из-за глубоко укоренившейся привычки и установившейся практики. Много людей, управляя автомобилем по знакомому и часто используемому маршруту, где-то на полпути осознавали, что хотя они только что все это проехали, но фактически могут вспомнить этот путь только отчасти или не могут вспомнить совсем. Они не спали, не принимали наркотики или алкоголь, они все правильно делали, безопасно ведя автомобиль по сложному маршруту, и все же так или иначе их сознание было где-то в другом месте.
       В то же время, привычка и установившаяся практика могут создавать серьезные проблемы, когда ситуация так или иначе отклоняется от обычной, а поведение согласно установившейся практике продолжается еще какое-то время. Человек просто не сразу осознает, что ситуация изменилась и обычное поведение должно быть изменено.
       На специальных учениях НАТО в Западной Германии в середине 80-х британский пилот реактивного самолета "Фантом" следовал той же самой установившейся практике, которой он следовал в обычных тренировочных полетах в течение последних восьми лет. Полностью упустив из виду, что на этот раз у него на борту настоящие ракеты "Sidewinder", он обстрелял и разрушил самолет "Ягуар" Королевских Воздушных сил стоимостью много миллионов.
       В 1977 году опытный голландский пилот пассажирского реактивного самолета "Boeing 747", отправлявшегося из Тенерифе, Канарские острова, не стал дожидаться разрешения на взлет и врезался в другой пассажирский реактивный самолет на той же самой взлетно-посадочной полосе. Как мог опытный пилот, сам возглавлявший отделение обучения полетам в компании KLM, сделать такую элементарную ошибку? Оказалось, что в течение предыдущих шести лет, как инструктор, он почти все время провел на имитаторах полета, где в целях экономии средств от пилотов никогда не требовалось помнить о необходимости дожидаться разрешения на взлет. Его временное, легкомысленное возвращение к привычной установившейся практике стоили 577 жизней.
       
       Снижение умственной активности
       Эта проблема хотя и связана с проблемой привычки и установившейся практики, но в действительности существенно от нее отличается. Проявлением снижения умственной активности является подмена действительного желаемым, что в свою очередь влияет на восприятие и интерпретацию. Это ложное впечатление о реальности может привести к действиям, превращающим рядовую проблему в бедствие.
       3 июля 1988 года крейсер американских ВМС "Vincennes" принимал участие в вооруженном конфликте с иранскими боевыми кораблями в Персидском заливе. Команда была предупреждена о том, что Иран может напасть на американские силы в день их национального праздника 4 июля. Также им хорошо было известно об атаке реактивного самолета-смертника иракских ВВС на американский военный фрегат "Stark", имевшей место при похожих обстоятельствах в Персидском заливе 14 месяцами ранее.
       Внезапно команда обнаружила самолет, взлетающий со стороны Ирана и направляющийся к "Vincennes". Имея в распоряжении всего 7-8 минут для того, чтобы принять решение, предрасположенная верить, что это нападение, которого они ожидали, команда решила, что это самолет F-14 иранских ВВС, направляющийся на большой скорости к их крейсеру с целью нападения. И они выпустили две ракеты "земля-воздух" для поражения самолета в небе.
       Однако это был не F-14, а гражданский аэробус A-300 с почти 300 пассажирами и командой на борту. Заранее готовые увидеть вражеский военный самолет, моряки неправильно интерпретировали электронный сигнал, полученный от самолета, идентифицировавший объект как гражданский воздушный лайнер. Неправильно прочли свои собственные данные, которые правильно показывали, что самолет взлетал, не собираясь их атаковать. И не сумели найти этот рейс в графике авиакомпаний, с которым они сверялись, — при том, что рейс был там ясно указан...
       Пятью годами ранее, в 1983-м, советские ВВС совершили подобную трагическую ошибку, уничтожив Boeing 747 Корейских Авиалиний с 269 пассажирами на борту. В обстоятельствах, которые заставляли их предполагать, что это американский военный самолет-шпион, ведущий разведку особо секретного советского военного комплекса, они ошибочно идентифицировали самолет, несмотря на то, что следовали за ним более двух часов...
       После того, как советская подводная лодка села на мель около шведской военной базы в 1981 году, шведские военные неоднократно фиксировали нарушения своей границы. Спустя годы после окончания "холодной войны", шведы продолжали искать и "находить" рыщущие в их территориальных водах русские подводные лодки, хотя и не могли понять, почему эти провокации продолжались. В начале 1995 года появилось сообщение, что шведские военные нашли решение этой головоломки. Они объявили, что "по крайней мере предыдущие три года, причиной ошибок их высокочувствительных радаров были норки, — маленькие пушистые зверьки, чьи ... грудные полости, когда они находятся под водой, издают звуки, похожие на звуки, производимые подводными лодками".
       
       Коллективная склонность к ошибкам
       Один из самых типичных способов, которым в ядерном военном комплексе пытаются защититься от катастрофических случайностей, возможных по вине ненадежного индивидуума, — это соблюдение условия, по которому только группа людей имеет право коллективно принимать решение по осуществлению какого-либо действия. Например, о перемещении ядерного оружия из хранилища или подавать сигнал о начале ядерного ракетного удара. Но бывают ситуации, при которых группы также могут вести себя ненадежно, а иногда даже еще менее надежно, чем индивидуумы.
       И поток информации "наверх", и нисходящий поток директив имеют тенденцию к искажению во всех иерархических бюрократических организациях, включая военные. Классическое проявление этой проблемы — так называемый синдром "хороших новостей", когда подчиненные редактируют информацию, которую они отправляют "наверх", чтобы создать у начальства более приятное впечатление. Результат этих "хороших новостей" таков, что тот, кто принимает решения на более высоком уровне, получает полностью искаженное представление о происходящем в действительности. Очень трудно принять правильное решение, если у вас нет реальной информации. И, к сожалению, эта ситуация имеет тенденцию к ухудшению, более того, становиться угрожающей.
       В информации, просочившейся из отчета службы безопасности (от 28 февраля 2000 года) крупнейшего завода ядерного оружия "Пантекс" в штате Техас (конечный пункт сборки/разборки всего американского ядерного оружия), главный эксперт по безопасности Министерства энергетики Фрэнк Роусом это ясно продемонстрировал. По его мнению, у двух (из шести) главных руководителей групп по надзору за безопасностью МЭ, под чьим началом он работал предшествующие четыре года, "...представление о безопасности было таким, что они не могли себе даже представить, что с безопасностью возможны проблемы, или что за этим следует наблюдать. Им хотелось докладывать руководству только хорошие новости. Оба принимали меры по сокращению нашего отчета...".
       Роусом приводит аргументы, свидетельствующие, что такое поведение насаждается бюрократией Министерства энергетики: "Тех из нас, кто помогает скрывать недостатки, поощряют, а тех, кто пытается их предотвратить, ...в лучшем случае игнорируют, а чаще — наказывают или отстраняют от работы как нарушителей спокойствия...".
       Когда подчиненные в бюрократических организациях получают от руководства непривычные или неудобные указания, то возникает тревожная для таких директив тенденция, когда они могут быть отклонены, искажены или проигнорированы подчиненными. Возможно, один из самых ярких тому примеров, связанных с ядерным оружием, произошел во время Кубинского ракетного кризиса. Более чем за неделю до этой опасной ядерной конфронтации, американский президент Кеннеди получил письмо от советского руководителя Хрущева, предлагавшего убрать советские ядерные ракеты с Кубы с одновременным удалением американских ядерных ракет из Турции. Президент Кеннеди с трудом поверил собственным глазам. Трижды за прошедшие 18 месяцев Кеннеди приказывал убрать эти ракеты из Турции, считая их не только устаревшими, но и провоцирующими обострение международной обстановки. И вот теперь он узнает от Хрущева, что его указание Президента и Главнокомандующего американских вооруженных сил, было попросту проигнорировано.
       Наиболее драматичная ситуация, могущая поставить под угрозу надежность группы — "групповой психоз". Это ситуация, в которой сумасшедший, но харизматичный лидер оказывается способен втянуть нормальных членов группы в свое бредовое видение картины мира. В совместно проживающих группах, в которых у лидера больше возможностей для изоляции членов группы от внешних контактов (особенно от друзей и семей), он имеет наибольшую степень управления, и потому существует большая вероятность развития группового психоза. В двадцатом столетии примерами группового психоза стали преподобный Джим Джонс и его последователи в Джонстауне, Гайана в 1970-х, Дэвид Кореш и Ветвь Давидова в Уэйко, штат Техас в начале 1990-х, Секо Асахара и Аум Синрике в Японии в середине 1990-х.
       Фактически все случаи проявления милитаризма характеризуются наличием очень харизматичных руководителей, способных вызывать вдохновленное сверхъестественное послушание у членов своей команды. Даже один такой лидер, внешне вполне нормальный, может внести психологический раскол, ведущий к бредовому изменению представления о действительности у своего окружения. Известны случаи глубоких, даже психотических нарушений у индивидуумов, кажущихся вполне нормальными в обычных обстоятельствах. В эту категорию, например, часто попадают серийные убийцы.
       Если такой командир контролирует многие аспекты жизни своих подчиненных и способен изолировать их от внешнего мира, то ему будет относительно просто дезориентировать их и вовлечь в свой бредовой мир, нарушая сон, прием пищи, держа их в постоянной высокой готовности, подвергая постоянной психологической обработке. Как и где еще можно настолько изолировать людей, чтобы с ними могло случиться нечто подобное?
       Команда ядерной ракетной подводной лодки полностью отрезана от внешних контактов на многие месяцы, живет в искусственной среде, без какой-либо поддержки извне. Капитан и ответственные офицеры практически полностью контролируют ситуацию, в которой они живут и работают. И каждая ядерная подлодка несет на борту огневой мощи достаточно, чтобы произвести чудовищные разрушения в любой точке планеты.
       Передача ответственности от индивидуумов к группам абсолютно не защищает ядерный арсенал от человеческой ошибки, болезни или недоброжелательности. Двигаясь по пути от банального бюрократического высокомерия коллективного мышления до кошмара группового психоза, группы будут не только не в состоянии решить проблему склонности человека к ошибкам, но могут только добавить еще одно, свое измерение к этой многогранной проблеме.
       Точно так же невозможно устранить риск человеческой ошибки, полагаясь на компьютеры. Компьютеры не только чрезвычайно быстры, но и, временами, довольно глупы. У них нет ни "здравого смысла", ни "морали". Построенные и запрограммированные склонными ошибаться людьми, они отвечают только на то, о чем их спрашивают, и делают только то, что им велят. И конечно, спрашивать и давать команды им будут все те же склонные ошибаться люди.
       
       Что может и должно быть сделано
       Что можно предпринять, чтобы уменьшить вероятность катастрофической ошибки в системе ядерных вооружений? Перечень мероприятий, которые я кратко привожу, носит скорее иллюстративный, чем всеобъемлющий характер.
       Во-первых, нужно постараться уменьшить скуку, с которой связаны многие режимы работы с ядерным оружием. Прежде, чем сделать работу и/или управление настолько простыми, что это позволит избегать ошибок. Нужно стараться сделать их более разнообразными, интересными и совместимыми как с характером работы, так и с характером обслуживающего персонала.
       Для тех, чья деятельность как-либо связана с вычислениями, например, для тех, кто работает с радарами или ультразвуковым оборудованием, а также для тех, кто охраняет ядерное оружие, следовало бы определить более короткое время непрерывного исполнения служебных обязанностей, с большим количеством стимулирующих занятий во время перерывов. Следует поощрять разумное чередование физических (упражнения, спортивные игры) и умственных (чтение, приобретение новых навыков) занятий. В их графиках должно быть четко указано, что между дежурствами они должны адекватно отдыхать.
       Однако, нельзя подвергать персонал более частой смене ночных и дневных дежурств, так как потери надежности из-за нарушения циркадного ритма могут оказаться большими, чем все достижения от уменьшенния скуки и улучшенного планирования.
       С проблемой снижения умственной активности можно справляться, обучая принятию правильных решений и совершению правильных действий в ситуациях, которые требуют отказа от привычного представления о происходящем, что позволяет сохранить более широкий взгляд на вещи и толкование информации. Несмотря на то, что внезапные учебные тревоги и практика постановки перед персоналом задач, повышающих его надежность, через различные промежутки времени и необходимы, следует учитывать, что их нельзя проводить с такой частотой или продолжительностью, которые существенно увеличивают интенсивность и продолжительность стресса.
       Хорошая идея — предоставление возможности получения формальной или неформальной консультации для тех, кто временно находится в стрессовой ситуации. Проблема огласки, обычно сопровождающая поиск такой консультации, может быть решена, если гарантировать, что просто поиск такой консультации не будет нарушать военную карьеру индивидуума. Также хорошая идея — предложить программу амнистии в борьбе с наркотической и алкогольной зависимостью совместно с программой по обнаружению и предупреждению токсикоманий.
       Неплохая идея — обучить военный персонал распознавать признаки попыток формирования культа личности и/или "промывания мозгов" вышестоящими офицерами, сообщать об этом вышестоящему командованию, и защищать себя от их воздействия. Это чрезвычайно непростое дело в условиях вооруженных сил, где определенное состояние ума, командный дух и беспрекословное подчинение старшему по званию не просто усиленно внедряются, а составляют основу военной организации.
       Важно понимать, наконец, что нет никакого иного способа полностью устранить возможность ядерной катастрофы, чем полностью уничтожив все ядерное оружие. И это не так уж далеко от реальности, как могло бы показаться на первый взгляд. В последние годы все больше высокопоставленных военных чиновников и гражданских официальных лиц в разных странах, ранее глубоко вовлеченных в гонку ядерных вооружений, публично занимают позицию, поддерживающую официальное запрещение ядерного оружия.
       И пусть пока нами не найдено реальных подходов на пути к этому единственному, окончательному решению, нами должно быть сделано все, чтобы свести возможность ядерной войны к самому низкому уровню.
       


       

Отзыв

Рейтинг@Mail.ru

К сожалению, браузер, которым вы пользуйтесь, устарел и не позволяет корректно отображать сайт. Пожалуйста, установите любой из современных браузеров, например:

Google ChromeFirefoxOpera