На этом стоит остановиться подробнее.
Я пересказываю главу из книги Дитриха Дернера «Логика неудач». Из его анализа становится ясно, что причиной аварии была отнюдь не низкая подготовка персонала. Напротив. Правильнее было бы сказать, что настоящей причиной была как раз высокая квалификация (если бы квалификация персонала была бы низкой, ничего подобного случиться не могло). Команда была прекрасно подобрана. Она неоднократно побеждала на профессиональных конкурсах. И это чувство собственной компетентности накладывается на нелинейные процессы в сверхсложной системе. Как говорит Дернер, человеку свойственно мышление в категориях «состояний», а в системе идет непрерывный нелинейный процесс.
В результате высококлассные специалисты, знавшие виртуозный уровень своего владения управлением, свободно и систематически отключали систему безопасности и пренебрегали правилами безопасности. Это делалось не случайно, а потому, что операторы были абсолютно уверены, что управление полностью они держат в своих руках. И они перестали изучать систему, хотя она постоянно изменялась.
Таким образом, они считали, что никаких опасных «виражей» система выдать им не сможет. Они считали, что им уже нечему учиться у АЭС, что они знают о ней все, что нужно на все времена. Поэтому, когда из Киева пришли требования ускорить испытания, то они отмахнулись от инструкции как от назойливой мухи, и смело вошли в область опасной неуправляемости. Но к этому моменту там уже все было не так, как они знали.
Сыграло роль не просто самомнение, но представление о системе как о простом линейном единстве, как о том, в чем не может быть ничего особенного и нового. Система ответила на это совершенно непредсказуемым образом. Можно сказать, как «монстр». Справиться с ним уже операторы не смогли. В эти грозные минуты борьбы сверхсложная система ведет себя как живое существо. Как субъект, проявляющий свободную волю.
«Атомный монстр» разрушил самого себя и все вокруг…
26 апреля 1986 года в Чернобыле на переживших шок от страха операторов взглянуло другое лицо, о котором сразу же попытались забыть. И не только религиозные мистики углядели во всем происходящем длань дьявола. Но ошибались все. Антропоморфные качества сверхсложные системы проявляют и проявляли всегда. Нужно лишь внимательно к ним приглядеться. Раньше, например, древние греки, называли эти явления «богами». Боги сражались друг с другом, не обращая внимания на испуганных людей, с ужасом и почтением взирающим на эти ужасные битвы…
Общаться со сверхсложной системой как с простой бывает, подчас, весьма опасно. Она может неожиданно проявить РАЗУМ (если эта система – продукт техники, то это и будет «искусственный разум»), и он, будучи неожиданным, может победить своего Творца, не готового к такому соревнованию. Еще создатель кибернетики Норберт Винер посвятил этому книгу «Творец и робот».
Человеческий ум привык к обращению с простыми системами. Он не приспособлен к общению со сверхсложными системами. Обычные решения, которые кажутся человеку наиболее очевидными в тех или иных ситуациях, как правило, приводят к обратным результатам. Вот что об этом писал Дж. Форестер еще в 1969г.
«Большинство наших интуитивных решений выработалось на законах цепей отрицательной обратной связи первого порядка… Например, если мы греем руки над огнем…, цель процесса состоит в получении тепла без ожога рук. Существенной переменной такого процесса является расстояние от огня… Температура является функцией расстояния от огня… Связь между причиной и следствием прямая и ясная.
