?Неуязвимость! Отчего системы дают сбой и как с этим бороться - страница 12

Перроу признает, что нормальные аварии чрезвычайно редки. Большинство происшествий вполне поддаются предотвращению, а непосредственными причинами их возникновения становятся не сложность или жесткость соединений. Обычно это ошибки в управлении, игнорирование предупреждающих сигналов, проблемы в общении людей, низкая профессиональная подготовка персонала и безрассудный риск. Однако концепция Перроу позволяет нам правильно понимать и такие происшествия: в тех авариях, которые можно предотвратить, также присутствует повышенная сложность и жесткость связей. Если это сложная система, наше понимание того, как она работает и что происходит внутри ее, вероятно, будет ошибочным. И скорее всего, наши ошибки пересекутся с другими сбоями самым сбивающим с толку образом. А жесткая соединенность системы затрудняет противодействие появлению все новых сбоев.

Представьте себе ремонтника, который случайно совершает небольшую ошибку – например, закрывает не тот клапан, который нужно. Многие системы каждый день спокойно выдерживают такие тривиальные сбои. Однако случай с АЭС Three Mile Island показывает, какой огромный ущерб небольшие сбои могут нанести при соответствующих условиях. Сложность и жесткая связанность систем создают опасные зоны, в которых небольшие ошибки приводят к катастрофам.

Понятие «катастрофа» не включает в себя только крупномасштабные техногенные аварии. Сложные и жестко связанные системы, а также сбои в них окружают нас повсюду, даже в самых неожиданных местах.

Зимой 2012 года{38} сеть кафе и ресторанов Starbucks запустила в социальных сетях рекламную кампанию, целью которой было создать праздничное настроение у любителей кофе. Компания попросила своих клиентов разместить праздничные сообщения в Twitter с хештегом #SpreadTheCheer[1]. Starbucks также проспонсировала открытие катка перед Музеем естественной истории в Лондоне, где установили гигантский экран, на котором появлялись все твиты с указанным хештегом.

Это был отличный маркетинговый ход. Подразумевалось, что клиенты компании будут создавать для нее бесплатный контент и наводнят интернет теплыми и веселыми сообщениями о приближающихся праздниках и их любимых напитках из ассортимента Starbucks. Эти сообщения должны были появляться не только на гаджетах в режиме онлайн, но и высвечиваться на большом экране, который могли видеть прохожие, посетители катка и находящегося возле него кафе, а также Музея естественной истории.

Неуместные сообщения должны были удаляться при помощи автоматической модерации, а праздничное настроение – и положительные ассоциации с теплыми напитками Starbucks – восторжествовать.

Был субботний вечер в середине декабря, на катке у музея все было хорошо. Но недолго. Неожиданно (в Starbucks об этом не знали) фильтр контента вышел из строя, и на гигантском экране начали появляться такие сообщения: