防災意識を育てるWEBマガジン「思則有備(しそくゆうび)」

防災意識を育てるWEBマガジン

【リスクの本棚(連載第17回)】
“複雑なシステムのせいなのは明らかなのに、多くの人が投獄されている”
『 巨大システム失敗の本質 ~「組織の壊滅的失敗」を防ぐたった一つの方法~ 』(2018年) | 著者:秋山進

time 2021/12/28

【リスクの本棚(連載第17回)】<br />“複雑なシステムのせいなのは明らかなのに、多くの人が投獄されている” <br /> 『 巨大システム失敗の本質  ~「組織の壊滅的失敗」を防ぐたった一つの方法~ 』(2018年)    |  著者:秋山進

送電網や浄水場、通信、交通システム、医療制度など私たちが暮らす社会は無数の複雑なシステムで成り立っています。311震災に伴う福島原発事故や、世界金融危機のような大規模メルトダウン(組織の壊滅的失敗)も、複雑高度な巨大な社会システムが係る大事故と言えます。複雑なシステムのなかでは些細なエラーは珍しくはありませんが、やがてそれらの歪みが大きな事態に悪化することも考えられ、もし制御不能となった場合は大事故に発展するかもしれません。秋山進氏のシリーズ連載「リスクの本棚」では、若いビジネスライターによるその年の最高のビジネスブックに与えられる「ブラッケンバウアー賞(2018年)」受賞作で、米国の危機管理コンサルタントらの共著「巨大システム 失敗の本質」を取り上げていただきました。


連載・リスクの本棚~リスクに関わる名著とともに考える~vol.17

“複雑なシステムのせいなのは明らかなのに、多くの人が投獄されている”

『 巨大システム失敗の本質 ~「組織の壊滅的失敗」を防ぐたった一つの方法~ 』(2018年)
クリス・クリアフィールド著/アンドラーシュ・ティルシック著/櫻井祐子訳

著者:秋山進(プリンシプル・コンサルティング・グループ代表)

 

日本で、世界で、いろんな会社や機関の大きな失敗が毎日報道される。その際には、トリガーになった行為および、監督責任ということでトップに焦点があたる。それを報じることで新聞記事やニュース番組は成立するのだが、それは問題の本質だろうか。実はそうではなく、本質は「システムの複雑性と密結合」にあるというのが本書の主張である。そして問題は起こるべくして起こったのであり “ノーマルアクシデント”(当たり前で避けがたい事象)という認識をすべきというのである。

本書では、エール大学教授であり災害研究の大家であるチャールズ・ペローの考察にもとづき、制御が効かない大問題は、「複雑性」と「密結合」の両方を兼ね備えたデンジャーゾーンで起こるという。

デンジャーゾーン

 

複雑性から説明をしよう。

システムには線形系と複雑系がある。線形系の典型例は、自動車工場の組み立てラインである。そこでは予測可能な順序でものごとが進行する。構成要素は目に見え、予測可能な方法で諸要素が相互作用する。


巨大システム 失敗の本質
(東洋経済新報社)

一方、複雑系のシステムでは、その構成要素は、隠れた予期できぬ方法で相互作用する。複雑系は入り組んだ網のようなものだ。構成要素の多くが分かちがたく結びつき、相互に影響が及ぶ。一見無関係な要素どうしが間接的につながり、サブシステムがシステムの多くの構成要素と結びついている。したがって、何か不具合が発生すると、あちこちに問題が飛び火し、何がおこっているのかを判断するのが難しい。さらに困ったことに、複雑系内で起こっている多くのことは、肉眼では見えない。この典型例は原子力発電所である。

もう一つのポイント、密結合については以下のようになる。

システムにおける要素の結合のあり方には、疎結合と密結合がある。
疎結合は、連鎖反応的ではなく、同期をとることもなく、別々に存在しておりながら、一部で緩やかに結合しているといった状況である。別のラインで作って最後にアセンブリ作業で組み合わせるような製造工程は疎結合といえる。それぞれの要素の連鎖が一定レベル遮断されているので、何かが起こっても影響範囲が限定できる。

一方、密結合は、同期をとっており、ものの進行にあわせて反応的に対応するシステムである。特定の工程の納期遅れや品質問題が別の工程にも影響する。密結合下にあっては、諸要素は独立していない。こちらの典型例はまたもや原子力発電所である。

そして、現在、制御不能の大問題のほとんどは、実は、この複雑系×密結合のデンジャーゾーンの中に存在するものなのである。問題が発生した際、すぐには何の問題か判明せず、原因が不明なまま、連鎖反応を止められない。そして、気がつけば巨大な事故となる。

 

● 人間が制御できる複雑性と密結合には限界がある

本書においては、このデンジャーゾーンにおける失敗例として以下の事象が説明される。

(どんな原子力発電所よりも複雑性の高い)金融システムにおいては、ある証券仲介業者のIT担当者が、取引ソフトウェアの更新を8台のサーバのうち1台だけ忘れてしまった、たったそれだけのミスのせいで、市場が大混乱になり、会社に5億ドルの損害を与えるような事故が起きてしまった。

イギリスの半官半民の郵便窓口会社では、数百点に及ぶ商品を管理し準郵便局長の経理の負担を減らすために造られたITシステム「ホライズン」に問題があった。機能があまりにも多岐にわたり、ほかのシステムとの連携に問題があったため、現金や切手の不足を誤って報告し、ATMの誤作動を起こした。にもかかわらず、郵便窓口会社はシステムの正確さを信じて疑わず、多くの準郵便局長を窃盗、詐欺、不正経理として疑い、不正額の返還を要求して、刑事告訴した。その結果、実際に何も悪くない準郵便局長が破産や投獄に追い込まれたのである。ホライズンは複雑で密結合なシステムであった。

アメリカの大手小売業者ターゲットのカナダ進出は、大々的なものであった。ある小売チェーンを買収し、100か所以上の小売スペースを確保し、わずか9か月でカナダ10州すべてに合計124店舗を開店したのである。しかしながら、その出店計画は無謀であった。サプライチェーンは大混乱し、フランス語への対応、メートル法への対応などでミスが続出した。この複雑性の高い密結合のシステムは完全に崩壊し、ターゲットは進出から2年後には全店舗を閉鎖し、撤退した。この失敗は、出店スケジュールを決めた段階で確定していたのである。

人間が制御できる複雑性×密結合には、限界があるのだ。さて、現在、この限界を超えてシステムを複雑化し、かつ密にしようとしているものがある。それがIoTである。著者によると「IoTは悪魔に魂を売り渡すようなものだ」ということになる。

あらゆる機器が繋がり、複雑性がアップしさらに密結合すると、一部のクラッシュが全体に大きく影響する。悪意をもった人間がシステムの一部を破壊すると、システムがどう反応するか、誰にも想像がつかなくなってしまう。さらに悪意を持たずとも、故障もすれば意図せぬ反応をする機器も必ず発生する。その影響は大きく、予測も制御もできない。われわれが今向かおうとしている方向は、平時にはとても便利だが、非常時には制御不能になる悪魔の支配する世界になるかもしれないことを自覚しておく必要がある。

 

● 後知恵をもとにした死亡前死因分析の想像力

これらの状況に対し、どう対処していけばよいのだろうか。基本的な考え方としては、複雑性をおさえ、密にしすぎないことである。

それを前提に、本書では

    ・透明性のあるデザイン
    ・警報システムの多層化
    ・信頼区間の作り方(SPIES *1
    ・判断基準の作り方
    ・死亡前死因分析
    ・多様性のある意思決定集団、異人をいれる重要性
    ・異議申し立ての方法のプロトコル化(飛行機操縦時のCRM *2
    ・ルールにもとづいて確実に対応した人を褒めることの重要性

などの方法が語られている。

このなかで面白いのは、死亡前死因分析である。えらくたいそうな名前なのだが、これは、リスクを評価する際に、時間軸を変えて聞くだけで、その精度が大幅に向上するというものだ。

あるビジネススクールでリスクについて2つの違った聞き方をしたことがあるという。

1 少し時間をとって、今後2年間に当校の存続や成功にとって最大の脅威になるかもしれない要因や動向、できごとを考えてください。頭に浮かんだことをすべて書き出してください。

 

2 今は2年後だと想像してください。当校は大苦戦をしていて、最近の卒業生であるあなたは悪いニュースをしょっちゅう見聞きしています。実際、大学はビジネスプログラムの閉鎖さえ検討しているほどです。では少し時間をとって、この結果をもたらした要因、動向、できごとを想像してください。頭に浮かんだことをすべて書き出してください。

 

その結果は、おどろくべき差となって現れた。2番目のほうが、圧倒的に想像性があり、多様性に満ちた答えを導き出すことができたのである。これは、心理学者が「先見の後知恵」と呼ぶ考え方、つまりあるできごとがすでに起こったと想像することで、結果を想像しなかった場合に比べて、より多くの理由を思いつき、しかもそれらはより具体的でより正確になるという法則に基づいている。具体的な使用法としては、たとえば、上記のターゲット社であれば、カナダに進出する前に、「カナダ進出が失敗に終わったとする。では、なぜ失敗したのだろうか」と問うことで、飛躍的にリスク想定力を向上させることができる。

 

● 行き過ぎた接続を再考すべき

著者が提唱するこれらの方法によって、リスクの発現をいくぶん制御でき、破滅的な事象が発生する確率を少しは下げることはできるだろう。しかしながら、著者が述べる対応策は、いずれも複雑性×密結合の構造そのものに手を加えるものではないため、残念ながら特効薬にはなりえない。

われわれはすでに、日々、疑似経験をしている。通勤で使う首都圏の鉄道交通網は、あらゆる鉄道の路線が互いに連結しており、車両の共有までも行われているだめ、デンジャーゾーンのシステムといえるだろう。実際に、私鉄の小さな駅での踏切の不具合のせいで、首都圏の通勤通学者数百万人が遅刻をしてしまう。しかしながら、これからのIoTやコネクティッドカーによるつながる世界の複雑性と密結合は、鉄道交通網など比較の対象にならないほどの複雑性と密結合のものになる。かつ、そこで何らかのミスや問題、故障が発生しないことも絶対にない。金融システム、交通システム、エネルギーシステム、これらのものが接続し同期をとり、さらには世界中に広がる時代になれば、誰かの踏切でのつまづきが引き金になって、世界が破滅に向かうかもしれない。われわれは行き過ぎた接続の危険性をもっと深く認識し、あえてつながない、そして切断する勇気をもたなければならないのである。

*1 SPIES = 主観的確率区間推定法(Subjective Probability Interval Estimates):起こり得る複数の結果の確率を予測する手法
*2 CRM = Crew Resource Managementの略 : 安全な運航の為に利用可能な全てのリソースを有効活用するという考え方

 


著者:秋山 進(あきやま・すすむ)


1963年、奈良県生まれ。京都大学経済学部卒。リクルート入社後、事業企画に携わる。独立後、経営・組織コンサルタントとして、各種業界のトップ企業など様々な団体のCEO補佐、事業構造改革、経営理念の策定などの業務に従事。現在は、経営リスク診断をベースに、組織設計、事業継続計画、コンプライアンス、サーベイ開発、エグゼクティブコーチング、人材育成などを提供するプリンシプル・コンサルティング・グループの代表を務める。国際大学GLOCOM客員研究員。麹町アカデミア学頭。

主な著書に『「一体感」が会社を潰す』(PHP研究所)、『それでも不祥事は起こる』『転職後、最初の1年にやるべきこと』(日本能率協会マネジメントセンター)、『社長!それは「法律」問題です』(日本経済新聞出版)などがある。

【関連リンク】
・プリンシプル・コンサルティング・グループ:https://www.principlegr.com/
・麹町アカデミア:http://k-academia.co.jp/

秋山進の連載・リスクの本棚バックナンバー

みんなの防災対策を教えてアンケート募集中 非常食・防災グッズ 防災のセレクトショップ SEI SHOP セイショップ
メルマガ登録バナー
E-mail
お名前
※メールアドレスと名前を入力し読者登録ボタンで購読

アーカイブ