不確実性への対応を社会実装せよ

企画に当たって

新型コロナ禍やウクライナ侵攻をはじめ、驚くべき事件が立て続けに起こっていることで、人々は今が「不確実性の時代」であることを、いや応なしに認識するようになった。「不確実性」は便利な言葉でもあり、往々にして災害を予見できなかった言い訳にも使われる。だが、不確実性に向き合って、予見可能なものにどのように変えていくか、それこそが人類の知恵であり、今後、国家や組織の力の差として現れてくる。この点において日本の現状は心もとない。東日本大震災を経験したにも関わらず、今後起こり得る地震への対応は十分とはいえないし、新型コロナ禍が始まって数年たっても医療体制の再構築は実現できずにいる。いかにして不確実性に対応するか、5名の識者にお話を伺った。

危機を予見・対応するための数学的手法と、デジタルインフラの構築

不確実性を数学的手法によって捉えようとしているのが、東京大学特別教授/名誉教授の合原一幸氏だ。発病を予測する研究は従来、生理状態を表す特定の「マーカー」に着目していたが、合原氏の理論では、複数マーカー間の動的な関係性変化、つまり「揺らぎ」を定量的に検出する。漢方薬の分野では、発病していないが何らかの不調がある状態を「未病」というが、マウスを使ってこの未病を検出し、漢方薬の発病抑制効果も確認したという。こうしたユニークな理論をいかにして社会実装していくか。そのためには、現在の社会が物理的なリアルの空間とデジタルネットワークの両方によって構成されていることを、きちんと理解する必要がある。もはやデジタルネットワークは特定の端末間で情報交換を行うだけのものではない。われわれは各人が細胞のようなものであり、常にお互いがメッセージをやり取りしながら、全体として動的な社会ネットワークを構成している。国や組織と個人がリアルタイムに双方向コミュニケーションできるデジタルインフラを整備して、社会の「今」を正確に把握できるようにする。それが不確実性に立ち向かうための大前提ということになるだろう。

では、不確実な事象に対応できる組織のあり方とはどのようなものか。東北大学名誉教授で、テムス研究所代表取締役所長の北村正晴氏は、人間行動を単にマニュアル化するだけでは予想外の危機に対応できないと指摘する。日常の中に危機の兆候は潜んでおり、平常時のデータを解析することで、危機、兆候を予見する。このサイクルを繰り返して組織全体の学習能力を高めていくべきだという。そのためにはクラウドをはじめとしたデジタル技術の支援が不可欠だ。過去の危機事例について、原因や対策などをデータベース化して呼び出せるようにしておくといった施策は有効だろう。また、トラブルを可能な限り起こさない仕組みも必要だ。例えば、ある宅配企業では、1日当たり1億件のトランザクションが発生しているが、「24時間365日、オートマチック監視」を行い、1つの漏れも見逃さないようにしている。万が一トラブルが発生した際には、システムをすべて止めるのではなく、該当のデータを退避しておき、それ以外のデータは正常に処理させつつ、被害を最小化した上で問題点を分析し、早期に解決できる仕組みを構築した。

大阪大学教授の潮俊光氏は、平時からそれぞれの情報がどういう性質を持ち、どう使われ、どういう影響を及ぼし得るか、見極めるべきだと説く。ミッションクリティカルなデータは何で、どのような計算式で処理され、どこに格納されるのか、そうした一連の流れを可視化することは、より強じんなシステムを設計する上でも大きな意味を持つ。複数のシステム同士が切り離せないように「密結合」されていると、どれか1つにトラブルが起こっただけで全体が止まってしまうが、「疎結合」されたシステムであれば、1つが止まっても残りは動き続け、復旧も容易となる。

このような考え方から、近年は、機能ごとにまとめた「モジュール(マイクロサービス)」化でソフトウエアを組み立てる手法が徹底され始めている。AGEST取締役CTSOの高橋寿一氏は、信頼性の根幹となるモジュール開発では、担当チームの1人ひとりがものすごく優秀であることが要求される、と指摘する。能力が劣ればバグの混入率を高め、生産性の低下に直結するからだ。外資系IT企業は、日本とは比べものにならないくらい採用に時間を掛け、優秀な人材は好待遇で手放さない。

識者に問う

不確実な出来事に備えるための手法は何か。その手法をより効果的にするため、平時から行うべきことは何か。

われわれの研究分野は、現実の諸問題に対する解決策を、数学を用いて発見する「数理工学」と呼ばれる分野である。中でも「複雑系」の領域は、相互に作用する多数の構成要素や、その結果として創発する全体の動きの把握だけでは不十分で、ネットワーク構造による相互作用と、全体から要素への階層的なフィードバックに着目する必要がある。脳、感染症、エネルギー、情報、交通、経済といった、今世紀に残された多くの重要課題に対して、複雑系の理論を使って、問題のある出来事が起きる前の予兆を見つけようとしている。

医療なら、発病前の「未病」を検出し、発病前に治療することが戦略になる。健康状態から疾病状態に遷移する直前の段階で、通常の健康状態では見られない特有の予兆が見られる。生体信号であるバイオマーカーの「揺らぎ(動的な変化)」が生じている状態だ。その状態を未病と定義し、複数のマーカーの揺らぎの大きさとそれらの間の相関性の変化を定量的に検出する数学理論「動的ネットワークバイオマーカー理論(DNB理論)」を構築した。

これにより、以前から疾病の診断に広く用いられている静的なバイオマーカー、つまり平均値を見るだけでは困難だった「未病の検出」が可能となった。富山大学との共同研究では、メタボリックシンドロームマウスモデルで発病の数週間前に特定の遺伝子群のネットワークに揺らぎが増えることを発見し、さらに、このマウスモデルの餌に治療のための漢方薬を混ぜたところ、未病時の揺らぎが減ることによる発病抑制効果も確認できた。

ビッグデータの時代となり、センサーやIoT技術が進んで、数理解析に必要な大規模データが取得できるようになってきた。われわれが提案した解析手法は、初級のデータサイエンティストでも簡単に使えるシンプルなものだ。予兆を検出するための理論と解析手法はすでに確立している。発病前の未病の検出以外にも、電力システムの不安定化、交通渋滞、経済の大きな変動などの予兆についての研究も進めている。また、社会における新型コロナウイルスの流行の波の発生も状態遷移として捉えることができ、感染の波が来る前に予兆をつかめることを明らかにできた。さまざまな分野で大規模データを収集し、予兆の解析が進めば、「不確実性」は徐々に減っていくだろう。すなわち、「こと」が起きる前にその予兆を検出して、未然に対処するシステムの構築が期待される。

識者に問う

不確実な出来事に備えるための手法は何か。その手法をより効果的にするため、平時から行うべきことは何か。

東日本大震災では、原子力発電所が制御不能に陥った。原発を襲った津波の規模が想定を超えていたからとされるが、震災の前から、大津波の危険を指摘する声はあった。リーマンショック、米中関係の悪化、パンデミック。いずれも不確実性の時代の典型的事例といわれるが、私はこれらの事象も、予見可能であったと考えており、予兆や警告を見逃さず、生起し得る事態を「予見する能力」を高めることが重要だという立場を取る。

従来、安全は「受け入れられないリスクがないこと」と定義されてきた。「受け入れられないリスク」をなくす対策を取るとすれば、その事態を引き起こす事故や失敗の原因を除去することに注力する方式となる。しかし、現代社会が作り出した社会技術システムは複雑さを増し、このような伝統的な組織マネジメントでは対処しきれない。システムや環境は時々刻々と変化するということを踏まえず、誤りを修正したり、人間行動をマニュアル化する方向だけで安全を追求しても、不確実性の時代の安全対策としては不十分で、新しい安全概念が必要となる(注)。

組織が身に着けるべきは「起きた事態に打ち負かされない強じんさ」「被害を限定的に抑止する耐力」「速やかに以前の状態に復帰できる回復力」である。これらの特性は「レジリエンス」と呼ばれ、それを実現する方策をレジリエンス・エンジニアリングという。そこでは、対処する、監視する、予見する、学習する―という4つのポテンシャルの充実が鍵となる。

大事故は稀にしか起きないが、その兆候は、日常の営為の中に潜んでいる。平常時のシステムと環境の挙動を解析することで、予兆となるシグナルを把握できる。「変動」に対する「調整」は、日常的に行われている。平常時の良好事例から教訓を得ること、さらにその教訓を未来に外挿することが、大きな外乱に備える上で大切となる。もっとも将来の被害を未然に防止するにはコストが掛かる。完璧な対応は困難だとしても、効率性と完全性のトレードオフを勘案しながら、限られた時間やリソースの制限下で最善の対策を打てばよい。

(注)従来の安全概念はSafety-Iと呼ばれ、「うまくいかないことができるだけ少ないこと」と定義される。一方、強じんな耐性や回復力を含んだ安全概念はSafety-IIと呼ばれ、「うまくいくことができるだけ多いこと」と定義される。

識者に問う

不確実な出来事に備えるための手法は何か。その手法をより効果的にするため、平時から行うべきことは何か。

複数の機器をネットワーク化したときに生じる障害は社会的にも深刻だ。2021年にみずほ銀行で起きた一連の大規模なシステム障害の発端は、ある機器の故障・設定ミス等であると報告されている。古くは2003年のニューヨークを含む米国北西部・カナダの大停電の発端は、ある発電所で起きた障害といわれている。このように、ネットワーク化によって生じる大規模な障害の多くは局所的な障害に起因するバタフライエフェクトだ(注)。

ネットワーク・システムの障害で迅速な対応を取るためには、事前に、ネットワーク化したときに何が起こるかを、しっかり解析しておく必要がある。その上で、障害が発生したときには、原因の把握や復旧に向けた判断に必要となる情報だけが、的確にオペレーターに伝わるようにしておくことが大事だ。原因の特定に関係しないような多くの情報がオペレーターに届くと、判断の後れや誤りにつながり、被害が拡大しかねない。平時から、それぞれの情報がどういう性質を持っていて、どう使われ、どういう影響を及ぼし得るかという「情報の質」を見極め、情報を「階層化」して管理することが大切だ。例えば、危険な状況に陥る情報なのか、人命に関わる情報なのかどうかなどで、それぞれ扱いが異なる。

障害が起きてしまった後には、原因を検証し、そのときの情報などを1つずつ学習して、システムを改善していく地道な作業が重要になる。ただ、過去の事例に基づく対応は、AIに任せてよいが、今後頻発するであろう未知のサイバー攻撃やウイルスなどの想定外の事象は、必要な情報を基に人間が判断し、対応するしかない。あらかじめ、人間の判断に必要なデータは何かを整理して、それをAIに学習させておき、有事には、必要なデータをAIからオペレーターに送るようにしておくことが、効率化にもつながるだろう。

これまで日本では、ネットワーク化に資する技術の重要性があまり認識されてこなかった。日本は目に見える「モノ」の開発には強いが、目に見えないサービスであるソフトウエアを軽視してきたからだ。高度に発達した情報通信技術を駆使してモノをネットワーク化し、新しい機能を実現するシステム化の技術の底上げが求められる。このとき、設計されたネットワーク・システムを安全・安心にユーザーが使えるだけでなく、局所的な障害のバタフライエフェクトを最小限に抑えるレジリエンスに資する技術の向上を忘れてはならない。

(注)ほんの些細なきっかけが非常に大きな影響を引き起こす現象。カオス理論の予測困難性を表す標語として使われている。

識者に問う

不確実な出来事に備えるための手法は何か。その手法をより効果的にするため、平時から行うべきことは何か。

社会の多様なインフラを構成するシステムのソフトウエアは年々肥大化し、そのコードは通常でも100万行、システム系となると1000万行を超える。それを人間が書いているのだから間違えるのは当然だ。チェックしてすべてのバグを見つけるのは、もはや不可能に近い。「バグのない完璧な製品をつくる」という日本的な開発手法からの転換が必要だ。「バグは必ず起こる。敵対するのではなく仲良くする」という前提に立ち、問題が起きたときに「ダウンタイムをいかに短くするか」という発想に移行しなければならない。

重要なのは、守るべきシステムの価値は何かだ。一部が機能しなくなっても、システム全体はダウンさせず多少不便でもサービスを続ける。2021年〜22年に相次いだみずほ銀行のATM障害、auの通信障害を考えると、一部のATMが落ちても残りは動くようにする、緊急通話だけは他社につないででも残すべきだった。米ネットフリックスでは、実際に稼働中の一部のシステムにあえて障害を起こし、最低限のサービスを維持しながら落ちたシステムを自動復旧させる、いわば「ITの避難訓練」ともいえる取り組みを行っている。

システムが複雑になることに伴い、機能ごとにまとめた「モジュール(マイクロサービス)」化でソフトウエアを組み立てる手法が徹底され始めている。モジュール間の独立性を高め、システムの一部が落ちても影響が全体に及ばないようにできる。信頼性の根幹となるモジュール開発は、厳しい選抜の上で採用した能力の高いエンジニアが担当する。優秀な人材チームをモジュールごとに張り付けて、バグの原因となる「結合のパス」を最小限にしている。ソフトウエアエンジニアリングの世界では、優秀な人材とそうではない人材のアウトプットの差は最大26倍ともいわれる。能力が劣ればバグを増やしかねず、生産性が落ちる。外資系IT企業は、日本とは比べものにならないくらい採用に時間を掛け、優秀な人材は高い報酬で手放さない。

ソフトウエアで運営する領域が拡大する中で、不確実な状況に対する考え方、システムの品質保証に対するアプローチ、予算規模の判断など多くの点で、エンジニアが経営に関与する必要性が増している。日本のエンジニアは経営に関与しない傾向があり、経営陣もソフトウエア開発者の感覚や知識と乖離している。バグは起こるという認識が日本で欠けているのもそのためだ。「GAFAM」のように、経営にエンジニアの視点を入れるのが喫緊の課題だ。

識者に問う

不確実な出来事に備えるための手法は何か。その手法をより効果的にするため、平時から行うべきことは何か。

COVID-19のパンデミックは、2つの重要な事実を浮き彫りにした。第1に、事象の予測不可能性は、私たちの生活に及ぼす効果が甚大であること、第2に、政府の対応は、個人の自由を大きく制限する傾向があることである。

不確実性の時代には、迅速、かつ効率的に調整することが鍵であり、それを主導するのが、民主的に選ばれた政府であることは明らかだ。しかし、「危機対応チーム」のような中央の機関にすべての必要な知識が集まっているのか。少なくともハイエクの思想が普及してからは、私たちは疑問を持つようになった。実際、政府では分からない情報がある。それは「どこにウイルスがいるのか」だ。この状況は、「市中」で暮らす多くの人々が、症状の有無にかかわらず、自分の「感染状態」を確認するために検査を受けることで、状況の理解はより進む。分権型の検査こそが、政府の対応において重要な役割を果たすべきである。

検査は、ウイルスの所在を示すだけでなく、ウイルスの拡散の動態を評価するのにも役立つ。タレブの「反脆弱性」の概念に従って、私がバウネス博士らとの共同研究で主張しているのは、不確実性の下にあるとき、市民、そして政府や担当チームが知りたいのは、「害(例えばウイルスの拡散)が加速するのか減速するのか」ということだ。それを知るために、私たちはシンプルな「加速度指数」を開発した。これは、検査数に比例する以上に多くの患者が発見されれば、それだけ害は発散的に拡大しており、他方、発見される患者が少ないほど縮減しているという考え方だ。あらゆる公衆衛生対策は検査戦略が必須であり、陽性の患者数の縮小を目指すべきである。そうして初めて、「状況は改善しているか、ロックダウンは本当に効果的か、外出禁止令はウイルスのまん延を食い止めるのに十分なのか、そして大規模な予防接種は有効か」等を問うことができる。個々の政策が被害の軽減に役立っているかを確認し、どの政策がより優れているかを比較する必要がある。

自由主義社会がまず認めるべきは、不確実性の下では、知識は政府関係者や専門家だけではなく、多くのプレーヤーに分散している可能性だ。原則として、見境のない技術家的なトップダウンの意思決定よりも、検査のように、健康政策に情報を与える分権的なメカニズムが支持されるべきなのだ。その意味で、各指標は検査と関連させる患者数に適応しなければならない。「加速度指標」はリアルタイムでそれを行うための簡便な方法である。

(参考)
Hayek, F. (1945) "The Use of Knowledge in Society", The American Economic Review, 35(4), pp. 519–530.
Taleb, N. (2012) Antifragile: Things that Gain from Disorder. Random House.

*原文は英語版に掲載

引用を行う際には、以下を参考に出典の明記をお願いいたします。
(出典)>NIRA総合研究開発機構(2022)「不確実性への対応を社会実装せよ」わたしの構想No.62

データで見る

• レジリエンスと反脆弱性を目指す学際的な動向

  出所)Ramezani,J., & Camarinha-Matos, L.M.(2020)"Approaches for resilience and antifragility in collaborative business ecosystems". Technological Forecasting and Social Change, 151, 119846. Fig. 4. Contributing knowledge areas. より、一部項目のみ抜粋して掲載。全体は出所を参照のこと。

  △しろさんかく

レジリエンスと反脆弱性を目指す学際的な動向

出所)Ramezani,J., & Camarinha-Matos, L.M.(2020)"Approaches for resilience and antifragility in collaborative business ecosystems". Technological Forecasting and Social Change, 151, 119846. Fig. 4. Contributing knowledge areas. より、一部項目のみ抜粋して掲載。全体は出所を参照のこと。

• 現実の複雑系応用課題を制御・最適化・予測するための数理モデリング

  出所)合原一幸東京大学特別教授/名誉教授ご提供資料をもとにNIRA作成。

  △しろさんかく

現実の複雑系応用課題を制御・最適化・予測するための数理モデリング

出所)合原一幸東京大学特別教授/名誉教授ご提供資料をもとにNIRA作成。

• 安全概念の拡張―Safety-IからSafety-IIへ

  注)Safety-I、Safety-IIの定義は本文p.13(注)を参照のこと。
  出所)北村正晴東北大学名誉教授ご提供資料をもとにNIRA作成。

  △しろさんかく

安全概念の拡張―Safety-IからSafety-IIへ

注)Safety-I、Safety-IIの定義は本文p.13(注)を参照のこと。
出所)北村正晴東北大学名誉教授ご提供資料をもとにNIRA作成。

• カオスエンジニアリングの原則

  出所)Rosenthal, C., & Jones, N.(2020)Chaos Engineering: System Resiliency in Practice. O’Reilly Media.(堀明子・松浦隼人訳(2022)『カオスエンジニアリング―回復力のあるシステムの実践―』オライリージャパン)、「カオスエンジニアリングの原則」(2022年10月18日取得)をもとにNIRA作成。

  △しろさんかく

カオスエンジニアリングの原則

出所)Rosenthal, C., & Jones, N.(2020)Chaos Engineering: System Resiliency in Practice. O’Reilly Media.(堀明子・松浦隼人訳(2022)『カオスエンジニアリング―回復力のあるシステムの実践―』オライリージャパン)、「カオスエンジニアリングの原則」(2022年10月18日取得)をもとにNIRA作成。