巨大システムの危機

　現代は、科学技術を駆使した巨大システムが人類のさまざまな活動を支えている時代である。こうした巨大システムには、化学コンビナートや原子力発電所のように大スケールの装置群が威容を誇るものから、コンピュータ・ネットワークのように実体が人の目から隠されているものまで、さまざまなタイプが存在するが、１つの共通項がある。すなわち、機械と人間が複雑に絡み合った多数のサブシステムから構成されているため、ひとたび定常状態から逸脱すると、しばしば予想しがたいカオス的な振舞いを示す点である。こうした特性は、ときにシステムの機能を麻痺させ、巨大事故を引き起こす。この講義では、システムが崩壊した実例をもとに、巨大システムに内在する危険性と、これを克服して安全を保つ方策について考察する。
内容は次の通り：

第１章．システムはなぜ脆いか

巨大システムにおける事故予想の限界について、カオス理論の観点から論じる。

第２章．ＴＭＩ原発事故

1979年に発生し、アメリカ原子力政策を転換させるきっかけとなったＴＭＩ（スリーマイル島）原発事故は、イベントツリー解析をもとに事故の発生確率を評価したラスムッセン報告書では確率的にあり得ないとされたタイプの事故だった。冷却水喪失による炉心破損事故がなぜ起きたか、バックアップ装置がなぜ十分に機能しなかったかを、実際のイベント連鎖の分析を通じて解明する。
§１．原発の構造と事故の概要
§２．事故の経過(1)（２次系のインシデントから加圧器逃がし弁の開固着まで）
§３．事故の経過(2)（加圧器のトラブルから炉心破損まで）
§４．事故の真の原因（人為的ミスか、システムの欠陥か）

第３章．人間因子の問題

巨大事故のイベント連鎖を調べると、実に頻繁に、人間の不適切な行動が、事故の発端となったり、規模の拡大をもたらしている。しかし、こうしたヒューマン・エラーは、必ずしも事故の「原因」ではなく、人間を含む巨大システム特有の不安定性の一つの現れと見なすべきものであり、ミスを犯した個人の責任を追及するだけで済ましてはならない。例えば、チェルノブイリ原発の場合、低出力時に正のフィードバックが生じて暴走しやすくなる、あるいは、引き抜いた制御棒を再挿入する際に反応度が一時的に上昇する　　といった欠陥が存在しており、これを、さまざまな運転規則で乗り切ろうという発想に基づいて設計されていた。こうした「欠陥炉」を充分な知識のないオペレータが操作して事故が発生したとき、責任はどこに求めるべきなのか。巨大システムに関わる人間の役割を、あらためて問い直してみたい。
§１．チェルノブイリ原発事故(1)（原子炉の欠陥と対応策）
§２．チェルノブイリ原発事故(2)（事故経過および責任の所在）
§３．チャレンジャー号爆発事故（米ソ２大事故の類似性）
§４．ボパール農薬工場毒ガス漏出事故（第３世界における巨大事故）

第４章．コンピュータ・クライシス

こんにち日本は、コンピュータを中核とするネットワーク社会へ着々と変貌を遂げつつあり、一般家庭にもパソコンが急速に普及してきた。しかし、その一方で、コンピュータがさまざまな原因で誤作動したりダウンしたために生じたトラブルや損害も、あとを絶たない。それどころか、優秀なソフトエンジニアが絶対的に不足している中で急激にコンピュータ化を進めた結果、情報処理システム全体がきわめて不安定な状況に置かれており、今後、大きな問題に発展することが懸念されている。脆弱なコンピュータに依存する現代社会の危機を、いくつかの観点から考察する。
§１．ソフトウェアに潜む虫（2000年問題をはじめとするソフトウェア・トラブル）
§２．反抗するコンピュータ（エアバス機はなぜ墜落したか）
§３．ネットワーク社会の脆弱性（インターネット・ワームが示す教訓）

第５章．日本におけるシステム危機

かつて、日本の技術的システムは安全性の高さを誇っていた。しかし、ここ数年、その信頼が急速に揺らぎつつある。この章では、具体例を元に、日本的危機管理システムのどこに問題があるかを考察する。
§１．原子力関連トラブル（東海村臨界事故ほか）
§２．コンピュータシステム障害（みずほ銀行トラブルほか）
§３．日本的危機管理の欠陥