今世紀に見られた急速な技術革新は、技術と人間の関係をあらゆる局面において変革するものであった。しかも、こうした変化は、単に高度な機能を有する道具が用いられるようになったという表面的な事実にとどまらず、人間がその中で労働を行う組織体の基本的な構造において、特に顕著に観察されるのである。

　いささかステレオ・タイプ化された言い回しを許して頂くならば、古典的なマン・マシン・システムとは、１個の人間が、それぞれ独立して作動するいくつかの道具や機械を取り扱う状況を想定している。例えば、農作業を行うに当たって、労働者がトラクターやコンバイン−−あるいは鋤や鍬でもかまわないが−−を操る場合がこれに当たる。ところが、現代的な意味でのマン・マシン・システムは、もはや人間と機械の１対１の関係ではすまない。はるかに複雑なネット・ワーク化されたシステムを考慮しなければならなくなっている。このことは、大手メーカーの自動車工場を覗いてみると一目瞭然だろう。現代の自動車工場の多くは、フォード・システムと呼ばれる流れ作業の工程を採用しており、ベルト・コンベアに載せられた型枠などが移動するにつれて、次々に部品が取り付けられていくシステムになっている。このとき、個々の機械や作業員が行っている仕事は、全体の工程の一部としてのみ意味を持っており、それだけ切り離してみても、古典的な労働における完結性を備えているとは言い難い。もちろん、19世紀的な町工場でも、簡単な分業は行われていた。しかし、その場合、一人ひとりの担当している作業は、少なくとも「ガラス吹き」や「旋盤作業」のように命名可能な程度のまとまりを持っていた。これに対して、現代のネット・ワーク的なシステムの内部では、個々の作業を名指しするのが困難なほど相互の依存関係が緊密になっている。人間と機械が構成するこうした複雑なシステムは、メーカーの製作工程だけでなく、現代社会のさまざまな分野に共通する本質的な特色であろう。実際、オフィスで情報処理を行う際にも、端末機とメイン・コンピューターなどが構成する情報機器と、これにアクセスする多数のオペレーターが複雑なシステムを作り上げているし、ＡＴＳによって制御される鉄道交通がスムーズに運行されているのも、車両や信号機などの機械系統と運転手や駅員を含む人間系統の密接な協同作業のおかげなのである。

　このように機械と人間のシステムが複雑なネット・ワークを構成している現代社会においては、安全性の問題についても、それ相応の対策が必要になる。古典的なシステムの場合、安全性の鍵を握っていたのは個々の部品の信頼性であった。歯車の歯が欠けたり牽引用のロープが切断すると、危険が発生することは言うまでもない。こうした部品の信頼性に関する限り、現代の技術は従来に較べてきわめて高い水準に達しており、各部分に生じがちな危険性の芽を摘み取っている。しかし、システム全体に目を転じると、部品ごとの信頼性の向上では防ぎきれない新たな危険が生まれつつあることが察知される。

　複雑なシステムが孕む危険性をわれわれに思い知らせてくれたのが、スリーマイル島の原子力発電所で発生した炉心の一部溶融事故である。この事故の最大の教訓は、「原子炉の空炊き」というきわめて単純な経過をとったにもかかわらず、オペレーターが状況を把握できないまま、冷却水の供給などの適切な措置を施せずに事態を悪化させた点にある。さまざまな警報装置が備えられていながら、なぜ「空炊き」という状況を知り得なかったのか、一言で片づけてしまうと、システムが複雑すぎて、その全体像をオペレーターが把握できなかったためである。鍋の空炊きならば、蓋を取ってみれば直ちにそれと知ることができる。しかし、原子炉のような複雑なシステムになると、簡単に中を覗くことができないこともあって、膨大な数の計器を睨んだり分厚いマニュアルのページを繰ったりしながら、想定されているあらゆる可能性に考えを巡らさなければならない。これでは、機敏な対応が迫れれる緊急事態に対処できなくなる。

　しばしば現代の技術は事故の巨大化を招いたと指摘されるが、これは必ずしも正しくない。1985年の日航ジャンボ機墜落の際には、実に 520人もの乗客乗員が命を落とし、大型航空機事故がもたらす災禍の大きさを印象づけた。しかし、大勢の人が死んだというだけなら、1500人の犠牲者を生んだ1912年のタイタニック号沈没の方がスケールが大きい。日航ジャンボ機とタイタニック号の事故の間に見られる相違として指摘されるべきなのは、むしろ、後者では主として金持ちが命を失ったのに対して、前者で犠牲になったのが、出張中のサラリーマンや家族旅行を楽しんでいた一家などのようなごく普通の市民だったという事実だろう。このように、現代社会における人間と機械のシステムは、単なる巨大さによって特徴づけられるのではなく、一般の人々の生活の中に深く浸透し、ひとたびシステムが崩壊すると多くの市民を巻き添えにする点に、その「現代性」をあらわにするものである。

　現代的なシステムがどのような危険性を孕んでいるかを考察するきっかけとして、機械の故障にどのようなタイプがあるかを見ていきたい。

　よく知られているように、出荷した製品の故障率の経時変化をもとに、故障のタイプを３つに分類することができる（グラフ参照）。

　　　　初期故障 ： 製品の出荷段階で既に含まれている欠陥に起因する故障で、一般に起動した直後に発生し、時間が経つにつれて発生率は急速に減少する。

　　　　偶発故障 ： 使用中に偶発的に起きた何らかの事故−−誤って衝撃を加えたり水を掛けてしまった、あるいは、電磁ノイズなどによって誤作動したなど−−がもとになって発生する故障。原因となる事故はランダムに起こり得るので、発生率は時間に依存しない。

　　　疲労故障 ： 長時間使用している間に部品が老朽化したために発生する故障。応力が加わる部分に金属疲労がたまって破断したり、ほこりが付着した箇所が加熱して回路が断線したりするケースがあり、当然のことながら、使用期間が長いほど発生頻度は高くなる。

　以前は、部品の信頼性が現在に較べて低く、いずれのタイプの故障もかなりの高頻度で見られたが、故障に対する利用者側の心構えも現在以上にしっかりしており、疲労故障を中心とするいくつかの故障に関しては、それなりの対策が講じられていた。このことは、家電製品を例にとるとわかりやすいだろう。例えば、（必ずしも古典的な製品とは言えないが）20年以上前のＴＶ受像機は、真空管が切れて画像が映らなくなる故障を頻繁に起こしていた。しかし、その場合でも、近所の電気屋に修繕を依頼すると、修理工がテスタを使って切れている真空管を探り当て、簡単にこれを交換してくれたものである。多くの利用者が実感していることと思うが、部品の保守・点検や修理・交換という点に関しては、概して、旧式の製品の方が容易である。これに対して、エレクトロニクス部品を多用したモダンな家電製品は、偶発故障や疲労故障を起こしにくいが、ひとたび故障した場合は、往々にして「修理は不可能だ」とか「新製品を買った方が安上がりだ」と言い渡され、製品全体を買い替えなければならない。こうした対応は、必ずしも消費を煽るためのメーカーの戦略ではなく、ＩＣチップがボード上に配線されている回路部分や、プラスチック成形した枠組みが破損すると、現実問題として修理しようがないという事情に由来しているのである。一般に、緊密に構成された複雑なシステムほど、保守や修理の面で困難が増大することが知られており、現代技術の負の部分となっている。

　タイプ別の故障という点に関して、現代的なシステムに見られる著しい特徴として指摘しなければならないのは、「初期故障の潜在化」である。

　古典的なシステムにおいては、初期故障は製品を初めて作動させた時点で表面化することが多い。例えば、戦前のラジオは、買い立てなのにスイッチを入れてもスピーカーからは雑音しか流れてこないというケースがままあり、この種の製品を掴まされることを「当たりが悪い」と評したという。このように出荷段階で正常に動作しない製品は、購入した時点で迷惑をかけるものの、直ちに返品できれば後々に尾を引くような支障は生じない。最近では、メーカー側もこうした顕在的な初期故障への対応策を考慮しており、購入してから１年程度を保証期間として、無料修理や交換に応じている。もちろん、出荷前の検査や試運転の段階で初期故障を発見して取り除くのが理想だが、作業の膨大さを考えると現実にはほとんど不可能である。たとえ出荷後に故障が表面化したとしても、むしろ、早期に欠陥が発見できたことで良しとすべきなのだろう。こうした事情は、個々の製品にとどまらず、より巨大なシステムについても当てはまる。一般に、大きなシステムが動き出した場合、初めのうちは何かと故障が多発するものである。新聞やテレビでは、（青函トンネル開通直後に安全装置の誤作動で列車がトンネル内で立ち往生する事故が何度か起きたときなど）「運転開始早々に故障するとは何事だ」といった論調の批判がなされることが多いが、これは正鵠を射た見解ではない。システムが稼働を始めてしばらくの間は、初期故障を出し尽くす期間だと心得ていた方が無難だろう。

　ところが、こんにち見られるような複雑なシステムになると、初期故障が表面に現れないで潜在化してしまうケースが生じてくる。実際、部品数がきわめて多数のシステムの場合は、危険性の有無を調べるためのチェック項目があまりに多数になるため、設計から検査に到るどの段階においても、欠陥を完全には洗い出せないまま終わってしまいがちである。例えば、数年前にある大手メーカー製のＴＶ受像機が相次いで発火するという事故が起きたが、その原因は、複雑に配線されたＩＣボード上での熱の発生と流れが設計段階で充分にシミュレートできなかったため、予想に反してボードが加熱したことにあった。一方、ユーザーの側でも、可能な動作手順がきわめて膨大なシステムともなると、通常の使用範囲内では欠陥が表に現れないため、危険に気がつかないまま使い続けている可能性がある。こうしたケースでは、何かの拍子にとんでもない危険が飛び出すおそれがある。現に、放射線治療機を制御するコンピューターのプログラムに、特定のスイッチ操作をしたときに限って許容量を大幅に上回る強烈な放射線を発生させるようなバグが潜んでいたため、治療中の患者が死亡するという事故が起きている（第Ｉ部§１参照）。このように、システムの欠陥として初期故障が潜伏している場合、危険が発生する頻度それ自体は小さいものの、ひとたび欠陥が顕在化すると、予想を越えた被害を生むことになりかねない。

　古典的なシステムでは、安全性を獲得するためには、個々の部品の信頼性を高めることが重要であった。しかし、システムがきわめて複雑なものになると、こうした発想では充分に対処できなくなる。実際、個々の部品がシックス・ナイン（ 99.9999％）の信頼性を持っていたとしても、部品の個数が数百万個に及ぶ巨大なシステムでは、総合的な信頼性はかなり低いものになってしまう。しかも、システムの機能が複雑になるにつれて、どのような形で故障が発生するかをあらかじめ予期することが困難になってくる。こうした状況の下では、システムに対して 100％の安全性を要求することは、非現実的な目標と言わなければならない。

　ここで必要となるのが、安全性に関するパラダイムの転換である。すなわち、絶対に故障しないシステムが現実問題として不可能である以上、故障しても安全性を保てるシステムを目指さなければならない。それも、起こり得る故障を枚挙しながら虱潰しに対策を練るというものではなく、いかなる故障に対しても最終的な安全性が保証されるフェイル・セーフ機構が望まれるのである。具体的には、システムに冗長性を与えておき、一部が故障しても他の部分で機能を代行できるようにすることが考えられる。また、製品が老朽化して最終的に使用不能になるにしても、突然火を吹くといった破壊的な故障を起こすのではなく、徐々に周辺機能が低下して「安楽死」するように設計しておくことが望ましい。もちろん、現行のさまざまなシステムにこの種の機構を装備させることは、コストなどの面で多くの困難が伴っている。しかし、少なくとも、設計段階での基本的なコンセプトとして、「フェイル・セーフ」の考えを重視する態度は、今後の技術のあるべき姿と言えよう。

©Nobuo YOSHIDA