原子力発電の理論的効率は疑いようがない。人工知能の判断精度は、多くの場面で人間を凌駕しつつある。自動運転技術は、統計的には交通事故の削減に寄与するだろう。それでも、これらの技術は社会の中で躓き続けている。事故は繰り返され、信頼は損なわれ、炎上は収まらず、時に技術そのものが拒絶される。
この矛盾の根源はどこにあるのか。技術が単独で存在しえないという根本的事実にある。技術は必ず、人間の判断、組織の論理、社会制度、情報の流れといった複雑な要素と絡み合いながら機能する。いや、機能不全に陥る。本稿では、技術を孤立した装置としてではなく、社会という巨大なシステムの一部として捉え直すことで、その成否を決定する真の要因を考察する。
技術を取り巻く関係性の網
技術システムは、技術的要素のみで構成されているわけではない。そこには装置やアルゴリズム、科学知といった技術的核心に加えて、利用者、設計者、運用者という人間の層が存在する。さらに企業、行政、専門家集団といった組織が介在し、法律、規制、慣行、倫理というルールの枠組みが作用する。そして報道やSNS、評価システムを通じた情報の流れが、これら全体を包み込んでいる。
これらの要素は決して静的な配置にとどまらない。技術は人間の行動様式を変容させ、その変容した行動が既存の制度を揺さぶる。事故が発生すれば信頼は瓦解し、世論の反発が規制強化を促す。こうした相互作用の連鎖の中で、技術の社会的受容や拒絶が決まり、規制が強化されたり緩和されたり、イノベーションが加速したり停滞したりする。技術の成功と失敗を分けるのは、性能の高低ではなく、この複雑な関係性の中でどのような位置を占めるかという問題なのである。
規制という制御装置
規制はしばしば、自由を奪い、技術革新を妨げる障壁として語られる。しかしシステム論的視座に立てば、規制は単なる制約ではなく、技術を社会に統合するための制御装置として機能している。
自動車の歴史がこれを雄弁に物語る。発明当初、自動車は事故を多発させた。信号機も制限速度も免許制度も存在しなかった時代、この新技術は社会にとって制御不能な脅威だった。交通ルールの整備によって初めて、自動車は日常生活に組み込まれることができた。規制がなければ、自動車という技術そのものが社会から排除されていた可能性は高い。
規制の本質は、技術の能力と人間の限界、そして社会が許容しうるリスクの水準を調停することにある。それは技術を縛るのではなく、技術が社会の中で持続可能な形で機能するための条件を整えるのだ。
倫理という調整プロセス
技術倫理もまた、善悪の二項対立で語られがちである。しかし現実の倫理的問題は、明確な正解が存在しない状況で異なる価値観が衝突する場面に立ち現れる。
人工知能による医療診断を例に取ろう。たとえAIの診断精度が医師を上回っていたとしても、判断の責任は誰が負うのか。説明不可能なブラックボックスの判断を医療現場で受け入れるべきか。患者はその診断に納得できるのか。これらの問いには技術的な回答はない。
倫理とは、正しい答えを見出すプロセスではなく、社会が納得しうる運用ルールを探索する継続的な調整である。技術の導入は必然的にこの調整プロセスを要請する。
事故の潜伏期
多くの事故調査報告書は、人為的ミスを原因として指摘する。だがシステム科学の観点からすれば、事故とは通常運転の延長線上で発生する破綻として理解される。正常に機能する装置、規定通りの手順、習熟した作業、些細に見える判断の積み重ね――これらが複雑に絡み合い、誰も止めることのできない流れを形成する。
重大事故には共通する構造がある。小規模な異常は日常的に発生していた。「今回は問題ない」という判断が繰り返された。警告は出されていたが無視された。そして最終的に破局が訪れる。事故は突然の出来事ではない。長い時間をかけてゆっくりと準備されていたのである。
この認識は、事故予防における視点の転換を迫る。個人の責任を問うことではなく、事故を孕んだシステムの構造そのものを問い直すことが求められる。
炎上という制御の失敗
現代のSNS炎上もまた、社会的事故の一形態として理解できる。炎上は、悪意ある個人や一部の過激な集団によって引き起こされるのではない。多くの場合、不透明な説明、曖昧な責任の所在、感情と情報の高速な拡散という要素が組み合わさった結果として発生する。
技術的トラブルが発生したとき、技術者向けの正確な説明と一般市民向けの理解可能な説明が乖離すると、「隠蔽している」「虚偽の説明をしている」という不信が生まれる。炎上は偶発的な現象ではなく、情報と信頼の制御が破綻したことを示すシグナルなのだ。
民主主義と専門知の緊張
現代社会は、原子力、ワクチン、人工知能、環境技術といった高度に専門的な判断を迫られる場面に満ちている。しかし「専門家が決定し、市民は従うべきだ」という発想は、民主主義の原理と正面から衝突する。
リスクの分配問題がこの緊張を象徴的に示す。技術導入によって利益を得る者とリスクを負担する者が一致しない場合、科学的正確性だけでは社会的合意は形成されない。原子力発電所の立地や遺伝子組み換え作物の栽培をめぐる論争は、この構造的ジレンマを露呈している。
科学技術社会における民主主義に必要なのは、完璧な理解や専門家並みの知識ではない。必要なのは、問題の構造を把握すること、不確実性の存在を認識すること、そして判断の根拠を問い続けることである。専門知と民主的決定の間に横たわる緊張を解消することはできないが、その緊張を生産的に維持することは可能だ。
制御されるべき力としての技術
これまでの考察を統合すると、技術と社会の関係について次のような理解が浮かび上がる。技術は人間、組織、制度、情報といった要素と不可分に結びついている。開発、導入、運用、そして時に事故や炎上へと至る過程の中で、法律、倫理、説明責任、参加型意思決定といった制御メカニズムが作用する。
技術は、放置すれば制御不能な力となり、過度に制約すれば停滞する。だからこそ技術は、社会全体で継続的に制御されるべき対象なのである。この認識なしに、技術の社会的運命を理解することはできない。
構造を読む力
では、なぜ私たちはこの問題を学ぶ必要があるのか。それは、技術的に優れていても社会で失敗する理由、事故が個人のミスで片付けられない構造的背景、炎上が繰り返される必然性を理解するためである。
この理解は、規制強化のニュースを感情的に受け止めることを防ぎ、技術礼賛にも技術恐怖にも安易に傾かない視点を与える。問題の所在を構造的に捉える能力は、なぜ対話が必要なのか、なぜ専門家と市民が対立するのか、なぜ民主的プロセスが時間を要するのかを、整理して他者に説明する力につながる。
技術システムの内部者として
私たちは技術の外部にいる傍観者ではない。技術を盲目的に信奉する利用者でもない。私たちは技術システムの一部として、その中で生きている存在である。
だからこそ必要なのは、完璧な専門知識ではなく、仕組みを読み解く視点である。技術を理解することは、より良い社会的選択を行う能力を獲得することに他ならない。技術と社会の関係を構造的に把握する力こそが、現代を生きる大人に求められる教養なのである。
4. 失敗学 ― 事故は「異常」ではない
事故はなぜ起きるのか
多くの事故報告書は、
「ヒューマンエラー」を原因に挙げる。
しかしシステム科学では、
事故はこう捉えられる。
事故は、システムが通常運転のまま破綻した結果である
例③：重大事故の共通構造
- 小さな異常は日常的に起きていた
- 「今回は大丈夫」が繰り返された
- 警告は出ていたが、無視された
- 最後に破局が起きた
事故は突然ではない。
ゆっくり準備されていた。
コメント