検査の多重化における落とし穴
ダブルチェック幻想
見落としや点検ミスといったトラブルが起こると、再発防止策を立てろと言われる。そこでしばしば使われるのが「今後はダブルチェックにして注意を徹底する」というフレーズである。2度と3度とチェックを重ねれば、ミスが見逃される確率は縮小できるというのである。確かに、部品故障などを扱う信頼性工学では、「多重化すれば信頼性は増す」という原理が基礎となっている。
だが、こと人間に関してだけは、この発想は無効で、危険ですらある。同じ検査を2回繰り返しても、大した効果は上がらない。安全工学の学界では、この意見が根強い。実際に起こった重大事故を見るに、ダブルチェックや複数人での監視をしたのに無効だったという事例は枚挙に暇がない。
最初にチェックする人は「後からもう一人がチェックすることだし、過度に慎重にしなくてもいいだろう。さっさと済ませよう」と考える。2番目にチェックする人は、「すでに1回チェックを通したものだから、今さら異常はほとんど見つからず、退屈だ。さっさと済ませよう」と気が緩む。結局、2人の検査者は互いに頼り合い、もたれ合ってしまう。
下手をすれば、2人がかりの方がむしろ危険になり得る。1人だけで検査させた方が、「自分が最後の砦だ。他人は助けてくれないぞ！」と気合いが入り、まだしも安全である。人間の心理には信頼性工学の数式は通用しない。
安全のためには「1番目の検査者は信用ならないぞ。でたらめな検査をしているはずだから、粗探ししてやる」と心を鬼にするべきであるが、そこまで同僚にドライな人はまずいない。ある会社では、納品前の製品のダブルチェックで、2番目の点検は営業担当者にさせている。日頃から顧客に接している営業担当者は、顧客が何を気にするか、どういうクレームが多いかを、肌で知っている。顧客目線なので、製造担当者には気付きにくい検査の漏れをカバーすることになる。ミスを見落とせば、真っ先に怒られるのは営業担当者自身である。よって、厳格な粗探しとなる。
多数決に潜むワナ
人工衛星に搭載するソフトウエアは、バグが見つかっても、打ち上げ後は簡単には修正できない。よってバグの無いソフトウエアを作られねばならないという難題を課せられる。その際に、N バージョンプログラミングという手法が選ばれることがある。これは、同じソフトウエアを、N 個の製作会社に別々に作らせるというものだ。出来上がったN 本の同一仕様のソフトウエアを人工衛星に搭載し、並列で稼働させ、判断はそれらの多数決で選ぶ。たとえ1社の作ったソフトウエアにバグがあったとしても、1つだけが間違った答えを出すだけならば、それは多数決で却下できるという目論見である。
しかし、N バージョンプログラミングは大して効果が上がらないという批判がある。まず、製作者が別々でも、仕様書は同一であるから、仕様書自体が間違っていたら、すべてのソフトウエアが間違って作られる。
また、製作者同士は別人であっても、同じ箇所で同じ間違いをしてしまうという傾向がある。人間は誰しも引っかけ問題に弱いのである。相撲の両国国技館は「墨田区横網（ヨコアミ）」にあるが、これは横綱（ヨコヅナ）と読めてしまう。多数決を取ったら、間違いの答えの方が多くなるだろう。こうして、N バージョンプログラミングは多重化したつもりでも効果が無いという結末になる。
懐疑派の有用性
バグ対策としてしばしば用いられるのは、ペアプログラミングという手法だ。これは2人がかりでソフトウエアを製作していく方式である。しかしここでは、単なるダブルチェックはしない。1人はプログラムを書くという当たり前の役だが、相方はツッコミを入れるという一風変わった役である。「どう作るつもりか。なぜそこから書くのか。なぜその変数に代入するのか」などと、ツッコミ役は懐疑的な質問を次々とぶつけていく。書き手は質問に答えようと、自分の考えや現状認識を述べつつ、プログラムを作っていく。書き手が何か勘違いをしていると、質問にうまく答えることができない。そしてプログラミングの手は止まり、バグを書くこともない。間違い潰しのために、推進派と懐疑派とで会話させるのである。
検査の「正しい多重化」
検査者の多重化は、単に人数を増やして同じ事をさせても効果は上がらない。検査者1人がすべて責任を負うという気合いを保ちつつ、1人では心許ないから補助として懐疑派を同席させて、検査の観点を変えることが正しいのである。さらにいえば、機械で検査できることは機械に任せるべきだ。特に単調で退屈な検査は自動化に切り換えよう。
国立研究開発法人 産業技術総合研究所 主任研究員。
中央大学大学院 客員教授。内閣府 消費者安全調査委員会 専門委員。専門は、安全工学とデータサイエンス。
著書に、『事務ミスをナメるな！』、『マニュアルをナメるな！』（光文社）、『多様性工学』（日科技連出版）など。
