5件で完璧だったのに、500件で事故が起きる理由

つまずき：試験導入は、何も証明していなかった

いきなり本番を渡すのは怖いので、5件だけ試した。完璧だった。「これはいける」と500件を渡したら、何件か抜けていた。しかも「出来ました」と一緒に返ってきた。

人の部下に対する試用期間と同じやり方で、上司としてはまったく正しい手順です。人なら、5件できる人は500件もだいたいできます。AIでも腕は同じです。それなのに、結果が変わります。

考え方：件数が、そのまま敵になる

理由は掛け算です。1件あたり99%の確率で正しくできる相手がいるとします。5件すべて正しい確率は、0.99を5回掛けて約95%。ほぼ完璧に見えます。ところが100件すべてが正しい確率は、0.99を100回掛けて約37%。3回に1回しか無傷で終わりません。500件なら1%を切ります。

数字は説明のための例で、実際に何件で崩れるかは仕事によります。ただ、件数が増えるほど無傷で終わる確率が掛け算で落ちる、この向きは変わりません。人の新人は、5件で見せた腕が500件でも同じ腕なので、少なく試せば読めました。AIは「5件できた」から先が読めません。試験導入で分かったつもりになっていたことが、そもそも分からない種類の仕事だったのです。

もう1つ。落とした本人が、気づいていません。「ぜんぶ確認した？」と聞けば「はい」と返ります。嘘ではなく、確かめる手段を持っていないだけです。「田中さんは名簿に載っているか」は探せますが、「抜けている人はいないか」は、いない人には手がかりが無いので探せません。「有る」は探せる。「無い」は確かめられない。この相手は、報告しない新人ではなく、不安を表明できない新人です。

今日からできること

2つだけ。

試すなら、本番の件数で試す。5件で「いける」と判断するのは、人の部下の癖です。本番と同じ件数を、本番でない場所で回して、何件落ちるかを先に見ます。落ちる件数が分かれば、落ちる前提で渡し方を組み替えられます（その組み替え方が、次の2本です）。

「確認した？」と聞くのをやめる。代わりに「何件処理した？ 元は何件だった？」と、数字で聞きます。「はい」は嘘ではありませんが、証拠でもありません。