確証バイアス①

確証バイアスとラベリング効果の続きです。確証バイアスについて掘り下げていきたいと思います。多くのシーンで確証バイアスは何故よくないものと言われるのでしょうか?

確証バイアスそのものが悪いということではないです。むしろ全体としては、確証バイアスなしに物事を転がすことは不可能です。極論ですが、わたしは確証バイアスなしに物事は始まらないとまで考えています。

確証バイアスとは

ウィキペディア(Wikipedia)によると、確証バイアス(かくしょうバイアス、英: confirmation bias)とは、認知心理学や社会心理学における用語で、仮説や信念を検証する際にそれを支持する情報ばかりを集め、反証する情報を無視または集めようとしない傾向のこと。認知バイアスの一種。また、その結果として稀な事象の起こる確率を過大評価しがちであることも知られている。

確証バイアスがかかるものとして『仮説』や『信念』を検証する際にと言われます。仮説に対してそれを強化する証拠を集め、反証を排除しようとする行動が確証バイアスと呼ばれ反証を排除してしまうがために、間違った仮説を正しいものとして行動してしまう。ということだけであれば、確証バイアスは真理に到達する道程を阻害するものとして、何か仮説を立てた際には反証も考慮に入れて考察するべきであるから、確証バイアスはできうる限り排除するべきである。と断ずるのが正しいありようにも思うのですが、『信念』というキーワードを表に出したとたんに、それが果たして悪いものかというと、そうでもないという思いになります。

なぜなら正しいと信じた事を行うときに、果たしてこれが本当に正しいのだろうかという疑念を持って行動するよりも、疑いを持たずに時として反証の声を無視して(あるいは否定して)行動する方が行動力という点では強いと思うのです。

もしもいたずらに賢しらに、正しいと信じたことが正しくないかもしれないと言って逡巡していたのでは、実際に行動を起こすことができないかもしれません。

確証バイアスを排除しすぎると行動できなくなる

映画もののけ姫の中にわたしの心に強く残っているシーンがあります。ラストシーンでジコ坊がつぶやく『バカには勝てん』というセリフです。このセリフを耳にしたとき、映画の中で完全な善悪の対比になっていない、誰もが正しく、誰もが間違っている世界観の中で、結局自分の信念を貫き通した強さと、その強い信念をもって打ち勝つことへの憧憬を感じたのです。

確かに確証バイアスというものを意識して自分の行動を疑いの目で見ることは、間違った行動を避けるうえでは大切なことです。しかし時として、それがあっているかどうかにかかわらず行動することによって果実を手に入れることができることもありますし、正しいことに基づいた行動が必ず果実を手に入れられる行動であるとは限りません。この問題を考えるときにわたしは、AI(人工知能)研究における、フレーム問題というものを思い出します。

フレーム問題の有名な例に、人工知能に対して洞窟から宝ものを持ってくるように命じるという例があります。

洞窟の中に宝物が隠されています。宝物は何らかの罠で守られていて、それを手に入れようとするものを邪魔しているという状況を考えてください。人間が洞窟に入って宝物を手に入れようとした場合、危険が伴うためにその作業を人工知能搭載ロボットに行わせることにしました。

人工知能搭載ロボット1号が作られたとき、洞窟に入ったら宝物を探しなさい。宝物を見つけたら装備された袋にそれを入れて持って帰りなさいという命令がインプットされていました。

1号は勇敢なロボットです。ときとして落とし穴にはまり大破したり、落ちてくる天井に潰されて大破したり、燃えさかる炎に焼かれて大破したり、洞窟内をさ迷い歩いた挙句、バッテリー切れで動けなくなったりしますが、運がよければ宝物に辿り着きます。しかし、最後の罠がどうしても解決できずに宝物を持って帰ってくることができません。

最後の罠、宝物に紐で結ばれた時限爆弾です。実はこの爆弾、動かすとカウントダウンを開始して爆発するというものなので、紐を切って爆弾を動かしさえしなければ宝物を持ち出せるのですが、1号には爆弾を排除するという命令は与えられていません。ただ宝物を持って帰るという命令だけです。宝物と一緒に爆弾を持って帰らないこと。という命令は受けていません。もれなく爆弾を起動させて哀れ帰らぬロボットとなってしまいます。

さて、ロボットから宝物を発見したという通信を受けるが、その後もれなく何かの罠に引っかかって宝物を持って帰ることができないことを悟ったロボット開発チームですが、宝物ににどんな罠が仕掛けられているのかはわかりません。しかしどうやら、持って帰ろうとすると作動する様です。そこで、第二世代の人工知能搭載ロボット2号には、次の命令を書き加えます。『宝物を発見したら、それが破壊される可能性を排除してから持って帰るように』

ロボット2号も勇敢に宝物に辿り着きます。しかし今度はことごとく、宝物の前で停止して帰ってきません。全てのロボットが宝物に辿り着いても、その後停止してバッテリー切れ、哀れ帰らぬロボットとなります。ロボット2号に何が起こったのでしょうか?実は2号はありとあらゆる可能性を考えていたのです。宝物を動かしたら天井が落ちてくるのではないかとか、宝物と結ばれた紐を切ったら爆弾が爆発する可能性があるのではないかとか、宝物を破壊せずに持って帰るためには、途中で出くわした炎の部屋の炎を消火してからでなければ持ち出せないのではないかとか、そもそも袋に入れる際に宝物を破壊しないかどうかといった、ありとあらゆる可能性を考えているうちに時がたってしまい、行動不能になってしまったのです。

わたしには、ロボット1号は確証バイアスに囚われ、可能性を考慮に入れなかったことで宝物を手に入れられなかった愚か者ですが、ロボット2号は確証バイアスではないかということを疑って、何も行動することができなくなってしまった愚か者のように映るのです。

さてフレーム問題の例では次に、人工知能搭載ロボット3号が生み出されます。3号には2号に与えた命令にこう書き加えられます。『宝物を持って帰るにあたって関係のないことは考慮に入れなくても良い』と。

するとどうでしょうか、ロボット3号は洞窟に入ろうともしません。どうしてでしょうか、彼もまた考えていたのです。彼が感じるありとあらゆるものについて、それは果たして、宝物を持って帰るにあたって関係のあることなのだろうかどうかを。耳に聞こえる鳥の囀りは、宝物を持って帰るのに関係のあることなのだろうか?あるいは空に瞬く星の光は、宝を持って帰るのに関係のあることなのだろうか?頬をなぜる風は、宝を持って帰るのに関係のあることなのだろうか?ずっとそんなことを考えていたおかげで、彼は洞窟に入ることすらできなかったのです。

このように、確証バイアスにかかっているのではないかということを疑いを持たずに行動しすぎても身を滅ぼしますし、確証バイアスがかかってしまっているのではないかということで考えすぎてしまうことも委縮し、行動できなくなってしまうように思うのです。

もしも袋に宝物をしまって持って帰る途中で、紐にひかれて引きずられた爆弾が、何かに引っかかって紐が切れたとしたら、おそらくロボット1号は英雄です。しかしロボット2号や、ましてロボット3号は、そんな運の良い英雄になることは決してあり得ません。

ということで、ジコ坊の『バカには勝てん』というセリフにわたしなりに付け加えるならば、『(運のいい)バカには勝てん』ということになるのではないかと思います。

とはいえ、すべてのバカが運がいいというわけにもいかないので、ある程度可能性を考慮する必要があると言えるのですが、少々長くなってしまったので続きます。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です