認知バイアスとは何ですか？

最も分析的で合理的な人でも、認知バイアスに陥る可能性があり、それは多くの場合、無意識です。多くのバイアスは隠れたものであり、それらは広く浸透しており、データ分析とデータ収集の構造そのものに影響を与える可能性があります。

近年、機械学習（ML）や人工知能（AI）の大きな進歩に伴い、認知バイアスへの関心や認識が急増しています。このようなスマートシステムへの投資が飛躍的に拡大する中、AIの偏見やデータの偏りを緩和する取り組みは、AI倫理とAIガバナンスの双方にとって極めて重要になってきています。

論理的誤謬と認知バイアスという用語は、同じ意味で使用されることもありますが、これらは同じではありません。論理的な誤謬は、論理的な議論におけるエラーから生じます。認知バイアスのエラーはさらに詳しく、思考処理段階で発生します。認知バイアスは多くの場合、記憶、想起、注意、帰属、その他のメタ分析形式に関連する問題に根ざしています。

さらに、多くの種類の論理的誤謬は、認知バイアスの例から直接生じます。認知バイアスはクリティカルシンキングに影響を与えます。論理的議論がバイアスのある推論に基づいて構築されると、システムエラーは通常、関連する論理的誤謬を生み出します。

例えば、認知バイアスと非公式の論理的誤謬の両方を表すことができる用語であるサンクコストの誤謬を考えてみましょう。比較すると：

論理的な誤謬：サンクコストの誤謬とは、既に投資された回収不可能なリソースの量のみに基づいて、プロジェクトにリソース（時間、お金、労力など）を投資し続けることに関する、論理的に欠陥のある議論を指します。不利なオッズでゲームをするギャンブラーは、すでに多額の利益を失ったからという理由だけで、論理的にはプレイを継続することを正当化できません。論理的には、損失した金額は、再度賭ける、または撤退するという現在の決定とは無関係です。

認知バイアスとして：「悪いお金の後に投資する」という一般的なことわざは、サンクコスト誤謬の本質をうまく捉えています。認知的な観点から見ると、損失回避、社会的プレッシャー、恥ずかしい、パニックなどの感情的要因により、ギャンブラーは非合理的な思考につながる可能性があります。金銭を獲得できないことを示す過去の証拠にもかかわらず、次のアプリは異なると結論付けるかもしれません。

認知バイアスは、コグニティブ・バイアスではありません。なぜなら、認知バイアスが生み出す決定は、必ずしも著しく間違っているわけではないからです。むしろ、最適とは言えないかもしれませんし、偶然に正確かもしれません。この明確なフィードバック・ループの欠如が、認知バイアスが根強く残る理由の1つです。

早期に発見しないと、計画段階での認知バイアスの下流効果が、誤った結果、不公平、または危険な結果につながる恐れのある体系的な問題を引き起こす可能性があります。しかし、認知バイアスを研究して理解することで、意思決定者や意思決定を設計または保護する人は、さらに良い成果を達成することができます。

認知バイアスを理解することは、セキュリティー・チームがより強固で安全なシステムを構築するのに役立ちます。

人間の思考における一般的なエラーに注目することで、サイバーセキュリティーの専門家は、セキュリティー・ツールやソリューションの弱点をより適切に認識できるようになります。認知バイアスを認識することは、開発者もセキュリティー専門家もセキュリティー・プラットフォーム、アプリ、その他のシステムを設計、構築、実装する際に、潜在的に重大な欠陥を回避するのに役立ちます。

機密性の高いビジネス通信の保護、国家機密の保護、消費者金融情報の保護など、セキュリティーが不可欠な状況では、認知バイアスが体系的な脆弱性につながり、悪意のある攻撃者が他の厳格なセキュリティー対策を打ち破ることができる可能性があります。

例えば、誤ったコンセンサス認知バイアスとは、その結論を裏付けるデータがない場合でも、自分の意見が広く正しいと考えられる傾向のことです。このバイアスにより、開発者は、特定の種類のセキュリティー機能は、構築するアプリの種類には必要ないと考えてしまう可能性があります。その結果、意図せずして、予期していなかったサイバー攻撃に対してシステムを脆弱な状態にしてしまう可能性があります。

認知バイアスは、データを解釈し、情報に基づいた意思決定を行う能力を妨げます。

重要度の低い決定については、認知バイアスによって不適切な意思決定が生じる可能性がありますが、リスクは明らかに小さいものです。より大きな意思決定においては、認知バイアスはより大きな脅威となります。

おそらく、認知バイアスがもたらす最大の脅威は、多くの決定を下すシステムを設計する際に、これらのエラーがもたらす潜在的な影響に起因しています。したがって、AIシステムがますます普及するにつれて、AIの偏見に対するセーフガードの必要性が緊急に重要になってきます。

AIモデルには多くの場合、システムを設計する人間の開発者に内在する認知バイアスと、システムのトレーニングデータに含まれるバイアスの両方に起因する欠陥があります。成果として得られるシステムにはそれ自体のバイアスがあり、差別やその他の有害な影響につながる可能性があります。

AIガバナンスは、機械学習アルゴリズムが不公平または差別的な結果を生み出し、既存の社会経済的、人種的、性別的な不平等を強化する可能性のあるアルゴリズム・バイアスなどの問題に対処し、防ぐのに役立ちます。

AIガバナンス、プロセス、標準、ガードレールは、AIシステム・アーキテクトが安全かつ倫理的なツールを作成するのに役立ちます。AIガバナンスは、安全性、公平性、人権の尊重を確保するのに役立つAI研究、開発、アプリケーションのフレームワークを策定します。

AIガバナンスがバイアスに対処する方法の1つは、多様なトレーニング用データセットを含めることを促進することです。ヘルスケアなどの分野では、独自の文脈的状況を持つ可能性のある幅広い集団からデータを抽出することが不可欠です。

例えば、ヘルスAIが肺がんの兆候を検知するように設計された場合を考えてみましょう。このモデルが田舎に住んでいる非喫煙者のデータのみでトレーニングされるのであれば、吸う人や汚染の高地域に住んでいる対象者を分析する際に、十分な効果が得られない可能性があります。より効果的なAIを作るには、考えられるシナリオをできるだけ多く表すトレーニングデータを含めることが不可欠です。

AIガバナンスの実施例としては、ヒューマン・イン・ザ・ループ（HITL）システムの導入と維持が挙げられます。これらのタイプのシステムでは、AIのアウトプットを人間が監視する必要があります。HITLフレームワークは、追加のチェックを確実にするのに役立ちます。AIシステムが見逃したバイアスを人間が検知した場合、AIの決定を上書きすることができます。

認知バイアスは何世紀にもわたって観察されてきましたが、この概念は1970年代に研究心理学者のAmos Tversky氏とDaniel Kahneman氏によって初めて正式に導入されました。1974年、2人は論文『不確実な状況下での判断：ヒューリスティクスとバイアス』を発表しました。この論文では、人々が意思決定をしたり結論を導き出したりする際に、ヒューリスティクスと呼ばれる精神的な近道に依存しがちであることが初めて概説されました。

社会心理学や行動経済学の分野では、研究者たちは、特に完璧な正確性が効率ほど重要ではない場合には、人類がヒューリスティクスを利用して認知負荷を軽減するように進化したと理論立てています。Tversky氏とKahneman氏は、ヒューリスティクス（共通の経験則や「取引のコツ」）は、完全なコンテキストなしに、または一般的な不確実性の下で、迅速に判断を下さなければならない状況で特に広く普及していることを発見しました。

一部のヒューリスティクスは、人、組織、機械が迅速かつ効果的な意思決定を行うのに効果的に役立ちますが、Tversky氏とKahneman氏は、認知バイアスがどのようにして望ましくない結果につながるかを突き止めました。

残念ながら、認知バイアスを認識している人であっても、その影響を受けやすい可能性があります。しかし、さまざまな種類の認知バイアスを研究することで、意思決定プロセスへの悪影響を効果的に軽減できる可能性があります。認知バイアスを認識するように特別に訓練された外部のチームやシステムによる分析や意思決定のレビューをすることが特に役立ちます。

バイアスと戦うための最初のステップは、バイアスがさまざまな方法で現れることを認識することです。Tversky氏とKahneman氏の画期的な論文が発表されて以来、研究者はさまざまな種類の認知バイアスを発見してきました。

最も一般的な認知バイアスには、以下のようなものがあります。

確証バイアスとは、既存の信念を確認する情報を過剰に評価する一方で、それに矛盾する情報を評価しない傾向のことです。例えば、ほとんどのサイバー攻撃は外部からの脅威の結果であると信じている人は、インサイダー攻撃の報告が増えていることを外れ値として一蹴するかもしれません。

自分自身の状況、エクスペリエンス、状況は外部の要因に起因する可能性があるのに対し、他の人の状況は自分自身の行動の成果であると考える傾向。例えば、フィッシングメールに騙された人は、サイバー犯罪者が非常に巧妙であると信じている可能性があります。しかし、同じ人は、同僚が同様の詐欺に引っかかったのを見て、その同僚は騙されやすく、簡単に騙されると結論付けるかもしれません。

行為者・観察者バイアスと同様に、自己奉仕バイアスでは、個人の否定的な結果は外部の力によるものであると考える一方、肯定的な結果は自分自身に過大評価されます。自己奉仕バイアスにより、幸運なポーカー・ハンドが自分のスキルの成果であると想定する一方で、負けた手札を避けられない運命のいたずらと解釈する可能性があります。

根本的な帰属エラーとは、内部的動機に基づいて、他者が良いまたは悪いと認識してしまうことです。例えば、遅い要因の後ろに座ってイライラしている人は、運転条件の悪さやエンジンの故障などの潜在的な外部要因を考慮せずに、当該要因は思慮深くない、失礼な人物であると仮定する可能性があります。

新しい主題について最初に学んだ情報に非常に重要視する傾向。ベンダーは、製品の以前の高価格を宣伝するときに固定バイアスを活用できます。顧客をより大きな番号で固定することで、値下げされた価格よりもお得に取引できるように見えます。

ハロー効果とは、ある人物の印象が、その人物の性格や能力を判断する能力にどのような影響を与えるかを指します。このタイプの認知バイアスはさまざまな形で現れる可能性がありますが、特に残念な例の1つは、従来は魅力的で人間味のある人々が、未知の人の信頼をすぐに獲得できることです。サイバー犯罪者は、魅力的なアバターを使用するなどして、ソーシャル・エンジニアリング攻撃を試みる際に、ハロー効果を悪用することがよくあります。

意思決定中に特定の要素にさらに注意を払い、他の要素を無視する傾向。例えば、サイバーセキュリティー・ソリューションを購入する際に、注意バイアスの下で働く人は、それがすべてのニーズを満たしているかどうかを検討せずに、製品の全体的なコストにより注意を払う可能性があります。

自分の主観的な現実体験を客観的なものとして認識し、他の人も同じように世界を認識することを期待する傾向。皮肉なことに、ナイーブな現実主義に悩まされている人は、異なる見方自体を非合理なものとして、あるいは偏ったものとして無視する可能性があります。

ある事象の外部分析が、提示されたデータに対する個人的な認識に影響を与える傾向。この種のバイアスにより、目の当たりになった専門家でさえ、バイアスのある第三者の分析に基づいて自身の目を疑うようになりました。

何かが特定の機能を果たすように設計されていないからといって、その機能を果たす可能性はないと思い込む傾向。例えば、レンチは釘を打つために設計されていないため、ハンマーとしては使えない、と考える人もいるかもしれません。しかし、必要な場合に、レンチは実際にはハンマーのように使うことができます。

失敗する可能性が低く、成功する可能性が高いと考える傾向。楽観的なバイアスは特定の状況では価値があるかもしれませんが、成功の不正な仮定は破滅につながる可能性があります。楽観性バイアスに影響された意思決定は、深刻な問題を軽視し、意思決定者を潜在的に壊滅的な結果にさらす可能性が高くなります。

サンプリング・バイアスの一種である選定バイアスは、より大きなグループのサブセットをグループ全体と誤って判断する傾向にあります。生存確認バイアスにより、人々は誤って、いくつかの認定テストを「乗り越えた」データ・ポイントのみに誤って注意を向けることになります。

生存者バイアスの最も有名な例のひとつは、第二次世界大戦でのことです。¹飛行機の装甲を補強するのに最適な場所について相談を受けたエイブラハム・ウォルドは、戦闘から帰還した飛行機が最も損傷を受けた場所の統計的分析に基づいて推奨を行いました。しかし、ウォルド氏はこれらの箇所を補強するのではなく、被害が最も少ない箇所を補強することを推奨しました。ウォルド氏は、自分のデータが戦闘に耐えた飛行機だけであることを理解していたため、これらの飛行機が被った損害は、他の場所で受けた損害ほど重大ではないと正当に推測しました。表現されていない領域で損傷を受けた飛行機は破壊され、損傷分布解析にカタログ化されることはありませんでした。

同様の立場にある他の人の数に基づいて、決定を下したり、結論に達したり、信念を採用したりする傾向。本質的に、バンドワン効果とは、人気や社会的圧力が個人の心理に与える影響を表しています。

情報の提示方法によって、結論が異なる場合があります。例えば、回答者に「知事の悪いこと」についての支持を評価するように求める政治調査では、「知事の政策」についてのより客観的な説明よりも得られるスコアが低くなります。

すぐに入手できる、または思い出しやすい情報を過大評価する傾向。このバイアスにより、医師はインフルエンザのような症状に基づいて、似たような症状のある他の病気の検査を行わずに、インフルエンザの患者の誤診断を行ってしまう可能性があります。インフルエンザを想定するのは簡単かもしれませんが、限られた情報で下される意思決定は、可用性バイアスの影響を受けることがよくあります。

無視とも呼ばれるベース・レートの誤謬は、特定の証拠や事例的な証拠を優先して、一般的なデータ、統計データ、または集団レベルのデータ（ベース・レート）を見落としたり無視したりする傾向を表します。分析では、統計的な偏差を適切に測定するために、まず基準率を設定することが重要です。

「既知の現象」または「徐々に決定性」とも呼ばれる後知恵バイアスとは、過去の出来事を、実際よりも将来の結果をより正確に示すものとして認識する傾向のことです。後から考えれば、あたかも現在が当然の結論であるかのように、因果関係のつながりを結び付けるのは簡単に思えます。しかし現時点では、多くの結果が発生する可能性があり、将来はあまり明確ではありませんでした。

この認知バイアスは、客観的な情報ではなくステレオタイプに根ざした仮定に依存する傾向です。例えば、タトゥーやスパイクヘアのミュージシャンがロック＆ロールを演奏していると思えても、実際には古典的なバイオリンリストである可能性もあります。代表性ヒューリスティックは、「本を表紙で判断する」傾向を表しています。

研究者のDavid Dunning氏とJustin Kruger氏にちなんで名付けられたこの認知バイアスは、特定の領域のスキルが低い個人が、その領域内での性能や機能を過大評価する傾向を表しています。この過信の説明の1つは、人が対象について新しい情報を学ぶにつれて、その対象がどれほど深いものであるかをより認識するようになるということです。初心者はまだこの認識を獲得していません。

皮肉なことに、最近の研究では、AIの利用に関して逆ダニング・クルーガー効果のようなものが発見されました。研究者は2つのグループの人々に論理的な問題を解決するように依頼しました。あるグループは結論を出すためにAIを使用することを許可されていましたが、もう1つのグループは許可されていませんでした。テストを受けた後、AIを使用した参加者には、自分がどれほどうまく機能していると思うか、AIツールの使用経験がどの程度あるかを推定するように求めました。

通常、ダニング・クルーガー効果は、AIの使用に対する自信と被験者がAIを効果的に使用する実際の能力との間に逆の相関関係があることを示します。しかし、逆のことが観察されました。AIの経験が高いレベルの被験者は、AIを効果的に使用する能力を過大評価しています。

有意義な結論を導き出すにはさらなる研究が必要ですが、このレポートでは、認知バイアスを検討することの重要性が強調されています。意思決定に関しては、認知バイアスが予期せぬ形で結果や結論に劇的な影響を与える可能性があります。認知バイアスが意思決定プロセス中にエラーを引き起こすと、最良、最も洞察力、影響力のあるデータであっても、大きく誤って解釈される可能性があります。