説明可能なAIとは

説明可能な AI は、AI モデルとその影響および潜在的なバイアスを説明するときに使用されます。これは、AI駆動型の意思決定におけるモデルの精度、公平性、透明性と結果の特徴づけに役立ちます。AIモデルを本番環境で稼働する際に、説明可能なAIは組織の信頼と信用の構築に不可欠となります。また、AIの説明可能性は、組織がAI開発において責任あるアプローチを採用する際にも役立ちます。

AIが高度化するにつれて、アルゴリズムがどのようにその結果に至ったのかを人間が理解し、その過程をたどることは難しくなっています。計算プロセス全体が、一般的に「ブラックボックス」と呼ばれる、解釈不可能なものへと変化しています。

これらのブラックボックス・モデルはデータから直接生成されます。そして、アルゴリズムを作成したエンジニアやデータ科学者であっても、このモデルの中で実際に起きていることも、AIアルゴリズムが特定の結果に到達する仕組みも、説明はおろか理解すらできない状況です。

AI対応システムが特定の結果を導き出す仕組みを理解することには、多くの利点があります。説明可能性は、システムが期待通りに作動していることを開発者が確信する際に役立つ可能性があり、規制基準を満たすために必要な場合もあり、意思決定に影響を受けた人たちがその結果に異論を唱えたり、変更したりする際に重要な可能性もあります。¹

組織にとって、AI のモデル監視と説明責任を備え、AI の意思決定プロセスを闇雲に信用せずに、AI の意思決定プロセスを完全に理解することが不可欠です。説明可能な AI は、機械学習（ML）アルゴリズム、ディープラーニング、ニューラル・ネットワークを、人間が理解して説明するのに役立ちます。

MLモデルは、解釈不可能なブラックボックスとして認識されることが多々あります。²ディープラーニングで使用されるニューラル・ネットワークは、人間にとって最も理解し難いものの1つです。多くの場合に人種、ジェンダー、年齢、地域に基づいて発生するバイアスは、長い間AIモデルの学習におけるリスクでした。

AIモデルの性能は、実稼働データが訓練データと異なることで、時間の経過とともに変化したり低下したりする可能性があります。これにより、このようなアルゴリズムを使用することで生じる事業への影響を測りながら、AIの説明可能性を促進するための継続的なモデルの監視と管理が事業体にとって不可欠となります。

また、説明可能なAIはエンドユーザーの信頼、モデルの可監査性、生産的なAI利用を促進するのにも役立ちます。さらに、実稼働AIのコンプライアンス、法的、セキュリティー、評判のリスクも軽減します。

説明可能な AI は、責任ある AI を実装する際に重要な要件の 1 つであり、実際の組織における公平性、モデルの説明可能性、説明責任を備えた AI メソッドの大規模な実装のための方法論でもあります。³責任を持って AI を導入するためには、組織は信頼と透明性の上に AI システムを構築して、AI アプリケーションとプロセスに倫理原則を組み込む必要があります。

説明可能なAIと解釈可能な機械学習によって、組織はAIテクノロジーの意思決定プロセスを把握し、必要に応じて調整を行えるようになります。説明可能なAIは、AIが良い決断を下すというエンドユーザーの信頼を勝ち取ることで、製品やサービスのユーザー体験を向上できます。AIシステムは、いつ十分な信頼性を持つ意思決定を行えるようになるのでしょうか。また、AIシステムは発生したエラーをどのように修正できるのでしょうか。⁴

AIが高度化しても、AIモデルの結果の正確性を確保するためには、MLプロセスを理解し管理する必要があります。ここからは、AIとXAIの相違、AIをXAIに変えるために使用される方法と技術、AIプロセスの解釈と説明の相違について見ていきましょう。

「通常」のAIと説明可能なAIの違いは何でしょうか。XAIは特定の技術と方法を用いて、MLプロセス中に行われた意思決定をすべて追跡でき、説明できるようにします。

一方AIは、MLアルゴリズムを使って結果を導き出すことが多いのですが、AIシステムの設計者は、このアルゴリズムがその結果をどのように導き出したのかを完全に理解しているわけではありません。これにより、正確性の確認が難しくなり、コントロール、説明責任、可監査性の喪失が発生します。

XAI手法は主に3つの方法で構成されています。予測精度と追跡可能性は技術要件に対応し、意思決定の理解は人間のニーズに対応します。一方、説明可能なAIは、特に説明可能な機械学習において、将来の兵士たちが、台頭する人工知能マシンのパートナー世代を理解し、適切に信頼し、効率的に管理するために不可欠となるでしょう。

日常業務におけるAI活用の成功を左右する重要な要素が正確性です。シミュレーションを実行し、XAI のアウトプットと学習データセット内の結果を比較することで、予測精度を判断できます。これに最もよく使用される技術が Local Interpretable Model-Agnostic Explanations（LIME）で、ML アルゴリズムで分類子の予測を説明します。

追跡可能性とは、XAIを実現するもう1つの重要な技術のことです。これは、例えば決定方法を制限し、ML ルールと機能のスコープを狭く設定すると達成可能です。XAI の追跡性技術の一例が DeepLIFE（ディープラーニングの重要機能）で、これはニューロンごとの活性化を該当する参照ニューロンと照らし合わせて、活性化されたニューロン間の追跡リンクを表示し、ニューロン間の依存関係までも表示します。

これは人的要因です。多くの人はAIを信頼していません。しかし、AIを効果的に活用するには、AIを信頼できるようになる必要があります。これはAIを使用して仕事をするチームを教育することで達成でき、チームはAIが意思決定を行う方法と理由を理解できるようになります。

解釈可能性とは、オブザーバーが意思決定の原因を理解できる度合いです。これは人間が AI アウトプットの結果を予測できる成功率で、一方の説明可能性はさらに一歩進んで、AI がどのようにしてその結果に到達したかに注目します。

説明可能な AI と責任ある AI には類似した目標があるのですが、そのアプローチは異なります。説明可能な AI と責任ある AI の大きな違いは以下の通りです。

• 説明可能な AI は、結果が算出されたあとで AI 結果に注目します。
• 責任あるAIは、結果を算出する前に、AI アルゴリズムに引き受けさせる計画段階で AI に注目します。
• 説明可能な AI と責任ある AI は協働して AI を向上できます。

説明可能な AI を使用すると、事業体はステークホルダーに対して AI モデルの動作の理解を促しながら、モデルのパフォーマンスのトラブルシューティングや改善を実行できます。デプロイメント・ステータス、公平性、品質、ドリフトに関するモデルのインサイトの追跡を通してモデルの動作を調査することが、AIのスケーリングに不可欠です。

継続的なモデルの評価により、モデル予測の比較、モデルリスクの数値化、モデル・パフォーマンスの最適化が強化されます。モデル動作のプラスとマイナスの数値を、説明の生成に使用したデータと共に表示して、モデルの評価をスピードアップします。A データと AI プラットフォームでモデル予測の機能特性を生成でき、これによりインタラクティブなチャートとエクスポート可能な資料と共に、チームはモデル動作を視覚的に調査できるようになります。

説明可能な AI から期待通りの結果を導き出すには、以下の点に留意しましょう。

公平性とバイアス排除： 公平性を管理・監視します。デプロイメントをスキャンして潜在的なバイアスを見つけます。

モデルのドリフト軽減： 自作モデルを分析し、最も論理的な結果に基づいて推奨事項を作成します。意図した結果からモデルが逸れた際にはアラートを出します。

モデルのリスク管理： モデルのリスクを数値化して軽減します。モデルのパフォーマンスが不適切な場合にアラートを鳴らします。逸脱が続いた際には何が発生したのかを理解します。

ライフサイクルの自動化： 統合されたデータとAIサービスの一部としてモデルを構築、実行、管理します。1つのプラットフォームでツールとプロセスを一元化し、モデルの監視と結果の共有を実行します。機械学習モデルの依存関係を説明します。

マルチクラウド対応：パブリッククラウド、プライベートクラウド、オンプレミスを含むハイブリッドクラウド全体にAIプロジェクトをデプロイします。説明可能なAIで信頼と信用を促します。

• ヘルスケア：診断、画像分析、リソースの最適化、医療診断を加速します。患者の治療を決定する際の透明性と追跡可能性を向上します。説明可能な AI を使用して医薬品承認プロセスを合理化します。

• 金融サービス：透明性の高いローンとクレジットの承認プロセスで顧客体験を向上します。信用リスク、資産管理、金融犯罪リスクの評価をスピードアップします。潜在的な苦情や問題に対する解決を加速します。料金体系、商品の推奨、投資サービスに対する信頼を高めます。

• 刑事司法：予測とリスク評価のプロセスを最適化します。DNA分析、受刑者数の分析、犯罪予測に説明可能なAIを活用することで、問題解決を加速します。学習データやアルゴリズムに潜むバイアスを検知します。