責任あるエージェント型AIを拡張するための組織の準備を整える
AIガバナンスでは、見えないものを管理することはできません。しかし、人工知能（AI）モデルとシステム内のリスクも理解しない限り、可視性だけでは役に立ちません。
これは特に、エージェント型AIのような新興技術において顕著です。AIエージェントは効率と生産性を向上させることができますが、AIエージェントがもたらすリスクの全容を理解することはより困難です。「生成AIと機械学習のリスクは、特に特定のユースケースでは、そもそも重大になる可能性があります」とIBMのManish Bride、Heather Gentile およびJordan Byrdは述べています。「AIエージェントを追加すると、リスクはさらに増幅されます。」
当社のホワイト・ペーパー「AIエージェント：機会、リスク、緩和策」では、エージェント型AIのリスクを徹底的に調査し、これまで知られていたAIリスクの増幅と、新たなユニークな課題の出現の両方を探っています。
基盤モデルのリスクと緩和策に関するこれまでの作業に基づいて、このホワイト・ペーパーでは、リスクの理解、特定、軽減に必要な基本的な知識を実務担当者に提供しています。これは、責任を持ってエージェント型AIを拡張するための重要な第一歩です。
IBMニュースレター
The DX Leaders
AI活用のグローバル・トレンドや日本の市場動向を踏まえたDX、生成AIの最新情報を毎月お届けします。登録の際はIBMプライバシー・ステートメントをご覧ください。
ニュースレターは日本語で配信されます。すべてのニュースレターに登録解除リンクがあります。サブスクリプションの管理や解除はこちらから。詳しくはIBMプライバシー・ステートメントをご覧ください。
AIエージェントは高度に自律的であり、人間による継続的な監督なしでもさまざまなタスクを完了します。また、リスクをもたらす可能性のある4つの特性も備えています。
· 不透明性：AIエージェントの内部の動作やインタラクションの可視性が限られていると、アクションの理解が妨げられる可能性があります。
· オープンエンド性： AIエージェントは、タスクを完了させるために参考情報やツール、さらには他のAIエージェントを自ら選択することができ、予期せぬ行動を起こす可能性が高まります。
· 複雑性：AIエージェントが学習し適応するにつれて、内部の仕組みはより複雑になり、分析がますます困難になります。
· 非可逆性：AIエージェントは継続的な人間による監視なしで行動するため、デジタルと物理の両方の領域で具体的な結果をもたらす不可逆的な行動を取る可能性が高くなります。
AIエージェントの自律性と特性には潜在的なリスク、課題、社会的影響が存在するため、実務者は責任を持ってエージェント型AIを拡張するためにこれらを理解しておく必要があります。
エージェント型AI は、AI リスクランドスケープに新たなリスクと課題をもたらしますが、実務者がこれまでの AI システムの設計、開発、導入、ガバナンスにおいて考慮していた可能性は低くなります。
たとえば、新たなリスクの1つに、データ・バイアスが含まれます。AIエージェントがバイアスを導入するような形でデータセットやデータベースを変更する可能性があります。ここで、AIエージェントは世界に潜在的に影響を与える可能性のあるアクションを実行し、導入されたバイアスが検出されずに拡大し、不可逆的な可能性があります。
エージェント型AI は、システム評価や、説明不可能なアクションや追跡不可能なアクションの可能性など、いくつかの既知のリスク領域も増幅します。
実務者は、AIエージェントを使用する際に、これらの領域を再評価する必要があります。たとえば、参考情報やデータベース、またはツールに無制限にアクセスできるAIエージェントは、機密情報や機密情報をユーザーと共有するリスクを増大させます。適切なガードレールがなければ、そのようなエージェントは個人情報、知的財産、その他の機密データを保管し、システム・ユーザーと不適切に共有してしまう可能性があります。このホワイト・ペーパーでは、これらのリスクと課題について詳しく説明し、その原因と潜在的な影響について説明しています。
エージェント型AIの特有のリスクと課題に対処するには、総合的なAIガバナンスを通じてリスク軽減のためのエンドツーエンドアプローチが必要です。しかし、IBMのPhaedra BoinodirisとJon Parkerが最近説明したように、「エージェント型AI は非常に急速に進歩しているため、組織は被害を最小限に抑えるための前例やベスト・プラクティスを見つけるのが困難になっている可能性があります。」
幸いなことに、生成AIや機械学習など、他のタイプのAIのリスク軽減に役立つ多くの戦略は、エージェント型AIのリスク軽減にも役立ちます。たとえば、プロセスに人間を組み込むことは、あらゆる種類の責任あるAIにとってベスト・プラクティスです。AIエージェントが実行したアクションに関する人間による検証とフィードバックを可能にすることで、精度と関連性を確保し、組織の価値観との整合性を維持できます。
エージェント型AIのリスクを理解することは、企業全体で責任を持ってAIを拡張し、責任あるAIの投資収益率（ROI） を実現するための重要な第一歩である。「AIエージェント：機会、リスク、緩和策」は、エージェント型AIのリスクランドスケープをより明確に概念化し、AIエージェントがもたらす莫大な機会を組織が責任を持って活用する方法を検討するのに役立ちます。
生成AIを使用してワークフローとプロセスを自動化する強力なAIアシスタントとエージェントを構築、デプロイ、管理しましょう。
信頼できるAIソリューションでビジネスの未来を構築します。
IBMコンサルティングAIサービスは、企業がAIをトランスフォーメーションに活用する方法を再考するのに役立ちます。