ホーム ケーススタディ IBM Office of Privacy and Responsible Technology - プライバシーおよびAI管理システム(PIMS) AIに対する信頼の構築
IBM Office of Privacy and Responsible Technologyは、IBMが管理する機械学習モデルのグローバルなプライバシーとAIコンプライアンス・タスクの簡素化と自動化を支援します。
道路から見たIBMオフィス・ビルの外観

AIは既に、就職の判断材料として使われています。また、信用を供与するか、住宅供給の資格を与えるかどうかなどを決定する際にも用いられています。AIは人生を左右するような大きな影響を及ぼしており、AIを責任を持って扱うことが非常に重要になっています。

しかし、責任ある管理は、言うは易く行うは難しです。そして、IBMのプライバシー&トラスト最高責任者であるChristina Montgomeryは、AIを変革のための前向きな力にし続けることに注力しています。

「IBMでは、この課題に取り組むためにAI倫理委員会を設立し、現在私が共同議長を務めています」とMontgomeryは述べています。「私たちはAIに関する原則を明確にしています。それは透明性があり、説明可能でなければならないというものです。プライバシーが保護され、安全で、包括的かつ公平であるべきです。そして、取締役会はこれらの原則を企業文化に根付かせる手助けをしてくれましたが、企業として責任を果たすためには、信念以上のものが必要です。」

幸いなことに、IBMは以前にもこのような規制の大量の登場に対応したことがありました。

「GDPR(一般データ保護規則)への対応は、おそらく私たちがAIに対処しなければならなかったことに最も類似しています」と、IBM Office of Privacy and Responsible Technologyの統合ガバナンス、サービス、および研究担当バイス・プレジデントであるLee Coxは付け加えます。「それ以前は、データ保護に関連するコンプライアンスの課題への対処方法はよりローカルなものであり、プログラムの多くは地域化されていました。彼らは仕事を成し遂げましたが、新たな需要に対応するために規模を拡大するには、かなりの労力を費やす必要がありました。」

さらに次のように続けています。「しかし、GDPRやその他のプライバシー規制に伴い、私たちはグローバル・レベルでの調整を始める必要がありました。より多くの基準、より多くの義務、より多くの複雑さに直面し、『自分のデータに何が起きているのか、どのように消費されているのか』ということに対して敏感な反応が見られる中で、迅速に適応する必要がありました。」

このグローバルな監視に対応するため、IBMは全社的なプライバシーおよびAI管理システム(PIMS)を構築しました。その成功に基づいて、Montgomeryとそのチームは、IBMはこのツールを増強して、AI業務全体のコンプライアンスをより適切に文書化し、追跡することができると考えました。

プライバシーの場合と同様、AIはここ数年、国レベルでも地域レベルでも、雪崩を打つように新しい規制を目の当たりにしてきました。同様に、さまざまな世界的な同盟や団体も、AIが倫理的かつ責任ある行動を取り続けるためのガイドラインを策定しています。しかし、増え続ける期待に応えることは、規模が大きくなればなるほど難しい場合があります。

「私たちは大きな会社です」とMontgomeryは付け加えます。「世界170カ国以上で事業を展開しています。400を超える法人から成り、13,000のサプライヤーと150,000のビジネス・パートナーと取引しています。この規模になると、25万人を超える従業員全員が同じ認識を持つことは、ガバナンスの観点から難しくなる可能性があります。」

5,500超 PIMSで管理されるアプリケーションとプロセス 6週間 最近の全社的な新しいプログラムを開始するための時間
私たちはAIに関する原則を明確にしています。それは透明性があり、説明可能でなければならないというものです。プライバシーが保護され、安全で、包括的かつ公平であるべきです。 Christina Montgomery プライバシー&トラスト最高責任者 IBM
自動化。一元化。コントロール。

2022年後半には、PIMSをアップグレードし、IBM® OpenPagesIBM Knowledge Catalogテクノロジーを利用するようになりました。このソリューションは、IBM Data and AI ポートフォリオ(概要は後述します)の革新的なシステムも備えており、データ・プライバシーと、設計から展開、日常的な使用に至るまでAIライフサイクル全体に関連するメタデータを取得、統合、透明化できる全社的な集中型プラットフォームを提供します。

「PIMSでは、標準化、簡素化、大幅な拡張が包括的な目標でした」とCoxは振り返ります。「そして現在、より継続的なコンプライアンス・アプローチを取ることで、現在私たちが行っていることと、今後登場する新しい規制とのギャップを明確にすることができます。」

「従業員、顧客、政府、政策立案者など、エコシステム全体で信頼を築くことが重要です」とMontgomeryは付け加えます。「だからこそ私たちは、AIとの関わりにおいて透明性を確保することを強く支持しているのであり、PIMSは本質的にそれを提供するのに貢献しています。」

「バイアスを考慮することは特に重要です」とCoxは指摘します。「人間の欠点をAIによって大規模に増幅すれば、その欠点は複数のシステムで再現され、社会への影響はより大きくなります。」

IBM OpenPagesはPIMSの中核として機能し、以前はサイロ化されていたガバナンス、リスク、コンプライアンス(GRC)機能に自動化された集中ワークフローを提供します。そして、IBM Knowledge Catalogは、このGRC情報を関連する知識資産や関係とともにモニターし、キュレーションするための対応するデータ・カタログを提供します。

IBM AIガバナンス戦略の一環として、PIMSはIBM Cloud Pak® for DataのIBM AI Factsheets機能も活用しています。このツールは、トレーニングから本番まで機械学習モデルのライフサイクルを追跡し、リスクやモデルのドリフトを監視するために使用できる実世界のデータを取得します。

私たちはより継続的なコンプライアンス・アプローチを取ることで、現在私たちが行っていることと、今後登場する新しい規制とのギャップを明確にすることができます。 Lee Cox 統合ガバナンス、サービス、および研究担当バイス・プレジデント IBM
詳細

PIMSは、IBMが製品化したAIの新しいインスタンスや、他のアルゴリズム・システムのインスタンスを登録します。PIMSは、それらを一元化された全社的なワークフローに追加し、潜在的なリスクについて評価します。また、モデルが稼動した後は、公平性、品質、ドリフトを継続的にモニタリングすることができます。

同時に、新たな規制が可決されると、PIMSを利用してこれらの要件をインポートし、ガバナンス・モデルやリスク評価作業全体を更新することができます。

「毎年、新しいAI規制が数多く提案されています」とCoxは指摘します。「米国の各州は独自のルールを構築している最中のようです。2024年に、ヨーロッパでは重要な署名法が登場します。」

このようにAI規制状況が進化し、データ・プライバシーとデータ・ガバナンスのコンプライアンスを維持する責任が継続する中で、IBMは統合ガバナンス・プログラム(IGP)を作成しました。このIGPイニシアチブは、プライバシー、AIまたはアルゴリズム・システム、技術倫理のユースケース、およびデータ・クリアランス要求に対処するための統一的な戦略を提供するもので、すべてPIMSを含む同じ包括的ガバナンス・プログラムに含まれます。

IGPは、IBMがコンプライアンス・プログラムを大規模に管理できるよう支援しており、これには2024年に採択されるEU AI法(世界初の包括的AI法)も含まれます。IGPにより、AIは、リスク、信頼、セキュリティー、透明性に焦点を当てた同法の要件に沿うことができ、EU域内だけでなく世界中でAIに対する人間の監視と規制遵守の新たなレベルを推進することが期待されます。

さらに、PIMSと関連する統合されたガバナンス・ワークフローは、トレーサビリティーとレポート機能を向上させ、データがモデルの事前トレーニング、開発、微調整に使用される前に、データのクリアランス・レビューを完了させることができます。このツールはまた、AIやその他のアルゴリズム・システムに関して、正確な文書化と処理項目記録(RoP)、関連するトレーニング、テスト指標、および現在の予測を維持するのにも役立ちます。同様に、IBMのスタッフは、この文書証跡を使用して、修復が実際に完了したかどうかを検証することができます。

IBMは、PIMSの将来のバージョンにwatsonx.governanceを含むIBMの最新の watsonx製品スイートを反映させることを計画しています。この動きは、強化されたモデル・ライフサイクル・ガバナンス機能、主要指標、より広範なパフォーマンス・ベンチマーク・レポートをIBMに提供することを意図しています。

私たちは高いレベルの透明性を提供できます。それは、パートナーやクライアントが、リスクを管理(監視)しながら、プロジェクトごとにこのAIテクノロジーを導入できるという自信や信頼を築くのに役立ちます。 Christina Montgomery プライバシー&トラスト最高責任者 IBM
コンプライアンスを強化し、作業を軽減する

現在、PIMSは、IBMのグローバルな事業全体で、5,500を超えるエンタープライズ・アプリケーションとビジネス・プロセスを、すべて単一の統合プラットフォームから追跡および管理しています。また、このツールによって提供される自動化機能は、関連する重要業績評価指標(KPI)をガバナンス・ダッシュボードに提供します。これは、管理の簡素化、オーバーヘッドの削減、修復作業負荷の軽減、コンプライアンスの迅速化を支援するように設計されています。

「すべての資産、すべての個人、すべてのアプリケーション、すべてのビジネス・プロセスをプロセス所有者が監視して、どの法律に準拠する必要があるかを判断させるのではなく、その複雑さに気付かないようにします」とCoxは説明します。「PIMSを使用すると、自動生成された修復タスクだけに集中するだけで済みます。これは、IBM全体で何千時間もの労力の削減につながります。」

また、新たな規制が導入されると、IBMはその要件をより迅速に特定し、対応することができます。

「私たちの最後の大きなプロジェクトであるGDPRでは、ガバナンス・モデルと追跡ソリューションを導入するのに約12カ月を要しました」とCoxは述べています。「PIMSを導入したことで、全社的な法規制コンプライアンス・プログラムを、時には6週間という非常に短期間で立ち上げることができるようになりました。情報は既に手に入っているため、ギャップを特定し、キャンペーンを構築するのがより迅速かつ容易になります。立ち上げ後、PIMSは関連する追跡データと修復データをダッシュボードに自動的に入力することができます。」

そして、新しいルールに対応する際には、このスピードが非常に重要です。Montgomeryは次のように説明しています。「主要な規制が制定された場合、2~3年の立ち上げ期間が与えられることはまずありません。4カ月から5カ月くらいになるかもしれません。そして、私たちのパートナーやクライアントが、PIMSやそれに類するもの、つまり常時稼働の在庫管理と企業全体でどのようなデータが使用されているかを確実に把握できるツールを持っていない場合、コンプライアンスで苦労することになるでしょう。」

「しかし、IBMと提携することで、私たちは高いレベルの透明性を提供できます。それは、パートナーやクライアントが、リスクを管理(監視)しながら、プロジェクトごとにこのAIテクノロジーを導入できるという自信や信頼を築くのに役立ちます」と彼女は続けます。

青い8本の棒からなるIBMのロゴ
IBM Office of Privacy and Responsible Technologyについて

IBM Office of Privacy and Responsible Technologyは、個人およびビジネス・データの保護と機密性に関するグローバルなIBMポリシーの作成と管理を監督します。また、IBM AI倫理委員会と連携して、AI倫理のポリシーと実践に関するガバナンスと関連する意思決定プロセスを指導し、IBM全体で責任と信頼の文化を構築しています。

AIを意のままに利用する

IBM watsonx.governanceテクノロジーを使用して、AIアクティビティーの監視、方向性、ガバナンスを管理します。

IBM watsonx.governanceの詳細はこちら お客様事例はこちら
法務

© Copyright IBM Corporation 2024.IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504

2024年3月に米国で制作。

IBM、IBMのロゴ、ibm.com、IBM Cloud Pak、OpenPages、watsonx、およびwatsonx.governanceは、米国やその他の国と地域におけるInternational Business Machines Corporationの商標または登録商標です。その他の製品名およびサービス名は、IBMまたは他社の商標である場合があります。IBMの商標の最新リストは、ibm.com/legal/copyright-trademarkでご確認いただけます。

本書は最初の発行日時点における最新情報を記載しており、IBMにより予告なしに変更される場合があります。IBMが事業を展開している国であっても、特定の製品を利用できない場合があります。

引用または説明されているすべての事例は、一部のクライアントがIBM製品を使用し、達成した結果の例として提示されています。実際の環境でのコストや結果の特性は、クライアントごとの構成や条件によって異なります。お客様のシステムおよびご注文のサービス内容によって各クライアントの結果は異なるため、一般的に予測される結果を提示することはできません。本資料の情報は「現状のまま」で提供されるものとし、明示または暗示を問わず、商品性、特定目的への適合性、および非侵害の保証または条件を含むいかなる保証もしないものとします。IBM製品は、IBM所定の契約書の条項に基づき保証されます。

お客様は適用法・規則の遵守を徹底する責任を負うものとします。IBMは法律上の助言を提供せず、IBMのサービスまたは製品を使用することでお客様による法律または規則の遵守が確約されると表明することも保証することもありません。