2025年のAI倫理とガバナンス：Phaedra BoinodirisとのQ&A
AIにおけるイノベーション、スキャンダル、驚きの激しい1年に終わりが近づくにつれ、テクノロジーの倫理とガバナンスはかつてないほどその重要性と不確実性を増しています。この3部構成のQ&Aでは、IBM Consultingの「グローバルで信頼できるAI」リーダーであるPhaedra Boinodirisに、2025年の予測を探ってもらいます。
The DX Leaders
AI活用のグローバル・トレンドや日本の市場動向を踏まえたDX、生成AIの最新情報を毎月お届けします。本ニュースレターは【日本語】で配信しています。登録の際はIBMプライバシー・ステートメントをご覧ください。
それは簡単です：リテラシーです。AIリテラシーとは、人工知能を理解、使用、評価する能力のことです。至る所で話題になるAIや毎日新しいサイエンスフィクションのような見出しをもたらしますしかし、世界中のさまざまな役割や業界に携わる人々が、それを使っていることさえ知りません。そのため、バイアスしたアルゴリズムやデータ・プライバシー、環境への影響、失業など、よりニュースに値する（そして非常に現実的な）問題を解決することはクリティカルですが、これらはいずれも、労働力から官公庁・自治体、教育機関に至るまで、AIを活用した世界なしでは実現できません。
僅差で2つ目は説明責任を持つことです。私たちは、資金を提供され、これらのモデルの結果に対して責任を負う権限のある立場に人々を必要としています。
開発チームは、倫理的な AI の作成は厳密には技術的な問題ではなく社会技術的な問題であり、モデルを設計するチームはサイロ化されるのではなく、複数の専門分野にまたがる必要があることを認識します。何十年もの間、私たちは何十年もの間、従来のドメインの専門知識を持たない人はこの会議の仲間ではないと伝えてきました。それは大きな誤りです。
責任を持ってキュレーションされたAIモデルを構築し、より正確なモデルを構築するためには、データサイエンティストだけでなく、「このAIは必要な問題を解決しているのか？ドメインの専門家によれば、これは正しいデータなのか？その意図しない影響とは？どうすれば影響を軽減できるでしょうか？」言語学や哲学の専門家、親、若者、日常生活の人々を、さまざまな社会経済的背景を持つ人々に来てもらいます。種類が多ければ多いほど良いです。重要なのは倫理ではありません。重要なのは数学です。
世界中で、AI に関しては、イノベーションとコンプライアンスの間で長年続いている駆け引きが見られます。しかし、欧州三国委員会でのプレゼンテーションから戻ってきたばかりですが、AIに対するEUの大胆なビジョンにとても刺激を受けています。
現在、EU では米国に比べて AI に費やされる投資資本がはるかに少ないのは事実ですが、この状況がすぐに変わることを心から願っています。EUにはドメインの専門家がデータをより詳細に制御できるようにする方法とそのデータをトレーニングに使用する方法を世界に示す取り組みを加速する大きな機会があると考えています。EUは、学際的なプログラムを採用したAIリテラシーへの総合的なアプローチの方法を世界に示すことができると考察します。これにより、組織は不正なモデルに対する説明責任を負う可能性のある第三者監査人を認定する方法を世界に示すことができます。
欧州は現在、AIガバナンスにおいて多くの面で先頭に立っていると感じていますが、他の国または地域もそれに追いつくと期待しています。AI開発に倫理原則を埋め込みことへの欧州の取り組みは、比類のないものです。プライバシーの保護、透明性の促進、不要なバイアスの軽減という点で、人権が重視されています。そして、Horizon Europeや「世界を変える方法」などのプログラムや、同じ志を持つ国または地域や組織との同盟を築くEUの取り組みなど、分野間の協力が非常に大きくなっています。
責任あるAIは、単に何を構築できるかということだけでなく、なぜ構築するのか、そしてどのように構築するのかも重要です。多様性、公平性、包括性は、AIイノベーション戦略の中核となるのは、それが倫理的な道であるだけでなく、多様な視点により創造的な問題解決が進み、公平なアクセスが社会に影響を及ぼし、包括的なデザインが望ましくない偏見を減らし、すべての人に役立つテクノロジーを生み出すためです。