「生成AIを以って生成AIを制す」 ー 新たな局面を迎えるサイバーセキュリティー対策とは

生成AIは新たなリスクと脅威にさらされる世界の到来を告げます

今、サイバー攻撃者は生成AI という全く新たな武器を手に入れ、機会をうかがっています。攻撃者は成り済ましメールを送ることに加え、声や顔、さらには人格までも模倣し、被害者をだまして罠にかけることが可能となりました。

しかも、これはほんの始まりに過ぎません。

専門家は、今後半年～1年間における生成AI のさらなる普及に伴い、従来と比較して規模が大きく、迅速で、洗練され、高度な不正侵入が行われ、その後も過去に例のない脅威が頻繁に現れる可能性があると指摘します。リスク要因である発生可能性と潜在的影響から見て、AI による大規模な自律型攻撃が際立った脅威です。しかし、経営層がビジネス上、最も警戒するのは信頼するユーザーに成り済ます攻撃者です。次に、マルウェアに代表されるような悪意のある不正なコードの生成をほぼ同程度の脅威として挙げています。

組織が生成AI を導入することで、新たなリスクが発生する場合もあります。実際、経営層の47%は、生成AIを業務に導入した場合、自社のAIモデルやデータ、サービスを標的にした新種の攻撃を呼び込む恐れがあるのではないかと危惧しています。導入によって今後3年以内に組織内でセキュリティー侵害が発生する可能性が高いとする見方でほぼ全員（96%）が一致します。

データ侵害の平均コストは全世界で445万ドル（米国では948万ドル）に達していて、企業は新たなサイバーセキュリティー・リスクに対処するため、投資を拡大しています。経営層によると、2023年のAIサイバーセキュリティー予算は、21年時に比べ51%増加し、25年までにさらに43%増加すると予想されています。

生成AIはリスク管理上、極めて危うい状況にあります。すぐにでもセキュリティーを確保すべきです

サイバーセキュリティーのリーダーに切迫感をもって行動するよう求め、生成AI のリスク対策を今すぐ打ち出させる必要があります。その場しのぎや暫定対応では効果は得られません。
 

自社がさらされているリスク環境を理解を共有します。
 

1. サイバーセキュリティーやテクノロジー、データ管理、運用のリーダーを招集し、リスクが高まっている状況について取締役レベルで議論することが必要です。
    
2. 議論においては、以下の論点を含めます。
    
   • (ア) 具体的にどのように生成AI が悪用され、機密データの漏えいやシステムへの不正アクセスが起こるか。
      
   • (イ) 新たな「敵対的」AI の最新情報に基づき、こうしたAI が、どのようにしてほとんど気づかれずに重要なデータセットに変更を加え、どれほど有害な結果をもたらすか。
      

AI のトレーニングから導入後まで、全局面でセキュリティーを担保します。
 

1. AI モデルのトレーニング中はデータ保護に注意が必要です。例えば、使用するデータを暗号化しておくことが効果的です。
    
2. モデル開発中は、脆弱性の発生やマルウェア（悪意あるプログラム）の侵入、AI の悪用を防ぐような配慮が必要です。
    
3. モデル導入後もAI 特有の攻撃に対する監視を継続、強化することが必要です。具体的には、データ・ポイズニング（データの改ざん）やモデル盗用（モデル情報の収集・転送）などです。
    

AI に特化した新たな防御策に投資します。
 

1. 企業は、新たな敵対的攻撃への防御策のための予算が、既存のAI システムを支えるインフラやデータの保護強化のためのセキュリティー管理や専門技術の予算枠では賄いきれない可能性を認識することが必要です。
    
2. AI モデルに対する敵対的攻撃を検知し、防御する対策のために、追加の予算措置も含め投資計画の見直しを進めます。
    

信頼できる生成AIは、セキュアなデータなしには実現できません

データは生成AIの生命線です。どのモデルもデータに基づいて問いに答え、インサイト（洞察）を提供しています。トレーニング・データがサイバー攻撃の標的になる理由はここにあります。攻撃者はデータを盗んで最高値で売れるか画策し、データ侵入を行うことで不正な企てを実現する新手の攻撃を生み出しています。組織の生成AI モデルを駆動するデータに変更を加え、特定の目的で誤操作や誤情報を発生させれば、攻撃者はビジネスの意思決定を左右できるためです。こうした脅威の高まりは、法律やセキュリティー、さらにはプライバシーに関する新たな懸念を次々に引き起こすため、CEOが全社規模で対策を講じる必要性が生じています。

経営層は問題の兆候に気づいており、生成AIの導入を進める中で、さまざまなリスクが顕在化すると予想しています。84% の経営層は、生成AI の導入により生まれた新たな脆弱性が原因で、新たなサイバーセキュリティー攻撃が広範囲で、あるいは壊滅的な形で発生すると懸念しています。3人に1人は、こうしたリスクに対処するには、根本的に新しい形のガバナンスが必要であり、例えば、包括的な規制の枠組みや第三者による独立監査を導入すべきだと述べています。

AIソリューションについては、展開前にセキュリティーを確保することが重要だとする回答が、経営層全体で94%に達しました。しかし、今後半年以内に予定している生成AIプロジェクトにサイバーセキュリティー関連が盛り込まれているとの回答は24%にとどまっています。69%は生成AIのサイバーセキュリティーより、イノベーションを優先して進めると回答しています。

このことは、生成AIのサイバーセキュリティーを巡って、必要性が認識されながらも、対応が大きく遅れている現実を示しています。CEO はデータ保護へ投資し、データ・セキュリティーの現状やその根本的な原因の解明に正面から取り組む必要があります。さもなければ、望まぬ結果を招き、大きな代償を支払うことになるでしょう。具体策としては、データ保護のために暗号化や匿名化に取り組むことや、データに対する攻撃の追跡・記録やモニタリング・システムを整備することなどが挙げられます。それによって、生成AI モデルで使用するデータがセキュアであることを担保することが可能となります。

「信頼できるデータ」を 組織の根幹に据えます

サイバーセキュリティーの取り組みを進化させ、複数の生成AI モデルとデータ・サービス活用のための多岐にわたるセキュリティー要件を検討します。
 

AI 活用の中心に信頼とセキュリティーを据えます。
 

1. 組織がAI 活用において信頼とセキュリティーを重視することは、組織全体にわたるバイアスの軽減、コンプライアンスに準拠したデータの取り扱い、恒常的なデータ品質向上の取り組みなどにつながり、データの信頼性確保の鍵となります。
    
2. キーとなるアクションは次のとおりです。
    
   • (ア) 自社のデータ・ポリシーやコントロールにおいてセキュリティーやプライバシー、ガバナンス、さらにコンプライアンス（法令順守）が優先事項となるよう、策定や見直しを行います。
      
   • (イ) AI によるバイアス（偏見や思い込み）やハルシネーション（もっともらしい虚偽の回答）などの懸念を防ぐために、透明性と説明責任がいかに重要であるかを全社に周知し、同時にリスク管理を徹底します。
      

AIの原動力であるデータを保護します。
 

1. 脅威モデリング（サイバーリスクを特定して対応を検討する手法）を拡張して、生成AI 特有の脅威に対応する必要があります。
    
2. 具体的な脅威とは、データ・ポイズニングの恐れや、機密データおよび不適切コンテンツの出力結果への混入などです。
    
3. この対策としては、以下の手順を実施することが効果的です。
    
   • (ア) 最高情報セキュリティー責任者（CISO）に指示を出して、AI のトレーニングや微調整に使われる機密データを特定して分類させます。
      
   • (イ) データ損失防止技術を活用して、プロンプト（生成AI に出す指示や質問）を介したデータ漏えいを防ぐよう求めます。
      
   • (ウ) 機械学習データセットに関わるアクセス・ポリシーとコントロールを実行します。
      

サイバーセキュリティーを「商品と一体のもの」として捉え、社員やパートナーなどの利害関係者を「顧客」と同様に重視します。
 

1. 企業はサイバーセキュリティーに関する認識・周知を高めるために、サイバーセキュリティーと製品とを最初から一体のものとして開発を進めたり、社員やパートナーなど利害関係者に対するセキュリティー対策を重視する必要があります。
    
2. キーとなるアクションは以下のとおりです。
    
   • (ア) サイバーセキュリティーは生成AI を活用した製品のリスク軽減に極めて重要な役割を担い、企業の収益に直結する、という認識を全社に根付かせます。
      
   • (イ) 生成AI を活用した製品につきものであるサイバーセキュリティーの脅威について従業員への教育を促進します。特に、従業員自らの行動を見直すことがデータおよびセキュリティーのハイジーン（リスク予防策）向上に極めて有効である点を強調します。
      
   • (ウ) こうして企業のセキュリティーに関するマインドの転換を通じて、サイバーセキュリティーとビジネスの好循環へつなげていくことで、リスクを低減しつつAI の導入促進が可能な状況を作り出します。
      

生成AIをサイバーセキュリティーに活用すれば、戦力増強につながります

生成AIをサイバーセキュリティーに活用すれば、ビジネスを加速させる力となります。時間のかかる反復的なタスクが自動化され、従業員はさらに複雑かつ戦略的なセキュリティーの課題に集中することが可能になるためです。また脅威を検出して調査し、過去のインシデント（事故）経験も踏まえて、組織の対応戦略をリアルタイムで適応させていくこともできます。

生成AIがもたらす成果への期待感から、迅速かつ広範な導入を求める声がCEOに対して高まっています。しかし、ビジネス・リーダーにとって不可欠なのは、成長に向けてひた走る組織が気づかぬうちに“砂上の楼閣”となってしまわないよう、生成AIをレジリエンス強化にも活用することです。そうすれば、経営層は生成AIに伴うリスクを回避するだけでなく、強じんな組織をつくることが可能になります。

経営層の過半数（52%）は、生成AIが社内リソースや機能、人材、さらにスキルの配分を改善する上で有効だと回答しています。さらに、生成AI がサイバーセキュリティーの人材に取って代わるわけではないものの、生成AI の導入により、彼らの能力を拡張・強化することができるとの回答は92% に達します。

こうした最新テクノロジー・ツールは、従業員の複雑な作業を軽減し、最も重要なタスクに集中するために役立ちます。だからこそ、経営層の84%は、サイバーセキュリティー・ソリューションについて、従来型よりも生成AIの活用を優先する計画だと答えたのでしょう。

また、サイバーセキュリティーに生成AIを活用すれば、企業のエコシステム全体に乗数効果を拡大することが期待できます。経営層の84%は、オープン・イノベーションとエコシステムが、将来の成長戦略にとって重要であると回答しました。今後2年間、エコシステム・パートナーを選ぶ上で、彼らの生成AI機能が判断に影響するとの見方が多数を占め、クラウドにおけるパートナーの場合59%、ビジネス全体におけるパートナーでは62%でした。 

「スピードと規模」を軸にサイバーセキュリティー投資の方向性を見直します

セキュリティーを強化するために不可欠なツールとしてAIを利用します。
また生産性の大幅な向上とビジネスの成長を実現する手段として、生成AI と自動化をツールキットに組み込んで、セキュリティー・リスクとインシデント対応に迅速かつ広範に対処するよう、サイバーセキュリティー・リーダーに促します。

AIを活用し、セキュリティーの成果創出を加速させます。
 

1. 従業員が戦略的で重要なタスクに集中し、成果創出を加速・強化できるよう、定型タスクなどの自動化や効率化の推進が必要です。
    
2. キーとなるアクションは以下のとおりです。
    
   • (ア) 人間の専門的な経験や判断を必要としない定型タスクを自動化します。
      
   • (イ) 人間とテクノロジーが協業可能なタスクを洗い出し、生成AI を活用することでそのタスクを効率化します。具体的には、セキュリティー・ポリシーの作成や、脅威ハンティング（ネットワーク、各ノード、データに潜む脅威の特定）、さらにインシデント対応などです。
      

AIの導入によって新たな脅威の検知を迅速化します。
 

1. 今後、さらに脅威の加速や多様化が予想されており、従業員が攻撃者と同等のスピードや規模、精度、技術水準で対応できるようになることが求められています。
    
2. 生成AI を使用してパターンや異常をより迅速に特定し、新たな脅威ベクトル（不正アクセス方法や攻撃箇所・攻撃ツリー）によってビジネスに支障が出る前に従業員が検知できるよう、企業のセキュリティー技術と知識を最新化します。
    

「協業の力」を強みにします。
 

1. 企業の包括的なビジネス成長のためには、セキュリティー対策においても信頼できるパートナー、エコシステムとの協業が重要となります。
    
2. キーとなるアクションは以下のとおりです。
    
   • (ア) パートナーの協力を得て、自社のAI セキュリティーをどう完成させるかを明確化します。
      
   • (イ) パートナーと協力して包括的な生成AI 戦略を実行し、組織全体で価値創造を推進します。