AIセキュリティーとは

組織は、さまざまな方法でAIをサイバーセキュリティーの実践に取り入れることができます。最も一般的なAIセキュリティー・ツールは、機械学習（ML）とディープラーニングを使用して、トラフィックの傾向、アプリの使用状況、閲覧の習慣、その他のネットワーク・アクティビティー・データなど、膨大な量のデータを分析します。

この分析により、AIはパターンを発見し、セキュリティーのベースラインを確立できます。ベースラインから外れたアクティビティーは、異常および潜在的なサイバー脅威として即座にフラグが立てられ、迅速な修復が可能になります。

また、AIセキュリティー・ツールは、大規模言語モデル（LLM） によって普及した生成AI（gen AI）も頻繁に使用し、セキュリティー・データをプレーン・テキストの推奨事項に変換して、セキュリティー・チームの意思決定を合理化します。

調査によると、AIセキュリティー・ツールにより脅威の検知とインシデント対応が大幅に改善されます。IBMデータ侵害のコスト・レポートによると、広範なセキュリティーAIと自動化を導入している組織は、AIツールを導入していない組織よりも平均108日早くデータ侵害を特定し、封じ込めました。

また、同レポートによると、AIセキュリティーを広範囲に使用している組織は、データ侵害の対応コストを平均176万米ドル節約していることも明らかになりました。これは、AIを使用していない企業の侵害の平均コストと比較すると、ほぼ40％の差があります。

これらの理由から、AIセキュリティーへの投資は増加しています。最近の調査によると、AIセキュリティー市場は、2023年に201億9,000万米ドルと評価され、2032年には1,416億4,000万米ドルに達し、年率24.2％で成長すると予測されています。¹

AI セキュリティーは、状況によって意味が異なります。このページで重視しているのは、サイバーセキュリティーを向上させるためのAIの使用ですが、他の2つの一般的な定義は、AIモデルとプログラムを悪意のある使用や不正アクセスから保護することに重点を置いています。

ある定義では、サイバーセキュリティー専門家は、脅威アクターがAIを使用してサイバー攻撃を改善したり、新しい攻撃対象領域をエクスプロイトしたりする方法に焦点を当てています。

例えば、LLMは、攻撃者がよりパーソナライズされた高度なフィッシング攻撃を作成するのに利用される可能性があります。比較的新しいテクノロジーであるAIモデルは、サプライチェーン攻撃や敵対的攻撃など、脅威アクターにサイバー攻撃の新たな機会を提供するものとなります（「AIの潜在的な脆弱性とセキュリティー・リスク」を参照）。

AIセキュリティーのもう一方の定義は、AIデプロイメントの保護です。IBM Institute for Business Valueによる最近の調査に基づくと、生成AIプロジェクトのうち、セキュリティーが確保されているプロジェクトの割合はわずか24%に留まっています。AIプロジェクトのセキュリティーを確保するには、AIデータ、モデル、使用法を保護するための対策が必要です。

たとえば、レッド・チームの演習では、倫理的ハッカーが現実世界の敵対者のように行動し、一般的にターゲットとなるのはAIシステム、機械学習モデル、AIおよびMLアプリケーションをサポートするデータセットです。

AIのデプロイメントを安全に行うには、AIモデルやツールの不正使用であるシャドーAIを根絶するための監視も必要になる場合があります。これらすべてのプラクティスは、企業がAIリスクを管理し、コンプライアンスの問題に対処するのにも役立ちます。

今日のサイバー脅威を取り巻く状況は複雑です。クラウドおよびハイブリッドクラウド環境への移行は、データの拡散と攻撃対象領域の拡大をもたらし、脅威アクターは脆弱性を悪用する方法を新たに見つけ続けています。同時に、サイバーセキュリティーの専門家は依然として不足しており、米国だけでも70万人以上の求人があります。²

その結果、サイバー攻撃の頻度は増し、コストも増大しています。データ侵害のコストに関する調査によると、2023年のデータ侵害を修復するための世界平均コストは445万米ドルで、3年間で15％増加しました。

AIを活用したセキュリティーは解決策を提供できます。脅威の検知と対応を自動化することで、AIは攻撃を防ぎ、脅威アクターをリアルタイムで捕捉するのを容易にします。AIツールは、悪意のあるソフトウェアを識別して隔離することでマルウェア攻撃を防ぐことから、繰り返しのログイン試行を認識してブロックすることでブルート・フォース攻撃を検出することまで、あらゆることに役立ちます。

AIセキュリティーにより、組織はセキュリティー運用を継続的に監視し、機械学習アルゴリズムを使用して進化するサイバー脅威に適応できます。

AIセキュリティーに投資しないと、大きな犠牲を払うことになります。AIセキュリティーを導入していない組織は、データ侵害の平均コストが536万米ドルとなり、これはすべての組織の平均コストよりも18.6%高くなっています。

セキュリティーが限られている場合でも、大幅なコスト削減が実現する可能性があります。AIセキュリティーが限られている企業では、データ侵害の平均コストが404万ドルと報告されています。これは、全体の平均よりも40万ドル少なく、AIセキュリティーがまったくない企業よりも28.1%少ない金額です。

AIはその利点にもかかわらず、セキュリティー上の課題、特にデータ・セキュリティーに関する課題をもたらします。AIモデルの信頼性は、そのトレーニング・データと同じでしかありません。改ざんされたデータや偏ったデータは、誤検知や不正確な回答につながる可能性があります。例えば、採用決定に使用されるトレーニング・データにバイアスがある場合、AIモデルが特定の人口統計グループを支持し、他の人口統計グループを差別することで、性別や人種のバイアスを強める可能性があります。³

また、AIツールは、脅威アクターがセキュリティーの脆弱性をよりうまく悪用するのを助けることもあります。例えば、攻撃者はAIを使用してシステムの脆弱性の発見を自動化したり、巧妙なフィッシング攻撃を生成したりする可能性があります。

ロイター通信社によると、米連邦捜査局（FBI）はAIによるサイバー侵入の増加を目の当たりにしています。⁴最近のレポートでは、上級サイバーセキュリティー専門家の75％がサイバー攻撃が増えていると見ており、85％が生成AIを利用した悪意のある攻撃者の増加に起因するとしています。⁵

今後、多くの組織は、AI倫理やセキュリティーを犠牲にすることなく人工知能のメリットを享受するために、安全なAIに時間とリソースを投資する方法を模索するでしょう（「AIセキュリティーのベスト・プラクティス」を参照）。

AIの機能は、サイバーセキュリティーの防御を強化する上で大きなメリットをもたらします。AIセキュリティーの最も重要なメリットには、次のようなものがあります。

• 脅威検知の強化：AIアルゴリズムは、大量のデータをリアルタイムで分析し、潜在的なサイバー脅威を検知する速度と精度を向上させることができます。AIツールは、従来のセキュリティー対策では見逃してしまうような高度な攻撃ベクトルを特定することもできます。

• インシデント対応の迅速化：AIは、セキュリティー・インシデントの検知、調査、対応に必要な時間を短縮できるため、組織は迅速に脅威に対処し、潜在的な損害を軽減できます。

• 業務効率の向上：AIテクノロジーは日常業務を自動化し、セキュリティー運用を合理化して、コストを削減できます。サイバーセキュリティー運用を最適化することで、人為的ミスを減らし、セキュリティー・チームをより戦略的なプロジェクトに専念させることができます。

• サイバーセキュリティーへのプロアクティブなアプローチ：AIセキュリティーは、過去のデータを使用して将来のサイバー脅威を予測し、脆弱性を特定することにより、組織がサイバーセキュリティーに対してよりプロアクティブなアプローチを取ることができるようにします。

• 新たな脅威の理解：AIセキュリティーは、組織が脅威アクターの先手を打つのに役立ちます。新しいデータから継続的に学習することで、AIシステムは新たな脅威に適応し、サイバーセキュリティー防御を新しい攻撃手法に対して常に最新状態に保つことができます。

• ユーザー・エクスペリエンスの向上：AIはユーザー・エクスペリエンスを損なうことなく、セキュリティー対策を強化できます。例えば、生体認証や行動分析などのAI搭載の認証方法により、ユーザー認証をよりシームレスかつ安全なものにすることができます。

• 自動化された規制コンプライアンス：AIは、コンプライアンスの監視、データ保護、レポート作成の自動化を支援し、組織が一貫して規制要件を満たすようにします。

• 拡張能力：AIサイバーセキュリティー・ソリューションは、大規模で複雑なIT環境を保護するために拡張できます。また、セキュリティー情報およびイベント管理（SIEM）プラットフォームなどの既存のサイバーセキュリティー・ツールやインフラストラクチャーと統合して、ネットワークのリアルタイムの脅威インテリジェンスと自動応答機能を強化することもできます。

多くの利点がある反面、新しいAIツールの採用は、組織の攻撃対象領域を拡大し、いくつかのセキュリティー脅威をもたらす可能性があります。

AIによってもたらされる最も一般的なセキュリティー・リスクには、次のようなものがあります。

AIシステムは、改ざんや侵害、その他の攻撃に対して脆弱なデータセットに依存しています。組織は、開発からトレーニング、導入に至るまで、AIのライフサイクル全体を通じてデータの完全性、機密性、可用性を保護することで、こうしたリスクを軽減できます。

脅威アクターは、AIモデルを標的にして、盗難、リバース・エンジニアリング、または不正操作を行う可能性があります。攻撃者は、AIモデルの動作や性能を決定するコア・コンポーネントである、アーキテクチャー、重み、パラメーターを改ざんすることで、モデルの完全性を損なう可能性があります。

敵対的攻撃とは、AIシステムを欺くために入力データを操作し、誤った予測や分類を行わせることです。例えば、攻撃者はAIアルゴリズムの脆弱性を突いて敵対的な例を生成し、AIモデルの意思決定を妨害したり、バイアスを生じさせたりすることがあります。

同様に、プロンプト・インジェクションは、悪意のあるプロンプトを使用してAIツールを騙し、データの漏洩や重要な文書の削除などの有害なアクションを実行させます。

セキュリティー・チームがAIシステムを導入する際に安全性と倫理を優先しない場合、プライバシー侵害を犯し、バイアスや誤検知を悪化させるリスクがあります。倫理的な展開によってのみ、組織はAIによる意思決定の公平性、透明性、説明責任を確保できます。

法的および規制要件を遵守することは、合法的かつ倫理的なAIシステムの使用を保証するために不可欠です。組織は、一般データ保護規則（GDPR）、California Consumer Privacy Act（CCPA）、欧州AI規制法などの規制を遵守する必要があります。そうしないと、機密データが漏洩し、重い法的罰則を受ける危険性があります。

入力操作攻撃とは、入力データを改ざんして、AIシステムの動作や結果に影響を与えることです。攻撃者は、検知を回避したり、セキュリティー対策を迂回したり、意思決定プロセスに影響を与えたりするために、入力データを操作することがあります。それは、偏った結果や不正確な結果につながる可能性があります。

例えば、脅威アクターは、データ・ポイズニング攻撃で汚染したトレーニング・データを意図的に注入することで、AIシステムの出力を危険にさらす可能性があります。

サプライチェーン攻撃は、脅威アクターが、開発、展開、保守の段階を含むサプライチェーン・レベルでAIシステムを標的にすることによって発生します。例えば、攻撃者はAI開発で使用されるサードパーティーのコンポーネント、ソフトウェア・ライブラリー、モジュールの脆弱性を悪用し、データ侵害や不正アクセスを引き起こす可能性があります。

AIモデルは、時間の経過とともにドリフトや衰退を起こし、パフォーマンスや有効性が低下する可能性があります。敵は、衰退したりドリフトしたりするAIモデルの弱点を悪用して、出力を操作することができます。組織は、AIモデルの信頼性と関連性を維持するために、パフォーマンス、動作、精度の変化を監視できます。

サイバーセキュリティーにおけるAIの用途は多様であり、AIツールがより高度で利用しやすくなるにつれて絶えず進化しています。

今日のAIセキュリティーの最も一般的なユースケースには、次のようなものがあります。

データ保護は、機密情報をデータの損失や破損から保護することです。その目的は、データを保護し、可用性を確保し、規制要件に準拠することです。

AIツールは、機密データを分類し、データの移動を監視し、不正アクセスや流出を防止することで、組織がデータ保護を改善するのに役立ちます。AIは暗号化とトークン化のプロセスを最適化し、保存中および転送中のデータを保護することもできます。

さらに、AIは脅威の状況に自動的に適応し、24時間体制で継続的に脅威を監視できるため、組織は新たなサイバー脅威に先手を打つことができます。

エンドポイント・セキュリティーは、コンピューター、サーバー、モバイル・デバイスなどのエンドポイントをサイバーセキュリティーの脅威から保護することです。

AIは、エンドポイントの不審な動作や異常を継続的に監視し、セキュリティーの脅威をリアルタイムで検知することで、既存のエンドポイントの検知と対応（EDR）ソリューションを改善できます。

また、機械学習アルゴリズムは、ファイルレス・マルウェアやゼロデイ攻撃などの高度なエンドポイントの脅威を、被害をもたらす前に特定して軽減するのにも役立ちます。

AIは、シャドー・データを自動的に特定し、データ・アクセスの異常を監視し、脅威が発生したときにサイバーセキュリティーの専門家にアラートを発することで、ハイブリッドクラウド環境全体の機密データを保護するのに役立ちます。

脅威ハンティング・プラットフォームは、組織のネットワーク内で悪意のある活動の兆候を事前対応的に検索します。

AIの統合により、これらのツールは、大規模なデータ・セットを分析し、侵入の兆候を特定し、高度な脅威に対する迅速な検知と対応を可能にすることで、さらに高度で効率的なものになります。

サイバー攻撃や個人情報の盗難が一般的になるにつれて、金融機関は顧客や資産を保護する方法を必要としています。

AIは、トランザクション・データを自動的に分析して不正行為を示しているパターンを見つけることで支援します。さらに、機械学習アルゴリズムは、新しい脅威や進化する脅威にリアルタイムで適応できるため、銀行は不正アクセス検知機能を継続的に改善し、脅威アクターに先手を打つことができます。

AIセキュリティー・ツールは多くの場合、組織の既存のセキュリティー・インフラストラクチャーと統合することで最も効果を発揮します。

例えば、セキュリティー・オーケストレーション、自動化、レスポンス（SOAR）は、多くの組織がセキュリティー運用を合理化するために使用しているソフトウェア・ソリューションです。AIはSOARプラットフォームと統合して、日常的なタスクやワークフローを自動化できます。この統合により、より迅速なインシデント対応が可能になり、セキュリティー・アナリストはより複雑な問題に集中できるようになります。

IDおよびアクセス管理（IAM）ツールは、ユーザーがデジタル・リソースにアクセスする方法と、そのリソースを使用して何ができるかを管理します。その目的は、ハッカーを排除する一方で、各ユーザーが必要な権限のみを持ち、それ以上は持たないようにすることです。

AIを活用したIAMソリューションは、役割、責任、行動に基づくきめ細かなアクセス制御を提供し、許可されたユーザーのみが機密データにアクセスできるようにして、このプロセスを改善できます。

また、AIは機械学習を使用してユーザー行動のパターンを分析し、個々のユーザーのリスク・レベルに基づいて変化する適応型認証対策を可能にすることで、認証プロセスを強化することもできます。

ChatGPTのようなLLMにより、フィッシング攻撃はより容易に実行されるようになり、それを認識するのはより困難になりました。しかし、AIはフィッシング対策のための重要なツールとしても注目されています。

機械学習モデルは、Eメールやその他のコミュニケーションにフィッシングの兆候がないかどうかを分析するのに役立っており、検知の精度を向上させ、フィッシングの成功率を低下させています。また、AI搭載のEメール・セキュリティー・ソリューションは、リアルタイムの脅威インテリジェンスと自動対応を提供し、フィッシング攻撃を発生時に阻止できます。

脆弱性管理とは、組織のITインフラストラクチャーとソフトウェアにおけるセキュリティー上の脆弱性を継続的に発見、優先付け、解決することです。

AIは、潜在的な影響とエクスプロイテーションの可能性に基づいて脆弱性に自動的に優先順位を付けることで、従来の脆弱性スキャナーを強化できます。これにより、組織は最も重大なセキュリティー・リスクに最初に対処することができます。

AIはまた、パッチ管理を自動化し、サイバー脅威にさらされる可能性を迅速に減らすことができます。

AIのセキュリティーのリスクとメリットのバランスを取るため、多くの組織では、利害関係者がAIシステムをどのように開発、実装、管理すべきかをまとめた明確なAIセキュリティー戦略を策定しています。

これらの戦略は必然的に企業によって異なりますが、一般的に使用されるベスト・プラクティスには次のものがあります。