現実を武器化する：ディープフェイクのテクノロジーの進化

フィッシング攻撃は数十年にわたって人間の感情を利用してアカウント認証情報や金銭を詐取しており、現在もそれは続いています。しかし、1990年代に最初のフィッシング事件が発生して以来、テクノロジーは飛躍的に進歩しており、フィッシングはもはや、タイプミスや文法の間違いのある明らかな詐欺メッセージを見つけることだけではなくなりました。今では、たとえ友人や上司とまったく同じ話し方をしたとしても、その電話が本当に友人や上司からの電話なのかどうか疑うことになります。人工知能の台頭により、悪意のある行為者はますます巧妙になってきており、誰もが何が本物かを再考し、偽の信号を探すことに慣れ、オンラインとオフラインの両方で自分のIDをより適切に保護する方法を学ぶ必要があります。

ソーシャル・エンジニアリングとは、攻撃者や詐欺師が人々を騙して、その情報やアカウントを危険にさらすさまざまな方法のことを指します。この脅威は、データ侵害につながる主要な攻撃ベクトルの1つであり続けています。これは従業員研修や高度なスパム・フィルターによってある程度軽減されていますが、トレンドになっているディープフェイクの脅威には当てはまらないようです。2024年には、80%以上の企業がディープフェイクを含むAIベースの攻撃に対抗するためのプロトコルを整備していないと報告しています。

さらに、Pindropの2025 Voice Intelligenct Reportでは、ディープフェイク詐欺が前年に比べて急増し、1300%の増加が報告されています。ディープフェイク攻撃は、目に見えるものや耳で聞くものを信じることができなくなる、恐ろしい新たな領域を表しています。

ディープフェイクの背後にあるテクノロジーは、GAN（敵対的生成ネットワーク）と呼ばれます。2014年に開発され、Ian Goodfellow研究員らによって研究論文として発表されました。GANは、トレーニング・データセットからパターンを学習することによって、新しいデータを生成する機械学習モデルの一種です。しかし、これは実際に何を意味するのでしょうか？GANは2つのニューラル・ネットワークで構成されており、互いに常に競合して現実的なフェイクデータを生成します。一方のネットワークはジェネレーター、もう一方は識別器です。

生成AIは合成コンテンツを作成し、識別器はそのコンテンツが本物かどうかを判断します。このやり取りにより、最終的には偽のコンテンツが可能な限り本物に見えるようになります。鋼の棒で刀を研ぐようなものだと考えてください。剣（ジェネレーター）が鋼の棒（識別器）に突き当てられるたびに、剣はより鋭くなります。

数年後の2017年、「ディープフェイク」という名前で活動していたRedditユーザーにより、「ディープフェイク」という用語が誕生しました。この人物はGANの概念を悪意を持って悪用しました。彼は、成人コンテンツ専用のアカウントを使って、無関係な人物の画像を使用して偽のコンテンツを作成し、オンラインに配布する最初の一般公開ディープフェイク・ビデオのいくつかをリリースしました。

しかし、初期のディープフェイクは通常、品質が低く、簡単に発見できましたが、今日は、そのようなことはありません。ユーザーは音声や画像のディープフェイクを投稿していますが、これは偽物であると特定するのが非常に困難であり、バーチャルな世界におけるIDと信頼の概念そのものを変えようとしています。

ディープフェイクは2018年に主流になり、DeepFaceLabなどのアクセス可能なオープンソース・ディープフェイク・ツールがリリースされました。以来、現実的なディープフェイクを作成することに対する技術的な障壁は着実に減少しています。2023年、ディープフェイク・ツール市場は急騰し、これらのツールの開発は44%増加しました。残念なことに、女性の同意のない露骨なコンテンツの作成は、ディープフェイクツールの普及の動機となっています。問題は蔓延しており、Security Heroは2023年に、オンラインのディープフェイク動画の約98％が露骨な表現であり、そのカテゴリーのターゲットのうち、男性のものはわずか1％であると報告しました。

近年、ディープフェイクは政治や消費者詐欺を操作するためにも使用されています。ディープフェイクのターゲットのほとんどは著名人であり、その主な理由はインターネット上で入手できるメディア・サンプルが豊富であるためです。

2024年初頭、ニューハンプシャー州の有権者にバイデン大統領になりすましたロボコールが届き、民主党予備選挙への投票を思いとどまらせました。悪意のある人物は発信者番号を偽装し、民主党議長を装うことさえしました。この事件は、ディープフェイク音声を使用したボイスフィッシングの明確な例です。それ以来、 FCCは投票抑圧を目的としたロボコールでAI生成音声を使用することを禁止しました。

また、イーロン・マスク、ニュージーランドの首相クリストファー・ラクソン、 カナダのジャスティン・トルドー首相などの著名な公人が登場するディープフェイク動画も複数存在しています。これらのディープフェイク動画は、潜在的な投資家を騙すためにさまざまな暗号通貨スキームを宣伝していました。

ディープフェイク技術のより正当な使用法も存在し、MITのCenter for Advanced Virtualityの研究者らは、リチャード・ニクソン大統領の月面着陸失敗についての演説をディープフェイクで再現しました。このプロジェクトは、ディープフェイクの時代におけるメディア・リテラシーの重要性を警告するために学生によって作成されたものです。ディズニーをはじめとするハリウッドの大手スタジオも、俳優の老化防止や映画の高度な視覚効果にこのテクノロジーを使うことに投資しています。

以下に、ディープフェイク技術が詐欺、欺瞞、なりすましに使用された注目すべき4つの事例を紹介します。

2024年初頭、多国籍エンジニアリング会社のArup社は、ディープフェイク詐欺により2,500万米ドルの損失を被ったことを確認しました。

香港の従業員が、同社の英国オフィスから「秘密の」取引を要求するフィッシング・メールを受け取りました。当然、従業員は最初は懐疑的でした。最高財務責任者（CFO）や他の数人の従業員とビデオ電話に参加したことで、彼の疑いは収まりました。これらの顔と声を認識したため、2億香港ドル（2,560万米ドル）を送金したのです。詐欺が発覚するまで、この金は5つの異なる銀行に15回にわたって送金されました。

Arup社の最高デジタル情報責任者であるRob Greig氏は、世界経済フォーラムと当時のこの事件について話し合いました。Greig氏は、この事件をサイバー攻撃というよりは「テクノロジーが強化されたソーシャル・エンジニアリング」と表現しました。システムの侵害やデータへの不正アクセスはありませんでした。人々は騙され、本物の取引だと思っていたことを実行させられました。Greig氏は自身のディープフェイク・ビデオを作成しようとしましたが、完成には1時間もかかりませんでした。同氏はまた、このようなことは、人々が考えるよりも頻繁に起こっていると信じています。

この事件は、ディープフェイク・フィッシングが企業にもたらす壊滅的な金銭的損害を浮き彫りにしています。同様の事件は、高齢者が愛する人を装った緊急電話を受けるといった、個人を標的にしたものもあります。

ディープフェイクの危険は、著名人や企業幹部だけに及ぶものではありません。2024年、ボルチモアのある校長が、AIが生成した人種差別的・反ユダヤ的な発言をしているように見える音声クリップのせいで、人生をひっくり返されたという事件が起きました。

パイクスビル高校のEric Eiswert校長の音声クリップが捏造され、有害かつ侮蔑的な発言をしているように思われたため、オンライン上で拡散されました。このクリップは200万回以上の再生回数を記録しました。オンラインでも現実でも、多くの反発がありました。パイクスビルには黒人やユダヤ人の人口が多いため、地元住民は特に憤慨しました。

反発を受けてEiswert氏は休暇を取り、悪質な脅迫や嫌がらせを受ける中、自宅を警備するために警察が配置されました。学校ではセキュリティーも強化されました。

クリップが偽物であるというEiswertの最初の抗弁はあまり受け入れられず、Eiswertが説明責任を回避したため却下されました。クリップは2024年1月に最初に投稿されました。地元警察が録音が改ざんされたことを確認するのに4月までかかりました。警察は、偽の動画に関連した容疑で、同校の体育主任、Dazhon Darienを逮捕しました。Eiswert氏は、学校資金の盗難と勤務成績の問題でDarienを調査していました。2025年4月、Dazhon DarienはAIクローン作成ツールを購入したとして有罪判決を下されました。

この事件はEiswert氏の評判に悪影響を及ぼし、職を失い、別の学校に勤務することになりました。

初期の大規模なディープフェイク攻撃の1つは2019年に発生し、ディープフェイク音声が使われて英国企業から24万3000ドルが盗まれました。

名前が明らかにされていない英国のエネルギー会社のCEOが、ドイツの親会社のCEOから電話を受けました。英国のCEOは、その通話にはドイツのCEOの「メロディー」さえも含まれていたと指摘しました。詐欺師は合計3回電話をかけてきました。最初の電話では、英国のCEOに、ハンガリーのサプライヤーの銀行口座に243,000米ドルを送金するよう要求しました。CEOはそれに応じました。2回目の電話では、送金は返金されたと主張しました。3回目で最後の電話では、追加の支払いを求めてきました。英国CEOは、送金が実際には返金されていないことに気づき、その後の支払いを拒否しました。最初の金額はハンガリーの銀行口座に送金され、その後メキシコやその他の地域に送金されたため、送金元の特定は困難となっています。

この初期のディープフェイク詐欺事件は、こうした計画が後にいかに野心的で巧妙化されたものになるかを示す前兆となっています。

2025年6月に発生した最近の攻撃の1つとして、北朝鮮に拠点を置く脅威アクター・グループであるBlueNoroffは、ディープフェイク技術を利用して暗号通貨企業を標的にしました。

暗号通貨会社の従業員が、Google Meet用のCalendlyリンクを受け取りました。2週間後、従業員は脅威アクターが管理するZoom通話に参加しました。電話会議には、上級幹部のディープフェイク版が盛り込まれていました。従業員が音声の問題にあうと、攻撃者は悪意のあるZoom Extensionを送信しました。Zoom Extensionは、実際にはマルウェアを展開してシステム上で見つかった暗号ウォレットをハイジャックするスクリプトでした。

この攻撃は、脅威アクターが従来のソーシャル・エンジニアリングとリアルタイムのディープフェイクのなりすましを組み合わせて、エンド・ユーザーによる検証を大幅に困難にしていることを浮き彫りにしています。

ディープフェイクはもはや潜在的な脅威ではありません。その脅威と結果は極めて現実的かつ差し迫ったものとなっています。今日のディープフェイクは、多くの組織、特に金融業界が利用するようになったオンライン本人確認プロセスに対する信頼を損なう段階にあります。これまで以上に多くの人があらゆるデバイスで生体認証を使用して認証するようになり、ディープフェイクの悪意ある使用の増加により、今後5年以内、あるいはそれよりも早く、認証セキュリティを再考する必要が生じる可能性があります。

最近の攻撃で明らかになったように、リアルなディープフェイクを作成するための参入障壁は劇的に低下しました。クローン音声から完全な動画なりすましまで、ディープフェイクは詐欺師や不正行為者に力を与え、検知や防御をより困難にします。

深刻に受け止めるべきもう一つの側面は、学校のいじめっ子が仲間を嘲笑したり嫌がらせをしたり、教師を標的にしたり、あるいは他人を脅迫したり威嚇することを意図した状況で自分自身を描写しようとするディープフェイクの使用です。このネットいじめの傾向は時間とともに悪化するばかりであり、親は子供たちを教育し、潜在的な脅威に対して十分に警戒することが求められています。

脅威を理解することは、脅威から身を守るための第一歩です。エンドユーザーのセキュリティー研修を強化し、新たなディープフェイク検知ツールを活用することで、組織や個人がこの新たな脅威に対して対抗し始めることができます。

もっと詳しく知りたい方は、X-Forceのエキスパートに相談し、1対1のブリーフィングで、ディープフェイクとディープフェイクの脅威、そして被害が発生する前に脅威アクターを特定し攻撃者を阻止するためのトレーニング方法について話します。

当社のサイバー・レンジ・チームは、IBMの世界各地の拠点、オフィス、またはバーチャルでの戦いのようなトレーニングにご招待します。今すぐご相談ください。