MISUSE脅威モデリングによる悪意のある意図の軽減

MISUSE スレッド・モデル・フレームワークは、技術者が安全なアプリケーションやデバイスを構築し、犯人がどのようにテクノロジーを操作して脆弱な個人に損害を与えているかを特定するのに役立ちます。

テクノロジーは社会のほぼすべての側面と密接に関わっており、その影響は双方向的です。人々や社会が技術の変化を推進する一方で、テクノロジーの変化が社会や個人を形作る場合があり、その変化は信じられないほど速いペースで行われます。

このような急速な変化に伴い、業界全体では技術的な発見を加速させることに重点が置かれています。これにより、技術者は私たちの働き方や生活方法を文字通り変革するエキサイティングな新しいアプリケーションやデバイスを生み出すようになりました。しかし、新しいものへの推進力やポジティブな点の強調は、最初は発明の欠点が認識されていないことを意味する場合があります。

テクノロジーが本質的に良いものでも本質的に悪いものもあることは確かですが、その使用は良い結果にも悪い結果にもつながります。最高のテクノロジーは、あらゆる種類の取り組みをサポートします。最悪の場合、予期せぬ結果や悪意のある使用が発生することもあります。

この対照的な性質のテクノロジーが特に顕著な領域の1つは、強制的コントロールです。これは、恐怖とコンプライアンスを植え付けることを目的とした支配的な行動のパターンです。テクノロジーは、脆弱な人々を支援する上で鍵となり、証拠を記録し、役立つ情報を見つけ、サポートにアクセスできるようにします。しかし、最も善意のテクノロジーであっても、温室効果ガス、コントロール、ハラスメント、ストーキングなどの悪意のある目的を実行するために、加害者によって利用される可能性があります。

2020年5月、IBMポリシー・ラボは、この問題が深刻化していることを認識し、「家庭内虐待と闘うための5つのテクノロジー・デザイン原則」を発表しました。しかし、多くの技術者は安全なアプリケーションやデバイスを構築したいという重要な願いを持っていますが、加害者がどのようにテクノロジーを操作して脆弱な個人に損害を与えているかを特定し、それらの操作を軽減するための措置を講じるのは簡単な作業ではありません。

セキュリティーの脆弱性を発見し、最小限に抑えるためによく使用される方法論の1つは、リスクの理解、特定、優先順位付け、軽減のための実用的なフレームワークである脅威モデリングです。しかし、従来の多くの脅威モデリング手法は、企業資産に対する脅威を考慮し、内部に焦点を当てた視点を持っています。この観点から、個人に対する脅威を考える際に、強制的管理の犯人の目的はハッカーの目的とは異なるため、これらのフレームワークを適用することが困難な場合があります。

個人に対するリスクを考慮する外向きの焦点に思考を移行するために、IBMチームはMISUSE脅威モデル・フレームワークを作成しました。このフレームワークは、異なる脅威モデリングの視点を導入し、技術者がテクノロジーが個人にもたらす可能性のあるあらゆる危害を認識できるようにします。

MISUSEは、テクノロジーを利用した不正行為を行う加害者の悪意のある意図を特定するために使用される頭字語です。これは、脆弱な人物に対してテクノロジーを悪意を持って利用する潜在的な目的をカプセル化した6つの脅威の側面を強調しています。

MANIPULATE – 脆弱な個人を誘導、制御、または影響を与えます。

ISOLATE – 連絡先を制御して、脆弱な個人をサポート・システムから切り離します。

SPY – アクティビティー、会話、場所の監視と追跡。

UNDERMINE – 脆弱な個人の自意識を損なうか、他者からの認識度を軽減すること。

SCARE – 脆弱な人々を不安に感じ、心配させ、脅かします。

EMARRASS – 脆弱な個人に自意識、不安、または孤独感を感じさせます。

これら6つの脅威の次元をMISUSE脅威モデリングの中心に据えることで、技術者は作成したデータがどのように危害のために再利用される可能性があるかについての洞察を得ることができます。この理解により、企業はテクノロジーのセキュリティー、プライバシー、使いやすさを向上させることで、これらの悪意を軽減することができます。

最適化バイアスを緩和し、テクノロジーが害を及ぼす可能性があること、そして実際に操作されているということを認識することは、私たちが新しいテクノロジーの可能性に期待し続けるべきではないということを意味します。実際、MISUSEフレームワークを採用して、設計に安全性を組み込む方法についてより幅広く考察することで、テクノロジーのメリットはより明らかになります。技術者は、社会で最も脆弱な人々の一部の生活を改善するだけでなく、すべての人のためにデジタルテクノロジーを強化します。