Abschwächung böswilliger Absichten durch MISUSE-Bedrohungsmodellierung

Das MISUSE-Threadmodell-Framework kann Technologen dabei helfen, sichere Anwendungen und Geräte zu entwickeln und herauszufinden, wie Täter die Technologie manipulieren können, um gefährdete Personen zu schädigen.

Technologie ist mit nahezu allen Aspekten der Gesellschaft verwoben, wobei der Einfluss in beide Richtungen wirkt. Während Menschen und Gesellschaft den technologischen Wandel vorantreiben, können sich verändernde Technologien wiederum die Gesellschaft und das Individuum prägen, und diese Veränderungen können unglaublich schnell ablaufen.

Dieser rasante Wandel wird durch eine verstärkte Konzentration der gesamten Branche auf die Beschleunigung technologischer Entdeckungen gefördert. Dies hat dazu geführt, dass Technologen spannende neue Anwendungen und Geräte entwickelt haben, die buchstabsweise unsere Arbeitsweise und unser Leben verändern. Doch manchmal können der Drang nach Neuem und die Betonung des Positiven zunächst dazu führen, dass etwaige Nachteile einer Erfindung nicht erkannt werden.

Es stimmt zwar, dass Technologien weder von Natur aus gut noch von Natur aus schlecht sind, aber ihr Einsatz kann zu guten und schlechten Ergebnissen führen. Im besten Fall unterstützt Technologie Initiativen aller Art. Im schlimmsten Fall kommt es zu unvorhergesehenen Folgen oder gar zu böswilliger Nutzung.

Ein Bereich, in dem dieser gegensätzliche Charakter der Technologie besonders deutlich wird, ist die Zwangskontrolle – ein Muster dominierenden Verhaltens, das darauf abzielt, Angst und Gehorsam zu erzeugen. Technologie kann bei der Unterstützung schutzbedürftiger Personen eine Schlüsselrolle spielen – indem sie ihnen ermöglicht, Beweise zu sichern, hilfreiche Informationen zu finden und Unterstützung in Anspruch zu nehmen. Doch selbst die wohlmeinendsten Technologien können von Tätern genutzt werden, um böswillige Ziele zu erreichen, wie etwa Kontrolle, Belästigung und Stalking.

In Anerkennung dieses Problems veröffentlichte das IBM Policy Lab im Mai 2020 unsere Five Technology Design Principles to Combat Domestic Abuse, die sowohl das Bewusstsein für das Problem des durch Technologie gestützten Missbrauchs schärften als auch eine Möglichkeit vorschlugen, ihm durch Design entgegenzuwirken. Viele Technologen haben zwar den Wunsch, sichere Anwendungen und Geräte zu entwickeln, doch die Identifizierung der Methoden, mit denen Täter Technologie manipulieren können, um gefährdeten Personen Schaden zuzufügen, und die Entwicklung von Maßnahmen zur Verringerung dieser Manipulationen ist keine leichte Aufgabe.

Eine Methodik, die häufig zur Aufdeckung und Minimierung von Sicherheitslücken verwendet wird, ist die Bedrohungsmodellierung, ein praktischer Framework zum Verstehen, Identifizieren, Priorisieren und Mindern von Risiken. Viele herkömmliche Methoden zur Modellierung von Bedrohungen haben jedoch einen nach innen gerichteten Blickwinkel und betrachten Bedrohungen gegen die Assets des Unternehmens. Aufgrund dieser Sichtweise kann es schwierig sein, diese Frameworks anzuwenden, wenn es um Bedrohungen für Einzelpersonen geht, da sich die Ziele eines Täters von Zwangskontrolle von denen von Hackern unterscheiden.

Um das Denken hin zu einem nach außen gerichteten Fokus zu lenken, der das Risiko für den Einzelnen berücksichtigt, hat ein IBM-Team das Bedrohungsmodell-Framework MISUSE entwickelt. Dieses Framework führt eine andere Perspektive auf die Bedrohungsmodellierung ein und hilft Technologen, das gesamte Spektrum der Schäden zu erkennen, die ihre Technologien für Einzelpersonen darstellen könnten.

MISUSE ist ein Akronym, das verwendet wird, um mögliche böswilligen Absichten eines Täters bezüglich eines technisch unterstützen Missbrauchs zu identifizieren. Es zeigt sechs Bedrohungsdimensionen auf, die potenzielle Ziele für den böswilligen Einsatz von Technologie gegen eine anfällige Person zusammenfassen.

MANIPULATE – Lenkung, Kontrolle oder Beeinflussung gefährdeter Personen.

ISOLATE – Kontrolle des Kontakts, um gefährdete Personen von ihrem Unterstützungssystem zu trennen.

SPY – Überwachung und Verfolgung von Aktivitäten, Gesprächen und Aufenthaltsorten.

UNDERMINE – Herabsetzung des Selbstwertgefühls einer anfälligen Person oder Verminderung der Wahrnehmung dieser Person durch andere.

SCARE – Verletzliche Personen beunruhigen oder ängstigen.

EMBARRASS – Verletzliche Person dazu bringen, sich unsicher, ängstlich oder beschämt zu fühlen.

Wenn diese sechs Bedrohungsdimensionen das Herzstück der MISUSE-Bedrohungsmodellierung bilden, können Technologen Erkenntnisse darüber gewinnen, wie ihre Werke für Schadenszwecke umgewidmet werden könnten. Mit diesem Verständnis können sie darauf hinarbeiten, diese böswilligen Absichten zu entschärfen, indem sie die Sicherheit, den Datenschutz und die Benutzerfreundlichkeit ihrer Technologien verbessern.

Jeglichen Optimismus-Bias zu dämpfen und zu erkennen, dass Technologie zum Schaden missbraucht werden kann – und auch wird – bedeutet nicht, dass wir nicht weiterhin begeistert und hoffnungsvoll auf das Potenzial neuer Technologien blicken sollten. Wenn Sie den Framework nutzen, um umfassender darüber nachzudenken, wie Sie Sicherheit in Ihr Design integrieren können, werden die Nutzen der Technologie noch deutlicher. Technologen werden nicht nur das Leben der schwächsten Menschen unserer Gesellschaft verbessern, sondern auch die digitalen Technologien für alle verbessern.