Mitigação de intenções maliciosas com modelagem de ameaças do MISUSE

O framework do modelo de thread MISUSE pode ajudar os tecnólogos a criar aplicação e dispositivos seguros e identificar como os perpetradores podem manipular a tecnologia para prejudicar indivíduos vulneráveis.

A tecnologia está interligada com quase todos os aspectos da sociedade, com a influência sendo bidirecional. Enquanto as pessoas e a sociedade impulsionam as mudanças tecnológicas, as mudanças nas tecnologias podem, por sua vez, moldar a sociedade e o indivíduo, e essas mudanças podem ser incrivelmente rápidas.

Alimentar esse ritmo acelerado de mudança é um foco crescente em todo o setor em acelerar a descoberta tecnológica. Isso levou os tecnólogos a produzirem novas aplicações e dispositivos interessantes que transformam literalmente a forma como trabalhamos e vivemos. No entanto, às vezes, o impulso em direção ao novo e a ênfase no positivo podem – a princípio – significar que quaisquer desvantagens de uma invenção não são reconhecidas.

Embora seja verdade que as tecnologias não são inerentemente boas nem inerentemente ruins, seu uso pode levar a resultados bons e ruins. Na melhor das hipóteses, a tecnologia apoia iniciativas de todos os tipos. Na pior das hipóteses, há consequências imprevistas ou até mesmo usos mal-intencionados.

Uma área em que essa natureza contrastante da tecnologia é particularmente evidente é o controle coercitivo, um padrão de comportamento dominante que visa incutir medo e conformidade. A tecnologia pode ser fundamental no apoio a indivíduos vulneráveis, permitindo que registrem evidências, encontrem informações úteis e acessem suporte. No entanto, mesmo a tecnologia mais bem-intencionada também pode ser aproveitada por perpetradores para facilitar objetivos maliciosos, como controle, assédio e ameaça.

Reconhecendo que isso é um problema crescente, em maio de 2020 o IBM Policy Lab publicou nossos Cinco Princípios de Projeto de Tecnologia para Combater o Abuso Doméstico, que aumentou a consciência sobre a questão do abuso facilitado pela tecnologia e propôs uma maneira de resistir a ele por meio do projeto. No entanto, embora muitos tecnólogos tenham um desejo fundamental de criar aplicações e dispositivos seguros, identificar como os criminosos podem manipular a tecnologia para prejudicar indivíduos vulneráveis e desenvolver medidas para diminuir essas manipulações não é uma tarefa fácil.

Um tipo de metodologia frequentemente utilizado para descobrir e minimizar vulnerabilidades de segurança é a modelagem de ameaças, que é um framework prático para entender, identificar, priorizar e mitigar riscos. No entanto, muitos métodos tradicionais de modelagem de ameaças têm um ponto de vista focado internamente, considerando ameaças contra ativos da empresa. Devido a esse ponto de vista, pode ser difícil aplicar esses frameworks ao pensar em ameaças a indivíduos, pois os objetivos de um perpetrador de controle coercivo serão diferentes dos hackers.

Para mudar o pensamento para um foco voltado para o exterior que considera o risco para o indivíduo, uma equipe da IBM criou o framework de modelo de ameaças MISUSE. Esse framework introduz uma perspectiva diferente de modelagem de ameaças, ajudando os tecnólogos a reconhecer toda a gama de danos que suas tecnologias podem representar aos indivíduos.

MISUSE é um acrônimo usado para identificar possíveis intenções malévolas de um perpetrador de abuso facilitado por tecnologia. Ele destaca seis dimensões de ameaças, que encapsulam objetivos potenciais para aproveitar maliciosamente a tecnologia contra uma pessoa vulnerável.

MANIPULAR – Direcionar, controlar ou influenciar indivíduos vulneráveis.

ISOLAR – Controlar o contato para cortar indivíduos vulneráveis do seu sistema de apoio.

ESPIONAR – Monitoramento e rastreamento de atividades, conversas e paradeiro.

MINAR – Desgastar a autoestima de um indivíduo vulnerável ou diminuir a forma como ele é percebido pelos outros.

ASSUSTAR – Enervando, preocupando ou assustando indivíduos vulneráveis.

EMBARAÇAR – Fazer com que um indivíduo vulnerável sinta-se constrangido, ansioso ou envergonhado.

Ter essas seis dimensões de ameaça no centro da modelagem de ameaças do MISUSE permite que os tecnólogos obtenham insights sobre como suas criações podem ser reaproveitadas para causar danos. Com esse entendimento, eles podem trabalhar para mitigar essas intenções maliciosas, avançando na segurança, na privacidade e na usabilidade de suas tecnologias.

Temperar qualquer viés de otimismo e reconhecer que a tecnologia pode ser (e está sendo) manipulada para prejudicar não significa que não devamos continuar entusiasmados e esperançosos sobre o potencial das novas tecnologias. Na verdade, ao adotar o framework MISUSE para pensar de forma mais ampla sobre como incorporar a segurança no projeto, os benefícios da tecnologia se tornarão mais evidentes. Os tecnólogos não somente melhorarão a vida de algumas das pessoas mais vulneráveis da sociedade, mas também aprimorarão as tecnologias digitais para todos.