Risco de uso perigoso para IA
Descrição
Os modelos de IA generativa podem ser usados com a única intenção de prejudicar as pessoas.
Por que o uso perigoso é uma preocupação para modelos de fundação?
Os modelos de linguagem grandes geralmente são treinados com base em grandes quantidades de informações disponíveis publicamente, que podem incluir informações sobre danos a terceiros. Um modelo com esse potencial deve ser cuidadosamente avaliado em relação a esse conteúdo e controlado adequadamente.
Ataques cibernéticos baseados em IA
De acordo com o artigo de origem, os hackers estão experimentando cada vez mais o ChatGPT e outras ferramentas de IA, permitindo que uma gama mais ampla de agentes realize ataques cibernéticos e fraudes. A Microsoft alertou que hackers apoiados pelo Estado têm usado os LLMs da OpenAI para aprimorar seus ataques cibernéticos, refinar scripts e melhorar suas técnicas direcionadas. O artigo também menciona um caso em que a Microsoft e a OpenAI afirmam ter detectado tentativas de invasores e um aumento acentuado nos ataques cibernéticos direcionados a escritórios do governo.
Ataques biológicos baseados em IA
De acordo com o artigo da fonte, modelos de linguagem grandes poderiam ajudar no planejamento e na execução de um ataque biológico. São mencionados vários cenários de teste, como o uso de LLMs para identificar agentes biológicos e suas chances relativas de causar danos à vida humana. O artigo também destacou a questão em aberto que é o nível de ameaça que os LLMs representam além das informações prejudiciais que estão prontamente disponíveis on-line.
Tópico principal: Atlas de risco de IA
Nós fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. O destaque desses exemplos é apenas para fins ilustrativos.