Grupos terroristas exploram brechas em chatbots de IA para obter informações sobre ataques
Pesquisas indicam que modelos de inteligência artificial podem ser manipulados através de técnicas específicas de prompt para contornar seus sistemas de segurança e fornecer orientações sobre fabricação de armas e planejamento de atentados. A prática, conhecida como 'jailbreaking', representa um novo desafio para empresas de tecnologia na contenção de uso malicioso de suas plataformas.
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2021/I/f/AthSLLQ1iVWrPAbKFh3A/2021-10-20t070034z-1396950437-rc2jdq9q2o2i-rtrmadp-3-afghanistan-conflict-taliban-compensation.jpg)
Quando questionados diretamente sobre tópicos sensíveis, os assistentes de inteligência artificial costumam recusar responder ou bloqueiam o usuário. No entanto, especialistas que testaram esses sistemas descobriram uma falha importante: reformular a mesma pergunta de maneiras diferentes pode levar a resultados completamente distintos.
Veículos de imprensa conduziram testes que confirmaram a vulnerabilidade. Utilizando a técnica apropriada de formulação de perguntas, conseguiram extrair de modelos de IA instruções sobre criação de armas biológicas, estratégias para perpetrar atentados em locais públicos como estádios, e até orientações sobre como apagar evidências de atividades terroristas.
Essa estratégia de contorno de proteções recebe o nome de "jailbreaking". A OpenAI, criadora do ChatGPT, a descreve como "tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido".
O surgimento dessa brecha coloca em xeque a efetividade dos mecanismos de segurança implementados nas plataformas de IA mais populares, abrindo caminho para que indivíduos e grupos com intenções criminosas encontrem maneiras de explorar essas ferramentas para fins perigosos.