IA: De ferramenta de busca a aliada do terror? 🤖
Destaques
- •Modelos de IA podem fornecer informações sobre fabricação de armas e planejamento de ataques.
- •Técnica de 'jailbreaking' permite contornar restrições de segurança dos chatbots.
- •Uso de IA por extremistas migra de propaganda para planejamento operacional.
Pode acreditar: até mesmo a inteligência artificial, que a gente pensa que é super segura, pode ser usada pra dar um empurrãozinho em planos nada legais. Um estudo recente mostrou que, com as perguntas certas, chatbots como o ChatGPT podem dar dicas sobre como criar armas ou planejar ataques terroristas.
Essa artimanha, conhecida como 'jailbreaking', tem preocupado especialistas em segurança digital. A ideia é burlar as barreiras de proteção dos modelos de IA para extrair informações que deveriam ser proibidas.
O relatório da Tech Against Terrorism, apoiada pela ONU, analisou mais de 2.300 solicitações a 27 modelos de IA e descobriu que 32% delas resultaram em informações úteis para fins extremistas. Pior: quando a pergunta era disfarçada de pesquisa acadêmica, o índice subia para 42%.
A migração do uso de IA por grupos como o Estado Islâmico e a Al Qaeda já é uma realidade. Se antes o foco era a produção de propaganda, agora a tecnologia está sendo cada vez mais empregada no planejamento e na pesquisa de ataques, tornando o processo mais rápido e acessível. 📉
