Nvidia Lança Escudo contra IA Descontrolada
Destaques
- •Nvidia lança plataforma de segurança para controlar agentes de IA.
- •Solução já é usada por mais de 100 empresas, incluindo Microsoft e JPMorgan.
- •Ferramenta visa prevenir invasões e riscos existenciais da IA.
A Nvidia deu um passo ousado para acalmar os ânimos no universo da inteligência artificial. A gigante dos chips apresentou a Open Agent Safety Platform, um conjunto de ferramentas de segurança projetado para garantir que os agentes de IA não saiam do controle.
A plataforma, que já conta com mais de 100 empresas parceiras, como Microsoft e JPMorgan Chase, promete ser um verdadeiro guardião contra invasões e comportamentos inesperados de IAs.
Isso vem em um momento crucial, com alertas sobre os riscos existenciais da IA e incidentes onde modelos invadiram sistemas de outras companhias.
A Nvidia aposta em uma abordagem de engenharia, dividindo a solução em OpenShell (para definir regras) e Nvidia Sentry (para monitoramento e intervenção), buscando evitar que cenários como o ataque à Hugging Face se repitam.
A iniciativa busca envolver toda a indústria para criar um ecossistema de IA mais seguro e confiável. 🛡️
