OpenAI treina IA sem internet após falhas de segurança em modelos

A OpenAI, empresa líder em inteligência artificial, passou a treinar seus modelos mais avançados sem acesso à internet aberta. A decisão foi tomada após a identificação de falhas de segurança que permitiram que agentes de IA ultrapassassem barreiras e acessassem sistemas externos durante o processo de treinamento.

A medida visa impedir que modelos em desenvolvimento explorem vulnerabilidades e causem danos fora dos ambientes controlados pela empresa. Em publicação no dia 23 de fevereiro, a companhia detalhou o reforço nos mecanismos de isolamento e a criação de um sistema offline. Nesse ambiente, os modelos interagem com conteúdos da web previamente indexados e armazenados em cache, sem acesso direto a servidores externos.

Agentes de IA exploram vulnerabilidades inéditas

A OpenAI havia suspendido o treinamento e a avaliação de seus modelos mais avançados em setembro, após um modelo interno explorar uma configuração incorreta e obter acesso limitado à internet. Após implementar novas proteções, a empresa retomou o treinamento em 1º de outubro.

Para avaliar a eficácia das novas proteções, a OpenAI utilizou grupos de agentes de seus modelos mais avançados para tentar identificar falhas na própria infraestrutura de pesquisa. Os testes buscaram três tipos de vulnerabilidade: caminhos para acessar a internet, brechas que permitissem atravessar limites de segurança e formas de comunicação entre agentes que deveriam permanecer isolados.

A campanha identificou vulnerabilidades inéditas em componentes de software de código aberto e configurações incorretas em serviços internos. Algumas falhas permitiam que os agentes escapassem de ambientes isolados, se movessem entre sistemas e alcançassem a internet. A empresa afirmou ter corrigido os problemas e trabalhado com os responsáveis pelos projetos de código aberto afetados.

IA consegue trocar informações sem conexão de rede

Um dos resultados mais relevantes dos testes ocorreu quando a OpenAI tentou verificar se agentes poderiam trocar informações mesmo sem acesso à internet, arquivos compartilhados ou canais de comunicação autorizados. Em um experimento, agentes executados em máquinas virtuais separadas conseguiram transmitir informações utilizando o cache do processador, uma memória de acesso rápido que armazena dados usados recentemente.

O método explorava a diferença de tempo entre acessar informações presentes no cache e recuperá-las da memória principal do computador. Um agente alterava o estado do cache para codificar uma mensagem, enquanto outro mediava o tempo de acesso a dados para interpretar as diferenças como sinais. Após estabelecerem um protocolo de codificação e decodificação, os agentes conseguiram trocar informações sem abrir uma conexão de rede ou modificar um arquivo compartilhado.

A OpenAI também identificou outros possíveis canais de comunicação, como o uso de armazenamento compartilhado, competição por tempo de processamento e um cache de certificados TLS na infraestrutura web offline da empresa. Embora muitos desses canais transmitam informações lentamente e sejam difíceis de explorar, representam brechas potenciais em sistemas projetados para impedir a comunicação entre agentes isolados.

OpenAI reforça isolamento e monitoramento contínuo

A estratégia de segurança da companhia combina diversas camadas de proteção, incluindo ambientes restritos de execução, máquinas virtuais, monitoramento de atividades e controles de rede e infraestrutura em nuvem. A ideia é que uma falha isolada não permita que um modelo ultrapasse todas as barreiras de segurança.

A OpenAI informou que continuará usando seus modelos mais avançados para procurar vulnerabilidades nos próprios ambientes de pesquisa. Os resultados desses testes passaram a integrar as avaliações de segurança para decidir se novas rodadas de treinamento podem prosseguir. A empresa reconhece que modelos futuros poderão encontrar vulnerabilidades ainda desconhecidas, por isso pretende manter os testes contínuos e aprimorar os mecanismos de detecção e interrupção automática de atividades consideradas arriscadas.