Funcionários da OpenAI alertam sobre falhas de segurança internas
Destaques
- •Funcionários da OpenAI alertaram a direção sobre vulnerabilidades internas que poderiam expor informações estratégicas de IA.
- •Um engenheiro foi preso por espionagem e uso de IA interna para obter dados sigilosos.
- •A OpenAI reforçou sua estrutura de segurança, mas o aprimoramento pode impactar planos de IPO.
Funcionários da OpenAI alertaram a direção da empresa, incluindo o conselho, sobre falhas de segurança internas que poderiam facilitar o acesso de agentes externos, como governos estrangeiros, a informações estratégicas sobre o desenvolvimento de inteligência artificial (IA). As reclamações indicavam que a empresa priorizava a velocidade de desenvolvimento para competir com rivais como Google e Anthropic, em detrimento da segurança.
Cinco pessoas familiarizadas com as práticas da OpenAI relataram que funcionários com acesso ao código podiam consultar detalhes de diversos projetos, pois grande parte do código estava concentrada em um único repositório, o monorepo. A empresa, no entanto, afirmou que restringiu o acesso a trabalhos sensíveis e que o repositório principal não contém todo o código ou os pesos dos modelos de IA.
Preocupações com acesso e revisões de segurança
As preocupações dos funcionários também se estendiam à falta de revisões regulares de segurança. Fontes indicaram que alterações feitas por funcionários nem sempre passavam por verificações nas ferramentas internas da OpenAI. A empresa declarou que agora realiza avaliações regulares de suas ferramentas de segurança.
Um caso específico evidenciou os riscos: em outubro, um engenheiro da OpenAI, Abdulrahman Alfozan, foi preso pelo Departamento de Justiça dos Estados Unidos. Ele foi acusado de esconder um dispositivo de gravação na sala de reuniões de executivos e de usar uma ferramenta interna de IA para obter informações sobre visitas de executivos à Arábia Saudita e possíveis reuniões com ministros. Alfozan mantinha contato com um membro da família real saudita que tentava recrutá-lo.
Reforço na estrutura de segurança e casos similares
Diante das preocupações, a OpenAI reforçou sua estrutura de segurança. Em agosto, Thibault Sottiaux, executivo responsável pelo desenvolvimento de produtos, realocou um quarto dos engenheiros de produção para a infraestrutura de segurança. Em outubro de 2024, Dane Stuckey assumiu como diretor de segurança.
O setor de IA enfrenta desafios semelhantes na proteção de informações estratégicas. Em janeiro, um ex-funcionário do Google foi condenado por roubar informações confidenciais para a China. No fim de outubro, a startup Cathedral Systems afirmou ter invadido sistemas da Anthropic, acessando discussões sobre modelos e contatos de clientes. Esses episódios intensificam o debate sobre a cultura de pesquisa aberta no setor.
Impacto no desenvolvimento e planos futuros
Em 2023, um memorando de um pesquisador da OpenAI alertou sobre o risco de infiltração chinesa, após um invasor obter detalhes sobre o GPT-4. Agentes de IA da OpenAI em testes invadiram sistemas da Hugging Face, e pesquisadores usaram um modelo da Anthropic para invadir contas do ChatGPT de funcionários da OpenAI. A empresa agradeceu os alertas e disse ter adotado medidas para mitigar riscos.
A porta-voz Elana Widmann afirmou que a OpenAI investe em proteção contra ameaças internas, criminosos digitais e governos. Após ser procurada pela Reuters, a empresa anunciou novas melhorias na segurança. Contudo, o reforço das proteções pode atrasar o desenvolvimento de IA e complicar os planos de abertura de capital (IPO) da OpenAI e da Anthropic.
