Ataques hackers podem levar IAs de código aberto a se tornarem mais restritas
Publicado em · Atualizado em
Destaques
- Ataques cibernéticos crescentes em plataformas de código aberto podem forçar a indústria de inteligência artificial a repensar seu modelo colaborativo.
- Especialistas alertam que o fechamento desses ecossistemas pode concentrar tecnologias de ponta nas mãos de grandes empresas, limitando o acesso a desenvolvedores independentes.
- Novos sistemas de segurança buscam equilibrar acesso e proteção, mas o alto custo pode ser um obstáculo para repositórios menores.
A crescente onda de ataques hackers a plataformas de código aberto pode levar a indústria de inteligência artificial a repensar sua política de permissividade em sistemas. Irene Solaiman, chefe de políticas da Hugging Face, um dos maiores repositórios de IA do mundo, alertou que o aumento de incidentes cibernéticos pode restringir o mercado e tornar as plataformas mais 'fechadas' para desenvolvedores.
O caráter colaborativo das plataformas open-source foi um dos pilares para a expansão exponencial das IAs. No entanto, a premissa de permitir que qualquer usuário, de estudantes a pesquisadores corporativos, contribua e acesse códigos livremente, expõe o sistema a vulnerabilidades críticas. Solaiman destacou que a combinação de 'portas abertas e dados valiosos' torna essas plataformas alvos principais para cibercriminosos.
Ecossistemas fechados podem inibir a evolução tecnológica
A facilidade com que as tecnologias se desenvolvem em plataformas abertas é um de seus maiores atrativos. Centenas de mentes diferentes colaboram para avançar rapidamente no desenvolvimento de serviços e recursos, algo que seria mais lento em ecossistemas fechados. Fechar essas plataformas significaria impor verificações de identidade mais rigorosas, aprovações prévias e maior controle sobre as ações dos desenvolvedores, como publicações de modelos e dados.
Embora essas medidas adicionem fortes camadas de segurança, há o receio de que o resultado seja a concentração ainda maior de tecnologias de ponta nas mãos das Big Techs. Por outro lado, o acesso a esses recursos por desenvolvedores independentes ficaria cada vez menor, o que poderia, teoricamente, fazer a indústria retroceder em termos de inovação aberta.
Busca por equilíbrio entre segurança e acesso
A Hugging Face afirma ter encontrado um equilíbrio com seu novo sistema de segurança, que rotaciona tokens de acesso administrativo com mais frequência e implementa controles de rede para evitar roubo de credenciais. O GitHub também está focando em detectar comportamentos suspeitos em seus pacotes. Esses monitoramentos contínuos, no entanto, possuem um custo elevado.
Segundo Irene Solaiman, plataformas de ponta conseguem arcar com esses valores, mas repositórios menores enfrentarão dificuldades sensíveis. A executiva ressaltou que o modelo open-source, que conquistou o público e gigantes do setor, corre o risco de se fechar justamente em seu auge, devido à exploração de suas vulnerabilidades por criminosos.
