InovIA recebe financiamento para desenvolver IA de confiabilidade no Brasil
Destaques
- •A InovIA, empresa da Unicamp, recebeu financiamento da Finep para criar o GAMIR-IA, um sistema nacional de monitoramento de IA generativa.
- •O projeto visa identificar riscos, contradições e garantir a aderência das respostas de IAs às fontes originais, com foco no mercado brasileiro.
- •A tecnologia será desenvolvida em 36 meses e busca reduzir a dependência de soluções estrangeiras, com potencial para aplicação em diversos setores.
A InovIA, empresa residente no Parque Científico e Tecnológico da Universidade Estadual de Campinas (Unicamp), recebeu um financiamento da Financiadora de Estudos e Projetos (Finep) para desenvolver o GAMIR-IA. O projeto tem como objetivo criar uma solução nacional para monitorar e avaliar a confiabilidade de aplicações de inteligência artificial generativa em organizações.
A iniciativa foi contemplada pela chamada Finep Mais Inovação Brasil – Rodada 2 – Tecnologias Digitais. O GAMIR-IA se propõe a identificar riscos nas respostas geradas por sistemas de IA, detectar contradições, verificar a aderência às fontes consultadas e sinalizar situações que necessitam de revisão humana. Isso responde a um desafio crescente para empresas que adotam assistentes virtuais e agentes de IA em seus processos.
Supervisão e confiabilidade de IAs
O GAMIR-IA oferecerá uma camada de supervisão essencial para a adoção de IA generativa. Uma de suas funcionalidades será identificar respostas que não encontram respaldo nos documentos de referência, garantindo que as informações apresentadas pelo sistema correspondam às fontes disponíveis. A tecnologia também monitorará alterações no desempenho das aplicações após atualizações de modelos ou inclusão de novos documentos.
Outro componente importante será a identificação de riscos relacionados à exposição de informações sensíveis. A solução será desenvolvida para ser independente de fornecedores, operando com diferentes tecnologias e facilitando sua integração aos ambientes corporativos existentes.
Aplicações e validação nacional
A proposta do GAMIR-IA contempla aplicações em setores críticos como financeiro, saúde, jurídico, indústria e governo, onde a confiabilidade da informação e a proteção de dados são requisitos fundamentais. Com isso, a InovIA busca atender à demanda por mecanismos de governança e controle para que as organizações possam acompanhar o funcionamento e avaliar os resultados de seus sistemas de inteligência artificial.
O projeto, com duração prevista de 36 meses, contará com a colaboração do RECOD.ai, laboratório do Instituto de Computação (IC) da Unicamp, sob o comando do professor Gabriel Bertocco. A universidade será responsável pela criação de testes e pela avaliação dos métodos desenvolvidos, considerando as particularidades do português brasileiro e os desafios do processamento de documentos corporativos.
Tecnologia brasileira para o mercado
A InovIA ficará encarregada do desenvolvimento da solução e sua integração em ambientes de teste como o Uirapuru e o Classifica.ai. A expectativa é que o projeto resulte em uma tecnologia validada em estágio pré-comercial, pronta para ser lançada no mercado. O financiamento da Finep reforça a estratégia da empresa de transformar pesquisa aplicada em produtos comerciais.
O GAMIR-IA busca consolidar uma tecnologia brasileira para a supervisão de sistemas de IA, em um cenário de expansão da IA generativa que aumenta a necessidade de mecanismos de avaliação, controle e transparência. Além do mercado nacional, a iniciativa visa explorar oportunidades internacionais e reduzir a dependência de ferramentas estrangeiras na área.
