IA: Vigilância evolui de observação para inferência de quem somos

A inteligência artificial (IA) está redefinindo o conceito de vigilância, migrando de um modelo de observação passiva para um sistema capaz de inferir quem somos a partir de dados aparentemente banais. Em vez de apenas registrar o que uma pessoa faz, como entrar em um prédio, sistemas de IA buscam deduzir sua identidade, cruzar informações de deslocamentos e identificar padrões comportamentais associados a indivíduos de "interesse". Essa mudança representa a construção de hipóteses sobre indivíduos, em vez de apenas documentar fatos.

Pesquisas indicam que rastros digitais, como locais frequentados, interações sociais e hábitos de consumo, podem revelar aspectos íntimos como personalidade, orientação sexual e posição política, mesmo sem declaração explícita. O problema reside no fato de que uma inferência, mesmo incorreta, pode causar danos significativos se for levada em conta. Além disso, a IA pode gerar classificações correlacionadas a características sensíveis, como raça, através de proxies como CEP e hábitos de consumo, mesmo que a variável original seja removida.

O passado como base para o presente algorítmico

Algoritmos de IA aprendem a partir de dados históricos, que frequentemente refletem vieses e desigualdades sociais. Registros policiais, por exemplo, podem indicar mais a presença policial em determinadas áreas do que a incidência de crimes, levando a um ciclo vicioso onde mais vigilância gera mais dados, que justificam mais vigilância. Isso pode perpetuar padrões históricos de policiamento e desigualdade sob uma aparência de objetividade técnica.

O reconhecimento facial é um exemplo do custo dessa abordagem, com estudos apontando diferenças de desempenho entre grupos demográficos. Um erro em um sistema de desbloqueio de celular é um incômodo, mas em investigações policiais pode ter consequências graves para inocentes.

Anomalias como suspeitas e a longevidade dos dados

Um cenário ainda mais preocupante é a identificação de anomalias. Sistemas de IA podem aprender o que é considerado "normal" para uma população e passar a sinalizar desvios, como o uso de aplicativos incomuns, mudanças de rotina ou o uso de criptografia, como suspeitos. Isso foi documentado em Xinjiang, na China, onde uma plataforma agregava dados para sinalizar comportamentos cotidianos como suspeitos no contexto da repressão a minorias muçulmanas.

A dimensão temporal dos dados coletados é outro ponto crítico. Informações coletadas sob um governo democrático e com salvaguardas podem ser herdadas por governos futuros, com intenções e estruturas de poder distintas. Esse fenômeno, conhecido como function creep, permite que dados coletados para uma finalidade específica sejam utilizados para outras, transformando bases de segurança em ferramentas de monitoramento e controle.

Governança de IA: um debate sobre poder e direitos

A questão central não é a tecnologia em si, mas quem a controla. Em instituições democráticas, com transparência e limites legais, a IA pode servir a fins legítimos. Contudo, em estruturas de poder sem contrapesos, seu efeito pode ser o oposto, amplificando o controle estatal. A perseguição algorítmica raramente começa de forma explícita, mas sim através da acumulação de dados, identidade, inferência e classificação, culminando em monitoramento automatizado e poder estatal.

A invisibilidade dessas classificações torna a contestação quase impossível. A resposta reside em subordinar a tecnologia aos direitos fundamentais, com princípios como proporcionalidade, privacidade, transparência e supervisão humana. Mecanismos concretos como a definição clara de finalidade e necessidade, minimização e prazo de coleta, acesso e auditoria, e a possibilidade de contestação e explicabilidade são cruciais.

A governança de transição, que garante controles mesmo com a mudança de administração, é fundamental. As salvaguardas devem estar em leis e autoridades independentes, não apenas na boa vontade de governantes. O debate sobre IA se torna, portanto, uma discussão sobre democracia e direitos humanos: como criar uma tecnologia poderosa para proteger a sociedade, mas limitada o suficiente para impedir seu uso como instrumento de perseguição por governos futuros.