Tecnologia & NegóciosRelevância BR: 3/10

Estudantes processam polícia e empresa de IA após erro de identificação em Maryland

Publicado em Atualizado em

Estudantes processam polícia e empresa de IA após erro de identificação em Maryland

Destaques

  • Sistema de IA da Omnilert identificou erroneamente um pacote de Doritos como arma de fogo
  • Mais de 99% dos alertas emitidos pelo software em escolas de Baltimore foram falsos positivos
  • Estudantes foram detidos e revistados por policiais armados após o alerta do sistema

Quatro estudantes e ex-alunos de uma escola de ensino médio em Maryland, nos Estados Unidos, entraram com uma ação judicial após serem detidos por policiais armados devido a uma falha em um sistema de segurança baseado em inteligência artificial. O software, desenvolvido pela empresa Omnilert, classificou erroneamente um pacote de salgadinhos Doritos como uma arma de fogo com 90% de confiança.

O incidente ocorreu em outubro do ano passado, após um treino de futebol americano. Os jovens, que aguardavam carona em uma área externa da escola, foram surpreendidos por seis viaturas policiais. Sob a mira de armas, os estudantes foram obrigados a se ajoelhar, foram algemados e submetidos a revistas, relatando posteriormente um profundo trauma e medo pela própria vida durante a abordagem.

Falhas no sistema de vigilância

A ação judicial questiona a eficácia da tecnologia utilizada pela Omnilert, que é comercializada como uma solução confiável para monitoramento de câmeras de segurança. O processo cita um levantamento do gabinete do inspetor-geral de educação de Maryland, revelando que mais de 99% dos alertas emitidos pelo sistema nas escolas públicas do condado de Baltimore foram falsos positivos, não justificando a mobilização policial.

Além da empresa de tecnologia, o processo inclui como réus a polícia do condado de Baltimore, o conselho de educação, agentes envolvidos na ação e o diretor da escola. Os advogados dos estudantes, representados pelo Lawyers' Committee for Civil Rights Under Law, argumentam que os jovens foram prejudicados tanto pela falha tecnológica quanto pela conduta dos adultos responsáveis por sua segurança.

Postura dos envolvidos

O processo aponta que o diretor da escola teria tratado o episódio com deboche em comunicações internas, utilizando emojis de riso ao comentar o caso com outros administradores, sem oferecer qualquer pedido de desculpas aos alunos. A Omnilert declarou anteriormente que está analisando o processo e lamentou o medo causado às famílias.

Por sua vez, representantes do condado de Baltimore afirmaram que não podem comentar processos judiciais em andamento. A ação judicial busca responsabilizar as partes envolvidas pelas falhas operacionais e pelo impacto psicológico causado aos estudantes durante a abordagem policial.

  1. Jensen Huang renuncia ao cargo de CEO da Nvidia após escândalo pessoal
  2. Anthropic realiza maior IPO da história, mas ações recuam após estreia na Nasdaq
  3. Matemático da Anthropic usa IA para propor solução à Hipótese de Riemann
  4. Google lança painel para usuários consultarem e editarem memórias do Gemini
  5. Amazon negocia compra da startup Decart por US$ 7,5 bilhões
  6. Binance sofre roubo de US$ 6,3 bilhões após ataque de engenharia social contra engenheiros

Receba as Melhores Notícias

Assine nossa newsletter e receba diariamente as notícias mais relevantes, sem viés político.

Edição matinal diária às 07:00 • 7 minutos de leitura • Gratuita.

Notícias Relacionadas