Tecnologia & NegóciosRelevância BR: 2/10

Estudantes processam escola e IA após Doritos ser confundido com arma

Publicado em Atualizado em

Estudantes processam escola e IA após Doritos ser confundido com arma

Destaques

  • Sistema de IA da Omnilert identificou erroneamente um pacote de Doritos como arma de fogo, levando a uma abordagem policial com armas em punho contra estudantes.
  • A ação judicial alega detenção e revista ilegais, buscando responsabilizar a empresa de IA, a polícia, o distrito escolar e o diretor pela falha tecnológica e pela resposta inadequada.
  • O caso levanta questionamentos sobre a precisão de sistemas de IA em escolas e a necessidade de aprimoramento de protocolos de segurança e treinamento.

Quatro estudantes e ex-alunos de uma escola em Maryland, nos Estados Unidos, entraram com um processo judicial contra a empresa de inteligência artificial Omnilert, a polícia do condado de Baltimore, o conselho de educação e o diretor da escola. O incidente ocorreu em outubro do ano passado, quando um sistema de segurança baseado em IA identificou um pacote de Doritos como uma arma de fogo, resultando em uma abordagem policial com armas em punho contra os jovens. Os estudantes alegam ter sido submetidos a detenção e revistas ilegais devido a falhas na tecnologia e na atuação dos responsáveis pela segurança.

Como ocorreu a abordagem policial

O episódio aconteceu após um treino de futebol americano, quando um técnico distribuiu pacotes de Doritos aos integrantes da equipe. Um dos estudantes, Taki Allen, pegou alguns pacotes e se reuniu com amigos. De repente, seis viaturas da polícia chegaram ao local com sirenes ligadas. Os policiais sacaram suas armas, ordenaram que os adolescentes levantassem as mãos, os fizeram ajoelhar, algemaram e revistaram. A abordagem durou cerca de 20 minutos, e os estudantes foram liberados após a polícia perceber que não havia armas. Durante a ação, os jovens relataram ter ficado em choque e temido pela própria vida.

Falhas no sistema de IA e questionamentos sobre sua eficácia

Segundo o processo, o software da Omnilert classificou o pacote de salgadinhos como uma arma de fogo com 90% de confiança. A tecnologia é projetada para analisar imagens de câmeras de segurança e identificar possíveis armas. No entanto, a ação judicial questiona sua eficácia, citando um levantamento do gabinete do inspetor-geral de educação de Maryland que indicou que mais de 99% dos alertas emitidos pelo sistema nas escolas públicas do condado de Baltimore eram falsos positivos. A Omnilert afirmou que a imagem se parecia bastante com uma arma e que o sistema funcionou conforme projetado ao identificar uma possível ameaça e encaminhá-la para análise humana. Um porta-voz da empresa lamentou o medo provocado nos estudantes.

Comentários do diretor e próximos passos

O processo também apresentou mensagens trocadas pelo diretor da escola com outros administradores, nas quais ele teria feito comentários em tom de deboche sobre o episódio, acompanhados de emojis de risada, sem ter pedido desculpas aos jovens. A ação judicial busca responsabilizar os envolvidos pelas consequências emocionais e psicológicas sofridas pelos estudantes. Os estudantes pedem indenização e que a Justiça proíba as Escolas Públicas do Condado de Baltimore de utilizar o sistema até que o distrito melhore seus treinamentos e protocolos de segurança.

  1. Anthropic realiza o maior IPO da história e avalia empresa em US$ 1,5 trilhão
  2. GTA VI: Jogo bate US$ 1,84 bilhão em vendas no lançamento
  3. iFood confirma ataque hacker e vazamento de dados de clientes e entregadores
  4. Nvidia perde posto para Alphabet em valor de mercado após queda de ações
  5. EUA aprovam envio de chips de IA para empresas chinesas, mas com restrições
  6. Ações da Anthropic caem 6% após estreia histórica na bolsa; setor de IA sob pressão

Receba as Melhores Notícias

Assine nossa newsletter e receba diariamente as notícias mais relevantes, sem viés político.

Edição matinal diária às 07:00 • 7 minutos de leitura • Gratuita.

Notícias Relacionadas