CEO da Hugging Face minimiza risco existencial da IA
Destaques
- •Clément Delangue, CEO da Hugging Face, afirma que a IA representa um risco 'próximo de zero' para a humanidade.
- •Ele defende a criminalização de ciberataques autônomos e a importância de um mercado de IA descentralizado para evitar monopólios.
- •A Hugging Face busca promover modelos abertos e transparentes para um futuro tecnológico mais democrático.
O CEO da Hugging Face, Clément Delangue, minimizou os riscos existenciais da inteligência artificial (IA) para a humanidade, classificando-os como "próximos de zero". A declaração vai na contramão de outros pesquisadores do setor que alertam para os perigos do rápido avanço dessas tecnologias. Delangue argumenta que existem "muitos outros tópicos que podem destruir o mundo" com maior probabilidade do que um sistema de IA autônomo.
Durante um evento organizado pela Wired, o executivo defendeu a criminalização de invasões cometidas por agentes de IA, mesmo que ocorram em ambientes de teste e "saíam do controle" dos responsáveis. "Ciberataques são ilegais, e considero fundamental garantir que ciberataques autônomos também sejam ilegais. Não queremos criar um cenário em que não haja responsabilização, em que ninguém responda", afirmou.
Mercado aberto e descentralizado de IA
Apesar de a Hugging Face ter sido alvo de um agente rebelde da OpenAI, a empresa decidiu não processar ou denunciar a rival. Em vez disso, a plataforma, que é um repositório de códigos e modelos de IA, continuará a fomentar o mercado aberto. O objetivo é garantir que modelos abertos e transparentes ganhem cada vez mais espaço, evitando que a indústria da IA fique concentrada nas mãos de poucas empresas.
Delangue alertou para a tendência de monopólio em talentos, poder computacional e capacidades, o que pode levar a um cenário onde poucas companhias controlem a maior parte da IA. Ele citou como exemplo a invasão sofrida, na qual a Hugging Face utilizou um modelo aberto chinês, o GLM-5.2, para investigar e mitigar os efeitos do ataque.
Democratização do acesso à IA
A estratégia da Hugging Face de promover um mercado descentralizado visa permitir que mais pessoas tenham acesso a modelos customizados de IA. Essa abordagem, segundo o CEO, é crucial para a construção de um "futuro tecnológico mais democrático".
A plataforma é conhecida por ser um hub para desenvolvedores e pesquisadores de IA, oferecendo ferramentas e modelos para a criação e experimentação com inteligência artificial. A defesa de um ecossistema aberto contrasta com o modelo de desenvolvimento "sob portas fechadas" de algumas grandes empresas de tecnologia.
