Dario Amodei: A mente por trás da Anthropic e a busca por uma IA segura

Dario Amodei, CEO da Anthropic, empresa prestes a realizar uma das maiores aberturas de capital do mundo, é movido por uma visão de mundo moldada pelas filosofias do "racionalismo" e do "altruísmo eficaz". Essas correntes de pensamento, que ele abraçou desde jovem, compartilham a crença de que o raciocínio matemático pode moldar o futuro da humanidade e que a inteligência artificial (IA) representa tanto um potencial imenso quanto um risco existencial.

Amodei, que se doutorou em Física e se aprofundou em temas como a Singularidade e os perigos da IA, acredita que a tecnologia deve ser construída "do jeito certo" para evitar consequências catastróficas. Essa convicção o levou a fundar a Anthropic em 2021, ao lado de sua irmã Daniela Amodei e outros colegas com visões semelhantes, com o objetivo declarado de criar IA de forma responsável e segura, antes que outros o façam sem as devidas precauções.

O caminho para a Anthropic

Desde cedo, Amodei demonstrou um interesse profundo por ideias que buscavam otimizar o bem social e a eficiência. Na adolescência e na faculdade, ele se dedicou a leituras sobre utilitarismo, transumanismo e os potenciais impactos da IA. Sua formação acadêmica em física na Caltech e Stanford, seguida por um doutorado em Princeton, o aproximou de debates sobre a aplicação da física à biologia e neurociência computacional, além de pesquisas sobre células da retina e câncer.

Durante seus estudos, Amodei se envolveu com comunidades online como o GiveWell, focada em maximizar a eficácia de doações filantrópicas, e com pensadores como Ray Kurzweil e Eliezer Yudkowsky. Essas influências, combinadas com experiências pessoais como a morte de seu pai e um diagnóstico de câncer, reforçaram sua percepção sobre a finitude do tempo e a importância de acelerar o progresso científico de forma segura.

Carreira e divergências na OpenAI

Amodei teve passagens por empresas como Baidu e Google Brain, onde se concentrou em segurança de IA. Em 2016, ingressou na OpenAI, onde liderou equipes de segurança e estudou as "leis de escala" da IA. Na OpenAI, suas convicções sobre o desenvolvimento responsável da tecnologia se intensificaram, levando-o a defender a regulamentação da IA e a expressar preocupações com o uso militar da tecnologia e a venda de chips para a China.

No entanto, suas visões geraram atritos. Amodei se opôs a certas práticas e decisões na OpenAI, incluindo a influência de investidores como Peter Thiel e a gestão de projetos como o GPT. Em dezembro de 2020, após divergências com o CEO Sam Altman, Amodei, sua irmã Daniela e outros colegas deixaram a OpenAI para fundar a Anthropic.

Visão de futuro e críticas

A Anthropic se posiciona como uma empresa que prioriza a segurança e a ética no desenvolvimento de IA. Amodei tem sido vocal em debates geopolíticos, defendendo a restrição da venda de chips à China para limitar a capacidade do país em IA e argumentando que a tecnologia não deve ser usada para vigilância em massa ou em armas autônomas. Sua abordagem, no entanto, o tornou alvo de críticas de figuras como Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, que o rotulam como "doomer" e o acusam de tentar centralizar o poder em IA.

Apesar das críticas, Amodei busca diferenciar suas crenças do racionalismo e altruísmo eficaz tradicionais, afirmando que não se considera um altruísta eficaz. Com a Anthropic prestes a realizar uma abertura de capital significativa, o debate sobre o futuro da IA e a abordagem de Amodei continua em destaque no cenário tecnológico e regulatório.