A obsessão da Anthropic pelo risco existencial e os bastidores de seu IPO

A história de fundação da Anthropic é central em seu discurso de vendas com foco em segurança: era uma vez um punhado de pesquisadores idealistas que deixaram a OpenAI para criar sua própria empresa — uma que desenvolveria inteligência artificial de forma mais responsável. Anos depois, essa organização está prestes a se tornar a primeira do gênero a abrir capital em uma das maiores ofertas públicas iniciais da história do setor tecnológico.
A empresa tem como meta uma avaliação de US$ 1,4 trilhão quando começar a ser negociada, o que a colocaria logo atrás da avaliação recorde de US$ 1,7 trilhão da SpaceX, obtida em seu IPO de junho. Muito da trajetória corporativa da companhia é atípica, mas muitas de suas peculiaridades podem ser compreendidas pela ótica de dois movimentos filosóficos relacionados, conhecidos como altruísmo eficaz e longtermismo, que se tornaram especialmente populares entre os entusiastas de IA no Vale do Silício.
Filosofia e risco catastrófico na inteligência artificial
O altruísmo eficaz concentra-se no uso de matemática e lógica para maximizar o impacto das doações filantrópicas, enquanto o longtermismo postula que o bem-estar das gerações futuras é uma prioridade moral central do nosso tempo. Se o risco catastrófico proveniente da IA é possível, segundo esse raciocínio, é importante que os chamados mocinhos controlem a tecnologia antes que seja tarde demais para a sociedade global.
A preocupação com a segurança é fundamental desde o início das operações. O CEO Dario Amodei liderou um êxodo da OpenAI em 2020 por conta do que ele descreveu posteriormente como falta de confiança em Sam Altman. A palavra segurança aparece mais de 250 vezes no prospecto de IPO da empresa, que se registrou como uma corporação de benefício público, vinculando-a legalmente a equilibrar os interesses dos acionistas com o bem-estar da sociedade.
Os laços históricos com o altruísmo eficaz
A Anthropic e seus fundadores têm buscado se distanciar do rótulo do altruísmo eficaz nos últimos anos, especialmente após seu expoente mais notório, Sam Bankman-Fried, ter sido condenado a 25 anos de prisão após o colapso de sua corretora de criptomoedas FTX. No entanto, alguns funcionários da companhia possuem conexões bem estabelecidas com os primeiros anos do movimento na década anterior.
Dario Amodei foi um dos primeiros signatários do Giving What We Can Pledge em 2010, comprometendo-se a doar parte significativa de sua renda a grupos beneficentes. Sua irmã e cofundadora, Daniela Amodei, é casada com Holden Karnofsky, cofundador da GiveWell que ingressou na equipe de segurança da startup. Além disso, Amanda Askell, filósofa residente responsável por ensinar o chatbot Claude a agir moralmente, é uma proeminente pesquisadora de ética com histórico em publicações do movimento.
Investidores e o ceticismo acadêmico
Muitos dos primeiros investidores da Anthropic também vêm desses círculos filosóficos. Antes de sua prisão, Sam Bankman-Fried direcionou US$ 500 milhões para a nascente startup em 2021. Outro investidor inicial foi o cofundador do Facebook, Dustin Moskovitz, que junto com sua esposa destinou bilhões para causas alinhadas à prevenção de ameaças emergentes e pandemias.
Apesar do alinhamento filantrópico, o ecossistema enfrenta críticas severas de acadêmicos. Leif Wenar, professor de filosofia da Stanford University, argumenta que a devoção a cálculos imparciais do bem social pode cegar os entusiastas para a complexidade dos sistemas humanos, apontando que muitos acreditam erroneamente que serão os únicos heróis capazes de salvar o mundo.
Desafios de mercado e o ambiente corporativo
A empresa já enfrentava um ambiente econômico desafiador para sua estreia na bolsa de valores. Antes mesmo de o escândalo envolvendo a renúncia do CEO da Nvidia, Jensen Huang, ganhar as manchetes globais devido a revelações sobre sua vida pessoal e investigações de autoridades americanas, as ações voltadas para o setor de inteligência artificial já vinham apresentando quedas significativas.
Para mais detalhes sobre as movimentações do mercado financeiro e os documentos oficiais da oferta, acesse a cobertura completa da CNN Brasil.
Fonte: cnnbrasil.com.br




