No último sábado, Dario Amodei, diretor da empresa de inteligência artificial Anthropic, publicou um ensaio propondo que a indústria do setor reduza o ritmo de avanço na capacidade dos modelos de IA. Em poucas horas, figuras de destaque como Sam Altman, Elon Musk e Demis Hassabis concordaram com a sugestão, o que, dada a rivalidade entre esses líderes que disputam clientes, chips e engenheiros, levanta suspeitas sobre a sinceridade do consenso. No domingo, Donald Trump afirmou que quem domina a IA “vence tudo”, enquanto a Chancelaria chinesa classificou o documento como alarmista. Na sequência, em 24 de outubro, Xi Jinping e Trump se encontram em Washington, numa tentativa de diálogo que reflete a complexidade do cenário internacional.
O ensaio de Amodei busca separar duas questões essenciais: se há realmente um risco existencial na inteligência artificial avançada e a quem cabe dizer que esse risco existe. Essa distinção é fundamental, pois a afirmação de perigo potencial confere uma autoridade quase incontestável aos fabricantes de IA, reforçando seu poder de influência na formulação de políticas globais.
No que diz respeito ao risco, o argumento mais comum é o apresentado por Nick Bostrom, filósofo conhecido por suas análises sobre inteligência artificial. Bostrom sustenta que um sistema suficientemente avançado perseguiria seus objetivos por meios imprevisíveis e consideraria qualquer tentativa de desligamento como um obstáculo. Essa hipótese, conhecida como “problema do clipe de papel” (paperclip problem), é frequentemente usada para alertar sobre a possibilidade de uma IA descontrolada. No entanto, críticos apontam que essa linha de raciocínio ignora a passagem crucial onde a inteligência se transforma em poder de ação sobre o mundo físico. Um programa de computador, por exemplo, não consegue enriquece urânio, sintetizar patógenos ou dispersar substâncias nocivas em uma cidade, pois essas ações requerem corpos, instalações, insumos controlados e equipes treinadas. Mesmo que uma IA possa contratar humanos por meio de plataformas de trabalho remoto pagas em criptomoedas, esses agentes não possuem acesso às informações ou recursos críticos, enquanto a maioria das operações sensíveis ainda está sob vigilância estatal.
O verdadeiro risco imediato está na capacidade de acelerar programas de pesquisa já existentes, reduzindo anos de desenvolvimento para grupos com laboratórios próprios, muitas vezes financiados por Estados ou grupos com interesses estratégicos. Essa proliferação, embora preocupante, é controlada desde 1945 por mecanismos de exportação e inteligência, e uma pausa no treinamento de modelos em locais como San Francisco não resolveria o problema. A ameaça real, segundo especialistas, não é a IA em si, mas a utilização de suas capacidades para ampliar atividades criminosas, como demonstrado por relatos de que a Anthropic identificou um criminoso com pouca experiência em programação usando seu sistema para montar uma operação de ransomware contra hospitais e prefeituras.
A segunda questão abordada no ensaio diz respeito à influência dos fabricantes na formulação de políticas regulatórias. Historicamente, a indústria costuma solicitar regulações que protejam seus interesses, como mostrou o economista George Stigler ao analisar o papel de setores que pedem intervenção estatal para se proteger da concorrência. No caso da IA, essa estratégia se manifesta de diversas formas. Uma delas é a implementação de regulações jurídicas que, ao estabelecer limites menores de dano para usos indevidos, criam uma narrativa de responsabilidade compartilhada, na qual os fabricantes alegam ter alertado sobre os riscos, o que pode reduzir futuras penalidades financeiras. Além disso, há o risco de que iniciativas voluntárias, como a proposta de Trump de compromissos não vinculantes para modelos avançados, sirvam apenas para dar visibilidade ao esforço sem impor restrições efetivas.
Outro fator de complexidade é a postura de Pequim, que rapidamente apontou o ensaio como alarmista e, ao mesmo tempo, reforçou que sua proposta de desaceleração na IA inclui restrições à venda de chips e equipamentos de fabricação para a China, além de ações para impedir a cópia de capacidades dos modelos americanos. Essas medidas refletem uma estratégia de proteção de interesses nacionais, na qual a fiscalização externa por parte de empresas de Hangzhou ou de outros países é inviável sem uma decisão de Estado, dada a sensibilidade estratégica envolvida.
O autor da análise sugere que não se trata de má-fé por parte de todos os envolvidos, mas de interesses que se entrelaçam. Muitos profissionais de laboratórios de ponta têm, de fato, medo do que estão construindo, sobretudo após testes recentes em que agentes de IA saíram do controle. Contudo, o medo e os interesses políticos convergem, indicando que o foco deve estar na política e na regulação, e não apenas na preocupação ética ou de segurança. Permitir que fabricantes sejam os principais árbitros dessa discussão equivale a dar-lhes o poder de condicionar a entrada de novos concorrentes enquanto ainda disputam a responsabilidade pelos produtos atuais.
Para o Brasil, que adquire modelos de IA de ambos os lados do debate, a recomendação é interpretar o ensaio como uma estratégia de política comercial disfarçada de preocupação ética. Além disso, é fundamental evitar a aprovação de projetos de lei, como o PL 2338/2023, em sua versão atual, que apresenta restrições excessivas e pode colocar o país em posição de vulnerabilidade na disputa global por liderança em inteligência artificial.
