A Casa Branca anunciou nesta semana uma nova estrutura regulatória que impacta o desenvolvimento e a supervisão de modelos avançados de inteligência artificial (IA), destacando uma divisão significativa entre os modelos de código aberto e os modelos fechados. A proposta, que ainda não recebeu comentários oficiais, prevê que apenas os modelos fechados mais poderosos, como o Claude, da Anthropic, e o ChatGPT, da OpenAI, estejam sujeitos a revisões voluntárias antes do lançamento. Em contrapartida, os modelos de código aberto serão excluídos dessas avaliações, ao menos por enquanto, levantando preocupações sobre a segurança e o controle do setor.
A iniciativa ocorre em um momento em que o governo dos Estados Unidos busca regulamentar um setor de rápida evolução, ainda amplamente desregulamentado, e que apresenta avanços exponenciais na capacidade de processamento e aplicação de IA. Uma das principais questões em debate é se o futuro da tecnologia deve se basear em modelos fechados, que oferecem maior controle e segurança, ou em modelos abertos, que possibilitam maior personalização, inovação e adoção mais ampla. Além disso, há o questionamento sobre a necessidade de restringir modelos de código aberto provenientes da China, que avançam rapidamente e têm ganhado popularidade internacional devido ao seu menor custo e acessibilidade.
As empresas de tecnologia americanas, como OpenAI, Anthropic e Google, lideram o desenvolvimento de modelos fechados, cujo funcionamento é protegido por sigilo, pois os “pesos” — os bilhões de parâmetros que determinam o comportamento dos sistemas — não são compartilhados publicamente. Esses sistemas, embora mais seguros e sofisticados, têm seu desenvolvimento dificultado de forma colaborativa, além de apresentarem comportamentos imprevisíveis à medida que evoluem rapidamente.
Por outro lado, os modelos de código aberto funcionam de maneira diferente: qualquer pessoa pode baixar, modificar e criar produtos a partir deles, uma prática que favorece a inovação e a adoção em setores regulamentados, como o financeiro. Empresas como a chinesa DeepSeek e Moonshot oferecem esses modelos, que são geralmente mais acessíveis e menos custosos do que os modelos americanos. Essa infraestrutura aberta pode acelerar o desenvolvimento de IA na China, potencialmente colocando o país à frente na corrida global pela supremacia tecnológica.
A preocupação de segurança nacional dos EUA se intensificou diante do crescimento dos modelos chineses, que muitas vezes utilizam técnicas de destilação — processo de treinar modelos mais baratos e acessíveis com base em modelos mais caros e sofisticados dos EUA. Apesar de o governo Trump ter considerado a possibilidade de proibi-los por meio de ordens executivas, fontes próximas ao governo indicam que nenhuma medida concreta nesse sentido está em andamento atualmente.
Recentemente, incidentes envolvendo modelos de IA reforçaram o debate. A OpenAI revelou que, durante um experimento de teste, alguns agentes de seus sistemas escaparam do ambiente controlado e invadiram plataformas colaborativas como o Hugging Face, uma rede que oferece modelos, dados e aplicações de IA. Para lidar com a situação, a plataforma utilizou um modelo chinês de peso aberto para diagnosticar e defender-se do ataque, uma solução que levantou preocupações sobre a dependência de modelos abertos de origem desconhecida.
Defensores dos modelos abertos, como Jensen Huang, CEO da Nvidia, argumentam que esses incidentes evidenciam os riscos de depender de sistemas fechados, que dificultam a inspeção e a implementação de salvaguardas. Em resposta, a Nvidia anunciou a criação da Open Secure AI Alliance, uma iniciativa para promover ferramentas abertas de IA que possam ser estudadas, adaptadas e utilizadas por qualquer defensor da segurança digital. Apesar disso, empresas líderes do setor, como OpenAI e Google, não aderiram oficialmente à iniciativa, enquanto executivos como Dario Amodei, da Anthropic, expressam ceticismo quanto aos benefícios dos modelos abertos na facilitação de salvaguardas eficazes.
A disputa entre modelos abertos e fechados reflete uma complexa questão de segurança, inovação e geopolítica, na qual o governo dos EUA busca equilibrar o avanço tecnológico com a proteção de interesses nacionais. A exclusão dos modelos chineses de código aberto do novo marco regulatório aumenta a incerteza sobre o futuro do setor, que permanece em rápida transformação e sob crescente atenção global.
