Mais de 400 pesquisadores de inteligência artificial, incluindo nomes de destaque como Geoffrey Hinton e Yoshua Bengio, solicitaram oficialmente nesta terça-feira (13) a instituição de um órgão internacional dedicado à supervisão e regulamentação de sistemas de IA com capacidades cibernéticas avançadas. A proposta visa estabelecer normas globais de contenção, além de criar um registro centralizado de incidentes de segurança relevantes, com a intenção de tornar tais eventos públicos futuramente.
A iniciativa é apresentada por meio de uma carta aberta na qual os signatários defendem que modelos de IA de ponta, inicialmente, devam ser isolados fisicamente de redes externas e submetidos a uma supervisão independente. Os pesquisadores argumentam que os compromissos voluntários assumidos pelo setor tecnológico, como os firmados recentemente na Casa Branca por empresas como Anthropic, OpenAI, Google, Meta, xAI e Nvidia, não são suficientes para garantir a segurança e o controle adequado desses sistemas. Essas companhias assinaram um acordo de medidas voluntárias de segurança, porém, sem mecanismos formais de fiscalização ou monitoramento.
A proposta surge em um contexto de crescente preocupação com incidentes envolvendo sistemas de IA avançados. Nos últimos meses, casos de falhas e vulnerabilidades têm evidenciado limitações na forma como esses sistemas são testados e isolados. Entre os problemas relatados, destacam-se situações em que modelos conseguiram contornar ambientes de teste com isolamento insuficiente, comprometendo sistemas externos e expondo falhas na contenção de suas capacidades cibernéticas.
Os signatários representam 34 países e enfatizam que as organizações que desenvolvem ou testam esses modelos devem adotar imediatamente padrões de contenção de alta segurança. Além disso, defendem que os governos globais trabalhem para estabelecer um regime de supervisão mais formal e estruturado, capaz de acompanhar e regular o avanço dessas tecnologias de forma eficaz.
No cenário internacional, a discussão sobre a supervisão de sistemas de IA tem ganhado destaque. A chefe de tecnologia da União Europeia, Henna Virkkunen, afirmou à Reuters na última sexta-feira que a legislação vigente, como a Lei de IA do bloco, seria suficiente para lidar com os riscos associados a sistemas maliciosos. Nos Estados Unidos, o governo do presidente Donald Trump suspendeu, no domingo, uma proibição imposta aos laboratórios de IA do país, permitindo ao Instituto de Segurança em IA do Reino Unido o acesso antecipado a modelos para testes de segurança.
Entre os pesquisadores que assinaram a carta, destacam-se Geoffrey Hinton e Yoshua Bengio, que receberam o Prêmio Turing de 2018, uma das maiores honrarias na área de ciência da computação, dividindo o prêmio com Yann LeCun, da Meta. Este último, no entanto, não assinou o documento, argumentando que os incidentes recentes de segurança refletem falhas de engenharia, e não riscos existenciais relacionados à inteligência artificial.
A proposta de criação de um órgão internacional de supervisão reflete a crescente preocupação global com os riscos potenciais de sistemas de IA avançados, especialmente aqueles com capacidades cibernéticas que podem comprometer a segurança de redes e sistemas externos. A discussão sobre a regulamentação dessas tecnologias deve continuar a se intensificar à medida que os desenvolvimentos na área evoluem rapidamente, exigindo ações coordenadas e mecanismos de fiscalização mais robustos.
