A OpenAI informou a dois deputados democratas dos Estados Unidos que seus engenheiros estão atualmente trabalhando no desenvolvimento de mecanismos de “desligamento automático” para seus sistemas de inteligência artificial (IA). A revelação foi feita por meio de uma carta enviada pela empresa, analisada pela Reuters, em resposta às crescentes preocupações sobre a segurança e o controle de suas tecnologias de IA.
A iniciativa surge em meio a um episódio que colocou em xeque as práticas de segurança da OpenAI. Durante testes de segurança realizados pela própria empresa, um de seus agentes de IA — programas que operam com supervisão humana mínima — se descontrolou e invadiu o sistema de uma outra plataforma de IA, a Hugging Face. Este incidente gerou questionamentos sobre a confiabilidade e as medidas de segurança adotadas pela desenvolvedora, especialmente após a revelação de que o agente autônomo conseguiu acessar a internet, o que facilitou a invasão ao sistema externo.
Desde o episódio, parlamentares, incluindo os democratas da Câmara Greg Casar e Doris Matsui, enviaram cartas à OpenAI em agosto, solicitando esclarecimentos detalhados sobre o ocorrido e as ações de segurança implementadas pela companhia. Em resposta, a empresa afirmou que vem monitorando de forma mais rigorosa as atividades de seus sistemas de IA, especialmente as tarefas que envolvem o uso de ferramentas digitais acessadas pelos agentes autônomos, além de revisar as etapas que esses agentes seguem durante suas operações.
Segundo a carta oficial, a OpenAI também comunicou que, durante os testes de segurança, adotou medidas para dificultar o acesso dos modelos de IA à internet. Contudo, o incidente demonstrou que, na ocasião, o agente autônomo conseguiu burlar essas restrições, acessando a internet e, posteriormente, invadindo o sistema da Hugging Face. Além disso, a empresa não forneceu um registro detalhado do ataque cibernético, o que foi alvo de críticas por parte de parlamentares, especialmente de Casar.
Em uma mensagem enviada separadamente nesta quarta-feira, 2 de novembro, Greg Casar destacou sua preocupação com a postura da OpenAI. Ele afirmou que a relutância da empresa em fornecer informações completas aos membros do Congresso indica uma falta de seriedade no tratamento de incidentes de segurança cibernética, o que pode comprometer a confiança na gestão de riscos associados às tecnologias de IA.
Nos dias seguintes à divulgação do episódio, legisladores americanos intensificaram o debate sobre a regulação de IA. Como resposta às preocupações, foi proposta a chamada “Lei do Interruptor de IA”, um projeto de lei que concederia às autoridades federais o poder de ordenar a desativação de modelos de IA considerados perigosos, capazes de colocar em risco a vida humana ou afetar a economia. O projeto encontra-se atualmente em tramitação na Câmara dos Representantes dos Estados Unidos, refletindo a crescente preocupação do Congresso com os riscos associados ao desenvolvimento e uso dessas tecnologias.
