O presidente-executivo da Nvidia, Jensen Huang, declarou que os desafios relacionados à segurança de sistemas de inteligência artificial (IA) com agentes autônomos podem ser enfrentados por meio de soluções de engenharia, destacando que a implementação de medidas de proteção é uma tarefa tecnicamente viável. Em uma entrevista concedida à CNBC, Huang ressaltou que, embora a IA ofereça potencial para gerar benefícios significativos, sua adoção segura é fundamental para garantir a confiança do público na tecnologia.
Huang afirmou categoricamente que a questão da segurança nesses sistemas é uma “problema de engenharia” e reforçou sua convicção de que ela possui uma solução técnica. Ele destacou que, na prática, a estratégia mais eficaz para garantir a segurança de agentes de IA consiste inicialmente em limitar ao máximo suas permissões, restringindo seus acessos e direitos até que seja possível conceder apenas o necessário para a execução de tarefas específicas. Segundo o executivo, a prioridade número um ao implementar esses agentes deve ser a retirada de todas as permissões padrão, de modo a reduzir riscos e evitar acessos indevidos.
Para ilustrar sua abordagem, Huang comparou o método de segurança que defende ao funcionamento de navegadores de internet, que isolam aplicações e limitam o acesso a arquivos, redes e outros recursos do sistema operacional. Essa analogia reforça a ideia de que os agentes de IA devem operar em ambientes controlados, com permissões restritas, para minimizar possíveis falhas ou abusos.
Além disso, o CEO da Nvidia revelou que a companhia está desenvolvendo, em parceria com o projeto de código aberto OpenShell, uma ferramenta denominada “navegador para agentes”. Essa iniciativa visa criar um ambiente de contenção, gerenciamento de permissões e monitoramento de sistemas de IA autônoma. Huang explicou que essa plataforma é de código aberto e conta com o apoio de aproximadamente 100 empresas, o que demonstra o esforço colaborativo para estabelecer padrões de segurança mais robustos na área.
Por fim, Jensen Huang abordou a questão da regulação de tecnologias de IA em rápida evolução, defendendo uma postura de cautela. Ele alertou que uma regulação precoce, antes de compreender plenamente o funcionamento e os riscos da indústria, poderia ser prejudicial. Contudo, destacou que, à medida que a tecnologia amadurece, a intensidade da regulação deve aumentar, buscando equilibrar inovação e segurança de forma responsável.
