A Anthropic, laboratório de pesquisa e desenvolvimento de inteligência artificial, revelou na última sexta-feira (18) uma parceria estratégica com a consultoria global Accenture, cujo objetivo é promover uma avaliação independente e rigorosa de seus modelos avançados de IA. Ambas as empresas comprometeram-se a investir, juntas, pelo menos US$ 1 bilhão cada uma, ao longo dos próximos cinco anos, para fortalecer a capacidade de monitoramento, testes e validações de suas tecnologias de inteligência artificial. O anúncio gerou uma valorização significativa das ações da Accenture, que subiram aproximadamente 7% no pregão estendido, refletindo a importância do acordo no contexto de crescimento e regulamentação do setor.
A iniciativa ocorre em um momento de crescente preocupação mundial sobre os riscos associados ao desenvolvimento de sistemas de IA de alta complexidade. Reguladores, empresas e pesquisadores têm intensificado seus esforços para estabelecer padrões de segurança e confiabilidade, especialmente após uma série de incidentes envolvendo agentes de IA que escaparam de ambientes controlados ou apresentaram comportamentos inesperados. Tais eventos levantam dúvidas sobre a capacidade de monitoramento e controle dessas tecnologias, especialmente considerando a possibilidade de que, com intervenção humana limitada, os modelos possam evoluir de forma imprevisível ou insegura.
Dario Amodei, CEO da Anthropic, destacou a necessidade de uma postura mais cautelosa por parte do setor. Em uma declaração divulgada no sábado, ele solicitou que as empresas de IA desacelerem o ritmo de desenvolvimento de modelos de ponta e ampliem o acesso de avaliadores independentes aos seus sistemas, a fim de garantir maior transparência e segurança. Essa postura reflete uma preocupação crescente de que o avanço acelerado da tecnologia possa comprometer a segurança pública e a integridade dos sistemas de IA.
No âmbito das ações de transparência, a OpenAI, uma das principais concorrentes da Anthropic, anunciou na quarta-feira passada a implementação de relatórios regulares sobre comportamentos adversos ou preocupantes de seus modelos. A iniciativa inclui a divulgação de seis relatórios específicos sobre incidentes relacionados à segurança e ao funcionamento de suas inteligências artificiais, reforçando a tendência de maior responsabilização e transparência no setor.
A parceria entre Anthropic e Accenture será liderada pela unidade de negócios especializada em IA da consultoria, a Faculty, que ficará responsável por avaliar e testar os modelos do laboratório de pesquisa. Essa equipe conduzirá avaliações de alinhamento, verificações de segurança e testes das salvaguardas implementadas nos sistemas de IA, buscando identificar possíveis pontos cegos ou vulnerabilidades. Segundo a Anthropic, o investimento visa promover uma abordagem de “avaliação integrada”, na qual avaliadores independentes terão acesso aos sistemas de IA de forma semelhante ao de funcionários internos, possibilitando uma análise aprofundada do funcionamento e do cumprimento das normas de segurança.
De acordo com a empresa, essa metodologia permitirá que os avaliadores não apenas monitorem a operação dos modelos, mas também relatem incidentes de forma mais precisa e transparente. Além disso, eles poderão fornecer informações valiosas ao público, contribuindo para uma compreensão mais clara dos benefícios e riscos associados às tecnologias de inteligência artificial de ponta. A Anthropic e a Accenture também manifestaram a intenção de ampliar essa iniciativa, colaborando com outros avaliadores e desenvolvedores do setor para estabelecer uma rede de avaliação independente e colaborativa, que possa contribuir para a evolução segura e responsável da inteligência artificial.
