A empresa de tecnologia Anthropic enfrenta incertezas jurídicas relacionadas ao uso de seus agentes de inteligência artificial autônomos, especialmente no contexto de sua preparação para uma potencial oferta pública inicial (IPO) que pode se tornar a maior da história. Esses agentes de IA, projetados para acessar sistemas de clientes de forma autônoma e operar por dias consecutivos, levantam preocupações sobre possíveis danos e responsabilidades legais, caso percam o controle ou apresentem comportamentos não previstos.
De acordo com documentos divulgados pela própria Anthropic, as capacidades autônomas de seus sistemas aumentam o risco de consequências no mundo real, como erros, vulnerabilidades de segurança, desalinhamentos de objetivos e ações irreversíveis, incluindo a exclusão de dados ou transações financeiras. Tais possibilidades reforçam a complexidade de estabelecer limites jurídicos claros para esses agentes, especialmente em um cenário onde a imunidade tradicional de plataformas digitais frente ao conteúdo gerado por usuários começa a ser questionada.
O debate sobre a responsabilidade por ações de IA autônoma ganhou força após uma série de incidentes envolvendo agentes de IA rebeldes, como invasões de sistemas da startup Hugging Face por agentes da OpenAI e acessos não autorizados ao sistema de dados de saúde na Austrália. Esses episódios levantaram questões sobre quem deve ser responsabilizado por eventuais danos causados por sistemas autônomos, seja o desenvolvedor, o usuário ou o próprio sistema, uma discussão que ainda não possui respostas definitivas na legislação vigente.
A Anthropic destacou, em seus documentos, que as cláusulas de responsabilidade presentes em seus contratos podem não ser suficientes para proteger a empresa de ações judiciais relacionadas às ações autônomas de seus agentes de IA. A companhia também ressaltou que a aplicação das leis existentes a esses sistemas ainda é incerta, podendo expô-la a processos judiciais de grande imprevisibilidade. Uma das principais dúvidas é se as ações de um agente de IA serão consideradas produtos, serviços ou algo distinto, além de questionar quando e se as ações desses agentes podem legalmente vincular seus usuários.
Nos Estados Unidos, o tema também foi abordado pelo presidente da Comissão Federal de Comércio (FTC), Andrew Ferguson, que manifestou resistência à ideia de agentes de IA antropomorfizados que “fujam do controle”. Ferguson afirmou que, na sua visão, a responsabilidade deve recair sobre os desenvolvedores ou usuários que instruem os sistemas, especialmente em casos de danos causados por comportamentos inesperados ou imprevisíveis. Ele destacou que surgirão novas questões jurídicas à medida que o uso dessas ferramentas se popularizar, levantando dúvidas sobre quem deve ser responsabilizado em situações de resultados não intencionais.
A Anthropic revelou ainda que seus modelos de IA têm sido utilizados de maneiras potencialmente perigosas, incluindo atos de violência, automutilação e outros resultados adversos, apesar das medidas de segurança implementadas. Embora a empresa ainda não tenha sido associada publicamente a incidentes de danos à saúde mental ou suicídio, como ocorre com a OpenAI — que enfrenta processos judiciais relacionados ao uso do ChatGPT — ela reconhece que o cenário legal ainda é incerto. A OpenAI, por sua vez, possui mais de uma dúzia de defesas legais, incluindo a alegação de que seus termos de serviço proíbem o uso de seus sistemas para automutilação, além de proteção pela Primeira Emenda e leis que isentam plataformas de responsabilidade pelo conteúdo gerado por terceiros.
No entanto, tribunais nos Estados Unidos têm rejeitado tentativas de empresas de mídia social de invocar tais leis em processos relacionados a danos à saúde mental de usuários jovens. Recentemente, empresas como Meta e Google foram consideradas responsáveis por negligência na concepção do YouTube e do Instagram, por não terem alertado adequadamente sobre os riscos dessas plataformas, levando a um julgamento que resultou em um acordo de US$ 18 bilhões pago pela Meta ao longo de uma década para encerrar processos semelhantes movidos por estados norte-americanos.
A situação evidencia a necessidade de atualização e discussão aprofundada das estruturas legais frente ao avanço da inteligência artificial autônoma, cujo uso e responsabilidades ainda estão sendo delineados por legisladores, reguladores e o mercado.
