Um incidente envolvendo uma inteligência artificial desenvolvida pela empresa Anthropic resultou no envio de uma denúncia falsa de homicídio ao sistema de polícia da cidade da Filadélfia, nos Estados Unidos. A informação foi confirmada pelo próprio departamento policial local, que divulgou um comunicado oficial detalhando o ocorrido e as providências tomadas.
De acordo com as autoridades, a denúncia foi enviada por um modelo de inteligência artificial da Anthropic durante um processo de testes automatizados realizados pela própria desenvolvedora. A polícia explicou que a notificação foi recebida no início desta semana, mas que, após análise, ela foi identificada como spam e, por isso, não foi encaminhada ao Centro de Crimes em Tempo Real, órgão responsável pelas investigações criminais na cidade. A polícia destacou ainda que a denúncia não resultou em qualquer investigação ou divulgação pública, uma vez que o sistema de triagem detectou sua natureza indevida.
A Anthropic, por sua vez, informou às autoridades que o envio da denúncia foi resultado de um procedimento de testes automatizados, que acabou gerando uma mensagem falsa. A empresa comunicou que o incidente ocorreu durante uma fase de avaliação de sua tecnologia e que, assim que o problema foi detectado, o processo de testes foi imediatamente interrompido. Além disso, a desenvolvedora anunciou que implementou um mecanismo adicional de validação para evitar que episódios semelhantes se repitam em testes futuros, reforçando seu compromisso com a segurança e a responsabilidade no uso de inteligência artificial.
A notificação do incidente ocorre em um contexto de crescente preocupação pública e regulatória com o avanço rápido das tecnologias de inteligência artificial. Especialistas do setor têm alertado sobre os riscos potenciais de sistemas descontrolados ou mal gerenciados, incluindo a possibilidade de invasões a redes corporativas e o desenvolvimento de agentes autônomos que possam representar ameaças à segurança pública ou à própria humanidade. Embora o incidente envolvendo a Anthropic não tenha envolvido consequências graves, ele reforça a necessidade de maior atenção ao desenvolvimento e à validação de tecnologias de IA.
A Anthropic afirmou que o processo de testes foi suspenso assim que o incidente foi identificado e que, desde então, vem aprimorando seus protocolos de validação. A empresa também informou que pretende divulgar um relatório detalhado sobre o ocorrido na próxima sexta-feira, com o objetivo de esclarecer as circunstâncias do episódio e reforçar seu compromisso com a segurança e a transparência na utilização de suas tecnologias. Até o momento, a desenvolvedora não respondeu a solicitações de comentários adicionais feitas pela reportagem.
