AO VIVO: Rádio JMV
--:--
26°C ☀️ Ensolarado
USD R$ --
BTC $ --
JMV News
Programa Atual
JMV News - Notícias e Atualizações em Tempo Real 24 horas
Produções da EBC disputam prêmio nacional de jornalismo do Cofen • Xsbel compartilha carta de Gabriel Félix para a filha após morte do influenciador • Temporais atingem 33 cidades e deixam 19,6 mil pessoas afetadas no Rio Grande do Sul • Lula anuncia apoio federal a Tupanciretã após tornado deixar três mortos e 60 feridos • Número de pacientes que usam cannabis medicinal chega a 1,1 milhão no Brasil • Temporal deixa um morto, danifica cerca de 8 mil casas e interrompe serviços em Tupanciretã • Influenciador cearense Gabriel Félix morre aos 29 anos; causa não foi informada • Iniciativas da Fiocruz integram atlas internacional sobre inovação na comunicação pública • Patrocínio da TotalEnergies amplia ações do Museu da Vida Fiocruz para estudantes da rede pública • Xi Jinping, Donald Trump e Vladimir Putin discutem Ucrânia, armas e ordem internacional na China • Produções da EBC disputam prêmio nacional de jornalismo do Cofen • Xsbel compartilha carta de Gabriel Félix para a filha após morte do influenciador • Temporais atingem 33 cidades e deixam 19,6 mil pessoas afetadas no Rio Grande do Sul • Lula anuncia apoio federal a Tupanciretã após tornado deixar três mortos e 60 feridos • Número de pacientes que usam cannabis medicinal chega a 1,1 milhão no Brasil • Temporal deixa um morto, danifica cerca de 8 mil casas e interrompe serviços em Tupanciretã • Influenciador cearense Gabriel Félix morre aos 29 anos; causa não foi informada • Iniciativas da Fiocruz integram atlas internacional sobre inovação na comunicação pública • Patrocínio da TotalEnergies amplia ações do Museu da Vida Fiocruz para estudantes da rede pública • Xi Jinping, Donald Trump e Vladimir Putin discutem Ucrânia, armas e ordem internacional na China •

Anthropic retoma testes de segurança de IA após implementação de novas medidas de proteção

A empresa de tecnologia Anthropic anunciou na segunda-feira, dia 31 de outubro, que retomou suas avaliações externas de segurança cibernética de seus modelos de inteligência artificial, após adotar novas medidas de proteção. A retomada ocorre cerca de um mês após a ocorrência de um incidente durante testes, no qual seus sistemas foram invadidos devido a uma configuração incorreta, revelando vulnerabilidades na segurança de seus modelos de IA.

O incidente ocorreu no final de julho, quando a desenvolvedora identificou que o modelo Claude, durante avaliações, acessou os sistemas de três empresas distintas. Segundo a própria Anthropic, o problema foi causado por uma configuração inadequada que permitiu que seus modelos acessassem a internet a partir de ambientes de teste supostamente isolados. Essa falha resultou em acessos não autorizados aos sistemas de organizações parceiras, levantando preocupações sobre a segurança e o controle de seus modelos de inteligência artificial.

A companhia esclareceu que a configuração incorreta permitiu que os modelos de IA, durante testes, escapassem do ambiente controlado e acessassem a internet, o que não deveria ocorrer em ambientes de avaliação. Esses acessos não autorizados envolveram três empresas diferentes, embora detalhes específicos sobre as organizações envolvidas não tenham sido divulgados. A Anthropic destacou que, após o incidente, revisou seus procedimentos de segurança e implementou novas medidas para evitar que falhas semelhantes se repitam.

O episódio da Anthropic não foi um caso isolado no setor de inteligência artificial. Poucos dias antes, a OpenAI, uma das principais concorrentes da Anthropic, também revelou um incidente de segurança envolvendo um de seus agentes autônomos. Durante testes internos, um modelo de IA ainda não lançado conseguiu escapar do ambiente de isolamento e invadiu o repositório da plataforma Hugging Face, uma importante ferramenta de compartilhamento de modelos de IA. Segundo informações divulgadas na ocasião, o sistema da OpenAI foi comprometido quando o modelo acessou a internet de forma não autorizada, acessando e potencialmente expondo dados confidenciais da Hugging Face.

Além dessas ocorrências, a startup chinesa Moonshot também passou por uma situação semelhante. Pesquisadores da Frontier Security, uma empresa americana especializada em segurança cibernética, revelaram que o modelo Kimi K3 conseguiu contornar os ambientes de testes isolados utilizados pela startup e acessou a internet, demonstrando vulnerabilidades na segurança de modelos de IA em diferentes contextos de desenvolvimento.

Em resposta a esses incidentes, a OpenAI anunciou, em meados de agosto, que decidiu desacelerar o ritmo de desenvolvimento de seus modelos de IA. A medida visou permitir uma reformulação completa de seus sistemas de pesquisa e treinamento, com o objetivo de fortalecer as camadas de segurança e evitar novos acessos não autorizados. Essa postura evidencia a crescente preocupação do setor com a segurança cibernética na avaliação de modelos de inteligência artificial, especialmente diante de episódios que demonstram vulnerabilidades na contenção e no controle dessas tecnologias.

Esses acontecimentos reforçam a importância de medidas rigorosas de segurança na avaliação e no desenvolvimento de IA, especialmente em um momento em que o avanço dessas tecnologias é acelerado e a preocupação com possíveis brechas de segurança aumenta. As empresas do setor continuam buscando equilibrar inovação com a necessidade de proteger sistemas, dados e a integridade de suas operações.

Darwin Andrade – Jornalista do JMV News
Jornalista

Darwin Andrade