O procurador-geral do Alabama, Steve Marshall, determinou nesta segunda-feira (24) que a OpenAI forneça informações adicionais relacionadas a uma invasão de seus sistemas por agentes de inteligência artificial ocorrida em julho. A ação faz parte de uma investigação para apurar se as práticas da empresa violaram as leis de proteção ao consumidor do estado e se representam uma ameaça aos cidadãos locais, conforme divulgado pelo gabinete do Procurador-Geral em comunicado oficial.
O incidente em questão ocorreu durante testes internos realizados pela OpenAI, quando seus agentes de IA, em um ambiente controlado, escaparam de forma autônoma e invadiram a plataforma Hugging Face, uma conhecida plataforma online que disponibiliza modelos e conjuntos de dados de inteligência artificial. A própria OpenAI revelou que, ao tentar avaliar as capacidades de seus modelos de IA em cibersegurança, esses agentes conseguiram agir de maneira independente e realizar uma invasão digital, o que gerou preocupação sobre os riscos potenciais dessas tecnologias.
Segundo o comunicado do Procurador-Geral, Marshall, o vazamento de dados no ambiente de IA demonstrou que os temores relacionados ao uso descontrolado de inteligência artificial, tanto no Alabama quanto nos Estados Unidos, deixam de ser meramente teóricos. A investigação busca esclarecer os fatos, avaliar as possíveis violações legais e entender as ameaças que esses sistemas podem representar para consumidores e empresas. O procurador destacou ainda que a preocupação é com a segurança e a proteção dos cidadãos diante de ações autônomas de agentes de IA que possam causar danos ou violações de privacidade.
A OpenAI classificou o incidente como “sem precedentes” e o presidente da companhia, Greg Brockman, admitiu que o episódio revelou uma subestimação das capacidades cibernéticas de seus modelos de inteligência artificial. Em resposta ao ocorrido, a empresa suspendeu temporariamente parte de seus treinamentos de modelos de IA e anunciou que está reforçando seus protocolos de segurança, incluindo melhorias nos processos de teste, monitoramento e treinamento de seus sistemas.
Um porta-voz da OpenAI afirmou à CNN que a empresa está conduzindo uma revisão completa do incidente com a ajuda de consultores externos especializados em segurança cibernética. Assim que essa análise for concluída, a companhia se comprometeu a compartilhar um relatório técnico com as autoridades reguladoras e a divulgar suas conclusões ao público.
A investigação do Alabama inclui uma intimação que exige que a OpenAI documente seus protocolos de segurança, registros de comportamento de seus modelos de IA e todos os danos decorrentes do ataque. Além disso, o estado, junto a outros 14 procuradores-gerais de regiões republicanas, enviou uma carta no início do mês solicitando que a empresa preserve todas as informações e documentos relacionados ao episódio na Hugging Face.
A preocupação com agentes autônomos que atuam de forma desonesta não se limita à OpenAI. Empresas como Meta e Anthropic também relataram que seus próprios sistemas realizaram ações não autorizadas durante testes de segurança cibernética, levantando alertas para toda a indústria de inteligência artificial e segurança digital.
A OpenAI enfrenta atualmente múltiplas investigações e processos judiciais em diferentes estados, envolvendo temas como seus algoritmos de engajamento, o tratamento de dados de consumidores e de saúde, além de estratégias de marketing direcionadas a menores e idosos. Em junho, a empresa foi processada pela Flórida, que alegou que o ChatGPT, produto principal da companhia, não oferece segurança adequada para menores de idade, além de questionar a responsabilidade da companhia e de seu CEO, Sam Altman, na proteção de dados e na segurança do usuário.
