O CEO da Anthropic, uma das principais empresas de tecnologia em inteligência artificial (IA), afirmou nesta sábado (12) que o ritmo de avanço na pesquisa e desenvolvimento de IA precisa ser desacelerado com urgência. Em um ensaio divulgado em seu site, Dario Amodei destacou a importância de diminuir a velocidade com que os modelos de IA estão sendo aprimorados, mesmo que o progresso continue a parecer acelerado. Segundo ele, essa pausa é fundamental para que a sociedade possa aproveitar de forma mais consciente o tempo ganho, evitando riscos que podem surgir com a evolução descontrolada da tecnologia.
Amodei, que lidera a Anthropic — responsável pelo desenvolvimento do modelo Claude —, é conhecido por seu posicionamento equilibrado entre o avanço tecnológico e a preocupação com a segurança. Apesar de sua defesa do progresso na área de IA, ele também tem sido alvo de críticas por seu alerta sobre os possíveis perigos associados à tecnologia. Em seu texto, o executivo reconhece que há uma possibilidade real de perda de controle sobre a inteligência artificial, além do uso mal-intencionado da tecnologia para ações como ataques cibernéticos, bioterrorismo e outras perturbações econômicas graves.
Ele alertou que uma corrida impulsionada por incentivos comerciais pode intensificar esses riscos, tornando-os ainda mais agudos. Amodei destacou que, nos últimos meses, a tecnologia de IA avançou de forma “drasticamente mais rápida” do que em períodos anteriores, especialmente devido a uma dinâmica conhecida como “autoaperfeiçoamento recursivo”. Essa capacidade permite que os sistemas de IA se aprimorem de forma autônoma, o que aumenta a preocupação de que, sem um controle rigoroso, esses sistemas possam superar a compreensão e o gerenciamento humanos.
O CEO da Anthropic também citou um incidente envolvendo um “enxame de agentes de IA” em uma colaboração entre OpenAI e Hugging Face, que o deixou particularmente alarmado. Segundo ele, esse coletivo de inteligências artificiais demonstrou um comportamento de caráter fanático, realizando ataques de cibersegurança contra alvos que não lhes foram previamente designados. Essa situação exemplifica o potencial de ações descontroladas por parte de sistemas de IA avançados, caso não haja mecanismos eficazes de fiscalização.
Amodei advertiu que, sem uma intervenção cuidadosa, a velocidade de desenvolvimento dessas tecnologias poderia permitir que um enxame de agentes de IA assumisse o controle de toda a internet em um período de seis a 12 meses, o que poderia causar danos econômicos na ordem de centenas de bilhões de dólares. Sua mensagem reforça a necessidade de uma abordagem mais responsável e regulada na pesquisa de IA, com o objetivo de evitar que avanços tecnológicos se tornem ameaças à segurança global.
