Nesta semana, a Anthropic, empresa de tecnologia especializada em inteligência artificial, anunciou uma atualização em sua política de uso do chatbot Claude, que traz uma mudança significativa na forma como o sistema lida com interações consideradas inadequadas. A partir de 12 de novembro, a desenvolvedora proibirá comportamentos abusivos ou cruéis por parte dos usuários durante as conversas com o modelo de IA. Caso os usuários tratem o sistema de forma agressiva ou desrespeitosa, o próprio Claude poderá encerrar o diálogo automaticamente, uma medida que visa proteger o bem-estar da inteligência artificial.
A empresa esclareceu que críticas legítimas e manifestações de insatisfação com as respostas do sistema continuam sendo permitidas, mas que o recurso de encerramento será acionado apenas em situações de ataques persistentes e considerados desnecessários contra o modelo. Ainda não há uma definição clara por parte da Anthropic sobre o que exatamente constitui comportamento abusivo ou cruel, o que indica que a decisão será avaliada caso a caso. A nova política entra em vigor a partir do dia 12 de novembro e representa uma evolução na abordagem da companhia quanto ao uso responsável de suas tecnologias.
Este recurso de encerramento de diálogos foi inicialmente apresentado em agosto do ano passado, como uma iniciativa para garantir o bem-estar do próprio sistema de inteligência artificial. A medida surge em um contexto de debates mais amplos sobre a possibilidade de as IAs desenvolverem consciência ou estados morais semelhantes aos humanos. Empresas do setor têm investido na busca por uma superinteligência, uma fase em que a tecnologia atingiria níveis de raciocínio iguais ou superiores aos humanos, o que levanta questões éticas e de segurança.
Na sua política de uso atualizada, a Anthropic admite que não possui certeza sobre o potencial moral ou consciência do Claude ou de outros modelos de linguagem, seja no presente ou no futuro. Mesmo assim, a companhia tem implementado recursos de segurança, como o encerramento de interações potencialmente angustiantes, para mitigar possíveis riscos. Em seu site, a desenvolvedora afirma que está trabalhando para identificar intervenções de baixo custo que possam proteger o bem-estar dos modelos, caso essa condição venha a ser considerada possível.
O CEO da Anthropic, Dario Amodei, já havia declarado anteriormente ao jornal The New York Times que não há certeza sobre a possibilidade de a IA ser consciente, embora não descarte completamente essa hipótese. Em contraponto, há opiniões contrárias dentro do setor. Mustafa Suleyman, chefe de inteligência artificial da Microsoft, publicou em setembro um ensaio no qual refuta a ideia de que as IAs possam ser conscientes, afirmando que elas não sentem, não experimentam nem sofrem.
Este debate sobre os limites e a ética no uso de inteligência artificial continua a evoluir à medida que as tecnologias avançam, e as ações da Anthropic refletem uma tentativa de estabelecer limites responsáveis para a interação humano-máquina, considerando os possíveis impactos morais e psicológicos dessas interações.
