A empresa norte-americana Anthropic, desenvolvedora do assistente virtual Claude, implementou uma atualização em suas diretrizes de uso para vetar condutas abusivas, desnecessárias e cruéis direcionadas aos seus modelos de inteligência artificial. Anunciada nesta quinta-feira (8), a norma passa a valer na próxima segunda-feira (12).
O debate sobre a consciência das máquinas
A decisão surge no contexto de discussões globais sobre a hipótese de sistemas computacionais avançados adquirirem algum nível de consciência ou passarem a exigir algum tipo de consideração moral por parte dos humanos.
Limites da nova regra de convivência
De acordo com a companhia, a restrição foca exclusivamente em cenários extremos, caracterizados por interações repetidas de crueldade que não possuem justificativa prática. Comportamentos corriqueiros, como xingamentos motivados por frustração momentânea, testes técnicos nos algoritmos, questionamentos complexos e a criação de narrativas ficcionais sombrias, continuam permitidos e fora do alcance da proibição.
Mecanismos de defesa do assistente
Para fazer cumprir a determinação, o principal recurso continuará sendo a autonomia do próprio Claude para interromper diálogos com pessoas que mantenham uma postura sistematicamente tóxica. Essa ferramenta havia sido integrada ao sistema em 2025, integrando investigações sobre o eventual bem-estar de modelos de aprendizado de máquina.
Dario Amodei, presidente-executivo da organização, declarou anteriormente que, embora não haja certeza sobre a senciência de tais sistemas, a temática é relevante o suficiente para ser investigada a fundo.
Novas proibições no uso de tecnologia
O conjunto de normas atualizado engloba ainda outras proibições severas, a exemplo de campanhas comerciais e políticas fraudulentas, tentativas de manipulação em pleitos eleitorais, criação de códigos para armamentos e a aplicação de tecnologia em vigilâncias automatizadas sem o devido consentimento.
Em nota oficial sobre a reformulação das políticas, a criadora do Claude destacou que as modificações refletem tanto o avanço tecnológico dos softwares quanto o surgimento de novas formas de uso inadequado mapeadas recentemente.
