Uma usuária de inteligência artificial foi presa na Flórida, nos Estados Unidos, após a Anthropic acionar a polícia por conta de mensagens enviadas ao chatbot Claude. Carli Michelle Heller agora responde na justiça por realizar ameaças virtuais de violência, conforme as leis locais.
Investigação e prisão
De acordo com os registros policiais, a suspeita utilizava a tecnologia como um diário virtual para relatar reflexões cotidianas. No final de setembro, o sistema detectou menções a um atentado contra o escritório do xerife local, além da aquisição recente de um armamento.
Os alertas foram gerados por filtros automatizados de segurança e, em seguida, validados por analistas humanos da empresa, que decidiram contatar imediatamente as autoridades competentes para evitar tragédias.
Privacidade e limites dos chatbots
Segundo os termos de uso da desenvolvedora, dados de conversas podem ser repassados à polícia em cenários críticos onde haja risco iminente de morte ou danos físicos severos.
Especialistas reforçam que ferramentas de IA não oferecem o mesmo sigilo profissional garantido por terapeutas ou advogados. O histórico de mensagens fica vulnerável a varreduras de segurança e pode ser entregue a órgãos de investigação a qualquer momento.
Precedentes na indústria de tecnologia
O episódio evidencia uma postura mais rígida dos laboratórios de inteligência artificial, que buscam evitar responsabilizações judiciais futuras. Em incidentes anteriores, empresas do setor enfrentaram processos na justiça após deixarem de reportar alertas de violência detectados em interações com usuários.
