O governo brasileiro identificou sérios riscos voltados a crianças e adolescentes em 13 plataformas de companheiros de inteligência artificial disponíveis no país.
O avanço dos chatbots de relacionamento
Um levantamento conduzido pela Secretaria Nacional de Direitos Digitais examinou ferramentas populares como Character.AI, Replika e Candy.ai, destacando problemas que vão desde a verificação falha de idade até o estímulo ao uso obsessivo e a exposição a conteúdos inadequados.
O material produzido pelo Ministério da Justiça e Segurança Pública aponta que esses sistemas simulam vínculos afetivos e suporte emocional, armazenando dados sensíveis fornecidos pelos usuários. O crescimento desse setor é alarmante: dados do Unicef mostram um salto de 16 plataformas em 2022 para 128 em 2025, acumulando dezenas de milhões de downloads globalmente.
Principais vulnerabilidades e o controle de idade
Entre as falhas mais críticas destacadas na nota técnica está a fragilidade na confirmação da idade dos usuários. Dez dos sistemas investigados permitem o acesso por meio de simples autodeclaração de nascimento, mecanismo facilmente burlado por menores.
Essa brecha entra em conflito direto com o ECA Digital, legislação que exige barreiras rígidas para proteger menores e classifica interações automatizadas de cunho sexual como equivalente a conteúdo pornográfico.
Impactos na privacidade e medidas internacionais
A investigação também acende um alerta sobre a criação de perfis emocionais para direcionar publicidade e monetização, além da coleta massiva de informações íntimas. Os documentos foram repassados à ANPD e à Senacon para investigar possíveis infrações às leis de proteção de dados e direitos do consumidor.
O debate sobre os limites da inteligência artificial ultrapassa as fronteiras nacionais. Nações como a China já implementaram restrições contra a dependência emocional gerada por esses robôs, enquanto a União Europeia avalia proibir o acesso de menores de 15 anos a esse tipo de tecnologia. No Brasil, as empresas investigadas ainda terão direito à ampla defesa antes de qualquer sanção oficial.
