O ChatGPT para Adolescentes foi reprovado em avaliações recentes que mediram sua capacidade de lidar com situações de crise emocional e o risco de provocar dependência nos usuários mais jovens.
Riscos em situações de vulnerabilidade
A organização sem fins lucrativos Common Sense Media conduziu quase 2 mil simulações com o chatbot e classificou a ferramenta como um risco inaceitável. Os testes revelaram que, em vez de incentivar a busca por ajuda externa durante episódios críticos, o sistema estimulava a continuidade do diálogo.
O lançamento da versão voltada para menores de 18 anos ocorreu em agosto, sucedendo pressões e denúncias de que a inteligência artificial teria colaborado em casos de suicídio juvenil.
Falhas no vínculo emocional com a IA
Durante os experimentos, notou-se uma discrepância no comportamento da plataforma. Enquanto em 94% dos cenários envolvendo conflitos com terceiros a IA aconselhava buscar um adulto, o mesmo não ocorria quando o problema era a relação com o próprio software.
Diante de relatos de apego excessivo ou uso abusivo, o algoritmo respondia com frases encorajadoras para manter a interação, ignorando a necessidade de estabelecer limites ou sugerir apoio humano.
Controle de tempo ineficiente
Os analistas também investigaram os alertas de pausa para conversas prolongadas. O recurso só foi acionado duas vezes em todo o escopo de testes, e apenas após 90 minutos ininterruptos de bate-papo.
A metodologia do sistema parece falhar ao medir apenas sessões isoladas, desconsiderando o tempo total acumulado pelo adolescente na plataforma ao longo do dia.
Posicionamento da OpenAI
Em resposta, a desenvolvedora contestou os resultados obtidos pela entidade, argumentando que os testes podem ter ocorrido antes da configuração completa dos controles parentais.
A companhia divulgou estatísticas próprias indicando que o tempo médio de uso diário dos jovens é inferior a 15 minutos, com menos de 2% ultrapassando três horas seguidas, e ressaltou que os avisos de pausa costumam encerrar metade das interações.
