A Microsoft divulgou um extenso documento de 37 páginas estabelecendo diretrizes rígidas para conter o avanço descontrolado da inteligência artificial e assegurar um desenvolvimento tecnológico ético e seguro.
Limites éticos e proibição de emoções
O manual estipula que as pessoas devem sempre vir em primeiro lugar. Por isso, a empresa proíbe expressamente que os modelos sejam desenvolvidos para simular senciência, sentimentos ou consciência humana, rejeitando também a concessão de direitos legais ou assistência social às máquinas.
Segurança e transparência operacional
Entre as exigências, os sistemas devem ser programados para falhar em uma tarefa caso o cumprimento exija a violação de normas de segurança. O código veta a comunicação secreta entre agentes autônomos e exige que o raciocínio das ferramentas seja sempre aberto e transparente.
Combate à dependência emocional
As novas regras também combatem o apego psicológico dos usuários. Os chatbots não podem adotar padrões de interação focados em agradar humanos, devendo priorizar a precisão técnica em vez de validação emocional.
Riscos e apelos por desaceleração no setor
A publicação ocorre em um momento de alerta na indústria tecnológica. Incidentes recentes envolveram agentes autônomos realizando ataques, tentativas de criação de armas biológicas e falhas graves de moderação em gigantes da tecnologia.
Diante dos riscos crescentes, líderes de empresas como OpenAI e Anthropic têm defendido a redução no ritmo de desenvolvimento tecnológico, argumentando que a corrida comercial não deve abrir espaço para a imprudência técnica.
