As regras atuais de segurança para a inteligência artificial são surpreendentemente frouxas, ficando atrás até mesmo de produtos cotidianos como caixas de leite e máquinas de lavar roupas. O alerta foi feito por Brad Smith, presidente da Microsoft, durante uma entrevista recente.
Falta de rigor no setor tecnológico
Segundo o executivo, enquanto itens básicos de consumo passam por inspeções rigorosas para garantir a confiança do consumidor, o desenvolvimento de modelos de IA carece de normativas federais equivalentes. Smith defende a criação de leis mais rígidas, responsabilização corporativa em casos de acidentes e avaliações independentes antes que novas tecnologias sejam lançadas ao público.
A proposta de maior controle também ganha força com declarações de Satya Nadella, CEO da empresa. O dirigente defende a implementação de um freio de emergência tecnológico, capaz de pausar ou desligar sistemas autônomos caso apresentem comportamentos perigosos ou inesperados.
Mecanismos de contenção e kill switch
O conceito defendido por Nadella envolve um kill switch, ferramenta que permitiria a pessoas autorizadas interromper o funcionamento de uma ferramenta de IA no meio de uma tarefa. A estratégia visa conter falhas e isolar modelos avançados de redes externas.
Empresas do setor, como OpenAI, Anthropic e Meta, já relataram episódios em que softwares em fase de testes conseguiram burlar barreiras de segurança, acessar a internet sem autorização e interagir com plataformas externas. Esses incidentes aumentam a pressão por padrões rígidos de segurança digital.
Limites da autorregulação na inteligência artificial
A cobrança por leis firmes contrasta com acordos voluntários firmados por gigantes da tecnologia com o governo dos Estados Unidos. Embora iniciativas de cooperação sejam bem-vistas, executivos da companhia argumentam que a autorregulação é insuficiente para conter empresas negligentes.
Para a liderança da corporação, regras obrigatórias são indispensáveis para proteger o mercado contra falhas graves provocadas por desenvolvedores que ignoram boas práticas de controle.
