O que aconteceu
Recentemente, seis das maiores empresas de IA do mundo assinaram um acordo com a Casa Branca, prometendo permitir auditorias externas de seus trabalhos. Nvidia, OpenAI, Anthropic, Google, Meta e xAI se comprometeram a trabalhar com auditores independentes, conforme anunciado pelo presidente dos EUA, Donald Trump. No entanto, o acordo não especifica quem escolhe os auditores nem o que eles poderão examinar.
Por que isso importa
Embora as auditorias externas sejam uma boa ideia, a falta de regras claras levanta preocupações sobre a eficácia das verificações. Empresas como a Enron mostraram que a escolha do auditor pode levar a conflitos de interesse. Em 2023, um estudo constatou que as promessas de auditoria feitas por empresas de IA não foram cumpridas na maioria das vezes. Além disso, testes realizados por organizações independentes enfrentaram limitações significativas, como acesso restrito às informações dos modelos.
O desafio da transparência
O modelo treinado de IA é um arquivo complexo e valioso, e compartilhar cópias com auditores externos representa um risco de segurança. Em uma tentativa de contornar esse problema, a Google DeepMind implementou um teste duplo-cego, onde tanto os auditores quanto a empresa mantinham suas informações confidenciais. Essa abordagem pode ser um caminho promissor para garantir maior transparência.
O futuro das auditorias de IA
Para que as auditorias sejam efetivas, é fundamental que os auditores tenham a liberdade de escolher o que testar. As empresas devem divulgar quem são seus auditores e quais áreas foram auditadas, garantindo assim uma maior responsabilidade. O Congresso dos EUA pode precisar intervir para criar um sistema que assegure auditorias eficazes e confiáveis.
