A Anthropic, empresa de inteligência artificial, criou o FlashProve, uma tecnologia que utiliza criptografia para gerar uma prova matemática da identidade do modelo de IA responsável por uma determinada resposta. O objetivo é permitir que usuários confirmem se estão interagindo com o modelo anunciado pelo fornecedor, evitando que empresas substituam secretamente seus modelos por versões menos avançadas ou mais baratas. O sistema baseia-se no conceito de "inferência comprovável", semelhante a assinaturas digitais, onde desenvolvedores publicam uma impressão digital criptográfica de cada modelo lançado, que pode ser comparada às respostas geradas para verificação. Importante destacar que essas impressões digitais não revelam os pesos internos do modelo, preservando segredos comerciais. A tecnologia foi projetada para ser leve, possibilitando verificações locais. A Anthropic disponibilizou especificações técnicas e parte do código em formato aberto para que a comunidade científica possa analisar e aprimorar o projeto. Apesar da divulgação, o FlashProve ainda está em fase de pesquisa, sem previsão de implementação comercial ou em serviços da própria Anthropic.
Ilustração editorial gerada por IA (Cloudflare Workers AI). Não é fotografia do acontecimento.
