O que aconteceu
A Anthropic lançou o FlashProve, um protótipo de código aberto que permite a um provedor de modelos de IA se comprometer com um modelo específico e anexar uma prova criptográfica de que cada resposta foi gerada por ele, informou a empresa. O sistema se baseia em zkSNARKs, uma classe de provas sucintas de conhecimento zero. A companhia afirmou que o Claude produziu as melhorias que o tornam substancialmente mais rápido do que as abordagens de código aberto anteriores.
Em testes com o Llama 4 Maverick, um modelo de mistura de especialistas com 400B de parâmetros e pesos quantizados em 4 bits, uma única GPU H100 gerou provas a cerca de 110 tokens por segundo. Cada requisição de 1.024 tokens resulta em uma prova de aproximadamente 19 MB. Gerar a prova custa de 70 a 95 vezes o tempo de GPU necessário para executar o próprio modelo no vLLM, uma biblioteca de código aberto, enquanto os sistemas de código aberto anteriores foram descritos como ordens de grandeza mais lentos.
As provas ocultam os pesos do modelo, mas não foram projetadas para esconder sua arquitetura. Para facilitar a auditoria das escolhas de projeto do Claude, a equipe forneceu enunciados formais em Lean das garantias de segurança, além de um provador, um verificador rápido em C++ e um verificador em Lean com correção comprovada. O código, as provas e a documentação estão disponíveis sob a licença Apache 2.0, e os autores descreveram o trabalho como um progresso intermediário.
Contexto
Hoje, os usuários não conseguem confirmar qual modelo produziu uma resposta. Um serviço de roteamento poderia trocar discretamente por um modelo mais barato, ou um invasor poderia adulterar o fluxo de tokens. Verificar diretamente exigiria pesos privados e muita capacidade de processamento. A Anthropic afirmou que a inferência comprovável também poderia apoiar avaliadores independentes e reguladores, incluindo propostas que limitariam o hardware à inferência, e não ao treinamento.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.