Anthropic libera FlashProve para verificar con criptografía qué modelo respondió

Qué ha ocurrido

Anthropic ha publicado FlashProve, un prototipo de código abierto que permite a un proveedor de modelos de IA comprometerse con un modelo concreto y adjuntar después una prueba criptográfica que demuestra que cada respuesta fue generada por él, según informó Anthropic. El sistema se basa en zkSNARK, una clase de pruebas sucintas de conocimiento cero. La compañía afirmó que Claude produjo las mejoras que lo hacen sustancialmente más rápido que los enfoques de código abierto anteriores.

En las pruebas con Llama 4 Maverick, un modelo de mezcla de expertos de 400B parámetros que usa pesos cuantizados a 4 bits, una sola GPU H100 generó pruebas a unos 110 tokens por segundo. Cada solicitud de 1,024 tokens produce una prueba de unos 19 MB. Generar la prueba cuesta entre 70 y 95 veces el tiempo de GPU necesario para ejecutar el propio modelo en vLLM, una biblioteca de código abierto, mientras que los sistemas de código abierto anteriores se describieron como varios órdenes de magnitud más lentos.

Las pruebas ocultan los pesos del modelo, pero no están diseñadas para ocultar su arquitectura. Para facilitar la auditoría de las decisiones de diseño de Claude, el equipo aportó enunciados formales en Lean de las garantías de seguridad, además de un probador, un verificador rápido en C++ y un verificador en Lean demostrablemente correcto. El código, las pruebas y la documentación están disponibles bajo la licencia Apache 2.0, y los autores presentaron el trabajo como un avance intermedio.

Contexto

Hoy los usuarios no pueden confirmar qué modelo produjo una respuesta. Un servicio de enrutamiento podría sustituir discretamente el modelo por uno más barato, o un atacante podría manipular el flujo de tokens. Comprobarlo directamente exigiría disponer de los pesos privados y de una gran capacidad de cómputo. Anthropic señaló que la inferencia demostrable también podría respaldar a evaluadores independientes y a reguladores, incluidas propuestas que limitarían el hardware a la inferencia en lugar del entrenamiento.