Un hilo que se está desarrollando en Lobsters ahora mismo, relacionado con una publicación de blog del 14 de julio, plantea una pregunta que los expertos en seguridad han estado rumiando durante un tiempo: ¿Cómo sabes realmente que el servicio de IA que utilizas está ejecutando el modelo que afirman? ¿Y que la salida no ha sido manipulada en el proceso?

Esto no se trata de alucinaciones o respuestas deficientes — se trata de confianza a nivel de infraestructura. ¿Puede un proveedor de la nube reemplazar tu modelo por algo más barato? ¿Puede un servidor comprometido enviarte respuestas manipuladas? Ahora mismo: sí, sin que necesariamente te des cuenta.

La inferencia verificable es el eslabón perdido entre «prometemos que estamos ejecutando GPT-X» y «aquí está la prueba criptográfica».

Lo que la comunidad discute son, en esencia, tres direcciones:

Los TEE (Trusted Execution Environments) son ahora mismo la alternativa más candente. Intel TDX, AMD SEV-SNP y ARM CCA crean «bóvedas» aisladas dentro del procesador donde el código no puede ser manipulado — ni siquiera por el sistema operativo o los administradores de la nube. NVIDIA comenzó a implementar el soporte de GPU para TEE en 2024, lo que lo hace relevante para cargas de trabajo de IA reales. El punto es que puedes obtener una atestación criptográfica de que exactamente este modelo ejecutó exactamente este prompt en un entorno no modificado.

¿Puedes probar que la IA no miente? Ahora la gente quiere respuestas - Bilde 1

La firma criptográfica es el hermano más sencillo — NVIDIA ya firma modelos en el Catálogo NGC con el estándar OpenSSF desde marzo de 2025. Esto resuelve el problema de la procedencia (¿es este el modelo real?), pero no la manipulación en tiempo de ejecución.

Las pruebas de conocimiento cero (Zero-knowledge proofs) son la solución elegante pero pesada. Prueba matemática sin revelar la entrada. El problema es que las ZKP para grandes modelos de lenguaje son lo suficientemente intensivas computacionalmente como para hacerlas imprácticas hoy en día — de ahí el interés en la alternativa de los TEE.

¿Por qué le importa a alguien ahora? Porque la IA se utiliza en contextos cada vez más críticos — documentos legales, asesoramiento médico, decisiones financieras. La pregunta de quién tomó realmente la decisión y qué modelo la respaldó, está empezando a ser relevante a nivel regulatorio. La implementación de la Ley de IA de la UE está en marcha, y la auditabilidad ya no es solo una charla de nerds.

Estas son señales tempranas de un nicho técnico, y ninguna de las soluciones está lista para producción a gran escala todavía. Pero que la gente de Lobsters — que suelen ser más escépticos y técnicamente sólidos que Reddit — lo esté planteando, es digno de mención. Esté atento a si esto aparece en conferencias de seguridad como DEF CON o Black Hat durante el otoño.