Cómputo confidencial · LLMs en TEE
Cuando los datos no pueden salir, corremos los LLMs dentro de un Trusted Execution Environment: cifrados en uso, verificables, sin exponerlos al proveedor ni a nosotros.
Un TEE (Trusted Execution Environment) es una zona aislada y sellada dentro del procesador. El código y los datos que entran ahí quedan cifrados mientras se usan, no solo cuando se guardan o viajan por la red. Ni el sistema operativo, ni el proveedor de nube, ni alguien con acceso físico a la máquina pueden ver lo que pasa adentro.
Aplicado a IA: el modelo corre dentro de ese enclave. Tus datos se descifran solo ahí, se procesan, y sale el resultado. La información cruda nunca queda expuesta al host, al operador de la infraestructura, ni a nosotros. Antes de mandar nada, se puede verificar criptográficamente (remote attestation) que el enclave es genuino y corre exactamente el código esperado, no una versión modificada.
Pensalo como una caja de vidrio blindada y a prueba de manipulación: podés comprobar que es la caja correcta y que adentro está lo que tiene que estar antes de poner tu secreto. Si alguien la abre o la altera, deja de validar.
Ficha técnica
- Incluye
- Inferencia de LLMs dentro del enclave, cifrado de datos en uso, remote attestation antes de procesar, y manejo de claves para que solo vos abras el resultado.
- Hardware
- CPU con Intel TDX o AMD SEV-SNP y, para inferencia acelerada, GPUs NVIDIA con confidential computing (H100/H200).
- Para quién
- Organizaciones que necesitan que datos sensibles (legales, médicos, financieros, credenciales) pasen por modelos de IA sin entregárselos al proveedor.
¿Querés sumar velocidad sin perder el control?
Una conversación técnica, sin libreto de ventas. Te mostramos dónde la IA acelera tu defensa y dónde conviene dejar el criterio en manos humanas.