🤖 La IA se ejecuta en GPU, NO en CPU.
Las cargas de trabajo de IA modernas, como los LLM, la inferencia en tiempo real, necesitan un paralelismo masivo. Las GPU como la H100 de NVIDIA lo hacen maravillosamente. Pero esta es la cruda verdad: una vez que sus datos llegan a la memoria de la GPU, están COMPLETAMENTE expuestos.
Los TEE de GPU cambian las reglas del juego.
🧵
1/ 🧵
Piense en los TEE de GPU como bóvedas a prueba de balas dentro de su tarjeta gráfica. Mantienen la ejecución de su IA privada, verificable y a prueba de manipulaciones, incluso si el sistema operativo host se ve comprometido.
¿La mejor parte? Gastos generales de rendimiento casi nulos (<2% en modelos grandes). 😱
número arábigo/🧵
¿Cómo funciona GPU TEE?
🔒 Raíz de confianza de hardware grabada en cada chip
🔒 Arranque seguro con firmware firmado
🔒 Comunicación cifrada CPU-GPU
🔒 Certificación remota para demostrar la integridad
🔒 Visibilidad cero para el sistema operativo host o el hipervisor
Cadena de confianza total desde el silicio hasta el software.
3/ 🧵
Phala lanzó los primeros puntos de referencia GPU TEE del mundo el pasado mes de septiembre. Los resultados:
👊 <9% de pérdida de rendimiento promedio
👊 Modelos más grandes = sobrecarga casi nula
👊 Un 20-25% más de tiempo de inicio (vale la pena por seguridad)
👊 La transferencia PCIe es el único cuello de botella real
4/ 🧵
Hablando en serio: esto resuelve problemas MASIVOS en la IA:
🏥 IA sanitaria en clústeres compartidos (los datos de los pacientes permanecen cifrados)
🏦 Modelos financieros que no pueden filtrar estrategias de trading
🔬 Aprendizaje federado sin exponer conjuntos de datos sin procesar
⚖️ Cumplimiento normativo desde el diseño
1.12 K
1
El contenido al que estás accediendo se ofrece por terceros. A menos que se indique lo contrario, OKX no es autor de la información y no reclama ningún derecho de autor sobre los materiales. El contenido solo se proporciona con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo enlazado para más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. Los holdings de activos digitales, incluidos stablecoins y NFT, suponen un alto nivel de riesgo y pueden fluctuar mucho. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti según tu situación financiera.