🤖 AI 运行在 GPU 上,而不是 CPU。
现代 AI 工作负载——想想 LLMs、实时推理——需要巨大的并行处理能力。像 NVIDIA 的 H100 这样的 GPU 完美地满足了这一需求。但这里有一个残酷的事实:一旦你的数据进入 GPU 内存,它就会被完全暴露。
GPU TEEs 改变了游戏规则。
🧵

1/🧵
把 GPU TEE 想象成你显卡内部的防弹保险库。它们保持你的 AI 执行私密、可验证且防篡改——即使主机操作系统被攻破。
最棒的部分?几乎没有性能开销(大型模型上小于 2%)。😱
2/🧵
GPU TEE 是如何工作的?
🔒 每个芯片中烧录的硬件信任根
🔒 带有签名固件的安全启动
🔒 加密的 CPU-GPU 通信
🔒 远程证明以证明完整性
🔒 主机操作系统或虚拟机监控程序无法查看
从硅到软件的完整信任链。

3/🧵
Phala在去年九月发布了全球首个GPU TEE基准测试。结果:
👊 平均性能损失低于9%
👊 更大的模型 = 几乎没有开销
👊 启动时间延长20-25%(为了安全是值得的)
👊 PCIe传输是唯一真正的瓶颈
4/🧵
真实的谈话:这解决了人工智能中的重大问题:
🏥 医疗保健人工智能在共享集群上(患者数据保持加密)
🏦 无法泄露交易策略的金融模型
🔬 不暴露原始数据集的联邦学习
⚖️ 设计时考虑合规性
605
1
本页面内容由第三方提供。除非另有说明,欧易不是所引用文章的作者,也不对此类材料主张任何版权。该内容仅供参考,并不代表欧易观点,不作为任何形式的认可,也不应被视为投资建议或购买或出售数字资产的招揽。在使用生成式人工智能提供摘要或其他信息的情况下,此类人工智能生成的内容可能不准确或不一致。请阅读链接文章,了解更多详情和信息。欧易不对第三方网站上的内容负责。包含稳定币、NFTs 等在内的数字资产涉及较高程度的风险,其价值可能会产生较大波动。请根据自身财务状况,仔细考虑交易或持有数字资产是否适合您。