🤖 AI hoạt động trên GPU, KHÔNG phải CPU.
Các khối lượng công việc AI hiện đại—hãy nghĩ đến LLMs, suy diễn thời gian thực—cần sự song song khổng lồ. GPU như H100 của NVIDIA thực hiện điều đó một cách tuyệt vời. Nhưng đây là sự thật khắc nghiệt: một khi dữ liệu của bạn vào bộ nhớ GPU, nó sẽ BỊ PHƠI BÀY HOÀN TOÀN.
GPU TEEs thay đổi cuộc chơi.
🧵

1/🧵
Hãy nghĩ về GPU TEEs như những kho tiền chống đạn bên trong card đồ họa của bạn. Chúng giữ cho việc thực thi AI của bạn được riêng tư, có thể xác minh và không thể bị giả mạo—ngay cả khi hệ điều hành chủ bị xâm phạm.
Điều tuyệt vời nhất? Tác động hiệu suất gần như bằng không (<2% trên các mô hình lớn). 😱
2/🧵
GPU TEE hoạt động như thế nào?
🔒 Gốc tin cậy phần cứng được ghi vào mỗi chip
🔒 Khởi động an toàn với firmware đã ký
🔒 Giao tiếp mã hóa giữa CPU và GPU
🔒 Chứng thực từ xa để chứng minh tính toàn vẹn
🔒 Không có khả năng nhìn thấy từ hệ điều hành hoặc hypervisor
Chuỗi tin cậy hoàn chỉnh từ silicon đến phần mềm.

3/🧵
Phala đã công bố các chỉ số GPU TEE đầu tiên trên thế giới vào tháng 9 năm ngoái. Kết quả:
👊 <9% mất mát hiệu suất trung bình
👊 Mô hình lớn hơn = overhead gần như bằng không
👊 Thời gian khởi động dài hơn 20-25% (đáng giá cho sự an toàn)
👊 Chuyển PCIe là nút thắt thực sự duy nhất
4/🧵
Nói thật: điều này giải quyết những vấn đề LỚN trong AI:
🏥 AI trong chăm sóc sức khỏe trên các cụm chia sẻ (dữ liệu bệnh nhân vẫn được mã hóa)
🏦 Các mô hình tài chính không thể rò rỉ chiến lược giao dịch
🔬 Học tập liên kết mà không tiết lộ bộ dữ liệu thô
⚖️ Tuân thủ quy định theo thiết kế
1,13 N
1
Nội dung trên trang này được cung cấp bởi các bên thứ ba. Trừ khi có quy định khác, OKX không phải là tác giả của bài viết được trích dẫn và không tuyên bố bất kỳ bản quyền nào trong các tài liệu. Nội dung được cung cấp chỉ nhằm mục đích thông tin và không thể hiện quan điểm của OKX. Nội dung này không nhằm chứng thực dưới bất kỳ hình thức nào và không được coi là lời khuyên đầu tư hoặc lời chào mời mua bán tài sản kỹ thuật số. Việc sử dụng AI nhằm cung cấp nội dung tóm tắt hoặc thông tin khác, nội dung do AI tạo ra có thể không chính xác hoặc không nhất quán. Vui lòng đọc bài viết trong liên kết để biết thêm chi tiết và thông tin. OKX không chịu trách nhiệm về nội dung được lưu trữ trên trang web của bên thứ ba. Việc nắm giữ tài sản kỹ thuật số, bao gồm stablecoin và NFT, có độ rủi ro cao và có thể biến động rất lớn. Bạn phải cân nhắc kỹ lưỡng xem việc giao dịch hoặc nắm giữ tài sản kỹ thuật số có phù hợp hay không dựa trên tình hình tài chính của bạn.