🤖 AI działa na GPU, a nie na CPU. Nowoczesne obciążenia AI—myśl LLM, wnioskowanie w czasie rzeczywistym—potrzebują ogromnej równoległości. GPU, takie jak H100 od NVIDIA, radzą sobie z tym doskonale. Ale oto surowa prawda: gdy twoje dane trafią do pamięci GPU, są CAŁKOWICIE odsłonięte. GPU TEEs zmieniają zasady gry. 🧵
1/🧵 Pomyśl o GPU TEE jako o kuloodpornych skarbcach wewnątrz twojej karty graficznej. Utrzymują one wykonanie twojej AI w prywatności, weryfikowalności i odporności na manipulacje — nawet jeśli system operacyjny gospodarza jest skompromitowany. Najlepsza część? Prawie zerowy narzut na wydajność (<2% przy dużych modelach). 😱
2/🧵 Jak działa GPU TEE? 🔒 Sprzętowy korzeń zaufania wbudowany w każdy chip 🔒 Bezpieczne uruchamianie z podpisanym oprogramowaniem 🔒 Szyfrowana komunikacja CPU-GPU 🔒 Zdalna weryfikacja w celu potwierdzenia integralności 🔒 Brak widoczności dla systemu operacyjnego hosta lub hypervisora Pełny łańcuch zaufania od krzemu do oprogramowania.
3/🧵 Phala opublikowała pierwsze na świecie benchmarki GPU TEE we wrześniu zeszłego roku. Wyniki: 👊 <9% średnia utrata wydajności 👊 Większe modele = prawie zerowy narzut 👊 20-25% dłuższy czas uruchamiania (warto dla bezpieczeństwa) 👊 Transfer PCIe to jedyne prawdziwe wąskie gardło
4/🧵 Prawdziwa rozmowa: to rozwiązuje OGROMNE problemy w AI: 🏥 AI w opiece zdrowotnej na współdzielonych klastrach (dane pacjentów pozostają zaszyfrowane) 🏦 Modele finansowe, które nie mogą ujawniać strategii handlowych 🔬 Uczenie federacyjne bez ujawniania surowych zbiorów danych ⚖️ Zgodność z regulacjami z założenia
Pokaż oryginał
1,15 tys.
1
Treści na tej stronie są dostarczane przez strony trzecie. O ile nie zaznaczono inaczej, OKX nie jest autorem cytowanych artykułów i nie rości sobie żadnych praw autorskich do tych materiałów. Treść jest dostarczana wyłącznie w celach informacyjnych i nie reprezentuje poglądów OKX. Nie mają one na celu jakiejkolwiek rekomendacji i nie powinny być traktowane jako porada inwestycyjna lub zachęta do zakupu lub sprzedaży aktywów cyfrowych. Treści, w zakresie w jakim jest wykorzystywana generatywna sztuczna inteligencja do dostarczania podsumowań lub innych informacji, mogą być niedokładne lub niespójne. Przeczytaj podlinkowany artykuł, aby uzyskać więcej szczegółów i informacji. OKX nie ponosi odpowiedzialności za treści hostowane na stronach osób trzecich. Posiadanie aktywów cyfrowych, w tym stablecoinów i NFT, wiąże się z wysokim stopniem ryzyka i może podlegać znacznym wahaniom. Musisz dokładnie rozważyć, czy handel lub posiadanie aktywów cyfrowych jest dla Ciebie odpowiednie w świetle Twojej sytuacji finansowej.