🤖 Штучний інтелект працює на графічних процесорах, а не на центральних процесорах.
Сучасні робочі навантаження штучного інтелекту — наприклад, LLM, висновок у реальному часі — потребують масивного паралелізму. Графічні процесори, такі як H100 від NVIDIA, роблять це чудово. Але ось сувора правда: як тільки ваші дані потрапляють у пам'ять графічного процесора, вони ПОВНІСТЮ розкриваються.
TEE графічних процесорів змінюють правила гри.
🧵

1/ 🧵
Думайте про TEE графічного процесора як про куленепробивні сховища всередині вашої відеокарти. Вони забезпечують конфіденційність виконання вашого штучного інтелекту, його можна перевірити та захистити від несанкціонованого доступу, навіть якщо хост-ОС скомпрометована.
Найкраща частина? Майже нульові накладні витрати на продуктивність (<2% на великих моделях). 😱
2/ 🧵
Як працює GPU TEE?
🔒 Апаратний корінь довіри згорає в кожну мікросхему
🔒 Безпечне завантаження з підписаною прошивкою
🔒 Зашифрований зв'язок між CPU та GPU
🔒 Дистанційна атестація для підтвердження доброчесності
🔒 Нульова видимість для хостової ОС або гіпервізора
Повний ланцюжок довіри від кремнію до програмного забезпечення.

3/ 🧵
У вересні минулого року Phala відмовилася від перших у світі тестів GPU TEE. Результати:
👊 Середня втрата продуктивності <9%
👊 Більші моделі = майже нульові накладні витрати
👊 На 20-25% довше (варто для безпеки)
👊 Передача даних через PCIe – єдине реальне вузьке місце
4/ 🧵
Реальна розмова: це вирішує ВЕЛИЧЕЗНІ проблеми в ШІ:
🏥 Штучний інтелект у сфері охорони здоров'я на спільних кластерах (дані пацієнтів залишаються зашифрованими)
🏦 Фінансові моделі, які не можуть викрити торгові стратегії
🔬 Федеративне навчання без розкриття необроблених наборів даних
⚖️ Відповідність нормативним вимогам за проектом
1,11 тис.
1
Вміст на цій сторінці надається третіми сторонами. Якщо не вказано інше, OKX не є автором цитованих статей і не претендує на авторські права на матеріали. Вміст надається виключно з інформаційною метою і не відображає поглядів OKX. Він не є схваленням жодних дій і не має розглядатися як інвестиційна порада або заохочення купувати чи продавати цифрові активи. Короткий виклад вмісту чи інша інформація, створена генеративним ШІ, можуть бути неточними або суперечливими. Прочитайте статтю за посиланням, щоб дізнатися більше. OKX не несе відповідальності за вміст, розміщений на сторонніх сайтах. Утримування цифрових активів, зокрема стейблкоїнів і NFT, пов’язане з високим ризиком, а вартість таких активів може сильно коливатися. Перш ніж торгувати цифровими активами або утримувати їх, ретельно оцініть свій фінансовий стан.