În AI, datele procesate în memorie sunt adesea cele mai vulnerabile. Iată o prezentare generală a modului în care @nvidia's Confidential Computing securizează datele utilizate pentru a se asigura că seturile de date sensibile, greutățile modelului și codul rămân protejate în timpul antrenamentului și inferenței. Acest lucru este esențial în mediile cu încredere zero, reglementate sau cu mai multe entități găzduite. 🧵👇

2/6: Spre deosebire de abordările exclusiv software, NVIDIA implementează securitatea la nivelul hardware din GPU-urile sale. Aceasta înseamnă că criptarea, izolarea și atestarea sunt încorporate în siliciu, reducând riscul de expunere chiar dacă software-ul sistemului este compromis.

3/6: Funcționează prin criptarea datelor în memoria GPU și care pot rămâne chiar sigure în timp ce se deplasează prin interconexiunile NVLink prin intrare / ieșire TEE la viteze aproape native. Acest lucru previne accesul neautorizat de la alte procese, sistemul gazdă sau actori rău intenționați cu acces fizic sau la nivel de software.

4/6: Izolarea este realizată prin capabilitățile de partiționare la nivel de hardware ale NVIDIA, în special tehnologia GPU Multi-Instance (MIG). MIG permite împărțirea unui singur GPU fizic în mai multe instanțe complet izolate, fiecare cu propriile resurse dedicate de calcul, memorie și cache. În modul de calcul confidențial, aceste instanțe funcționează ca enclave securizate, asigurându-se că sarcinile de lucru care rulează pe o instanță nu pot citi sau interfera cu cele de pe alta. Acest nivel de izolare este esențial pentru mediile multi-tenant, cum ar fi implementările în cloud, unde fluxurile de lucru ale mai multor clienți partajează același hardware fizic.

5/6: Atestarea oferă dovada criptografică că GPU-ul și firmware-ul său sunt într-o stare de încredere, nemodificată, înainte ca sarcinile de lucru să înceapă execuția. Serviciile de atestare NVIDIA verifică dacă hardware-ul este autentic, dacă firmware-ul său corespunde unei versiuni aprobate și dacă funcționează în modul confidențial. Acest lucru este esențial în arhitecturile zero-trust, deoarece permite companiilor să se asigure că sarcinile lor de lucru AI sunt executate numai în medii sigure și verificate. Atestarea sprijină, de asemenea, conformitatea în industriile reglementate, unde încrederea hardware dovedită este o condiție prealabilă pentru gestionarea datelor sensibile.

6/6: Unul dintre cele mai mari avantaje ale sale este că puteți activa protecția sarcinilor de lucru fără a schimba codul aplicației! Este pur și simplu o schimbare de configurație - ideală pentru conductele AI de întreprindere, unde rescrierea modelelor ar fi costisitoare și perturbatoare. Citiți mai multe aici: !