Tekoälyssä muistissa käsiteltävä data on usein haavoittuvinta. Tässä on yleiskatsaus siihen, miten @nvidia's Confidential Computing suojaa käytössä olevat tiedot varmistaakseen, että arkaluontoiset tietojoukot, mallien painot ja koodi pysyvät suojattuina koulutuksen ja päättelyn aikana. Tämä on kriittistä nollaluottamuksen, säännellyn tai usean vuokraajan ympäristöissä. 🧵👇

2/6: Toisin kuin vain ohjelmistoihin perustuvat lähestymistavat, NVIDIA toteuttaa tietoturvan GPU:idensa laitteistokerroksessa. Tämä tarkoittaa, että salaus, eristys ja todentaminen on sisäänrakennettu piihin, mikä vähentää altistumisriskiä, vaikka järjestelmäohjelmisto vaarantuisi.

3/6: Se toimii salaamalla tiedot GPU-muistiin, ja ne voivat jopa pysyä turvassa, kun ne liikkuvat NVLink-liitäntöjen kautta TEE-tulon/-lähdön kautta lähes alkuperäisillä nopeuksilla. Tämä estää luvattoman käytön muista prosesseista, isäntäjärjestelmästä tai haitallisista toimijoista, joilla on fyysinen tai ohjelmistotason käyttöoikeus.

4/6: Eristys saavutetaan NVIDIAn laitteistotason osiointiominaisuuksilla, erityisesti Multi-Instance GPU (MIG) -tekniikalla. MIG:n avulla yksi fyysinen grafiikkasuoritin voidaan jakaa useisiin täysin eristettyihin instansseihin, joista jokaisella on omat laskenta-, muisti- ja välimuistiresurssinsa. Luottamuksellisessa tietojenkäsittelytilassa nämä esiintymät toimivat suojattuina erillisalueina, mikä varmistaa, että yhdessä esiintymässä suoritettavat työkuormat eivät voi lukea tai häiritä toisen esiintymän kuormituksia. Tämä eristystaso on kriittinen usean vuokraajan ympäristöissä, kuten pilvikäyttöönotoissa, joissa useiden asiakkaiden kuormitukset jakavat saman fyysisen laitteiston.

5/6: Todennus tarjoaa salaustodistuksen siitä, että grafiikkasuoritin ja sen laiteohjelmisto ovat luotetussa, muuttumattomassa tilassa ennen kuormitusten suorittamisen aloittamista. NVIDIAn todistuspalvelut varmistavat, että laitteisto on aito, että sen laiteohjelmisto vastaa hyväksyttyä versiota ja että se toimii luottamuksellisessa tilassa. Tämä on olennaista nollaluottamusarkkitehtuureissa, koska sen avulla yritykset voivat varmistaa, että niiden tekoälytyökuormat suoritetaan vain turvallisissa, varmennetuissa ympäristöissä. Todennus tukee vaatimustenmukaisuutta myös säännellyillä toimialoilla, joissa todistettavissa oleva laitteistoluottamus on edellytys arkaluonteisten tietojen käsittelylle.

6/6: Yksi sen suurimmista eduista on, että voit ottaa työkuorman suojauksen käyttöön muuttamatta sovelluskoodia! Se on yksinkertaisesti kokoonpanomuutos – ihanteellinen yritysten tekoälyputkille, joissa mallien uudelleenkirjoittaminen olisi kallista ja häiritsevää. Lue lisää täältä: !