Na IA, os dados processados na memória costumam ser os mais vulneráveis. Aqui está uma visão geral de como a Computação Confidencial da @nvidia protege os dados em uso para garantir que conjuntos de dados confidenciais, pesos de modelo e código permaneçam protegidos durante o treinamento e a inferência. Isso é fundamental em ambientes de confiança zero, regulamentados ou multilocatários. 🧵👇

2/6: Ao contrário das abordagens somente de software, a NVIDIA implementa segurança na camada de hardware em suas GPUs. Isso significa que criptografia, isolamento e atestado são incorporados ao silício, reduzindo o risco de exposição mesmo se o software do sistema for comprometido.

3/6: Funciona por meio de dados criptografados na memória da GPU e que podem até permanecer seguros enquanto se movem por interconexões NVLink por meio de entrada / saída TEE em velocidades quase nativas. Isso impede o acesso não autorizado de outros processos, do sistema host ou de agentes mal-intencionados com acesso físico ou no nível do software.

4/6: O isolamento é obtido por meio dos recursos de particionamento em nível de hardware da NVIDIA, principalmente a tecnologia de GPU de várias instâncias (MIG). O MIG permite que uma única GPU física seja dividida em várias instâncias totalmente isoladas, cada uma com seus próprios recursos dedicados de computação, memória e cache. No modo de computação confidencial, essas instâncias funcionam como enclaves seguros, garantindo que as cargas de trabalho em execução em uma instância não possam ler ou interferir nas de outra. Esse nível de isolamento é crítico para ambientes multilocatários, como implantações em nuvem, em que as cargas de trabalho de vários clientes compartilham o mesmo hardware físico.

5/6: O atestado fornece a prova criptográfica de que a GPU e seu firmware estão em um estado confiável e não adulterado antes que as cargas de trabalho comecem a ser executadas. Os serviços de atestado da NVIDIA verificam se o hardware é genuíno, se seu firmware corresponde a uma versão aprovada e se está operando em modo confidencial. Isso é essencial em arquiteturas de confiança zero, pois permite que as empresas garantam que suas cargas de trabalho de IA sejam executadas apenas em ambientes seguros e verificados. O atestado também dá suporte à conformidade em setores regulamentados, onde a confiança de hardware comprovada é um pré-requisito para lidar com dados confidenciais.

6/6: Uma de suas maiores vantagens é que você pode habilitar a proteção da carga de trabalho sem alterar o código do aplicativo! É simplesmente uma mudança de configuração, ideal para pipelines de IA corporativos em que a reescrita de modelos seria cara e disruptiva. Leia mais aqui: !