Na IA, os dados processados na memória são frequentemente os mais vulneráveis. Aqui está uma visão geral de como a Computação Confidencial da @nvidia protege os dados em uso para garantir que conjuntos de dados sensíveis, pesos de modelos e código permaneçam protegidos durante o treinamento e a inferência. Isto é crítico em ambientes de zero confiança, regulamentados ou multi-inquilinos. 🧵👇

2/6: Ao contrário das abordagens apenas de software, a NVIDIA implementa segurança na camada de hardware nas suas GPUs. Isto significa que a encriptação, o isolamento e a atestação estão integrados no silício, reduzindo o risco de exposição mesmo que o software do sistema esteja comprometido.

3/6: Funciona através da encriptação de dados na memória da GPU, que pode até permanecer segura enquanto se move através de interconexões NVLink por meio de entrada/saída TEE a velocidades quase nativas. Isto previne o acesso não autorizado de outros processos, do sistema anfitrião ou de agentes maliciosos com acesso físico ou a nível de software.

4/6: A isolação é alcançada através das capacidades de particionamento a nível de hardware da NVIDIA, nomeadamente a tecnologia Multi-Instance GPU (MIG). O MIG permite que uma única GPU física seja dividida em várias instâncias totalmente isoladas, cada uma com os seus próprios recursos dedicados de computação, memória e cache. No modo de computação confidencial, estas instâncias funcionam como enclaves seguros, garantindo que as cargas de trabalho a correr numa instância não possam ler ou interferir com aquelas em outra. Este nível de isolação é crítico para ambientes multi-inquilinos, como as implementações em nuvem, onde as cargas de trabalho de vários clientes partilham o mesmo hardware físico.

5/6: A atestação fornece a prova criptográfica de que a GPU e o seu firmware estão em um estado confiável e não adulterado antes do início da execução das cargas de trabalho. Os serviços de atestação da NVIDIA verificam se o hardware é genuíno, se o seu firmware corresponde a uma versão aprovada e se está a operar em modo confidencial. Isso é essencial em arquiteturas de zero confiança, pois permite que as empresas garantam que as suas cargas de trabalho de IA sejam executadas apenas em ambientes seguros e verificados. A atestação também apoia a conformidade em indústrias regulamentadas, onde a confiança de hardware comprovável é um pré-requisito para o manuseio de dados sensíveis.

6/6: Uma das suas maiores vantagens é que você pode ativar a proteção de carga de trabalho sem mudar o código da aplicação! É simplesmente uma alteração de configuração—ideal para pipelines de IA empresariais onde reescrever modelos seria caro e disruptivo. Leia mais aqui: !