В ИИ данные, обрабатываемые в памяти, часто являются наиболее уязвимыми. Вот обзор того, как Confidential Computing от @nvidia защищает данные в процессе использования, чтобы обеспечить защиту чувствительных наборов данных, весов модели и кода во время обучения и вывода. Это критически важно в средах с нулевым доверием, регулируемых или многопользовательских. 🧵👇

2/6: В отличие от подходов, основанных только на программном обеспечении, NVIDIA реализует безопасность на аппаратном уровне в своих графических процессорах (GPU). Это означает, что шифрование, изоляция и аттестация встроены в кремний, что снижает риск утечки даже в случае компрометации системного программного обеспечения.

3/6: Это работает за счет шифрования данных в памяти GPU, и они могут оставаться защищенными даже при передаче через соединения NVLink с использованием TEE ввода/вывода на скорости, близкой к родной. Это предотвращает несанкционированный доступ со стороны других процессов, хост-системы или злонамеренных лиц с физическим или программным доступом.

4/6: Изоляция достигается благодаря аппаратным возможностям разделения от NVIDIA, в частности технологии Multi-Instance GPU (MIG). MIG позволяет разделить один физический GPU на несколько полностью изолированных экземпляров, каждый из которых имеет свои собственные выделенные вычислительные, память и кэш-ресурсы. В режиме конфиденциальных вычислений эти экземпляры функционируют как безопасные анклавы, обеспечивая, что рабочие нагрузки, выполняющиеся на одном экземпляре, не могут читать или вмешиваться в те, что на другом. Этот уровень изоляции критически важен для многопользовательских сред, таких как облачные развертывания, где рабочие нагрузки нескольких клиентов используют одно и то же физическое оборудование.

5/6: Аттестация предоставляет криптографическое доказательство того, что GPU и его прошивка находятся в доверенном, неизменном состоянии до начала выполнения рабочих нагрузок. Сервисы аттестации NVIDIA проверяют, что оборудование является подлинным, что его прошивка соответствует утвержденной версии и что оно работает в конфиденциальном режиме. Это необходимо в архитектурах с нулевым доверием, так как это позволяет предприятиям гарантировать, что их рабочие нагрузки ИИ выполняются только в безопасных, проверенных средах. Аттестация также поддерживает соблюдение норм в регулируемых отраслях, где доказуемая доверенность оборудования является предварительным условием для обработки конфиденциальных данных.

6/6: Одно из его главных преимуществ заключается в том, что вы можете включить защиту нагрузки, не изменяя код приложения! Это просто изменение конфигурации — идеально для корпоративных ИИ-пайплайнов, где переписывание моделей было бы дорогостоящим и разрушительным. Читать далее здесь: !