3 celah keamanan AI yang membuat perusahaan terpapar! Percakapan keamanan AI bergerak cepat. Tetapi ada kesenjangan mendasar yang masih belum diatasi oleh perusahaan. Untuk laporan kami, kami menganalisis risiko keamanan AI di seluruh industri dan menemukan bahwa sebagian besar perusahaan membuat 3 kesalahan yang sama. Dan kesenjangan ini tidak kecil—mereka mendefinisikan ulang seperti apa keamanan siber di dunia yang digerakkan oleh AI. 1. Tata kelola AI hilang Sebagian besar organisasi tidak memiliki visibilitas tentang bagaimana AI digunakan di dalam perusahaan mereka. ▪️Karyawan mengintegrasikan alat AI tanpa persetujuan TI. ▪️Tim keamanan tidak dapat melacak model AI apa yang diproses. ▪️Copilot AI memiliki lebih banyak akses ke data perusahaan daripada yang seharusnya. Ini bukan hanya masalah kepatuhan—ini adalah kegagalan keamanan. Jika tidak ada yang memiliki keamanan AI, siapa yang bertanggung jawab ketika keputusan yang dihasilkan AI salah? 2. Model AI dapat diretas secara diam-diam Keamanan AI tidak berfungsi seperti keamanan perangkat lunak tradisional. ▪️Alih-alih mengeksploitasi kode, penyerang memanipulasi data. ▪️Mereka menyuntikkan data pelatihan berbahaya yang menciptakan backdoor senyap di dalam model AI. ▪️Mereka menyempurnakan model agar berperilaku normal sampai dipicu. ▪️Mereka menggunakan rekayasa cepat untuk mengekstrak data sensitif dari respons AI. Tim keamanan tidak dapat memindai model AI untuk malware. Dan begitu model AI dikompromikan, Anda bahkan tidak akan mengetahuinya. 3. Keamanan runtime AI tidak ada Tim keamanan menghabiskan waktu berbulan-bulan untuk mengamankan AI sebelum penerapan—tetapi kemudian berhenti memantaunya. Itu masalah. ▪️Karena ancaman AI tidak berhenti saat peluncuran. ▪️Penyerang memanipulasi respons yang dihasilkan AI secara real-time. ▪️Mereka menyuntikkan petunjuk untuk melewati mekanisme keselamatan. ▪️Mereka mengikis API AI untuk mencuri output model. Dan saat ini, sebagian besar tim keamanan memiliki visibilitas minimal ke dalam semua ini. Jadi apa yang terjadi selanjutnya? #AI #Cybersecurity #AISecurity #CISO #Automation