- Google Cloud meluncurkan suite keamanan perlindungan AI baru
- Menawarkan mengidentifikasi, menilai, dan melindungi aset AI untuk kerentanan
- Bahkan lebih banyak fitur keamanan akan segera hadir
Google Cloud telah diluncurkan Perlindungan AISerangkaian fitur keamanan yang dirancang untuk mengurangi risiko di seluruh beban kerja dan data AI, terlepas dari platform yang digunakan.
Penawaran baru akan memberi bisnis pandangan terpusat tentang kedudukan AI mereka, memungkinkan mereka untuk mengelola risiko dan mengancam ancaman sebelum mereka menjadi perhatian.
“Ketika penggunaan AI meningkat, keamanan tetap menjadi perhatian utama, dan kami sering mendengar bahwa organisasi khawatir tentang risiko yang dapat datang dengan adopsi cepat,” kata Archana Ramamoorthy, direktur senior, manajemen produk, Google Cloud Security. “Google Cloud berkomitmen untuk membantu pelanggan kami dengan percaya diri membangun dan menggunakan AI dengan cara yang aman, sesuai, dan pribadi.”
Perlindungan yang ditingkatkan untuk beban kerja AI
Perlindungan AI akan dibangun ke Pusat Komando Keamanan (SCC), menyediakan sistem manajemen keamanan AI terpusat bersama dengan risiko cloud lainnya.
Di antara kemampuan inti dari platform baru adalah penemuan inventaris AI (mengidentifikasi dan menilai aset AI untuk kerentanan), keamanan aset AI (mengimplementasikan kontrol, kebijakan, dan pagar pembatas untuk mengamankan sumber daya AI), dan manajemen ancaman (menawarkan deteksi, investigasi, dan mekanisme respons untuk ancaman terkait AI).
Selain itu, Google Cloud menjelaskan bahwa peningkatan Sensitive Data Protection (SDP) sekarang meluas ke set data Vertex AI, memungkinkan penemuan otomatis dan klasifikasi pelatihan sensitif dan data tuning. Setelah menemukan data sensitif, perlindungan AI akan menggunakan tim merah virtual SCC untuk mengidentifikasi jalur serangan potensial pada sistem AI dan menyarankan langkah -langkah perbaikan.
Google Cloud juga mengatakan Model Armor, kemampuan inti perlindungan AI, sekarang umumnya tersedia. Ini dirancang untuk melindungi dari serangan injeksi dan jailbreak yang cepat, kehilangan data dan URL berbahaya, dan konten ofensif. Ini dapat diintegrasikan ke dalam aplikasi melalui REST API, Apigee, dan Soon Vertex AI.
Akhirnya, perlindungan AI akan mengoperasionalkan intelijen keamanan dan penelitian dari Google dan Mandiant untuk membantu mempertahankan sistem AI.
Upaya akses awal, eskalasi hak istimewa, dan upaya kegigihan untuk beban kerja AI semuanya dapat dideteksi melalui SCC, sedangkan detektor baru untuk perlindungan AI, berdasarkan pada intelijen garis depan terbaru, “segera hadir”. Ini akan membantu mengidentifikasi dan mengelola ancaman runtime seperti pembajakan model dasar.
