Berita Terbaru Memitigasi risiko keamanan AI Generatif
Jakarta Pusat
Jakarta (ANTARA) - Kecerdasan buatan (AI) generatif menghadirkan risiko yang tidak terduga, mulai dari pelanggaran data hingga output yang dimanipulasi, yang membuat model keamanan tradisional menjadi usang.
Seperti industri penerbangan yang mendapatkan kepercayaan publik dengan menerapkan protokol keamanan yang ketat, perusahaan AI harus mengidentifikasi dan mengatasi kerentanan kritis sebelum menyebabkan kerugian di dunia nyata.
Dalam uji keamanan terbaru, chatbot AI generatif perbankan yang dirancang untuk membantu pelanggan dalam pengajuan pinjaman telah dimanipulasi untuk mengungkapkan informasi keuangan sensitif. Penguji berhasil melewati kontrol keamanan dan mengekstrak daftar persetujuan pinjaman secara lengkap, termasuk nama pelanggan. - Reposted by : PRIKOM Privat Komputer Bandung.
Seperti industri penerbangan yang mendapatkan kepercayaan publik dengan menerapkan protokol keamanan yang ketat, perusahaan AI harus mengidentifikasi dan mengatasi kerentanan kritis sebelum menyebabkan kerugian di dunia nyata.
Dalam uji keamanan terbaru, chatbot AI generatif perbankan yang dirancang untuk membantu pelanggan dalam pengajuan pinjaman telah dimanipulasi untuk mengungkapkan informasi keuangan sensitif. Penguji berhasil melewati kontrol keamanan dan mengekstrak daftar persetujuan pinjaman secara lengkap, termasuk nama pelanggan. - Reposted by : PRIKOM Privat Komputer Bandung.
Kontak
Antaranews.com
Kunjungi / Hubungi