Presiden Sinyal Meredith Whittaker memperingatkan Jumat bahwa Agen AI dapat datang dengan risiko privasi pengguna.
Berbicara di atas panggung di Konferensi SXSW di Austin, Texas, Advokat untuk Komunikasi Aman, menyebut penggunaan agen AI sebagai “menempatkan otak Anda dalam toples,” dan memperingatkan bahwa paradigma komputasi baru ini – di mana AI melakukan tugas pada basa pengguna – memiliki “masalah besar” dengan privasi dan keamanan.
Whittaker menjelaskan bagaimana agen AI dipasarkan sebagai cara untuk menambah nilai hidup Anda dengan menangani berbagai tugas online untuk pengguna. Misalnya, agen AI akan dapat melakukan tugas -tugas seperti mencari konser, memesan tiket, menjadwalkan acara di kalender Anda, dan mengirim pesan kepada teman -teman Anda yang dipesan.
“Jadi kita bisa memasukkan otak kita ke dalam toples karena masalahnya melakukan itu dan kita tidak perlu menyentuhnya, kan?,” Whittaker merenung.
Kemudian dia menjelaskan jenis akses yang perlu dilakukan oleh agen AI untuk melakukan tugas -tugas ini, termasuk akses ke browser web kami dan cara untuk mengendarainya serta akses ke informasi kartu kredit kami untuk membayar tiket, kalender kami, dan aplikasi pesan untuk mengirim teks ke teman -teman Anda.
“Itu harus dapat mendorong (proses) itu di seluruh sistem kami dengan sesuatu yang terlihat seperti izin root, mengakses setiap database tersebut – mungkin dalam hal yang jelas, karena tidak ada model untuk melakukan yang dienkripsi,” Whittaker memperingatkan.
“Dan jika kita berbicara tentang model AI yang cukup kuat … yang menyalakannya, tidak ada cara yang terjadi di perangkat,” lanjutnya. “Itu hampir pasti dikirim ke server cloud tempat itu sedang diproses dan dikirim kembali. Jadi ada masalah mendalam dengan keamanan dan privasi yang menghantui hype ini di sekitar agen, dan itu pada akhirnya mengancam untuk memecahkan penghalang darah-otak antara lapisan aplikasi dan lapisan OS dengan membatalkan semua layanan terpisah ini (dan) berlumpur data mereka, ”Whittaker menyimpulkan.
Jika aplikasi pesan seperti sinyal berintegrasi dengan agen AI, itu akan merusak privasi pesan Anda, katanya. Agen harus mengakses aplikasi untuk mengirim pesan kepada teman Anda dan juga menarik data kembali untuk meringkas teks -teks tersebut.
Komentarnya mengikuti komentar yang dia buat sebelumnya selama panel tentang bagaimana industri AI telah dibangun di atas model pengawasan dengan pengumpulan data massal. Dia mengatakan bahwa “lebih besar adalah paradigma AI yang lebih baik” – yang berarti semakin banyak data, semakin baik – memiliki konsekuensi potensial yang menurutnya tidak baik.
Dengan AI Agen, Whittaker memperingatkan kami akan lebih jauh melemahkan privasi dan keamanan atas nama “bot Genie Ajaib yang akan mengurus urgensi kehidupan,” pungkasnya.
