St. Paul, milikku. – Molly Kelly terpana menemukan pada bulan Juni bahwa seseorang yang dia kenal telah menggunakan teknologi “nudifikasi” yang tersedia secara luas untuk membuat video dan gambar yang sangat realistis dan eksplisit seksual, menggunakan foto keluarga yang diposting di media sosial.
“Kejutan awal saya berubah menjadi ngeri ketika saya mengetahui bahwa orang yang sama menargetkan sekitar 80, 85 wanita lain, yang sebagian besar tinggal di Minnesota, beberapa di antaranya saya kenal secara pribadi, dan semuanya memiliki koneksi dalam beberapa cara ke pelaku,” kata Kelly.
Didukung oleh kesaksiannya, Minnesota sedang mempertimbangkan strategi baru untuk menindak pornografi Deepfake. RUU yang memiliki dukungan bipartisan akan menargetkan perusahaan yang menjalankan situs web dan aplikasi yang memungkinkan orang untuk mengunggah foto yang kemudian akan diubah menjadi gambar atau video eksplisit.
Negara -negara di seluruh negeri dan Kongres sedang mempertimbangkan strategi untuk mengatur kecerdasan buatan. Sebagian besar telah melarang penyebaran Deepfake eksplisit seksual atau balas dendam pornografi apakah mereka diproduksi dengan AI atau tidak. Gagasan di balik undang -undang Minnesota adalah untuk mencegah materi yang pernah dibuat – sebelum menyebar secara online.
Para ahli hukum AI memperingatkan proposal mungkin tidak konstitusional dengan alasan kebebasan berbicara.
Penulis utama, Senator Demokrat Erin Maye Quade, mengatakan pembatasan tambahan diperlukan karena teknologi AI telah maju begitu cepat. Tagihannya akan mengharuskan operator situs dan aplikasi “nudifikasi” untuk mematikannya kepada orang -orang di Minnesota atau menghadapi hukuman sipil hingga $ 500.000 “untuk setiap akses, unduhan, atau penggunaan yang melanggar hukum.” Pengembang perlu mencari cara untuk mengecualikan pengguna Minnesota.
Bukan hanya penyebaran yang berbahaya bagi para korban, katanya. Fakta bahwa gambar -gambar ini ada sama sekali.
Kelly mengatakan kepada wartawan bulan lalu bahwa siapa pun dapat dengan cepat membuat “gambar telanjang atau video pornografi hiper-realistis” dalam hitungan menit.
Sebagian besar perhatian penegakan hukum sejauh ini telah difokuskan pada distribusi dan kepemilikan.
San Francisco pada bulan Agustus mengajukan gugatan pertama Terhadap beberapa situs web “nudifikasi” yang dikunjungi secara luas, menuduh mereka melanggar undang -undang negara bagian terhadap praktik bisnis yang curang, pornografi nonkonsensual dan pelecehan seksual terhadap anak -anak. Kasus itu tetap tertunda.
Senat AS bulan lalu dengan suara bulat menyetujui RUU oleh Demokrat Amy Klobuchar, dari Minnesota, dan Republik Ted Cruz, dari Texas, untuk menjadikannya kejahatan federal untuk menerbitkan pencitraan seksual nonkonsensual, termasuk Deepfakes yang dibuat AI. Platform media sosial akan diminta untuk menghapusnya dalam waktu 48 jam setelah pemberitahuan dari korban. Melania Trump pada hari Senin menggunakan penampilan solo pertamanya Sejak menjadi Ibu Negara lagi untuk mendesak perjalanan oleh rumah yang dikendalikan oleh Partai Republik, di mana itu tertunda.
Rumah Kansas bulan lalu menyetujui RUU yang memperluas definisi eksploitasi seksual ilegal dari seorang anak untuk memasukkan kepemilikan gambar yang dihasilkan dengan AI jika mereka “tidak dapat dibedakan dari anak sejati, berubah dari citra anak nyata atau dihasilkan tanpa keterlibatan anak yang sebenarnya.”
Sebuah RUU yang diperkenalkan di Legislatif Florida menciptakan kejahatan baru bagi orang -orang yang menggunakan teknologi seperti AI untuk menghasilkan gambar telanjang dan mengkriminalisasi kepemilikan gambar pelecehan seksual anak yang dihasilkan dengannya. Tagihan umum yang serupa juga telah diperkenalkan di Illinois, Montana, New Jersey, New York, Dakota Utara, Oregon, Rhode Island, South Carolina dan Texas, menurut sebuah Analisis Pers Associated menggunakan Perangkat Lunak Pelacakan Tagihan Jamak.
Maye Quade mengatakan dia akan membagikan proposalnya dengan legislator di negara bagian lain karena hanya sedikit yang sadar teknologinya begitu mudah diakses.
“Jika kita tidak bisa membuat Kongres bertindak, maka kita mungkin bisa mendapatkan sebanyak mungkin negara untuk mengambil tindakan,” kata Maye Quade.
Sandi Johnson, penasihat kebijakan legislatif senior untuk kelompok hak -hak korban Rainn – The Rape, Penyalahgunaan dan Jaringan Nasional Inses – mengatakan RUU Minnesota akan meminta pertanggungjawaban situs web.
“Setelah gambar dibuat, mereka dapat diposting secara anonim, atau disebarluaskan dengan cepat, dan menjadi hampir tidak mungkin untuk dihapus,” dia bersaksi baru -baru ini.
Megan Hurley juga ngeri mengetahui seseorang telah menghasilkan gambar dan video eksplisit tentang dia menggunakan situs “nudifikasi”. Dia bilang dia merasa sangat terhina karena dia seorang terapis pijat, sebuah profesi yang sudah melakukan seksual dalam beberapa pikiran.
“Terlalu mudah bagi satu orang untuk menggunakan ponsel atau komputer mereka dan menciptakan citra yang meyakinkan, sintetis, intim Anda, keluarga, dan teman -teman, anak -anak Anda, cucu Anda,” kata Hurley. “Saya tidak mengerti mengapa teknologi ini ada dan saya merasa menjijikkan ada perusahaan di luar sana yang menghasilkan uang dengan cara ini.”
Namun, dua pakar hukum AI-Wayne Unger dari Fakultas Hukum Universitas Quinnipiac dan Riana Pfefferkorn dari Institut Kecerdasan Buatan yang berpusat pada manusia Universitas Stanford-mengatakan RUU Minnesota terlalu luas dibangun untuk selamat dari tantangan pengadilan.
Membatasi ruang lingkup hanya pada gambar anak -anak nyata dapat membantunya menahan tantangan Amandemen Pertama karena mereka umumnya tidak dilindungi, kata Pfefferkorn. Tapi dia mengatakan itu masih akan berpotensi bertentangan dengan undang -undang federal yang mengatakan Anda tidak dapat menuntut situs web untuk konten yang dihasilkan pengguna.
“Jika Minnesota ingin turun ke arah ini, mereka perlu menambahkan lebih banyak kejelasan pada tagihan,” kata Unger. “Dan mereka harus mempersempit apa yang mereka maksud dengan nudify dan nudifikasi.”
Tetapi Maye Quade mengatakan dia berpikir undang -undangnya berada di tanah konstitusional yang solid karena itu mengatur perilaku, bukan ucapan.
“Ini tidak dapat berlanjut,” katanya. “Perusahaan teknologi ini tidak dapat terus melepaskan teknologi ini ke dunia tanpa konsekuensi. Itu berbahaya karena sifatnya. ”
___
Wartawan Associated Press Matt O’Brien, John Hanna dan Kate Payne berkontribusi pada cerita ini dari Providence, Rhode Island; Wichita, Kansas; dan Tallahassee, Florida, masing -masing.
