AS kaji ancaman imej penderaan seks kanak-kanak dijana AI

Pihak berkuasa undang-undang semakin bimbang kerana teknologi itu boleh mendorong kebanjiran bahan terlarang itu.

Jabatan Kehakiman AS telah membawa dua kes jenayah tahun ini terhadap defendan yang dituduh menggunakan sistem AI generatif yang mencipta teks atau imej sebagai tindak balas kepada gesaan pengguna untuk menghasilkan imej kanak-kanak yang jelas. Timbalan Ketua Bahagian Jenayah Komputer dan Harta Intelek Jabatan Kehakiman, James Silver jangkakan lebih banyak kes sama di masa akan datang.

Katanya apa yang dibimbangi adalah sekiranya ia dinormalkan kerana AI memudahkan untuk menjana imej jenis ini.

Peningkatan AI generatif telah mencetuskan kebimbangan di Jabatan Kehakiman bahawa teknologi yang pesat membangun akan digunakan untuk melakukan serangan siber, meningkatkan kecanggihan penipu mata wang kripto dan menjejaskan keselamatan pilihan raya.

Kes penderaan seks kanak-kanak menandakan beberapa kali pihak pendakwa cuba menggunakan undang-undang AS sedia ada untuk jenayah yang didakwa melibatkan AI.

Malah sabitan yang berjaya boleh mendapat rayuan kerana mahkamah menimbang bagaimana teknologi baharu itu boleh mengubah landskap undang-undang sekitar eksploitasi kanak-kanak.

Pendakwa Raya dan Peguam Bela Keselamatan Kanak-Kanak berkata, sistem AI generatif boleh membenarkan pesalah mengubah bentuk dan menseksualkan gambar kanak-kanak biasa.

Mereka memberi amaran bahawa percambahan bahan yang dihasilkan AI akan menyukarkan penguatkuasaan undang-undang untuk mengenal pasti dan mengesan mangsa penderaan sebenar.

Pusat Kebangsaan Kanak-Kanak Hilang dan Dieksploitasi, sebuah kumpulan yang mengumpul maklumat tentang eksploitasi kanak-kanak dalam talian, menerima purata kira-kira 450 laporan setiap bulan berkaitan AI generatif.

Itu sebahagian kecil daripada purata 3 juta laporan bulanan keseluruhan eksploitasi kanak-kanak dalam talian yang diterima kumpulan itu tahun lepas.