California keluar surat arahan pemberhentian kepada xAI

ISTANBUL: Peguam Negeri California Rob Bonta pada Jumaat telah mengeluarkan surat arahan pemberhentian (cease-and-desist) kepada syarikat xAI milik Elon Musk, menuntut agar penghasilan imej pemalsuan (deepfake) berunsur seksual yang dijana AI melalui model Grok di platform media sosial X dihentikan serta-merta, lapor Anadolu Ajansi (AA).

Bonta dalam kenyataan Jabatan Keadilan California berkata "penghasilan, pengedaran, penerbitan dan paparan" imej deepfake kanak-kanak perempuan merupakan bahan penderaan seksual kanak-kanak dan melanggar undang-undang California. Pihaknya sedang menyiasat kandungan eksplisit seksual tanpa izin yang dihasilkan menggunakan Grok.

"Banyaknya laporan yang memperincikan bahan ini, yang kadangkala memaparkan wanita dan kanak-kanak terlibat dalam aktiviti seksual, adalah mengejutkan dan...berpotensi menyalahi undang-undang," katanya sambil menegaskan bahawa "California tidak bertoleransi terhadap bahan penderaan seksual kanak-kanak."

Pegawai kerajaan negeri memetik laporan bahawa Grok telah mengubah suai imej untuk "menanggalkan pakaian" subjek tanpa kebenaran yang sebahagiannya melibatkan kanak-kanak.

Pihak xAI tidak memberikan maklum balas segera. Musk berkata beliau "tidak menyedari adanya sebarang imej bogel kanak-kanak bawah umur yang dihasilkan Grok. Secara harfiahnya, sifar."

X menyatakan bahawa mereka sedang menyekat suntingan imej tertentu dan berjanji "tiada toleransi terhadap sebarang bentuk eksploitasi seksual kanak-kanak."

-- BERNAMA