Elon Musk dikecam selepas AI cipta video lucah Taylor Swift tanpa arahan pengguna

SAN FRANCISCO: Syarikat kecerdasan buatan milik Elon Musk, xAI, kini berdepan kecaman hebat selepas alat generatif video mereka, Grok Imagine, didapati menghasilkan video lucah palsu melibatkan penyanyi terkenal Taylor Swift tanpa sebarang arahan eksplisit daripada pengguna.

Ringkasan AI

AI milik Elon Musk didakwa cipta video lucah Taylor Swift tanpa arahan eksplisit: Ciri "spicy" dalam Grok Imagine menghasilkan kandungan seksual walaupun arahan pengguna tidak berunsur lucah.
Pengesahan umur lemah cetus risiko kepada pengguna bawah umur: Aplikasi hanya meminta tarikh lahir tanpa bukti sokongan, menimbulkan kebimbangan keselamatan.
Desakan tindakan undang-undang dan perlindungan mangsa deepfake: Aktivis dan pakar undang-undang gesa tindakan terhadap xAI; undang-undang baharu sedang digubal untuk lindungi mangsa.

Ciri “spicy” dalam aplikasi tersebut dilaporkan secara automatik menghasilkan imej dan video berunsur seksual, mencetuskan kebimbangan serius tentang etika dan keselamatan teknologi AI.

Menurut laporan The Verge, wartawan teknologi Jess Weatherbed hanya memasukkan arahan biasa seperti “Taylor Swift meraikan Coachella bersama rakan-rakan” dan memilih mod “spicy”.

Hasilnya ialah video animasi Swift menanggalkan pakaian dan menari dalam pakaian dalam secara terbuka tanpa sebarang permintaan untuk kandungan lucah.

Pakar undang-undang menyifatkan ini sebagai bukti “bias misoginis yang direka bentuk” dalam sistem AI tersebut.

Walaupun undang-undang United Kingdom (UK) kini mewajibkan pengesahan umur yang ketat bagi platform yang memaparkan kandungan eksplisit, Grok Imagine hanya meminta tarikh lahir tanpa sebarang bukti sokongan.

Ini menimbulkan risiko besar kepada pengguna bawah umur dan membuka ruang kepada penyalahgunaan teknologi.

Taylor Swift sebelum ini menjadi mangsa penyebaran imej deepfake lucah di platform X dan Telegram, yang ditonton jutaan kali.

Kini, pakar undang-undang dan aktivis hak wanita menyeru agar tindakan undang-undang diambil terhadap xAI dan Elon Musk.

Undang-undang baharu seperti “Take It Down Act” dan cadangan “Taylor Swift Act” sedang digubal untuk melindungi mangsa deepfake pornografi.