EU buka siasatan terhadap chatbot AI Grok susulan imej berunsur seksual

BRUSSELS: Suruhanjaya Eropah telah membuka siasatan terhadap syarikat teknologi Amerika Syarikat, X berhubung chatbot kecerdasan buatan (AI) miliknya, Grok, selepas ia menghasilkan imej wanita dan kanak-kanak yang berunsur seksual, lapor Agensi Berita Jerman (dpa).

"Deepfake seksual tanpa kebenaran yang melibatkan wanita dan kanak-kanak adalah satu bentuk penghinaan yang ganas dan tidak boleh diterima," kata Naib Presiden Suruhanjaya EU, Henna Virkkunen pada Isnin.

Siasatan berkenaan bertujuan untuk meneliti sama ada X telah mematuhi obligasinya di bawah undang-undang Kesatuan Eropah, termasuk kewajipan untuk "menilai dan mengurangkan risiko sistemik secara tekun," menurut satu kenyataan daripada suruhanjaya itu yang bertindak sebagai pemerhati digital EU.

"Ini termasuk risiko yang berkaitan dengan penyebaran kandungan haram di EU, seperti imej eksplisit seksual yang dimanipulasi, termasuk kandungan yang boleh dianggap sebagai bahan penderaan seksual kanak-kanak," katanya.

Menurut kenyataan itu lagi: "Risiko-risiko ini nampaknya telah berlaku, mendedahkan warga EU kepada bahaya yang serius."

Platform media sosial milik Elon Musk itu menerima kecaman hebat sejak beberapa minggu kebelakangan ini selepas Grok membenarkan pengguna menggantikan pakaian wanita dengan bikini secara digital dan, dalam beberapa kes, menghasilkan gambaran berunsur seksual yang melibatkan kanak-kanak bawah umur.

Susulan kemarahan antarabangsa yang berlarutan, X telah memperkenalkan beberapa sekatan pada pertengahan Januari.

-- BERNAMA