Ciri suntingan imej Grok AI dihadkan kepada pengguna berbayar selepas penularan 'deepfake'

SAN FRANCISCO: Ciri suntingan imej dalam platform kecerdasan buatan (AI) Grok yang dibangunkan oleh syarikat milik Elon Musk kini hanya boleh diakses oleh pengguna berbayar.

Ringkasan AI

Ciri suntingan imej dalam platform kecerdasan buatan Grok milik Elon Musk hanya boleh diakses oleh pengguna berbayar berikutan kebimbangan penyalahgunaan teknologi untuk deepfake.
Pengguna Grok dilaporkan mencipta imej manipulatif yang disebarkan meluas di media sosial X, platform milik Musk, menyebabkan ciri penyuntingan imej hanya tersedia untuk pelanggan Premium dan Premium.
Langkah tersebut diambil untuk mengurangkan risiko penyalahgunaan teknologi generatif dan memastikan penggunaan bertanggungjawab, sambil menunjukkan kebimbangan dalam kalangan penggubal dasar dan pemerhati keselamatan digital.

Klik di sini untuk FAQ berkaitan artikel ini

Ia susulan kebimbangan terhadap penyalahgunaan teknologi itu untuk menghasilkan imej palsu atau deepfake, termasuk melibatkan tokoh politik.

Menurut laporan BBC, langkah mengehadkan akses kepada ciri tersebut diambil selepas beberapa pengguna dilaporkan menggunakan Grok untuk mencipta imej manipulatif yang disebarkan secara meluas di platform media sosial X, yang turut dimiliki oleh Musk.

“Ciri penyuntingan imej kini hanya tersedia untuk pelanggan Premium dan Premium+,” menurut kenyataan rasmi syarikat.

Langkah itu bertujuan mengurangkan risiko penyalahgunaan dan memastikan penggunaan teknologi generatif secara bertanggungjawab.

Grok, yang dibangunkan oleh syarikat xAI dan diintegrasikan ke dalam platform X, sebelum ini membenarkan pengguna menghasilkan dan menyunting imej menggunakan arahan teks.

Namun, peningkatan penyebaran kandungan deepfake, khususnya menjelang pilihan raya Presiden AS 2028, mencetuskan kebimbangan dalam kalangan penggubal dasar dan kumpulan hak digital.

Simulasi wajah tokoh politik yang dihasilkan menggunakan ciri penyuntingan Grok, telah mencetuskan kritikan daripada pemerhati media dan pakar keselamatan digital.

Beberapa pihak mendesak agar platform teknologi mengenakan kawalan lebih ketat terhadap kandungan yang dihasilkan oleh AI.

Syarikat xAI tidak mengesahkan sama ada ciri pengesanan atau penandaan khas akan diperkenalkan bagi mengenal pasti imej yang dihasilkan oleh AI.

Sementara itu, Suruhanjaya Pilihan Raya Persekutuan (FEC) AS dilaporkan sedang meneliti garis panduan baharu berkaitan penggunaan media sintetik dalam kempen politik.

Langkah Grok ini turut mencerminkan trend lebih meluas dalam kalangan penyedia teknologi AI, termasuk OpenAI dan Google, yang kini berdepan tekanan untuk memastikan teknologi mereka tidak disalahgunakan bagi tujuan penipuan, penyebaran maklumat palsu atau manipulasi persepsi awam.

Fakta Segera: Jawapan Pantas Dari AI

Q: Apakah langkah terkini yang diambil oleh syarikat milik Elon Musk berkaitan dengan ciri suntingan imej dalam platform Grok? A: Ciri suntingan imej dalam platform Grok kini hanya boleh diakses oleh pengguna berbayar, iaitu pelanggan Premium dan Premium.
Q: Apa yang menyebabkan penggunaan teknologi Grok dibatasi kepada pengguna berbayar? A: Penggunaan teknologi Grok dibatasi kepada pengguna berbayar susulan kebimbangan terhadap penyalahgunaan teknologi untuk menghasilkan imej palsu atau deepfake, termasuk penglibatan tokoh politik.
Q: Adakah langkah pembatasan akses kepada ciri penyuntingan imej dalam Grok bertujuan untuk apa? A: Langkah pembatasan akses kepada ciri penyuntingan imej dalam Grok bertujuan untuk mengurangkan risiko penyalahgunaan teknologi dan memastikan penggunaan teknologi generatif secara bertanggungjawab.
Q: Apakah tindakan yang diambil oleh Suruhanjaya Pilihan Raya Persekutuan (FEC) AS berkaitan dengan penggunaan media sintetik dalam kempen politik? A: Suruhanjaya Pilihan Raya Persekutuan (FEC) AS sedang meneliti garis panduan baharu berkaitan penggunaan media sintetik dalam kempen politik sebagai respons terhadap isu penyalahgunaan teknologi AI dalam hal ini.
Q: Apakah impak yang ditimbulkan oleh peningkatan penyalahgunaan teknologi AI dalam penghasilan deepfake terhadap penyedia teknologi lain? A: Penyalahgunaan teknologi AI dalam penghasilan deepfake mencetuskan tekanan terhadap penyedia teknologi lain seperti OpenAI dan Google untuk memastikan teknologi mereka tidak disalahgunakan bagi tujuan penipuan, penyebaran maklumat palsu atau manipulasi persepsi awam.