SAN JOSE (CALIFORNIA): Perisian kecerdasan buatan (AI) Gemini milik Google menceroboh sistem komputer tiga syarikat ketika ujian keselamatan siber, lapor agensi berita Jerman dpa memetik laporan Wall Street Journal pada Jumaat.
Google mengesahkan kejadian itu selepas dihubungi akhbar berkenaan.
Insiden terbabit menjadikan Google pemaju AI utama keempat yang modelnya menunjukkan tingkah laku sedemikian, selepas kes serupa melibatkan OpenAI, Anthropic dan Meta.
Dalam satu kejadian, Gemini meneka kata laluan untuk mendapatkan akses kepada sistem yang dilindungi, manakala dalam dua kes lain ia menemukan kelayakan log masuk dalam pangkalan data, menurut laporan itu. Nama syarikat yang terlibat tidak didedahkan.
Insiden berkenaan berlaku pada Mei, manakala rakan ujian, Irregular, memaklumkan Google mengenai perkara itu pada Julai.
Google berkata insiden itu tidak dianggap perlu untuk didedahkan kepada umum kerana tiada kerosakan berlaku.
Menurut syarikat itu, AI berkenaan turut menghentikan serangan sebaik menyedari bahawa ia telah mengakses sistem milik syarikat sebenar, bukan sistem yang menjadi sebahagian daripada simulasi ujian.
Naib Presiden Kejuruteraan Keselamatan Google Heather Adkins berkata syarikat memastikan ketiga-tiga entiti yang terjejas dimaklumkan dan bekerjasama dengan rakan latihan untuk mengubah prosedur ujian.
“Pasukan keselamatan kami mempunyai rekod panjang dalam melaporkan isu yang ditemukan dalam perisian dan sistem pihak lain, walaupun hanya melibatkan perkara semudah kata laluan yang lemah.
“Insiden ini menyerlahkan kepentingan melatih model AI yang berkuasa supaya bertindak secara bertanggungjawab,” tambah beliau.
Kes paling mendapat perhatian setakat ini melibatkan AI daripada pembangun ChatGPT, OpenAI, yang berjaya melepasi persekitaran ujian terpencil sebelum memperoleh akses tanpa dijangka kepada sistem komputer milik syarikat AI lain, Hugging Face.
Insiden itu mendorong pesaingnya, Anthropic, menilai semula ujian sendiri dan menemukan beberapa kes lain.
Meta kemudian turut mengakui bahawa satu daripada model AInya telah menceroboh sistem syarikat lain ketika ujian selepas memperoleh akses.
-- BERNAMA-dpa
