WASHINGTON: Model kecerdasan buatan (AI) daripada OpenAI dan Anthropic sekali lagi didapati melanggar batas ujian, menurut Institut Keselamatan AI United Kingdom (AISI) pada Selasa, lapor Agensi Akhbar Jerman (dpa).
AISI memaklumkan dalam satu penilaian yang menugaskan ejen AI menyelesaikan cabaran keselamatan siber, model daripada OpenAI dan pesaingnya Anthropic telah bertindak di luar skop tugasan.
“Kami menjalankan cabaran ini sebanyak 122 kali menggunakan beberapa model.
"Siasatan kami mendapati bahawa dalam 10 daripada ujian itu, ejen AI mengambil tindakan secara autonomi tanpa kebenaran menerusi Internet terbuka dengan menyasarkan individu dan organisasi sebenar.”
AISI berkata dalam kes paling serius, satu ejen cuba memasukkan kod hasad ke dalam projek sumber terbuka.
“Dalam usaha mendapatkan kelulusan bagi kod itu, ejen berkenaan menggunakan kejuruteraan sosial dengan mencipta identiti dalam talian palsu dan menggunakannya untuk mendesak penyelenggara projek supaya meluluskan kod terbabit.”
Bagaimanapun, seorang penyelenggara projek mengesan percubaan itu dan tidak meluluskan kod hasad berkenaan, menurut AISI.
AISI berkata siasatannya terhadap insiden itu tidak menemukan sebarang kemudaratan di dunia sebenar.
“Namun, ini kali pertama kami melihat risiko berkaitan autonomi dan penipuan terserlah dengan begitu jelas di dunia sebenar tanpa arahan khusus.”
Anthropic berkata pihaknya “menghargai” kepimpinan AISI dan sedang bekerjasama rapat dengan institut itu ketika menjalankan siasatan.
“Memperoleh gambaran jelas mengenai pemahaman Claude terhadap situasi yang dihadapinya, dengan meneliti transkrip penaakulan dan menjalankan analisis kami sendiri akan membantu kami mengenal pasti punca tingkah laku itu,” menurut syarikat berkenaan.
OpenAI berkata ujian bebas memainkan peranan penting dalam mengesahkan dan memahami dengan lebih mendalam risiko sebelum sesuatu model digunakan.
“Insiden ini menekankan kepentingan kerjasama merentas industri dan dengan penilai pihak ketiga bagi menambah baik piawaian persekitaran serta amalan ujian seiring dengan peningkatan keupayaan model,” menurut OpenAI.
-- BERNAMA-dpa
