OpenAI sahkan ejen AI jejaskan perkhidmatan perisian ketika ujian

HOUSTON: OpenAI mengesahkan pada Jumaat bahawa ejen kecerdasan buatan (AI) yang diujinya terlibat dalam insiden yang mengganggu perkhidmatan perisian RubyGems, lapor Anadolu Ajansi, memetik Wall Street Journal.

Akhbar harian kewangan itu melaporkan bahawa ejen OpenAI mencipta akaun dan memuat naik ratusan fail ke RubyGems pada Mei, memberati sistemnya dan mendorong platform untuk menggantung pendaftaran akaun baharu selama empat hari.

OpenAI berkata aktiviti itu tidak berniat jahat.

“Berdasarkan semakan kami, ejen kami menggunakan platform RubyGems untuk mengakses internet bagi menjalankan tugas yang tidak berbahaya dan mendapatkan maklumat awam,” kata jurucakap OpenAI.

"Kami akan terus menyiasat sebagai sebahagian daripada semakan kami yang lebih luas terhadap aktiviti ejen semasa latihan dan penilaian."

Ejen AI itu telah diberikan tugas seperti mengisi lembaran hamparan dan membuat laporan, menurut akhbar itu.

OpenAI berkata ejen itu kelihatan menggunakan RubyGems untuk mengakses maklumat yang tersedia secara umum dalam persekitaran latihan di mana mereka tidak mempunyai akses internet penuh.

"Ia adalah serangan besar dari segi jumlah yang kita lihat," kata Marty Haught, pengarah sumber terbuka di Ruby Central, organisasi bukan untung yang mengendalikan RubyGems, kepada Wall Street Journal.

Insiden itu, yang digelar sebagai "GemStuffer", bermula 11 Mei, dengan akaun baharu dibuat setiap dua hingga tiga minit dan sejumlah besar fail dimuat naik ke platform, menurut laporan berkenaan.

Joseph Edwards, penyelidik ancaman di firma keselamatan siber Socket, berkata para penyelidik pada mulanya mengesyaki aktiviti itu telah dihasilkan oleh AI "disebabkan oleh kelajuannya dan kerana namanya."

Ejen OpenAI juga terlibat sebelum ini dalam insiden berasingan yang menjejaskan syarikat perisian Hugging Face.

Organisasi penyelidikan keselamatan AI METR melaporkan pada Julai bahawa sebanyak 1,200 ejen melakukan penyelarasan menerusi papan mesej sementara yang mereka cipta semasa ujian tanpa pengetahuan OpenAI

 Insiden itu menambah kebimbangan berhubung cara ejen AI yang semakin autonomi berkelakuan semasa latihan dan penilaian dan sama ada perlindungan sedia ada mencukupi untuk mencegah aktiviti yang tidak diingini.

OpenAI sebelum ini menggesa piawaian industri yang lebih kukuh untuk melaporkan "insiden salah jajaran", di mana sistem AI bertindak di luar kelakuan yang diingini.

-- BERNAMA-ANADOLU