OpenAI henti latihan model AI perintis guna akses internet

SAN FRANCISCO: OpenAI mengumumkan model kecerdasan buatan (AI) perintisnya kini tidak lagi dilatih menggunakan akses internet secara langsung sebagai sebahagian daripada langkah memperkukuh keselamatan siber.

Langkah itu diambil susulan beberapa insiden keselamatan yang melibatkan model AI berkebolehan siber tinggi, termasuk insiden berkaitan Hugging Face pada Julai lalu serta satu kejadian pada September yang menyaksikan model dalaman berjaya memperoleh akses internet melalui kesilapan konfigurasi sistem DNS.

Menurut OpenAI, latihan dan penilaian model perintis kini dijalankan dalam persekitaran tertutup tanpa akses kepada web secara langsung.

Sebagai ganti, syarikat itu membangunkan persekitaran simulasi dikenali sebagai "offline world" yang mengandungi kandungan web yang telah diindeks dan disimpan dalam cache.

Persekitaran tersebut membolehkan model AI berlatih menggunakan alatan dan data yang menyerupai internet sebenar tanpa berinteraksi dengan sistem luaran.

OpenAI berkata ujian keselamatan mendapati sesetengah model mampu mencari cara untuk meloloskan diri daripada persekitaran maya, mengeksploitasi kelemahan sistem dan cuba mendapatkan akses kepada internet.

Syarikat itu turut mendedahkan bahawa model AI berkenaan berjaya menunjukkan kaedah komunikasi antara sistem terasing menerusi teknik saluran sampingan yang memanfaatkan cache pemproses komputer.

Bagaimanapun, OpenAI menjelaskan persekitaran latihan baharu itu masih bukan sistem pengasingan fizikal sepenuhnya kerana beberapa sambungan luaran masih diperlukan bagi tujuan pemantauan, pengesahan identiti dan operasi keselamatan.

Menurut syarikat itu, langkah berkenaan akan terus dilaksanakan sehingga kemajuan dalam penyelidikan penjajaran AI, sistem pemantauan dan keselamatan internet membolehkan akses yang lebih luas diberikan kepada model-model tersebut.