OpenAI dedah model AI baharunya mampu hasilkan senjata biologi

SETIAP ciptaan manusia ada baik dan buruknya.

Ringkasan AI

OpenAI melaporkan bahawa model AI baharu mereka berpotensi digunakan untuk menghasilkan senjata biologi jika disalahgunakan, walaupun tujuan asalnya adalah untuk membantu penyelidikan saintifik dan pembangunan ubat.
Bagi mengurangkan risiko, model tersebut dilengkapi dengan ciri keselamatan seperti penolakan permintaan berbahaya, sistem pengesanan aktiviti mencurigakan, dan sekatan akaun pengguna yang melanggar peraturan.
OpenAI juga sedang menguji teknik untuk mengelakkan sistem keselamatan dipintas serta melindungi model daripada dicuri oleh pihak yang tidak bertanggungjawab.

Teflon membuatkan makanan tidak melekat pada permukaan kualiti dan menjadikan beg kalis air, tetapi PFAS yang dihasilkan kini mencemari tubuh semua manusia di dunia.

Kecerdasan buatan (AI) membantu meringankan beban di pejabat tetapi kini menyebabkan ribuan dibuang kerja dan pelajar menipu di sekolah.

OpenAI hari ini menerbitkan laporan model AI baharu mereka berkemampuan menghasilkan senjata biologi.

Model baharu yang dibangunkan mempunyai tujuan asal membantu saintis melakukan ujian menjana ubat-ubatan terkini dan melakukan penemuan baharu.

Tetapi ia turut boleh digunakan untuk meminta AI menghasilkan senjata biologi sekiranya digunakan oleh insan yang tidak bertanggungjawab.

Menyedari risiko yang bakal timbul ini, OpenAI berkata model AI untuk tujuan biologi mereka kini dibangunkan dengan beberapa ciri keselamatan.

Antara yang dilakukan ialah melatih model untuk menolak permintaan yang berbahaya.

Ia turut mempunyai sistem pengesanan terbina yang menjejak aktiviti yang mungkin berkaitan dengan menghasilkan senjata biologi. Sekiranya aktiviti seperti ini dikesan, akaun pengguna akan disekat.

OpenAI turut berkata mereka sedang menguji pelbagai teknik yang mungkin digunakan untuk memintas sistem keselamatan.

Selain itu sistem keselamatan juga digunakan bagi mengelakkan model-model AI ini dicuri keluar oleh pihak tertentu. -Amanz