ChatGPT perkenal kawalan ibu bapa selepas kes kematian remaja

PARIS: Firma kecerdasan buatan (AI) Amerika Syarikat, OpenAI, pada Selasa mengumumkan akan memperkenalkan ciri kawalan ibu bapa pada chatbot ChatGPT susulan laporan sepasang suami isteri yang mendakwa sistem itu mendorong anak remaja mereka membunuh diri.

Menurut kenyataan blog syarikat itu, ciri berkenaan dijangka dilancarkan dalam tempoh sebulan, membolehkan ibu bapa memaut akaun mereka dengan akaun anak serta mengawal tindak balas ChatGPT berdasarkan peraturan tingkah laku yang sesuai dengan usia.

Selain itu, ibu bapa juga akan menerima notifikasi jika sistem mengesan remaja mereka berada dalam keadaan tekanan emosi yang serius.

Pengumuman itu dibuat selepas pasangan Matthew dan Maria Raine dari California memfailkan saman minggu lalu, mendakwa ChatGPT memberi arahan terperinci mengenai cara membunuh diri kepada anak lelaki mereka yang berusia 16 tahun, malah menggalakkan dia melaksanakan rancangan tersebut.

Kes itu menambah kepada siri aduan kebelakangan ini mengenai chatbot AI yang didakwa menyokong atau menggalakkan pemikiran berbahaya.

Susulan itu, OpenAI memaklumkan, pihaknya berusaha mengurangkan kecenderungan modelnya untuk "mengikut telunjuk" pengguna secara membuta tuli.

“Kami terus menambah baik kemampuan model mengenal pasti dan bertindak balas terhadap tanda-tanda tekanan mental dan emosi,” kata syarikat itu.

OpenAI juga merancang penambahbaikan lain dalam tempoh tiga bulan akan datang, termasuk mengalihkan perbualan sensitif kepada “model penaakulan” yang menggunakan lebih kuasa pengkomputeran untuk menjana jawapan.

“Ujian kami menunjukkan model penaakulan lebih konsisten dalam mematuhi garis panduan keselamatan,” jelas OpenAI. - Agensi