Skip to main content

Teknologi

OpenAI perkenal ciri keselamatan baharu kekang bahan penderaan seksual kanak-kanak

Langkah proaktif itu membolehkan sistem memaparkan amaran pencegahan lebih awal serta menghalang pengguna daripada menjana, mencari atau mengakses bahan berunsur seksual melibatkan kanak-kanak. -Foto Amanz
Langkah proaktif itu membolehkan sistem memaparkan amaran pencegahan lebih awal serta menghalang pengguna daripada menjana, mencari atau mengakses bahan berunsur seksual melibatkan kanak-kanak. -Foto Amanz

Ringkasan AI

  • OpenAI memperkenalkan ciri keselamatan baharu pada ChatGPT untuk membanteras penghasilan dan penyebaran bahan penderaan seksual kanak-kanak (CSAM) serta eksploitasi dalam talian.
  • Pengguna yang melanggar garis panduan akan menerima amaran dan sekatan akaun sementara, manakala kesalahan berulang boleh menyebabkan penggantungan akaun secara kekal.
  • OpenAI turut melancarkan alat pengelas imej AI dan menyediakan panduan, pemalam, serta latihan kepada agensi penguat kuasa undang-undang bagi melindungi keselamatan kanak-kanak.
Advertisement

SAN FRANCISCO: Syarikat kecerdasan buatan (AI), OpenAI memperkenalkan beberapa ciri keselamatan baharu pada platform ChatGPT bagi membanteras penghasilan serta penyebaran bahan penderaan seksual kanak-kanak (CSAM) dan eksploitasi dalam talian, lapor Amanz.

Langkah proaktif itu membolehkan sistem memaparkan amaran pencegahan lebih awal serta menghalang pengguna daripada menjana, mencari atau mengakses bahan berunsur seksual melibatkan kanak-kanak.

Menerusi lapisan keselamatan terbaharu itu, pengguna yang melanggar garis panduan platform akan diberikan amaran dan dikenakan sekatan akaun sementara selama 24 jam, manakala kesalahan berulang berisiko menyebabkan akaun digantung secara kekal.

Advertisement

Selain itu, OpenAI turut melancarkan alat pengelas imej berasaskan AI yang berupaya mengenal pasti petunjuk visual berkaitan CSAM yang sebelum ini sukar dikesan, termasuk bahan palsu yang dijana menggunakan kecerdasan buatan.

Menurut OpenAI, sistem pengesanan berkenaan dibangunkan dengan kerjasama Pusat Kebangsaan bagi Kanak-Kanak Hilang dan Dieksploitasi (NCMEC) serta ditawarkan secara percuma menerusi antara muka pengaturcaraan aplikasi (API) kepada organisasi keselamatan yang ditapis.

Advertisement

OpenAI berkata inisiatif itu mampu mengurangkan kadar pengesanan imej tidak berkaitan sebanyak 48 peratus berbanding alat sedia ada, di samping memberikan skor keutamaan yang membantu meringankan proses semakan manual oleh penyiasat.

Dalam perkembangan sama, OpenAI turut menerbitkan panduan khusus buat pembangun aplikasi di samping menawarkan pemalam khas, alat analisis data serta latihan kepada agensi penguat kuasa undang-undang dalam usaha melindungi keselamatan kanak-kanak di alam siber.

Must Watch Video

Advertisement