Ringkasan AI
- Anthropic mengemas kini dasar penggunaan Claude dengan melarang tingkah laku kasar atau kejam berterusan terhadap chatbot tersebut.
- Larangan ini hanya tertumpu kepada kes ekstrem dan tidak melibatkan maklum balas kritikal, tema kreatif gelap atau ujian keupayaan model.
- Anthropic turut melarang penggunaan Claude untuk penipuan, penyamaran identiti, manipulasi pilihan raya dan aktiviti memperdaya pengguna lain.
SAN FRANCISCO: Pembangun kecerdasan buatan (AI), Anthropic, mengemas kini dasar penggunaan perkhidmatannya dengan melarang tingkah laku kasar atau kejam yang berterusan terhadap chatbot Claude, lapor Amanz.
Langkah itu mencetuskan semula perbincangan mengenai layanan terhadap sistem AI, termasuk persoalan sama ada model AI wajar diberikan pertimbangan dari sudut kebajikan digital.
Bagaimanapun, kebanyakan pakar berpendapat sistem AI semasa tidak mempunyai kesedaran atau emosi seperti manusia dan tidak mampu berasa sedih atau tersinggung.
Menurut kemas kini dasar bertarikh 9 Okt, larangan baharu itu hanya disasarkan kepada kes ekstrem yang melibatkan pengguna bertindak kasar atau kejam terhadap model AI secara berulang tanpa tujuan yang jelas.
Anthropic menjelaskan peraturan itu tidak melibatkan rungutan biasa pengguna, maklum balas kritikal, tema kreatif gelap, aktiviti penyelidikan atau ujian terhadap keupayaan model.
Sebelum ini, Claude telah mempunyai keupayaan untuk menamatkan perbualan secara automatik sekiranya mengesan penggunaan bahasa kasar atau penghinaan berterusan oleh pengguna.
Dalam keadaan sedemikian, perbualan akan dihentikan serta-merta, dengan mekanisme itu kekal sebagai kaedah penguatkuasaan utama bagi peraturan baharu berkenaan.
Selain isu layanan terhadap model AI, Anthropic turut mengemas kini dasar penggunaan bagi menghalang Claude daripada digunakan untuk tujuan penipuan, penyamaran identiti atau aktiviti memperdaya pengguna lain dalam talian.
Larangan itu termasuk penggunaan akaun palsu, penyamaran individu, pengendalian laman sesawang palsu serta kempen mempengaruhi pendapat awam yang menyembunyikan dalang sebenar di sebaliknya.
Syarikat itu turut menegaskan bahawa penggunaan model AI bagi memanipulasi proses pilihan raya, termasuk penyamaran calon atau penyebaran maklumat palsu berkaitan pengundian, adalah dilarang sama sekali.
Fakta Segera: Jawapan Pantas Dari AI
- Q: Apakah perubahan dasar yang dilakukan oleh Anthropic terhadap penggunaan chatbot Claude?
A: Anthropic telah mengemas kini dasar penggunaan dengan melarang tingkah laku kasar atau kejam yang berterusan terhadap chatbot Claude. - Q: Apakah tingkah laku yang dilarang di bawah dasar baharu Anthropic?
A: Dasar baharu melarang tindakan kasar atau kejam secara berulang tanpa tujuan jelas terhadap model AI, serta penggunaan untuk penipuan, penyamaran identiti, dan memperdaya pengguna lain dalam talian. - Q: Bagaimana Claude menguatkuasakan larangan terhadap tingkah laku kasar?
A: Claude boleh menamatkan perbualan secara automatik jika mengesan bahasa kasar atau penghinaan berterusan, dan mekanisme ini kekal sebagai kaedah penguatkuasaan utama. - Q: Adakah larangan ini melibatkan semua bentuk maklum balas pengguna?
A: Tidak, larangan ini tidak melibatkan rungutan biasa, maklum balas kritikal, tema kreatif gelap, aktiviti penyelidikan atau ujian keupayaan model. - Q: Apakah larangan Anthropic berkaitan proses pilihan raya?
A: Anthropic melarang penggunaan model AI untuk memanipulasi proses pilihan raya, termasuk penyamaran calon atau penyebaran maklumat palsu berkaitan pengundian.
