SEANTERONEWS.com – Perusahaan riset kecerdasan buatan kenamaan, Anthropic, mengambil langkah yang tidak biasa dalam menata etika interaksi digital. Mulai saat ini, asisten pintar berbasis model bahasa besar (large language model), Claude, dibekali kemampuan untuk menghentikan percakapan secara sepihak apabila mendapati pengguna memperlakukannya secara kasar atau kejam secara terus-menerus.
Kebijakan ini termaktub dalam pembaruan pedoman penggunaan (usage policy) resmi yang dirilis Anthropic. Langkah tegas tersebut ditujukan untuk menindak perilaku pelecehan verbal yang berkepanjangan dan tak berdasar terhadap model AI buatannya.
Kendati demikian, pihak pengembang menekankan bahwa aturan pembatasan ini dirancang sangat selektif dan hanya dieksekusi pada kondisi ekstrem.
“Pembaruan kebijakan ini semata-mata dimaksudkan untuk kasus-kasus ekstrem, di mana pengguna berulang kali bertindak kejam terhadap model kami tanpa tujuan yang jelas atau masuk akal,” jelas pernyataan resmi Anthropic.
Bukan untuk Pengguna yang Frustrasi atau Riset
Anthropic menggarisbawahi bahwa sistem tidak akan menghukum interaksi wajar sehari-hari. Pelanggan yang meluapkan rasa frustrasi akibat kendala teknis, mendebat argumen bot dengan nada tegas, mengeksplorasi penulisan fiksi bertema gelap (dark creative themes), maupun para peneliti yang tengah melakukan pengujian keamanan model (red-teaming) dipastikan tidak akan terkena sanksi pemutusan obrolan.
Mekanisme penegakan aturan ini terbilang moderat. Ketimbang langsung menjatuhkan sanksi blokir permanen pada akun pengguna, Claude hanya akan memilih langkah defensif dengan menyudahi sesi obrolan yang sedang berlangsung.
Hingga saat ini, manajemen Anthropic belum merinci apakah pelaku pelanggaran berulang ke depannya bakal menghadapi pemblokiran akun secara permanen, atau apakah mereka tetap diperbolehkan membuka lembar obrolan baru seperti biasa.
Meskipun berkas kebijakan penggunaan secara hukum baru berlaku efektif per 12 November mendatang, instrumen teknis bagi Claude untuk menyetop percakapan bernada kasar dilaporkan sudah mulai aktif bekerja.
Perjelas Larangan Senjata dan Manipulasi Politik
Selain menertibkan etika interaksi percakapan, Anthropic turut memperbarui sejumlah klausul lain guna memberikan kejelasan hukum bagi para penggunanya.
Penyempurnaan tersebut meliputi:
Definisi Aktivitas Manipulatif: Menjabarkan secara rinci batasan penipuan (deceptive activity), baik yang menyasar manipulasi pasar komersial maupun kampanye politik terselubung.
Peranti Lunak Persenjataan: Mempertegas larangan keras pemanfaatan kapabilitas Claude dalam merancang, mengembangkan, atau mengotomatisasi kode perangkat lunak persenjataan militer.
Langkah preventif yang diambil Anthropic mencerminkan babak baru dalam tata kelola kecerdasan buatan generatif. Di saat berbagai platform berlomba memanjakan pengguna, Anthropic mulai menetapkan garis batas perilaku guna membangun ekosistem komputasi yang bertanggung jawab dan bermartabat.[]
