SAN FRANCISCO – Tekanan masif dari komunitas internasional akhirnya membuahkan hasil. Platform media sosial X (sebelumnya Twitter) secara resmi mengumumkan perubahan kebijakan besar terkait asisten kecerdasan buatan mereka, Grok. Setelah menghadapi kecaman keras dari berbagai negara, X berjanji akan memblokir kemampuan Grok dalam menghasilkan gambar-gambar seksual atau konten tidak pantas lainnya.
Langkah ini diambil guna membendung penyalahgunaan teknologi AI generatif yang belakangan ini kerap digunakan untuk membuat konten eksplisit tanpa izin (deepfakes).
Sebelumnya, Grok dikenal sebagai AI yang memiliki aturan paling “longgar” dibandingkan kompetitornya seperti ChatGPT atau Google Gemini. Namun, kebebasan ini justru memicu masalah serius:
Penyalahgunaan Deepfake: Pengguna memanfaatkan Grok untuk menciptakan gambar realistis tokoh publik dalam situasi yang tidak pantas.
Protes Pemimpin Dunia: Sejumlah pemerintah dan organisasi perlindungan hak digital mendesak Elon Musk untuk memperketat filter keamanan pada model AI miliknya.
Risiko Hukum: Adanya kekhawatiran bahwa tanpa pembatasan, platform X bisa terjerat hukum terkait penyebaran konten ilegal di wilayah Uni Eropa dan Amerika Serikat.
Untuk memenuhi janji tersebut, tim pengembang di X mulai mengintegrasikan sistem penyaringan (filter) tingkat lanjut pada arsitektur Grok:
Deteksi Prompt Negatif: Sistem akan secara otomatis menolak permintaan pengguna yang mengandung kata kunci atau deskripsi yang mengarah pada konten seksual.
Pemindaian Gambar Real-Time: Setiap hasil visual yang dihasilkan akan dipindai oleh algoritma keamanan sebelum ditampilkan kepada pengguna.
Sanksi Pengguna: X juga mengancam akan menangguhkan akun pengguna yang secara berulang kali mencoba memanipulasi AI untuk melanggar kebijakan tersebut.
Elon Musk, yang sebelumnya vokal mempromosikan “kebebasan berbicara absolut”, kini tampak harus berkompromi dengan realitas keamanan digital. Para ahli teknologi menilai bahwa tanpa batasan yang jelas, AI generatif dapat menjadi senjata berbahaya bagi pencemaran nama baik dan pelecehan daring.
“Ini adalah langkah yang terlambat namun sangat diperlukan. Keamanan pengguna harus berada di atas eksperimen teknologi,” ungkap seorang analis keamanan siber dalam laporan tersebut.
Bagi pengguna setia Grok, fitur pembuatan gambar masih akan tersedia, namun dengan batasan etika yang lebih ketat. Anda tetap bisa berkreasi dengan visual artistik atau futuristik, selama tidak melanggar pedoman konten yang telah diperbarui. Perubahan ini mulai berlaku secara global dan akan terus diperbarui seiring perkembangan teknologi AI.[]
