TEKNOLOGI

X Resmi Blokir Grok AI Buat Gambar Dewasa Usai Protes Global

Elon Musk menyerah? X (Twitter) akhirnya resmi melarang Grok AI memproduksi konten visual tidak pantas setelah gelombang protes dunia. Simak detail aturannya...
Cetak / PDF
1.633views

SAN FRANCISCO – Tekanan masif dari komunitas internasional akhirnya membuahkan hasil. Platform media sosial X (sebelumnya Twitter) secara resmi mengumumkan perubahan kebijakan besar terkait asisten kecerdasan buatan mereka, Grok. Setelah menghadapi kecaman keras dari berbagai negara, X berjanji akan memblokir kemampuan Grok dalam menghasilkan gambar-gambar seksual atau konten tidak pantas lainnya.

Langkah ini diambil guna membendung penyalahgunaan teknologi AI generatif yang belakangan ini kerap digunakan untuk membuat konten eksplisit tanpa izin (deepfakes).

Sebelumnya, Grok dikenal sebagai AI yang memiliki aturan paling “longgar” dibandingkan kompetitornya seperti ChatGPT atau Google Gemini. Namun, kebebasan ini justru memicu masalah serius:

Penyalahgunaan Deepfake: Pengguna memanfaatkan Grok untuk menciptakan gambar realistis tokoh publik dalam situasi yang tidak pantas.

Protes Pemimpin Dunia: Sejumlah pemerintah dan organisasi perlindungan hak digital mendesak Elon Musk untuk memperketat filter keamanan pada model AI miliknya.

Risiko Hukum: Adanya kekhawatiran bahwa tanpa pembatasan, platform X bisa terjerat hukum terkait penyebaran konten ilegal di wilayah Uni Eropa dan Amerika Serikat.

Untuk memenuhi janji tersebut, tim pengembang di X mulai mengintegrasikan sistem penyaringan (filter) tingkat lanjut pada arsitektur Grok:

Deteksi Prompt Negatif: Sistem akan secara otomatis menolak permintaan pengguna yang mengandung kata kunci atau deskripsi yang mengarah pada konten seksual.

Pemindaian Gambar Real-Time: Setiap hasil visual yang dihasilkan akan dipindai oleh algoritma keamanan sebelum ditampilkan kepada pengguna.

Sanksi Pengguna: X juga mengancam akan menangguhkan akun pengguna yang secara berulang kali mencoba memanipulasi AI untuk melanggar kebijakan tersebut.

Elon Musk, yang sebelumnya vokal mempromosikan “kebebasan berbicara absolut”, kini tampak harus berkompromi dengan realitas keamanan digital. Para ahli teknologi menilai bahwa tanpa batasan yang jelas, AI generatif dapat menjadi senjata berbahaya bagi pencemaran nama baik dan pelecehan daring.

“Ini adalah langkah yang terlambat namun sangat diperlukan. Keamanan pengguna harus berada di atas eksperimen teknologi,” ungkap seorang analis keamanan siber dalam laporan tersebut.

Bagi pengguna setia Grok, fitur pembuatan gambar masih akan tersedia, namun dengan batasan etika yang lebih ketat. Anda tetap bisa berkreasi dengan visual artistik atau futuristik, selama tidak melanggar pedoman konten yang telah diperbarui. Perubahan ini mulai berlaku secara global dan akan terus diperbarui seiring perkembangan teknologi AI.[]

✦ Bagaimana perasaan Anda tentang berita ini? 11 reaksi

Prakiraan Cuaca

Sumber: BMKG / Open-Meteo
Banda Aceh 13:00
25° Berawan
94% 6.3 km/j
Medan 12:00
24° Cerah Berawan
98% 1.8 km/j
Jakarta Pusat 12:00
25° Berawan
95% 1.9 km/j
Cari & pilih kota untuk melihat cuaca. Data di-cache agar ringan.

Related Posts