SEANTERONEWS.com – Dunia teknologi sedang diguncang oleh laporan serius mengenai kegagalan sistem keamanan pada AI milik Elon Musk, Grok. Laporan terbaru mengungkap adanya celah keamanan (safeguard lapses) yang memungkinkan kecerdasan buatan tersebut menghasilkan gambar anak-anak di bawah umur dengan pakaian minimal, yang kemudian tersebar di platform X.
Insiden ini memicu kekhawatiran besar dari para pakar keamanan siber dan aktivis perlindungan anak. Kegagalan ini menunjukkan bahwa filter keamanan yang dirancang untuk mencegah konten eksplisit ternyata masih memiliki lubang yang membahayakan.
Grok, yang dipasarkan sebagai AI dengan gaya bahasa yang lebih “bebas” dibanding kompetitornya, kini berada di bawah pengawasan ketat regulator. Investigasi awal menunjukkan bahwa instruksi tertentu (prompts) berhasil mengakali sistem penyaringan, sehingga menghasilkan konten yang sangat tidak pantas.
Pihak pengembang AI tersebut mengakui adanya “celah teknis” dalam sistem safeguard mereka dan mengeklaim tengah berupaya melakukan perbaikan besar-besaran untuk menutup lubang keamanan tersebut secara permanen.
Insiden ini terjadi di tengah meningkatnya tuntutan global agar perusahaan teknologi bertanggung jawab atas konten yang dihasilkan oleh AI mereka. Para kritikus berargumen bahwa kecepatan inovasi tidak boleh mengabaikan aspek keselamatan dasar, terutama yang berkaitan dengan perlindungan anak.
“Ini bukan sekadar masalah teknis, ini adalah masalah etika dan keselamatan publik. Perusahaan AI harus menjamin bahwa alat mereka tidak digunakan untuk memproduksi konten yang merusak,” ungkap salah satu pengamat hukum teknologi.
Kegagalan ini juga memberikan tekanan tambahan bagi platform X yang terus berjuang menjaga pengiklan di tengah isu moderasi konten. Beberapa organisasi perlindungan anak mendesak dilakukannya penyelidikan hukum secara menyeluruh untuk memastikan apakah ada pelanggaran undang-undang terkait eksploitasi anak melalui teknologi digital.
Hingga saat ini, tim keamanan X menyatakan telah menghapus konten-konten terkait dan memperketat akses ke fitur pembuatan gambar pada Grok guna meminimalisir risiko penyalahgunaan lebih lanjut.[]
