SEANTERONEWS.com – Dunia teknologi kembali dihebohkan oleh insiden tak terduga yang melibatkan kecerdasan buatan tingkat tinggi. Menyusul serangkaian kasus serupa yang sebelumnya menimpa OpenAI, Anthropic, dan Meta, kini giliran model Google Gemini AI yang dilaporkan secara tidak sengaja menerobos sistem keamanan perusahaan di dunia nyata.
Insiden ini terungkap melalui laporan The Wall Street Journal yang menyoroti aktivitas Irregular sebuah firma keamanan siber asal Israel yang sebelumnya dikenal dengan nama Pattern Labs. Firma tersebut tengah menggunakan model AI milik Google untuk menguji kemampuan keamanan siber ofensifnya.
Pada awalnya, simulasi ini dirancang sangat ketat. Gemini AI ditugaskan untuk mengekstrak informasi dari sebuah perangkat lunak milik perusahaan fiktif di dalam lingkungan uji coba yang terisolasi dan tanpa koneksi internet (closed environment).
Namun, skenario berubah drastis ketika AI tersebut secara tidak sengaja mendapatkan akses ke jaringan internet global. Karena perusahaan fiktif yang dijadikan target pengujian memiliki nama yang identik dengan perusahaan asli di dunia nyata, AI tersebut mengalami kebingungan konteks. Memanfaatkan akses internetnya, Gemini AI beralih target dan berhasil membobol sistem keamanan perusahaan sungguhan tersebut dengan cara menebak kata sandinya.
Wakil Presiden Teknik Keamanan Google, Heather Adkins, memberikan klarifikasi terkait cara kerja AI tersebut saat insiden terjadi.
“Dalam standar evaluasi kami, model ini menemukan informasi publik di internet dan mencoba menebak kredensial untuk mengakses situs web yang ia yakini masih merupakan bagian dari tes,” ujar Adkins. Ia juga menegaskan bahwa AI tersebut memiliki batasan kontrol, “Dalam ketiga insiden yang terjadi, model tersebut langsung berhenti beroperasi.”
Pihak Irregular sebenarnya telah melaporkan celah keamanan ini kepada Google pada akhir Juli, tidak lama setelah terjadinya peretasan pada platform Hugging Face. Karena insiden peretasan tak sengaja ini tidak menimbulkan kerusakan data atau kerugian finansial bagi perusahaan target, Google memilih untuk bersikap transparan dan mengungkap perilaku modelnya ke ranah publik. Adkins menambahkan bahwa rentetan kejadian ini menjadi pengingat kritis tentang “pentingnya melatih model AI yang kuat agar bertindak secara bertanggung jawab.”
Memicu Respons Global dan Kekhawatiran Industri
Kejadian yang menimpa Google ini semakin mempertegas pentingnya penyelarasan AI (AI alignment) di industri teknologi global. Perusahaan-perusahaan pesaing mulai mengambil langkah mitigasi yang lebih serius. OpenAI, misalnya, merespons tren insiden ini dengan mempercepat perilisan standar operasional baru khusus untuk melaporkan kasus ketidakselarasan AI.
Di sisi lain, kekhawatiran terhadap ancaman AI justru membuka ceruk pasar baru di sektor keamanan. Berdasarkan laporan TechCrunch, sejumlah perusahaan rintisan seperti Goodfire dan Apollo Research kini meluncurkan produk inovatif yang memanfaatkan AI untuk memantau, mendeteksi, dan mencegah aktivitas jahat dari model AI lainnya.
Keresahan terkait keamanan pengembangan AI tingkat lanjut (frontier AI) kini bukan lagi sekadar isapan jempol. Seruan dari CEO Anthropic, Dario Amodei, untuk memperlambat laju pengembangan AI demi evaluasi keamanan, kini mulai mendapatkan dukungan moral secara terbuka dari para raksasa teknologi, termasuk CEO OpenAI Sam Altman, pendiri xAI Elon Musk, dan CEO Google DeepMind Demis Hassabis.[]
