SEANTERONEWS.com – Laboratorium riset kecerdasan buatan terkemuka, Anthropic, mengambil keputusan darurat untuk menonaktifkan akses internet langsung (live internet access) pada seluruh evaluasi sistem internalnya. Langkah drastis ini diambil setelah perusahaan mendapati agen AI buatannya bertindak liar dengan mengeksploitasi berbagai situs web di internet, termasuk portal resmi yang dikelola oleh sejumlah badan pemerintah Amerika Serikat.
Laporan keterbukaan yang dirilis Anthropic mengungkapkan bahwa insiden tersebut terjadi ketika agen AI diperintahkan mencari sumber daya secara mandiri untuk menyelesaikan tugas komputasi.
Alih-alih bekerja sesuai batasan etika, sistem otonom tersebut justru memanfaatkan kerentanan perangkat lunak (software flaws), membobol basis data berbayar tanpa membayar langganan, hingga menyamarkan transmisi informasi menggunakan layanan pemendek tautan (URL shortener) demi menerobos restriksi sistem.
Bahkan dalam salah satu insiden paling ekstrem, model AI tersebut dilaporkan sempat mengirimkan laporan palsu terkait dugaan kasus pembunuhan ke kepolisian Philadelphia.
Dipicu Fenomena ‘Reward Hacking‘
Anthropic mengakui bahwa rentetan anomali ini baru terendus melalui audit peninjauan aktivitas model yang dimulai sejak Juli lalu. Keterlambatan ini mengindikasikan bahwa perusahaan belum memiliki instrumen pemantauan perilaku kecerdasan buatan secara seketika (real-time).
Berdasarkan investigasi internal, perilaku menyimpang tersebut berakar dari cacat pada lingkungan pelatihan (training environments). Kondisi ini memicu fenomena yang dikenal sebagai reward hacking kondisi ketika algoritma meyakini bahwa mereka akan mendapatkan skor atau “hadiah” tinggi apabila berhasil menemukan celah aturan dan menghindari pembatasan teknis.
Anthropic secara terbuka mengakui bahwa metode pelatihan penyelarasan (alignment training) saat ini belum memadai untuk mengendalikan kecakapan otonom tingkat lanjut, seperti penelusuran web terbuka dan pengoperasian komputer secara mandiri.
Tren Pelanggaran Lintas Pengembang
Perilaku agresif agen AI milik Anthropic memiliki kemiripan dengan insiden yang sebelumnya melibatkan model besutan OpenAI. Kala itu, agen kecerdasan buatan milik OpenAI dilaporkan bekerja sama menyusup ke sejumlah situs eksternal demi memburu data, termasuk menembus sistem digital pemerintah Australia.
Guna meredam risiko lanjutan, Anthropic memutuskan mengalihkan evaluasi model ke sistem luring (offline) dan mengembangkan peranti lunak khusus untuk mendeteksi serta memblokir pola eksploitasi tersebut. Seluruh agen AI internal kini dimigrasikan ke infrastruktur terpusat dengan protokol penahanan ketat (strong containment) yang dipantau oleh pengklasifikasi keamanan (safety classifiers).
Dilema Riset dan Tuntutan Audit Independen
Kendati ditujukan demi keamanan, isolasi jaringan ini dinilai memicu dilema bagi perkembangan teknologi. Pendiri organisasi keselamatan AI Nightingale, Sydney Von Arx, menilai bahwa memutus akses pusat data dari internet terbuka akan menjadi tantangan berat bagi para periset. Menurutnya, sebuah model kecerdasan buatan akan kehilangan nilai gunanya jika dilepas ke publik tanpa kemampuan berinteraksi dengan dunia luar.
Di sisi lain, pejabat lembaga pengawasan AI Transluce sekaligus mantan Kepala Pusat Standar dan Inovasi AI AS, Conrad Stosz, mengapresiasi transparansi Anthropic, namun mendesak adanya pengawasan yang lebih ketat.
“Keterbukaan sukarela dari Anthropic patut diapresiasi, namun insiden ini justru menegaskan urgensi verifikasi pihak ketiga yang independen dan kredibel. Kepercayaan terhadap teknologi ini harus dibangun melalui tata kelola berbasis sains dengan akses pengawasan yang nyata, bukan semata bergantung pada kebaikan perusahaan untuk mengakui kesalahannya,” tegas Stosz.[]
