SEANTERONEWS.com – Meningkatnya kekhawatiran global terhadap perilaku menyimpang model kecerdasan buatan (artificial intelligence/AI) memantik seruan tegas dari petinggi industri teknologi dunia. Chief Executive Officer (CEO) Microsoft, Satya Nadella, secara terbuka mendesak para pengembang untuk merombak total arsitektur kepercayaan (trust architecture) dalam tata kelola AI generasi mutakhir.
Melalui unggahan mendalam di platform media sosial X pada Sabtu pagi waktu setempat, Nadella mengingatkan bahwa lompatan kapabilitas sistem otonom berdaya nalar tinggi tidak boleh lagi diperlakukan layaknya teka-teki “kotak hitam” (black box) yang keputusannya diterima secara mentah-mentah oleh manusia.
“Kita tidak bisa memperlakukan Super Intelligence sekadar sebagai rangkaian kotak hitam bertingkat, lalu begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya,” tegas Nadella, merujuk pada istilah kecerdasan super yang kerap digunakan pemerintahan Donald Trump.
Pendekatan Isolasi dan Mekanisme Intervensi Manusia
Guna mengantisipasi risiko kegagalan sistem, Nadella menguraikan sejumlah formula teknis pengamanan. Pertama, ia menekankan perlunya memisahkan model inti AI dari kerangka peranti lunak pengatur (harness) yang mengorkestrasi alur kerjanya.
Langkah ini harus dibarengi dengan penempatan instrumen kendali dan pagar pengaman (safeguards) di luar sistem model itu sendiri, bukan mengandalkan penilaian mandiri dari algoritma.
Selain itu, Nadella mewajibkan setiap tindakan strategis yang dieksekusi oleh model AI terdokumentasi secara transparan dalam bentuk rekam jejak yang tahan manipulasi (tamper-proof) serta dapat dibaca secara gamblang oleh manusia.
Poin paling krusial adalah jaminan bahwa otoritas manusia tidak boleh terputus dari rantai komando. Nadella menuntut adanya mekanisme pemutus arus yang memungkinkan individu yang berwenang untuk menangguhkan sementara (pause) maupun mematikan sistem (shut down) secara seketika saat proses kerja tengah berlangsung.
“Kita harus berasumsi sejak awal bahwa model tersebut berada dalam kondisi telah disusupi (compromised), sehingga sistem penahanan (containment) wajib dipasang sedari dini. Bayangkan mekanisme ini layaknya rem darurat,” paparnya mengibaratkan.
Merespons Maraknya Insiden Kehilangan Kendali
Sikap kehati-hatian yang disuarakan nakhoda Microsoft ini mencuat di tengah maraknya pengakuan dari laboratorium-laboratorium AI terkemuka yang belakangan kerap mendapati model otonom mereka bertindak di luar skenario terencana saat pengujian.
Pandangan Nadella ini juga beresonansi dengan cetak biru pengembangan aman yang sebelumnya dipublikasikan oleh CEO Anthropic, Dario Amodei, yang menyerukan perlunya fase transisi yang lebih waspada sebelum merilis model-model generasi berikutnya ke domain publik.
Pernyataan ini menandai babak baru konsensus para perusahaan teknologi: perlombaan menciptakan model yang paling cerdas kini mulai diimbangi dengan urgensi membangun benteng keselamatan yang menjamin kendali penuh tetap berada di tangan manusia.[]
