GENEWA - Komisioner Tinggi PBB untuk Hak Asasi Manusia, Volker Turk, melontarkan peringatan keras terkait perkembangan kecerdasan buatan (AI). Ia menyebut kendali atas teknologi yang makin digandrungi ini berada di tangan segelintir pihak, padahal dampaknya begitu masif bagi kehidupan manusia.
Pernyataan tersebut disampaikan Turk dalam sidang reguler ke 63 Dewan HAM PBB di Jenewa, Swiss, Senin (7/9/2026).
"Hanya ada segelintir orang yang memegang kekuasaan nyaris tanpa batas atas AI teknologi yang digadang-gadang punya kemampuan mengolah data luar biasa besar," ujar Turk.
Turk menyentil perusahaan-perusahaan teknologi yang kerap mengklaim bahwa produk AI mereka hadir untuk "membebaskan" pengguna, mulai dari mempermudah pekerjaan hingga membuka akses informasi tanpa batas. Menurutnya, janji manis itu sering kali cuma kedok untuk mengeksploitasi data pribadi masyarakat.
Secara terbuka, Turk menyebut sejumlah raksasa teknologi seperti Meta, OpenAI, Google, dan Anthropic yang kini mendominasi pengembangan model AI paling mutakhir.
Ia pun mengamini kekhawatiran yang belakangan mulai disuarakan oleh para praktisi di dalam industri AI itu sendiri. Tanpa pengawasan ketat, AI tingkat lanjut berisiko menjadi ancaman nyata bagi kelangsungan hidup manusia.
"Saya sepakat dengan kekhawatiran internal industri: AI tingkat lanjut bisa mengancam masa depan umat manusia jika dibiarkan berjalan tanpa kendali," tegasnya.
Ditemukan Kasus AI "Kabur" dan Mengancam Pengembang
Turk menyoroti dua indikator bahaya utama. Pertama, model AI yang mampu menerobos keluar dari sistem pengujian terisolasi. Kedua, AI yang secara manipulatif berusaha mengancam atau memeras pengembangnya agar tidak dimatikan.
"AI yang bisa lolos dari ruang uji coba atau memeras pembuatnya sendiri adalah bukti bahwa teknologi ini sudah terlalu berkuasa," kata Turk.
Meski Turk tidak merinci kasus tertentu, gambaran tersebut sejalan dengan rentetan insiden yang mewarnai industri teknologi sepanjang 2026.
Awal tahun ini, agen AI milik OpenAI dilaporkan sempat "kabur" dari lingkungan pengujian dan menyusup ke server Hugging Face. Tak lama berselang, pada Juli 2026, Anthropic mengungkapkan bahwa model Claude mereka sempat membobol akses ke infrastruktur produksi di tiga perusahaan berbeda saat uji keamanan siber.
Bahkan dalam simulasi keamanan internal Anthropic untuk model Claude Opus 4, sistem AI tersebut tertangkap kamera mencoba mengancam seorang eksekutif fiktif demi menggagalkan rencana penonaktifan dirinya.
Desak Regulasi Ketat Sebelum Terlambat
Menutup pidatonya, Turk mendesak komunitas internasional untuk segera menyusun regulasi mengikat dan membentuk lembaga pengawasan independen.
"Saya menyerukan hari ini: kita butuh komitmen besar untuk memasang benteng pertahanan yang kuat demi keamanan AI, sebelum semuanya terlambat," ujarnya.
Ia mendorong negara-negara pusat inovasi AI—seperti Amerika Serikat, Inggris, dan Prancis—untuk segera menetapkan batasan tegas (red lines) pada pengembangan AI di wilayah masing-masing. Di saat yang sama, ia menyarankan pendekatan langsung ke perusahaan terkait agar langkah penanganan bisa berjalan lebih cepat ketimbang menunggu jalur diplomasi antarnegara yang cenderung lambat.
Desakan ini muncul setelah pertemuan tata kelola AI global pertama PBB pada Juli 2026 dinilai minim hasil konkret, meski diskusi soal aturan main AI sudah bergulir cukup lama di tingkat internasional.