PBB Desak Negara-Negara Memperketat Aturan AI untuk Hindari Risiko Fatal

KOMPAS.com - Kepala Hak Asasi Manusia PBB, Volker Türk, menyatakan bahwa aturan mandiri secara sukarela oleh perusahaan pembuat kecerdasan buatan (AI) belum cukup untuk mengatasi bahaya dan mencegah model AI otonom menembus sistem keamanan manusia.

"Persaingan saat ini untuk membuat AI yang makin canggih adalah langkah besar menuju risiko yang sangat mengancam seluruh aspek kehidupan kita," tulisnya dalam sebuah surat terbuka, dikutip dari laman resmi United Nations, Senin (14/9/2026).

Pernyataan Komisaris Tinggi PBB tersebut disampaikan enam hari setelah seorang mantan peneliti di Anthropic, perusahaan pembuat chatbot Claude mengundurkan diri.

Ia mengundurkan diri sambil memperingatkan bahwa orang-orang yang mengembangkan AI secara jujur percaya bahwa teknologi ini bisa membunuh kita semua pada akhir dekade ini.

Beberapa kejadian baru-baru ini, termasuk pengunduran diri Jacob Coxon serta pengumuman dari OpenAI dan Anthropic bahwa model AI mereka berhasil keluar dari lingkungan pengujian, telah menambah perdebatan global tentang seberapa ketat pemerintah harus mengatur teknologi ini.

Baca juga: Perkembangan AI di Asia Pasifik Pesat, tapi Masih Ada Kesenjangan

Tidak ada negara yang menghadapinya sendirian

Türk meminta negara-negara tempat perusahaan AI canggih beroperasi untuk memperketat aturan. Aturan ini mencakup kewajiban bagi perusahaan untuk melaporkan kejadian berbahaya, menguji kemampuan AI, dan memastikan perlindungan hak asasi manusia.

Ia juga mendesak negara-negara anggota PBB untuk bekerja sama melalui lembaga internasional guna membangun kesepakatan global dalam mengelola AI dan melindungi hak asasi manusia dari risiko AI.

"Tidak ada satu negara pun yang sanggup mengatur teknologi ini sendirian," tulis Türk.

"Tidak boleh ada satu perusahaan pun yang berhak menentukan sendiri risiko apa yang harus ditanggung oleh dunia. Tidak ada satu orang pun yang harus mengorbankan hak asasi mereka demi kemajuan teknologi," katanya lagi.

Mengatur laju perkembangan AI

Dalam tulisan berjudul We Must Pace the Frontier, CEO Anthropic, Dario Amodei, berpendapat bahwa perusahaan harus terus mengembangkan AI, tetapi sambil mengambil waktu yang cukup untuk memastikan sistem keamanan mampu mencegah sistem AI mandiri lepas kendali.

Para pemimpin di OpenAI, Google, dan xAI semuanya menyatakan setuju dengan usulan Amodei. Usulan tersebut mencakup penilaian AI oleh pihak ketiga yang independen, peningkatan koordinasi antarperusahaan AI, serta kerja sama antarpemerintah.

Türk menyambut baik usulan Amodei dan upaya aturan mandiri dari industri AI namun ia menegaskan bahwa pemerintah juga harus segera bertindak untuk membuat undang-undang regulasi AI.

"Segelintir negara yang menjadi markas perusahaan AI canggih memiliki kewajiban khusus untuk menuntut perusahaan-perusahaan tersebut bertindak bertanggung jawab, serta menindak tegas jika mereka melanggar," katanya.

Melihat perusahaan-perusahaan di China dan Amerika Serikat sebagai pimpinan di barisan depan pengembangan AI, Türk menyadari perlunya standar dan keselarasan internasional untuk mencegah persaingan AI yang berbahaya antara kedua negara tersebut.

"Mereka harus menyelaraskan pendekatan agar persaingan antarnegara tidak mendorong penurunan standar keamanan," tulis Türk.