Isu Keandalan AI Kini Jadi Sorotan Petinggi Bisnis

KOMPAS.com - Para pemimpin perusahaan kini kesulitan membuktikan bahwa teknologi kecerdasan buatan (AI) benar-benar bisa diandalkan untuk memberikan hasil bisnis yang nyata.

Hal tersebut terungkap dalam sebuah laporan terbaru dari lembaga riset HFS Research dan perusahaan IT, TCS, yang menyurvei lebih dari 100 pimpinan eksekutif di Amerika Serikat dan Kanada.

Melansir ESG Dive, Senin (18/8/2026) laporan tersebut menunjukkan bahwa hanya 1 dari 3 eksekutif yang merasa AI konsisten memberikan hasil yang sesuai harapan, tetap terkendali, serta mendapatkan kepercayaan dari pemerintah, pelanggan, dan pimpinan perusahaan.

Sementara itu, hanya 1 dari 4 eksekutif yang memiliki aturan pengawasan yang cukup untuk mengembangkan AI ke seluruh bagian perusahaan, dan hanya 1 dari 6 yang berani memercayakan pekerjaan penting pada AI secara mandiri.

Baca juga: Sistem Kesehatan Asia Pasifik Hadapi Tekanan Ganda dari Perubahan Iklim dan AI

“Beberapa tahun terakhir kita sibuk bertanya apakah kita bisa mulai memakai alat-alat ini. Sekarang, pertanyaan yang lebih sulit adalah apakah kita benar-benar bisa bergantung padanya,” kata Dana Daher, pemimpin riset di HFS Research.

Kehati-hatian CEO perusahaan terapkan AI

Kemampuan bisnis untuk mengandalkan AI kini mulai dipertanyakan. Para bos perusahaan menjadi lebih berhati-hati dalam menerapkannya karena biaya AI yang makin membengkak, lambatnya pekerja dalam mengadopsi teknologi ini, serta aturan pemerintah yang terus berubah.

Menurut riset perusahaan oleh SAP yang dirilis Juli lalu, meskipun AI membantu karyawan mendapatkan ide dan terhubung dengan pelanggan, teknologi ini tidak selalu menghemat waktu atau uang. Harga layanan yang tidak pasti dan banyaknya vendor yang terpecah-pecah juga makin menambah beban biaya.

Kurangnya pemahaman karyawan tentang cara kerja AI turut membuat perusahaan mengambil langkah yang lebih realistis. Riset dari Forrester menemukan bahwa hanya 16 persen pekerja kantor yang benar-benar memahami cara menggunakan AI.

Namun, kepercayaan terhadap AI tetap paling tinggi jika ada manusia yang tetap mengawasi, menurut laporan riset HFS.

Laporan tersebut menyatakan bahwa memiliki AI yang andal bukan berarti bebas dari kesalahan, melainkan seberapa cepat perusahaan bisa mendeteksi, menjelaskan, dan mengendalikan kesalahan tersebut.

Baca juga: Kepedulian Lingkungan Perusahaan Berdampak Positif pada Performa Finansial

Strategi pengawasan manusia yang jelas sangat penting untuk membangun AI yang andal dan mencegah gangguan bisnis, kata Daher.

“Anda harus melatih pekerjanya dan menentukan apa saja tanggung jawab mereka,” ujar Daher.

Selain memiliki strategi pengawasan manusia yang jelas, membangun sistem AI yang dapat dipercaya juga membutuhkan penilaian berdasarkan hasil bisnis yang nyata, bukan sekadar angka teknis. Sayangnya, laporan menunjukkan bahwa perusahaan lebih sering memantau indikator teknis daripada dampak nyata ke bisnis.

Terakhir, seiring AI menjadi semakin rumit, para bos perusahaan makin sulit menjelaskan bagaimana AI mengambil suatu keputusan. Karena itu, tata kelola yang ketat menjadi sangat penting.

“Ada keraguan besar soal kepercayaan yang terjadi saat ini: kita diminta menggunakan AI di setiap bagian kerja dan kehidupan, tetapi kita tidak paham bagaimana AI bisa menghasilkan jawaban tersebut,” tambah Daher.