Detak Media — Agen AI kini masuk ke lingkungan perusahaan sebagai entitas otonom yang beroperasi dengan penalaran sendiri, bukan sekadar menjalankan logika yang sudah diprogram. Karakter non-deterministik dan jumlahnya yang meningkat membuat perilaku agen sulit diprediksi sepenuhnya saat diimplementasikan.

Di kawasan Asia Pasifik, investasi pada AI dan GenAI diperkirakan akan terus tumbuh, dan sistem agentic diproyeksikan memegang peran penting dalam alokasi dana tersebut. Namun perkembangan tata kelola yang mampu mengendalikan risikonya belum setara dengan laju adopsi.

Identitas Mesin Dan Risiko Akses Berlebih

Agen AI beroperasi lewat identitas mesin seperti service accounts, API tokens, dan kredensial yang memberi akses ke sistem dan data. Gartner mencatat manajemen identitas mesin sebagai area yang masih belum matang pada banyak program IAM, meskipun skalanya tumbuh cepat dan risikonya meningkat.

Data menunjukkan jumlah identitas mesin sudah melampaui jumlah pengguna manusia, tetapi banyak organisasi masih memusatkan pengelolaan pada identitas manusia—khususnya mereka yang dikategorikan sebagai privileged users. Akibatnya, bentuk kegagalan yang sering muncul adalah over-permissioning, yaitu pemberian akses lebih luas daripada kebutuhan operasional agen.

Penelitian implementasi di perusahaan mengungkapkan 77% organisasi mengandalkan platform IAM yang ada untuk melihat identitas mesin, namun hanya 2% yang menggunakan solusi keamanan khusus untuk identitas non-human. Kesenjangan ini tercermin pula pada catatan insiden: 80% organisasi melaporkan agen AI mereka pernah melakukan tindakan tidak diinginkan, termasuk mengakses atau membagikan data sensitif.

Akuntabilitas, Hak Akses, Dan Siklus Hidup

Kondisi berisiko muncul dari kombinasi kepercayaan tinggi terhadap kemampuan mengelola agen AI dan kematangan tata kelola yang rendah. Banyak organisasi belum menetapkan akuntabilitas jelas terkait apa yang dapat diakses agen dan keputusan apa yang dapat dipengaruhinya saat implementasi berlangsung.

Untuk mengatasi ini, organisasi dianjurkan memperlakukan setiap agen AI sebagai identitas terpisah: menetapkan penanggung jawab, membatasi hak akses sesuai ruang lingkup, serta mendefinisikan siklus hidup yang jelas. Prinsip yang sama dalam meninjau akses akun manusia dengan hak istimewa perlu diterapkan pada akun agen AI, disertai visibilitas berkelanjutan alih-alih audit satu kali.

Regulasi Dan Peran Tata Kelola Dalam Pengadaan

Di Indonesia, perkembangan regulasi seperti Undang-Undang Perlindungan Data Pribadi menambah urgensi pengelolaan data dan identitas. Peta Jalan Nasional Kecerdasan Artifisial menekankan pentingnya tata kelola sepanjang siklus hidup AI, termasuk pengawasan berkelanjutan dan pemantauan pasca implementasi agar sistem tetap akuntabel dan selaras tujuan penggunaannya.

Seiring meningkatnya ekspektasi tata kelola, kematangan pengelolaan menjadi salah satu kriteria dalam proses pengadaan. Organisasi yang dapat menunjukkan akuntabilitas jelas atas sistem AI akan memiliki keunggulan struktural dalam penilaian tersebut.

Model Agentic Fabric Dan Identity-First Governance

Industri mulai mengembangkan kapabilitas yang disebut Agentic Fabric—kemampuan untuk menemukan, mengelola, dan memantau identitas agen AI secara berkelanjutan pada skala besar, dari agen SaaS hingga sistem otonom kustom. Prinsip utamanya adalah identity-first governance: tidak ada agen yang beroperasi tanpa pemilik yang diketahui, izin akses yang terdefinisi, serta kemampuan untuk diaudit atau mencabut aksesnya.

Manfaat produktivitas agen AI nyata, demikian pula risikonya. Faktor penentu mana yang mendominasi bukan sekadar kecanggihan agen, melainkan kualitas tata kelola yang dibangun di sekitarnya.

GVP ASEAN, SailPoint.