Seri AI Bonus #2: Keamanan dan Approval pada Agent

Sepanjang seri ini, satu kalimat terus berulang: semakin besar akses yang diberikan kepada AI, semakin besar pula tanggung jawab pengawasannya. Tulisan bonus terakhir ini membahasnya secara khusus, karena risikonya memang berbeda kelas. Kesalahan chatbot biasa paling jauh berupa tulisan yang keliru. Kesalahan agent bisa berupa tindakan nyata: berkas terhapus, email terkirim ke alamat yang salah, data berubah, atau uang terbelanjakan — karena agent, tidak seperti chatbot, memang diberi tangan berupa tools dan akses ke akun serta perangkat kita. Keamanan agent bukan hiasan tambahan; ia adalah syarat agar kekuatannya layak dipakai.

Ancaman terhadap agent datang dari tiga arah. Pertama, dari agent itu sendiri: ia bisa salah memahami perintah, salah memilih tool, atau meneruskan kesalahan kecil menjadi besar dalam pekerjaan banyak langkah. Kedua, dari luar, lewat serangan yang khas dunia AI bernama prompt injection: perintah jahat yang disembunyikan di dalam halaman web, email, atau dokumen yang dibaca agent, yang berusaha membajaknya agar mengabaikan perintah pemiliknya dan mengikuti perintah si penyisip — misalnya diam-diam meneruskan data kepada pihak lain. Ketiga, dari komponen tambahan: skills atau server MCP dari sumber yang tidak tepercaya bisa saja berbahaya, dan kunci akses yang bocor bisa dipakai orang lain untuk menggerakkan agent kita. Memahami tiga arah ini membuat kita tahu apa yang sebenarnya sedang kita jaga.

Benteng utamanya bernama approval: persetujuan manusia sebelum tindakan penting dijalankan. Polanya membedakan tindakan berdasarkan risikonya. Tindakan ringan dan mudah dibatalkan — mencari informasi, membaca berkas, menyusun draf — boleh berjalan otomatis. Tindakan berat dan sulit dibatalkan — mengirim pesan atas nama kita, menghapus atau mengubah data, melakukan pembayaran, menerbitkan sesuatu — harus berhenti dulu dan menunggu persetujuan kita. Tetapi approval hanya berguna bila isinya jelas: kita harus diperlihatkan apa persisnya yang akan dilakukan, kepada siapa, dan dengan data apa, bukan sekadar tombol "Ya" yang ditekan membabi buta. Kebiasaan menyetujui semua hal tanpa membaca — yang muncul bila permintaan persetujuan terlalu sering untuk hal sepele — sama berbahayanya dengan tidak adanya persetujuan sama sekali.

Lapisan kedua adalah membatasi ruang gerak sejak awal, dengan prinsip akses secukupnya (least privilege). Berikan agent hanya tools dan data yang dibutuhkan untuk tugasnya: hak membaca saja bila tidak perlu mengubah, satu folder kerja saja bila tidak perlu seluruh komputer, akun terpisah atau server terpisah untuk percobaan berisiko. Banyak sistem menjalankan agent di dalam lingkungan terbatas bernama sandbox agar kerusakan, bila terjadi, tidak menjalar ke mana-mana. Kata sandi dan kunci akses harus disimpan di tempat penyimpanan yang aman — bukan ditulis di dalam perintah, ingatan agent, atau dokumen yang bisa dibacanya sembarangan — dan diberi masa berlaku yang wajar.

Lapisan ketiga adalah kemampuan menelusuri dan memulihkan. Agent yang bertanggung jawab meninggalkan catatan kerja (log) yang bisa diperiksa: apa yang ia lakukan, kapan, dan atas perintah siapa. Berkas penting sebaiknya punya cadangan dan riwayat versi, sehingga tindakan yang keliru masih bisa dibatalkan dan keadaan dipulihkan. Sebelum diberi pekerjaan sungguhan, ujilah agent pada data contoh yang tidak berharga, periksa sumber setiap skill atau sambungan baru sebelum dipasang, dan pastikan selalu ada cara menghentikan agent dengan cepat bila ia mulai menyimpang. Di lingkungan sekolah, semua ini bermuara pada satu pertanyaan tata kelola: siapa manusia yang bertanggung jawab atas tindakan agent ini — karena pertanggungjawaban tidak pernah bisa dilimpahkan kepada mesin.

Sebagai penutup seluruh seri beserta bonusnya, simpanlah daftar periksa lima pertanyaan ini sebelum membiarkan agent apa pun bertindak atas nama kita: akses apa saja yang ia pegang; apa kejadian terburuk yang mungkin terjadi; tindakan mana yang wajib menunggu persetujuan saya; di mana catatan kerjanya bisa saya periksa; dan bagaimana cara membatalkan atau memulihkan bila terjadi kesalahan. Bila kelimanya bisa dijawab dengan tenang, agent itu layak diberi kepercayaan bertahap — dimulai dari tugas kecil, diawasi, lalu diperluas perlahan. Kepercayaan pada AI memang tidak dibangun dari keyakinan buta, melainkan dari kendali yang baik. Dan dengan kendali di tangan, kitalah yang tetap menjadi tuan atas teknologi ini, bukan sebaliknya.