AI: Antara Katalis Inovasi dan Sengat “Pedang Bermata Dua”
Sayangnya, surat edaran tersebut hanya bersifat pedoman moral berskala soft law yang tidak memiliki sanksi hukum mengikat. Ketika disandingkan dengan [Undang-Undang Perlindungan Data Pribadi (UU PDP), masih terdapat celah besar (regulatory gap) yang belum mampu menjawab persoalan spesifik AI.
Indonesia mendesak adanya regulasi yang jauh lebih detail agar masyarakat tidak terjebak dalam tiga ancaman utama: pelanggaran privasi, ketidakamanan data, dan penggunaan teknologi tanpa kendali.
* Pertama, terkait pencegahan pelanggaran privasi, regulasi harus mengatur secara tegas hak kepemilikan data. Platform AI tidak boleh lagi secara sepihak mengeruk foto, suara, wajah (data biometrik), atau jejak digital masyarakat untuk melatih algoritma mereka tanpa persetujuan eksplisit (consent). Kita perlu mencontoh Uni Eropa dengan [EU AI Act] yang melarang keras pemanfaatan AI untuk kategorisasi biometrik yang eksploitatif.
* Kedua, mengatasi ketidakamanan data, hukum harus mewajibkan adanya kewajiban audit berkala dan transparansi algoritma bagi perusahaan pengembang AI. Publik berhak mengetahui bagaimana data mereka diproses, di mana data tersebut disimpan, dan seberapa kuat sistem tersebut menahan serangan siber yang menyasar pusat data.
* Ketiga, mencegah penggunaan tanpa kendali, regulasi wajib mengklasifikasikan pemanfaatan AI berbasis risiko (risk-based approach). Sektor-sektor vital seperti hukum, kesehatan, pertahanan, dan layanan publik—termasuk ekosistem GovTech nasional—harus diwajibkan menerapkan prinsip Human-in-the-Loop. AI diposisikan murni sebagai alat bantu efisiensi, sedangkan keputusan akhir dan penentu kebijakan strategis mutlak berada di tangan manusia untuk menghindari bias algoritma yang diskriminatif.
Pada akhirnya, AI akan tetap menjadi pedang bermata dua. Tajamnya mata pisau inovasi bisa kita gunakan untuk memotong rantai birokrasi dan inefisiensi kerja. Namun, jika kita lengah tanpa payung hukum tertulis yang detail, tegas, dan mengikat, mata pisau satunya siap melukai kedaulatan informasi kita sendiri. Menolak AI adalah ketertinggalan, namun menerimanya tanpa proteksi hukum yang rigid adalah kecerobohan. Kuncinya ada pada kendali kita: mengikat teknologi ini dengan regulasi yang kuat, sembari membiarkan inovasinya tetap bermanfaat bagi bangsa.