"Kegagalan AI yang dapat memberi dampak negatif menimbulkan pertanyaan: apakah AI secerdas yang kita bayangkan? Haruskah teknologi dengan kecerdasan yang mendekati manusia tetapi tidak memiliki pedoman moral bisa berkuasa di dunia?” katanya.
Hal inilah yang menjadi asal mula perdebatan mengenai pentingnya regulasi AI. Khusus di Indonesia, menurut Andre Rahadian yang juga Kepala TMT Group Sektor Asia dari Dentons, firma hukum global, Pemerintah didorong untuk segera membuat kebijakan komprehensif tata kelola AI.
Uni Eropa, Amerika Serikat, China, serta Brasil telah melakukan pengaturan AI, ada yang berupa executive order untuk mengidentifikasi potensi dan risiko AI serta mekanisme pengawasan agar tidak mengurangi hak fundamental warga. Selanjutnya EU AI Act menekankan prinsip human-centric.
Di Indonesia, peraturan yang berlaku saat ini yang relevan dengan penggunaan AI antara lain UU No.1 Tahun 2024 tentang Informasi dan Transaksi Elektronik (UU ITE), UU No.27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP), PP No.71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik (PP PSE), Peraturan Menteri Komunikasi dan Informatika (Permenkominfo) No.5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat (Permen PSE), serta UU No.28 Tahun 2014 tentang Hak Cipta (UU Hak Cipta).