Korea Denda Konten AI Tanpa Label, Bagaimana di Indonesia?

Beginilah suasana salah satu sudut jalan di Seoul, ibu kota Korea Selatan, saat malam hari dan hujan. Video di atas bukanlah karya asli videografer, melainkan hasil olahan Carat, chatbot AI generatif yang dikembangkan di Korea. Konten berbasis AI, seperti video ini, akan diatur dalam UU AI Korea.

Korea Selatan memberlakukan UU dengan nama lengkap The Basic Act on the Development of Artificial Intelligence and the Establishment of a Foundation for Trustworthiness itu pada Kamis (22/1/2026). UU AI ini akhirnya resmi berlaku setelah disetujui lembaga legislatif pada akhir 2024 lalu.

”Ini bukan untuk menyombongkan diri, tapi kami adalah (negara) yang pertama (memiliki UU AI) di dunia,” ucap Kim Kyeong-man, Deputi Menteri Bagian Kebijakan Kecerdasan Buatan Kementerian Sains, Teknologi, Informasi, dan Komunikasi Korea Selatan, kepada awak media, seperti dikutip dari media The Korea Herald, Rabu.

Menurut Kyeong-man, regulasi itu dirancang untuk mendorong pertumbuhan sektor AI domestik. Dukungan itu seperti penelitian dan pengembangan, pelatihan talenta, bantuan bagi perusahaan rintisan (start up), serta bantuan bagi perusahaan ekspansi ke luar negeri.

Regulasi ini juga menjadi landasan kerja bagi Dewan Kepresidenan untuk Strategi AI Nasional yang mengurus kebijakan terkait AI. Undang-undang ini mengharuskan adanya pengawasan manusia pada teknologi AI yang berdampak tinggi atau high-impact AI. 

Hal itu mencakup bidang keamanan nuklir, produksi air minum, transportasi, layanan kesehatan, serta sektor finansial, seperti evaluasi kredit dan pinjaman. Contoh yang dikutip pemerintah untuk bidang transportasi adalah kendaraan dengan teknologi otonom penuh.

Perusahaan penyedia layanan AI asing, menurut regulasi ini, juga harus menunjuk perwakilan domestik sebagai sumber kontak dengan regulator. Perusahaan yang dimaksud itu setidaknya memenuhi satu dari tiga persyaratan. Pertama, pendapatan global 1 triliun won atau 680 juta dolar AS.

Kedua, pendapatan tingkat domestik sebesar 10 miliar won, atau ketiga, jumlah pengguna hariannya di Korea rata-rata 1 juta orang. Besar kemungkinan, perusahaan yang masuk dalam persyaratan itu adalah raksasa teknologi, seperti Google dan OpenAI.

Undang-undang ini juga bertujuan mengantisipasi risiko dari AI, seperti konten deepfake, yakni manipulasi gambar, suara, atau video. Selama November 2024-Oktober 2025, kepolisian nasional mencatat 3.411 kasus kejahatan seksual siber. Sebanyak 35,2 persen di antaranya ialah materi deepfake.

Regulasi ini pun mengharuskan perusahaan penyedia AI memberikan label pada konten yang dihasilkan AI generatif. Konten yang terbukti tanpa label atau watermark akan dikenai denda maksimal 30 juta won atau lebih dari Rp 345 juta (dengan kurs Rp 11,5 per won). 

Pelabelan tidak terlihat juga diperbolehkan untuk konten berisi komik daring (webtoon) atau animasi. Namun, konten deepfake yang menyerupai orang atau peristiwa asli harus menampilkan marka air yang jelas dan terlihat. Ketentuan ini hanya berlaku bagi perusahaan, bukan individu.

Pemerintah juga memberikan waktu satu tahun untuk perusahaan menyesuaikan diri sebelum denda dijatuhkan. Kim menekankan, UU ini bukan untuk menghambat inovasi. ”Tujuannya bukan untuk menghentikan pengembangan AI melalui regulasi, tetapi untuk memastikan masyarakat dapat menggunakannya dengan rasa percaya,” ujarnya.

Reuters melaporkan, denda yang tertera dalam UU AI di Korea Selatan masih lebih rendah dibandingkan potensi denda dalam AI Act Uni Eropa. Ketidakpatuhan terhadap aturan di sana mengakibatkan denda mulai dari 1 persen dari total pendapatan global untuk pelanggaran ringan hingga 7 persen terkait pelanggaran berisiko tinggi.

Meski demikian, UU AI di Uni Eropa akan berlaku secara penuh pada 2027. Dengan demikian, UU AI Korea Selatan merupakan regulasi komprehensif pertama terkait AI di dunia. 

Di sisi lain, keraguan datang dari perusahaan rintisan dalam negeri terhadap regulasi itu. Lim Jung-wook, salah seorang ketua Startup Alliance (aliansi start up) Korea Selatan, mengatakan, banyak pendiri perusahaan khawatir berinovasi demi menghindari risiko regulasi tersebut. 

”Ada sedikit rasa keberatan, mengapa kami harus menjadi yang pertama menerapkan (regulasi) itu?” ucapnya seperti dikutip Reuters. Apalagi, menurut survei Startup Alliance, hanya 2 persen dari 101 perusahaan yang telah membangun sistem kepatuhan untuk merespons aturan itu.

Aturan agar konten AI menyematkan label juga menghadapi tantangan. Sebuah aplikasi pengeditan gambar dari luar negeri yang telah diunduh lebih dari setengah juta kali di Google Play, misalnya, mengiklankan fitur penghapus watermark dari produk AI.

Media Korea JoongAng Daily melaporkan, UU AI belum maksimal mengatasi penyebaran AI slop atau konten AI yang berkualitas rendah, tidak orisinal, bahkan tidak masuk akal. Platform pengeditan video Kapwing mencatat, 11 kanal AI slop yang berbasis di Korea masuk dalam 100 saluran Youtube teratas dengan 8,45 miliar penayangan. 

”Mengatur platform adalah kunci untuk menangani AI slop. Namun, kekhawatiran adanya gesekan dengan Pemerintah AS tampaknya membuat UU AI tidak melangkah sejauh itu,” ujar Yoo Hyun-jae, profesor jurnalisme dan komunikasi massa Universitas Sogang, kepada media Korea itu. Seperti diketahui, sejumlah perusahaan AI raksasa berbasis di AS. 

Oleh karena itu, perusahaan AI dalam negeri akan lebih merasakan dampak dari regulasi ini. Padahal, pada saat yang sama, AS dan China juga memiliki regulasi terkait AI yang lebih longgar. Di AS, ada perusahaan AI, seperti OpenAI dan Google, sedangkan di China ada Deepseek.

Dibandingkan dengan UU AI di Uni Eropa, UU AI (Korea) ini bukan hanya sekadar regulasi, tetapi juga (wujud) persaingan perusahaan Korea dengan perusahaan AS dan China yang regulasinya lebih longgar.

”Dibandingkan dengan UU AI di Uni Eropa, UU AI (Korea) ini bukan hanya sekadar regulasi, tetapi juga (wujud) persaingan perusahaan Korea dengan perusahaan AS dan China yang regulasinya lebih longgar,” ujar Wi Jong-hyun, profesor di Universitas Chung-Ang, Korea, yang fokus pada teknologi AI, kepada Korea JoongAng Daily.

Saat ini, AS memiliki pendekatan yang lebih fleksibel terkait regulasi AI dengan tujuan tidak menghambat inovasi sedangkan China telah memperkenalkan beberapa aturan dan mengusulkan pembentukan badan untuk menyesuaikan dengan regulasi global.

Di Vietnam terdapat UU Teknologi Digital yang mewajibkan pengawasan manusia dan pendekatan yang berpusat pada manusia dalam pengembangan AI. Di Singapura, Komisi Perlindungan Data Pribadi menerbitkan panduan tentang anonimisasi data dalam pelatihan AI (Kompas, 12/7/2025).

Lalu, bagaimana dengan Indonesia? Saat ini, regulasi yang ada baru Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial dan UU No 27/2022 tentang Perlindungan Data Pribadi. Namun, UU itu belum memiliki peraturan turunannya.

Pemerintah, melalui Kementerian Komunikasi dan Digital, juga tengah merancang Peta Jalan AI Nasional. Peta ini mencakup pilar etika, infrastruktur, dan tata kelola data, sumber daya manusia, investasi, serta litbang. Namun, peta jalan ini belum juga tuntas. 

Sejauh ini, manipulasi foto atau video menjadi telanjang dan menggabungkannya dengan adegan pornografi dijerat dengan aturan lain. Regulasi itu Undang-Undang Informasi dan Transaksi Elektronik serta Peraturan Menteri Komunikasi dan Informatika No 5/2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

Berdasarkan aturan itu, Kementerian Komunikasi dan Digital memutus sementara akses pada Grok AI, aplikasi AI generatif milik X (dulu Twitter), sejak 10 Januari lalu. Indonesia pun menjadi negara pertama yang memblokir Grok. Wakil Menteri Komdigi Nezar Patria mengatakan, pemblokiran masih berlanjut.

Pihaknya berencana mengeluarkan dua rancangan peraturan presiden (perpres) terkait AI, yakni mengenai etika AI dan peta jalan AI. Namun, kedua regulasi itu tidak mengatur secara khusus sanksi penyalahgunaan aplikasi AI generatif untuk produksi konten pornografi karena sudah ada aturan lain (Kompas.id, 22/1/2026).

Ketua Presidium Masyarakat Antifitnah Indonesia (Mafindo) Septiaji Eko Nugroho menilai, Indonesia tetap harus memiliki UU terkait AI, tidak hanya peraturan menteri atau perpres. Dengan UU AI, terdapat aturan jelas dalam pemanfaatan teknologi itu, termasuk sanksi untuk konten deepfake atau penipuan lain.

UU AI ini dapat memberikan kepastian hukum bagi pengembang dan investor AI.

Menurut Septiaji, AI juga berkaitan erat dengan hak asasi manusia dalam hal privasi serta hak untuk mendapatkan informasi yang benar. Dengan adanya UU AI, negara memiliki kepastian hukum di mata internasional mengingat platform AI yang banyak digunakan di Indonesia berasal dari luar negeri. 

”UU AI ini dapat memberikan kepastian hukum bagi pengembang dan investor AI,” ucapnya. Oleh karena itu, Indonesia membutuhkan UU AI yang memastikan transparansi konten AI dengan menyertakan label, melindungi data pengguna, mendorong tumbuhnya inovasi, termasuk kelembagaan resmi terkait AI, hingga mendukung jurnalisme dan kreator konten lokal.

”Platform AI yang menggunakan data dari jurnalisme, konten karya anak bangsa, misalnya, wajib memberikan dukungan dan kompensasi. Jangan sampai AI justru membunuh pertumbuhan jurnalisme dan konten otentik dari masyarakat,” ujarnya.