REPUBLIKA.CO.ID,JAKARTA — Bareskrim Polri sedang mengkaji dapat memidanakan penggunaan artificial inteligent (AI) Grok untuk konten pornografi dan asusila. Direktur Tindak Pidana (Dirtipid) Siber Mabes Polri Brigadir Jenderal (Brigjen) Himawan Bayu Aji mengatakan, penggunaan AI yang menyimpang belakangan masif di berbagai media sosial (medsos) namun tanpa adanya sanksi hukum.
googletag.cmd.push(function() { googletag.display('div-gpt-ad-1754473276648-0'); });
“Kalau bicara AI, nanti selama itu bisa diklasifikasikan bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dapat dipidana,” kata Himawan di Bareskrim Polri, Jakarta, Rabu (7/1/2025). Kata dia, penggunaan AI memang dampak dari kemajuan teknologi dan zaman. Tetapi semestinya tak disalahgunakan untuk kegiatan-kegiatan yang menyimpang, dan mengarah pada kerugian moral bagi publik.
“Jadi memang perkembangan teknologi itu sekarang mengarahnya kepada artificial inteligent, termasuk deepfake,” ujar Himawan. Dan belakangan, penggunaan AI terjadi penyimpangan dengan pemanfaatan untuk membuat konten-konten negatif, maupun palsu, dan manipulasi visual gambar ataupun foto. Tak jarang, penyimpangan itu mengarah pada pembuatan manipulasi-manipulasi foto seseorang yang mengandung visual asusila dan pornografi.
“Karena itu, kita memang sedang melakukan penyelidikan ke arah hukum, dan itu memang menjadi target kita di Direktorat Tindak Pidana Siber,” ujar dia. Pada platform media sosial (medsos) X, Grok AI masif digunakan oleh akun-akun tertentu dengan memerintahkan fasilitas teknologi itu untuk mengubah penampilan gambar, atau foto seseorang. Dan tak jarang, perintah akun-akun tertentu itu meminta Grok AI untuk menampilkan ubahan foto dan gambar seseorang menjadi vulgar, dan sarat visual asusila, maupun pornografi.
Ikuti Whatsapp Channel Republika
.img-follow {width: 36px !important;margin-right: 5px;margin-top: -10px;margin-left: -18px;margin-bottom: 4px;float: left;} .wa-channel{background: #03e677;color: #FFF !important;height: 35px;display: block;width: 59%;padding-left: 5px;border-radius: 3px;margin: 0 auto;padding-top: 9px;font-weight: bold;font-size: 1.2em;} Advertisement
googletag.cmd.push(function() { googletag.display('div-gpt-ad-1676653185198-0'); });
