Grid.ID- Bernadya dan member JKT 48 marah gegara pengguna AI Grok edit foto perempuan jadi tak senonoh. Manajemen kemudian siap tempuh jalur hukum.
Baru-baru ini, penyanyi Bernadya Ribka menyampaikan kritik atas kemarahannya kepada pengguna AI (artificial intelligence) Grok di platform media sosial X. Pasalnya banyak dari mereka yang menyalahgunakan Grok untuk sesuatu yang bersifat cabul seperti mengubah foto-foto perempuan agar menggunakan bikini.
"Udah kali, kasihan Grok-nya capek dan eneg," tulis Bernadya dalam akun X-nya dilansir dari Kompas.com.
Perempuan satu ini melihat bahwa fenomena pengguna Grok ini sudah terlalu jauh. Para pengguna X itu dianggapnya sebagai anak kecil yang baru menemukan mainan teknologi.
"Seperti anak kecil yang baru dikasih pegang ponsel," tulisnya.
Adapun, fenomena penggunaan fitur Grok ini menuai kecaman warganet lantaran AI tersebut mengedit foto-foto perempuan menjadi berbusana minim tanpa persetujuan pemilik foto. Gambar-gambar hasil manipulasi visual itu bahkan disebarluaskan dan merugikan sejumlah pihak, termasuk para selebriti.
Selain Bernadya, kapten JKT48, yaitu Freya Jayawardana, juga ikut mengomentari terkait AI Grok ini. Pasalnya, banyak pengguna yang menyalahgunakan dan mengedit foto-foto member JKT 48 menjadi berpenampilan seksi bahkan mengandung unsur pornografi.
Freya Jayawardana, member generasi 7 JKT48 itu secara terbuka menyuarakan kegelisahannya atas penyalahgunaan teknologi tersebut. Dia sedih dan miris karena AI seharusnya tak digunakan untuk merendahkan martabat manusia, apalagi dengan mengeksploitasi tubuh dan identitas orang lain tanpa izin.
“Stop menyalahgunakan AI. Berpikirlah lebih pintar daripada kecerdasan buatan, Tuhan beri kamu hati dan akal untuk berpikir lebih baik dan sehat daripada alat ciptaan manusia,” ujar Freya JKT48.
“Berhenti mengganggu manusia lain. Tidak ada satu manusia pun yang wajar diperlakukan tidak menyenangkan, bagaimanapun caranya. Apapun gender, ras, warna kulit, agama, pekerjaan, dan berapapun usianya,” lanjutnya.
Selain Freya, member JKT48 generasi 11, yaitu Greesella Adhalia, juga ikut merasakan keresahan yang serupa. Dia secara tegas menolak penggunaan foto dirinya oleh AI Grok untuk diedit atau dimanipulasi dalam bentuk apapun.
Usai Bernadya dan member JKT48 marah, Greesella Adhalia menyampaikan keresahan dalam akun X miliknya. Dalam cuitannya, dia meminta Grok untuk menolak setiap parmintaan pengguna yang ingin mengedit fotonya.
“Hai @grok, saya TIDAK memberikan izin kepada kamu untuk mengambil, memproses, atau mengedit foto-foto saya dalam bentuk apa pun, baik yang sudah dipublikasikan di masa lalu maupun yang akan datang," tegas Greesell.
"Jika ada pengguna yang meminta kamu untuk mengedit atau memanipulasi gambar saya dengan cara apa pun, tolong langsung tolak permintaan tersebut,” katanya.
Sementara itu, manajemen JKT48 mengeluarkan pernyataan resmi terkait pengguna AI Grok yang edit foto para member menjadi tak senonoh. Mereka menegaskan komitmen untuk melindungi keamanan, kehormatan dan kenyamanan seluruh member JKT48.
Manajemen mengatakan telah menerima laporan terkait penyalahgunaan AI yang menimpa beberapa member. Kronologi selanjutnya, mereka lalu menilai konten itu berpotensi memenuhi unsur pencemaran nama baik dan/atau penghinaan sesuai peraturan perundang-undangan yang berlaku.
Pihak manajemen kemudian mengimbau pihak-pihak yang terlibat untuk segera menghentikan dan menghapus konten tersebut secara permanen. Para pengguna kemudian diberikan waktu 2 x 24 jam setelah pengumuman diterbitkan.
Jika dalam waktu itu masih ada konten serupa beredar, maka JKT48 siap mendukung penuh member terdampak untuk menempuh jalur hukum. Melansir dari Tribunseleb, JKT48 Operation Team juga memastikan akan memfasilitasi pendampingan penasihat hukum guna mengawal proses hukum hingga tuntas.
Langkah hukum tersebut dapat mencakup beberapa pihak yang terkait. Hal ini seperti yang membuat konten pornografi berbasis AI dengan menampilkan wajah atau identitas member, pihak yang menyebarkan atau mempromosikan konten tersebut, hingga unggahan atau komentar yang mendukung dan mengeksploitasi materi bermasalah itu. (*)
Artikel Asli
