catrawarta.com — Sejumlah laporan menyebutkan Indonesia menempati peringkat ketiga dunia kasus pornografi daring dengan 1.450.403 kasus. Hal itu bisa terjadi akibat penyalahgunaan teknologi digital.
”Kecanggihan teknolohi memperparah objektifikasi dengan menempatkan perempuan sebagai korban utama eksploitasi visual. Bahkan eksploitasi seksual anak pada ruang digital kian mengkhawatirkan,” beber pemerhati gender dari Sekolah Pascasarjana UGM, Ratna Noviani PhD.
Maraknya praktik manipulasi konten seksual tersebut, berupa foto dan video melalui fitur kecerdasan buatan memicu keresahan publik. Banyak pihak menyalahgunakan teknologi untuk menciptakan foto serta video seksual palsu secara instan dan masif.
Kekerasan Berbasis Gender
Kecanggihan fitur kecerdasan buatan, jelas Ratna, bukan sekadar kemajuan teknologi, melainkan alat baru untuk melanggengkan kekerasan berbasis gender yang sistemik.
”Ruang digital diglorifikasi sebagai ruang ”kebebasan” pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan,” tandasnya.
Menurutnya, hal itu bukan hanya melanggengkan kekerasan lama, tetapi juga menjadi ruang bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan.
Ketidaknyamanan Era Digital
Ratna menyoroti adanya ketidaknyamanan perempuan pada era digital. Ruang digital kini bekerja seperti pisau bermata dua. Di satu sisi, media sosial membuka ruang bagi perempuan untuk tampil, bersuara, dan menghadirkan diri.
Terdapat sense of freedom bagi perempuan untuk leluasa membangun visibilitas dan menunjukkan agensi. Namun pada saat yang sama, eksistensi visual tersebut juga rentan menjadi ”bahan baku” kekerasan seksual digital.
”Terlihat kontradiksi mendasar, perempuan didorong untuk hadir dan visible di ruang digital, tetapi visibilitas itu justru membuat tubuh dan citra mereka menjadi objek untuk dikontrol, dieksploitasi, dan diserang,” paparnya penuh keprihatinan.
Teknologi Memanipulasi Konten
Penggunaan kecerdasan buatan dengan manipulasi konten yang semakin marak menurut Ratna sebagai evolusi budaya mengintip. Ia mengamati adanya relasi kuasa berbasis gender yang timpang.
Ia mengungkapkan erempuan sejak dahulu diposisikan dengan logika male gaze atau sebagai objek tatapan, objek seksual, dan objek tontonan untuk kesenangan laki-laki.
”Praktik morphing tidak mengubah logika male gaze. Ia memperhalus dan melanggengkannya dalam bentuk visual digital yang semakin rapi, realistis, dan invasif,” imbuhnya.
Ketua Program Magister Kajian Budaya dan Media Sekolah Pascasarjana UGM itu memaparkan temuannya bahwa teknologi digital dan AI sendiri tidak netral. Teknologi dibangun dari data, desain, dan imajinasi sosial yang juga bias maskulin.
Membangun Kesadaran Kolektif
Dalam upaya memutus rantai tersebut, Ratna mengemukakan solusi agar pengguna media digital dapat membangun kesadaran kolektif. Ia menuturkan, masyarakat harus menyadari bahwa tindakan menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder.
Ia pun meminta masyarakat agar lebih kritis dan cerdas untuk tidak menyebarkan informasi palsu tersebut. Membangun kesadaran kolektif berarti menggeser posisi dari penonton pasif menjadi bagian aktif dari solusi.
”Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis,” tegas Ratna.
Mada Sukmajati: Ada Upaya Melanggengkan Kelompok Tertentu 