catrawarta.com — Perkembangan kecerdasan buatan (artificial intelligence/AI) dalam beberapa tahun terakhir telah menunjang efisiensi dan kreativitas di berbagai sektor. Ironisnya di saat yang sama, teknologi ini juga mempercepat lahirnya persoalan serius di ruang digital. Mulai dari penipuan, manipulasi informasi, hingga krisis kepercayaan publik. Masalahnya, para pakar menegaskan bahwa sumber ancaman tersebut bukanlah AI itu sendiri, melainkan cara manusia memanfaatkannya.
Menurut Vice Chair Microsoft Brad Smith, dalam pernyataan resminya terkait konten sintetis, menegaskan bahwa AI pada dasarnya adalah alat. “Teknologi AI tidak memiliki niat. Namun ketika digunakan oleh pihak yang berniat menipu, AI dapat menjadi pengali dampak yang sangat berbahaya, karena siapa pun kini dapat menciptakan media palsu yang tampak sangat meyakinkan,” tulis Microsoft dalam blog kebijakan globalnya. Pernyataan ini menegaskan bahwa AI memperbesar kecenderungan manusia berlaku baik atau buruk bukan menciptakannya dari nol.
Salah satu contoh paling nyata dari sisi gelap pemanfaatan AI adalah teknologi deepfake, yakni konten audio dan video sintetis yang kian sulit dibedakan dari kenyataan. Data global menunjukkan tren yang mengkhawatirkan. Riset yang dirangkum Ceartas dan sejumlah lembaga keamanan siber memperkirakan jumlah file deepfake melonjak dari sekitar 500 ribu pada 2023 menjadi lebih dari 8 juta pada 2025. Pertumbuhan eksponensial ini menandai betapa cepatnya teknologi generatif berkembang, jauh melampaui kesiapan sosial untuk memverifikasinya.
Dampaknya bukan sekadar kuantitas. Studi statistik global menunjukkan bahwa konten video deepfake meningkatkan potensi penyebaran misi informasi hingga 73 persen dibandingkan konten visual biasa. Bahkan, survei internasional mencatat sekitar 68 persen responden mengaku tidak yakin mampu membedakan konten asli dengan hasil rekayasa AI. Kondisi ini memperlihatkan munculnya fase baru: krisis verifikasi di ruang publik.
Di sektor kejahatan digital, implikasinya lebih nyata. Laporan statistik global 2023 menunjukkan bahwa sekitar 96 persen kasus penipuan digital melibatkan teknologi deepfake, baik dalam bentuk suara palsu, video manipulatif, maupun pencurian identitas berbasis AI. Fenomena ini menegaskan bahwa AI tidak menciptakan niat jahat, tetapi mempercepat dan memperluas jangkauannya.
Di Indonesia, dampak ekonomi penyalahgunaan deepfake juga signifikan. Kementerian Komunikasi dan Digital (Komdigi) mencatat kerugian akibat penipuan berbasis deepfake mencapai sekitar Rp700 miliar. Modus yang paling banyak ditemukan adalah manipulasi wajah dan suara pejabat atau figur otoritas untuk meyakinkan korban agar mentransfer dana. Data ini menempatkan Indonesia sebagai salah satu negara yang paling terdampak oleh kejahatan deepfake di kawasan.
Guru Besar Fakultas Teknik Universitas Gadjah Mada, Prof. Ridi Ferdiana, mengingatkan bahwa bahaya AI muncul bukan karena kecerdasannya, melainkan karena siapa yang mengendalikannya. “AI menjadi berbahaya ketika ada manusia yang paham teknologi, tetapi menggunakannya dengan niat menyalahi etika dan hukum. Di titik itu, AI hanya alat yang mempercepat kerusakan,” ujarnya dalam kajian publik UGM tentang risiko kecerdasan buatan.
Lebih jauh, fenomena deepfake tidak hanya berdampak pada kerugian ekonomi, tetapi juga mengguncang fondasi kepercayaan sosial. Ketika masyarakat tak lagi mampu membedakan fakta dari rekayasa, kepercayaan terhadap media, institusi, bahkan proses demokrasi menjadi rapuh. Sejumlah akademisi dan pembuat kebijakan global telah memperingatkan bahwa erosi kepercayaan publik akibat konten sintetis bisa menjadi ancaman serius bagi stabilitas sosial.
Karena itu, berbagai negara mulai merumuskan regulasi. India, misalnya, mengusulkan aturan agar seluruh konten hasil AI wajib diberi label guna menekan manipulasi dan penipuan. Namun para pakar sepakat, regulasi teknis saja tidak cukup. Literasi digital, penegakan hukum, dan penguatan etika teknologi harus berjalan beriringan.
Pada akhirnya, AI tetaplah alat. Risiko terbesar bukan berasal dari mesin, melainkan dari keputusan manusia dalam menggunakannya. Teknologi mempercepat segalanya—termasuk kesalahan moral. Tanpa landasan nilai dan etika yang kuat, percepatan ini justru dapat membawa masyarakat pada krisis kepercayaan yang lebih dalam.
Paradoks Kebahagiaan Indonesia 