catrawarta.com — Kerentanan model kecerdasan buatan kembali menjadi sorotan. Sejumlah peneliti keamanan menemukan bahwa chatbot AI populer seperti Gemini dan ChatGPT dapat dimanipulasi hanya dalam waktu sekitar 20 menit melalui teknik pengolahan perintah tertentu.
Mengutip laporan disebuah media nasional, pengujian menunjukkan bahwa “chatbot AI dari Google dan OpenAI dapat dengan mudah ditipu dalam 20 menit.” Temuan ini mengindikasikan bahwa celah manipulasi tidak memerlukan waktu lama maupun teknik yang sangat kompleks.
Model seperti ChatGPT dan Gemini dirancang untuk memahami bahasa alami dan menghasilkan respons kontekstual. Namun kemampuan ini sekaligus membuka kemungkinan eksploitasi ketika pengguna memberikan instruksi yang disusun secara strategis untuk “mengelabui” sistem.
Manipulasi tersebut dilakukan melalui rekayasa prompt—yakni penyusunan perintah yang memancing model menghasilkan keluaran yang tidak sesuai dengan batasan awalnya. Dalam beberapa pengujian, model bisa terdorong memberikan informasi yang menyesatkan atau respons yang menyimpang dari kebijakan keamanan internalnya.
Temuan ini memperlihatkan bahwa pengamanan berbasis filter dan pembatasan konten belum sepenuhnya kebal terhadap teknik manipulatif. Meski pengembang terus memperbarui sistem mitigasi, dinamika antara penguatan keamanan dan eksploitasi celah berlangsung secara berkelanjutan.
Risiko ini tidak berhenti pada aspek teknis. Dalam konteks sosial, manipulasi AI berpotensi mempercepat produksi disinformasi, menciptakan narasi yang terdengar kredibel namun keliru, hingga dimanfaatkan untuk skema penipuan berbasis teks otomatis.
Ketergantungan publik terhadap jawaban instan dari sistem AI juga memperbesar dampaknya. Ketika respons AI diterima tanpa verifikasi, potensi kesalahan atau manipulasi bisa menyebar lebih cepat dibandingkan koreksinya.
Di sisi lain, para pengembang menekankan bahwa model AI terus disempurnakan melalui pembaruan kebijakan penggunaan dan peningkatan sistem pengawasan. Namun temuan ini menjadi pengingat bahwa kecanggihan teknologi tidak otomatis menutup kemungkinan penyalahgunaan.
Kerentanan yang bisa dieksploitasi dalam hitungan menit menunjukkan satu hal: penguatan keamanan teknis perlu berjalan beriringan dengan literasi digital pengguna. Di tengah ekspansi AI ke berbagai sektor, kemampuan publik untuk memahami batas dan risiko teknologi menjadi faktor penentu dalam menjaga ekosistem informasi tetap sehat.
Akankah Jawa Timur Menjadi Episentrum Baru Seni Rupa di Indonesia? 