catrawarta.com — Teknologi kecerdasan buatan (AI) ternyata masih membutuhkan proses penyempurnaan yang panjang. Manfaat AI memang tidak dapat dipungkiri—teknologi ini telah menunjang berbagai kebutuhan manusia modern, mulai dari pekerjaan hingga hiburan. Namun, di balik kemudahannya, produk AI juga kerap memunculkan persoalan baru yang menimbulkan kekhawatiran publik.
Belum lama ini, misalnya, Grok AI disorot setelah dilaporkan dimanfaatkan oleh oknum untuk memproduksi konten pornografi palsu. Kasus tersebut kembali menegaskan bahwa perkembangan AI yang terlalu cepat, tanpa pengamanan memadai, dapat menimbulkan risiko serius.
Pada dasarnya, AI hanyalah alat yang bersifat netral. Konten yang dihasilkan sangat bergantung pada siapa yang menggunakan serta bagaimana teknologi tersebut diarahkan. Meski demikian, tanggung jawab tidak sepenuhnya bisa dibebankan kepada pengguna. Para pengembang dan vendor AI juga memiliki kewajiban untuk menertibkan produk teknologinya melalui pembatasan yang jelas dan tegas.
Salah satu langkah yang dapat ditempuh adalah dengan memperketat aturan perintah atau prompt yang digunakan pengguna. AI tidak seharusnya bersikap sepenuhnya netral, melainkan perlu dibekali kemampuan untuk memilah perintah mana yang layak secara etika dan mana yang tidak. Selain itu, informasi yang diproduksi AI juga perlu melalui proses penyaringan yang lebih ketat agar tidak menimbulkan dampak negatif, terutama bagi kelompok rentan.
Dalam konteks inilah langkah Meta menjadi relevan. Sebagai salah satu pengembang AI terbesar, Meta tampak belajar dari berbagai kontroversi yang menimpa produk AI lain. Sebelum tekanan publik atau gelombang cancel culture membesar, Meta mengambil langkah preventif terhadap salah satu produknya.
Baru-baru ini, Meta Platforms mengumumkan penghentian akses terhadap fitur karakter kecerdasan buatan (AI characters) di seluruh aplikasinya secara global bagi pengguna berusia remaja. Kebijakan ini akan berlaku dalam beberapa minggu ke depan hingga pengalaman AI khusus remaja siap diluncurkan.
Dalam pernyataan resminya, Meta menegaskan bahwa penghentian ini bersifat sementara. Perusahaan tengah mengembangkan versi terbaru fitur karakter AI yang dirancang lebih aman, dengan perlindungan tambahan serta kontrol orang tua yang lebih ketat.
Dilansir dari TechCrunch, Meta menyatakan tidak menghentikan pengembangan fitur tersebut secara permanen. Sebaliknya, Meta justru berencana menghadirkan pengalaman AI yang diperbarui, dengan pengawasan yang memungkinkan orang tua memantau dan mengontrol interaksi anak mereka dengan AI.
Sebelumnya, pada Oktober lalu, Meta sempat memperkenalkan pratinjau fitur kontrol orang tua untuk karakter AI. Fitur tersebut memungkinkan orang tua memantau topik percakapan, memblokir karakter tertentu, hingga menonaktifkan sepenuhnya interaksi remaja dengan karakter AI. Namun, alih-alih meluncurkannya secara bertahap, Meta memilih menonaktifkan akses karakter AI bagi remaja sampai versi baru benar-benar siap dirilis.
Meta menyebut keputusan ini diambil setelah mendengarkan masukan dari para orang tua yang menginginkan kontrol lebih besar serta transparansi terhadap interaksi anak dengan AI. Penghentian akses ini berlaku bagi pengguna yang terdaftar sebagai remaja berdasarkan tanggal lahir, termasuk akun yang mengklaim sebagai orang dewasa tetapi terindikasi sebagai remaja melalui teknologi prediksi usia milik Meta.
Ke depan, Meta menyatakan pengalaman AI versi terbaru akan dilengkapi kontrol orang tua secara bawaan. Respons AI juga akan disesuaikan dengan usia pengguna dan dibatasi pada topik-topik tertentu, seperti pendidikan, olahraga, dan hobi.
Langkah Meta ini sejalan dengan meningkatnya pengawasan regulator terhadap perusahaan media sosial, terutama terkait potensi dampak negatif chatbot terhadap anak dan remaja. Kebijakan tersebut juga muncul menjelang persidangan di New Mexico, Amerika Serikat, terkait tuduhan bahwa Meta dinilai belum optimal dalam melindungi anak dari risiko eksploitasi seksual di platformnya.
Kasus ini menunjukkan bahwa perkembangan AI tidak bisa lagi hanya dikejar dari sisi inovasi. Tanpa regulasi internal dan tanggung jawab etis dari para pengembang, teknologi yang seharusnya membantu manusia justru berpotensi menciptakan persoalan baru yang lebih kompleks.
Musisi Bantul Peduli Kumpulkan Rp130 Juta Bencana Aceh dan Sumatera 