Realita Kita – Microsoft kini terjerat dalam polemik terkait pembuatan gambar mesum palsu yang melibatkan kecerdasan buatan (AI) generatif dan melibatkan Taylor Swift. Pelayanan AI generatif milik Microsoft, yakni Designer, diduga digunakan untuk menciptakan gambar kontroversial yang kemudian menjadi viral.
Laporan dari 404Media mengungkapkan bahwa gambar yang tidak senonoh tersebut berasal dari komunitas pembuat gambar porno yang menggunakan wajah selebriti di platform Telegram dan 4chan. Anggota komunitas ini disarankan untuk menciptakan gambar mesum menggunakan layanan Microsoft Designer.
Meskipun Designer sebenarnya memiliki peraturan yang melarang penggunaannya untuk menciptakan gambar orang terkenal, pengguna di kanal Telegram dan 4chan menemukan cara-cara untuk menghindari aturan tersebut.
Baca Juga:Elon Musk Implantasi Chip ke Otak, Publik Khawatir Manusia CyborgBadai PHK Menerpa PayPal dan Block Coret Ribuan Karyawan, Industri Teknologi Terus Berguncang
Seperti dengan sedikit kesalahan pengejaan nama selebriti dan mendeskripsikan gambar tanpa menggunakan istilah seksual namun menghasilkan gambar dengan nuansa seksual.
404Media mengonfirmasi bahwa celah ini memungkinkan pembuatan gambar mesum. Namun, Microsoft telah segera menutup celah tersebut sejak akhir pekan lalu.
Seorang juru bicara Microsoft menyatakan, “Kami sedang menyelidiki laporan-laporan ini dan mengambil tindakan yang sesuai untuk mengatasi masalah ini.” Pernyataan ini dikutip oleh Realitkita.com pada Selasa (31/1/2024).
“Kode Etik kami melarang penggunaan alat kami untuk membuat konten intim dewasa atau non-konsensual, dan percobaan berulang kali untuk menciptakan konten yang melanggar kebijakan kami dapat mengakibatkan hilangnya akses ke layanan,” tambahnya.
Meskipun Microsoft tidak dapat memverifikasi bahwa gambar Taylor Swift yang menjadi viral di Twitter/X dibuat menggunakan Designer, mereka tetap meningkatkan sistem filter prompt dan berusaha mengatasi penyalahgunaan layanannya.
Perubahan yang diterapkan oleh Microsoft tampaknya berhasil. Beberapa pengguna di kanal Telegram dan 4chan melaporkan bahwa Designer tidak lagi dapat menghasilkan wajah selebriti dengan akurasi yang sama.
“Bahkan Chloe Moretz hanya menampilkan gadis pirang generik. Saya pindah server dan akun beberapa kali dan sekarang hanya mendapatkan hal generik yang sama,” ungkap seorang pengguna 4chan.
Baca Juga:Bos Samsung Berambisi Galaxy AI untuk 100 Juta Pengguna pada 2024, Sambil Garap Produksi Laptop di IndiaXiaomi 14 Ultra Siap Menggebrak Dunia Fotografi dengan Spek Dewa!
“Saya pikir itu sudah bermasalah. Ariana, Kylie Jenner, Lisa, Zendaya, dan lain-lain hanya menampilkan perempuan generik dengan penampilan/etnis yang sama,” komentar pengguna lainnya.