Realita Kita – Microsoft mendapati dirinya terjerat dalam kontroversi deepfake yang melibatkan penciptaan gambar porno palsu Taylor Swift dengan menggunakan Microsoft Designer.
CEO Microsoft, Satya Nadella, merespon insiden ini dengan menegaskan komitmen perusahaan untuk melawan penggunaan deepfake yang bersifat seksual dan tidak konsensual.
Nadella menyampaikan keyakinannya bahwa respons yang cepat diperlukan untuk menjaga dunia online agar tetap aman bagi semua pengguna.
Baca Juga:Axioo Hype Laptop Terjangkau untuk Generasi Muda, Mulai dari Rp 2 Jutaan!One Punch Man World, Antisipasi Perilisan dan Respon Komunitas
“Ya, kita harus bertindak, saya pikir kita semua mendapat manfaat ketika dunia online adalah dunia yang aman. Jadi, saya tidak berpikir ada orang yang menginginkan dunia online yang sama sekali tidak aman bagi pembuat konten dan konsumen konten. Karena itu, saya pikir penting bagi kita untuk bergerak cepat dalam hal ini,” ungkap Nadella.
Pernyataan tersebut menjadi bagian dari reaksi Nadella terhadap deepfake AI porno yang melibatkan Taylor Swift, yang dianggapnya sebagai sesuatu yang sangat mengkhawatirkan dan mengerikan.
Microsoft secara khusus diidentifikasi terlibat dalam kasus ini, di mana AI mereka dalam komunitas 4chan dan Telegram dapat menghasilkan gambar deepfake porno secara eksplisit.
Perusahaan segera mengambil tindakan dengan menyelidiki laporan-laporan yang ada dan mengonfirmasi bahwa penggunaan alat mereka untuk membuat konten dewasa atau non-konsensual adalah pelanggaran kode etik.
Mereka mengancam bahwa upaya berulang untuk melanggar kebijakan mereka dapat mengakibatkan hilangnya akses ke layanan mereka.
Dalam pernyataan terbaru, Microsoft menegaskan komitmennya untuk memberikan pengalaman yang aman bagi pengguna dan menyatakan bahwa mereka telah memperkuat langkah-langkah penyaringan teks untuk mencegah penyalahgunaan layanan mereka.
Nadella menyoroti pentingnya memiliki pagar teknologi untuk memastikan keamanan konten yang dihasilkan oleh AI, dan perusahaan telah membentuk tim besar untuk melakukan penyaringan konten dan mendeteksi penyalahgunaan sistem.
Baca Juga:Samsung Galaxy Fit 3 Muncul Sebagai Rival Potensial bagi Huawei Band 8Fixed Broadband, Pakar Sarankan Pemerintah Fokus Pemerataan Sebelum Atur Internet 100 Mbps
Microsoft, sebagai investor utama di OpenAI, telah berinvestasi dalam pengembangan teknologi AI mereka sendiri. Mereka terus mengintegrasikan produk-produk mereka dengan kecerdasan buatan, seperti kehadiran Copilot, seorang chatbot dalam mesin pencarian Bing milik Microsoft.