Realita Kita – Teknologi deepfake yang semakin berkembang menjadi sumber kekhawatiran, terutama jika digunakan dengan cara yang salah. Deepfake menggunakan kecerdasan buatan (AI) untuk menciptakan video palsu dengan memanipulasi wajah atau tubuh seseorang.
Kasus terbaru melibatkan penyanyi Taylor Swift, yang menjadi korban peredaran foto cabul hasil rekayasa AI di media sosial. Foto-foto tersebut menampilkan Taylor Swift dalam posisi yang merendahkan dan telah dilihat oleh puluhan juta orang sebelum dihapus.
Di Indonesia, tokoh terkenal seperti Raffi Ahmad dan Najwa Shihab juga menjadi sasaran teknologi AI. Sebuah video beredar menunjukkan Najwa Shihab sedang mewawancarai Raffi Ahmad tentang bisnis judi online.
Baca Juga:Fixed Broadband 100 Mbps Telkomsel Siap Tantang Regulasi, Pertanyaan Insentif dan TarifPublisher Game, Pembahasan Rencana Aturan Berbadan Hukum Belum Final
Menyikapi hal ini, Direktur Jenderal Informasi dan Komunikasi Publik Kementerian Kominfo, Usman Kansong, menegaskan bahwa korban yang merasa dirugikan oleh penggunaan teknologi AI dapat melaporkan ke pihak berwajib.
“Perilaku tersebut jelas melanggar etika dan akuntabilitas. Pengguna teknologi AI harus bertanggung jawab atas dampak penggunaannya terhadap individu. Jika korban merasa tidak nyaman, mereka diharapkan segera melapor,” ujar Usman dalam Forum Diskusi Media dengan tema AI dan Keberlanjutan Media di Jakarta, Senin (29/1/2024).
Usman menjelaskan bahwa korban yang merasa tidak nyaman dengan konten deepfake harus segera melaporkan agar dapat ditindaklanjuti sesuai dengan undang-undang yang berlaku.
Ia menyoroti bahwa konten deepfake memiliki aspek positif dan negatif, di mana ada yang merasa senang dengan pembuatan konten tersebut, namun sebaliknya, ada juga yang merasa tidak nyaman.
“Jika seseorang merasa tidak nyaman, mereka harus melaporkan. Tidak ada otomatisasi dari pemerintah atau kepolisian, melainkan harus ada laporan resmi. Karena ini bersifat subjektif; ada yang mungkin senang jika dibuatkan konten, seperti menjadi ahli nyanyi lagu Coldplay, sehingga hal tersebut dianggap positif dan tidak perlu dilaporkan,” tambahnya.
Usman juga menambahkan bahwa sambil menunggu terbitnya undang-undang AI yang komprehensif, penggunaan undang-undang ITE atau undang-undang pornografi dapat menjadi alternatif untuk menanggapi konten deepfake yang melanggar hukum.
“Jika konten deepfake mencapai pelanggaran hak cipta, pencemaran nama baik, penghinaan, atau pelecehan, undang-undang ITE dapat digunakan untuk menindaknya. Sementara itu, untuk konten yang bersifat pornografi, sudah ada undang-undang yang mengaturnya. Sambil menunggu undang-undang AI yang komprehensif, kita bisa menggunakan alternatif tersebut,” pungkasnya.