RealitaKita – OpenAI telah mengonfirmasi pengembangan teknologi yang mampu mendeteksi teks buatan ChatGPT, sehingga siswa yang sering menggunakan ChatGPT untuk menyelesaikan tugas sekolah mereka harus bersiap untuk terdeteksi.
Keberadaan alat deteksi ini pertama kali dilaporkan oleh Wall Street Journal. Dalam pernyataan resminya, OpenAI mengonfirmasi laporan tentang alat tersebut yang bekerja dengan menambahkan watermark pada teks yang dihasilkan oleh ChatGPT.
Namun, OpenAI masih mempertimbangkan untuk meluncurkan alat tersebut. Perusahaan yang dipimpin oleh Sam Altman ini akan mengambil pendekatan yang hati-hati karena alat ini kemungkinan memiliki dampak besar terhadap ekosistem AI secara keseluruhan.
Baca Juga:Cek Bansos Kemensos 2024 Secara Online? Begini Loh CaranyaCara Ganti Nama AirDrop Untuk iPhone, Macbook, dan iPad Dengan Mudah
“Metode pemberian watermark pada teks yang kami kembangkan secara teknis menjanjikan, tetapi memiliki risiko penting yang kami pertimbangkan sembari kami meneliti alternatifnya,” ujar OpenAI dalam pernyataan resminya, seperti dikutip dari TechCrunch, Seslasa (6/8/2024).
OpenAI menyatakan bahwa teknologi ini khusus dikembangkan untuk tulisan ChatGPT dan tidak untuk model AI lainnya. Metode ini bekerja dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan watermark tak terlihat di dalam tulisan yang bisa dideteksi oleh alat lain.
OpenAI juga memperbarui blognya tentang riset yang telah mereka lakukan untuk mendeteksi konten buatan AI. Mereka menyatakan bahwa metode watermarking terbukti akurat dan bahkan efektif dalam mendeteksi edit yang dilakukan secara lokal, seperti parafrase.
Namun, metode ini kurang ampuh dalam mendeteksi manipulasi yang lebih besar, seperti menggunakan sistem penerjemah, mengubah kata menggunakan model AI lain, atau meminta model AI untuk menambahkan karakter khusus di antara setiap kata dan menghapus karakter tersebut.
Karena itu, metode ini rawan di-bypass oleh aktor jahat. Selain itu, penggunaan watermark juga menimbulkan stigma terkait penggunaan AI sebagai alat yang bermanfaat bagi pengguna yang bukan penutur asli bahasa Inggris.
OpenAI masih mempertimbangkan sederet risiko ini sebelum meluncurkan metode tersebut. Saat ini, mereka lebih memprioritaskan peluncuran alat yang dapat mendeteksi keaslian konten audiovisual.