bytedaily - Melansir laporan dari cnnindonesia.com, OpenAI berencana menyematkan watermark tak terlihat pada teks yang dibuat ChatGPT dan Codex. Tanda ini dikenali melalui pola pemilihan kata dan susunan kalimat, meski tidak tampak secara langsung bagi sebagian orang.
Kebijakan tersebut ditujukan untuk memenuhi ketentuan EU AI Act yang mewajibkan perusahaan kecerdasan buatan menandai konten agar dapat dikenali sistem lain. OpenAI menjelaskan bahwa teknologi bernama textGrain menyisipkan sinyal statistik pada pilihan kata model, sedangkan alat deteksinya memeriksa sinyal tersebut untuk mengetahui apakah teks memuat watermark.
OpenAI mengklaim kemampuan textGrain dalam mendeteksi tulisan AI setara atau lebih baik daripada sejumlah alat lain, termasuk SynthID milik Google DeepMind. Namun, perusahaan mengingatkan bahwa hasil evaluasi dan pengujian internal belum menjamin deteksi yang konsisten dalam penggunaan sehari-hari.
Menurut OpenAI, teks pendek dan teks yang pilihan katanya terbatas, seperti materi matematika, lebih sulit diperiksa. Sistem juga dapat keliru menyatakan watermark ada padahal tidak, atau gagal mendeteksi tanda yang sebenarnya terdapat dalam teks.
Pengujian menunjukkan penggantian sekitar 10 persen kata dapat menurunkan akurasi deteksi dari sekitar 92 persen menjadi 66 persen. Jika sekitar 25 persen kata diganti, akurasinya turun menjadi 17 persen.
Perusahaan menyatakan watermark tidak akan mengubah akurasi maupun kinerja jawaban. Teknologi itu hanya membentuk pola pemilihan kata yang bisa dikenali, sehingga organisasi ahli atau akademisi dapat membantu mengidentifikasi apakah suatu teks dibuat AI atau merupakan karya orisinal, termasuk dalam pemeriksaan dugaan penyalahgunaan dan penegakan kebijakan.
Dalam beberapa minggu mendatang, watermark akan diterapkan secara lokal bagi pengguna ChatGPT dan Codex di Uni Eropa. Sementara itu, pelanggan API telah dapat menggunakan opsi penambahan watermark secara global.
OpenAI belum meluncurkan fitur tersebut secara global karena masih ada keterbatasan dalam pengujian awal. Perusahaan mengatakan akses awal ke alat deteksi hanya diberikan kepada peneliti dan organisasi ahli yang disetujui untuk membantu menilai keandalan serta penggunaan yang bertanggung jawab.
