bytedaily - Melansir laporan dari cnnindonesia.com, OpenAI mengumumkan rencana menyematkan watermark tak kasatmata pada teks yang dihasilkan ChatGPT dan Codex. Penanda itu dapat dikenali melalui pilihan kata dan pola kalimat yang dihasilkan AI.
OpenAI menyebut teknologi bernama textGrain menambahkan sinyal statistik yang tidak terlihat ke pilihan kata model. Detektor kemudian mencari sinyal tersebut untuk menilai apakah teks memuat watermark OpenAI. Perusahaan menyatakan kinerja deteksi textGrain dalam pengujian internal setara atau lebih baik dibandingkan sejumlah detektor lain, termasuk SynthID dari Google DeepMind.
Namun, hasil pengujian belum menjamin deteksi yang akurat dalam penggunaan sehari-hari. Teks pendek dan tulisan yang hanya memiliki sedikit variasi pilihan kata, seperti teks matematika, lebih sulit diperiksa. Sistem juga berisiko keliru menandai teks yang tidak memiliki watermark atau gagal menemukan watermark yang sebenarnya ada.
Dalam pengujian, penggantian sekitar 10 persen pilihan kata menurunkan akurasi deteksi dari sekitar 92 persen menjadi 66 persen. Jika sekitar 25 persen kata diganti, akurasinya turun menjadi 17 persen. OpenAI menegaskan watermark tersebut tidak memengaruhi akurasi maupun kinerja jawaban, tetapi membuat pola pilihan kata pada teks dapat dideteksi.
Watermark ini dapat membantu organisasi ahli atau akademisi menilai apakah suatu teks dibuat oleh AI atau merupakan karya orisinal, termasuk dalam pengungkapan penyalahgunaan dan penegakan aturan. OpenAI berencana menerapkannya bagi pengguna ChatGPT dan Codex di Uni Eropa dalam beberapa minggu mendatang. Opsi watermark untuk pelanggan API telah tersedia secara global.
OpenAI belum merilis fitur tersebut secara global karena masih menemukan sejumlah kelemahan dalam uji coba awal. Perusahaan menyatakan akan menyempurnakan watermark dan kemampuan deteksinya. Akses awal ke detektor akan diberikan kepada peneliti dan organisasi ahli yang disetujui untuk membantu mengevaluasi keandalan serta penggunaan teknologi secara bertanggung jawab.
