OpenAI telah memiliki sistem untuk memberi watermark pada teks yang dibuat ChatGPT. Diikuti oleh alat untuk mendeteksi watermark yang sudah siap selama sekitar satu tahun, lapor The Wall Street Journal. Tetapi perusahaan ini terpecah secara internal mengenai apakah akan merilisnya. Di satu sisi, sepertinya itu adalah hal yang bertanggung jawab untuk dilakukan; di sisi lain, hal itu dapat merugikan keuntungannya.
Watermarking OpenAI digambarkan sebagai penyesuaian bagaimana model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, menciptakan pola yang dapat dideteksi. (Ini adalah penyederhanaan, tetapi Anda dapat melihat penjelasan Google yang lebih mendalam tentang watermarking teks Gemini untuk mengetahui lebih lanjut).
Menawarkan cara apa pun untuk mendeteksi materi yang ditulis oleh AI adalah keuntungan potensial terutama bagi para guru. Guru bisa mendeteksi dan mencegah siswa yang menyerahkan tugas menulis kepada AI tersebut. The Journal melaporkan bahwa perusahaan tersebut menemukan bahwa watermarking tidak mempengaruhi kualitas output teks chatbot-nya. Dalam sebuah survei yang dilakukan perusahaan, “orang-orang di seluruh dunia mendukung gagasan alat pendeteksi AI dengan selisih empat banding satu,” tulis Journal.
Setelah Journal mempublikasikan ceritanya, OpenAI mengonfirmasi bahwa mereka telah bekerja pada teks watermarking. Hal itu didapatkan dalam pembaruan posting blog hari ini yang ditemukan oleh TechCrunch. Di dalamnya, perusahaan tersebut mengatakan bahwa metodenya sangat akurat (“99,9% efektif,” menurut dokumen yang dilihat Journal) dan tahan terhadap “gangguan, seperti parafrase.” Tetapi dikatakan bahwa teknik seperti menulis ulang dengan model lain membuatnya “mudah diakali oleh pelaku kejahatan.” Perusahaan ini juga mengatakan bahwa mereka khawatir tentang stigmatisasi kegunaan alat AI untuk penutur non-pribumi.
Tetapi tampaknya OpenAI juga khawatir bahwa penggunaan watermarking dapat mematikan pengguna ChatGPT yang disurvei. Hampir 30 persen di antaranya mengatakan kepada perusahaan bahwa mereka akan lebih jarang menggunakan perangkat lunak ini jika watermarking diterapkan.
Meskipun demikian, beberapa karyawan masih merasa bahwa watermarking efektif. Namun, mengingat sentimen pengguna yang mengganggu, Journal mengatakan bahwa beberapa orang menyarankan untuk mencoba metode yang “berpotensi tidak terlalu kontroversial di antara para pengguna tetapi belum terbukti.” Dalam pembaruan posting blognya hari ini, perusahaan mengatakan bahwa mereka sedang “dalam tahap awal” mengeksplorasi penyematan metadata. Dikatakan bahwa masih “terlalu dini” untuk mengetahui seberapa baik cara kerjanya, tetapi karena ditandatangani secara kriptografis, tidak akan ada kesalahan positif.
