Kecerdasan buatan Anthropic, yang dikenal sebagai Claude, telah mengambil langkah maju dalam transparansi konten. Perusahaan tersebut mengumumkan bahwa semua model yang dirilis mulai 2 Agustus dan seterusnya akan menggabungkan sistem penandaan tak terlihat dalam teks yang mereka hasilkan. Langkah ini, yang akan diterapkan secara global, bertujuan untuk menyesuaikan diri dengan persyaratan Uni Eropa terkait identifikasi konten sintetis.
Tujuan utamanya adalah agar setiap teks yang dihasilkan oleh Claude dapat dikenali sebagai teks tersebut, tanpa pengguna menyadari perbedaan kualitas atau keterbacaannya. Tanda air tidak terlihat oleh mata telanjang, tetapi tetap tertanam dalam teks bahkan ketika disalin dan ditempel di platform lain. Inisiatif ini menanggapi Kode Praktik Baik tentang Transparansi Konten yang Dihasilkan AI, yang ditandatangani oleh lebih dari 190 organisasi, dan Hukum AI Uni Eropa, yang sejak Agustus telah mewajibkan pemberian tanda air pada jenis konten ini.
Keputusan Anthropic bukanlah suatu kebetulan. Regulasi Eropa mewajibkan perusahaan AI untuk memberi label pada konten sintetis agar pengguna dapat membedakannya dari konten buatan manusia. Pasal 50.2 Undang-Undang AI menyatakan bahwa penyedia harus memastikan keluaran sistem mereka diberi label dalam format yang dapat dibaca mesin. Anthropic, bersama dengan perusahaan teknologi besar lainnya seperti OpenAI, Google, Meta, dan Microsoft, telah menandatangani kode transparansi ini, meskipun perusahaan seperti xAI milik Elon Musk belum bergabung.
Perusahaan menjelaskan bahwa pemberian watermark dilakukan dengan dua cara: untuk gambar dan grafik, metadata berdasarkan standar C2PA (Coalition for Content Provenance and Authenticity) digunakan; untuk teks, watermark tak terlihat digunakan yang terintegrasi ke dalam proses pembuatan itu sendiri. Watermark ini tidak mengubah arti atau kualitas respons dan ditransmisikan bersama teks saat disalin, diekspor, atau dibagikan melalui API.
Sistem ini didasarkan pada urutan token yang dihasilkan oleh model. Alih-alih menambahkan karakter tersembunyi atau metadata yang terlihat, watermark dikodekan dalam pilihan kata ketika beberapa opsi yang sama validnya tersedia. Misalnya, jika diberikan frasa "langitnya...", model mungkin memilih "berawan" atau "abu-abu". Dengan watermark, pilihan ini tidak acak, melainkan bergantung pada kunci kriptografi dan kata-kata sebelumnya. Dengan demikian, siapa pun yang memiliki kunci tersebut dapat secara statistik menentukan apakah teks tersebut dihasilkan oleh Claude.
Metode ini, yang sudah digunakan dalam sistem lain seperti SynthID milik Google, tidak menambah biaya maupun latensi pada proses tersebut. Deteksi watermark bukanlah metode yang sempurna : jika teks diedit, diparafrasekan, diterjemahkan, atau dicampur dengan konten lain, watermark dapat hilang. Selain itu, sinyalnya lebih lemah pada fragmen yang sangat pendek atau dalam kode. Anthropic mengakui bahwa tidak adanya watermark bukan berarti konten tersebut tidak dihasilkan oleh AI, dan bahwa keberadaan watermark bukanlah bukti konklusif mengenai kepengarangan sebenarnya.
Perusahaan telah menetapkan bahwa watermark berlaku untuk semua model yang dirilis sejak 2 Agustus, dan model-model sebelumnya akan menerima pembaruan secara bertahap. Langkah ini bersifat global, bukan hanya untuk Eropa , dan memengaruhi semua produk Claude, termasuk API, Claude Code, Claude Cowork, dan platform pihak ketiga seperti infrastruktur AWS , Google Cloud, dan Microsoft Foundry. Namun, deteksi publik belum tersedia: Anthropic telah mengumumkan bahwa mereka akan merilis alat dalam beberapa minggu ke depan sehingga pengguna dan pihak ketiga dapat memeriksa apakah suatu teks mengandung watermark.
Keterbatasan signifikan lainnya adalah bahwa watermark tersebut tidak mengidentifikasi pengguna atau percakapan aslinya. Watermark tersebut juga gagal membedakan apakah teks tersebut dibuat dari awal atau apakah Claude hanya membantu mengoreksi, menerjemahkan, atau meringkas konten yang sudah ada. Hal ini menuai kritik, karena peraturan Eropa secara eksplisit mengecualikan tugas pengeditan standar, namun Anthropic menerapkan watermark tersebut untuk semua penggunaan. Terlepas dari kekurangan-kekurangan ini, langkah ini merupakan kemajuan dalam memerangi disinformasi dan penyalahgunaan AI.
Keputusan Anthropic merupakan bagian dari gerakan industri yang lebih luas. OpenAI, Google, Meta, Microsoft, dan Mistral juga telah menandatangani Kode Transparansi dan menerapkan sistem serupa. Namun, kurangnya standar yang ter统一 dan keterbatasan teknis berarti deteksi tidak sempurna. Misalnya, mengambil tangkapan layar gambar dapat menghapus metadata C2PA, dan menulis ulang teks sepenuhnya dapat menghapus watermark.
Dalam lingkungan pendidikan dan profesional, alat penandaan ini dapat berguna untuk mengidentifikasi karya yang dihasilkan AI, tetapi para ahli memperingatkan bahwa ini bukanlah solusi definitif. Anthropic sendiri menekankan bahwa penandaan tersebut bukanlah bukti kepemilikan karya, melainkan indikasi probabilitas. Seiring perkembangan teknologi, kita kemungkinan akan melihat sistem yang lebih canggih, tetapi untuk saat ini, transparansi masih menjadi tantangan.
Singkatnya, penambahan watermark tak terlihat di Claude merupakan langkah penting menuju kepatuhan terhadap peraturan Eropa dan memberikan pengguna lebih banyak informasi tentang asal usul konten. Meskipun sistem ini memiliki keterbatasan, ini merupakan langkah signifikan ke arah yang benar. Komunitas teknologi akan mengamati dengan cermat alat deteksi yang dijanjikan Anthropic untuk segera diluncurkan, serta bagaimana perusahaan lain beradaptasi dengan realitas baru ini.