Google DeepMind Luncurkan Tools untuk Beri Watermark ke Gambar yang Dihasilkan AI

Google DeepMind, divisi penelitian Artificial Intelligence (AI) Google, bekerja sama dengan Google Cloud untuk meluncurkan SynthID, sebuah alat untuk menandai dan mengidentifikasi gambar yang dihasilkan oleh AI. Namun, alat ini hanya dapat digunakan untuk gambar yang dihasilkan oleh model penggenerasi gambar Google, Imagen.

SynthID membenamkan watermark digital langsung ke piksel gambar, membuatnya sulit terlihat oleh mata manusia namun dapat terdeteksi oleh algoritma. Google sebelumnya mengatakan akan menyematkan metadata untuk menandakan media visual yang diciptakan oleh model AI generatif, namun SynthID melangkah lebih jauh.

“Meskipun AI generatif dapat membuka potensi kreatif yang besar, juga membawa risiko baru, seperti memungkinkan kreator menyebarkan informasi palsu – baik dengan sengaja maupun tidak,” tulis DeepMind dalam sebuah postingan blog.

Mampu mengidentifikasi konten yang dihasilkan oleh AI sangat penting untuk memberdayakan orang dengan pengetahuan tentang kapan mereka berinteraksi dengan media yang dihasilkan, dan untuk membantu mencegah penyebaran informasi yang salah.

Teknologi SynthID untuk beri watermark

SynthID dikembangkan oleh DeepMind dan disempurnakan bersama tim R&D Google, Google Research. Alat ini tetap berfungsi bahkan setelah gambar dimodifikasi, seperti menambahkan filter atau mengubah warna dan mengkompres gambar dengan tingkat tinggi. SynthID menggunakan dua model AI, satu untuk penandaan dan satu untuk identifikasi, yang dilatih bersama pada serangkaian gambar yang ‘beragam’.

DeepMind mengklaim bahwa SynthID tidak dapat mengidentifikasi gambar yang ditandai dengan keyakinan 100%. Namun, alat ini dapat membedakan antara gambar yang mungkin mengandung watermark dan gambar yang sangat mungkin mengandung watermark.

Meskipun peluncuran SynthID oleh Google DeepMind adalah langkah awal yang baik, masih ada skeptisisme tentang sejauh mana alat tersebut akan efektif dalam jangka panjang. Ben Zhao, profesor di Universitas Chicago, mengatakan bahwa “hampir tidak ada watermark yang terbukti tahan lama seiring waktu.”

Masa depan watermark pada AI

DeepMind mengatakan bahwa mereka sedang mempertimbangkan untuk menjadikan SynthID tersedia untuk pihak ketiga di masa depan. Namun, apakah pihak ketiga, terutama mereka yang mengembangkan generator gambar AI sumber terbuka, yang tidak memiliki banyak pengaman seperti generator yang dijaga oleh API, akan mengadopsi teknologi tersebut adalah hal lain yang perlu diperhatikan.

Sasha Luccioni, peneliti AI di startup Hugging Face, mengatakan bahwa keputusan Google untuk menjaga alat tersebut eksklusif berarti hanya Google yang dapat menanamkan dan mendeteksi watermark tersebut.

“Jika kamu menambahkan komponen watermark ke sistem penggenerasian gambar di seluruh papan, akan ada risiko yang lebih kecil terkait dengan penyalahgunaan seperti pornografi deepfake,” kata Luccioni.

Peluncuran SynthID adalah langkah positif menuju mengatasi penyebaran informasi palsu dan penyalahgunaan konten yang dihasilkan oleh tools kecerdasan buatan. Namun, masih ada jalan panjang yang harus ditempuh untuk mengembangkan alat yang benar-benar efektif dan diterima secara luas oleh industri teknologi.

Pengembangan berkelanjutan dan kolaborasi antar perusahaan teknologi besar dan pihak ketiga akan penting untuk mencapai tujuan ini.