Badan Pengawas Meta Tanggapi Soal Penyalahgunaan “Deepfake”

FTNews - Deepfake merupakan sebuah program di mana para penggunannya dapat memanipulasi kemiripan seseorang secara digital.

Dengan bantuan artificial intelligence (AI), program ini dapat menjadi lebih mudah dan cepat dalam pembuatan konten visual maupun audionya.

Yang mengkhawatirkan, banyak orang yang menyoroti akan potensi-potensi dari penyalahgunaan Deepfake itu sendiri. Contohnya, Deepfake dapat menyebarkan berita palsu, revenge porn, penipuan finansial, dan masih banyak lainnya.

Baca Juga: Hati-hati! Virus Brokewell Bisa Kuras Rekening

Melihat potensi ini, badan pengawas perusahaan Meta mengeluarkan pendapat mereka mengenai teknologi ini.

Pasalnya, sudah terdapat dua insiden di mana unggahan hasil Deepfake selebriti tersebar luas di platform media sosial milik mereka, yaitu Facebook dan Instagram.

“Dewan (pengawas) memilih kasus-kasus ini untuk menilai apakah kebijakan Meta dan praktik penegakan hukumnya efektif dalam menangani citra eksplisit yang dihasilkan AI. Kasus ini sejalan dengan prioritas strategis gender Dewan,” tulis Dewan Pengawas Meta di dalam blognya.

Baca Juga: Bocah Temukan Bebek Karet di Pantai, Bukti Kejahatan Lingkungan

Kasus Deepfake di Platform Milik Meta

pornografi deepfake Ilustrasi deepfake. Foto: Rand

Yang pertama, adalah kasus di mana sebuah foto wanita telanjang buatan AI beredar di Instagram. Foto tersebut dibuat menggunakan AI dan terlihat mirip seperti seorang figur publik wanita di India.

Namun, unggahan ini tidak Meta gubris meskipun ada seorang pengguna melaporkan untuk menghapus unggahan tersebut. Hingga, pengguna tersebut melaporkan unggahan ini langsung ke dewan pengawas perusahaan.

Akhirnya, Meta mengakui kesalahan mereka dan langsung menghapus unggahan tersebut karena telah melanggar Standar Komunitas Penindasan dan Pelecehan.

Kasus yang kedua, adalah kasus di mana foto tak senonoh yang menyerupai seorang figur publik wanita asal Amerika Serikat di Facebook.

Dalam kasus ini, pengguna lain telah mengeposkan gambar ini. Oleh karena itu, Meta memutuskan untuk menghapus konten tersebut. 

Alasannya, gambar tersebut merupakan pelanggaran terhadap kebijakan Penindasan dan Pelecehan, khususnya untuk "photoshop atau gambar yang bersifat seksual dan menghina”.

Dewan pengawas akan menyarankan rekomendasi kebijakan kepada Meta. Mereka juga meminta pendapat dari publik apa yang dapat menjadi masukan dan saran kepada Meta.

Meskipun rekomendasi tidak bersifat mengikat, namun Meta harus tetap merespon rekomendasi kebijakan tersebut dalam 60 hari.