Sistem Pengenalan Wajah Buat Wanita Ini Trauma

FTNews - Pada hari itu, Sara (nama samaran), asal Inggris, hendak berbelanja di Home Bargains untuk membeli kebutuhannya. Saat memasuki toko tersebut, dengan sekejap pekerja di toko tersebut menghampirinya. Pekerja toko tersebut menuduh Sara sebagai seorang pencuri, setelah toko tersebut menggunakan sistem pengenalan wajah yang bernama Facewatch.

“Anda adalah pencuri. Anda harus keluar dari toko ini,” ucapnya saat mengulangi kata-kata penjaga toko tersebut, mengutip dari BBC.

Ia mengatakan bahwa mereka melakukan penggeledahan sebelum menuntun Sara keluar dari tokonya. Selain itu, mereka juga memberi tahu bahwa ia dilarang untuk memasuki semua toko yang menggunakan teknologi tersebut.

Baca Juga: Hati-hati! Virus Brokewell Bisa Kuras Rekening

“Saya hanya menangis dan menangis selama perjalanan pulang ke rumah. Hal tersebut membuat saya berpikir, ‘Akankah hidup saya akan tetap sama? Saya akan dilihat sebagai pencuri meskipun saya tidak pernah mencuri sebelumnya,’” ungkapnya.

Ternyata, sistem Facewatch ini salah menuduh orang hingga Sara menjadi korbannya. Selang beberapa waktu, Facewatch mengirimkan sebuah surat kepada Sara dan mengakui bahwa sistemnya mengalami sebuah kesalahan.

Perusahaan tersebut mengatakan bahwa teknologi tersebut dapat membantu untuk mencegah tindakan kriminal. Namun, saat BBC menanyakan soal kasus Sara, mereka menolak untuk berkomentar. Begitu pula dengan Home Bargains.

Baca Juga: Bocah Temukan Bebek Karet di Pantai, Bukti Kejahatan Lingkungan

Cara Kerja Facewatch

Ilustrasi sistem pengenalan wajah. Foto: canva

Sistem pengenalan wajah Facewatch bekerja dengan cara memeriksa wajah yang tertangkap di kamera CCTV bagi para pelanggannya. Mereka mengatakan bahwa hal tersebut khusus untuk setiap orang yang memasuki lokasi sang pelanggan mereka.

Lalu, data-data yang mereka dapatkan dari kamera CCTV, akan dicerna menggunakan teknologi artificial intelligence (AI). Sistem tersebut akan membandingkan data biometrik dari gambar tersebut dengan pusat data SOI atau subject of interest.

Jika terdapat kecocokan, maka sistem tersebut akan menandai tersangka. Lalu, dengan informasi tersebut, keputusan selanjutnya berada di tangan manusia.

Namun, jika sang tersangka tidak cocok, maka sistem akan menandakan orang tersebut dengan kategori “tidak cocok”. Lalu, data biometrik orang tersebut akan langsung dihapus.

Mengutip dari situsnya, terdapat tiga data yang dapat mereka ambil dari orang-orang sebagai berikut.

1. 1. SOI. Individu yang diduga melakukan tindakan melanggar hukum (dibuktikan dengan saksi pribadi atau CCTV) yang telah diunggah ke Facewatch oleh pelanggan ke pusat SOI.
   2. Member of the public. Individu yang memasuki dan menggunakan tempat yang dilindungi oleh Facewatch.
   3. General enquiries. Individu yang menghubungi kami melalui situs web Facewatch atau melalui telepon untuk informasi lebih lanjut.

Larangan di Uni Eropa

Ilustrasi peraturan yang mengatur AI. Foto: canva

Uni Eropa (EU) baru saja mengesahkan Undang-undang (UU) tentang AI. Dalam UU tersebut, mereka memasukan sistem ini ke dalam kategori penggunaan AI berisiko tinggi.

Mereka melarang penggunaan pengawasan biometrik atau sistem pengenalan wajah di ruang publik. Penggunaan sistem ini hanya dapat berlangsung dalam beberapa kasus tertentu. Seperti mencegah serangan teroris atau pencarian orang yang terduga melakukan tindak kriminal serius.

Melalui UU ini, EU berupaya untuk menekankan pentingnya kepercayaan, transparansi, dan akuntabilitas dari teknologi ini. Sehingga, potensi-potensi seperti misinformasi, berita bohong, ataupun permasalahan privasi dapat terjaga.

Penerapannya di Olimpiade Paris 2024

Ilustrasi pemantauan CCTV. Foto: Canva

EU mengijinkan tuan rumah dari Olimpiade Paris 2024, Perancis, untuk menggunakan fitur ini untuk menjaga keamanan selama kegiatan tersebut berlangsung. Pemerintah Perancis juga mengeluarkan izin pengintaian berbasis AI sejak tahun 2023 silam.

Namun, mereka tidak memperbolehkan penggunaan sistem ini untuk pengenalan wajah. Hal tersebut merupakan “garis merah” yang tidak boleh dilangkahi.

Mereka dapat menggunakan sistem ini hanya di dalam delapan peristiwa khusus. Yaitu kerumunan yang secara tiba-tiba, kerumunan orang yang sangat banyak, benda terlantar, kehadiran atau penggunaan senjata. Juga, orang yang terbaring, kebakaran, serta pelanggaran peraturan lalu lintas.