Ada Ancaman AI, Surat Terbuka ini Bahas Prinsip-prinsipnya

FTNews -  Sebuah surat terbuka beredar di internet yang mengungkapkan bahaya teknologi artificial intelligence (AI) yang dapat mengancam keberadaan manusia. Pasalnya, banyak potensi-potensi ancaman yang akan muncul seperti ketidaksetaraan, manipulasi, dan misinformasi. Tidak hanya itu, surat terbuka ini juga mengatakan ancaman AI yang tidak terkontrol dapat menyebabkan kepunahan manusia.

“Perusahaan AI sendiri sudah mengetahui akan risiko ini. Begitu pula dengan pemerintahan di seluruh dunia dan para ahli AI,” tulis dalam surat terbuka tersebut.

Surat yang ditadangani oleh 13 orang mantan dan karyawan dari OpenAI dan Google DeepMind ini ingin pemerintah melakukan pengawasan yang efektif kepada teknologi ini. Sebabnya, mereka merasa perusahaan-perusahaan pengembang AI ini tidak akan melakukan transparansi kepada pemerintah maupun masyarakat. Karena, belum adanya aturan yang mengikat agar mereka melakukan hal tersebut.

Baca Juga: Hati-hati! Virus Brokewell Bisa Kuras Rekening

Ke-13 orang ini bersedia mempertanggungjawabkan hal tersebut kepada publik. Namun, mereka terikat dengan perjanjian kerahasiaan yang membungkam mulut mereka dari membeberkan fakta.Mereka merasa belum cukup aman dengan perlindungan pelapor yang saat ini sudah ada.

Lima Prinsip yang Harus Dipatuhi

Ilustrasi artificial intelligence (AI). Foto: canva

Baca Juga: Bocah Temukan Bebek Karet di Pantai, Bukti Kejahatan Lingkungan

Oleh sebab itu, menanggapi ancaman AI, dalam surat terbuka mereka hanya bisa memberi saran bagi perusahaan-perusahaan AI untuk mengikuti prinsip-prinsip. Berikut prinsip-prinsip tersebut.

1. Perusahaan tidak akan mengadakan atau menegakkan perjanjian apa pun yang melarang kritik terhadap perusahaan karena kekhawatiran terkait risiko. Juga, membalas kritik terkait risiko dengan menghalangi keuntungan ekonomi apa pun.
2. Bahwa perusahaan akan memfasilitasi proses anonim yang dapat diverifikasi bagi karyawan saat ini dan mantan karyawan untuk menyampaikan kekhawatiran. Terkait risiko kepada dewan direksi perusahaan, regulator, dan organisasi independen yang sesuai dengan keahlian yang relevan.
3. Bahwa perusahaan akan mendukung budaya kritik terbuka. Selain itu, mengizinkan karyawannya saat ini dan mantan karyawannya untuk menyampaikan kekhawatiran terkait risiko mengenai teknologinya kepada publik. Kepada dewan direksi perusahaan, kepada regulator, atau kepada organisasi independen yang sesuai dengan keahlian yang relevan. Selama, rahasia dagang dan kepentingan kekayaan intelektual lainnya terlindungi dengan baik.
4. Bahwa perusahaan tidak akan melakukan pembalasan terhadap karyawan saat ini dan mantan karyawan. Yang secara publik menyebarkan informasi rahasia terkait risiko setelah proses lainnya gagal.