Surat Terbuka yang Mengingatkan akan Ancaman AI

FTNews - Teknologi artificial intelligence atau (AI) semakin berkembang dengan sangat pesat. Meskipun teknologi ini dapat membantu manusia dalam pekerjaannya, namun terdapat ancaman besar yang kerap membayanginya. Hal ini diperkuat dengan sebuah surat terbuka yang membahas mengenai ancaman AI yang ditandatangani oleh mantan dan karyawan OpenAI dan Google DeepMind.

Sebanyak 13 orang menyetujui akan adanya potensi ancaman AI pada manusia. Ancaman-ancaman tersebut mulai dari hadirnya ketidaksetaraan, manipulasi, dan informasi palsu. Bahkan, juga potensi kehilangan kontrol teknologi AI yang dapat menyebabkan manusia bertemu dengan kepunahannya.

“Perusahaan AI sendiri sudah mengetahui akan risiko ini. Begitu pula dengan pemerintahan di seluruh dunia dan para ahli AI,” tulis mereka dalam surat terbuka tersebut.

Baca Juga: Hati-hati! Virus Brokewell Bisa Kuras Rekening

Mereka berharap bahwa komunitas ilmiah, pembuat kebijakan, dan masyarakat publik dapat memitigasi hal tersebut. Dengan cara, membuat aturan yang benar-benar mengatur penggunaan teknologi tersebut.

Akan tetapi, mereka menganggap bahwa perusahaan AI memiliki insentif finansial untuk menghindari pengawasan yang efektif. Para mantan dan karyawan yang menandatangani surat terbuka ini tidak percaya bahwa pemerintah dapat menyelesaikan permasalah tersebut.

Tidak Transparan

Baca Juga: Bocah Temukan Bebek Karet di Pantai, Bukti Kejahatan Lingkungan

Ilustrasi artificial intelligence (AI). Foto: canva

Perusahaan AI memiliki informasi non-publik yang substansial. Mengenai kemampuan dan keterbatasan sistem mereka, kecukupan dalam tindakan perlindungan mereka, dan tingkat risiko dari bermacam-macam bahaya.

Namun, mereka merasa “tidak perlu” untuk melakukan transparansi akan hal tersebut kepada pemerintah ataupun masyarakat. Hal tersebut karena belum adanya peraturan yang mengikat mereka untuk melakukan hal tersebut. Selain itu, para penanda tangan surat ini merasa perusahaan-perusahaan tersebut tidak akan melakukan transparansi secara sukarela.

Mereka beranggapan bahwa selama ini belum ada pengawasan yang efektif dari pemerintah. Oleh sebab itu, para mantan dan karyawan yang menandatangani surat terbuka tentang ancaman AI ini bersedia mempertanggungjawabkan hal tersebut kepada publik.

Tetapi, terdapat perjanjian kerahasiaan yang menghalangi mereka untuk membukasuaranya. Mereka menganggap perlindungan pelapor biasa tidaklah cukup aman untuk mengungkapkan aktivitas ilegal di perusahaan-perusahaan pengembang AI. Pasalnya, banyak risiko yang harus mereka pikirkan yang belum teregulasikan.