FTNews – OpenAI saat ini dalam misinya mengembangkan AI secerdas manusia. Namun, seorang karyawannya membocorkan bahwa OpenAI abaikan keselamatan dalam merilis produknya.
Seorang karyawan OpenAI membocorkan masalah keselamatan kepada kantor berita The Washington Post. Dia mengatakan, perusahaan terburu-buru merilis produk ChatGPT-4o tanpa memastikan keselamatannya.
“Mereka merencanakan pesta peluncuran setelahnya sebelum mengetahui apakah peluncuran sudah aman,” katanya.
@chatgpt YumGPT.
OpenAI abaikan keselamatan terus mendapat kecaman dari karyawannya sendiri. Kabar terbaru mengutip The Verge mengatakan bahwa sejumlah karyawan menandatangani surat terbuka yang menuntut praktik keselamatan lebih baik.
Surat terbuka ini merupakan imbas dari kepergian salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike sebagai peneliti utama mundur dari perusahaan.
Mundurnya Ilya Sutskever tidak secara tiba-tiba. Awal mula peristiwa ini ketika manajemen OpenAI memecat Sam Altman sebagai CEO. Penyebabnya, ia dianggap tidak transparan dalam komunikasi.
Tak lama kemudian, kondisi pun berbaik. Pemecatan Sam Altman ditentang karyawan OpenAI. Sam Altman kembali perusahaan, sementara manajemen yang memecatnya mundur dari jabatan.
Ketika Jan Leike mundur dari Open AI, dirinya mengunggah sebuah cuitan yang menyebut, “Selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan demi produk yang unggul,” tulisnya. Cuitan ini menguatkan tudingan OpenAI abaikan keselamatan.
Kepergiannya ini tak lama setelah perusahaan merilis ChatGPT-4o. Ide awal OpenAI adalah menyediakan model kecerdasan secara publik, tetapi tak dilakukan.
OpenAI beralasan membiarkan model kecerdasan yang sangat canggih tersebut diakses oleh siapapun dapat berpotensi merusak.
Informasi terbaru menyebut ChatGPT membuat skala kepintaran sendiri. Tujuannya, membantu semua tugas manusia yang bernilai ekonomis.
Skala Kepintaran OpenAI
Chatbot masa kini, seperti ChatGPT berada di level 1 dan memasuki level 2. Pada level ke-2 ini berarti sistem dapat memecahkan masalah dasar pada level seseorang dengan gelar PhD.
Pada Level 3 mengacu pada AI yang mampu mengambil tindakan atas nama pengguna. Lalu, level 4 melibatkan AI yang dapat menciptakan inovasi baru.
Pada level 5, chatbot mencapai puncak kepintarannya dan dinamakan AGI. OpenAI mendefinisikan AGI sebagai “sistem sangat otonom yang melampaui manusia dalam sebagian besar tugas yang bernilai ekonomis”.
OpenAI sendiri mengaku dalam misinya mencapai AGI. Dalam mencapai AGI, OpenAI memberi ruang pada lembaga lain untuk terlibat dalam penilaian ChatGPT.
ChatGPT sendiri masih jauh dari AGI. Dibutuhkan sumber daya komputasi yang mumpuni dan uang miliaran dolar untuk mencapainya.
Respon OpenAI
Setelah tudingan OpenAI abaikan keselamatan, Juru bicaranya, Lindsey Held mengatakan, peluncuran ChatGPT-4o “tidak mengabaikan” aspek keselamatan
Tetapi perwakilan perusahaan lain yang tidak disebutkan namanya mengakui bahwa jadwal tinjauan keselamatan dipadatkan menjadi satu minggu.
Menjawab tudingan ini, Open AI menjalankan kerja sama dengan Laboratorium Nasional Los Alamos.
Tujuannya, untuk mengeksplorasi bagaimana model AI tingkat lanjut, seperti GPT-4o, dapat membantu penelitian biosains dengan aman. Kerja sama ini membuahkan laporan standar keamanan OpenAI yang memadai.
Pengumuman yang berfokus pada keselamatan OpenAI tampaknya hanya sebagai upaya untuk membela diri.
Padahal hal yang terpenting adalah potensi dampak bagi masyarakat setelah perilisan ChatGPT-4o.
