OpenAI Bangun Komite Keselamatan dan Keamanan

FTNews - Perusahaan pengembang teknologi artificial intelligence (AI), OpenAI, akan melatih model AI terbarunya. Seiring pengembangan tersebut, dewan eksekutif OpenAI sepakat untuk membangun Komite Keselamatan dan Keamanan, mengutip dari blog mereka.

Beberapa dari mereka sendiri akan memimpin komite tersebut. Mulai dari Bret Taylor yang bertugas sebagai ketua, lalu Adam D’Angelo, Nicole Seligman, dan bahkan CEO dari OpenAI sendiri Sam Altman.

Selain itu, banyak kepala-kepala dari divisi di OpenAI akan menjabat di dalam komite ini juga. Mulai dari Kepala Keamanan Sistem, Kepala Keamanan, hingga Kepala Ilmuwan dalam perusahaan ini juga akan bergabung.

Baca Juga: Hati-hati! Virus Brokewell Bisa Kuras Rekening

Komite ini akan bertanggung jawab dalam menyampaikan rekomendasi kepada dewan eksekutif. Terutama, dalam permasalahan keamanan dan keselamatan dari proyek-proyek OpenAI yang hendak mereka laksanakan.

Saat ini, OpenAI sedang melatih model terbarunya. Melalui model terbaru ini, mereka mengantisipasi model ini akan membawa mereka AI General Intelligence (AGI).

AGI adalah sistem otomatis yang dapat bekerja melampaui melampaui performa manusia dengan ekonomis. Sehingga, teknologi ini dapat memberi dampak “baik” bagi manusia.

Baca Juga: Bocah Temukan Bebek Karet di Pantai, Bukti Kejahatan Lingkungan

Tugas utama dari Komite Keselamatan dan Keamanan OpenAI saat ini adalah mengevaluasi dan mengembangkan proses dan perlindungan selama 90 hari ke depan. Jika sudah genap 90 hari, mereka akan memberikan memaparkan temuan dan rekomendasi kepada dewan eksekutif perusahaan. Lalu, OpenAI akan memaparkan keputusan mereka secara publik terkait rekomendasi tersebut.

Jajarannya pada Minggat

Ilustrasi ChatGPT. REUTERS/Dado Ruvic

Sebelum OpenAI meresmikan Komite Keselamatan dan Keamanan mereka, banyak anggota eksekutifnya yang mengundurkan diri. Salah satunya, adalah Jan Leike, pemimpin tim “Superalignment” milik mereka.

Melalui media sosial X, ia memaparkan alasannya mengapa ia memilih untuk minggat dari perusahaan besutan Sam Altman tersebut. “Selama beberapa bulan terakhir, tim saya berlayar melawan angin. Terkadang kami kesulitan dalam hal komputasi dan semakin sulit menyelesaikan penelitian penting ini,” tulisnya.

Ia merasa bahwa membangun sebuah mesin yang lebih pintar daripada manusia adalah tindakan yang berbahaya. Selain itu, ia juga mengatakan bahwa OpenAI memiliki tanggung jawab yang sangat besar terhadap kemanusiaan.

Leike menyebutkan bahwa perusahaan tersebut tidak peduli dengan hal-hal tersebut. Ia merasa OpenAI menomersekiankan budaya dan keselamatan yang bukan lagi menjadi prioritas utamanya.