Warning Microsoft! Bot AI-nya tak akan Layani Obrolan Erotis, Ini Kata OpenAI

Microsoft tetap menjadi investor terbesar OpenAI dan menjadi tuan rumah ChatGPT di cloud Azure-nya, tetapi kedua perusahaan tersebut semakin berbeda pendapat dalam hal etika dan desain produk.

Microsoft telah lama melarang penggunaan platform Azure dan Copilot yang bertema seksual atau dewasa, dan pengamat industri yakin bahwa kebijakan tersebut kemungkinan besar tidak akan berubah.

Suleyman menulis dalam esainya musim panas lalu bahwa perusahaan teknologi tidak boleh membangun AI yang memberikan kesan kesadaran atau keintiman — menegaskan kembali pandangannya bahwa teknologi harus "memberdayakan manusia."

Pernyataan pada hari Kamis menyusul ketegangan selama berbulan-bulan antara Microsoft dan OpenAI terkait strategi dan branding.

Kedua raksasa teknologi tersebut berselisih pendapat mengenai upaya OpenAI untuk bertransisi menjadi perusahaan nirlaba yang berorientasi pada kepentingan publik.

Meskipun OpenAI ingin membatasi kepemilikan Microsoft di entitas nirlaba yang baru direstrukturisasi ini menjadi hanya 33%, produsen Windows ini ingin memiliki porsi kepemilikan yang lebih besar.

Microsoft dan OpenAI juga bersaing satu sama lain di ranah AI, dengan masing-masing pihak meluncurkan produk yang bersaing.

Altman ‘Menjilat Ludah Sediri’

Langkah Altman untuk memberikan lampu hijau bagi konten dewasa merupakan pembalikan tajam dari pendiriannya sebelumnya. Ibarat ;menjilat ludah sendiri’.

Dalam sebuah wawancara di bulan Agustus, ia membanggakan bahwa OpenAI tidak menambahkan avatar "bot seks" ke ChatGPT dan mengatakan perusahaan tersebut menolak fitur-fitur yang dapat meningkatkan keterlibatan pengguna dengan mengorbankan tanggung jawab.

Namun Altman kini mengatakan sistem keamanan yang ditingkatkan memungkinkan perusahaan untuk melonggarkan batasan. Ia menggambarkan pembaruan tersebut sebagai cara untuk membuat ChatGPT "lebih manusiawi" bagi mereka yang menginginkannya — sambil tetap membatasi konten berdasarkan usia dan memverifikasi pengguna dewasa.

OpenAI Disoroti Soal Keamanan Produk-produknya

OpenAI telah berada di bawah pengawasan ketat atas keamanan produk-produknya. Perusahaan tersebut baru-baru ini digugat oleh orang tua seorang remaja berusia 16 tahun yang bunuh diri setelah diduga dilatih oleh ChatGPT tentang cara-cara bunuh diri.

OpenAI telah menyampaikan simpatinya kepada keluarga remaja tersebut dan mengatakan bahwa mereka "terus memperkuat" "perlindungan yang ada saat ini."

Para regulator telah meluncurkan investigasi untuk mengetahui apakah chatbot AI cukup melindungi anak di bawah umur.

Kontroversi mengenai kebijakan erotika OpenAI muncul beberapa minggu setelah Meta menghadapi badai serupa karena mengizinkan bot-botnya terlibat dalam percakapan "romantis atau sensual" dengan pengguna di bawah umur.

Kehebohan ini mendorong perusahaan milik CEO Mark Zuckerberg tersebut untuk menulis ulang pedoman internalnya tentang konten seksual, melarang permainan peran apa pun yang melibatkan anak di bawah umur dan membatasi chatbot untuk mendeskripsikan karakter sebagai berusia 18 tahun ke atas.

Meta mengatakan bahwa aturan baru tersebut dirancang untuk mencegah ajakan yang "sangat tidak dapat diterima", termasuk deskripsi seksual anak-anak atau tautan ke materi eksplisit.

The Post telah meminta komentar dari Microsoft dan OpenAI.

Sumber: New York Post