Warning Microsoft! Bot AI-nya tak akan Layani Obrolan Erotis, Ini Kata OpenAI

Para pengguna yang ingin berbicara nakal dengan bot kecerdasan buatan harus mencari tempat lain selain Microsoft. Penegasan itu disampaikan CEO AI Microsoft, Mustafa Suleyman. Ia menyebut perusahaan tidak akan menawarkan ‘erotika simulasi; melalui produk AI apa pun.

Pengumuman Mustafa Suleyman ini sangat kontras dengan mitra perusahaan, OpenAI, yang baru-baru ini mengatakan akan memungkinkan pengguna dewasa untuk terlibat dalam percakapan eksplisit dengan ChatGPT.

"Itu bukan layanan yang akan kami sediakan," tegas Suleyman tentang erotika AI pada hari Kamis di Paley International Council Summit di Menlo Park, California, dilansir New York Post.

Baca Juga: DeepSeek Luncurkan AI Bikin Gambar Janus Pro 7B, Diklaim Lebih Canggih dari OpenAI

"Perusahaan lain akan mengembangkannya."

Konten Seksual di ChatGPT Diluncurkan Desember

Berbeda dengan ChatGPT. Kepala OpenAI, Sam Altman, baru-baru ini mengumumkan rencana untuk "melonggarkan pembatasan secara aman" pada konten seksual di ChatGPT.

Baca Juga: Resmi Hadir, Microsoft Copilot Ada di Mac App Store, Ini Fitur-fiturnya!

Wanita cantik/Foto: Pixabay, pexels.com

Ia mengatakan pembaruan tersebut akan diluncurkan pada bulan Desember di bawah prinsip baru perusahaan, "perlakukan pengguna dewasa seperti orang dewasa".

Eksekutif tersebut mengatakan dalam sebuah postingan di X bahwa para insinyur telah "mengurangi masalah kesehatan mental yang serius" pada model-model sebelumnya dan akan "memungkinkan lebih banyak lagi, seperti erotika untuk orang dewasa yang terverifikasi."

Bot Antropomorfik

Suleyman, yang ikut mendirikan Google DeepMind dan Inflection AI sebelum bergabung dengan Microsoft pada bulan Maret, telah memperingatkan agar tidak membangun sistem yang mensimulasikan keintiman atau kesadaran.

Dalam sebuah esai di bulan Agustus berjudul "Kita harus membangun AI untuk manusia; bukan untuk menjadi manusia," ia memperingatkan bahwa bot antropomorfik dapat "menciptakan poros pemisah lain bagi umat manusia."

Pada hari Kamis, Suleyman mengatakan bahwa tren tersebut sudah muncul di dunia teknologi, mengutip perusahaan rintisan AI erotis dan platform pendamping yang mengaburkan batas antara hiburan dan keterikatan emosional.

"Anda sudah bisa melihatnya dengan beberapa avatar ini dan orang-orang yang condong ke arah erotika seperti bot seks," katanya.

"Ini sangat berbahaya, dan saya pikir kita harus membuat keputusan yang sadar untuk menghindari hal-hal semacam itu."

Perpecahan Microsoft – Open AI Makin Besar

Pesan-pesan yang saling bertentangan dari kedua perusahaan ini bisa jadi merupakan tanda terbaru dari perpecahan filosofis yang semakin besar di antara para mitra AI, yang aliansinya telah menopang ekspansi Microsoft senilai miliaran dolar ke dalam teknologi generatif sejak 2019.

ChatGPT/Foto: tangkap layar

Microsoft tetap menjadi investor terbesar OpenAI dan menjadi tuan rumah ChatGPT di cloud Azure-nya, tetapi kedua perusahaan tersebut semakin berbeda pendapat dalam hal etika dan desain produk.

Microsoft telah lama melarang penggunaan platform Azure dan Copilot yang bertema seksual atau dewasa, dan pengamat industri yakin bahwa kebijakan tersebut kemungkinan besar tidak akan berubah.

Suleyman menulis dalam esainya musim panas lalu bahwa perusahaan teknologi tidak boleh membangun AI yang memberikan kesan kesadaran atau keintiman — menegaskan kembali pandangannya bahwa teknologi harus "memberdayakan manusia."

Pernyataan pada hari Kamis menyusul ketegangan selama berbulan-bulan antara Microsoft dan OpenAI terkait strategi dan branding.

Kedua raksasa teknologi tersebut berselisih pendapat mengenai upaya OpenAI untuk bertransisi menjadi perusahaan nirlaba yang berorientasi pada kepentingan publik.

Meskipun OpenAI ingin membatasi kepemilikan Microsoft di entitas nirlaba yang baru direstrukturisasi ini menjadi hanya 33%, produsen Windows ini ingin memiliki porsi kepemilikan yang lebih besar.

Microsoft dan OpenAI juga bersaing satu sama lain di ranah AI, dengan masing-masing pihak meluncurkan produk yang bersaing.

Altman ‘Menjilat Ludah Sediri’

Langkah Altman untuk memberikan lampu hijau bagi konten dewasa merupakan pembalikan tajam dari pendiriannya sebelumnya. Ibarat ;menjilat ludah sendiri’.

Dalam sebuah wawancara di bulan Agustus, ia membanggakan bahwa OpenAI tidak menambahkan avatar "bot seks" ke ChatGPT dan mengatakan perusahaan tersebut menolak fitur-fitur yang dapat meningkatkan keterlibatan pengguna dengan mengorbankan tanggung jawab.

Namun Altman kini mengatakan sistem keamanan yang ditingkatkan memungkinkan perusahaan untuk melonggarkan batasan. Ia menggambarkan pembaruan tersebut sebagai cara untuk membuat ChatGPT "lebih manusiawi" bagi mereka yang menginginkannya — sambil tetap membatasi konten berdasarkan usia dan memverifikasi pengguna dewasa.

OpenAI Disoroti Soal Keamanan Produk-produknya

OpenAI telah berada di bawah pengawasan ketat atas keamanan produk-produknya. Perusahaan tersebut baru-baru ini digugat oleh orang tua seorang remaja berusia 16 tahun yang bunuh diri setelah diduga dilatih oleh ChatGPT tentang cara-cara bunuh diri.

OpenAI telah menyampaikan simpatinya kepada keluarga remaja tersebut dan mengatakan bahwa mereka "terus memperkuat" "perlindungan yang ada saat ini."

Para regulator telah meluncurkan investigasi untuk mengetahui apakah chatbot AI cukup melindungi anak di bawah umur.

Kontroversi mengenai kebijakan erotika OpenAI muncul beberapa minggu setelah Meta menghadapi badai serupa karena mengizinkan bot-botnya terlibat dalam percakapan "romantis atau sensual" dengan pengguna di bawah umur.

Kehebohan ini mendorong perusahaan milik CEO Mark Zuckerberg tersebut untuk menulis ulang pedoman internalnya tentang konten seksual, melarang permainan peran apa pun yang melibatkan anak di bawah umur dan membatasi chatbot untuk mendeskripsikan karakter sebagai berusia 18 tahun ke atas.

Meta mengatakan bahwa aturan baru tersebut dirancang untuk mencegah ajakan yang "sangat tidak dapat diterima", termasuk deskripsi seksual anak-anak atau tautan ke materi eksplisit.

The Post telah meminta komentar dari Microsoft dan OpenAI.

Sumber: New York Post