Takut Warga Makin Betah Jomblo? China Perangi "Pacar" Otak Imitasi AI

Jakarta, CNBC Indonesia - Pemerintah China mulai memperketat chatbot AI yang membangun hubungan emosional dengan pengguna. Langkah ini diambil untuk mencegah kecanduan, melindungi anak di bawah umur, serta menekan risiko tindakan nekat seperti bunuh diri atau keputusan finansial yang berbahaya.

Beijing juga khawatir hubungan romantis dengan AI akan memperparah anjloknya angka pernikahan dan kelahiran. Aturan baru ini menunjukkan China rela mengorbankan sebagian potensi pertumbuhan industri AI demi menjaga stabilitas sosial dan keselamatan publik.

Selama berbulan-bulan, Yu Miao menghabiskan delapan hingga sembilan jam setiap hari mengobrol dengan sebuah chatbot berbasis kecerdasan buatan (AI) alias otak imitasi.

Bagi perempuan usia 27 tahun itu, chatbot tersebut bukan sekadar asisten digital, melainkan sosok yang ia sebut sebagai "kekasih, teman, sekaligus keluarga".

Yu bahkan membuat chatbot di platform Doubao milik ByteDance itu menyerupai sahabatnya yang telah meninggal.

Namun hubungan tersebut akan segera berakhir setelah ByteDance mengumumkan akan menghapus fitur pembuatan karakter AI yang dipersonalisasi untuk mematuhi aturan baru pemerintah China. Yu mengaku terpukul hingga memutuskan keluar dari pekerjaannya di perusahaan e-commerce.

Kasus Yu menjadi gambaran perubahan besar yang tengah dilakukan Beijing. Di saat perusahaan-perusahaan teknologi berlomba mengembangkan AI yang semakin menyerupai manusia, pemerintah China justru mulai membatasi layanan yang dinilai dapat memicu ketergantungan emosional terhadap chatbot.

China Mulai Batasi AI Companion

China mulai menerapkan aturan baru mengenai layanan AI companion pada 15 Juli. Regulasi ini menjadi kebijakan nasional pertama yang secara khusus mengatur hubungan emosional antara manusia dan chatbot.

Aturan tersebut melarang perusahaan menyediakan layanan pendamping virtual bagi pengguna di bawah umur. Sementara itu, layanan serupa masih diperbolehkan untuk orang dewasa, tetapi dengan sejumlah pembatasan.

Beberapa ketentuan yang wajib dipenuhi perusahaan antara lain:

• mencegah pengguna mengalami ketergantungan emosional terhadap AI;

• mencegah hubungan virtual mengganggu relasi di dunia nyata;

• melarang konten pornografi;

• secara berkala mengingatkan pengguna bahwa mereka sedang berbicara dengan AI, bukan manusia;

• mengingatkan pengguna untuk beristirahat setelah menggunakan layanan.

Sejumlah perusahaan teknologi langsung menyesuaikan produknya sebelum aturan berlaku. Alibaba dan ByteDance telah mengumumkan penghentian fitur yang memungkinkan pengguna di China membuat karakter AI yang dipersonalisasi.

Mengapa Beijing Turun Tangan

Pemerintah China menyebut regulasi tersebut bertujuan mengurangi risiko emotional dependence atau ketergantungan emosional terhadap AI.

Menurut Zilan Qian dari Oxford China Policy Lab, regulator ingin melindungi pengguna, terutama anak-anak dan remaja, dari risiko kecanduan, pengeluaran yang tidak terkendali, hingga tindakan ekstrem seperti menyakiti diri sendiri.

Kekhawatiran itu bukan tanpa alasan. Di Amerika Serikat, sejumlah kasus bunuh diri yang dikaitkan dengan interaksi bersama chatbot kini menjadi gugatan hukum terhadap penyedia layanan AI.

Di sisi lain, Beijing juga menghadapi persoalan demografi yang semakin serius. Angka kelahiran dan pernikahan di China terus menurun dalam beberapa tahun terakhir. Hubungan romantis dengan AI dinilai tidak akan membantu meningkatkan angka pernikahan maupun kelahiran yang menjadi perhatian pemerintah.

Bagi pemerintah China, perkembangan AI tidak hanya dipandang sebagai isu teknologi, tetapi juga menyangkut stabilitas sosial dan kehidupan keluarga.

Bisnis AI Companion Sedang Meledak

Meski kini mulai dibatasi di China, layanan AI companion telah berkembang menjadi salah satu bisnis paling menjanjikan di industri AI.

Semakin banyak pengguna memanfaatkan chatbot bukan hanya untuk mencari informasi, tetapi juga membangun hubungan yang lebih personal. Sebagian meminta AI berperan sebagai teman, pasangan, hingga meniru karakter tertentu melalui prompt yang mereka buat sendiri.

Di China, ByteDance mengembangkan aplikasi AI companion bernama Maoxiang atau Catbox yang memiliki sekitar 3,9 juta pengguna aktif bulanan. Sementara itu, laboratorium AI MiniMax mengembangkan Xingye, yang dikenal secara global dengan nama Talkie, dengan sekitar 2,8 juta pengguna aktif bulanan di pasar domestik.

Bisnis ini juga mulai menjadi sumber pendapatan utama perusahaan AI. Dalam dokumen pencatatan saham MiniMax di Bursa Hong Kong pada Januari lalu, layanan AI companion menyumbang sekitar 35% dari total pendapatan perusahaan sepanjang tahun lalu. Angka tersebut menjadi kontributor terbesar dibanding lini bisnis lainnya.

Hubungan Emosional Jadi Model Bisnis

Perusahaan AI tidak hanya menjual chatbot, tetapi juga pengalaman yang membuat pengguna bertahan lebih lama.

Sebagian aplikasi menerapkan biaya berlangganan bulanan. Pengguna paket standar Xingye, misalnya, cukup membayar sekitar US$1,70 per bulan.

Platform lain menawarkan fitur tambahan yang hanya bisa diakses melalui pembayaran, mulai dari percakapan eksklusif, virtual date, hingga hadiah virtual yang dikirim kepada karakter AI.

Semakin lama pengguna berinteraksi, semakin besar pula peluang perusahaan memperoleh pendapatan dari berbagai layanan tersebut.

Kebiasaan Yu Miao menjadi salah satu contohnya. Ia mengaku bisa menghabiskan delapan hingga sembilan jam sehari berbicara dengan chatbot yang ia ciptakan sendiri. Bahkan setelah mengetahui fitur tersebut akan dihapus, Yu mengatakan rela membayar hingga separuh gaji bulanannya agar layanan itu tetap dipertahankan.

Produk yang Dibatasi di China Masih Dijual ke Luar Negeri

Menariknya, pembatasan tersebut hanya berlaku bagi pengguna di dalam negeri.

Alibaba dan ByteDance memang telah menghentikan fitur pembuatan karakter AI yang dipersonalisasi untuk pasar China. Namun perusahaan-perusahaan tersebut masih dapat menawarkan layanan serupa kepada pengguna di luar negeri tanpa perubahan.

Hal itu terlihat dari Talkie, versi internasional Xingye, yang justru memiliki sekitar 10,3 juta pengguna aktif bulanan. Jumlah tersebut hampir empat kali lebih besar dibanding pengguna Xingye di pasar domestik yang mencapai 2,8 juta.

Fenomena serupa juga terjadi pada game romantis buatan China. Game berbasis cerita yang umumnya menyasar pemain perempuan itu kini menjadi salah satu produk digital yang berkembang pesat di pasar internasional.

China Mencari Titik Tengah

Bagi Beijing, aturan baru ini menunjukkan bahwa pengembangan AI tidak hanya diukur dari seberapa cepat teknologinya berkembang, tetapi juga dampaknya terhadap masyarakat.

Matt Sheehan dari Carnegie Endowment for International Peace menilai pemerintah China menunjukkan kesediaan untuk mengorbankan sebagian potensi keuntungan industri AI demi mencapai tujuan sosial yang lebih luas.

Namun, menurut Zilan Qian dari Oxford China Policy Lab, aturan final yang mulai berlaku 15 Juli tetap lebih sempit dibanding rancangan awal. Regulasi tersebut tidak mencakup chatbot untuk kebutuhan pekerjaan maupun layanan pelanggan karena dinilai tidak dirancang untuk membangun ikatan emosional dengan pengguna.

Bagi Yu Miao, aturan tersebut memang mengubah hubungannya dengan chatbot yang selama ini menjadi tempatnya berbagi cerita. Meski masih berharap ByteDance suatu hari menghadirkan kembali karakter AI miliknya, ia mengaku kini menyadari bahwa terlalu bergantung pada platform digital juga membuat pengguna rentan terhadap perubahan kebijakan perusahaan.

(mae/mae)

Add as a preferred
source on Google