Melalui Cyberspace Administration of China (CAC), pemerintah mengusulkan aturan baru yang mengatur pengembangan dan penggunaan manusia digital di internet. Salah satu poin utama dalam rancangan regulasi tersebut adalah larangan konten yang dapat membuat anak-anak kecanduan saat berinteraksi dengan karakter digital berbasis AI.
Langkah ini diambil seiring meningkatnya penggunaan teknologi manusia digital dalam berbagai sektor, mulai dari media sosial, layanan pelanggan, hiburan, hingga pemasaran digital.
Digital human adalah karakter virtual berbasis kecerdasan buatan yang dirancang untuk menyerupai manusia, baik dari segi wajah, suara, maupun cara berinteraksi.
Teknologi ini biasanya memanfaatkan kombinasi AI, animasi 3D, machine learning, dan pemrosesan bahasa alami (NLP) untuk menciptakan avatar digital yang dapat berbicara, menjawab pertanyaan, bahkan berinteraksi secara emosional dengan pengguna.
Dalam beberapa tahun terakhir, penggunaan manusia digital semakin populer. Banyak perusahaan teknologi dan platform digital memanfaatkan teknologi ini sebagai influencer virtual, presenter berita, host livestream, hingga asisten digital.
Namun di balik perkembangannya yang pesat, teknologi ini juga menimbulkan kekhawatiran, terutama terkait dampaknya terhadap anak-anak dan remaja.
Dalam rancangan aturan tersebut, pemerintah China secara tegas menyatakan bahwa layanan digital human tidak boleh menyediakan konten yang berpotensi membuat anak-anak kecanduan.
Selain itu, platform juga dilarang menghadirkan interaksi yang dapat menimbulkan ketergantungan emosional antara anak-anak dengan karakter AI.
Regulator menilai bahwa interaksi intensif dengan manusia virtual berpotensi memengaruhi kondisi psikologis anak jika tidak dikontrol dengan baik.
Karena itu, penyedia layanan digital diwajibkan menerapkan berbagai mekanisme perlindungan bagi pengguna di bawah usia 18 tahun.
Langkah ini merupakan bagian dari kebijakan yang lebih luas yang selama beberapa tahun terakhir diterapkan China untuk membatasi dampak negatif dunia digital terhadap generasi muda, termasuk regulasi terhadap game online dan media sosial.
Selain melarang konten yang berpotensi membuat anak kecanduan, aturan baru ini juga mengharuskan setiap konten yang menggunakan manusia digital untuk menampilkan label yang jelas.
Label tersebut bertujuan agar pengguna mengetahui bahwa karakter yang mereka lihat atau ajak berinteraksi merupakan avatar digital berbasis AI, bukan manusia sungguhan.
Kewajiban ini dinilai penting untuk mencegah manipulasi informasi dan menghindari kesalahpahaman di kalangan pengguna internet.
Dengan adanya label tersebut, diharapkan masyarakat dapat lebih kritis saat mengonsumsi konten digital yang menggunakan teknologi AI.
Regulasi ini juga menyoroti potensi penyalahgunaan data pribadi dalam pembuatan manusia digital.
Pemerintah China melarang penggunaan data biometrik, suara, atau wajah seseorang untuk membuat avatar digital tanpa izin yang sah dari pemilik data tersebut.
Aturan ini muncul karena teknologi AI saat ini mampu meniru wajah dan suara seseorang dengan tingkat kemiripan yang sangat tinggi.
Tanpa regulasi yang jelas, teknologi tersebut berpotensi disalahgunakan untuk membuat deepfake, penipuan digital, hingga manipulasi identitas.
Karena itu, penyedia layanan diwajibkan memastikan seluruh data yang digunakan dalam pembuatan manusia digital diperoleh secara legal dan dengan persetujuan pemiliknya.
Selain itu, manusia digital juga dilarang digunakan untuk melewati sistem verifikasi identitas pada platform digital.
Beberapa layanan online saat ini menggunakan sistem verifikasi wajah atau identitas untuk menjaga keamanan pengguna. Jika teknologi manusia digital digunakan untuk menipu sistem tersebut, maka risiko kejahatan siber bisa meningkat.
Aturan ini menjadi salah satu langkah pencegahan untuk memastikan teknologi AI tidak dimanfaatkan untuk aktivitas ilegal di dunia maya.
Regulasi manusia digital ini merupakan bagian dari strategi besar pemerintah China dalam mengawasi perkembangan teknologi kecerdasan buatan.
Di satu sisi, China dikenal sebagai salah satu negara yang sangat agresif dalam mengembangkan teknologi AI untuk mendukung transformasi ekonomi digital.
Namun di sisi lain, pemerintah juga berupaya memastikan teknologi tersebut berkembang secara aman, etis, dan tidak merugikan masyarakat.
Sejumlah regulasi sebelumnya juga telah diterapkan, seperti aturan terhadap algoritma rekomendasi, teknologi deep synthesis, hingga pembatasan penggunaan game online bagi anak-anak.
Para analis menilai langkah ini menunjukkan bahwa China ingin menjaga keseimbangan antara inovasi teknologi dan perlindungan sosial.
Langkah China tersebut juga mencerminkan tren global yang mulai muncul dalam beberapa tahun terakhir.
Seiring berkembangnya teknologi AI, banyak negara mulai menyusun regulasi untuk mengatur penggunaannya, termasuk terkait deepfake, chatbot AI, hingga avatar virtual.
Uni Eropa misalnya telah memperkenalkan AI Act, sementara sejumlah negara lain mulai merancang aturan yang mengatur transparansi penggunaan AI.
Dengan perkembangan teknologi yang semakin pesat, regulasi semacam ini dinilai penting untuk memastikan kecerdasan buatan dapat dimanfaatkan secara positif tanpa menimbulkan dampak sosial yang berbahaya.
Jika aturan ini resmi diberlakukan, maka perusahaan teknologi yang mengembangkan manusia digital di China akan diwajibkan mematuhi standar baru yang lebih ketat dalam melindungi pengguna, terutama anak-anak.
(WAS)
Tags
Teknologi