Namun di balik kecanggihannya, teknologi ini juga memunculkan kekhawatiran baru, terutama terkait dampaknya terhadap anak-anak dan remaja. Pemerintah China bahkan mulai menyiapkan aturan ketat untuk membatasi penggunaan digital human, khususnya yang berpotensi menimbulkan kecanduan bagi anak.
Lalu, mengapa anak-anak bisa kecanduan teknologi AI seperti digital human?
Salah satu alasan utama anak-anak dapat menjadi sangat terikat dengan teknologi AI adalah karena interaksinya terasa sangat realistis.
Digital human dirancang dengan teknologi pemrosesan bahasa alami (Natural Language Processing/NLP), animasi wajah, hingga suara yang menyerupai manusia asli. Teknologi ini membuat pengguna merasa seperti berbicara dengan orang sungguhan.
Bagi anak-anak yang masih dalam tahap perkembangan sosial dan emosional, interaksi semacam ini bisa terasa sangat menarik. Mereka dapat berbicara kapan saja dengan karakter AI yang selalu merespons dengan ramah dan cepat.
Kondisi ini berpotensi menciptakan ketergantungan emosional, terutama jika anak lebih sering berinteraksi dengan AI dibandingkan dengan manusia di dunia nyata.
Faktor lain yang membuat anak-anak mudah kecanduan adalah desain teknologi AI itu sendiri. Banyak layanan digital dibuat agar pengguna terus kembali menggunakan platform tersebut.
Algoritma AI mampu mempelajari kebiasaan pengguna, termasuk topik yang disukai, cara berbicara, hingga pola interaksi. Dengan data tersebut, sistem kemudian menyesuaikan respons agar terasa semakin menarik bagi pengguna.
Pada anak-anak, mekanisme ini dapat memicu perilaku adiktif, karena mereka merasa selalu mendapatkan pengalaman yang menyenangkan saat berinteraksi dengan AI.
Hal inilah yang menjadi salah satu kekhawatiran utama pemerintah China dalam penggunaan digital human.
Para ahli juga mengingatkan bahwa interaksi dengan manusia virtual dapat memengaruhi perkembangan emosional anak.
Jika anak terlalu sering berinteraksi dengan karakter AI, mereka berpotensi mengembangkan ketergantungan emosional pada teknologi, bukan pada hubungan sosial di dunia nyata.
Dalam jangka panjang, kondisi ini dikhawatirkan dapat memengaruhi kemampuan anak dalam membangun hubungan sosial, empati, serta komunikasi dengan orang lain.
Karena itu, sejumlah negara mulai memperhatikan dampak psikologis teknologi AI terhadap generasi muda.
Menanggapi potensi risiko tersebut, Cyberspace Administration of China (CAC) mengusulkan regulasi baru yang mengatur penggunaan teknologi digital human.
Salah satu poin penting dalam aturan tersebut adalah larangan konten AI yang dapat membuat anak-anak kecanduan.
Selain itu, layanan digital human juga dilarang menyediakan interaksi yang dapat menimbulkan hubungan emosional atau romantis dengan pengguna di bawah usia 18 tahun.
Pemerintah China menilai langkah ini penting untuk melindungi kesehatan mental anak-anak di era teknologi AI yang berkembang sangat cepat.
Tidak hanya itu, aturan yang diusulkan juga mewajibkan setiap konten yang menggunakan manusia digital untuk menyertakan label yang jelas.
Label ini bertujuan agar pengguna mengetahui bahwa karakter yang mereka lihat merupakan avatar berbasis AI, bukan manusia sungguhan.
Transparansi tersebut dinilai penting untuk mencegah manipulasi informasi serta mengurangi risiko pengguna, terutama anak-anak, mempercayai karakter digital secara berlebihan.
Selain risiko kecanduan, pemerintah China juga menyoroti potensi penyalahgunaan teknologi manusia digital.
AI saat ini mampu meniru wajah dan suara seseorang dengan tingkat kemiripan yang sangat tinggi. Jika tidak diatur, teknologi ini bisa digunakan untuk membuat deepfake, penipuan digital, hingga manipulasi identitas.
Karena itu, regulasi juga melarang penggunaan data biometrik seperti wajah atau suara seseorang untuk membuat avatar digital tanpa izin.
Langkah ini bertujuan untuk melindungi privasi masyarakat sekaligus mencegah penyalahgunaan teknologi AI.
Langkah China memperketat aturan digital human sebenarnya bukan fenomena yang berdiri sendiri.
Di berbagai negara, pemerintah mulai menyadari bahwa perkembangan AI yang sangat cepat perlu diimbangi dengan regulasi yang melindungi masyarakat.
Uni Eropa misalnya telah memperkenalkan AI Act, sementara sejumlah negara lain mulai menyusun aturan terkait penggunaan deepfake dan chatbot AI.
Regulasi ini bertujuan memastikan teknologi AI tetap memberikan manfaat tanpa menimbulkan dampak sosial yang merugikan.
Di tengah pesatnya perkembangan teknologi AI, para pakar juga menekankan pentingnya peran orang tua dalam mengawasi penggunaan teknologi oleh anak.
Memberikan batasan waktu penggunaan perangkat digital, serta mengedukasi anak tentang teknologi AI, menjadi langkah penting untuk mencegah kecanduan digital.
Dengan pengawasan yang tepat, teknologi AI sebenarnya dapat menjadi alat yang bermanfaat untuk pendidikan dan kreativitas anak, bukan justru menjadi sumber ketergantungan baru.
Perkembangan teknologi digital memang tidak dapat dihindari. Namun dengan regulasi yang tepat dan kesadaran masyarakat, teknologi tersebut diharapkan tetap dapat dimanfaatkan secara sehat dan bertanggung jawab.
(WAS)