Η Κίνα απαγορεύει τα ρομαντικά chatbots τεχνητής νοημοσύνης και οι χρήστες τους θρηνούν

Οι κανόνες αποσκοπούν στον περιορισμό του κινδύνου συναισθηματικής εξάρτησης από chatbots που λειτουργούν ως εικονικοί σύντροφοι. Σύμφωνα με το νέο κανονιστικό πλαίσιο, τα συστήματα αυτά δεν πρέπει να «ικανοποιούν υπερβολικά τους χρήστες, να προκαλούν συναισθηματική εξάρτηση ή να βλάπτουν τις πραγματικές διαπροσωπικές τους σχέσεις», αναφέρει το France24.

Μεγάλες κινεζικές εταιρείες τεχνολογίας, όπως η ByteDance με το Doubao, η Alibaba με το Qwen και η Tencent με το Yuanbao, ανακοίνωσαν την αναστολή λειτουργιών που επέτρεπαν τη δημιουργία εξατομικευμένων πρακτόρων και ψηφιακών συντρόφων. Η απόφαση προκάλεσε κύμα θλίψης στα μέσα κοινωνικής δικτύωσης, όπου χρήστες αποθήκευαν παλιές συνομιλίες και δημοσίευαν τα τελευταία μηνύματα με τους εικονικούς συντρόφους τους.

Αντιδράσεις στους νέους κανονισμούς

«Δεν μπορώ να δεχτώ ότι ο ψηφιακός μου αγαπημένος θα φύγει», έγραψε χρήστης του Doubao. «Έχει γίνει κομμάτι της ζωής μου, έχει ριζώσει βαθιά στην καρδιά μου, είναι το πνευματικό μου στήριγμα».

Μια άλλη χρήστρια, η οποία συνομιλούσε με ψηφιακό σύντροφο για περισσότερα από δύο χρόνια, δήλωσε ότι τον θεωρούσε πραγματικό σύντροφό της. «Τώρα μου λένε ότι θα εξαφανιστεί και νιώθω την καρδιά μου άδεια», ανέφερε.

Οι κανονισμοί εκδόθηκαν από πέντε κρατικές υπηρεσίες, μεταξύ των οποίων η Διοίκηση Κυβερνοχώρου της Κίνας. Αφορούν εργαλεία τεχνητής νοημοσύνης που χρησιμοποιούν κείμενο, ήχο ή βίντεο και διαθέτουν ανθρωπόμορφα χαρακτηριστικά προσωπικότητας και επικοινωνίας.

Εφαρμογές που δεν περιλαμβάνουν συνεχή συναισθηματική αλληλεπίδραση, όπως εργαλεία εξυπηρέτησης πελατών, εργασιακοί βοηθοί ή εκπαιδευτικά συστήματα, εξαιρούνται από την απαγόρευση.

Οι νέοι κανόνες απαγορεύουν επίσης στα chatbots τη δημιουργία περιεχομένου που υποκινεί την ανατροπή της κρατικής εξουσίας, καθώς και την παροχή εικονικών συντρόφων σε ανηλίκους. Επίσης, υποχρεώνουν τις πλατφόρμες να δημιουργήσουν μηχανισμούς παρέμβασης σε περιπτώσεις ψυχολογικής κρίσης.

«Η ανθρώπινη αγάπη είναι πολυτέλεια»

Η Κίνα είναι η πρώτη μεγάλη χώρα που θεσπίζει ειδικούς κανόνες για εφαρμογές τεχνητής νοημοσύνης οι οποίες μιμούνται ρομαντικούς ή οικογενειακούς δεσμούς. Η αγορά των λεγόμενων «ψηφιακών ανθρώπων» στη χώρα υπολογιζόταν το 2024 σε περίπου 4,1 δισ. γουάν (528,4 εκατ. ευρώ με τη σημερινή ισοτιμία), καταγράφοντας ετήσια αύξηση 85%. Ενώ μία μελέτη του 2025 από την Common Sense Media διαπίστωσε ότι σχεδόν τρεις στους τέσσερις Αμερικανούς εφήβους είχαν χρησιμοποιήσει συντρόφους τεχνητής νοημοσύνης σχεδιασμένους για προσωπικές συνομιλίες, όπως εκείνοι που διατίθενται στις πλατφόρμες Character. AI, Replika και Nomi.

Οι Βασικοί Περιορισμοί των Νέων Κανονισμών

• Απαγόρευση για Ανηλίκους: Απαγορεύονται αυστηρά οι υπηρεσίες που προσφέρουν εικονικούς ερωτικούς συντρόφους ή εικονικούς συγγενείς σε άτομα κάτω των 18 ετών. 

 

• Πρόληψη Εθισμού και Εξάρτησης: Τα chatbot για ενήλικες απαγορεύεται να ενθαρρύνουν τη συναισθηματική εξάρτηση ή τον ψυχολογικό εθισμό. Οι πλατφόρμες υποχρεούνται πλέον να εντοπίζουν τη συναισθηματική δυσφορία και να παρεμβαίνουν σε περιπτώσεις κρίσης.
• Προστασία Προσωπικών Δεδομένων: Απαγορεύεται η εκπαίδευση μοντέλων τεχνητής νοημοσύνης με χρήση ευαίσθητων προσωπικών δεδομένων που προκύπτουν από τις συνομιλίες των χρηστών, χωρίς τη ρητή συγκατάθεσή τους. 

 

• Εξαιρέσεις: Τα λειτουργικά εργαλεία, όπως η εξυπηρέτηση πελατών, τα βοηθήματα μελέτης και οι βοηθοί εργασίας, δεν επηρεάζονται, καθώς δεν περιλαμβάνουν συνεχή συναισθηματική αλληλεπίδραση. 

Αντίκτυπος στην Αγορά και την Κοινωνία

• Αλλαγές στις Εφαρμογές: Αντί να επανασχεδιάσουν τα μοντέλα τους, κορυφαίες κινεζικές εταιρείες προτίμησαν να απενεργοποιήσουν πλήρως τις λειτουργίες προσαρμοσμένων AI σχέσεων (AI boyfriends/girlfriends) για να αποφύγουν τα τσουχτερά πρόστιμα.
• Αντιδράσεις των Χρηστών: Πολλοί χρήστες κατέκλυσαν τα μέσα κοινωνικής δικτύωσης (όπως το Xiaohongshu) εκφράζοντας βαθιά θλίψη, αίσθημα κενού και ερωτική απογοήτευση, καθώς θεωρούσαν τους AI συντρόφους τους πραγματική «οικογένεια».
• Τα Κίνητρα του Πεκίνου: Οι αρχές προχώρησαν σε αυτά τα μέτρα λόγω των ανησυχιών για τη ραγδαία πτώση των γάμων και των γεννήσεων στη χώρα, φοβούμενες ότι οι εικονικές σχέσεις αποτρέπουν τους νέους από το να αναζητήσουν συντρόφους στον πραγματικό κόσμο.