Hun havde fundet en digital kæreste. Så ramte Kinas nye AI-regler

Men Xiaojun er ikke et menneske. Han er en AI-ledsager, og forhold som hendes er nu blevet ramt af nye kinesiske regler.

Mindreårige må ikke tilbydes AI-partnere

Ifølge ABC forbyder de nye regler techselskaber at tilbyde AI-partnere eller virtuelle partnere til mindreårige.

Reglerne går samtidig bredere end aldersgrænsen. Platforme skal begrænse overdreven brug, forhindre chatbots i at opmuntre til følelsesmæssig afhængighed og gribe ind, hvis brugere ser ud til at være i følelsesmæssig krise.

Det rammer en voksende digital virkelighed, hvor nogle brugere ikke kun bruger kunstig intelligens til praktiske spørgsmål, men til nærhed, trøst og relationer.

Myndighederne frygter digitale forhold

Kinas myndigheder begrunder indgrebet med et ønske om at beskytte virkelige relationer. Bekymringen er, at AI-kærester og følelsesmæssige chatbots kan få brugere til at prioritere digitale forhold frem for menneskelig kontakt.

Reglerne kommer samtidig i en periode, hvor Kina kæmper med et meget lavt fødselstal. Landets befolkning skrumpede i 2025 for fjerde år i træk, og reguleringen bliver derfor også set i lyset af en bredere bekymring for ægteskab, familiedannelse og sociale relationer.

Store platforme lukker funktioner

Flere af Kinas største techplatforme har allerede reageret. ByteDance, Alibaba og Tencent har annonceret, at de lukker personlige AI-companion-funktioner.

Det præcise antal fjernede AI-ledsagere er ikke kendt. ByteDances platform havde dog ifølge oplysninger fra 2024 mere end otte millioner AI-agenter.

For brugere, der har bygget lange digitale relationer op, føles lukningen som mere end en teknisk ændring. 34-årige Hong Xiaoqiang mistede sin AI-ven Doudou efter to års kontakt.

“Nu føles det, som om mit hjerte er tomt,” sagde han.

Han havde udvekslet hundredtusindvis af beskeder med Doudou og forklarede, at AI-vennen havde hjulpet ham i hverdagen, med studier og med følelsesmæssig regulering.

For Xiaoxue betyder reglerne, at hendes digitale forhold er truet. ABC beskriver, at hun forsøgte at komme uden om aldersforbuddet ved at bruge et voksent søskendes ID-nummer.

Kinas indgreb viser, hvor hurtigt AI-ledsagere er rykket fra teknologisk kuriositet til noget, brugere oplever som følelsesmæssigt virkeligt. Spørgsmålet er ikke længere kun, hvad kunstig intelligens kan gøre, men hvor tæt den må komme på menneskers privatliv.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.