36 AI-bots afsløret på Telegram: Over en million bruger dem hver måned

På få minutter og uden særlige tekniske færdigheder kan brugere på Telegram fremstille falske seksuelle billeder af virkelige personer.

Det viser en ny undersøgelse fra Digitalt Ansvar, der i august identificerede 36 såkaldte nudify-bots på beskedtjenesten. Organisationen testede alle 36 med det samme AI-genererede billede af en tydeligt voksen kvinde.

Ifølge Digitalt Ansvar kunne samtlige bots efter organisationens vurdering producere et virkelighedstro falsk nøgenbillede på få minutter. Ingen af de undersøgte bots krævede dokumentation for samtykke fra personen på det uploadede billede.

Mindst en million månedlige brugere

Kortlægningen blev foretaget fra 10. til 20. august 2026 og er ifølge Digitalt Ansvar kun et øjebliksbillede, fordi bots løbende bliver lukket, skifter navn og genopstår.

25 af de 36 bots havde offentligt tilgængelige brugertal. Tilsammen havde de 1.063.701 månedlige brugere. Derfor kan undersøgelsen ikke fastslå det samlede antal brugere af alle 36 bots.

Botsene tilbød desuden forskellige muligheder for at manipulere personer ind i seksualiserede scenarier. I det mest omfattende tilfælde registrerede Digitalt Ansvar 165 forskellige videoscenarier hos én bot.

Ifølge organisationen viser udviklingen især, hvor lav den tekniske barriere er blevet.

– Kunstig intelligens er blevet så avanceret og lettilgængelig, at man nu kan udsætte hvem som helst for en digital seksuel krænkelse på få minutter. Det er som at være med i et afsnit af Black Mirror, siger Ask Hesby Holm, direktør i Digitalt Ansvar.

I Danmark er det strafbart uberettiget at fremstille manipuleret seksuelt materiale med en virkelig person. Det gælder ifølge pressemeddelelsen også, selv om materialet ikke efterfølgende bliver delt.

Telegram fjernede seks efter anmeldelser

Digitalt Ansvar anmeldte alle 36 bots til Telegram. 18 blev anmeldt for brud på Telegrams egne servicevilkår, mens yderligere 18 blev anmeldt som ulovligt indhold med henvisning til straffelovens § 264 e.

I perioden fra 20. til 31. august blev seks af de 36 bots fjernet, oplyser organisationen.

Digitalt Ansvar mener, at det viser utilstrækkelig håndhævelse fra Telegrams side.

– En ting er, at Telegram vender det blinde øje til, at de her bots florerer i hobetal på platformen, men at de ligefrem afviser at fjerne størstedelen af dem, når vi anmelder dem direkte til dem, det dokumenterer sort på hvidt, at det her kun handler om en ting, og det er manglende vilje, siger Ask Hesby Holm.

Udtalelsen er Digitalt Ansvars vurdering. Det fremlagte materiale indeholder ikke en kommentar fra Telegram til kritikken.

Apple og Google trækkes ind i betalingskæden

Undersøgelsen retter også opmærksomheden mod Apple og Google.

Telegram anvender den digitale valuta Telegram Stars. Digitalt Ansvar gennemførte test på både en iPhone og en Android-telefon og oplyser, at organisationen kunne købe Stars gennem henholdsvis Apples og Googles betalingssystemer og derefter bruge valutaen til betaling hos nudify-bots.

Når Stars købes gennem disse betalingssystemer, får Apple eller Google ifølge Digitalt Ansvar en del af betalingen. Organisationen kan dog ikke fastslå størrelsen, da Telegrams konkrete aftaler med selskaberne ikke er offentligt kendte.

Det står ifølge pressemeddelelsen i kontrast til, at både Apple og Google har regler imod nudify-apps i deres appbutikker.

– Apple og Google siger, at nudify-apps ikke hører hjemme i deres appstores. Alligevel gør de Telegram tilgængelig for millioner af brugere og tjener samtidig på, når brugere betaler for at fremstille manipulerede seksuelle overgreb. Det får deres forbud til at klinge hult, siger Ask Hesby Holm.

Også her er der tale om Digitalt Ansvars kritik. Det fremlagte materiale indeholder ikke svar fra Apple eller Google på organisationens vurdering.

Digitalt Ansvar anbefaler blandt andet, at Telegram aktivt begrænser udbredelsen af nudify-bots. Organisationen opfordrer samtidig Apple og Google til som minimum at forhindre køb af Telegram Stars gennem deres betalingssystemer, hvis valutaen kan anvendes til de pågældende tjenester.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.