TikToks nye AI-kurs kan ramme hundredvis af sikkerhedsjob i Dublin

TikTok står over for en ny omorganisering af sit sikkerhedsarbejde, og det kan få store konsekvenser for ansatte i Dublin.

Ifølge The Independent forventer TikTok at reducere antallet af stillinger i sit trust and safety-team i Dublin med omkring 300. Ændringen sker som led i en bredere satsning på AI og automatiserede systemer til moderation af indhold.

AI fylder mere i moderationen

TikToks trust and safety-arbejde handler blandt andet om at holde farligt og skadeligt indhold væk fra platformen. Det kan være indhold, der bryder platformens regler, eller materiale, som kræver vurdering af kontekst, sprog og skjulte signaler.

Ifølge TikTok blev 97 procent af det indhold, platformen fjernede mellem januar og april, taget ned af automatiserede teknologier. Platformen har også oplyst, at 99 procent af det indhold, som AI fjernede, blev taget ned, før nogen brugere havde rapporteret det.

TikTok beskriver ændringerne som en del af en proces, der skal “strengthen our global operating model for Trust and Safety”, skriver The Independent.

Medarbejdere har advaret om fejl

Selv om tallene viser, at automatisering allerede spiller en stor rolle, er der fortsat bekymring for, hvor præcist AI kan vurdere indhold i praksis.

Tidligere moderatorer har advaret om, at systemerne kan misforstå billeder, symboler og kommentarer. Det gælder især indhold, hvor brugere forsøger at omgå reglerne gennem emojis, slang eller skjulte koder.

Derfor handler sagen ikke kun om job i Dublin. Den handler også om, hvor meget ansvar sociale medier kan lægge over på automatiserede systemer.

En test for TikToks sikkerhedsmodel

TikTok modererer videoer efter sprog snarere end efter region. Derfor kan ændringer i et moderationsmiljø få betydning for brugere på tværs af markeder.

Samtidig er sociale medier under stigende pres for at beskytte børn og unge mod skadeligt indhold online. Det gør TikToks omorganisering særlig følsom.

For platformen bliver udfordringen at vise, at AI kan gøre moderationen hurtigere og mere effektiv, uden at brugerne bliver mere udsatte. Hvis teknologien overser kontekst eller fejlfortolker indhold, kan konsekvensen mærkes direkte i feedet.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.