WhatsApp tester ny AI-advarsel mod svindelbeskeder

WhatsApp er begyndt at teste en ny funktion, der skal advare brugere, hvis en besked fra en ukendt afsender ligner svindel.

Funktionen hedder “Scam Alert” og bruger kunstig intelligens til at vurdere beskeder fra personer, der ikke findes i brugerens kontaktliste. Det skriver ifølge Independent.

Når systemet vurderer, at en besked kan være mistænkelig, vises en advarsel i chatten. Den anden person i samtalen kan ikke se advarslen. Brugeren kan derefter vælge at blokere eller rapportere afsenderen – eller fortsætte samtalen.

AI-modellen kører på selve enheden

Ifølge Meta, der ejer WhatsApp, fungerer den nye løsning ved, at appen henter en maskinlæringsmodel ned på brugerens enhed. Det betyder, at selve analysen ikke kræver, at samtalen sendes videre til WhatsApp eller en tredjepart.

Independent beskriver, at værktøjet ser på “conversational structure and linguistic signals” for at vurdere, om en besked kan være del af et svindelforsøg.

Funktionen bliver ikke aktiveret automatisk. Brugerne skal selv slå den til, før den begynder at gennemgå relevante beskeder.

Bygger på tidligere rapporterede svindelsamtaler

Scam Alert-systemet er udviklet på baggrund af samtaler, som WhatsApp-brugere tidligere har rapporteret som mulige svindelforsøg. Disse eksempler bruges til at lære systemet at genkende mønstre, der kan minde om svindel.

Meta oplyser samtidig, at visse signaler deles anonymt med selskabet. Formålet er ifølge selskabet at kontrollere, at funktionen virker, og at holde den opdateret i takt med nye svindelmetoder.

Indtil videre er funktionen kun på vej ud i en begrænset betaversion til tidlige brugere. Selskabet vil stressteste systemet og har opfordret forskere til at lede efter fejl, før funktionen eventuelt bliver gjort tilgængelig for alle WhatsApp-brugere.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.