Forældre kan snart få den besked, ingen ønsker fra Instagram

Tiltaget gælder for teenagere, der bruger konti med Instagrams forældreværktøjer slået til. Hvis en samtale med Meta AI indeholder signaler om selvskade eller selvmord, kan forældrene få en besked via Instagram eller sms.

Meta beskriver ændringen som en del af en bredere indsats for at reagere mere ansvarligt, når unge brugere taler med kunstig intelligens om følsomme og potentielt farlige emner.

Selskabet oplyser, at systemet er bygget til at identificere signaler udviklet sammen med eksperter. Det kan blandt andet være samtaler, hvor en teenager direkte eller indirekte henviser til at skade sig selv.

Meta siger ifølge The Independent “We understand how distressing these alerts may be for a parent to receive,”

For at mindske risikoen for fejl vil samtaler, der bliver markeret af AI-systemet, blive manuelt gennemgået. Alligevel lægger Meta op til, at virksomheden i tvivlstilfælde hellere vil kontakte forældre end risikere at overse en alvorlig situation.

Det betyder, at nogle forældre kan modtage advarsler, selv om der ikke nødvendigvis er reel fare. Meta vurderer dog, at det er det rigtige udgangspunkt i en funktion, der handler om børn og mulig akut mistrivsel.

Instagram har allerede værktøjer, der kan advare forældre, hvis et barn gentagne gange søger efter ord relateret til selvmord eller selvskade på kort tid. Den nye ændring flytter samme type årevågenhed ind i samtaler med Meta AI.

Samtidig arbejder Meta på værktøjer, der kan kontakte førstehjælpere, hvis en samtale med AI tyder på, at en person er i overhængende fare for at tage sit eget liv.

Nyheden placerer Instagram midt i en voksende debat om, hvor langt teknologiselskaber bør gå for at beskytte unge brugere, når kunstig intelligens bliver en stadig mere almindelig del af deres digitale hverdag.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.