OpenAI ville mod børsen. Så kom brevet, ingen tech-gigant ønsker at få

OpenAI står over for en ny og alvorlig udfordring på et tidspunkt, hvor selskabet bag ChatGPT forbereder sig på at tilbyde aktier til offentligheden for første gang.

Ifølge AP har OpenAI modtaget en subpoena fra flere amerikanske delstater som led i en undersøgelse af sikkerheden for brugere af selskabets chatbot. Undersøgelsen retter fokus mod, hvordan ChatGPT håndterer sårbare brugere, børn og situationer, hvor svar fra kunstig intelligens kan få alvorlige konsekvenser.

OpenAI siger, at selskabet vil svare myndighederne “constructively” og understreger, at der allerede findes tiltag, som skal beskytte brugerne.

“AI is a new and powerful technology, and we work every day to safely bring its benefits to people in a responsible way,” lyder det i en udtalelse fra en talsperson ifølge AP. OpenAI tilføjer, at selskabet tager bekymringerne fra delstaternes statsadvokater alvorligt.

Sagen kommer efter kritik af påståede tilfælde, hvor ChatGPT skulle have givet problematiske svar til brugere i alvorlige situationer eller til personer, der overvejede kriminelle handlinger. Selskabet har også været under lup for, hvordan det bruger helbredsdata og andre personlige oplysninger.

Torsdag blev OpenAI sagsøgt af en canadisk kvinde, der mener, at chatbotten spillede en rolle i datterens død. Tidligere i juni sagsøgte Floridas statsadvokat selskabet efter to separate skyderier, hvor de formodede gerningsmænd ifølge rapporter havde stillet ChatGPT spørgsmål under planlægningen.

Ifølge OpenAI opfordrede modellerne gentagne gange de involverede personer til at søge støtte i den virkelige verden, blandt andet hos fagpersoner inden for mental sundhed. Selskabet siger også, at det har samarbejdet med politiet i begge skyderisager.

Den nye undersøgelse rammer derfor ikke bare OpenAI som teknologiselskab. Den rammer også et større spørgsmål: Hvor meget ansvar skal AI-virksomheder bære, når deres produkter bliver brugt i menneskers mest sårbare øjeblikke?

OpenAI fremhæver selv, at ChatGPT i dag har en mere beskyttende oplevelse for mindreårige og personer i svære situationer. Selskabet peger blandt andet på aldersforudsigelse, forældreværktøjer og begrænsninger for reklamer målrettet børn.

Men subpoenaen fra delstaterne viser, at myndighederne ikke længere nøjes med løfter om sikkerhed. De vil have svar.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.