AI-advarsler tager fart: Nu presses politikere til at gribe ind

Advarslerne om superintelligent kunstig intelligens er rykket tættere på den politiske dagsorden i både Storbritannien og USA. Det sker efter flere markante udmeldinger fra forskere, politikere og personer tæt på AI-industrien, hvor risikoen for alvorlige katastrofer nu bliver brugt som argument for langt strammere kontrol med udviklingen.

Det skriver The Guardian, der blandt andet beskriver, hvordan britiske parlamentarikere i denne uge har drøftet risikoen ved AI-systemer, der kan overgå menneskelige evner. Samtidig er der lagt pres på regeringer for at koordinere internationalt om udviklingen af såkaldt kunstig superintelligens.

Et centralt punkt i debatten er en vurdering fra Evan Hubinger, der er alignment science lead hos Anthropic. Han har ifølge artiklen skrevet, at han mener, der er mere end 10 procents risiko for, at teknologien kan udslette menneskeheden inden for det næste årti. Det fremgår samtidig, at forudsigelserne for, hvornår kunstig superintelligens kan blive nået, varierer fra flere år til mere end et årti.

En opsigelse satte yderligere gang i debatten

Advarslerne blev forstærket af Jacob Coxon, en 28-årig forsker hos Anthropic og tidligere OpenAI, som har sagt op med kritik af begge selskaber. Han hævdede, at ingen af dem handlede ansvarligt, og at de ifølge ham var låst fast i et kapløb om at komme først.

Coxon formulerede kritikken skarpt og sagde, at selskaberne “spiller hasard med vores liv”.

Debatten rammer samtidig ind i et konkret politisk spor. I Storbritannien bakker lobbygruppen ControlAI op om et lovforslag fra Labour-politikeren Alex Sobel, der har til formål at forbyde skabelsen af kunstig superintelligens. Labour-politikeren Darren Jones har desuden skrevet til blandt andre premierministeren, FN og OECD med en opfordring til en multinational traktat om sikker og reguleret udvikling af superintelligens.

I USA har Bernie Sanders igen opfordret Kongressen til at regulere teknologien. Han henviser til en måling, der ifølge artiklen viser, at 81 procent af amerikanerne mener, at politikere bør handle på området.

Ikke alle ser samme katastrofebillede

Selv om de mest markante advarsler fylder meget, er der også tydelige forbehold blandt eksperterne. Dr. Andrew Rogoyski fra Surrey Institute for People-Centred AI vurderer, at de nuværende systemer slet ikke er i nærheden af menneskers alsidighed, endsige menneskers samlede evner. Han peger på muligheden for, at avanceret AI kan vise sig at være for dyrt og for lidt nyttigt til at fortsætte i den nuværende form.

Sandra Wachter, professor ved Oxford Internet Institute, afviser ifølge artiklen de rene “Terminator”-scenarier, men peger på andre konkrete risici: AI’s miljøpåvirkning, spredning af misinformation og tab af job. Dermed står debatten ikke kun mellem optimisme og dommedag, men også mellem forskellige vurderinger af, hvilke AI-risici der haster mest.

For politikere og virksomheder er spørgsmålet derfor ikke længere kun, om AI kan blive en banebrydende teknologi. Det er også, hvor hurtigt udviklingen bør gå, hvem der skal kontrollere den, og om de mest magtfulde modeller kan testes og reguleres, før de bliver taget i brug.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.