De bygger fremtiden — nu advarer de mod tempoet

To af de mest markante selskaber i den globale AI-udvikling sender nu et opsigtsvækkende signal til den amerikanske regering: Udviklingen af kunstig intelligens kan få brug for en kontrolleret bremse.

OpenAI og Anthropic har støttet brevet “Pacing the Frontier”, som er underskrevet af ansatte i frontier-AI-selskaber. Brevet handler ikke om at stoppe kunstig intelligens her og nu. Det handler om at skabe tekniske og styringsmæssige værktøjer, der kan gøre det muligt at sænke tempoet, hvis udviklingen af automatiseret AI-udvikling accelererer for voldsomt.

Det beder brevet om

Brevet peger på en konkret bekymring: Ledende AI-selskaber mener, at de kan være tæt på at automatisere dele af AI-forskningen. Hvis AI-systemer i stigende grad kan hjælpe med at udvikle mere avancerede AI-systemer, kan hastigheden i udviklingen blive vanskeligere at forstå og kontrollere.

Derfor beder underskriverne den amerikanske regering om at støtte en international indsats. Målet er ikke en ensidig pause, men en mulighed for koordineret handling, hvis tempoet bliver for højt.

Ifølge WashingtonPost “støttede rivalerne et brev underskrevet af ansatte i AI-virksomheder, som bad om internationalt diplomati for at sænke udviklingen af teknologien, hvis den bliver for hurtig.”

Hvorfor OpenAI og Anthropic gør sagen større

Det usædvanlige er, at opbakningen kommer fra virksomheder, der selv er centrale i AI-kapløbet. OpenAI og Anthropic er ikke udenforstående kritikere. De er blandt de aktører, der udvikler de systemer, debatten handler om.

Det gør brevet til mere end endnu en advarsel om kunstig intelligens. Det viser, at bekymringen for tempoet også findes inde i branchen selv.

Samtidig er der en vigtig forskel på at advare og at sætte farten ned. Brevet betyder ikke, at selskaberne stopper deres egen udvikling. Det betyder, at de støtter idéen om, at verden bør have værktøjer klar, hvis udviklingen bliver så hurtig, at samfund, myndigheder og forskere ikke kan følge med.

Skepsis omkring motiverne

Sagen rummer også en tydelig dobbelthed. Når store teknologivirksomheder bakker op om mere styring, vil nogle se det som ansvarlighed. Andre vil se det som et forsøg på at forme reglerne, før mindre konkurrenter får samme muligheder.

Den skepsis er relevant. En international model for at styre tempoet i AI vil kunne få stor betydning for, hvem der kan udvikle de mest avancerede systemer, og på hvilke vilkår.

Spørgsmålet er, hvem der kan bremse

AI-debatten handler derfor ikke kun om, hvor hurtigt teknologien kan udvikles. Den handler også om, hvem der får mulighed for at sætte grænser, hvis udviklingen accelererer.

OpenAI og Anthropic bygger fortsat fremtiden. Men med støtten til brevet anerkender de også et mere ubehageligt spørgsmål: Hvad gør man, hvis fremtiden kommer hurtigere, end samfundet kan nå at håndtere?

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.