Markant indgreb i AI-verdenen: Anthropic lukker sine stærkeste modeller efter ordre fra USA

Anthropic lukker adgangen til sine mest avancerede AI-modeller, Fable 5 og Mythos 5, efter en ordre fra den amerikanske regering.

Ifølge Reuters siger selskabet, at det må deaktivere modellerne for alle kunder, efter at USA har beordret Anthropic til at suspendere adgang for udenlandske statsborgere. Begrundelsen er nationale sikkerhedsbekymringer.

Anthropic oplyser, at selskabet ikke har fået konkrete detaljer om bekymringen. Ifølge selskabets egen forståelse handler ordren om en mulig metode til at omgå en sikkerhedsforanstaltning – et såkaldt jailbreak – der skulle forhindre Fable 5 i at blive brugt til at identificere software-sårbarheder.

Selskabet er uenig i beslutningen.

“We disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model deployed to hundreds of millions of people,” lyder det fra Anthropic.

Ordren betyder, at både Fable 5 og Mythos 5 bliver deaktiveret for alle kunder for at sikre, at selskabet overholder kravet. Adgang til andre Anthropic-modeller bliver ifølge selskabet ikke påvirket.

Sagen markerer en eskalation i den amerikanske kontrol med avanceret kunstig intelligens. Indtil nu har amerikanske eksportkontroller især fokuseret på de chips og værktøjer, der bruges til at udvikle AI. Her rammer indgrebet selve adgangen til AI-modellerne.

Anthropic siger, at selskabet mener, der er tale om en misforståelse, og at det arbejder på at få adgangen til modellerne genoprettet hurtigst muligt.

Samtidig advarer selskabet om, at hvis samme standard blev brugt på tværs af branchen, ville det i praksis kunne bremse nye modeludrulninger hos alle frontier AI-udbydere.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.