AI-angreb rammer Hugging Face: Selskabet svarede igen med sin egen AI

Selskabet oplyser, at hændelsen ramte dele af produktionsinfrastrukturen, og at angrebet blev drevet end-to-end af et autonomt AI-agent-system.

Hugging Face er en central platform for udviklere og forskere, der arbejder med AI-modeller, datasæt og værktøjer. Netop den type åbne infrastruktur blev en del af angrebsfladen.

Et datasæt blev indgangen

Ifølge Hugging Face begyndte angrebet i selskabets data-processing pipeline. Et ondsindet datasæt udnyttede to code-execution-veje i behandlingen af datasæt og kunne dermed køre kode på en processing worker.

Derfra eskalerede angriberen til node-niveau, høstede cloud- og cluster-credentials og bevægede sig lateralt ind i flere interne clusters over en weekend.

Hugging Face oplyser, at der var uautoriseret adgang til et begrænset antal interne datasæt og flere credentials brugt af selskabets tjenester. Selskabet undersøger fortsat, om partner- eller kundedata er blevet påvirket.

Samtidig oplyser Hugging Face, at der ikke er fundet tegn på manipulation af offentlige, brugervendte modeller, datasæt eller Spaces. Selskabet skriver også, at softwareforsyningskæden, herunder container images og publicerede pakker, er verificeret ren.

AI blev brugt i forsvaret

Angrebet blev ifølge Hugging Face først opdaget gennem AI-assisteret detektion. Selskabets systemer brugte LLM-baseret triage over sikkerhedstelemetri til at skille reelle signaler fra daglig støj.

Efterfølgende analyserede Hugging Face mere end 17.000 registrerede hændelser fra angriberens aktivitetslog. Det blev gjort med LLM-drevne analyseagenter.

Kildecitat: “This allowed us to reconstruct the timeline, extract indicators of compromise, map the credentials touched, and separate genuine impact from decoy activity.” Kilde: Hugging Face, “Security incident disclosure — July 2026”.

Ifølge selskabet betød metoden, at arbejdet kunne klares på timer i stedet for dage.

Guardrails skabte et nyt dilemma

Sagen viser også en ny udfordring for cyberforsvar. Hugging Face skriver, at de først forsøgte at bruge kommercielle frontier-modeller til analysen, men at forespørgsler med reelle angrebskommandoer, exploit-payloads og C2-artefakter blev blokeret af modellernes sikkerheds-guardrails.

Derfor kørte selskabet i stedet den forensiske analyse med GLM 5.2, en open-weight-model, på egen infrastruktur. Det havde også den fordel, at angriberdata og credentials ikke forlod Hugging Faces eget miljø.

Hændelsen peger på en ny asymmetri: Angribere kan bruge AI-agentværktøjer i maskinfart, mens forsvarere kan blive bremset af sikkerhedsfiltre, der ikke kan skelne mellem en angriber og en incident responder.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.