Gå til indhold
Mickey Liechtenstein AI Foredrag Kurser & workshops Fortæl om jeres arrangement

Perspektiv

Kun få kinesiske AI-modeller har offentliggjorte sikkerhedstest

En ny kortlægning fandt et offentligt, modelspecifikt sikkerhedsresultat for 31 af 857 kinesiske modeludgivelser. Tallet siger noget om dokumentation, ikke nødvendigvis om de test, der kan være foretaget internt. Netop den forskel er vigtig, når en virksomhed vælger model.

En kvinde og en mand sidder ved et bord og læser hver sit papir omgivet af mapper og udskrifter.

Tallet handler om synlige beviser

SemiAnalysis offentliggjorde den 8. oktober 2026 en analyse af kinesisk AI-sikkerhed. Som en del af arbejdet gennemgik forskerne 857 identificerbare modeludgivelser fra Alibaba, Baidu, ByteDance, DeepSeek, MiniMax, Moonshot, StepFun, Tencent og Zhipu, også kendt som Z.ai. Perioden gik fra 2021 til den 15. september 2026. [1]

Forskerne søgte i modelkort, tekniske rapporter og udgivelsesnoter efter et resultat, der kunne knyttes til en navngiven model. En generel sætning om, at modellen var sikkerhedstrænet eller evalueret, talte ikke. Der skulle være et kvantitativt eller substantielt resultat om eksempelvis skadeligt output, jailbreaks, toksicitet, privatliv, afvisningsadfærd eller farlige kapaciteter. [1]

31 af 857 udgivelser, svarende til 3,6 procent, havde et sådant offentliggjort resultat. Ni udgivelser, 1,1 procent, havde resultatet tilgængeligt ved eller før lanceringen. 16 resultater blev dokumenteret senere; medianen for forsinkelsen var 42 dage, og den længste var 349 dage. [1]

Det er markante tal, men de skal læses præcist. »Ikke fundet« betyder, at resultatet ikke var i det materiale, forskerne gennemgik. Det beviser ikke, at virksomheden aldrig gennemførte en intern test. Kortlægningen siger derfor mest om den dokumentation, som en kunde, forsker eller offentlighed kan efterprøve.

En modelserie er ikke én stabil vare

Når en leverandør udgiver flere størrelser, snapshots og specialudgaver under samme familienavn, kan dokumentation let blive for generel. SemiAnalysis tæller udgivelsesposter, ikke nødvendigvis 857 helt forskellige grundmodeller. For nogle virksomheder er der mange varianter, og forskerne advarer selv mod at bruge andelene som en enkel rangliste over selskaber. [1]

Det er også muligt, at en sikkerhedstest gælder én version og ikke den næste. En finjusteret model, en ny systemprompt eller et andet værktøj kan ændre adfærden. Derfor er et link til et generelt sikkerhedscenter ikke nok som svar på spørgsmålet »Hvad er testet i den version, vi vil bruge?«

Bed leverandøren angive modelnavn og versionsdato, testsættets formål, sprog, centrale resultater, kendte begrænsninger og tidspunktet for testen. Spørg, om resultatet gælder den hosted tjeneste, de downloadbare vægte eller begge dele. Hvis en model er ændret efter testen, bør leverandøren forklare, hvad der er testet igen.

Offentlige resultater er heller ikke automatisk gode resultater. En evalueringsmetode kan være for snæver, eller testeksempler kan være kendt af modellen. Dokumentation gør kritisk læsning mulig; den erstatter den ikke.

En lang række grå arkivmapper står på et bord med enkelte farvede diagramark, et forstørrelsesglas og en blyant.
Sikkerhedsdokumentation bør vise metode, tidspunkt, begrænsninger og relevante sprog. Illustrationsbillede genereret med AI.

Kortlægningen er ikke en dom over alle kinesiske modeller

Rapporten beskriver et kinesisk regime, der prioriterer tempo og kontrol med udrullede tjenester. Men datasættet sammenligner ikke de 857 udgivelser med et tilsvarende, ensartet udvalg fra USA eller Europa. Man kan derfor ikke bruge procenten til at konkludere, at kinesiske leverandører som gruppe er mere eller mindre sikre end vestlige. [1]

Der er også forskel på fravær af dokumentation og dokumentation af fravær. Hvis ingen offentlig test er fundet, ved vi mindre om modellen. Det er ikke det samme som at have vist, at modellen fejler. Omvendt bør manglende viden ikke udfyldes med leverandørens markedsføring eller kundens håb.

En ansvarlig indkøber kan notere tre separate vurderinger: Hvad dokumenterer leverandøren? Hvad viser vores egen test? Hvilke risici kan vi ikke måle med de data og kompetencer, vi har? Den tredeling forhindrer, at et enkelt grønt flueben skjuler usikkerhed.

NISTs AI Risk Management Framework beskriver risikostyring som en løbende aktivitet, hvor kontekst, måling og håndtering hænger sammen. [2] En offentlig modeltest er et input til den proces, ikke en garanti.

To mænd og en kvinde kigger sammen på en bærbar ved et bord med en konvolut og dokumenter.
Leverandørens bevis, den lokale prøve og den resterende usikkerhed skal stå hver for sig. Illustrationsbillede genereret med AI.

Lav jeres egen versionsspecifikke prøve

Start med det, modellen faktisk skal gøre hos jer. Saml realistiske danske eksempler, herunder tvetydige instruktioner, følsomme oplysninger, forsøg på at omgå regler og situationer, hvor modellen bør bede om hjælp. Beskriv på forhånd, hvad der tæller som acceptabelt, alvorligt og uafklaret.

Kør samme sæt mod den præcise version og opsætning, I overvejer. Gem instruktioner, parametre, dato og resultat. Test også, hvad der sker, når modellen får adgang til dokumenter eller værktøjer. En tekstmodel uden handlinger og en agent med adgang til mail eller kundedata har ikke samme risikoprofil.

Hvis leverandøren ikke deler tilstrækkelig dokumentation, er det en beslutningsoplysning. I kan afgrænse anvendelsen, kræve mere dokumentation, vælge en anden model eller acceptere usikkerheden med navngivet ansvar. Det afgørende er, at manglen ikke bliver usynlig.

Kortlægningen fra SemiAnalysis giver ikke en facitliste til modelvalg. Den giver en konkret påmindelse om forskellen mellem en sikkerhedspåstand og et efterprøveligt resultat. For en dansk organisation er den praktiske konklusion enkel: Køb ikke et familienavn. Vurder en bestemt version, i en bestemt arbejdsgang, med dokumentation og en lokal test, som de berørte mennesker kan forstå.

Læs også

Kilder og videre læsning

Læs også

Vil I arbejde videre med emnet sammen?

Fortæl kort om deltagerne og anledningen – så finder vi det foredrag eller kursus, der passer.

Fortæl om jeres arrangementSkriv til mig