Gå til indhold
Mickey Liechtenstein AI Foredrag Kurser & workshops Fortæl om jeres arrangement

Perspektiv

Claude åbner for tredjepartsplugins – men installation er også en sikkerhedsbeslutning

Anthropic har åbnet en portal, hvor udviklere kan indsende Claude-plugins og følge gennemgang, udgivelse og brug. Det gør integrationer nemmere at opdage. Men en teknisk validering eller sikkerhedsscanning kan ikke afgøre, om et plugin passer til jeres data, ansvar og arbejdsgange.

En mand ved et skrivebord ser på et diagram med forbundne felter på en bærbar computer.

Hvad er nyt?

Anthropic har gjort sin plugin-mappe til en mere egentlig distributionskanal. Udviklere kan nu indsende et enkelt eksternt MCP-stik eller en samlet pluginpakke, som ligger på GitHub. Portalen viser ifølge Anthropic status på gennemgangen, tilbagemeldinger og senere data om installationer, visninger og søgetermer.

Plugins kan samle to slags byggesten. MCP-forbindelser lader Claude tale med eksterne værktøjer og datakilder. Agent Skills kan give mere specialiserede instruktioner, arbejdsgange og domæneviden. Kombinationen kan gøre en assistent langt mere nyttig end en almindelig chat – og langt mere handlekraftig.

Anthropic beskriver automatisk validering og en sikkerhedsscanning før den menneskelige gennemgang. Det er positivt, men oplysningerne kommer fra leverandøren, og offentliggørelsen dokumenterer ikke, at enhver godkendt udvidelse er sikker til enhver kunde eller anvendelse.

En mappe reducerer friktion – ikke ansvar

En officiel mappe skaber orden i et ellers uoverskueligt marked. Brugeren kan se en beskrivelse, finde udgiveren og installere fra et kendt sted. Det kan mindske risikoen for at hente tilfældig kode fra en ukendt side.

Men mappen kan også give en falsk følelse af godkendelse. Et plugin kan være legitimt bygget og stadig være forkert for en skole, en klinik eller en virksomhed med fortrolige kundedata. Platformens gennemgang har ikke jeres datakort, kontrakter, arbejdsdeling eller pligt til at forklare en beslutning.

Tænk derfor på mappen som en appbutik: et sted at opdage kandidater, ikke et sted der overtager jeres risikovurdering.

Spørg ikke kun, hvad pluginet kan – spørg, hvad det må

Det vigtigste ved en integration er dens myndighed. Et plugin, der kun læser offentlige kalenderdata, er noget andet end et plugin, der kan hente mails, ændre CRM-poster eller sende et dokument til en kunde. To plugins kan have næsten samme navn og helt forskellige konsekvenser.

Kortlæg rettigheder som konkrete verber: læse, søge, oprette, ændre, sende og slette. Notér også, om handlingen kan fortrydes, og om den kræver en menneskelig bekræftelse. En tilladelse som »adgang til drev« er for bred til en reel vurdering.

Mindste privilegium er en bedre start end bekvemmelighed. Giv kun adgang til de mapper, konti og handlinger, der er nødvendige for det aftalte formål.

Sikkerhedsscanning og lokal risikovurdering løser forskellige opgaver

En central scanning kan finde kendte mønstre: ugyldig konfiguration, mistænkelig kode eller uventede netværkskald. En lokal vurdering spørger derimod, om brugen er legitim, om databehandlerforholdet er på plads, om logning er tilstrækkelig, og om et menneske kan opdage en forkert handling.

NIST AI Risk Management Framework lægger vægt på, at risici skal styres i hele den konkrete sammenhæng. Det er særligt vigtigt for plugins, fordi risikoen opstår i forbindelsen mellem modellen, værktøjet, dataene og den arbejdsgang, der omgiver dem.

Sæt derfor en navngiven ejer på hvert plugin. Ejeren skal kunne forklare formålet, godkende ændringer og slukke integrationen, hvis leverandøren, rettighederne eller behovet ændrer sig.

Tre kolleger ved et bord holder hvide kort ved siden af en bærbar computer, en hængelås og USB-adaptere.
Den lokale vurdering begynder med formål, rettigheder og en tydelig ejer. Illustrationsbillede genereret med AI.

Opret et lille pluginregister

Et pluginregister behøver ikke blive et stort governanceprojekt. En enkel tabel er nok, hvis den faktisk vedligeholdes. Registrér formål, ejer, udgiver, version, datatyper, rettigheder og dato for næste gennemgang.

Tilføj, hvordan pluginet afinstalleres, hvordan tokens eller nøgler tilbagekaldes, og hvad der sker med data, som allerede er sendt til den eksterne tjeneste. Offboarding er en del af sikkerheden – ikke en oprydning, der kan vente til senere.

Brug registeret som adgangsbillet til drift. Hvis ingen vil eje posten, bør pluginet ikke få adgang til organisationens systemer.

Test i et miljø, hvor fejl kan tåles

Start med ufølsomme testdata og en konto uden brede rettigheder. Afprøv både den ønskede opgave og grænsetilfælde: uklare instruktioner, en forkert fil, en forældet post og en anmodning om at gøre mere end aftalt.

Se efter tre ting. Kan medarbejderen forstå, hvilke data der forlader systemet? Kan personen se og godkende en betydningsfuld handling, før den sker? Kan I bagefter rekonstruere forløbet i en log?

Test også nødbremsen. Frakobl pluginet, tilbagekald adgang og kontrollér, at det ikke længere kan hente eller ændre noget. Et system er ikke under kontrol, før det kan stoppes.

Træklodser går fra en papkasse forbi et forstørrelsesglas til en reol med sorterede klodser.
En central gennemgang kan sortere noget fra. Den kan ikke kende jeres konkrete risici. Illustrationsbillede genereret med AI.

Sådan træffer I en rolig installationsbeslutning

  • Beskriv den konkrete opgave og den forventede gevinst i én sætning.
  • Find udgiveren og den kode eller tjeneste, der faktisk behandler data.
  • Oversæt tilladelser til læse-, skrive-, sende- og slettehandlinger.
  • Begræns data, konti og varighed; undgå brede standardrettigheder.
  • Test med realistiske fejl og kræv menneskelig godkendelse af irreversible handlinger.
  • Registrér ejer, version, kontrolinterval og afviklingsplan.

Det er langsommere end ét klik. Til gengæld bliver det muligt at bruge integrationen med åbne øjne – og at fjerne den igen uden panik.

Minimum før et plugin går i drift

FeltDet skal være dokumenteretStoptegn
FormålÉn afgrænset arbejdsopgaveGenerel adgang »for en sikkerheds skyld«
RettighederKonkrete læse- og skrivehandlingerKan sende eller slette uden godkendelse
DataTilladte datatyper og placeringUkendt videresendelse eller træningsbrug
EjerNavngiven person og kontrolintervalIngen vil eje ændringer og hændelser
AfviklingTilbagekaldelse, sletning og eksportIngen dokumenteret måde at stoppe på

Liechtenstein.dk’s vurdering

Anthropics plugin-mappe kan gøre gode integrationer lettere at finde og vedligeholde. Den bør ikke gøre installationen tankeløs. Når en AI får adgang til eksterne systemer, får den også en form for delegeret myndighed. Den myndighed skal afgrænses, overvåges og kunne trækkes tilbage af mennesker.

Læs også

Kilder og videre læsning

Læs også

Vil I arbejde videre med emnet sammen?

Fortæl kort om deltagerne og anledningen – så finder vi det foredrag eller kursus, der passer.

Fortæl om jeres arrangementSkriv til mig