Når AI får adgang til maskiner: Fysisk sikkerhed skal bygges ind

Fra museklik til motorer, ventiler og lasere

Det meste af den aktuelle debat om AI-agenter handler om browserfaner, e-mail og dokumenter. Model Hardware Standard flytter samme idé ud i laboratoriet og på fabriksgulvet. Her kan en kommando ændre temperatur, flytte en robotarm, dosere en væske eller justere en laser. Fejlen er ikke længere nødvendigvis en dårlig formulering eller en forkert celle i et regneark.

MHS er stadig en forskningsversion, ikke en moden industristandard. Anthropic udviklede den oprindeligt sammen med HHMI Janelia Research Campus og inviterer nu en mindre kreds af laboratorier og producenter til at afprøve den. Målet er senere at gøre specifikationen open source.

Nyheden er værd at følge, fordi den viser, hvor agentteknologien bevæger sig hen: fra at foreslå handlinger til at orkestrere fysiske processer. Den udvikling kan frigøre tid fra gentagelser, men den gør klassisk maskinsikkerhed, it-sikkerhed og AI-governance til én samlet opgave.

Sådan er MHS tænkt

Problemet, MHS forsøger at løse, er genkendeligt. Hvert instrument har ofte sit eget interface og sin egen måde at beskrive tilstande og kommandoer på. Når flere enheder skal samarbejde, bygger specialister normalt forbindelserne enkeltvis.

MHS introducerer en standardiseret driver med enkle handlinger som ‘read’ og ‘write’. Driveren beskriver også udstyrets egenskaber og begrænsninger: Hvad kan måles, hvad kan ændres, og hvilke sikkerhedsgrænser håndhæves? Oplysninger, der før lå i manualer eller hos en erfaren tekniker, kan gøres til en maskinlæsbar del af grænsefladen.

En agent kan derefter styre udstyret via blandt andet Model Context Protocol, en kommandolinje eller kodefiler. Ved lange eller tidskritiske forløb kan agenten samle kommandoer i et almindeligt program, så maskinen ikke venter på modellens ræsonnement ved hvert trin.

Standardisering er ikke det samme som sikkerhed

En fælles grænseflade kan gøre integration mere ensartet og dermed lettere at kontrollere. Men den kan også gøre det lettere at sende den samme forkerte kommando til mange enheder. Sikkerheden afhænger af den konkrete driver, maskinens egne værn, netværket, procesgrænserne og den måde, agentens rettigheder er sat op på.

Et felt med teksten ‘maksimal temperatur’ beskytter kun, hvis grænsen valideres i et lag, som agenten ikke kan omgå. Naturlig sprogtekst er nyttig som kontekst, men fysisk sikkerhed bør ligge i deterministiske kontroller: hårde maksimumgrænser, enhedstjek, hastighedsbegrænsning, interlocks og en sikker tilstand ved tab af forbindelse.

Den mest lærerige pilot endte med almindelig kode

I Anthropics beskrivelse lod kvantecomputervirksomheden QuEra en agent arbejde med genopretning af en meget præcis laserlås. Et tidligere, håndskrevet script lykkedes i 58 procent af forsøgene og brugte omkring 150 sekunder pr. forsøg. Agenten udviklede gennem mange kontrollerede forsøg en mere fleksibel beslutningsstruktur.

Det færdige script blev derefter afprøvet uden agenten i kontrol. I 700 blindtest lykkedes genopretningen 695 gange, svarende til 99,3 procent. De vanskeligste forstyrrelser tog 10–14 sekunder. Tallene er rapporteret af Anthropic og samarbejdspartneren og kan ikke uden videre overføres til andre maskiner eller processer.

Designvalget er vigtigere end procenten: Agenten blev brugt til at undersøge problemet og udvikle en løsning. Produktionsresultatet var et deterministisk, inspicerbart script. Det er en stærk mellemvej. AI kan være god til at søge gennem muligheder og opdage mønstre, mens den vedvarende drift placeres i kode, der kan gennemgås, versionsstyres og valideres.

Et nyttigt princip: Brug modellen til at udforske og foreslå. Lad verificerbare regler og godkendt kode styre den gentagne drift, når processen kan beskrives deterministisk.

Otte spørgsmål før den første tilslutning

1. Hvad er den værst tænkelige fysiske konsekvens? Beskriv skade på mennesker, prøver, udstyr, miljø og produktion – ikke kun tab af data.
2. Hvilke grænser håndhæves uden for modellen? Kritiske temperaturer, tryk, hastigheder og arbejdsområder skal valideres af uafhængige mekanismer.
3. Hvilke kommandoer må agenten sende? Del læseadgang, opsætning, kalibrering, bevægelse og irreversible handlinger op i separate rettigheder.
4. Hvornår kræves to-personers godkendelse? Definér trin, hvor én operatør ikke alene må frigive en handling – uanset om handlingen er foreslået af AI eller et menneske.
5. Hvad sker der ved ukendt tilstand? Systemet skal gå til en sikker tilstand ved manglende sensorværdi, konfliktende målinger, timeout eller tab af netværk.
6. Kan handlingen reproduceres? Gem modelversion, kontekst, driver-version, kommandoforløb, sensorværdier og menneskelige godkendelser.
7. Hvordan holdes det fysiske nødstop uafhængigt? En agent må aldrig kunne deaktivere den sidste barriere, som beskytter mennesker og udstyr.
8. Hvem har driftsansvaret? Navngiv ejeren af procesrisikoen, den tekniske integration og den daglige stopbeslutning.

Indfør teknologien i tre zoner

Zone	Hvad AI må	Krav før næste zone
1. Observere	Læse sensorer, manualer og historik; foreslå næste skridt.	Valider datakvalitet, alarmer og forslag mod eksperter.
2. Simulere	Køre handlinger i digital tvilling, testopstilling eller afgrænset forsøgsrum.	Dokumentér fejlscenarier, stopgrænser og recovery.
3. Handle	Udføre godkendte kommandoer på rigtigt udstyr inden for hårde grænser.	Løbende overvågning, tilbageførsel, nødstop og navngivet operatør.

Zonerne gør det muligt at lære uden at springe direkte fra demonstration til døgnbemandet autonom drift. Mange værdifulde anvendelser kan blive i zone 1 eller 2. En agent, der opdager afvigelser og foreslår en kalibrering, kan give stor værdi, selv om et menneske udfører eller frigiver den.

Gem den tavse viden – men lad den blive udfordret

MHS peger på en reel gevinst: Den tavse viden om udstyr kan dokumenteres, så den ikke forsvinder med den eneste specialist på natholdet. Men den slags viden er ofte fuld af forbehold. ‘Gør normalt sådan’ er ikke det samme som en universel regel.

Når manualer og erfaring omsættes til maskinlæsbare beskrivelser, bør en anden fagperson gennemgå dem. Markér hvilke grænser der er fysiske, hvilke der er kvalitetskrav, og hvilke der blot er arbejdsvaner. Angiv enheder eksplicit. Versionsstyr ændringer. Og test, hvordan systemet reagerer, når to kilder siger noget forskelligt.

Mennesker i centrum er også et sikkerhedsprincip

AI, der styrer udstyr, bliver let solgt som et billede på et ubemandet laboratorium eller en selvkørende fabrik. De tidlige eksempler fortæller en mere nøgtern historie. Eksperter formulerer målet, bygger grænserne, fremkalder kontrollerede fejl, vurderer resultaterne og vælger, om agenten skal blive i løkken.

Det er ikke et svaghedstegn. Det er den måde, en lovende teknologi bliver til forsvarlig drift. Den gode standard er ikke den, der gør mennesket overflødigt. Det er den, der gør ansvar, grænser og indgriben tydelige, når software får adgang til den fysiske verden.

Læs også

• Hvad er en AI-agent – og hvornår giver den mening?
• Fra AI-idé til drift – sådan tester I løsningen

Kilder og videre læsning

• Anthropic: Previewing the Model Hardware Standard — primær leverandørbeskrivelse og pilotresultater, 2026-08-27

• NIST AI Risk Management Framework — ramme for kortlægning, måling og styring af AI-risici

• EU-Kommissionen: AI Act — officiel oversigt over risikoniveauer og ikrafttrædelse