Perspektiv

Anthropic vil måle AI og trivsel: Hvorfor er det så svært?

Det er relativt let at teste, om en chatbot kan svare rigtigt på et enkelt spørgsmål. Det er langt sværere at måle, hvad gentagne, personlige samtaler gør ved et menneske. Anthropics nye forskningsprogram er interessant, fordi det gør den forskel konkret – og samtidig viser, hvor meget vi endnu ikke ved.

Mickey Liechtenstein 27. september 2026 7 minutters læsning

AI, data og ansvar

To personer ved et bord med samtalekort og en bærbar computer, den ene tænker

Et område, hvor et godt svar kan være et dårligt forløb

Anthropic har afsat 5 millioner dollar til forskning i, hvordan AI påvirker brugernes trivsel. Programmet blev offentliggjort den 2026-08-25. De udvalgte projekter skal bygge åbne evalueringer, som andre udviklere kan bruge, og får ifølge virksomheden både finansiering, adgang til modeller og teknisk støtte. Anthropic skriver samtidig, at modtagerne arbejder fuldt uafhængigt.

Initiativet rammer et reelt hul. En chatbot kan give et roligt og venligt svar, som ser ansvarligt ud isoleret. Men den samme stil kan over mange samtaler gøre brugeren mere afhængig, bekræfte en skæv antagelse eller udskyde kontakt til et menneske. Omvendt kan et system, der afviser alt følsomt indhold, svigte en bruger, som havde brug for enkel, ufarlig information eller en tydelig vej til professionel hjælp.

Derfor er trivsel ikke en egenskab, man kan måle med ti løsrevne spørgsmål. Det handler om mennesker, relationer, kontekst og tid.

Hvad vil programmet konkret finansiere?

Anthropic efterlyser evalueringer med en præcis definition af det, der måles: Hvad tæller som et acceptabelt eller skadeligt svar, og hvorfor? Kliniske og andre relevante fagfolk skal indgå i design og validering. Testene bør både fange skadelig eftergivenhed og overdreven afvisning.

Programmet lægger også vægt på realistiske flertrinsforløb, hvor risiko og kontekst udvikler sig. En samtale om vægttab kan for eksempel begynde neutralt, men ændre karakter, hvis brugeren senere viser tegn på en spiseforstyrrelse. Den forsigtige respons kan derfor ikke vurderes uden historikken.

Ansøgningsfristen er ifølge meddelelsen den 2026-09-21. Ansøgere, der går videre til et fuldt forslag, får besked den 2026-10-05. Der er endnu ingen offentliggjorte resultater. Nyheden er et forskningsløfte – ikke et færdigt sikkerhedsstempel.

To personer vurderer hver for sig rækker af kort og noter ved et bord — To bedømmere kan være uenige; den uenighed er vigtig viden, ikke bare støj i testen.

Hvorfor en enkelt prompt snyder

Mange AI-tests ligner en eksamen: giv modellen et spørgsmål, sammenlign svaret med en rubric, og beregn en score. Det kan være nyttigt for afgrænsede evner. Men trivsel opstår ikke i et enkelt svar. Et råd kan være fornuftigt for én person og skadeligt for en anden. En afvisning kan være beskyttende i en krise og unødvendigt lukket i en almindelig hverdagssamtale.

Anthropics vejledning anbefaler derfor scenarier, hvor tone, situation og alvor varierer, og hvor konteksten skifter undervejs. Den peger også på ekstern validitet: En test af en forbrugerchatbot bør køres i et miljø, der ligner den virkelige chatbot, ikke kun gennem en API uden produktets øvrige sikkerhedslag.

Det er en vigtig læresætning for alle organisationer. Test det produkt, mennesker faktisk møder – med samme grænseflade, historik, adgang til oplysninger og muligheder for at eskalere.

Menneskelig validering kan ikke outsources til endnu en model

En fristende genvej er at lade en sprogmodel bedømme en anden sprogmodels svar. Det gør store tests billige, men kan også skabe cirkularitet. Hvis dommeren deler svagheder, normer eller træningsdata med systemet, kan en høj score blive et ekko af de samme antagelser.

Anthropic anbefaler at kalibrere automatiske bedømmere mod fagpersoners vurderinger, rapportere enigheden og kontrollere et udvalg af samtaler manuelt. På trivsel og mental sundhed bør fagligheden omfatte klinikere, metodeeksperter og mennesker med erfaring fra den konkrete målgruppe.

WHO pegede i marts 2026 tilsvarende på, at AI til mental sundhed bør udvikles sammen med eksperter og mennesker med levede erfaringer, forankres i evidens og tilpasses sprog og kultur. WHO fremhævede også behovet for fælles rammer for krisehenvisning og ansvar.

Leverandørens egne data er nyttige – og begrænsede

Anthropic offentliggjorde i 2025 en analyse af cirka 4,5 millioner Claude-samtaler. Efter en privatlivsbevarende sortering indgik 131.484 affektive samtaler i den nærmere analyse. Leverandøren anslog, at 2,9 procent af samtalerne var affektive, mens selskab og romantisk rollespil tilsammen udgjorde under 0,5 procent.

Studiet fandt, at brugernes udtrykte tone ofte blev lidt mere positiv gennem samtalen. Men forskerne understregede selv, at det ikke dokumenterer varig følelsesmæssig gevinst. Analysen målte sprog i en samtale, ikke menneskers tilstand over tid, og den kunne ikke afgøre, om positive samtaler senere skaber afhængighed.

Tallene fortæller desuden om Claude på et bestemt tidspunkt. De kan ikke uden videre overføres til andre produkter, børn, stemmesamtaler eller tjenester, der er designet som ledsagere. Det er netop derfor, åbne og uafhængige metoder er vigtige.

To kvinder i en rolig samtale i en sofa, den ene med en lukket bærbar i skødet — AI kan støtte en samtale, men bør ikke skjule eller erstatte vejen til et ansvarligt menneske.

Hvad bør en arbejdsplads gøre allerede nu?

Arbejdspladser bruger ofte generativ AI til coaching, svære mails, konflikter eller forberedelse til samtaler. Det kan føles privat, selv når værktøjet er stillet til rådighed af arbejdsgiveren. Sæt derfor tydelige grænser: AI er ikke virksomhedens psykolog, læge eller kriseberedskab, og medarbejdere bør ikke presses til at dele personlige forhold med et system.

Giv menneskelige alternativer en lige så synlig plads som AI-værktøjet. Henvis til leder, arbejdsmiljørepræsentant, HR, egen læge eller akut hjælp, alt efter situationen. Hvis en intern chatbot kan møde alvorlig mistrivsel, skal dens eskalation være planlagt og testet – ikke improviseret i teksten.

Undgå også at bruge samtaler til overvågning af medarbejderes følelser eller præstation uden en særskilt, grundig vurdering. En modelvurdering af tone er ikke en diagnose, og et fortroligt klingende rum er ikke nødvendigvis fortroligt i databeskyttelsesmæssig forstand.

En lille testplan med mennesket i centrum

Definér situationen. Er systemet almindelig produktivitetshjælp, en rådgivningsfunktion eller noget, der kan blive opfattet som omsorg?
Beskriv begge fejlretninger. Hvornår kan systemet følge brugeren for langt, og hvornår kan det afvise for bredt?
Byg samtaleforløb, ikke kun spørgsmål. Lad kontekst og alvor ændre sig over flere trin.
Involver relevante mennesker. Fagfolk, målgruppe og personer med praksiserfaring bør bedømme grænsetilfældene.
Test henvisningen. Kan brugeren forstå, at AI ikke er et menneske, og finde reel hjælp uden at blive sendt rundt?
Følg virkelige signaler. Klager, gentagen brug, lange samtaler og mislykkede henvisninger kan være vigtigere end en samlet benchmarkscore.

Hvad vil afgøre, om programmet flytter noget?

Når projekterne senere offentliggøres, bør man se efter mere end flotte navne på nye benchmarks. Er definitionerne klare? Er fagfolk og brugere reelt involveret? Er data og metoder åbne nok til, at andre kan gentage arbejdet? Testes forskellige sprog, kulturer og modaliteter? Og offentliggøres resultater, der er ubehagelige for finansieringsgiveren?

Anthropics finansiering kan skabe bedre redskaber i et underbelyst felt. Men sund skepsis er en del af god forskning, især når en producent finansierer måling af sin egen teknologikategori. Uafhængighed skal kunne ses i governance, metode og offentliggørelse – ikke kun stå i en pressemeddelelse.

Den menneskecentrerede konklusion er enkel: En samtale, der lyder empatisk, er ikke nødvendigvis god for et menneske. Før vi gør AI til fortrolig hjælper, bør vi kunne måle både øjeblikket, forløbet og den hjælp, der findes uden for skærmen.

Læs også

Kilder og videre læsning

Kilderne er kontrolleret den 2026-09-04. Artiklen bygger på officielle eller primære kilder. Den er generel information og ikke konkret juridisk, sundhedsfaglig eller økonomisk rådgivning.