Forestil jer en digital medarbejder, der hjælper med kundeservice.
Den kan læse nye henvendelser, finde de relevante oplysninger, foreslå et svar, opdatere sagen og sende den videre. Men før hvert lille trin sidder et menneske og trykker godkend.
På papiret er mennesket i kontrol. I praksis har I bygget en hurtig medarbejder med en meget langsom chef.
Når mængden vokser, opstår der en ny kø. Godkendelserne bliver rutine, opmærksomheden falder, og den ansvarlige risikerer at trykke ja uden længere at undersøge det væsentlige. Alternativet er dog ikke at lade AI’en gøre alt selv.
I skal skelne mellem handlinger, der kan rettes, og handlinger, der skal stoppes før skaden.
Tillid kommer ikke kun fra en bedre model
AI-kommentatoren Nate B. Jones peger på et enkelt problem: Mange AI-demonstrationer foregår et sted, hvor fejl næsten er gratis. Virksomhedens virkelighed er anderledes. Et forkert internt udkast kan redigeres. En forkert mail til en kunde kan ikke trækkes tilbage fra kundens hukommelse. En fil kan flyttes igen. En forkert udbetaling eller adgang til følsomme data kan have varige følger.
Derfor er flaskehalsen ikke altid modellens evner. Den er ofte måden, arbejdet tager imod fejl på.
Softwarebranchen har arbejdet med den forskel i årtier. En ændring bliver først lavet som et forslag. Den bliver testet, vist frem og frigivet i etaper. Hvis noget går galt, kan den tidligere version ofte genskabes. Fejl er stadig fejl, men de behøver ikke blive katastrofer.
Den tankegang kan flyttes ud af it-afdelingen. Ikke som endnu et teknisk modeord, men som et almindeligt ledelsesspørgsmål:
Hvad sker der, hvis den digitale medarbejder tager fejl, og hvor let kan vi rette det?
Godkendelse af alt er ikke det samme som kontrol
Et menneske i arbejdsgangen er vigtigt, når der kræves fagligt ansvar eller dømmekraft. Men sætningen “et menneske godkender” fortæller for lidt.
Hvad ser personen før godkendelsen? Kan ændringen sammenlignes med det nuværende? Hvor mange sager skal én person nå igennem? Kan handlingen rulles tilbage? Og er det tydeligt, hvilke få sager der faktisk kræver ekstra opmærksomhed?
Hvis alle skridt ser ens ud, bliver en harmløs rettelse af et internt kategorifelt behandlet som en bankoverførsel. I bruger menneskelig tid på det ufarlige og risikerer samtidig at sløve opmærksomheden før det farlige.
Vores tidligere analyse af OpenAIs testagent og Hugging Face viste, hvorfor menneskelig kontrol skal ligge ved de overgange, hvor konsekvensen ændrer sig: fra læsning til handling, fra et lukket miljø til internettet eller fra en fast grænse til fortsat arbejde. Et menneske kan ikke kontrollere tusindvis af små skridt lige grundigt.
Den samme regel gælder i almindelig drift. Kontrollen skal være skarpest dér, hvor en fejl bliver svær at gøre god igen.
Byg en fortryd-knap ind i arbejdet
En fortryd-knap er sjældent én fysisk knap. Det er en måde at indrette arbejdsgangen på.
Lad ændringen begynde som et forslag. Den digitale medarbejder kan forberede et kundesvar, en ændring i CRM-systemet eller en betalingskladde uden at gøre handlingen endelig.
Vis forskellen før handlingen. Den ansvarlige skal ikke læse hele sagen forfra. Vis hvilke felter der ændres, hvilke kunder der berøres, hvilket beløb der flyttes, og hvilke oplysninger der forlader organisationen.
Brug en kort ventetid, når det hjælper. Nogle handlinger kan ligge klar i ti minutter eller til næste morgen, så en fejl kan fanges, før den bliver sendt ud. Det virker ikke ved en akut hændelse, men kan være værdifuldt ved planlagte masseændringer.
Gem den tidligere tilstand. Hvis agenten opdaterer 400 produktbeskrivelser eller kategoriserer 2.000 sager, skal I kunne genskabe det, der stod før.
Aftal på forhånd, hvordan I retter. Hvem kan stoppe kørslen? Hvem kan rulle ændringen tilbage? Hvordan bliver berørte kunder eller medarbejdere hjulpet, hvis fejlen allerede har fået konsekvenser?
Det sidste punkt bliver ofte glemt. En log viser, hvad der skete, men den retter ikke noget. Digitalmedarbejders guide til audit logs for AI-agenter forklarer, hvordan input, kilder, værktøjer, godkendelser og handlinger kan gøres sporbare. Det er grundlaget for at forstå fejlen. I skal stadig have en vej tilbage.
Ikke alt må kunne prøves først
Nogle handlinger er for alvorlige til “vi retter det bagefter”.
En AI må ikke få lov at dele følsomme personoplysninger, indgå en bindende aftale, foretage en stor betaling eller fratage en medarbejder adgang, bare fordi handlingen er logget. Her skal systemet stoppe, og den ansvarlige skal have et forståeligt beslutningsgrundlag.
EU’s AI-forordning stiller særlige krav til menneskeligt tilsyn med højrisiko-AI. Artikel 14 siger blandt andet, at den ansvarlige skal kunne se bort fra, tilsidesætte eller omgøre systemets output og afbryde systemet sikkert. Kravet gælder ikke enhver lille AI-funktion i enhver virksomhed. Men princippet i artikel 14 er nyttigt langt bredere: Menneskelig kontrol kræver en reel mulighed for at sige nej, stoppe og rette – ikke blot en godkendelsesknap i en flot brugerflade.
I kan derfor dele tilbagevendende handlinger i tre grupper:
- Let at rette: Agenten kan handle inden for en aftalt grænse, mens ændringer logges og kan rulles tilbage.
- Mulig at rette, men besværlig: Agenten forbereder og viser ændringen. Et menneske godkender den samlede handling, ikke hvert lille mellemtrin.
- Svær eller umulig at rette: Systemet stopper før handlingen. Den ansvarlige vurderer konsekvens, grundlag og alternativer.
Det er ikke en universel facitliste. En ændring i et CRM-system kan være harmløs i én arbejdsgang og udløse automatisk kundekontakt i en anden. Gruppen skal følge den faktiske konsekvens, ikke navnet på systemet.
Brug fejl til at flytte grænsen
Når en digital medarbejder begynder i drift, vil grænsen ofte ligge forsigtigt. Mange handlinger bliver til kladder, og mennesker godkender mere end på længere sigt.
Det er fornuftigt i begyndelsen. Men hvis godkendelserne aldrig bliver undersøgt, forbliver mennesket en permanent flaskehals.
Se derfor på de sager, hvor mennesker griber ind:
- Hvilke forslag bliver næsten altid accepteret uden ændringer?
- Hvilke fejl går igen?
- Hvilke handlinger bliver afvist, fordi agenten mangler data eller har misforstået en regel?
- Hvor bruger mennesker tid på at godkende noget, som allerede er sikkert og let at rette?
- Hvor er konsekvensen så høj, at kontrollen aldrig bør fjernes?
Svarene kan flytte grænsen. En stabil, synlig og let genoprettelig opgave kan få mere frihed. En opgave med uklare regler eller store konsekvenser skal fortsat stoppe.
Det er sådan, tillid bliver bygget: ikke som en følelse af, at modellen virker klog, men som dokumenteret erfaring med, hvad den gør, hvordan fejl opdages, og hvad I kan stille op bagefter.
Ledelsen skal gøre fejl overlevelige
Målet er ikke en organisation uden AI-fejl. Det mål kan ingen troværdigt love.
Målet er, at små fejl forbliver små, at alvorlige handlinger stoppes i tide, og at mennesker bruger deres opmærksomhed dér, hvor den gør en forskel.
Tag én tilbagevendende AI-arbejdsgang og tegn dens vigtigste handlinger på et stykke papir. Skriv ud for hver handling:
- Kan den ses, før den bliver endelig?
- Kan den stoppes?
- Kan den rulles tilbage?
- Hvem retter, hvis noget går galt?
- Hvor ændrer konsekvensen sig så meget, at et menneske skal overtage?
Hvis svaret på de første fire spørgsmål er nej, har I ikke blot et AI-problem. I har en arbejdsgang, der ikke tåler fejl.
Og så er den næste investering måske ikke en bedre model. Det er en bedre fortryd-knap.