Title: Når AI gør fagfolk til flaskehals | Brokk & Sindre Description: Når AI øger mængden af arbejde, kan de dygtigste fagfolk ende som flaskehals. Deres dømmekraft skal gøres genbrugelig, uden at deres ansvar automatiseres væk. Canonical: https://brokk-sindre.dk/aktuelt/ai-skal-ikke-goere-jeres-bedste-fagfolk-til-kontrolloerer # AI skal ikke gøre jeres bedste fagfolk til kontrollører Når virksomheder bygger arbejde om med AI, lyder et fornuftigt råd: Tag både AI-folkene og de erfarne fagfolk med. Det er nødvendigt. Men det er ikke nok. Hvis fagfolkene kun bliver inviteret til møderne og bagefter skal kontrollere en voksende strøm af AI-arbejde, har virksomheden ikke skaleret sin faglighed. Den har gjort sine bedste mennesker til et permanent kontrolrum. Når virksomheder bygger arbejde om med AI, lyder et fornuftigt råd: Tag både AI-folkene og de erfarne fagfolk med. Det er nødvendigt. Men det er ikke nok. Hvis fagfolkene kun bliver inviteret til møderne og bagefter skal kontrollere en voksende strøm af AI-arbejde, har virksomheden ikke skaleret sin faglighed. Den har gjort sine bedste mennesker til et permanent kontrolrum. Det kan se effektivt ud i begyndelsen. AI producerer mere, hurtigere. Men ventetiden flytter bare hen til de få mennesker, som kan se, om en undtagelse er vigtig, om kundens situation er anderledes, eller om et tilsyneladende godt svar faktisk er forkert. Ledelsens opgave er derfor ikke kun at få fagligheden med ind i AI-projektet. I skal beslutte, hvilken del af fagfolkenes dømmekraft der skal kunne bruges igen, og hvilken del der fortsat kræver et menneske i den konkrete sag. Ellers vokser AI-kapaciteten, mens virksomhedens reelle kapacitet står stille. ## De bedste til AI ved ikke nødvendigvis mest om arbejdet Katrine Bach peger i en ny [Computerworld-klumme om AI-transformation](https://www.computerworld.dk/art/297079/du-risikerer-at-ai-transformationen-foerer-til-ringere-resultater-hvis-du-overser-denne-vigtige-detalje) på en enkel fare: De medarbejdere, der er længst fremme med AI, er ikke nødvendigvis dem, der ved mest om det arbejde, virksomheden vil lave om. AI-entusiasterne melder sig til forsøgene, lærer værktøjerne hurtigt og får øje på mulighederne. Den erfarne specialist kan til gengæld kende undtagelserne, kundernes særtilfælde og de små tegn på, at en sag ikke passer ind i den normale vej. Klummen bygger blandt andet på forfatterens samtaler fra Dreamforce og hendes organisations egen undersøgelse. Den er et debatindlæg, ikke en uafhængig måling af, hvordan danske AI-projekter klarer sig. Men skellet mellem AI-kompetence og faglig kompetence er vigtigt. Den oplagte løsning er at sætte begge slags mennesker rundt om bordet. Det er her, næste problem begynder. For hvad sker der, når projektgruppen går hjem, og AI-løsningen bliver sat i drift? Hvis den faglige viden stadig kun findes i hovedet på de samme få mennesker, skal de også stå klar, hver gang agenten er i tvivl, hver gang kvaliteten skal kontrolleres, og hver gang arbejdet ændrer sig. Så bliver de ikke bare en del af løsningen. De bliver dens kapacitetsgrænse. ## Mere AI-arbejde kan skabe mere ekspertarbejde Forestil jer en virksomhed, der bruger AI til at forberede tilbud. Agenten kan læse kundens materiale, finde tidligere leverancer, samle priser og skrive et første udkast. Det gør produktionen hurtigere. Men en erfaren rådgiver skal stadig opdage, at kunden bruger et kendt ord på en usædvanlig måde, at en gammel aftale ændrer prisen, eller at et løfte ser lille ud i teksten, men bliver dyrt i driften. Hvis AI pludselig kan forberede fem gange så mange tilbud, kan den erfarne rådgiver få fem gange så meget at kontrollere. Det er ikke et argument imod AI. Det er et argument imod at måle kapaciteten dér, hvor AI afleverer sit udkast. I vores arbejde med digitale medarbejdere ser vi, at kvalitet ikke bliver stabil, blot fordi en dygtig person har forklaret opgaven én gang. Fagligheden skal kunne ses i de kilder, eksempler, svære prøvesager, stopgrænser og rettelser, som rollen arbejder efter. Og når noget ændrer sig, skal arbejdet kunne prøves igen. Det er samme grund til, at vi tidligere har skrevet, at [robotten ikke er fordelen; det er jeres måde at lære den arbejdet på](https://brokk-sindre.dk/aktuelt/robotten-er-ikke-fordelen). Erfaring bliver først til virksomhedskapacitet, når den kan bruges mere end én gang. Det betyder ikke, at al faglighed kan skrives ned. Netop de svære undtagelser kræver ofte levende dømmekraft. Men forskellen mellem det genbrugelige og det situationsbestemte skal være et bevidst valg, ikke noget virksomheden opdager, når eksperterne drukner i kontrol. ## Faglighed består også af nej’er Virksomheder begynder ofte med at beskrive det gode resultat: Sådan ser et korrekt tilbud, svar eller notat ud. Det er kun halvdelen af arbejdet. Erfarne fagfolk er værdifulde, fordi de også ved, hvornår den normale løsning ikke gælder. De opdager oplysninger, som mangler. De kan se, at to rigtige regler peger i hver sin retning. De ved, at en kunde ikke bør få et løfte endnu, selv om tallene ser grønne ud. Den faglighed er svær at fange i en generel instruktion som “lav et grundigt svar”. Den viser sig bedre i konkrete sager: - Her så løsningen rigtig ud, men denne detalje gjorde den forkert. - Her må arbejdet stoppe, fordi konsekvensen er for stor. - Her skal et menneske vælge mellem to hensyn, som begge er rimelige. - Her ændrede en rettelse vores måde at løse lignende sager på. Når sådanne vurderinger bliver bevaret som prøvesager og tydelige grænser, kan virksomheden bruge dem til at lære en digital rolle arbejdet, vurdere en ændring og oplære nye mennesker. Når de kun lever som kommentarer i en travl kontrolkø, forsvinder de igen efter hver sag. Derfor bør ledelsen se faglige rettelser som mere end en driftsomkostning. De er råmateriale til virksomhedens fremtidige arbejdskapacitet. ## I skal ikke automatisere ansvaret væk Der er en fristende, men farlig konklusion: Hvis eksperterne er flaskehalsen, må vi få AI til at overtage deres vurdering også. Nogle vurderinger kan godt gøres genbrugelige. En kendt beløbsgrænse, en fast kilde eller et tydeligt krav kan bygges ind i arbejdet. Repræsentative eksempler kan bruges til at se, om kvaliteten holder efter en ændring. Men der vil stadig være sager, hvor virksomheden ønsker et menneskes ansvar: store kundeløfter, tvetydige regler, væsentlige økonomiske konsekvenser eller situationer, som ingen har set før. Målet er ikke at fjerne fagpersonen fra arbejdet. Målet er at bruge fagpersonens tid dér, hvor dømmekraften faktisk er nødvendig. Vi har tidligere beskrevet, hvorfor I bør [vælge arbejdet, før I vælger AI-modellen](https://brokk-sindre.dk/aktuelt/vaelg-arbejdet-foer-ai-modellen). Den samme rækkefølge gælder her. Før I skruer op for mængden, skal I vide, hvilket resultat der tæller, hvilke fejl der er dyre, og hvornår arbejdet ikke må fortsætte på egen hånd. Hvis ikke, bliver “mennesket i løkken” bare et pænt navn for en medarbejder, der skal nå at godkende alt det, maskinen kan fremstille. ## Det er et valg om virksomhedens knappe kapacitet Det kan ligne et spørgsmål for projektlederen: Hvem skal være med i arbejdsgruppen? I virkeligheden er det et ledelsesvalg om, hvordan virksomheden bruger sine mest knappe mennesker. De samme fagfolk, som kan kontrollere AI-arbejdet, skal ofte også betjene vigtige kunder, udvikle produkter, lære kolleger op og løse de sager, der ikke passer i systemet. Hvis hvert nyt AI-initiativ trækker på deres opmærksomhed uden at gøre noget af deres dømmekraft genbrugelig, konkurrerer initiativerne om den samme skjulte ressource. I bør derfor tage stilling til tre ting, før en AI-rolle skaleres: **Hvilken faglig viden skal blive i virksomheden?** Ikke bare dokumenter, men også eksempler, rettelser og begrundede fravalg, som kommende arbejde skal kunne stå på. **Hvilke vurderinger kan bruges igen?** Kendte mønstre, prøvesager og stopgrænser kan mindske behovet for, at en ekspert starter forfra hver gang. **Hvor vil I fortsat betale for levende dømmekraft?** Nogle beslutninger bør bevidst forblive hos mennesker, fordi konsekvensen, tvivlen eller ansvaret er for stort til at presse ind i en fast vej. Det er også derfor, at [AI ikke frigør ledelsestid først; den bruger den](https://brokk-sindre.dk/aktuelt/ai-frigoer-ikke-ledelsestid-foerst). Nogen skal beslutte, hvad godt arbejde er, og hvad der skal ske, når virkeligheden falder uden for beskrivelsen. ## Gør dømmekraften større end personen AI kan gøre det billigt at fremstille et første svar, en analyse, et tilbud eller en ændring. Det gør ikke den faglige vurdering bagefter gratis. Virksomheder, der overser det, får let en mærkelig organisation: Mange kan sætte AI i gang, men kun få kan afgøre, om resultatet kan bruges. De få bliver travlere, mens resten af organisationen tror, at kapaciteten er vokset. Den stærkere vej er at lade AI-projekterne bygge to ting på samme tid. Den ene er den konkrete digitale rolle, som løser mere arbejde. Den anden er et fælles grundlag af prøvesager, kilder, fejl, stopgrænser og faglige valg, som gør virksomheden bedre til at lære både mennesker og AI, hvad godt arbejde er. Så bliver jeres bedste fagfolk ikke stående for enden af et hurtigere samlebånd. Deres dømmekraft bliver en del af den måde, hele virksomheden arbejder og lærer på. [AI på arbejdspladsen](/emner/ai-paa-arbejdspladsen) AI-projekter, kvalitetssikring, oplæring, tilbud, faglig kontrol, stopgrænser, prøvesager og menneskelig overtagelse. Forstå hvordan AI kan gøre erfarne fagfolk til en skjult kapacitetsgrænse, og hvordan deres dømmekraft kan gøres genbrugelig uden at automatisere ansvaret væk. - [Computerworld om AI-kompetence og faglig kompetence](https://www.computerworld.dk/art/297079/du-risikerer-at-ai-transformationen-foerer-til-ringere-resultater-hvis-du-overser-denne-vigtige-detalje) - [Brokk & Sindre om at lære robotten arbejdet](https://brokk-sindre.dk/aktuelt/robotten-er-ikke-fordelen) - [Brokk & Sindre om at vælge arbejdet før modellen](https://brokk-sindre.dk/aktuelt/vaelg-arbejdet-foer-ai-modellen) - [Brokk & Sindre om ledelsestid som første investering](https://brokk-sindre.dk/aktuelt/ai-frigoer-ikke-ledelsestid-foerst)