På to år er danskernes forventninger til AI faldet markant.
For to år siden regnede omtrent halvdelen med, at kunstig intelligens ville gavne mennesker som dem selv, skabe højere vækst og sikre bedre velfærd. Nu er andelen nede omkring en tredjedel. Det viser en ny måling blandt knap 2.000 danskere, som TrygFonden har fået gennemført, ifølge Politikens omtale.
Det er fristende at kalde det et kommunikationsproblem. Måske har vi ikke forklaret mulighederne godt nok. Måske skal ledelsen fortælle en mere positiv historie.
Men artiklen peger på en mere besværlig forklaring: Dårlige erfaringer ser ud til at have næret skepsissen.
Hvis det er rigtigt, hjælper endnu en begejstret præsentation ikke meget. I kan ikke tale mennesker til tillid, hvis deres møde med teknologien giver dem grund til det modsatte.
Skepsis kan være vigtig information
Målingen handler om danskerne generelt. Den beviser ikke, at medarbejderne i jeres organisation eller kunderne i jeres virksomhed mener det samme. Men den er et tydeligt signal om, at AI ikke længere møder et tomt lærred.
Mennesker kommer med erfaringer. En chatbot, der ikke forstår spørgsmålet. Et automatisk afslag uden en brugbar forklaring. Et AI-resumé med fejl, som modtageren selv må rydde op i. En ny arbejdsgang, som skulle spare tid, men flyttede kontrollen over på den enkelte medarbejder.
Når en medarbejder siger, at et AI-system ikke er til at stole på, kan det være modstand mod forandring. Det kan også være en præcis beskrivelse af noget, ledelsen ikke selv har set.
Derfor bør skepsis ikke registreres som et holdningsproblem, der skal behandles med mere intern kommunikation. Den bør behandles som et muligt driftssignal:
- Hvilken konkret oplevelse ligger bag?
- Hvad gik galt?
- Kunne personen se, hvorfor systemet handlede, som det gjorde?
- Kunne fejlen rettes, og blev den faktisk rettet?
Det er ikke et argument for, at enhver bekymring skal stoppe al brug af AI. Det er et argument for at undersøge den, før I kalder den irrationel.
Vi straffer maskinens fejl hårdt
Vores reaktion på algoritmiske fejl er undersøgt længe før den aktuelle bølge af generativ AI.
I en række forsøg fandt forskerne Berkeley Dietvorst, Joseph Simmons og Cade Massey, at mennesker kunne fravælge en algoritme efter at have set den begå fejl, selv når algoritmen samlet set forudsagde bedre end mennesker. De kaldte fænomenet algorithm aversion: Vi mister hurtigt lysten til at bruge en maskine, når vi har set den tage fejl.
Det er ikke mærkeligt. En menneskelig kollega får ofte lov til at være ny, usikker eller uoplagt. Et digitalt system bliver derimod let præsenteret som præcist, effektivt og skalerbart. Når det så fejler i en enkel sag, falder ikke bare svaret til jorden. Det gør løftet også.
Forskernes senere forsøg viste noget vigtigt: Deltagerne var mere villige til at bruge en ufuldkommen algoritme, når de fik lov til at ændre dens forslag en smule. De følte større tilfredshed med processen og valgte oftere algoritmen igen. Selv en lille, reel indflydelse gjorde en forskel.
Det betyder ikke, at enhver bruger skal kunne omskrive enhver AI-beslutning. En kreditvurdering eller en klinisk vurdering kan ikke gøres ansvarlig med en symbolsk skydeknap. Pointen er enklere: Mennesker har lettere ved at arbejde med et ufuldkomment system, når de ikke bliver gjort magtesløse over for det.
Tillid er ikke det samme som begejstring
Målet bør ikke være, at flest muligt siger, de stoler på AI. Blind tillid kan være lige så farlig som blind modstand.
Den brugbare tillid er afmålt. Medarbejderen ved, hvornår systemet plejer at være godt, hvornår resultatet skal kontrolleres, og hvad der sker, hvis noget går galt. Kunden ved, at AI indgår i mødet, og kan få fat i et menneske, når sagen ikke passer i kassen. Ledelsen kan se fejlene uden at opdage dem gennem en klage på LinkedIn.
NIST’s frivillige AI Risk Management Framework beskriver gennemsigtighed som adgang til den information, der passer til personens rolle og situation. Rammeværket peger også på, at brugere og berørte mennesker skal kunne rapportere problemer og klage over et systems resultat, og at deres tilbagemeldinger skal indgå i evalueringen.
Det er et godt korrektiv til den klassiske lancering: Først bygger vi systemet. Så fortæller vi organisationen, hvorfor det er godt.
Vend rækkefølgen. Lad de mennesker, der kender arbejdet og bliver ramt af resultatet, være med til at finde fejlene, mens løsningen stadig kan ændres.
Byg erfaringen, som I ønsker tilliden skal følge
Tillid skabes ikke af én stor beslutning. Den vokser eller forsvinder gennem mange små møder med systemet.
Det stiller fire konkrete krav til jeres første udrulning.
Begynd med et tydeligt løfte. Fortæl præcist, hvilket arbejde AI’en skal hjælpe med, og hvad den ikke skal afgøre. “Vi bliver en AI-drevet virksomhed” kan ingen holde jer op på. “Systemet foreslår kategorier på indkomne sager, men lukker dem ikke” kan både medarbejdere og ledelse kontrollere.
Gør indflydelsen virkelig. En medarbejder skal kunne rette et forslag, markere en forkert kilde og sende en undtagelse videre uden at arbejde uden om systemet. En kunde skal kunne komme ud af den automatiske vej, når sagen kræver et menneske. Hvis indflydelsen kun består i en smiley efter samtalen, har I ikke delt kontrollen.
Vis, at fejl fører til ændringer. Saml ikke bare feedback i et dashboard. Fortæl, hvilken fejl I fandt, hvad I ændrede, og om rettelsen virkede. Nogle fejl ligger i modellen. Andre ligger i en uklar instruktion, en gammel datakilde eller en dårlig arbejdsgang. Brugerne behøver ikke en teknisk afhandling, men de skal kunne se, at det nytter at sige noget.
Gør de alvorlige fejl dyre i jeres egen måling. En høj gennemsnitsscore må ikke skjule, at systemet sendte til den forkerte modtager, fortsatte efter en stopregel eller brugte en kilde, det ikke måtte bruge. Digitalmedarbejders guide til at måle kvaliteten af en digital medarbejder viser en praktisk vej: Bedøm opgave, kilder, mandat, aflevering og stopadfærd hver for sig.
Mål på erfaringen, ikke kun på brugen
En stigende brugsprocent ser flot ud. Den kan også skjule tvang, vane eller mangel på alternativer.
Hvis I vil vide, om tilliden bliver mere velfortjent, skal I følge det, der sker omkring brugen:
- Hvor ofte retter medarbejdere systemets forslag?
- Hvilke fejl vender tilbage?
- Hvor mange forlader den automatiske vej og beder om et menneske?
- Hvor lang tid går der fra en fejl bliver meldt, til noget er ændret?
- Bliver systemet brugt i de sager, det er bygget til, eller også dér, hvor det burde stoppe?
Tallene skal læses sammen med konkrete sager. Ti tusind problemfrie svar kan være gode nyheder. De kan også være ti tusind helt enkle spørgsmål, mens de svære kunder har opgivet undervejs.
Vores analyse af, hvorfor AI-fejl skal kunne rulles tilbage, handler om den tekniske og organisatoriske vej tilbage. Her er pointen den menneskelige side af samme sag: Når folk kan se fejlen, stoppe den og opleve, at den bliver rettet, får de en grund til at prøve igen.
I behøver ikke sælge AI til alle
Ledelsen har selvfølgelig en fortælling at levere. Medarbejdere og kunder skal vide, hvorfor teknologien bliver brugt, hvad den ændrer, og hvem der har ansvar. Tavshed skaber sit eget rygte.
Men fortællingen må følge virkeligheden.
Hvis I lover tidsbesparelse, mens medarbejderne overtager ekstra kontrolarbejde, bliver kommunikationen en del af problemet. Hvis I kalder en løsning sikker, men ingen kan forklare en konkret fejl, gør ordet “sikker” kun afstanden større. Og hvis den kritiske medarbejder bliver behandlet som en besværlig modstander, forsvinder næste fejl måske bare fra ledelsens synsfelt.
I behøver heller ikke overbevise alle på forhånd. Begynd med en afgrænset opgave, vis hvad systemet gør, og lad resultaterne bære en større del af argumentet. Tillid, der kræver en kampagne for at overleve den daglige erfaring, er ikke et aktiv. Det er en gæld.
Tag derfor den nye danske skepsis alvorligt uden at gøre den til en dom over al AI. Spørg ikke først, hvordan I får mennesker til at tro mere på teknologien.
Spørg, hvilken erfaring jeres løsning giver dem grund til at have.