I godkendte et AI-værktøj i går. I dag hedder det det samme, men forbindelsen bag navnet peger et andet sted hen.
Det er det enkle eksempel i en ny Computerworld-klumme om værktøjer til AI-agenter. Klummen henviser til en endnu ikke fagfællebedømt undersøgelse af det officielle register over såkaldte MCP-servere. Det er programmer, som lader en AI-assistent bruge eksempelvis filer, databaser og mail. I undersøgelsen havde mange registreringer ændret beskrivelse, pakkeoplysninger eller adresse, selv om navnet var det samme.
Det kan læses som en historie om it-sikkerhed. Men for ledelsen ligger der en større forandring gemt i den:
En digital medarbejder kan få ændret sine evner, redskaber og rækkevidde, uden at I har besluttet at ændre jobbet.
Når den digitale medarbejder løser rigtigt arbejde for kunder eller kolleger, er en teknisk opdatering derfor ikke bare vedligeholdelse. Den kan være en ændring af virksomhedens kapacitet.
Jobbet bor ikke i modellen
Det er let at tale om en digital medarbejder, som om den var lig med én AI-model. Så kan virksomheden forsøge at fastholde en bestemt modelversion og tro, at arbejdet dermed står stille.
Men rollen består af flere dele. Modellen forstår og vurderer. Instruktionen beskriver arbejdet. Kilderne giver den noget at vide. Værktøjerne lader den handle. Adgangen afgør, hvor langt den kan nå. Og menneskene omkring den bedømmer resultatet og tager over ved undtagelser.
Ændrer én af de dele sig, kan jobbet ændre sig.
En ny model kan skrive et bedre svar, men også fortolke en uklar besked anderledes. En opdateret datakilde kan gøre svaret mere aktuelt, men også fjerne et felt, som en kontrol byggede på. Et værktøj kan få en ny funktion eller en ny adresse. En adgang kan blive udvidet, så agenten ikke længere nøjes med at foreslå en handling, men kan udføre den.
Det er ikke et argument for, at alle ændringer er farlige. Mange er nyttige og helt almindelige. Pointen er, at navnet på rollen ikke fortæller, om arbejdet stadig er det samme.
AI gør en opdatering til en mulig organisationsændring
Al software bliver opdateret. Det særlige ved AI-roller er, at flere bevægelige dele mødes i en løsning, som fortolker åbne situationer og kan handle på dem.
Når et fakturasystem får en ny farve, ændrer det sjældent virksomhedens bemanding. Når en agent pludselig kan forstå flere undtagelser, bruge et nyt værktøj eller arbejde hurtigere, kan ledelsen derimod få lyst til at ændre bemanding, svartider og kundeløfter. Hvis den nye version opfører sig dårligere i de vanskelige sager, kan den samme plan slå revner.
Derfor er det ikke nok at spørge, om teknikken stadig virker. I skal vide, om den digitale rolle stadig kan bære det arbejde, virksomheden har lagt over på den.
Det er også grunden til, at vores tilgang begynder med at vælge arbejdet før AI-modellen. Hvis I ejer prøvesagerne, kvalitetskravene og reservevejen, kan I vurdere en ændring på det arbejde, der faktisk skal lykkes. Hvis I kun ejer leverandørens navn, må I tage leverandørens ord for, at alt stadig er i orden.
I skal vælge, hvor hurtigt hvert arbejde må forandre sig
Den oplagte reaktion er at fryse alt. Den holder ikke længe. Så mister I forbedringer, sikkerhedsrettelser og lavere priser, og på et tidspunkt udfaser leverandøren alligevel den gamle version.
Den modsatte reaktion er at lade alle opdateringer flyde direkte ind i driften. Så får I fart, men virksomheden kan komme til at love stabilitet oven på en rolle, der ændrer sig fra uge til uge.
Ledelsesvalget er derfor ikke mellem forandring og stilstand. Det er et valg af forandringstempo.
Nogle AI-arbejdsgange kan leve i en hurtig bane. En intern idépartner eller et researchværktøj må gerne få nye evner hurtigt, fordi et menneske læser resultatet, og en fejl kan rettes, før den får betydning.
Andre roller bør have en roligere bane. Hvis en digital medarbejder svarer kunder, flytter penge, ændrer data eller indgår i et løfte om leveringstid, skal en væsentlig ændring først vise, at rollen stadig kan løse jobbet.
Det kræver ikke, at direktionen godkender hver ny version. Det kræver, at ledelsen beslutter, hvilke dele af forretningen der må følge leverandørens tempo, og hvilke der kun må ændre sig på virksomhedens egne betingelser.
Prøv rollen, ikke kun den nye del
Anthropic skriver i sin aktuelle modeloversigt, at alle virksomhedens model-id’er i API’et er låste øjebliksbilleder. Det er nyttigt, fordi en bestemt model kan fastholdes og sammenlignes.
Men selv en fastlåst model fastholder ikke hele den digitale medarbejder. Kilder, instruktioner, værktøjer, adgang og systemerne omkring den kan stadig ændre sig.
Derfor bør en væsentlig ændring prøves på rollen som helhed:
- Kan den stadig løse de almindelige sager godt nok?
- Opdager den stadig de situationer, hvor et menneske skal tage over?
- Bruger den de aftalte kilder og handlinger?
- Holder den samlede pris og kontroltid stadig?
- Kan I gå tilbage eller fortsætte på en anden måde, hvis ændringen ikke holder?
Det er ikke en stor godkendelsesmaskine. Et lille, fast sæt virkelige sager kan vise langt mere end versionsnummeret alene.
I går skrev vi, at den næste AI-model ikke er en bemandingsplan. Den samme regel gælder efter udgivelsen: En opdatering bliver først ny driftskapacitet, når den samlede rolle har bevist, at den kan bære arbejdet.
Stabilitet er noget, I bygger omkring forandringen
Virksomheder kan ikke styre alle ændringer hos globale AI-leverandører. De kan heller ikke få et særligt svar på hver usikkerhed. Men I kan styre, hvad en ændring får lov til at betyde i jeres egen forretning.
I kan holde forsøg adskilt fra den kapacitet, som kunder og kolleger regner med. I kan gemme de sager, som afslører, om rollen stadig virker. I kan gøre det klart, hvem der må flytte en ændring ind i driften. Og I kan bevare en vej videre, når en model, et værktøj eller en forbindelse ændrer sig.
Det lyder måske mindre spændende end en ny model med højere score. Men det er her, virksomheden gør AI til sin egen kapacitet i stedet for lånt fart.
Spørgsmålet er derfor ikke bare, om I har godkendt AI-værktøjet.
Spørgsmålet er, om I ved, hvilken version af jobbet virksomheden lover, og hvem der må ændre den.