Title: AI-data skal styres efter konsekvens | Brokk & Sindre Description: Når AI-agenter kan handle, er de vigtigste data ikke kun dem, I holder hemmelige. Lagerstatus, priser og leveringsdatoer kan også flytte penge og kundeløfter. Canonical: https://brokk-sindre.dk/aktuelt/ai-goer-almindelige-data-forretningskritiske # AI gør helt almindelige data forretningskritiske Virksomheder er vant til at beskytte det følsomme: personnumre, helbredsoplysninger, løn, kontrakter og forretningshemmeligheder. Det giver god mening. Men en AI-agent skaber en ny slags vigtig data. En lagerstatus er sjældent hemmelig. En leveringsdato er ikke nødvendigvis personfølsom. En rabatgrænse kan ligne et almindeligt felt i et salgssystem. Men hvis en AI-agent bruger feltet til at love kunden en levering, sænke en pris eller bestille nye varer, kan en enkelt forkert værdi flytte både penge og kundeløfter. Virksomheder er vant til at beskytte det følsomme: personnumre, helbredsoplysninger, løn, kontrakter og forretningshemmeligheder. Det giver god mening. Men en AI-agent skaber en ny slags vigtig data. En lagerstatus er sjældent hemmelig. En leveringsdato er ikke nødvendigvis personfølsom. En rabatgrænse kan ligne et almindeligt felt i et salgssystem. Men hvis en AI-agent bruger feltet til at love kunden en levering, sænke en pris eller bestille nye varer, kan en enkelt forkert værdi flytte både penge og kundeløfter. Derfor bør ledelsen ikke kun spørge: **Hvilke data må AI se?** I bør også spørge: **Hvilke data får lov til at udløse en handling?** De to spørgsmål peger ikke altid på de samme oplysninger. ## Det kritiske ligger i konsekvensen I en ny [Computerworld-klumme om AI og datastyring](https://www.computerworld.dk/art/297002/saadan-styrer-du-ai-uden-at-bremse-forretningen) beskriver Emmanouil Piperakis, hvordan Kaizen Gaming har koncentreret sit arbejde om de data, der driver beslutninger, og som AI-agenter kan handle ud fra. Ifølge hans beskrivelse fik virksomheden på under et år overblik over 12 af 13 dataområder ved at lade et lille hold finde de kritiske data og få dem godkendt af de mennesker, der kender dem i hverdagen. Det er en partskilde og en klumme, ikke en uafhængig måling af effekten. Men den peger på et vigtigt skift: Data bliver ikke kun kritiske på grund af det, de afslører. De kan også blive kritiske på grund af det, de sætter i gang. Forestil jer fire felter: - **Lagerstatus** kan få en indkøbsagent til at bestille 500 enheder. - **Kundetype** kan få en salgsagent til at give en særlig rabat. - **Forfaldsdato** kan få en økonomiagent til at rykke eller betale. - **Leveringsdato** kan få en serviceagent til at love noget, driften ikke kan holde. Ingen af felterne behøver være blandt virksomhedens bedst beskyttede hemmeligheder. Alligevel kan de være afgørende for omsætning, likviditet, lagerbinding og tillid. Det betyder ikke, at følsomme data bliver mindre vigtige. Det betyder, at den gamle liste ikke er lang nok. ## AI gør læsedata til handlingsdata I mange systemer har data først været noget, et menneske læste. Medarbejderen kunne opdage, at lagerstatus så mærkelig ud, sammenholde den med en mail og ringe til lageret, før kunden fik et svar. En AI-agent kan samle de samme oplysninger, fortolke en åben situation og handle på få sekunder. Det er netop en del af værdien. Men det ændrer også dataenes rolle. De går fra at være grundlag for en samtale til at være brændstof for en handling. Det er her, almindelig automatisering og agentisk AI ikke er helt det samme. En fast regel kan kontrolleres én vej ad gangen: Hvis lageret er under ti, så bestil tyve. En agent kan derimod kombinere lagerstatus, en leverandørmail, tidligere salg, pris og en instruktion om at undgå udsolgte varer. Den kan vælge mellem flere handlinger og møde situationer, som ingen har skrevet som en præcis regel. Derfor kan I ikke nøjes med at godkende modellen eller beskytte databasen. I skal forstå den samlede vej fra oplysning til handling. [NISTs ramme for AI-risiko](https://www.nist.gov/itl/ai-risk-management-framework) er bygget op omkring, at risiko skal håndteres i den konkrete brug og i forhold til mennesker, organisationer og samfund. Det er et nyttigt princip her: Den samme oplysning kan være harmløs i en rapport og forretningskritisk i en agent, der må ændre pris, lager eller kundens sag. ## I vores arbejde er adgang og mandat ikke det samme I arbejdet med digitale medarbejdere ser vi, at den tekniske adgang kun er den ene halvdel af rollen. En agent kan have adgang til et system uden at have mandat til at bruge alle oplysninger til alle handlinger. Omvendt kan ledelsen have givet et klart ansvar, som agenten ikke kan løse, fordi den mangler den nødvendige adgang. Det er også grunden til, at vi tidligere har skrevet, at [en digital medarbejder kan ændre sig uden at skifte navn](https://brokk-sindre.dk/aktuelt/jeres-digitale-medarbejder-kan-aendre-sig-uden-at-skifte-navn). Rollen består ikke kun af modellen. Den består også af kilder, værktøjer, adgang, instruktioner og menneskelig overtagelse. Når en ny datakilde eller handling kobles på, kan jobbet ændre sig, selv om navnet på agenten er det samme. Dagens ekstra skridt er dette: **I skal ikke kun styre agentens adgang efter, hvor hemmelige dataene er. I skal styre dem efter, hvad dataene kan få agenten til at gøre.** Hvis en prisfil kun bruges til en intern analyse, er en fejl ubehagelig og kan måske opdages før brug. Hvis samme fil får en agent til at ændre tusind priser i webshoppen, er den blevet en del af virksomhedens handlekraft. Det er ikke længere kun dataejerens problem. Det er et spørgsmål om, hvilke beslutninger virksomheden vil lade AI udføre, og hvor store konsekvenser ledelsen vil acceptere uden menneskelig kontrol. ## Et grønt system kan stadig træffe en rød beslutning Virksomheder måler ofte datakvalitet med tekniske tegn: Feltet er udfyldt. Formatet er korrekt. Kilden er tilgængelig. Synkroniseringen kørte i nat. Alt kan stå grønt, mens beslutningen stadig bliver forkert. En lagerstatus på 1.000 kan være korrekt formateret, men tre timer for gammel. En kundekategori kan være rigtig i CRM, men forkert til den konkrete aftale. En leveringsdato kan være leverandørens bedste bud, men ikke et løfte, virksomheden vil give videre. Når mennesker bruger data, ligger en del af kontrollen i erfaringen: “Det tal plejer ikke at se sådan ud.” “Den kunde har en særskilt aftale.” “Vi lover ikke fredag, før produktionen har bekræftet.” Når AI overtager mere af vejen frem til handlingen, skal de vurderinger enten ind i arbejdet eller blive til tydelige stop, hvor et menneske tager over. Det er ikke en opgave om at gøre alle data perfekte. Det ville standse forretningen. Det er en opgave om at finde de få oplysninger, hvor en fejl kan få agenten til at gøre noget dyrt, svært at rulle tilbage eller synligt for kunden. ## Ledelsen skal vælge konsekvensgrænserne Datafolk, jurister, sikkerhedsfolk og procesejere kan hjælpe med at finde felterne og bygge kontrollen. Men de kan ikke alene beslutte, hvor meget forretningsmæssig risiko virksomheden vil tage. Det valg hører hos ledelsen. I kan begynde med fire spørgsmål til hver AI-rolle, der må handle: - **Hvilke oplysninger kan ændre agentens handling?** Ikke alle data, kun dem der kan flytte beslutningen. - **Hvad kan handlingen ændre i forretningen?** Pris, betaling, lager, kundeløfte, rettighed, bemanding eller noget andet. - **Hvor stor en konsekvens må passere uden et menneske?** Et beløb, et antal kunder, en tidsperiode eller en type løfte. - **Hvem kan stoppe og rette?** Både når dataene er forkerte, og når de er rigtige, men situationen er usædvanlig. Det samme princip gælder betalinger. I vores analyse af AI-agentbetalinger var pointen, at [mandatet skal kunne ses og håndhæves i betalingsvejen](https://brokk-sindre.dk/aktuelt/naar-ai-kan-betale-skal-mandatet-foelge-med). En agent bør ikke få et menneskes brede firmakort og kun en tekstbesked om at passe på. Men pengene er bare det tydeligste eksempel. Et forkert kundeløfte, en uheldig prisændring eller en stor lagerordre kan være lige så virkelig for virksomheden. ## Beskyt det, der kan flytte forretningen AI-styring bliver let til en kamp mellem to dårlige yderpunkter. Enten låser virksomheden alt ned, fordi ethvert datafelt måske kan bruges forkert. Eller også åbner den for agenternes værktøjer og håber, at de eksisterende datakontroller er nok. En bedre vej er at styre efter konsekvens. Lad agenten få bred plads til at læse, foreslå og prøve, hvor en fejl er let at opdage og rette. Læg stærkere kontrol omkring de data og handlinger, der kan flytte penge, ændre rettigheder, binde lager eller skabe et løfte til kunden. Så bliver datastyring ikke et tæppe af nye godkendelser. Den bliver en afgrænsning af virksomhedens handlekraft. Den største fejl er at tro, at jeres vigtigste AI-data allerede står på listen over fortrolige oplysninger. Når AI kan handle, kan et helt almindeligt felt være det, der flytter forretningen. [AI på arbejdspladsen](/emner/ai-paa-arbejdspladsen) Datastyring, adgang, agentmandat, priser, betalinger, lager, indkøb, kundeløfter og menneskelig kontrol. Forstå hvorfor almindelige data bliver forretningskritiske, når AI-agenter kan bruge dem til at handle, og hvordan ledelsen styrer efter konsekvens. - [Computerworld om AI og kritiske data](https://www.computerworld.dk/art/297002/saadan-styrer-du-ai-uden-at-bremse-forretningen) - [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework) - [Brokk & Sindre om ændringer i digitale medarbejderes rolle](https://brokk-sindre.dk/aktuelt/jeres-digitale-medarbejder-kan-aendre-sig-uden-at-skifte-navn) - [Brokk & Sindre om mandat i betalingsvejen](https://brokk-sindre.dk/aktuelt/naar-ai-kan-betale-skal-mandatet-foelge-med)