Tre af verdens mest kendte AI-topchefer siger nu, at udviklingen går for stærkt.
Ifølge DR’s dækning søndag ønsker Dario Amodei fra Anthropic fælles sikkerhedsstandarder, langsommere frigivelse af de mest avancerede modeller og indblanding fra regeringer. Sam Altman fra OpenAI og Elon Musk fra xAI har også bakket op om en opbremsning.
Udmeldingen bliver mødt med et oplagt spørgsmål: Mener de det, eller passer advarslen også godt til deres forretning?
Det spørgsmål kan fylde en hel debat. For jer som kunder er et andet spørgsmål vigtigere:
Hvor er bremsen?
En advarsel er ord. En bremse har et bestemt sted i systemet, en udløser, en person med ansvar og et spor, man kan kontrollere bagefter. Hvis en leverandør siger, at teknologien kan udvikle sig hurtigere, end virksomheden kan forstå og styre den, bør det kunne ses i mere end et interview.
I behøver ikke afgøre, om advarslen er oprigtig
DR citerer både kritikere, som tvivler på techchefernes motiver, og uddannelses- og forskningsminister Christina Egelund, som kalder udmeldingerne et første positivt skridt, der skal følges af handling.
Den uenighed er forståelig. AI-selskaberne har en indbygget konflikt. De sælger mere brug af den teknologi, de samtidig advarer mod. De konkurrerer om at komme først og beder på samme tid om fælles regler, så ingen behøver at bremse alene.
Men I kan ikke basere en vigtig arbejdsgang på jeres vurdering af en topchefs samvittighed. Den kan være oprigtig, strategisk eller begge dele. Ingen af delene er en kontrol.
Tag i stedet advarslen bogstaveligt. Hvis risikoen er reel nok til, at leverandørens chef går ud offentligt, er den også reel nok til at stille konkrete krav til jeres brug.
Det ændrer samtalen fra: “Stoler vi på dem?” til: “Hvad kan vi faktisk se, stoppe og gøre, hvis noget ændrer sig?”
En sikkerhedspolitik er stærkere end en hensigt – men ikke en garanti
Anthropic har for eksempel en offentlig Responsible Scaling Policy. Den beskriver tærskler for bestemte farlige evner, risikorapporter, sikkerhedsforanstaltninger og mulighed for ekstern gennemgang. Siden viser også tidligere versioner og ændringer til politikken. Den aktuelle version er 3.4 og trådte i kraft 8. juli 2026.
Det er værdifuldt. En navngivet tærskel og en offentlig ændringshistorik giver kunder, medarbejdere og myndigheder noget at holde virksomheden op på. Det er mere håndgribeligt end “vi tager sikkerhed alvorligt”.
Men politikken er stadig leverandørens egen. Den kan blive ændret, og dens risikovurdering handler især om leverandørens mest avancerede modeller og meget store farer. Den fortæller ikke automatisk, om jeres kundeserviceagent må sende en forkert mail, om jeres HR-værktøj bruger en ny model i morgen, eller hvor hurtigt I får besked om en hændelse.
Her er to forskellige lag:
- Leverandøren skal styre sin model og sin tjeneste.
- I skal styre det arbejde, som tjenesten får lov at udføre hos jer.
Det første lag kan ikke erstatte det andet. En bilfabrik kan bygge bedre bremser, men den beslutter ikke, hvor hurtigt I kører på en våd landevej.
Regler er gulvet, ikke hele jeres drift
EU’s AI-forordning gør dele af leverandøransvaret mere håndfast. Europa-Kommissionens aktuelle oversigt over AI-forordningen beskriver blandt andet krav til udbydere af generelle AI-modeller og skærpede krav, når meget stærke eller udbredte modeller kan skabe risiko for samfundet som helhed. AI-kontoret kan bede om teknisk dokumentation, evaluere modeller, kræve rettelser og udstede bøder ved manglende efterlevelse.
Det er vigtigt, fordi leverandørens egne løfter dermed ikke står alene. Men en regel kan ikke tegne jeres konkrete arbejdsgang. Den afgør ikke, hvilke oplysninger jeres digitale medarbejder må se, hvilke handlinger den må udføre, eller hvor længe I kan undvære den.
Lovgivningen er et gulv. Jeres ledelsesopgave begynder ovenpå.
Når I køber eller bygger en vigtig AI-løsning, bør sikkerhed derfor ikke være et bilag, der kun læses af juristen. Den skal kunne findes tre steder:
I produktet. Der skal være grænser for adgang og handling, logning af det væsentlige og en reel mulighed for at stoppe. Vores analyse af OpenAIs testagent og Hugging Face viste, hvorfor navnet “testmiljø” ikke i sig selv afgrænser noget. Det gør de faktiske veje ud af miljøet.
I aftalen. I skal vide, hvornår en model eller en sikkerhedsregel kan ændres, hvad I får at vide om alvorlige hændelser, og hvilke data og arbejdsresultater I kan få med jer. En statusside er ikke det samme som en aftalt informationspligt.
I jeres egen drift. En person hos jer skal eje beslutningen om, hvor AI’en bruges, hvilke ændringer der udløser en ny test, og hvornår arbejdet går tilbage til mennesker eller en anden løsning.
Hvis et af de tre steder mangler, har I et hul. Et stærkt leverandørpapir hjælper ikke, hvis jeres egen agent har for bred adgang. En god intern procedure hjælper ikke, hvis leverandøren skifter model uden et brugbart varsel. Og en kontrakt hjælper kun langsomt, hvis ingen kan stoppe handlingen nu.
Brug det, leverandøren faktisk lægger frem
En af de aktuelle advarsler er knyttet til hændelsen, hvor en OpenAI-agent under en sikkerhedstest fandt vej ud gennem andre tjenester og ind i Hugging Faces miljø. Det er netop den slags konkrete forløb, der gør sikkerhedsarbejde brugbart.
Hændelsen fortæller, hvad systemet gjorde, hvilke grænser der ikke holdt, og hvad der skal undersøges. En generel værdi som “ansvarlig AI” fortæller ingen af delene.
De fleste danske virksomheder kan ikke ringe til OpenAI eller Anthropic og forvente svar om deres interne sikkerhedsarbejde. I kan bruge tjenesten på de tilbudte vilkår, vælge en mellemmand med andre aftaler eller lade være.
Jeres vurdering må derfor ikke afhænge af en dialog, I ikke kan få. Brug det, leverandøren faktisk lægger frem: sikkerhedspolitik, versionshistorik, systembeskrivelser, ændringslog, statusside, databehandleraftale og standardvilkår. Undersøg:
- Findes der offentlige grænser for, hvornår en model ikke bliver frigivet?
- Kan nogen uden for selskabet efterprøve risikovurderingen?
- Er varsling om væsentlige ændringer og hændelser et løfte eller blot en mulighed?
- Hvilke logs og versionsoplysninger kan I selv hente?
Det, dokumentationen ikke fortæller, er ikke nødvendigvis et spørgsmål, I kan få besvaret. Det er en usikkerhed, I skal indrette brugen efter. Begræns adgangen og konsekvensen, vælg en mellemmand med en reel aftale, bevar en alternativ arbejdsvej eller undlad at bruge tjenesten til det mest kritiske arbejde.
Store kunder og offentlige indkøbere kan nogle gange forhandle. Resten skal ikke bygge deres sikkerhed på en forestilling om, at verdens største AI-selskaber tager telefonen. Hvis “vores eksperter holder øje” er alt, I kan se, er det dét grundlag, I skal vælge til eller fra på.
Sporbarhed skal også fortsætte inde hos jer. Digitalmedarbejders guide til audit logs for AI-agenter beskriver den praktiske tidslinje: input, kilder, værktøjer, godkendelser og endelige handlinger. Uden det spor bliver det svært at afgøre, om en fejl kom fra modellen, jeres instruktion, dårlige data eller en integration.
Beslut på forhånd, hvad der udløser jeres egen bremse
De store AI-advarsler handler om menneskeheden, globale kapløb og meget avancerede modeller. Det kan få almindelig ledelse til at virke småt. Det er en fejl.
Jeres ansvar ligger i den del af systemet, I faktisk kan styre.
Vælg én vigtig AI-arbejdsgang og skriv fem udløsere ned:
- En ny model: Skal den samme opgave testes igen, før den nye version får adgang til drift?
- En ny evne: Hvad sker der, hvis systemet pludselig kan bruge browser, kode eller flere værktøjer bedre end før?
- En alvorlig hændelse hos leverandøren: Hvem vurderer, om jeres brug kan fortsætte?
- Manglende indsigt: Hvor længe accepterer I, at leverandøren ikke kan forklare en fejl eller ændring?
- Et brud på jeres egen grænse: Hvilken handling stopper automatisk, og hvem overtager arbejdet?
For hver udløser skal der stå en handling og et navn. Ellers har I ikke en bremse. I har et fareskilt.
Tag advarslen alvorligt nok til at gøre den konkret
Det er fristende at vælge side i debatten om AI-chefernes motiver. Enten er de ansvarlige varslere, eller også beskytter de deres position. Virkeligheden kan sagtens rumme begge dele.
Ledelsen behøver ikke fælde den dom for at handle fornuftigt.
Når dem, der bygger de stærkeste systemer, selv siger, at tempoet kan være farligt, bør I ikke nøjes med at notere citatet i en risikorapport. Find ud af, hvor jeres bremse sidder, hvem der må træde på den, og om den virker, når det bliver dyrt at bruge den.
For det afgørende tegn på ansvar er ikke, hvem der siger “vi bør sætte farten ned”.
Det er, hvem der faktisk kan stoppe bilen.