CEO Perspectives: Introduktion til the AI Trust Stack

‍

I min seneste artikel skrev jeg om, hvorfor kunstig intelligens vil forandre professionelle serviceydelser – ikke blot ved at forbedre enkelte værktøjer, men ved at blive integreret i de arbejdsgange, hvor det professionelle arbejde udføres.

Det argument rejser et oplagt opfølgende spørgsmål: Hvis AI skal arbejde inden for revisions-, regnskabs-, skatte- og complianceprocesser, hvad kræver det så egentlig, for at den kan være troværdig i disse miljøer? Ikke troværdig i en generel forstand, men troværdig i den specifikke og krævende betydning, som fagfolk forventer. I mange brancher kan svaret ganske enkelt være nøjagtighed og effektivitet.

Professionelle serviceydelser er anderledes.

Resultaterne fra disse professioner anvendes og stoles på af kunder, tilsynsmyndigheder, långivere, investorer og kapitalmarkeder. Arbejdet skal være konsistent, forklarligt, dokumenteret og kunne gennemgås.

Med andre ord er intelligens alene ikke nok.

AI-systemer, der opererer i professionelle miljøer, skal også understøtte de betingelser, der gør det muligt at have tillid til arbejdet.

Det seneste år har jeg beskæftiget mig med denne udfordring. Det, jeg bliver ved med at vende tilbage til, er, at det ikke er ét enkelt problem. Det er et sammensat problem, som kræver, at flere elementer spiller sammen for at blive løst ordentligt.

Jeg er begyndt at omtale disse lag som AI Trust Stack.

Hvorfor AI har brug for en tillidsramme

De fleste samtaler om AI fokuserer forståeligt nok på, hvad modellerne kan – og det, de kan, er i sandhed bemærkelsesværdigt.

Store sprogmodeller kan generere tekst, analysere data og ræsonnere på tværs af kompleks information på måder, som var svære at forestille sig for blot få år siden.

Disse fremskridt repræsenterer et ekstraordinært spring i intelligens.

Men professionelt arbejde afhænger ikke kun af intelligens.

For at arbejde kan anses for troværdigt, er fagfolk afhængige af mere end blot et kompetent resultat. De er afhængige af systemer, der giver kontekst for det udførte arbejde, struktur for hvordan opgaver gennemføres, dokumentation af beviser og beslutninger samt styring og kontrol i alle faser.

Disse elementer er den mekanisme, der gør, at professionelle konklusioner opnår den nødvendige troværdighed – over for kunder, tilsynsmyndigheder og de markeder, der prissætter risiko på baggrund af dem.

Når AI begynder at indgå i professionelle arbejdsgange, gælder de samme krav.

Det betyder, at fremtiden for AI i professionelle serviceydelser ikke kun vil blive formet af, hvor gode modellerne er, men også af de systemer, der omgiver dem.

Lagene i AI Trust Stack 

AI Trust Stack er min måde at kortlægge de komponenter, der skal være til stede, for at AI kan fungere effektivt i professionelle miljøer.

Fundamentet er intelligens – modellerne, ræsonneringssystemerne og de analytiske kapabiliteter, der gør det muligt for AI at behandle information, generere indsigter og udføre opgaver. Det er her, størstedelen af den nuværende samtale ligger, og med god grund – uden stærk intelligens er resten uden betydning.

Men intelligens i sig selv er passiv. Den kan generere svar, men den handler ikke. Derfor er det næste lag handlekraft.

Handlekraft er det, der gør det muligt for AI at handle – at planlægge, udføre og drive arbejdet fremad. Det er forskellen mellem et system, der blot reagerer på prompts, og et system, der kan udføre opgaver inden for definerede rammer. I professionelle miljøer betyder det ikke autonomi uden kontrol – det betyder styret udførelse. AI-agenter, der kan operere inden for begrænsninger, følge regler og handle meningsfuldt som en del af et større system.

Men selv handlekraft er ikke nok i sig selv. Derfor ligger workflow som det næste lag ovenover.

Professionelt arbejde foregår inden for strukturerede processer: planlægning af opgaver, indsamling af dokumentation, udførelse af analyser, dokumentation af resultater og gennemførelse af reviews. AI, der opererer uden for disse workflows som et selvstændigt værktøj frem for en integreret del af processen, vil altid være begrænset i, hvad det reelt kan bidrage med. Agenter skal være indlejret direkte i disse workflows for at skabe reel værdi.

Over workflow ligger kontekst.

Professionel dømmekraft er dybt kontekstafhængig. Den bygger på mange års opsamlet erfaring, faglige metoder, branchestandarder, virksomhedsspecifikke tilgange og tidligere opgaver. AI-systemer, der mangler denne kontekst, arbejder uden den information, som fagfolk anser for afgørende. De kan producere resultater, der ser imponerende ud ved første øjekast, men enhver erfaren praktiker vil kunne se, at der mangler noget væsentligt.

Øverst i stacken ligger governance.

Professionelt arbejde kræver tilsyn, dokumentation og ansvarlighed. Det kræver gennemsigtighed i, hvordan konklusioner er nået frem til, og hvordan beslutninger er truffet. I regulerede professioner er governance ikke et lag, man lægger ovenpå til sidst – det er en strukturel forudsætning. AI, der opererer i disse miljøer, skal understøtte det fra starten.

Tilsammen udgør disse fem lag AI Trust Stack.

Hvert lag bygger oven på det foregående, og hvert enkelt er nødvendigt. Fjerner man ét lag, holder strukturen ikke.

Hvorfor det er vigtigt

Efterhånden som anvendelsen af AI accelererer, eksperimenterer de fleste organisationer med værktøjer, der opererer på intelligenslaget. Disse værktøjer kan give imponerende demonstrationer af, hvad AI kan.

Men i professionelle miljøer begynder den egentlige udfordring først, når demonstrationen er slut.

• Hvordan får AI adgang til den rette information?

• Hvor udfører den sit arbejde?

• Hvordan bliver dens output gennemgået?

• Hvordan bliver beslutninger dokumenteret?

• Hvordan opretholdes ansvarlighed?

Uden de omkringliggende lag i AI Trust Stack har selv kraftfulde AI-systemer svært ved at blive integreret meningsfuldt i reelle professionelle workflows. De forbliver imponerende værktøjer i periferien af processen frem for betroede deltagere i den.

Derfor mener jeg, at den næste generation af professionel software ikke kun vil blive defineret af modellernes intelligens, men også af kvaliteten af de platforme, som modellerne opererer i.

Fra assistenter til agenter

En af de udviklinger, jeg finder mest interessante lige nu, er fremkomsten af AI-agenter – systemer, der kan udføre opgaver på tværs af workflows frem for blot at reagere på prompts.

Agenter kan hente information, udføre analyser, generere output og drive arbejdet fremad gennem en proces.

Potentialet her er reelt og betydeligt. Men for at agenter kan fungere effektivt i professionelle miljøer, skal de operere inden for AI Trust Stack.

De har brug for adgang til workflowet, forankring i konteksten fra tidligere arbejde samt governance-strukturer, der sikrer ansvarlighed i hvert trin.

Uden disse lag forbliver AI en assistent.

Med dem begynder AI at fungere som en deltager i professionelle workflows.

Samtalen fremadrettet

I de kommende uger vil jeg gå mere i dybden med hvert lag i AI Trust Stack.

Jeg vil se nærmere på, hvorfor intelligenslaget alene ikke er tilstrækkeligt, hvordan AI-agenter vil begynde at operere i professionelle workflows, hvorfor kontekst er så afgørende for AI’s performance i praksis, og hvordan governance og gennemsigtighed muliggør den type pålidelige AI-systemer, som branchen har brug for.

Kunstig intelligens vil uden tvivl ændre, hvordan professionelle serviceydelser fungerer.

Men den vigtigste udfordring fremadrettet er ikke blot at bygge mere intelligente systemer.

Det er at bygge systemer, hvor intelligens og tillid arbejder sammen.

Det er i sidste ende det, AI Trust Stack handler om.