Teknologien kan være den samme. Men hvor villig du er til å stole på den, kan være noe helt annet.
Dette er en av innsiktene fra masteroppgaven til Adam Bukový, End-user trust in AI copilots embedded in ERP systems: A case study, som ble gjennomført ved Høgskolen i Molde under veiledning av Bjørn Jæger, Swati Aggarwal og Terje Andersen. I oppgaven undersøkte vi tillit til KI-assistenter som er bygget inn i forretningssystemene som virksomheter bruker til å håndtere aktiviteter som innkjøp og økonomi. Slike assistenter kalles ofte «copiloter». Vi tok utgangspunkt i SAP Joule.
Bukový intervjuet seks fagpersoner: Fire som arbeidet med implementering av SAP, og to ledere. De fleste hadde begrenset direkte erfaring med Joule. Svarene deres beskriver derfor i stor grad forventninger, basert på erfaring med SAP og andre KI-verktøy. Dette var en liten studie av menneskers oppfatninger, ikke en test av hvor godt teknologien faktisk fungerer. Med hverdagsspråk kan vi si at vi stilte et enkelt spørsmål: Når vil mennesker godta hjelp fra KI, og når vil de ønske at et menneske kontrollerer arbeidet?
Svarene avdekker en spenning mange av oss kanskje vil kjenne igjen. Et kjent merkenavn kan få verktøyet til å fremstå som mer pålitelig. Noen av deltakerne forventet at en KI-assistent ville være til å stole på fordi den kom fra SAP og arbeidet med virksomhetens egne data. Men å ha tillit til selskapet bak et verktøy er ikke det samme som å kontrollere om et bestemt svar faktisk er riktig.
En av deltakerne oppsummerte balansen treffende: «Jeg har tillit – og jeg kontrollerer.»
Denne personen sammenlignet det å gi en oppgave til KI med å gi en oppgave til en kollega. Å delegere fjerner ikke behovet for å kontrollere om oppgaven var forstått og utført riktig. Den som delegerte, opplevde fortsatt at ansvaret lå hos den.
Andre beskrev andre utfordringer. En leder var komfortabel med å stole på KI til egen oppfølging av fakturaverdier, men ønsket at et menneske skulle kontrollere informasjon som skulle sendes til en tilsynsmyndighet eller et morselskap. Det avgjørende var altså ikke bare om KI var involvert. Det handlet om hva som kunne skje dersom svaret var feil.
Dette bidrar til å forklare hvorfor tillit til KI ikke er et enkelt ja-eller-nei-spørsmål. Vi kan ha tillit til et verktøy i én situasjon og samtidig ønske å kontrollere arbeidet i en annen. Erfaringene våre, oppgaven som skal løses, og de mulige konsekvensene av feil påvirker hvor mye ansvar vi er villige til å overlate til teknologien.
For arbeidsgivere er vår praktiske lærdom å gjøre spørsmålet om tillit konkret. Vis de ansatte hva assistenten kan gjøre. Forklar begrensningene. Gjør det mulig å undersøke informasjonen som ligger bak et svar. Avklar hvem som skal kontrollere viktige resultater, og hvem som kan hjelpe når noe går galt. Dette er forslag som springer ut av studien vår, ikke tiltak vi har dokumentert effekten av.
Når Forskningsdagene inviterer oss til å reflektere over tillit, gir KI oss et nyttig spørsmål fra hverdagen. Vi trenger ikke bare å spørre: «Stoler vi på dette verktøyet?» Vi kan også spørre: «Stoler vi på verktøyet til akkurat denne oppgaven – og hva bør vi kontrollere?»
Å kontrollere er ikke nødvendigvis et tegn på at tilliten har sviktet. Noen ganger er det nettopp slik vi tar ansvar for den tilliten vi gir.
Kronikken er skrevet av Adam Bukový, Swati Aggarwal, Bjørn Jæger, Terje Andersen og er en del av Forskningsdagene 2026, som foregår over hele landet i perioden 16.-27. september der temaet i år er «tillit». Kronikken ble først publisert i Romsdals Budstikke 28. september.