KI gjør arbeidsdagen raskere. Men når stadig flere oppgaver overlates til språkmodeller, kan også ferdighetene forsvinne, advarer panelet på Arendalsuka.
(Arendalsuka): – Det er en naiv tanke å si at man bare outsourcer en oppgave, når man i realiteten outsourcer en ferdighet.
Det sa Dragana Trifunovic, AI Adoption Lead i Digital Norway, under en debatt om KI og ansvar på Arendalsuka.
Sammen med KI-professor Morten Goodwin og Microsofts kommunikasjonsdirektør Cornelia Bjørke-Hill diskuterte hun hva som skjer når ansatte går fra å gjøre oppgavene selv til å delegere dem til kunstig intelligens.
Generativ KI har på kort tid blitt en del av arbeidshverdagen.
Skriving er ett eksempel på en oppgave mange allerede har begynt å sette bort, noe Trifunovic mener kan få en pris.
– Jeg merker selv at det koster mer å formulere meg godt når jeg har blitt så vant til å bruke språkmodeller.
Samtidig flytter flaskehalsen seg: når KI produserer raskere, blir mer av arbeidet liggende i å kontrollere resultatet.
– KI skal være en sparringspartner, ikke en fasit. Vi mennesker er veldig tilbøyelige til å lete etter snarveier, sa Trifunovic.
Goodwin mener virksomheter bør tenke nøyere gjennom hvor i arbeidsprosessen KI får slippe til. Som forsker bruker han selv språkmodeller til å utfordre egne resonnementer, men vil helst gjøre den faglige jobben selv først.
– Snarere enn å bruke KI til å produsere, burde vi bruke den til å kvalitetssikre det vi selv produserer.
Problemet oppstår når KI lager svaret først, og menneskets rolle blir å godkjenne det i etterkant.
– Man må ha den grunnleggende kompetansen til å forstå svaret man får. Jeg må ta avgjørelsen først. Så kan KI hjelpe meg.
Forskning på automatiseringsbias peker på faren for at mennesker legger uforholdsmessig stor vekt på anbefalinger fra automatiserte systemer.
EUs AI Act stiller derfor krav om menneskelig kontroll ved høyrisikosystemer og trekker eksplisitt fram risikoen for overdreven tillit til KI-resultater.
Bjørke-Hill peker på at KI kan gi store gevinster i arbeidshverdagen, og trakk fram møtereferater som eksempel:
når Teams oppsummerer møtet, kan hun selv være mer til stede i diskusjonen.
Men hun mener gevinsten avhenger av at brukeren fortsatt har nok fagkompetanse til å oppdage feil.
– Jeg jobber mye raskere. Og hva gjør jeg med tiden jeg får til overs? Jeg bruker mer tid på kvalitetssikring enn tidligere.
Motsatt kan KI også bli en krykke.
– Slutter du å tenke og lar KI gjøre jobben, lærer du ingenting.
Velformulerte KI-svar kan gjøre feil vanskeligere å oppdage.
Microsoft erkjenner selv at generative modeller fortsatt kan produsere oppdiktet informasjon, såkalte hallusinasjoner.
Goodwin mener problemet har blitt mindre etter hvert som modellene er blitt bedre, men ikke borte.
– Utfordringen er at vi ikke vet når de havner i et kaninhull og prøver å overbevise oss.
Bjørke-Hill mener virksomhetene derfor må ha tydelige regler for bruken, og stille spørsmålet:
– Hvordan skal KI brukes hos oss, og hva skal vi ikke bruke KI til?
Panelet var samstemte om at mer bruk av KI også krever mer kompetanse.
– Forstå ikke bare hva teknologien kan, men hva den bør brukes til, sa Goodwin.
