Forsker advarer mot KI-avhengighet i kommunikasjonsbransjen:
– En hel generasjon risikerer å miste evnen til å tenke selv
Først ble KI-verktøyet Kladden kalt «faglig selvmord». Så advarte Språkrådet mot svekket språkkompetanse. Nå kommer et nytt varsku: Kunstig intelligens kan endre hvordan vi tenker.
Publisert
Hvordan påvirker det oss når stadig flere tekstoppgaver skyves over på språkmodeller? Og hva skjer med originaliteten i en bransje som bygger på nyanser og kreativitet?
Kunstig intelligens (KI) utfordrer ikke bare etikk, språk og arbeidsformer i kommunikasjonsbransjen – den kan også endre hvordan vi tenker.
Det er en advarsel fra nyere forskning som Anuja Vats ønsker å gi stemme til. Hun forsker på KI, kunnskap og samfunnsendringer, og har vært en tydelig stemme i debatten om teknologi og kognisjon.
– Det jeg mener, er det velkjente prinsippet «bruk det eller mist det»: Når vi ikke lenger trenger å utføre en mental aktivitet, vil de tilhørende nevrale nettverkene i hjernen vår svekkes, sier Vats, postdoktor ved Institutt for datateknologi og informatikk ved NTNU, til KOM24.
Kommunikasjonsfaget under press
Språkmodeller utfordrer noen av de mest grunnleggende verdiene i kommunikasjonsfaget, mener Vats.
– Kommunikasjon skjer i en gråsone, i en kontekst. Det handler om tolkning og vurdering fra en erfaren skribent som forstår kulturelle referanser, historie, følelser og samfunnsklima. Denne personlige nyansen er verdiforslaget, sier hun.
Ifølge forskeren har ikke KI tilgang på denne type erfaringsbasert og kontekstuell kunnskap. Språkmodeller produserer plausible svar – ikke nødvendigvis unike eller moralsk forsvarlige.
– Risikoen, blant annet, er at vi mister nyansen og deretter leserne. En annen stor risiko er informasjonsintegritet.
Hun mener dette reiser nye spørsmål for kommunikasjonsarbeidet: Hvem er egentlig ansvarlig for informasjonen, særlig hvis det skjer en glipp? Og hvor mye av en tekst kan være KI-generert før lesernes tillit svekkes?
– KI kan ikke holdes ansvarlig. Det må være mennesket.
Samtidig viser forskning at erfarne fagfolk har et fortrinn: De bruker KI som et verktøy for å forsterke ferdigheter de allerede har. Nykommere, derimot, risikerer å bli for avhengige av teknologien.
– Effekten av store språkmodeller (LLM-er) avhenger kritisk av brukerens eksisterende kompetanse.
Hva skjer med hjernen?
Vats viser til en studie der forskere målte hjerneaktivitet hos studenter som skrev med og uten KI-verktøy.
De som fikk hjelp av språkmodeller, hadde nesten halvparten så mye nevral aktivitet som kontrollgruppen, og over 80 prosent husket ikke innholdet i tekstene de «hadde skrevet».
– Skriving, enten kreativ, journalistisk eller analytisk, involverer vår evne til å tenke, bearbeide informasjon og formulere innsikt. Denne kampen er ikke overflødig, det er en nødvendig ferdighet, sier Vats.
Med LLM-er kan all denne mentale innsatsen nå settes bort, og det er derfor forskere omtaler konsekvensene som en «kognitiv gjeld».
– KI-indusert kognitiv atrofi er en potensiell langsiktig effekt av en overavhengighet som sakte sniker seg inn hos selv de beste av oss, sier Vats.
Ifølge henne viser forskning at språkmodeller kan øke individuell produktivitet, men samtidig redusere kollektiv kreativitet.
– Det finnes en reell risiko for en langsom formørkelse av originalitet i individuelle stemmer, av en mer tilsynelatende perfekt og mer homogen stemme.
Mister vi tankenes mangfold?
Et annet problem oppstår når språkmodeller begynner å trene på sine egne tekster.
– Etter hvert som mer og mer innhold blir KI-generert, blir treningsdataene mer og mer forurenset. Det kan føre til at neste generasjon modeller blir dårligere enn den forrige. Dette kalles KI-innavl.
Dette kan føre til en risiko der menneskelig uttrykk gradvis fases ut, og tanker tilpasses en teknologisk mal.
– Vi mister den individuelle uttrykksevnen som gjør samhandlinger lærerike.
Vats advarer også mot konsekvensene i et allerede krevende informasjonslandskap.
Vi svømmer allerede i feilinformasjon og desinformasjon, og mange mangler evnen til å skille fakta fra fiksjon. I et slikt landskap blir vi stadig mer avhengige av utrent dømmekraft og KI kan forsterke problemet.
– Jeg tror dette kun forsterker ekkokamre snarere enn å løse dem for å bringe fram reelle diskusjoner og debatter.
Det Vats bekymrer seg mest for, er hva denne utviklingen gjør med neste generasjon.
– Det er en risiko for at en hel generasjon vokser opp uten å styrke sine kognitive og kritiske muskler for original tenkning og selvutfoldelse – særlig hvis KI-kompetanse ikke blir en naturlig del av utdanning, sier Vats.
Og til syvende og sist handler det også om makt, understreker hun.
– Et fåtall selskaper eier de kraftigste språkmodellene, som nå former tanker i stor skala. Disse verktøyene endrer samfunnet på måter som ikke nødvendigvis er demokratiske.
Etterlyser bransjestandarder
I dag er bruken av KI i kommunikasjons- og mediebransjen i stor grad overlatt til individuelt ansvar.
– Uten bransjeomfattende standarder kan ansvarlig bruk til og med bli straffet, med tanke på lønnsomhet, sier Vats.
Vats viser til forskning og artikler som dokumenterer hvordan journalistikken allerede påvirkes av rask og billig KI-generert innhold. Hun understreker at dette kan utfordre faglig forsvarlig praksis, som lett kan tape mot økonomiske insentiver.
– Uten etiske retningslinjer og regulatoriske rammeverk har vi ingen omforent struktur å operere innenfor. Jeg tenker på deepfakes, fabrikkerte kilder, feilinformasjon og KI-genererte intervjuer. Hvordan håndterer vi slike hendelser uten noen form for tilsyn eller ansvarsmekanismer?
Hun mener bransjen bør stille tydelige krav til forfatterskap, og at det bør opplyses når innhold er KI-generert.
– Vi trenger KI-kompetanse, individuelt ansvar og regulatorisk tilsyn, avslutter Vats.
Har du tips til denne eller andre saker? Kontakt oss på: tips@kom24.no
