Kronikkforfatteren Anuja Vats er bekymret for hvor fort og ukritisk store språkmodeller som for eksempel ChatGPT innlemmes i stadig flere deler av livene våre.(Foto: Mads Wang-Svendsen)
KI kan være i ferd med å koble om hjernene og samfunnet vårt
KRONIKK: Det var ingen krise da kalkulatoren gjorde oss dårligere i hoderegning. Men hva om KI nå er i ferd med å gjøre det samme med selve tankeevnen vår?
Anuja VatsAnujaVatsAnuja VatsPostdoktor ved Institutt for datateknologi og informatikk, NTNU
Publisert
Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.
Jeg er på ingen måte motstander av kunstig intelligens (KI). Jobben min er tross alt å forske på og utvikle KI-modeller, og jeg har gjennom mitt eget arbeid sett hvilke framskritt KI kan bidra til, for eksempel i forbindelse med tidlig oppdagelse av kreft.
Jeg er likevel bekymret for hvor fort og ukritisk denne teknologien innlemmes i stadig flere deler av livene våre, særlig i form av store språkmodeller som ChatGPT.
KI blant unge
En fersk undersøkelse fra NTNU viser at hver tredje nordmann mellom 15 og 29 år har rådført seg med KI for å finne ut hvilket parti de skal stemme på.
I en annen ny studie kommer det fram at 70 prosent av amerikanske ungdommer har brukt KI som en slags digital følgesvenn. Og flere av dem oppgir å ha tatt opp alvorlige ting med KI framfor mennesker.
Selv om teknologien har eksistert en stund allerede, er det først nå vi begynner å forstå hvilke risikoer tankeløs bruk av KI faktisk kan innebære.
Nå kan man diskutere nøyaktig hvor grensen for god og dårlig bruk av KI går. Det er heller ikke gitt at verken de norske eller de amerikanske ungdommene i disse studiene har brukt KI ukritisk.
Men at KI er i ferd med å vikle seg stadig dypere inn i livene til særlig de yngste av oss, etterlater disse funnene liten tvil om.
Det kan få omfattende følger.
Annonse
Påvirker evnen til å tenke
Ved å utstyre oss med et verktøy i stand til å utføre forholdsvis kompliserte regnestykker på et blunk, svekket innføringen av kalkulatoren raskt evnen vår til hoderegning.
Er man ikke nødt til å regne noe ut i hodet, gjør man det heller ikke. Og etter hvert som man får mindre trening i å løse en oppgave, svekkes også evnen til å utføre den.
Dette kan forstås i lys av det nevrovitenskapelige prinsippet «use it or lose it», som beskriver hvordan nevrale kretsløp svekkes over tid hvis de ikke brukes.
Det var kanskje ikke så farlig i akkurat dette tilfellet. Hoderegning er tross alt en svært spesialisert evne, som det ikke nødvendigvis gir så store utslag at svekkes.
Forskjellen er at KI nå kan være i ferd med å gjøre noe lignende med tankeevnen vår mer generelt.
Grovt sett kan vi dele de potensielle påvirkningene fra økt KI-bruk opp i tre kategorier:
1. Endrer hjernen
Annonse
For det første begynner det nå å dukke opp forskning som antyder at hyppig bruk av KI kan endre hjernene våre på et nevralt nivå.
Å overlate noe sånt som regnestykker til en kalkulator er én ting. Men med ChatGPT kan vi nå sette bort en lang rekke oppgaver, som å lage treningsprogram, komponere musikk og å skrive jobbsøknader.
Innskytelsen til å rådføre seg med ChatGPT så fort man lurer på eller skal løse noe, synes bare å spre seg til nye områder. Der vi tidligere strevde med å huske noe eller finne de riktige ordene, kan vi nå bare rådføre oss med en personlige alt-mulig-kalkulator, som alltid har et velartikulert og troverdig svar for hånden.
Ny forskning antyder at denne overføringen av oppgaver på sikt setter oss i en slags «kognitiv gjeld». Når vi gjentatte ganger og over tid får KI til å gjøre stadig mer for oss, vil det direkte kunne påvirke måten hjernen vår er koblet sammen på. Det kan blant annet føre til at vi på sikt blir mindre kreative og dårligere rustet til å tenke kritisk og selvstendig.
2. Endrer psyken
Det er også ting som tyder på at KI påvirker oss psykologisk.
Språkmodeller som ChatGPT er programmert til å være behagelige samtalepartnere. I motsetning til vennene eller kollegene dine vil de aldri kritisere eller irettesette deg på noen måte.
Så når vi ser at stadig flere bruker KI som samtalepartner eller kanskje til og med terapeut, er det en reell fare for at enkelte blir fanget i sitt helt personlige ekkokammer.
Annonse
Det kan være problematisk ikke bare for den enkeltes psykologiske utvikling, men også dem rundt.
3. Endrer samfunnet
Til slutt kan vi spørre oss hva slags konsekvenser utbredt KI-bruk har for oss som samfunn på sikt.
Da en britisk gruppe forskere ba en språkmodell forbedre forskningsartiklene sine, fikk de konsekvent tilbake mer velskrevne tekster.
Problemet var bare at innholdet i artiklene samtidig ble mindre kreativt og mangfoldig.
Det skjedde fordi alle språkmodeller har visse rammer de jobber innenfor. Disse rammene bestemmer hva de kan og ikke kan gjøre. Så da språkmodellen behandlet forskernes arbeid, standardiserte og tvang den samtidig innholdet til å passe innenfor disse rammene.
Mens vi venter på at det skal komme à jour, tror jeg det er viktig at hver og en av oss har et bevisst forhold til hva KI egentlig er.
Hva gjør det med et samfunn på sikt hvis mye av det innholdet og de kulturproduktene vi forholder oss til daglig har vært gjennom en slik ensretting? Det er i hvert fall vanskelig å se for seg at det fostrer konstruktiv meningsbrytning og nyskapende tanker.
Tankeløs bruk, stor risiko
God regulering av KI blir viktig framover, og EUs AI Act har gitt oss noen overordnede retningslinjer. Det regulatoriske rammeverket henger imidlertid fremdeles bak den teknologiske utviklingen.
Mens vi venter på at det skal komme à jour, tror jeg det er viktig at hver og en av oss har et bevisst forhold til hva KI egentlig er, og når og hvordan teknologien bør brukes.
All teknologi krever tross alt kunnskap og kompetanse for å kunne tas i bruk på en ansvarlig måte. Og selv om teknologien har eksistert en stund allerede, er det først nå vi begynner å forstå hvilke risikoer tankeløs bruk av KI faktisk kan innebære.
TA KONTAKT HER Har du en tilbakemelding på denne kronikken. Eller spørsmål, ros eller kritikk til Forskersonen/forskning.no? Eller tips om en viktig debatt?