Hvem blir vi av å bruke kunstig intelligens?

Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

Kunstig intelligens endrer ikke bare hva vi gjør, men hvordan vi ser verden og hvem vi blir. Når algoritmer former hva som fremstår som relevant, skjer påvirkningen før vi opplever at vi velger.

Hva om kunstig intelligens ikke endrer hva vi gjør, men hvem vi blir? 

Teknologien var en gang et redskap vi holdt i hånden. Nå er den en linse vi ser gjennom og det uten å merke at synet vårt blir farget. 

Denne innsikten kom til meg som en stille erkjennelse, på et tidspunkt sluttet jeg egentlig å velge selv. Ikke fordi noen tok valgene for meg, men fordi de allerede var lagt frem da jeg åpnet skjermen. 

Det som lå øverst, var det jeg trykket på. Det som dukket opp igjen, var det jeg fortsatte med.

Vi snakker ofte om risikoen ved kunstig intelligens. Om skjevheter i data, tap av arbeidsplasser og manglende kontroll. 

Alt dette er reelle og viktige problemstillinger. Likevel overser vi noe mer grunnleggende. Teknologien påvirker ikke bare hva vi gjør, men hvordan vi oppfatter verden, hva vi legger merke til, og hvilke valg som i det hele tatt fremstår som mulige.

les også:

Hva kan jernbanen lære oss om KI-influensere?

Tradisjonelt har teknologi vært et redskap. Noe vi bruker for å nå et mål vi allerede har definert. Kunstig intelligens fungerer annerledes. Den lærer av oss, tilpasser seg oss, og begynner gradvis å påvirke hva som oppleves som relevant, sannsynlig og attraktivt. Den griper ikke inn i beslutningen i etterkant. Den former situasjonen før vi i det hele tatt tar stilling.

Det er dette som gjør endringen så vanskelig å få øye på. På overflaten opplever vi fortsatt at vi velger fritt. I praksis har rammene rundt valget allerede blitt strukturert.

Valget er gjort før du merker det 

Mekanismen er i seg selv enkel. Det vi gjør, blir registrert som data. Disse dataene brukes til å forutsi hva vi sannsynligvis vil gjøre neste gang. Deretter presenteres vi for innhold, valg og alternativer som samsvarer med denne sannsynligheten. 

Når vi så velger innenfor dette feltet, bekrefter vi mønsteret. Over tid blir det en sirkel der fortiden vår får stadig større innflytelse over hvordan fremtiden ser ut.

Jeg merket det tydelig en gang jeg var i Berlin. Jeg skulle på restaurant, jeg åpnet kartet på mobilen min, trykket på det øverste forslaget og gikk dit. Det fungerte utmerket. Men opplevelsen var merkelig flat. Jeg hadde ikke egentlig valgt noe. Og dagen etter husket jeg knapt hvor jeg hadde vært.

Denne typen erfaring er ikke dramatisk i seg selv. Men den peker mot noe mer dyptgripende. Når valgene våre stadig blir enklere, raskere og mer intuitive, blir det også mindre behov for å stoppe opp. Vi trenger sjeldnere å vurdere alternativer eller reflektere over retning.

Tradisjonelt har dannelse handlet nettopp om dette. Om å utvikle evnen til å tenke langsomt, tåle motstand og forme seg selv over tid. I møte med teknologi som er optimalisert for hastighet og friksjonsfri flyt, blir denne typen arbeid mindre naturlig. Ikke fordi vi mister evnen, men fordi situasjonene som krever den, oppstår sjeldnere.

Det mest avgjørende skiftet skjer kanskje enda tidligere. Kunstig intelligens påvirker ikke bare selve valget. Den påvirker hva vi legger merke til før valget. Den bestemmer i stor grad hva som i det hele tatt fremstår som et alternativ.

Du formes før du velger

Dermed beveger vi oss fra etikk til dannelse: ikke hva teknologien bør brukes til, men hvem vi blir når noen andre har lagt frem valgene. Grunnleggende spørsmål om hva det vil si å være et menneske blir redusert. Det handler ikke bare om hva som er riktig eller galt bruk av teknologi, men om hva slags mennesker vi formes til å bli i møte med den.

Et sentralt trekk ved dagens algoritmer er at de binder oss tett til vår egen historie. De analyserer hva vi har gjort, og bruker det som grunnlag for å forme det vi møter videre. Det virker effektivt, og ofte også nyttig. Men det har en konsekvens. Fremtiden begynner å ligne stadig mer på fortiden.

Vi møter i økende grad en modellert versjon av oss selv. Denne versjonen påvirker hva vi ser, hvilke valg som føles naturlige, og hvilke muligheter som åpner seg. Det gjør det vanskeligere å bryte mønstre eller bevege seg i nye retninger som ikke allerede er forutsagt.

Menneskelig utvikling har historisk blitt formet av relasjoner, tradisjoner og felles praksiser. I dag skjer en stadig større del av denne formingen gjennom algoritmer og plattformer. Påvirkningen skjer ikke ved argumenter eller overtalelse. Den skjer gjennom hvordan verden vises for oss.

Det er nettopp derfor den er så vanskelig å få øye på. Og nettopp derfor er den så kraftfull.

Dette er ikke først og fremst et spørsmål om hva noen har ment med teknologien, hva den faktisk gjør med oss. Hvor mye av det vi velger, oppstår faktisk som et valg? Hva legger vi merke til, og hva forblir usynlig? Hva skjer med evnen til å tenke langsomt og kritisk når det meste er lagt til rette for det motsatte?

Kanskje må vi lære oss å motstå det som føles riktig. For det egentlige spørsmålet er ikke hva vi bruker teknologien til.

Det er hvem vi blir av å bruke den.

Nytt fra forskersonen:

Trenger vi en aldergrense på 16 år for sosiale medier? Ja, sier en av oss

Hva slags ledere trenger norsk politi nå?