NRK advarer mot falske KI-kilder, men bidrar selv til spredning

Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

To uker med intens dekning av kong Haralds sykdom, død og gravferd ga norske medier et ekstraordinært samfunnsoppdrag. Nå som den mest intense dekningen er over, er det verdt å løfte blikket og se på ett av dilemmaene den synliggjorde.

Midt i mediebegivenhetenes gang, publiserte NRK en nyhetssak om KI-genererte bilder av Kong Harald og kongefamilien, som viste bilder av Kong Harald syk og sengeliggende, med en sørgende kongefamilie ved sengen. 

Saken dokumenterte at bildene var falske, at de var spredd på Facebook-sider drevet fra Vietnam, og viste hvordan det kan tjenes penger på slikt innhold.

Saken har offentlighetens interesse, og treffer aktualitetsknagger så det ljomer i glassveggene. Likevel er det et paradoks at NRK for å avsløre bilene, også publiserte dem, og dermed løftet bildene fra relativt perifere Facebook-sider, og inn på en av landets største nyhetsflater. Bildene fikk dermed et publikum de ellers kanskje aldri ville ha nådd.

I etterkant ble Facebook-sidene som NRK hadde kartlagt, fjernet. De falske bildene er altså birte fra de opprinnelige sidene. På NRKs nettider ligger de derimot fortsatt, selv om de er merket som falske, er de godt synlige. Slik har bildene fått et nytt, og potensielt mer varig liv, i en redaktørstyrt offentlighet.

Spredning er minst like viktig som manipulasjon

Vi snakker ofte om KI-genererte bilder som om hovedproblemet er at de blir stadig mer naturtro: Når hvem som helst kan lage noe som ser ekte ut, hva skal vi da tro på?

Men falske og manipulerte bilder er ikke helt nytt.

Det nye er hvor enkelt det er blitt å produsere troverdige bilder, og hvor raskt det kan sirkulere. Derfor bør vi kanskje være like opptatt av sirkulasjon som av produksjon og manipulasjon.

Et falskt bilde som nesten ingen ser, har begrenset samfunnsmessig betydning. Det får kraft når det distribueres, deles, kommenteres og løftes videre inn i nye sammenhenger. Her er ikke journalistikken bare observatør. Redaktørstyrte medier er selv en del av distribusjonssystemet.

Medieforskerne Karin Wahl-Jorgensen og Matt Carlson har vist hvordan journalistikk om deepfakes ofte organiseres rundt dramatiske forestillinger om en nær framtid der det blir vanskelig å skille sant fra falskt.

Slike scenarier synliggjør en reell utfordring, men kan også gjøre de mest spektakulære eksemplene på KI-manipulasjon til selve fortellingen om teknologien.

Holder det ikke å si at «bildet er falskt»?

Et beslektet problem er det forskeren Whitney Phillips har kalt «the oxygen of amplification»:

Medier kan i forsøket på å avsløre skadelig eller manipulerende innhold samtidig gi det oksygen i form av oppmerksomhet og et langt større publikum. Forskningen hennes gjelder blant annet ekstremistisk innhold, men dilemmaet er relevant også for KI-genererte bilder.

Journalistikken kjenner allerede denne avveiningen. Redaksjoner viser ikke automatisk hele terrorvideoer fordi de omtaler terror, og de gjengir ikke nødvendigvis alt ekstremistisk eller støtende materiale de skriver om. Det vurderes hele tiden når dokumentasjon går over i distribusjon. Den samme vurderingen bør kanskje gjelde KI-generert innhold.

På et vis burde det kanskje holde å merke bildet med «falskt», og forskning viser også at slik merking kan redusere troverdigheten til manipulerte bilder. Likevel løser ikke merkingen nødvendigvis hele det journalistiske dilemmaet.

For publisering handler ikke bare om hvorvidt mottakeren tror at bildet er ekte, men også om hvor stor synlighet og spredning bildet får. At vi vet at bildet er falskt, gjør ikke at vi ikke har sett det.

Redaktørstyrte medier bør selvsagt dekke den teknologiske utviklingen innen bildemanipulasjon, og kritisk avsløre forsøk på å manipulere befolkningen. Likevel kan det være nyttig å skille tydeligere mellom å dokumentere at manipulerende innhold finnes og å distribuere selve innholdet. Kanskje kan journalistikken beskrive et bilde uten å gi manipulasjonen full visuell kraft.

Det paradoksale i at de opprinnelige KI-genererte bildene er tatt ned fra nettsidene, mens de fortsat ligger ute på NRKs nettsider reiser et spørsmål om gjengivelse av KI-bilder for å avsløre falsk innhold faktisk er i ferd med å gjøre det falske større.

Nytt fra forskersonen:

Hva om Odysseen egentlig foregikk i Nordsjøen og ikke i Hellas?

Nedslåande PISA-resultat: Vi veit framleis for lite om korleis skuleelevar les på skjerm