Forskere bør boikotte de store KI-selskapene

Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

De store KI-selskapene er fanget i et destruktivt kappløp. Nesten alle i industrien, og mange forskere utenfor, frykter tap av kontroll, men selskapene klarer ikke selv å bremse opp.

Insentivene til å utvikle og tilgjengeliggjøre nye, kraftigere modeller er for sterke. Til tross for økt oppmerksomhet går ikke utviklingen i riktig retning, for eksempel ble tre forskere ved OpenAI sagt opp for noen uker siden – angivelig fordi de kritiserte en skjødesløs sikkerhetskultur.

Vi har et maktmiddel 

Verdenssamfunnet har begynt å ta advarslene på alvor, men de eneste «løsningene» som har blitt foreslått har vært forslag om regulering av selskapene og økt internasjonalt samarbeid, for eksempel oppropet fra vår egen statsminister og andre statsledere. 

Norske forskere har kritisert oppropet som tannløst: det inneholder ingen konkrete maktmidler eller trusler, kun oppfordringer. Det samme gjelder et nytt opprop fra akademikerhold.

Men vi har jo et maktmiddel! Vi kan og bør slutte å bruke disse selskapenes tjenester. Vi kan hevde vår forbrukermakt og tvinge selskapene til å ta sikkerhet, og andre hensyn, på alvor.

Ikke åpenbart hvem som vinner 

Vi forskere har et spesielt ansvar i denne saken fordi vi er ivrige brukere av de mest avanserte modellene. Vår bruk av disse verktøyene gir selskapene prestisje og legitimitet. I tillegg blir forskning og håpet om store gjennombrudd til menneskehetens beste stadig brukt som et argument for å akseptere KI-utviklingen og selskapenes dominans.

Ved å ta i bruk verktøy fra hensynsløse selskaper, som bruker vår forskning som argument for egen fremferd, blir vi medansvarlige.

Jeg ber forskere ta et aktivt valg og veie fordeler mot ulemper. Fordelene handler om hver enkelt forskers økte produktivitet og lettere arbeidsdag, samt håpet om store vitenskapelige gjennombrudd.

Ulempene dreier seg hovedsakelig om (1) risikoen fra kraftige, ukontrollerbare KI-systemer og (2) selskapenes løfte om militære kapabiliteter.

I tillegg finnes det flust med andre kritikkverdige forhold både ved de kommersielle KI-selskapene og ved KI-bruk mer generelt: energibruk og klima, stjålne åndsverk, personvern, tap av menneskelig ekspertise, osv.

Du tenker kanskje «hvorfor skal vi sabotere for oss selv?», både med tanke på egen karriere og med tanke på kunnskapsproduksjonen som helhet. Når det gjelder våre karrierer, må vi erkjenne at hele akademia står ovenfor store omveltninger.

Det er ikke åpenbart hvem som vil stå igjen som vinnere og tapere på den andre siden.

Kun håp og drømmer

Et langt viktigere spørsmål er hvorvidt vi kan gå glipp av banebrytende gjennombrudd dersom vi slutter å bruke kommersielle KI-verktøy. I media finner man stadig eksempler på at idéen om at KI skal løse «kreftgåten» og «klimakrisen» blir brukt for å selge inn KI-produkter og akseptere utbygging av for eksempel datasentre.

Foreløpig er dette kun håp og drømmer, og dersom slike resultater skulle kunne frembringes, så vil KI-selskapene gjøre alt i sin makt for å selv være opphavet.

Se bare på hva som foregår i matematikkfaget: de siste månedene har det tilkommet en stor mengde KI-genererte resultater innen ren matematikk, og de største resultatene har kommet direkte fra OpenAI, ikke fra universiteter eller etablerte forskningsmiljøer.

Disse resultatene har blitt oppnådd ved hjelp av KI-modeller som ikke er offentlig tilgjengelige.

Riktignok er resultatene blitt delt med forskersamfunnet (eller «dumpet» som mange matematikere oppfatter det), men når det kommer til eventuelle patenterbare tekniske innovasjoner: tror dere at disse selskapene vil dele dem med oss gratis? Merk at Anthropic har opprettet sitt eget biologiske laboratorium med uttalt mål om å bidra til å utvikle nye medisiner.

Trenger ikke alle

Noen forskere vil kanskje si at det ikke spiller noen rolle hvordan store resultater blir oppnådd, så lenge «menneskeheten» oppnår ny kunnskap. For en forsker kan kanskje dette virke som et rent og aktverdig standpunkt, men jeg tror svært få vil være villige til å følge dette premisset helt ut.

Forskersamfunnet har jo blitt enige om å la oss begrense av for eksempel etiske hensyn. Jeg synes heller ikke forskere kan velge å overse maktstrukturene rundt disse selskapene.

En annen kategori av motargumenter vil være varianter av «dette er umulig – du får ikke alle med deg på dette». Jeg regner ikke med å få med meg alle, men det holder at vi er tilstrekkelig mange.

I likhet med alle andre selskaper bryr KI-selskapene seg om sitt omdømme, særlig blant forskere.

På tide å ta valget

Å fase ut bruken av de store KI-selskapenes tjenester kan ha fordeler. Da vil vi måtte øke innsatsen på å utvikle og videreutvikle åpne modeller, i offentlig regi.

En slik innsats vil virkelig utgjøre et KI-løft for samfunnet: snarere enn å kun være brukere, så vil vi bygge opp kompetanse i å utvikle, forstå, og integrere disse systemene i infrastruktur på en sikker måte.

Jeg håper på en åpen diskusjon for å komme frem til om og hvordan denne skisserte boikotten skal gjennomføres: hvilke selskaper skal omfattes, og hva slags verktøy skal institusjonene tilby sine studenter og ansatte. Disse tjenestene kom inn i vår hverdag for noen få år siden, uten at vi nødvendigvis tok et aktivt valg om å bruke dem eller la være. Jeg mener at tiden for å ta det valget er nå.

Skribenten skriver på vegne av seg selv og ikke OUS.

Nytt fra forskersonen:

Norges KI-dilemma: Skal vi velge amerikanske eller kinesiske modeller?

Menneske mot maskin : Vi taper 4-0