Kontrollbehovet er større enn noen gang. Men hvem kan holde KI-selskapene i sjakk? 

Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

Nylig gikk Evan Hubinger, en av sikkerhetstoppene i AI-selskapet Anthropic, ut på X (tidligere Twitter) med følgende advarsel:

«Vi tror virkelig og oppriktig at KI kan komme til å utrydde hele menneskeheten! Personlig mener jeg at sannsynligheten for at det skjer i løpet av det neste tiåret, er over 10 prosent.»

Anthropic-sjefen selv, Dario Amodei, ba sågar verden «senke tempoet» i utviklingen av KI.

I en artikkel fra Universitetet i Agder, publisert på forskning.no, svarer fem forskere ved Universitet i Agder på KI-dommedagsvarslene.

Professor i KI, Morten Goodwin, kaller det feilrepresentasjon av data og legger til at «det vi har empiri for å si, er at teknologien kan utvikle seg på en måte som gjør at den løper løpsk og vi mister kontrollen».

Han mener det kan være ille nok, men det er noe ganske annet enn at det er mer enn ti prosent sjanse for at menneskeheten blir utslettet, ifølge artikkelen på forskning.no.

les også: 

Lav tillit til KI koster Norge dyrt

Samtidig mener Goodwin at selskapene har egeninteresse av både å fremstå ansvarlige og å selge inn en kraftfull teknologi, slik KI er.

Han peker på to grunner: Fremstår selskapene som ansvarlige, kan de selv forme reguleringen som uansett kommer. Og jo kraftigere de fremstiller teknologien, desto lettere trekker den til seg investorer.

Dette svarer ikke KI-selskapene på. Der stopper debatten for tidlig og må følges opp, mener jeg.

Bukken og havresekken

Sjelden får en virksomhet vurdere egen sikkerhet uten tilsyn utenfra, slik et flyselskap ikke selv fastsetter hvor trygge flyene er. Men for KI-bransjen er det annerledes: Teknologiforsker Rebekka Omslandseter påpeker at selskapene selv utvikler, tester og vurderer risikoen ved egne systemer.

Jeg synes det er påfallende at forskerne som er intervjuet ikke selv foreslår hvem som skal overta jobben.

I 2024 ble det arrangert et internasjonalt toppmøte i Seoul om KI-sikkerhet. Der diskuterte statsledere og KI-selskaper  hvor skadelig den kraftigste KI-teknologien kunne bli. 

Etter møtet forpliktet 16 KI-selskaper seg til et felles sikkerhetsrammeverk med grenser for skadepotensial. Om teknologien bryter grensene, skulle lanseringen av modellene stanses. 

Åtte land og EU opprettet samtidig såkalte KI-institutter. Dette er sikkerhetsinstanser som tester modellene mot de grensene som er bestemt før lansering. Etter min vurdering er ikke problemet at slike kontrollorganer mangler globalt, men at de færreste har reell sanksjonsmakt.

Riksrevisjonen har slått fast at Digitaliserings- og forvaltningsdepartementet ikke har lagt godt nok til rette for ansvarlig KI-bruk i staten, og at innsatsen er for svak.

EU er ikke bedre stilt: EUs nye KI-forordning begynte å håndheves i august, men bare seks dager før fristen vedtok EU selv «Digital Omnibus», som utsetter de strengeste kravene ett til to år.

Vekst uten kontroll

Samtidig oppgir nesten fem av ti norske foretak at de bruker KI i år, mot tre av ti i fjor, ifølge SSB. ISO 42001, sertifiseringsordningen som skal bekrefte at slike systemer er trygge, teller derimot bare over 350 virksomheter globalt.

Etter min mening er gapet mellom bruksfart og kontrolltempo den egentlige risikoen, ikke om en KI-sjef sier seg bekymret.

KI-forsker Ole-Christoffer Granmo har rett i at KI trenger luftfartens prinsipper - en plikt til uavhengig sertifisering før høyrisikosystemer brukes i sektorer som finans eller helse.

Konkret bør staten som innkjøper kreve slik godkjenning i anbud på KI-verktøy, ikke godta en pressemelding om at leverandøren jobber ansvarlig med KI.

Lederne kjenner seg fanget mellom konkurranse og ansvar, slik Elisabeth Asser - som har skrevet boken «Teknologiens makt» - peker på. Derfor må styringen komme utenfra. Jeg lurer på hvorfor et slikt krav ikke finnes for KI, når finansnæringen har hatt det i årevis.

Rammer de minste hardest

Jeg medgir at et sertifiseringskrav rammer små leverandører hardere enn større, med interne juridiske avdelinger. Løsningen bør være forenklet sertifisering for dem, ikke å droppe kravet. 

Jeg vet ikke om et slikt apparat kan bygges raskt nok til å holde tritt med utviklingen, men et sent styringsapparat er bedre enn et som aldri kommer.

KI-apokalypse-debatten handler om hvor farlig systemene er. Det viktigste spørsmålet er om noen utenfor dem kan kontrollere den. I dag er svaret nei, verken i norsk forvaltning eller i markedet.

Kontrollbehovet er derfor viktigere enn noen gang, ikke fordi KI truer med å utslette oss, men fordi apparatet som skal holde den i sjakk, ennå ikke er bygget.

Nytt fra forskersonen:

Norge har flest helse­arbeidere i Norden – hvorfor mangler vi folk?

Ozempic viser hvorfor selskaper ikke kan kontrollere sin egen merkevare

Vi vil gjerne høre fra deg!

TA KONTAKT HER
Har du en tilbakemelding på denne kronikken. Eller spørsmål, ros eller kritikk til Forskersonen/forskning.no? Eller tips om en viktig debatt?