Forskning tyder på at etiske retningslinjer for kunstig intelligens har begrenset effek,t både for utvikling og bruk av KI. . KI-etikk krever derfor mer enn regler, ifølge innsenderen.(Illustrasjonsfoto: Shutterstock / NTB)
Etiske retningslinjer for kunstig intelligens ser ikke ut til å fungere. Vi må tenke nytt
KRONIKK: De siste ti årene har ulike organisasjoner og institusjoner produsert hundrevis av etiske retningslinjer for kunstig intelligens (KI). Forskningen tyder på at de har en begrenset effekt.
Truls LilandTrulsLilandStipendiat og høgskolelektor, NLA Høgskolen
Publisert
Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.
I dag brukes KI til alt fra å sortere jobbsøkere til å vurdere lånesøknader og diagnostisere sykdom. KI-systemer kan imidlertid gjøre feil, og dette kan i mange tilfeller ramme tusenvis av uskyldige mennesker, noen ganger uten at de vet om det.
Derfor har mange ulike aktører laget sine egne etiske retningslinjer for KI. Disse skal motvirke negative effekter som at systemene diskriminerer, bryter personvernet eller på ulike måter forårsaker skade. Spørsmålet er imidlertid om de virker, eller med andre ord: Bidrar slike retningslinjer til mer etisk og ansvarlig KI?
Retningslinjer uten effekt
I 2018 gjorde tre amerikanske forskere ved North Carolina State University et enkelt eksperiment for å finne ut av akkurat dette. De rekrutterte 168 deltakere (105 erfarne programvareutviklere og 63 studenter innen samme fagområde) og ga dem elleve realistiske etiske dilemmaer.
Det vi trenger, er mennesker som handler med praktisk klokskap, med evne til å gjøre det rette i en situasjon som ingen regel har tatt høyde for.
De fleste av dilemmaene var basert på spørsmål utviklere hadde stilt hverandre på diskusjonsforumet Stack Exchange.
Det var ikke konstruerte skrivebordsøvelser, men reelle situasjoner de møtte på jobb: Skal du samle inn mer brukerdata enn kundene vet om? Skal du si fra om alvorlige feil i koden, eller la det ligge? Ett av dilemmaene lignet på den såkalte Dieselgate-skandalen, der programvare ble laget for å jukse på utslippstester.
Deltakerne ble delt i to grupper. Den ene halvparten fikk først lese de etiske retningslinjene til Association for Computing Machinery (ACM). ACM er verdens største fagorganisasjon for informatikk, og de etiske retningslinjene deres er både høyt respektert og mye brukt. Den andre halvparten fikk ikke lese disse, men ble bare fortalt at etikk er viktig.
Deretter skulle alle velge hva de ville gjort i hvert dilemma. Resultatet var tydelig: Det var ingen statistisk målbar forskjell i hvilke valg de to gruppene tok – ikke på ett eneste av dilemmaene. Én enkelt studie med et begrenset antall deltakere er ikke noe bevis. Men funnet passer inn i et bredere mønster.
Forskeren Anna Jobin og kollegene hennes kartla 84 sett med etiske retningslinjer for KI fra selskaper, myndigheter, forskningsmiljøer og bransjeorganisasjoner. Målet var å finne ut om det var i ferd med å vokse fram en global enighet om hvilke etiske prinsipper som skal gjelde. Resultatene ble presentert i det vitenskapelige tidsskriftet Nature Machine Intelligence.
Svaret var både ja og nei. Ikke ett eneste prinsipp gikk igjen i alle de 84 dokumentene. Men fem prinsipper fantes i mer enn halvparten av dem: åpenhet om hvordan KI-systemer utvikles og brukes (87 prosent), rettferdighet og likebehandling (81 prosent), at teknologien ikke skal gjøre skade (71 prosent), ansvar (71 prosent) og personvern (56 prosent).
Enigheten er påfallende. Men forskerne fant samtidig store forskjeller i hvordan prinsippene ble tolket, og i hva de betydde i praksis. At nesten alle skriver «rettferdighet», sier lite om hva de faktisk gjør.
Etiske retningslinjer beskriver i stor grad enkelthandlinger, enten hva man bør gjøre eller unngå å gjøre. Det som ikke inkluderes her, er aktøren som må utøve skjønn når det oppstår en situasjon som ikke kan løses på bakgrunn av en bestemt regel. Og dette ser ut til å skje stadig oftere, nettopp fordi teknologien utvikler seg raskere enn reguleringen.
ChatGPT ble lansert høsten 2022, og EU hadde på dette tidspunktet allerede forhandlet om en KI-forordning i over ett år. Problemet var imidlertid at denne ikke var skrevet for generelle språkmodeller, og derfor måtte skrives om. I mellomtiden måtte både enkeltbrukere og organisasjoner selv vurdere hva som var forsvarlig bruk.
Annonse
Nå gjør dessuten KI-agenter sitt inntog i arbeidslivet. Dette er systemer som, i større eller mindre grad, selv planlegger og gjennomfører oppgaver over tid, uten løpende menneskelig medvirkning.
Da blir det enda tydeligere at regler og prinsipper ikke er nok, og at en mer helhetlig etisk tilnærming er nødvendig. Magma-artikkelen viser også at tillit er et nøkkelbegrep for ledere av hybride team, der mennesker og KI-agenter arbeider side om side.
Fra enkelthandlinger til helhetlig etisk tenkning
Etiske prinsipper og regler, inkludert lovgivning og regulering, kan fungere godt som nødvendige minimumsstandarder. Men de vil ikke være tilstrekkelige i seg selv. Det viser vurderingene og analysene av disse etiske prinsippene ganske tydelig.
Det vi trenger, er mennesker som handler med praktisk klokskap, med evne til å gjøre det rette i en situasjon som ingen regel har tatt høyde for. Som er etisk bevisste i utvikling og bruk av KI – med andres og samfunnets beste for øye.
TA KONTAKT HER Har du en tilbakemelding på denne kronikken. Eller spørsmål, ros eller kritikk til Forskersonen/forskning.no? Eller tips om en viktig debatt?
