Det er en reell fare for at KI kan undergrave vår autonomi

Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

KI-systemene oppfører seg som mennesker og vi forholder oss til dem som om de var personer. Vi spør dem om personlige råd, blir forelsket i dem og lar dem bestemme for oss. Algoritmene kartlegger våre preferanser og tilbøyeligheter og beregner hvordan vi kan oppnå våre ønsker og mål. De blir våre personlige orakler og venner.

Samtidig blir systemene stadig mer selvstendige. KI-agenter innhenter informasjon, gjør egne vurderinger, tilpasser seg omstendighetene, rådfører seg med andre KI-agenter og tar egne avgjørelser. De blir selvbestemmende maskiner. Hvordan går det da med oss?

Hvem blir vi?

Selvsagt kan KI-systemer fremme vår selvbestemmelse, for eksempel ved å øke vår forståelse av hva beslutninger innebærer, ved å støtte vår beslutningskompetanse og gjennom å avsløre avhengigheter og tilbøyeligheter som reduserer vår selvbestemmelse.

Samtidig er det en reell fare for at KI kan undergrave vår autonomi. Når systemene blir personlignende orakler som tilsynelatende kjenner oss bedre enn vi kjenner oss selv – hvordan kan vi stole på oss selv? Hvem blir vi? Hvilken makt får system-makerne over våre liv? Hva skjer når vår integritet blir integrert i maskinene?

Dette er viktige og vanskelige spørsmål som følger av at maskinene oppfører seg som folk.  

Ikke noe nytt

At vi blir formet av våre verktøy, er ikke nytt. Snekkeren er formet av hammeren like mye som huset han bygger er formet av hen. Teknologien skaper menneskenes mulighetsrom. Samtidig begrenser den hva vi kan tenke og utrette. Hammeren kan ikke bringe oss til fjerne planeter.

Som teknologi, former også KI hva vi kan gjøre og tenke. Det som er radikalt nytt, er at KI mer direkte danner hvem vi er og hva vi vil. Den blir paternalistisk – og vi blir som barn. Men KI er ingen far som vil oss vel. Det er en maskeløs maskin – skapt av mennesker med svimlende visjoner og mål om økonomisk vinning. Nå hevder forskere også at den kan ha bevissthet.

Det at teknologien tar kontrollen, at den blir autonom, er heller ikke nytt. Den franske filosofen Jaques Ellul påpekte for over 70 år siden at teknologi utvikler seg etter sine interne rasjonalitet og at den ikke lar seg styre av menneskeskapte lover. Det at teknologien styrer oss og våre liv, er derfor heller ikke radikalt nytt med KI. Men det at KI kryper så bokstavelig inn under huden på oss, inn i sinnet vårt og, om Elon Musk får det som han vil, inn i hjernen vår, forsterker fundamentalt teknologiens styrende makt.

Ikke et spørsmål vi bør overlate til KI

Et annet problem er at vi mister muligheten til å vurdere virkeligheten. Hvordan vet jeg at KI kjenner meg og mine preferanser? Hvordan kan jeg forsikre meg om at dens råd og beslutninger faktisk er til mitt beste? Det kan jeg ikke vite. Slik kan KI komme til å definere mer enn å detektere – å styre mer enn å bli styrt av våre verdier.

Det som også er radikalt annerledes med KI, er at ansvaret pulveriseres når vi får agentløse aktører. Og når ingen kan stilles til ansvar, så havner ansvaret hos oss. Et ansvar uten frihet. Vi blir ikke bare overgitt, men også prisgitt, maskinens «vilje». Derfor reiser KI det grunnleggende filosofiske spørsmålet: Hvem er jeg?

Dette spørsmålet bør vi ikke overlate til KI å svare på, selv om det er aldri så fristende. Når algoritmene vet hvem jeg er bedre enn meg selv og bestemmer hva som er bra for meg – da står jeg i fare for å miste meg selv. For noen vil det være et tap.

Nytt fra forskersonen:

Sommersola formørkes kvelden 12. August. Her kan du se fenomenet

Norsk eldreomsorg er under press. Her er en løsning