Menneske mot maskin :
Vi taper 4-0

Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.

Gjennom hele menneskets historie har vi tatt i bruk redskaper for å forbedre våre livsvilkår – med stort hell, vil mange si. Da maskinene tok jobbene fra folk, protesterte de, men tilpasset seg etter hvert. Veverskene ble erstattet av vevemaskinene. Datamaskinene erstattet typografene, men ga jobber til IKT-kyndige. Der maskinene overtok tradisjonelle oppgaver, fant vi nye.

Med kunstig intelligens (KI) har vi fått en ny kraftfull maskin som kaster om på jobbmarkedet. Vil det gå på samme måte nå? Vil vi overlate trivielle oppgaver til KI og finne nye og viktigere oppgaver for menneskene? Eller overlates verdiskapingen til maskinene mens vi nyter dens frukter i en arbeidsfri tilværelse?

Mens historien tilsier at vi vil bruke også denne teknologien til å utvide vårt mulighetsrom, advarer kunnskapsrike og toneangivende fagfolk mot KI-utviklingen. Denne teknologien er annerledes – den kan overstyre mennesker, og vi kan tape i kampen om kontroll over tilværelsen og utviklingen.

Kunnskapssamfunnet på hell

Det er særlig fire områder der vi kan komme til å tape i kampen mot KI som «den nye maskinen». For det første står vi overfor et massivt kunnskapstap. Jeg trenger ikke lenger å spørre fagfolk, lese tykke bøker eller ta utdannelse – svaret på spørsmålene er bare noen tastetrykk eller prompter unna.

Kunnskapen forsvinner ut av hodene våre. Det er selvsagt ikke nytt at vi har samlet kunnskap utenfor oss selv. Vi har lenge lagret den i bøker, arkiver og datamaskiner, men aldri i det omfanget vi ser nå. Når kunnskapen er så lett tilgjengelig, trenger vi ikke å ha den selv.

Ferdighetene forvitrer

For det andre gir KI et massivt ferdighetstap. Selv om KI selvsagt kan lære oss nye ferdigheter, ser vi tydelige tegn på at vi stoler så mye på algoritmene at våre egne ferdigheter forvitrer.

Ingen steder er det så tydelig og alvorlig som i helsetjenesten. For eksempel har leger i så stor grad overlatt kreftdiagnostikk til algoritmene at de selv har blitt dårligere til å oppdage kreft.

Nå vil de færreste si at det er et stort tap at vi har overlatt regneferdighetene våre til kalkulatorer og datamaskiner. Men kalkulatoren hallusinerer ikke, gir ikke feil eller tendensiøse svar, og endrer ikke svarene på de samme spørsmålene over tid, slik som KI.

Vi trenger ikke fagfolk som verifiserer og validerer kalkulatorens beregninger. Det trenger vi for KI.

Fra virkelighet til «virkelighet»

For det tredje, gir KI virkelighetstap. Det skjer ikke bare gjennom feilinformasjon, falske fakta og «deepfakes». Menneskers sanser er begrensede. Derfor bruker vi teknologi for å identifisere det vi ikke kan se selv, slik som usynlige krefter, molekyler og stråler. Teknologi utvider vår virkelighet ved å sanse det som vi ikke kan sanse selv.

les også:

Kunstig intelligens er en ny form for liv

Så lenge vi kan sjekke (verifisere) at det teknologien sanser rett, har dette tjent oss godt. Men med KI har dette blitt vanskelig. Både fordi KI hallusinerer, endrer seg og er tendensiøs (bias), men også fordi å sjekke at dens vurderinger og forutsigelser stemmer, kan kreve enorme ressurser og ta uakseptabelt lang tid.

Om KI forteller deg at dine helsedata tyder på at du har en alvorlig sykdom som lar seg behandle med en virksom medisin (som er dyr og med ukjente og muligens alvorlige bivirkninger), vil du kanskje ikke vente til en studie har avklart nytte og risiko om 25 år.

Slik kan KI komme til å definere at du har sykdommen og at du blir helbredet uten at vi vet vi at det stemmer. Med KI blir det vanskelig å verifisere det vi oppfatter som virkelig. Vi mister grepet på «virkeligheten».

Meningen forsvinner

For det fjerde, gir KI meningstap. Mennesket er et meningsskapende vesen. Midt i all mulig meningsløshet klarer vi å skape mening. Selv under krig og uro klarer vi å finne mening (for eksempel i mennesker som løper etter og sparker en ball).

Men hva blir meningen når maskinene klarer alt bedre enn oss, inklusive medisinsk diagnostikk, rettslige vurderinger og personlige valg? Mister vi vår evne til å skape mening når valg, beslutninger og verdiskaping overlates til maskinene? Eller vil vi bruke KI til å finne nye meninger? Flere studier viser hvordan KI kan gi meningstap.

Med KI tar kampen mellom maskin og menneske en ny vending. Her kan vi risikere å tape 4-0. Vi taper kunnskap, ferdigheter, mening og grep om virkeligheten. Dette er mer alvorlig enn å tape en landskamp i fotball.  

Nytt fra forskersonen:

PISA-undersøkelsen har gitt oss et resultat vi ikke kan se bort fra

Stipendiaate, dotkije, buerie biejjie - forstod du det?