Annonse
Regjeringen vil gi oss helseråd med KI. Hvem skal undersøke om de skader?
KRONIKK: Kunstig intelligens er til god hjelp for mennesker med psykiske problemer. Regjeringens KI-arbeid bør gå foran i å undersøke om hjelpen kan bli skadelig.
Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.
KI er tilgjengelig hele døgnet, koster lite eller ingenting og blir aldri utålmodig. Du trenger ingen henvisning, må ikke stå på venteliste og kan fortelle om problemer du kanskje skammer deg over å snakke med andre om.
KI kan gi råd om hvordan mennesker bør tenke, føle og handle annerledes. Den kan hjelpe med å forstå angst, depresjon, konflikter og vanskelige relasjoner. Dette ligner på mye av det som foregår i et terapirom.
Vi har i flere tiår visst at psykologisk behandling kan ha negative effekter. Likevel mangler fortsatt gode systemer for å oppdage og håndtere dem.
I en tid hvor psykiske helsetjenester er under press, er det lett å forstå hvorfor mennesker søker hjelp hos KI.
En opplevd god samtale er ikke alltid til hjelp
Kommersielle aktører forsøker å ta ansvar. OpenAI har utviklet en test for å undersøke hvordan KI svarer mennesker med psykiske vansker. Men kvaliteten på svarene er ikke det samme som å undersøke hvordan samtalene påvirker mennesker over tid. Her må helsemyndighetene stille strengere krav enn teknologiselskapene gjør selv.
Nå vil helseminister Jan Christian Vestre bruke 20 millioner kroner på å utvikle en offentlig KI-tjeneste for helsespørsmål. Det gir helsemyndighetene en anledning til å ta et ansvar de lenge har forsømt i offentlig samtalebehandling: å undersøke om og i tilfelle hvordan hjelpen kan gjøre mennesker dårligere.
Se for deg at en person med helseangst får beroligende svar hver gang bekymringen melder seg. Det gir umiddelbar lettelse, men vil også opprettholde eller forsterke angsten over tid. Hva skjer når en ensom person får en samtalepartner som alltid er tilgjengelig? Bidrar det til større selvstendighet, eller kan det gjøre vedkommende mer avhengig av hjelpen?
At en samtale oppleves som god betyr ikke nødvendigvis at den hjelper. Dette blir særlig relevant for kunstig intelligens.
Annonse
I boken Skadelige samtaler beskriver professor Leif Edward Ottesen Kennair og jeg at omtrent 5-15 prosent av pasienter i psykologisk behandling blir dårligere. Har KI-bruk den samme risikosiden?
I en amerikansk undersøkelse oppga 24 prosent at de brukte KI til spørsmål om psykisk helse. Hvis én av ti blir dårligere i disse samtalene, snakker vi om titusenvis av nordmenn.
Et offentlig ansvar
En offentlig kvalitetssikret KI-tjeneste er et fornuftig initiativ hvis det blir et tryggere alternativ. Hvis det skal bli trygt, må de følge med på hvilke psykiske konsekvenser rådene kan ha for de som mottar dem, og om det er risikosider ved et slikt samtaleformat. Her har helsemyndighetene en lite imponerende historie.
Regjeringen har nå muligheten til å bygge inn pasientsikkerhet fra starten av. Den muligheten bør den ikke la gå fra seg.
Vi har i flere tiår visst at psykologisk behandling kan ha negative effekter. Likevel mangler fortsatt gode systemer for å oppdage og håndtere dem. Pasientene med negative erfaringer har ingen steder å henvende seg for å få råd og hjelp.
I våre undersøkelser fant vi at selv erfarne psykologer hadde vanskeligheter med å oppdage forverring hos egne pasienter. Flere kunne knapt huske pasienter som var blitt dårligere gjennom mange års praksis. Poenget er at den som ikke leter etter negative effekter, finner heller ingen.
Grip muligheten til å sikre pasientsikkerhet
Annonse
Helsedirektoratet erkjenner at KI kan skape psykologisk avhengighet. Da må de også ta ansvar for å oppdage skadevirkningene. Kanskje kan dette endelig gi oss det pasientsikkerhetsarbeidet myndighetene i flere tiår har forsømt i vanlig psykoterapi.
Det må undersøkes hvordan brukerne påvirkes over tid, hvordan eventuell forverring kan oppdages, og hvem som skal ha ansvar for å håndtere den. Funnene kan brukes til å ansvarliggjøre kommersielle KI-aktører.
Mest lest
Ingen samtaler, verken med mennesker eller maskiner, er uten risiko. Men vi kan sørge for at det finnes systemer som reduserer risikoen og håndterer negative hendelser når de oppstår.
Regjeringen har nå muligheten til å bygge inn pasientsikkerhet fra starten av. Den muligheten bør den ikke la gå fra seg.
