Annonse
Er kunstig intelligens en snarvei til kunnskap eller er vi i ferd med å spore av?
KRONIKK: Burde noen ta ansvar for å dra i nødbremsen på dette toppmoderne KI-hurtigtoget – eller i det minste innføre obligatorisk gjennomgang av sikkerhetsrutinene?
Publisert
Forskersonen er forskning.nos side for debatt og forskernes egne tekster. Meninger i tekstene gir uttrykk for skribentenes holdninger. Hvis du ønsker å delta i debatten, kan du lese hvordan her.
Det dukker stadig opp nye KI-verktøy som skal effektivisere og styrke kvaliteten på arbeidet. KI-verktøyene kan være nyttige hvis du som forsker skjønner hvordan de fungerer, skjønner deres begrensninger og fallgruver, - og dermed vet å anvende dem på en forsvarlig måte. Spørsmålet er om ansatte i akademia har slik kompetanse?
KI-ekkoet
Utviklingen går rasende fort, noe som gir et behov for å oppdatere seg hurtig. For hva kan skjer når forskeren uten tilstrekkelig opplæring tar i bruk KI-verktøy ukritisk? La oss se på et eksempel.
I Microsoft Word ligger KI-verktøyet Keenious Research Explorer som en add-in hos mange. Noen klikk, og du får opp kilder til teksten du har skrevet som et supplement i Word. Effektiviserende verktøy kan friste under akademias publiseringspress, og dette høres i utgangspunktet kanskje ut som et veldig nyttig verktøy. En snarvei til å finne kilder.
I ytterste konsekvens kan fremtidige samfunnsmessige beslutninger være basert på feilaktig informasjon.
Problemet er bare at verktøyet ved ukritisk bruk kan føre til at forskeren starter skriveprosessen i feil ende. Ved å først skrive, og for så å finne litteratur som bekrefter antakelsene, framfor å starte med å lese seg opp på hva som finnes av kunnskap på et tema.
Verktøyene kan på denne måten bidra til en polarisering i forskningen, ved at KI-verktøyene fungerer som et utmerket ekko-kammer. Du får akkurat det du trenger, -fremfor å måtte sette deg inn i et fagfelt hvor forskning ofte vil peke i ulike retninger og slik vise kompleksiteten. Rommet for kritisk tenkning og ulike perspektiver snevres inn.
Virkeligheten forvitrer
Det publiseres stadig flere KI-skapte artikler. KI-verktøyene kan generere oppdiktede velformulerte og tilsynelatende troverdige vitenskapelige artikler. Hva skjer når evidensbasen gradvis fylles opp med falsk informasjon?
Annonse
Hvis vi som forskere ikke fanger opp hva som er falske artikler, kanskje av genererte datasett, og inkluderer de i våre kunnskapsoppsummeringer, kan evidensbasen sakte men sikker vris i en retning som ikke nødvendigvis har rot i virkeligheten. La oss kalle det KI-biased.
Mest lest
Dagens KI-tilværelse krever at forskeren i større grad har et kritisk blikk til forskning de refererer til og formidler i undervisning. Falsk kunnskap og selvbekreftende forskning kan undergrave troverdigheten til evidensbasen.
I tillegg finnes det kommersielle aktører der ute som ønsker nettopp en spesiell vridning i evidensbasen. Finnes det gode nok rutiner hos tidsskrifter og forskere for å avdekke og håndtere falsk forskning? I ytterste konsekvens kan fremtidige samfunnsmessige beslutninger være basert på feilaktig informasjon.
Vet du hvor det går?
Som forsker står du overfor et dilemma. Eller egentlig er det ikke et dilemma, - fordi hvis du velger å fortsette å reise i det gamle damplokomotivet havner du milevis bak. KI er kommet for å bli og vi er nødt til å henge på.
Problemet er at KI-toget er et toppmoderne hurtigtog hvor de færreste har god nok kompetanse til å hverken lese rutetabellen eller skjønne hvor toget går. Forskere må læres systematisk opp. Hvis ikke kan vi ender opp med å miste kontrollen over hva som er ekte forskning av god kvalitet og hva som er KI-påvirket, - med alle de mulige feilkilder det kan innebære.
Mental latskap og beleilig, sirkulær enighet
La oss bruke en KI-generativ språkmodell (GPT-4) fra chat.uit.no til å gi et motsvar til dette kronikkinnlegget, - så slipper du å ta deg bryet!
Annonse
Prompt: Oppfør deg som en samfunnsdebattant og gi et motsvar på dette kronikkinnlegget. Både kritiske bemerkninger og utfyllende perspektiver er velkomne. Svar med 50-70 ord.
Svar: Kronikken tar opp viktige poeng om utfordringene ved KI i akademia, men den kan også nyanseres. KI er et verktøy, ikke en erstatning for kritisk tenkning. Problemet ligger ikke i teknologien, men i manglende opplæring og etisk refleksjon. I stedet for å frykte utviklingen, bør vi fokusere på å bygge kompetanse og utvikle retningslinjer som sikrer ansvarlig bruk av KI i forskningen.
Takk. Jeg er enig!
Aktuelt fra forskersonen:
