Kildekritikk, feil og hallusinasjoner

KI-verktøy kan gi svar som virker trygge, velformulerte og overbevisende. Likevel kan svaret være feil. Derfor er kildekritikk en viktig del av det å bruke kunstig intelligens på en trygg måte.

En vanlig feil er å tro at et godt formulert svar automatisk er riktig. KI kan skrive med selvtillit også når den tar feil. Den kan blande sammen fakta, bruke utdatert informasjon, misforstå spørsmålet eller lage detaljer som ikke stemmer.

Når en KI lager informasjon som høres ekte ut, men som ikke er riktig, kalles det ofte en hallusinasjon. Det betyr ikke at verktøyet “lyver” med vilje. Det betyr at systemet lager et svar som passer språklig, men som ikke nødvendigvis er faktabasert.

Eksempler på hallusinasjoner kan være:
1. en boktittel som ikke finnes
2. en feil dato for en historisk hendelse
3. en lovregel som er utdatert eller oppdiktet
4. et sitat som aldri er sagt
5. en lenke eller kilde som ikke eksisterer

Derfor bør viktige svar alltid kontrolleres. Spør deg selv:
Hvem står bak informasjonen?
Er dette oppdatert?
Kan jeg finne samme informasjon hos en pålitelig kilde?
Gjelder dette Norge, eller et annet land?
Er dette fakta, råd, mening eller forslag?

For temaer som helse, økonomi, jus, skatt og sikkerhet bør du være ekstra forsiktig. KI kan være nyttig til å forklare begreper og foreslå spørsmål du bør stille, men den bør ikke brukes som eneste kilde til viktige beslutninger.

En god vane er å be KI-en vise hvilke deler av svaret som bør sjekkes. Du kan for eksempel spørre:
“Hvilke påstander i dette svaret bør jeg kontrollere?”
“Hva kan være usikkert her?”
“Hvilke offentlige kilder bør jeg sjekke i Norge?”

Du kan også bruke KI til å sammenligne og forenkle informasjon du selv har funnet fra pålitelige kilder. Da er det du som velger kilden, og KI hjelper deg å forstå innholdet.

Kort sagt: bruk KI som en hjelper til å tenke, skrive og forstå. Ikke bruk KI som eneste fasit. Jo viktigere spørsmålet er, desto viktigere er det å kontrollere svaret.