Mer er ikke alltid bedre, heller ikke når det kommer til kunstig intelligens

Det er lett å bli fascinert. Noen raske setninger og et spørsmål, og tilbake får vi ordrike og omfattende svar på det vi lurte på, og mye mer.

Jeg bruker selv kunstig intelligens (KI) som verktøy relativt ofte. Det er jeg nok ikke alene om. KI er tilgjengelig i apper, på nettsider og nå til og med i mange googlesøk. Flere av verktøyene er også gratis. Som for alt annet som er effektivt og lett tilgjengelig, blir terskelen for å ta det i bruk lav. Og nettopp derfor er det viktig å kjenne grensene.

For oss som er helsepersonell, har myndighetene laget både KI-vettregler og et faktaark om trygg bruk av KI for blant annet kommunehelsetjenesten. Dette er gode navigasjonsverktøy vi må forholde oss til, og det forteller også noe om behovet for retningslinjer. I en klinisk hverdag hvor tiden er knapp, forventningene store og arbeidsmengden høy, kan det være fristende å ta i bruk tilgjengelige KI-verktøy. Men det bør vi ikke uten videre gjøre.

Jeg er imidlertid litt usikker på om det er helt riktig å kalle det intelligens. KI mangler i hvert fall menneskelig logikk og rasjonell forståelse. Basert på store datamengder bruker KI-modeller avansert statistikk og mønstergjenkjenning. Enkelt forklart gir de oss svar ved å beregne seg frem til det som statistisk passer best sammen. For å gjøre det, trener de fleste modellene, blant annet, på det som blir gjort tilgjengelig av informasjon for den, altså det du og jeg legger inn.

Stort sett er modellene utformet for å gi oss svar som oppfattes som plausible og relevante. Men de er ikke faktasjekkere. Uansett hvor overbevisende et svar fra en KI kan være, har den ikke alltid rett. Et spørsmål stilt på to ulike måter kan gi helt forskjellige svar. I den siste utgaven av Tidsskriftet skriver Erik Lang om nettopp dette.

Noen grenser er likevel absolutte. Den kanskje viktigste av dem alle er å ikke bruke åpne språkmodeller i hverken medisinske beslutningsprosesser eller til å sammenfatte sensitive personopplysninger til journalnotater og henvisninger.

La oss ta taushetsplikten først. For pasienten er jo anonymisert, tenker du kanskje? Svaret er nei. Med de store informasjonsmengdene språkmodellene har tilgang til, kan opplysninger som hver for seg virker uskyldige, i kombinasjon gjøre en pasient gjenkjennbar. Å dele taushetsbelagte opplysninger i en åpen språkmodell vil kunne innebære brudd på taushetsplikten. I tillegg kan det reises spørsmål om din dømmekraft. Det kan få alvorlige konsekvenser for pasienten, og det svekker tilliten til både vurderinger du gjør og deg som lege. Brudd på taushetsplikten er alvorlig. I verste fall kan det gå utover arbeidsforholdet ditt, og i alvorlige tilfeller også få betydning for autorisasjonen din.

Og så til pasientsikkerheten. For KI gir ikke nødvendigvis riktige råd. Det er en kjent utfordring at KI hallusinerer: den produserer informasjon som ikke stemmer, men som likevel kan virke logisk og blir presentert som sann. I medisinsk praksis kan det være farlig.

Felleskatalogen har gjort tester ved bruk av åpen, generativ KI på legemiddeldosering og formidling av legemiddelinformasjon. Funnene er urovekkende. De fikk svar som inneholdt feil eller fiktive legemidler og doseringer, fiktive kildehenvisninger og doseringsinformasjon blandet mellom ulike indikasjoner. Hvis man skulle ha støttet seg til slik informasjon, ville det kunne ha store konsekvenser for pasientsikkerheten.

Da er det også viktig å huske at du alltid er ansvarlig for de medisinske vurderingene du gjør og legemidlene du ordinerer, også når vurderingene dine bygger på råd fra KI eller annen beslutningsstøtte.

I tillegg kan bruk av KI til utforming av journalnotater og henvisninger indirekte påvirke pasientsikkerheten. Det er en grunn til at slike verktøy etter hvert nå omtales som "tale-til-utkast" og ikke "tale-til-tekst". For det er en risiko for at notater og henvisninger blir innholdsrike og lite logisk oppbygget, akkurat som for andre temaer du ber KI om å svare på for deg. Det kan gjøre det mer krevende for kolleger å lese og få oversikt, og i verste fall kan informasjon gå tapt eller misforstås.

Det å kunne sammenfatte og videreformidle informasjon, trekke ut essensen og gi beskjeder videre på en forståelig måte, er en viktig del av det å være lege. Det lærer vi ikke uten å øve. Selv etter mange år i hvite klær, lærer jeg stadig mer om hvordan jeg kan forbedre min egen formidling. For som med det meste annet i legeyrket, lærer vi også her hele legelivet. Da må vi eksponeres for det.

Teknologi og KI i helsetjenesten er temaer som vekker mye interesse og engasjement, både hos politikere, helsemyndighetene og i sykehusene. Mulighetene og behovet er der. Samtidig må utviklingen styres av våre behov og skje på en ansvarlig måte. Det er viktig for å opprettholde tilliten til helsetjenestens faglige kvalitet og befolkningens trygghet for at helseopplysninger behandles forsvarlig. Derfor må slike verktøy testes og godkjennes før vi tar dem i bruk.

Digitale verktøy og systemer som er sertifiserte og tilgjengeliggjort på din arbeidsplass, kan du bruke. Men bruk dem bare til det de er godkjent av arbeidsgiver for. Husk samtidig å være varsom og kildekritisk, og gjør dine egne vurderinger. Det medisinske ansvaret er tross alt ditt. Er KI-modellen du ønsker å bruke ikke godkjent av din arbeidsgiver? Styr unna.

Og selv om verktøyene kan være nyttige og spennende, så må vi også huske at KI ikke kan erstatte medisinske vurderinger og profesjonelt ansvar i møte med pasientene. Menneskelig intelligens er tross alt ikke så verst det heller.