I denne episoden av podkasten Nord-Norge i verden forteller Ishita Barua om noen av mulighetene – og utfordringene – med bruk av kunstig intelligens for å forbedre helsevesenet.

– Vi er helt i startgropa. Bærum sykehus benytter kunstig intelligens til å vurdere røntgenbilder for å avdekke om pasienter har benbrudd, og jeg vet om flere prosjekter som vurderes i Nord-Norge, forteller Barua.

– Mer tid til pasientkontakt

I fjor skrev hun boken 'Kunstig intelligens redder liv - AI er legenes nye superkrefter', og Barua har selv sett potensialet for å forbedre helsetjenestene som fastlegevikar i Havøysund i Måsøy kommune i Finnmark.

– Kunstig intelligens kan bistå helsepersonell gjennom raskere og mer presis diagnostikk og behandlingsplanlegging. Men de mest lavthengende fruktene er å bruke teknologien til å effektivisere administrativt arbeid – som turnusplanlegging eller dokumentering – som igjen vil gi helsepersonell mer tid til direkte pasientkontakt, forklarer Barua.

Skynde seg langsomt

Barua understreker samtidig at det er viktig å skynde seg langsomt med innføring av kunstig intelligens i helsesektoren.

– Helsesektoren er et høyrisikosystem. Det er veldig mange variabler som man må ta hensyn til, og det er en høy kostnad hvis det går galt. Her er det ikke snakk om at man taper penger eller ressurser, men det er menneskeliv som kan bli påvirket. Så det er grunnen til at man går såpass forsiktig frem, sier KI-forskeren.

Under kan du lese alt som ble sagt i episoden:

▾

Stein Vidar Loftås: Vi mangler folk i helsevesenet, og nå er det mange som mener at kunstig intelligens kan være løsningen. Men kommer det til å bli det? Dette er Nord-Norge i verden. Mitt navn er Stein Vidar Loftås.

Ishita Barua er lege og hun har doktorgrad i kunstig intelligens i medisin. Hun har fått flere priser som KI, altså kunstig intelligens-forsker, og har vært gjesteforeleser ved Harvard Medical School. Det er jo en erkjennelse i seg selv – at da er du høyt oppe i kunnskapshierarkiet. Men som om ikke det er nok, så har hun også vært fastlegevikar i selveste Havøysund i Måsøy kommune i Finnmark. Nå er vi heldige å ha henne med oss her i Nord-Norge i verden, og hjertelig velkommen til oss, Ishita!

Ishita Barua: Tusen hjertelig takk.

Stein Vidar Loftås: Du, vi skal bevege oss inn i et område som for veldig mange sannsynligvis er ganske nytt, selv om alle har hørt om kunstig intelligens. Men la oss starte med et litt sånn lavt nivå. Vi hører ofte, og vi har hørt lenge nå, at kunstig intelligens i hvert fall har potensial til å endre på alt. Og for oss vanlige dødelige er det litt vanskelig da å ta inn over oss hva begrepet 'alt' innebærer. Så helt konkret, hvordan vil kunstig intelligens kunne påvirke helsetjenestene for meg, deg og alle de neste årene?

Ishita Barua: Jeg tror det er viktig å forstå at dette egentlig er verktøy som kan optimalisere veldig mange prosesser. Litt sånn som da datamaskinen kom, eller da smarttelefonen kom. Det har en mulighet til å gjøre at for eksempel kliniske beslutninger som helsepersonell tar, blir tatt på et bedre grunnlag. At de får støtte til å ta noen av de diagnostiske valgene de skal ta for pasientene sine. Og det er på en måte den kanskje vanskeligste oppgaven de hjelper oss med som helsepersonell. Men du har også mer lavthengende frukter, som det å hjelpe til med å planlegge turnus for eksempel. Hvordan sette opp en turnus for sykepleiere og leger, det er noe som i hvert fall før tok veldig mye tid, men som nå kan hjelpes av noen tasteklikk med bruk av kunstig intelligente verktøy. Det går mye kjappere. Det har gått med flere årsverk på å få lagt en sommerkabal for eksempel. Sånne ting kan også kunstig intelligens hjelpe oss med. Så er det mange som tror at, ok, men er det snakk om roboter? Vi er ikke helt der enda.

Og litt sånn som vi ser i form av ChatGPT, om det kan hjelpe oss med å generere tekst. Akkurat dette er litt utfordrende i helsevesenet, fordi ChatGPT, som mange har erfart, kan gi deg tekst som ikke nødvendigvis er riktig eller sann. Og da er du nødt til å verifisere det. Også det at du på en måte har disse såkalte hallusinasjonene, hvor du får uriktige opplysninger. Eventuelt at det ikke er trygt å bruke for nettopp sensitive data. Og i helsevesenet jobber vi egentlig nesten bare med sensitive data. Så det er litt vanskelig. Det er noe vi er nødt til å fikse før vi kan ta det i bruk. Sånn som vi gjør i hverdagen vår for eksempel, utenfor jobb, så er det veldig mange som bruker ChatGPT til å svare på e-post for eksempel.

Stein Vidar Loftås: Hvis vi skal være enda mer konkret og tilpasse det enda mer til den nordnorske virkeligheten, du har vært, som vi sa innledningsvis, vikarlege så langt nord i Norge som det går an å komme. Og du har selvfølgelig da også kjent på kroppen de utfordringene man har her oppe med avstand og lite personell og så videre. Hvis vi ser inn i krystallkulen noen år frem i tiden, hvordan kunne kunstig intelligens ha hjulpet situasjonen for folk på den ytterste nøgne ø?

Ishita Barua: Det er et veldig godt spørsmål. Da jeg var fastlegevikar i Havøysund, opplevde jeg at det var vanskelig å være to steder på en gang. Sånn at det er samtidighetskonflikter der du trengs flere steder på samme tid. Det er en veldig typisk utfordring hvor jeg kunne tenkt meg at kunstig intelligens kunne være til stor hjelp. I dette tilfellet snakker vi om pasienter som trenger akutt hjelp, men hvor du ser at kanskje du kunne brukt kunstig intelligens til å overvåke disse pasientene. Det er jo problemet med store avstander. En ting er at du ikke kan splitte deg selv opp, men også det å fysisk være til stede overalt hele tiden blir vanskelig med så store avstander. Der er det også sånn at du har en viss reisetid inn til sykehuset. Så når du har brukt opp ressursene på en pasient, la oss si at pasienten trenger å bli fraktet med sykebil til sykehuset, så er det ofte avstander som gjør at i den tiden den sykebilen er borte, kan ingen andre bli syke. Så har du jo helikopter, ambulansehelikopter og også båt. Men du kan fort komme opp i en situasjon hvor du har brukt opp alle disse verktøyene, og flere blir syke. Det er en veldig, veldig sårbar situasjon å stå i. Da kunne du hjulpet med for eksempel kunstig intelligente verktøy som overvåker disse pasientene, sånn at de sier ifra når det blir helt kritisk. Eventuelt at du også får hjelp til å vurdere om du skal begynne å gå i gang med antibiotika, for eksempel hos en pasient som har en infeksjon som blir verre og verre. Så både overvåkning, men også hjelp til å fatte de riktige beslutningene til riktig tid.

Stein Vidar Loftås: Det var en veldig forståelig forklaring som ville kunne dempe en del av etterspørselen. Men så er det et annet begrep som man ofte hører, kanskje ikke så ofte nå lenger, men i hvert fall hørte man det før, behovet for 'varme hender'. For helsetjenester er jo mer enn bare legetjenester, det er jo et vidt spekter. Hvis du ser på kunstig intelligens opp mot det, er det din oppfatning at man kan frigjøre tid slik at de 'varme hendene' kan være varme hender? Er det et potensial der?

Ishita Barua: Helt klart, helt klart. Da vi først begynte med digitalisering og fikk elektroniske pasientjournaler, trodde alle at vi skulle frigjøre tid, og sånn har det ikke blitt. Vi bruker stadig mer tid på dokumentasjon og på å se inn i dataskjermer, og ikke inn i folks øyne. Det er jo også noe av misnøyen, men også innvendingene mot kunstig intelligens, og alt det som blir lovet at nå kommer vi til å frigjøre mer tid. Vi har sett at det ikke har skjedd tidligere med teknologiske implementeringer i helsevesenet. Vi har sett at den tiden vi bruker på faktisk direkte pasientkontakt, den går ned i stedet for å gå opp. Men jeg tror det kan bli annerledes med kunstig intelligens, fordi det er en annen type teknologi. Det er en teknologi hvor nettopp disse veldig tidkrevende prosessene med å ta diagnostiske valg vil bli støttet av kunstig intelligens, sånn at du får mer tid til å gjøre de mer direkte pasientoppgavene. Det å gå rundt og ha dårlig verktøy for overvåking av pasienter, det gjør at du gjør unødvendige konsultasjoner. Det er en ting, men at du også bruker tid på unødvendige ting. Bare det å ta for eksempel bleiesensorer, at du har sensorer som varsler når det er noe innhold, eller når en pasient trenger å tilses, er bedre enn at du har satt opp et tidsskjema for når du skal sjekke pasienten fysisk. Det er de tilfellene hvor vi ser for oss at teknologi kan bidra til at vi er i bedre stand til å bruke tiden der det trengs.

Stein Vidar Loftås: Det du sier, er for meg den motsigelsen i det. Vi har innført teknologi som skulle redusere administrasjonsbyrden og øke tiden med pasientene. Men det motsatte har skjedd. Hvorfor?

Ishita Barua: Jeg tror det har noe med... Den verden vi lever i i dag er mye mer kompleks. Folk er sykere. Det er flere syke. Det er en av grunnene til at det også har økt. Den gangen vi brukte penn og papir og syntes det var greit, og hadde arkivsystem, var ikke nødvendigvis det medisinske bildet så komplekst. Så det har blitt verre. Heldigvis har vi fått dokumentasjonsverktøy som er elektroniske. Men jeg tror forventningene våre sto ikke i stil med de utfordringene som har kommet. Det er det ene. Det andre er at måten vi jobber på, tror jeg også at man må gå mer inn i sømmene og se om det er effektivt.

Før så hadde man jo også sekretærer på legekontorene og på sykehusene. De er i dag borte, så legene selv må skrive og dokumentere og gjøre den jobben selv. Man hadde også diktafon før. Det ser man også i mindre grad blir brukt i dag. Så noe av teknologien som reintroduseres med kunstig intelligens vil utnytte disse tingene her. Nettopp dette med transkribering, som er god. Ikke sånn som er så dårlig at du må bruke mer tid på å rette det opp enn på bare å skrive for hånd. Så disse verktøyene har også blitt bedre. Men det er på en måte en innvending som veldig mange har. Vi har sett at det ikke fungerer tidligere. Hva er det som er så mye mer nytt og suksessfaktor nå som vi ikke har hatt tidligere? Det er vanskelig å svare på, men jeg tror at den teknologien er helt annerledes. Vi ser jo også at feilraten til kunstig intelligens er lavere enn hos mennesker. Hvis vi finner en måte hvor vi kan utnytte det på, for det er ikke snakk om at teknologien skal erstatte oss. Den skal bare bistå slik at vi blir flinkere. Jeg har ofte tenkt at jeg gjør en konsultasjon med en pasient, så skulle jeg ønske at jeg kunne gå inn i et rom, undersøke pasienten, si høyt hva funnene mine er, og så blir det tatt opp, transkribert. Så kan jeg gå ut av det rommet og bare se over på en nettbrett. Så ser det riktig ut? I stedet for at jeg må sette meg ved en PC og skrive fra bunnen av. Det er teknologi som ikke er spesielt avansert, som finnes i dag, men som vi ikke klarer å utnytte, fordi det også er et spørsmål om dette med personvern. Er det trygt å bruke? Hvordan skal du forhindre misbruk og forhindre at dette blir spredt? Den type hensyn må også tas inn, men det er helt klart et poeng at det der med dokumentasjon, det må kunne gjøres mer effektivt. For det er ikke det at det ikke er viktig. Vi må fortsatt ha det, men det må bare gjøres mer effektivt.

Stein Vidar Loftås: Og så hører jeg i det du sier at teknologien kan løse ting, men vi ønsker at den skal løse ting, og vi må tilpasse prosessene. Da er det naturlig å følge opp med å spørre, hvor langt har vi kommet? I hvor stor grad har vi tatt i bruk de mulighetene som kunstig intelligens gir oss i helsevesenet?

Ishita Barua: Vi er helt i startgropa. Nå har Vestre Viken HF og Bærum sykehus tatt i bruk kunstig intelligens på en ganske bred måte innenfor pasientbehandling. De har kjøpt hyllevare, altså de har kjøpt et diagnostisk verktøy innenfor røntgen, hvor de kan bruke kunstig intelligens til å vurdere om pasienter har benbrudd. Det er kanskje det mest kjente tilfellet, og kanskje det første i Norge, hvor vi nå bruker det i pasientbehandling. Jeg vet om flere prosjekter i Nord-Norge, hvor man har sett på om man kan bruke kunstig intelligens innenfor journalsystemer, og dette med å beregne operasjonstid, hvordan man kan virkelig utnytte disse timeplanene, sånn at det blir mest mulig effektivt for operasjoner, men også andre ting. Jeg tror det er på vei til å bli brukt av flere andre aktører, også innenfor litt andre områder. Dette var jo innenfor pasientbehandling og diagnostikk, men jeg tror at lavthengende frukter som bare innenfor dokumentasjon, administrasjon, planlegging, prognoser, det vil også komme.

Stein Vidar Loftås: Hvorfor går det ikke fort da?

Ishita Barua: Jeg liker å kalle det et høyrisikosystem. Det er veldig mange variabler som man må ta hensyn til, og det er en høy kostnad hvis det går galt. Så det er ikke snakk om at man taper penger eller ressurser, det er menneskeliv som kan bli påvirket, og man kan potensielt medføre skade på pasienter. Så det er grunnen til at man er såpass forsiktig og går forsiktig frem. Så har du jo for eksempel legeeden som er enkelt formulert 'do no harm' (primum non nocere), sånn at du ofte ikke gjør ting som du ikke vet helt sikkert vil være trygt for pasienten. Det gjør at hastigheten er litt annerledes enn i andre bransjer. Man må trekke frem at helsevesenet er langt fremme. Det er få andre eksempler fra samfunnet for øvrig i andre bransjer hvor de bruker kunstig intelligens på den måten vi har begynt å gjøre nå, i pasientbehandling, som for eksempel på Vestre Viken og Bærum sykehus. Så jeg vil si at vi sikkert kunne vært enda raskere, men vi er nok blant de fremste i å ta det i bruk. Nå vet jeg at NAV har brukt det i lengre tid, Ruter bruker det. Så det er store offentlige aktører som har tatt det i bruk, og helsevesenet er en av dem. Jeg synes ikke vi er så veldig dårlige i klassen, det er vi ikke.

Stein Vidar Loftås: Det var ikke meningen å disse det, men vi som holder til i Nord-Norge står jo midt oppe i denne debatten rundt Helse Nord HF, og hvordan man skal ha sykehus, og den evige mangelen på helsepersonell. Det er jo en grunn til å tenke at kunstig intelligens kan bøte på det, og kanskje ved å øke farten så vil man ha løst problemene fortere. Men selvfølgelig, man må ikke gå på akkord med livet. Det er vel det jeg hører du sier, at man må gjøre det i riktig rekkefølge. Økonomien da? Det er jo slik at vi har mangel på helsepersonell, og det er dyrt å utdanne, det er dyrt å lønne, og what not. Men teknologien og innføringen av teknologien har jo også en pris. Vet vi noe om den økonomiske slutsummen på dette?

Ishita Barua: Det er jo tall som er litt mer generelle. Goldman Sachs sa i en rapport i fjor at de forventet at generativ AI, en underkategori av kunstig intelligens, ville medføre en global økning i BNP på … var det syv prosent? Og det er ganske mye. Så de forventer en effektivisering som er ganske stor. Sånn konkrete tall når det kommer til helsevesenet. Jeg var med å gjøre en studie innenfor tarmkreftscreening, og der så man at dette ville være en besparelse hvis man tok i bruk kunstig intelligens på omtrent 10 millioner norske kroner hvert år, dersom man brukte det innenfor tarmkreftscreening, på å oppdage hvilke forstadier til tarmkreft som man skulle ta og fjerne, og hvilke man skulle la være å ta. Så det er et effektiviseringsverktøy som har stort potensial, og jeg tror at i starten så vil det være veldig mye som koster i forhold til dette med infrastruktur.

Men det er vanskelig å si, og vi trenger mer forskning som kan komme med bedre estimater for hva er de konkrete tallene? Hva forventer vi å spare, både i tid og ressurser? Men jeg tror alternativet er jo at vi ikke har nok folk. Så det er nok et regnestykke som på sikt vil lønne seg, gitt at vi bruker det på de riktige tingene. Og det er egentlig hele poenget. Hvor er det vi har flaskehalser i helsevesenet? Hvor er det vi virkelig trenger å sette inn støtet? Det tror jeg ikke nødvendigvis er det som på en måte er det mest fancy og mest banebrytende. For eksempel innenfor kreftdiagnostikk. Det er ting som har veldig høy risiko, og som krever store studier over flere år for å kunne se hva effekten av dette er. Og hva er gevinsten i kroner og ører? Det tar mye lengre tid. Så jeg har mye mer tro på at man heller skal se litt på beregninger i forhold til administrasjon, og bruk av kunstig intelligens på sånne lavthengende frukter som det der. Der tror jeg vi har en del å spare.

Stein Vidar Loftås: Er det der man starter også?

Ishita Barua: Ikke til nå. Vi har startet i den andre enden med diagnostikk. Nettopp med det eksempelet fra Bærum, hvor vi brukte det som diagnostisk verktøy og klinisk beslutningsstøtte. Men der var det jo en hyllevare som allerede var utviklet. Og det er jo et annet poeng. Hvis vi skal utvikle alt selv fra bunnen, så kommer det til å ta lang tid, og det er kostbart også. Det er veldig ressurskrevende. Men hvis vi kjøper inn hyllevare som vi ser har god dokumentert effekt, og vet at dette er noe vi trenger og kan utnytte, så tror jeg det ville vært bedre for oss å begynne i den enden der. Også fordi risikoen er lavere enn når du begynner med pasientdiagnostikk. Men det er på en måte en avveining man er nødt til å ta. Du må kunne rettferdiggjøre den ressursbruken. Jeg har også sett tilfellene hvor innenfor tarmkreftscreening og forskning der, som var mitt felt tidligere, så har vi sett at du må kunne spørre deg om effekten av å kjøpe inn video og overvåkning kunne vært vel så bra. For det vi ser i forskning er at mye av prestasjonene til leger – når de blir iaktatt under forskning – den går opp, altså prestasjonene går opp når legene vet at de blir iaktatt og målt opp mot leger som bruker kunstig intelligens. Sånn at hvis du vet at du blir fulgt med på, så presterer du bedre. Kunne du da bare kjøpt inn video og overvåkning? Kunne det gjort samme nytten? Det ville vært mye billigere. Så den type studier er vi nødt til å gjøre for å se om vi kan forsvare investeringen som kunstig intelligens kommer til å koste.

Stein Vidar Loftås: Enn så lenge er det områder der det helt åpenbart vil gi en gevinst. Det er interessant å høre deg si det. Hvis vi ser på, du har vært inne på det allerede, dette med omhandlet bruken av data. Kanskje jeg skal generalisere og si helsepolitikk. Helsepolitikken vi har i Norge i dag, må den tilpasses for at man skal kunne ta ut det fulle potensialet av kunstig intelligens? Og i så fall, på hvilke områder?

Ishita Barua: Jeg tror jo... Jeg er veldig redd for å svare at teknologien er svaret på alt, at det vil løse alle våre helsekriser. Det tror jeg virkelig ikke. Vi trenger fortsatt folk og personell. Men jeg tror at det er helt klart sånn at man må se på muligheter for der vi legger ned fødestuer, der vi ikke satser på å beholde beredskap. Er det muligheter som teknologi kan gi oss for å beholde noe? Eller på en måte løse ting bedre? Sånn at, det er et litt vagt svar, jeg er klar over det. Men jeg tror på en måte at man er nødt til å tenke over andre måter å jobbe på, rett og slett. Og det betyr at vi er nødt til å gå inn i arbeidsrytmen. Hvordan er det vi egentlig jobber? Hvor er det vi egentlig har problemer som kunne vært løst med bruk av kunstig intelligens? Det er både politikere nødt til å være med på, men i aller høyeste grad så er det fagfolkene som er nødt til å ta det an.

Både... Jeg tror det er to kritiske punkter på det. Det ene er at du kommer så langt unna fagfolks mening og erfaring som du kan få. Altså, beslutninger tas på et mye høyere nivå. Man involverer ikke fagpersoner godt nok. Og det er helt viktig for at implementeringen skal være vellykket. I det du har tatt noen beslutninger om at vi skal bruke kunstig intelligens, så er det på en måte litt for sent for fagfolk å påvirke det. Og det er de som er nødt til å være med. Egentlig så burde de ideelt sett være med i utviklingen av disse verktøyene. Når vi kjøper hyllevare, så må de være med på innkjøpene. Deres input må være med helt fra starten. Hvis ikke, så tror jeg dette her blir mislykket. Fordi dette skal inn i en arbeidsflyt som de skal være involvert i. Så hvis ikke de er involvert i den avgjørelsen, så tror jeg dette her er egentlig litt dødfødt fra start. Så jeg tror det å involvere fagfolk, involvere klinisk helsepersonell fra starten av, det tror jeg blir helt viktig når disse avgjørelsene tas.

Stein Vidar Loftås: Det tror jeg du har absolutt helt rett i. Når vi snakker om politikk, så er det lett å ta sprang over til data. Og jeg vet at du er en av de som har pekt på at tilgangen til data er en utfordring. Men vi vet også at vi har samlet inn data om oss. Det gjøres jo både med vårt vitende og hadde nær sagt uten vårt vitende. Mer data om pasienter. Hva vil det gi oss nå i et kunstig intelligensperspektiv?

Ishita Barua: Jeg tror, jeg må trekke frem det som er en av mine store kjepphester, som på en måte er det at veldig mange frykter at kunstig intelligens skal ta over verden og bare tilintetgjøre oss. Jeg er ikke der. Jeg tenker at det er mange andre utfordringer som kommer før det. Blant annet dette med at du har en risiko for å utøve diskriminerende atferd og utfall ved hjelp av kunstig intelligens på enkelte pasienter. Det skyldes at du har skjeve datasett. Du har samlet inn data på en majoritetsbefolkning og så trener du disse AI-modellene på dette her. Så skal du bruke det likevel på hele befolkningen, altså inkludert minoritetspersoner som ikke har vært med i treningsgrunnlaget. Sånn at du risikerer at du har en høy treffsikkerhet for en majoritetsbefolkning, men en mye lavere treffsikkerhet på minoritetspersoner. Er det da rettferdig at du bruker dette verktøyet på alle sammen? Må du ikke da vite hvem det vil fungere dårligere for, og så må du komme inn med et annet tilbud for dem, sånn at du ikke får en mangel på likeverdige helsetjenester. For det vi har i dag er jo likeverdige helsetjenester. Det er det vårt helsevesen er bygget opp under. Det er på en måte verdiene vi har lagt til grunn. Men hvis du nå utvikler AI-modeller som virker bedre for noen og dårligere for andre, men bruker det på alle sammen, så risikerer du at det blir svekket, det blir ikke likeverdige helsetjenester.

Stein Vidar Loftås: Men la oss da si at vi etter hvert får tilgang på enda mer data, og vi får tilgang til å bruke det. Hvordan skal vi forholde oss da i forhold til personvern, for eksempel, som er viktig, kanskje det aller viktigste området for mennesker flest, det er jo helseopplysningene deres?

Ishita Barua: Jeg synes jo, jeg tror ikke lovverket egentlig er til hinder. Jeg har inntrykk av at vi har ganske robust og gjennomregulert helsevesen, gode lover og regler. Problemet er med praktiseringen av det, at vi gjør ulike fortolkninger av loven fra mellom helseforetak, fra sykehus til sykehus, og fra fastlegekontor til fastlegekontor. Så jeg tror mye av problemet ligger der, at vi tror at det er ulike måter å tolke dette her på. Så jeg tror jo dette her med, hvis vi får større datasett, så vil mye av potensialet for diskriminering bli redusert. Det tror jeg. Samtidig som det fortsatt er mange ting vi ikke helt forstår. Sånn at det er bare en måte å angripe problemet på, men det er også det at vi er nødt til å... Dette er et generelt problem, dette med å samle inn data. Dette er et stort forskningsproblem, sånn at det gjelder ikke bare kunstig intelligens. Det gjelder generelt det at man ikke får representative datasett. Det er noe vi hele tiden har strevd med og fortsatt strever med. Så jeg tror at, ja, en løsning er å få mer data, men det er veldig vanskelig, og det krever at vi har ganske robuste systemer for nettopp datainnsamling. At det er trygt, at folk har tillit til systemet.

Vi bruker de til å dele data i Garmin-klokker, Apple Watch, altså det er mye sensordata vi gir bort i bytte mot at vi får større innsikt i oss selv. Så tenker jeg det kunne vært nyttig om helsevesenet fikk større tilgang til nettopp disse dataene her, men også var i bedre stand til å dele det seg imellom. Her er litt av problemet. Nylig var jeg på en konferanse hvor det var snakket om at Norge skulle dele mer data med utlandet og forskere utenfor. Så tenkte jeg, jo da, vi skal gjøre det også selvfølgelig, men vi har problemer med å dele oss imellom. Vi klarer ikke. Noe av problemet med å utvikle AI-modeller er at det er vanskelig å få tilgang til datasett med helseopplysninger. Og det er god grunn til å være forsiktig, men det er også noe med at det reduserer innovasjonstakten, at det er så mange barrierer som gjør det vanskelig. Så jeg tror ikke nødvendigvis at det er lovverket det er noe galt med. Jeg tror det er praktiseringen, tolkningen og hva slags rettledning som gjøres for at forskere skal få enklere tilgang. Så må det også nevnes at vi har noen av de beste datasettene i verden. Altså, gullet vårt er kanskje der. Nye oljen, det tror jeg blitt gjentatt så mange ganger, men poenget er at mange av disse registrene som vi har, er i verdensklasse. Kreftregisteret for eksempel, som er over 70 år nå. Det er data som er koblet til kreftdiagnoser hvor det er en kobling til individer og deres fødselsnummer. Det har det ikke vært tidligere i andre land. I Norge har vi vært veldig flinke på det. Det betyr at vi kan følge generasjoner og individer over flere år, gjennom hele livet deres, og ha mye informasjon om dem. Dette kunne vært utnyttet bedre til nettopp utvikling av AI-modeller. Det får jeg inntrykk av er veldig vanskelig for veldig mange forskere, og har opplevd det selv som forsker, at det er veldig vanskelig å komme i gang. Det tar lang tid fra du bestemmer deg for at du har lyst til å forske på dette, til du faktisk får utlevert data og kan begynne. Sånn at det å gjøre noe med de prosessene der, gjøre dem mer sømløse, mindre friksjon, det hadde vært noe.

Stein Vidar Loftås: Og så sikkerhet. For å ta det også når vi først er inne på den sensitive delen av data. Jeg hørte en podcast forleden, riktignok om politikk, der de snakker om frykten for at KI kunne generere 'fake news' på et så avansert nivå at folk ble lurt. Hvordan klarer vi, hvis vi skal ha KI-modeller som skal diagnostisere og så videre, hvordan skal vi være helt sikre på at ikke noen manipulerer med algoritmene og sørger for katastroferesultater?

Ishita Barua: Det er et veldig godt spørsmål. Dette her er det veldig dyktige folk som må jobbe med videre. Jeg tror på en måte uansett at vi kan ikke ha nulltoleranse for feil. Det gjøres allerede feil – dessverre – i norsk helsevesen som på en måte vi har en tendens til å godta, for det er menneskelig å gjøre feil. Men hvis vi stiller det kravet til maskiner og kunstig intelligens, at de skal ikke gjøre noen feil, så tror jeg det er en helt urealistisk forventning. Egentlig så tror jeg vi er veldig gode på å håndtere risiko i helsevesenet. Det er hver dag. Hver gang noen legger seg under kniven, så er det en viss risiko. Det er både folk og helsepersonell trent til å godta. Det vil aldri være et nivå hvor man ikke gjør noen feil. Det er vi på en måte bare nødt til å akseptere. I starten vil det være mer av det. Etter hvert som vi får mer erfaring, så vil den faren reduseres. Man har lært av det. Men det er klart at alt det vi kan gjøre for å gjøre dette så trygt som mulig, noe av det er allerede hensyntatt. Det er for eksempel at før kunne du ikke ha lagret personopplysninger. Dette med å levere det ut til andre land, det var kjempevanskelig. Jeg tenker på den Schrems II-dommen som startet med at man klaget inn Facebook, som hadde da kontorer både i USA og Europa, hvor personopplysninger da ble fraktet til USA fordi de hadde hovedkontor der. Så fikk man en rettskraftig dom på at dette var ulovlig. Det satte litt føringer på hvordan man skulle også utnytte dette utenom caser med Facebook, og dette med personopplysninger som ble brukt i helsevesenet. Hvor er det du skal ha disse datasentrene som lagrer så viktige opplysninger? Og så fikk du en avklaring på det, jeg tror det var sommeren i fjor, hvor det kom at du rett og slett hadde løst det problemet der. Så at man har en avtale mellom USA, altså tredjepartsland, rett og slett. Så den type løsninger er vi nødt til å ha. Vi er nødt til å på en måte lene oss på EU, på mer internasjonalt samarbeid, hvordan vi skal ivareta denne type potensial for risiko. Nettopp i informasjonsflyt og hvor det kan gå galt. Det er ikke noe hvert enkelt sykehus kan løse alene. Og det blir veldig vanskelig hvis man skal ta i bruk hyllevare som kunstig intelligens, og så må personvernombudet på hvert sykehus forholde seg til dette alene. Så jeg tror at flere er nødt til å snakke sammen og se hvordan dette her løses. Det er nettopp det som skjer i Vestre Viken HF nå. Nå skal Bærum sykehus gå foran og vise de andre sykehusene i samme helseforetak hvordan de har klart å implementere kunstig intelligens sånn at det blir lettere for dem. Jeg tror det er oppskriften også når det kommer til informasjonssikkerhet og det å gjøre det trygt og dele data. Det er at man er nødt til å lene seg på andre. Hvordan går vi frem sammen for å løse det? Så det var det lange svaret på det spørsmålet.

Stein Vidar Loftås: Sikkerhet er selvfølgelig viktig, men vi må passe på at det ikke blir en showstopper for oss, og det har du selvfølgelig helt rett i. Helt til slutt, Ishita: Hva er det første virkelig store gjennombruddet for kunstig intelligens innenfor helsesektoren, hvis jeg skal be deg om å se litt inn i krystallkulen?

Ishita Barua: Det som kommer? Du tenker på hva som kommer til senere?

Stein Vidar Loftås: Ja.

Ishita Barua: Jeg kan snakke litt om det som allerede har skjedd, og som på en måte ikke har fått så mye oppmerksomhet. Altså, vi har jo algoritmen AlphaFold som kom i 2021 og ble kalt det største vitenskapelige gjennombruddet i 2021 av Science Magazine. Det er et verktøy som klarer å forutsi den tredimensjonale strukturen til proteiner. Grunnen til at det er viktig er fordi at måten vi skal lage medisiner på og legemidler på for nettopp sykdommer som Alzheimers sykdom, det er å vite hva den tredimensjonale formen på feilfoldede proteiner er, sånn at vi kan lage medisiner som gjør at de ikke folder seg feil. Så det er helt essensielt. Det var et gjennombrudd som allerede har kommet, men som jeg tror vil være noe vi skal bygge videre på i fremtiden. Altså, hvordan bruker vi kunstig intelligens til å oppdage nye legemidler, blant annet antibiotika. Å oppdage flere antibiotika i fremtiden, det vil være helt essensielt for at vi skal kunne bekjempe antibiotikaresistens, altså når bakteriene utvikler motstandsdyktighet. Det er det ene, men vi er også helt avhengige av å kunne lage nye legemidler, sånn at verktøy som gjør det enklere ved å bruke kunstig intelligens, det tror jeg vil være banebrytende. Vi ser også at vi har CRISPR-teknologi, og hvordan du på en måte kan nesten klippe og redigere gener. Altså, dette er ikke kunstig intelligens, CRISPR, men det er en annen teknologi innenfor bioteknologi som er i stand til å redigere genene våre. Og da tror jeg, når du bruker kunstig intelligens, i tillegg til det, altså, vi har jo sett at ChatGPT er i stand til å lage koder.

Sånn at vi utnytter både CRISPR-teknologien, som kan gjøre selve redigeringen, men så utnytter vi kunstig intelligens til å finne ut, ja, ok, hvordan skal disse kodene se ut? Hvordan skal den genetiske koden se ut for at noen skal bli kurert for en sykdom? Det er ting jeg tror vil komme langt der fremme. Så det er ikke snakk om de neste to årene, kanskje ikke heller de neste ti årene, men langt der fremme så tror jeg vi kan komme dit ved hjelp av kunstig intelligens. Så dette her med legemiddelutvikling, genredigering, det er der jeg tror de virkelig store gjennombruddene vil komme. Så ser vi også at innenfor den type legevitenskap som tar for seg dette med å holde seg ung, å forlenge livet, der er det også veldig mye som forskes på. Så er det dette her med forskning som gjør at folk som har lammelser – sitter i rullestol, ikke klarer å bevege på seg. Hvordan kunstig intelligens kan brukes som tankedekodere til å rett og slett tolke hjernesignaler og gi signaler til muskulatur, sånn at de klarer å ta i bruk muskulaturen sin og kunne gå. Det er noe som allerede har skjedd i 2023, men som jeg tror vil ha en oppskalering i årene fremover. At vi klarer å utnytte teknologien så at enda flere får brukt det.

Stein Vidar Loftås: Ishita Barua, vi kan være helt klart slå fast at som lege og med doktorgrad i kunstig intelligens har du valgt deg et område som ikke bare er sentralt, men som også høres ufattelig spennende ut. Og vi får se hva årene kommer til å bringe. Vi har stor tro på dette her vi også. Tusen takk for at du kunne være med oss!

Ishita Barua: Takk skal dere ha!

Stein Vidar Loftås: Kunstig intelligens har et enormt potensial i seg, og det er utrolig interessant. Teknologien er kanskje veldig kompleks, men når man hører hvordan løsningene kan bli, så er det ganske mye lettere å forstå. Interessant å høre Ishita si at det er kanskje på medisinsiden de store gevinstene ligger. Det med å finne nye vidunder- og mirakelkurer for ting som vi ikke har klart før. Men samtidig også at man går helt ned på et nivå der det handler om å planlegge møter og automatisk få tatt opp det som man i dag må sette seg ned med skrivemaskinen eller PC-en og skrive etter at operasjoner er gjennomført. Det er kanskje ikke lenger så festet i minnet. Så det er et bredt spekter som kommer til å oppleve forbedringer som følge av kunstig intelligens. Så blir det interessant å se hvor lang tid det tar. Det blir interessant å se hvor mange regler vi har laget som gjør det vanskelig for oss selv. For eksempel det som har med datasikkerhet på den ene siden og personvern på den andre siden å gjøre. Her må vi passe oss slik at ikke det beste blir det godes fiende. I Nord-Norge, med sykehusstruktur og diskusjoner og med mangel på helsepersonell gjennomgående, så kan ikke kunstig intelligens komme fort nok. Det tror jeg i hvert fall vi skal slå fast. Vi har løsninger. Det gjelder å ta det ned til et konkret bruk og få det implementert. Jeg tror vi har knapt sett begynnelsen på kunstig intelligens.

Trykk her for å lese om episodene!

Her finner du Nord-Norge i verden

Du kan enten lytte til episoden ved å trykke på spilleren (se over), eller gjennom din favorittapp for podkaster.

Her er noen av appene hvor du finner Nord-Norge i verden:

• Apple Podkaster (den lilla appen)
• Spotify
• Google Podcasts
• Acast
• Amazon Music/Audible
• Pocket Casts
• Soundcloud
• Castro
• Castbox
• TuneIn

Nord-Norge i verden er produsert av Kunnskapsbanken SpareBank 1 Nord-Norge i samarbeid med Helt Digital. Programleder er Stein Vidar Loftås. Redaktør er Jeanette Gundersen. Musikken til podkasten er komponert av Emil Kárlsen.