"Etik skal tænkes ind i AI fra start til slut i sundhedsvæsenet"

På hospitalsafdelingerne rundt omkring i landet bliver kunstig intelligens i stigende grad integreret som en naturlig del af arbejdet. Men hvordan sikrer vi, at teknologien bliver brugt etisk forsvarligt og til gavn for patienterne? 

Victor Vadmand Jensen, ph.d.-stipendiat på Institut for Klinisk Medicin og Regionshospitalet Sílkeborg, har tilbragt tid på hospitalsafdelinger for at observere, hvordan AI bruges i den kliniske hverdag, og hvordan etiske overvejelser indgår i arbejdet.

Hvordan er du blevet interesseret i etik og AI i sundhedsforskning?

Jeg har været interesseret i etik siden min bacheloruddannelse, hvor jeg var optaget af at forstå, hvordan vi kan tænke etiske overvejelser med ind i udviklingen af teknologier fra starten. Det er vigtigt, fordi det får os til at overveje de værdier, som vi synes teknologier skal bidrage med, før teknologierne er udviklede – ikke bagefter.

AI er en spændende teknologi, men den kræver mange etiske overvejelser. Hvordan forklarer vi AI-beslutninger? Hvor meget kontrol må AI få? Og de etiske overvejelser gør sig særlig gældende i sundhedsvæsenet, fordi det handler om liv og død eller omsorg og apati.

Du har observeret, hvordan man arbejder med AI på hospitalsafdelinger. Hvad overraskede dig mest?

Jeg blev meget overrasket over, hvor meget AI, der faktisk allerede bliver på brugt på hospitaler i dag. De medarbejdere, jeg har observeret, har i høj grad formået at integrere AI som en naturlig del af deres arbejde. Jeg blev også overrasket over, hvor meget AI egentlig kræver af medarbejderne. Jeg har blandt andet set, hvordan medarbejdere konsekvent skal tage stilling til beslutninger, der træffes af AI. Nogle AI-beslutninger kan være forkerte – og det skal medarbejderne kunne opdage og reagere på.

Du har undersøgt, hvordan man kan bruge AI til at spotte fald hos ældre – hvilke etiske problemer skaber det?

Et vigtigt etisk spørgsmål er, hvordan man indsamler samtykke om brugen af AI hos ældre patienter. Ældre patienter kender sandsynligvis teknologien mindre, og de bliver også indlagt med tilstande som stroke eller sygdomme som demens. Det betyder, at et samtykke fra en ældre patient til AI er langt sværere at få, og det er ikke nødvendigvis klart, hvornår der er reelt samtykke. På den anden side vil det også på mange måder være uforsvarligt ikke at bruge et AI-system, som kan øge patientsikkerheden. Så hvad vælger vi? Det er et centralt etisk spørgsmål.

Du siger, at AI ikke kun skal bruges mhp at minimere fejl. Hvad skal det så bruges til?

Det skal bruges på de ting, som gør en forskel for medarbejdere og patienter. Selvfølgelig er det godt at lave færre fejl, men de færre fejl skal også betyde noget for de mennesker, som indgår i sundhedssystemet. Vi skal fokusere på at bruge AI til at give personale mere tid til patienter, så vi gør det tryggere at være patient og sjovere at være personale i sundhedsvæsenet. Det er også vigtigt, at vi bruger AI på en måde, der hjælper med at gøre personale dygtigere til deres arbejde, fremfor bare at erstatte dem.

Er danske hospitaler klar til de etiske udfordringer med AI?

Jeg har undersøgt brugen af AI på flere hospitalsafdelinger, og jeg har generelt oplevet, at etikken har fyldt meget for klinikere i forskellige faggrupper og på forskellige erfaringsniveauer. Det svære for hospitalerne kunne måske være at hjælpe de individuelle afdelinger, så de selv har kompetencerne og ressourcerne til sikre en etisk forsvarlig implementering af AI-systemer.

Hvad skal politikere og hospitaler gøre bedre?

Politikere bør fokusere mere på de etiske spørgsmål om AI, før teknologierne bliver implementeret. I et studie fra min ph.d. har vi undersøgt dansk politik om AI i sundhedsvæsenet og fandt ud af, at etik oftest bliver beskrevet som noget, der skal overvejes i forbindelse med implementeringen. Men det gør, at nogle af de etiske overvejelser faktisk skal håndteres af sundhedspersonalet, hvilket er svært og krævende. Det vil give god mening at tænke etik ind i hele processen – fra den første idé til første tests af AI-systemet, så vi ikke først skal håndtere de etiske spørgsmål bagudrettet.

Hvad ser du som de største muligheder og farer ved AI i sundhedssystemet?

Jeg ser faktisk farerne som nogle, der minder om andre sundhedsteknologier. Personligt vil jeg frygte, at AI ikke fører til bedre pleje eller mere tid med patienter, men i virkeligheden bare fører til besparelser i vores sundhedssystem. Samtidig skal vi overveje, hvordan sundhedspersonalet ikke bliver trætte af AI-systemer, hvilket i værste fald kan føre til omsorgstræthed.

Men hvis vi kan få AI til at tage nogle af de kedelige opgaver og give tid til de mere interessante, så kan vi forhåbentlig gøre det sjovere og mere givende at arbejde i sundhedsvæsenet. Jeg håber, at det på lang sigt kan hjælpe os til at rekruttere flere til at arbejde i sundhedsvæsenet.

Ph.d.-stipendiat Victor Vadmand Jensen
Aarhus Universitet, Institut for Klinisk Medicin
Regionshospitalet Silkeborg, Universitetsklinik for Interdisciplinære Ortopædkirurgiske Forløb.
Telefon: 61281733
​​​​​​vvj@clin.au.dk