WHO har udstedt ny vejledning om etik og styring af store multimodale modeller (LMM'er) for dens passende brug til at fremme og beskytte befolkningens sundhed. LMM'er er en type hurtigtvoksende generativ kunstig intelligens (AI) teknologi, der har fem brede anvendelser til sundhed in
1. Diagnose og klinisk pleje, såsom besvarelse af patienters skriftlige forespørgsler;
2. Patientstyret brug, såsom til undersøgelse af symptomer og behandling;
3. Kontormæssige og administrative opgaver, såsom at dokumentere og opsummere patientbesøg i elektroniske sundhedsjournaler;
4. Medicinsk og sygeplejerskeuddannelse, herunder at give praktikanter simulerede patientmøder, og;
5. Videnskabelig forskning og lægemiddeludvikling, herunder at identificere nye forbindelser.
Imidlertid risikerer disse applikationer i sundhedsvæsenet at producere falske, unøjagtige, partiske eller ufuldstændige udsagn, hvilket kan skade folk, der bruger sådanne oplysninger til at træffe sundhedsbeslutninger. Ydermere kan LMM'er trænes på data, der er af dårlig kvalitet eller forudindtaget, hvad enten det er på grund af race, etnicitet, herkomst, køn, kønsidentitet eller alder. Der er også bredere risici for sundhedssystemerne, såsom tilgængelighed og overkommelighed for de bedst ydende LMM'er. LMM'er kan også tilskynde til "automatiseringsbias" hos sundhedspersonale og patienter, hvorved fejl overses, som ellers ville være blevet identificeret, eller vanskelige valg uretmæssigt delegeres til en LMM. LMM'er, ligesom andre former for AI, er også sårbare over for cybersikkerhedsrisici, der kan bringe patientoplysninger eller troværdigheden af disse algoritmer i fare og udbud af sundhedspleje mere bredt.
For at skabe sikre og effektive LMM'er har WHO derfor lavet anbefalinger til regeringer og udviklere af LMM'er.
Regeringer har det primære ansvar for at opstille standarder for udvikling og implementering af LMM'er og deres integration og brug til folkesundhed og medicinske formål. Regeringer bør investere i eller levere ikke-for-profit eller offentlig infrastruktur, herunder computerkraft og offentlige datasæt, tilgængelig for udviklere i den offentlige, private og non-profit sektor, som kræver, at brugerne overholder etiske principper og værdier i bytte for adgang.
· Brug love, politikker og regler for at sikre, at LMM'er og applikationer, der anvendes i sundhedspleje og medicin, uanset den risiko eller fordel, der er forbundet med AI teknologi, opfylde etiske forpligtelser og menneskerettighedsstandarder, der påvirker for eksempel en persons værdighed, autonomi eller privatliv.
· Tildel et eksisterende eller nyt reguleringsorgan til at vurdere og godkende LMM'er og applikationer beregnet til brug i sundhedspleje eller medicin - alt efter hvad ressourcerne tillader det.
· Indføre obligatorisk revision efter frigivelse og konsekvensanalyser, herunder for databeskyttelse og menneskerettigheder, af uafhængige tredjeparter, når en LMM udrulles i stor skala. Revisionen og konsekvensanalyserne bør offentliggøres
og bør omfatte resultater og påvirkninger opdelt efter typen af bruger, herunder for eksempel efter alder, race eller handicap.
· LMM'er er ikke kun designet af videnskabsmænd og ingeniører. Potentielle brugere og alle direkte og indirekte interessenter, herunder læger, videnskabelige forskere, sundhedspersonale og patienter, bør engageres fra de tidlige stadier af AI udvikling i struktureret, inkluderende, gennemsigtigt design og givet muligheder for at rejse etiske spørgsmål, give udtryk for bekymringer og give input til AI ansøgning under behandling.
LMM'er er designet til at udføre veldefinerede opgaver med den nødvendige nøjagtighed og pålidelighed for at forbedre sundhedssystemernes kapacitet og fremme patientinteresser. Udviklere bør også være i stand til at forudsige og forstå potentielle sekundære resultater.
***
Kilde:
WHO 2024. Etik og styring af kunstig intelligens for sundhed: vejledning om store multimodale modeller. Tilgængelig kl https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
