EASAC och FEAM publicerar vetenskapliga riktlinjer för att säkerställa en ansvarsfull användning av AI inom den europeiska hälso- och sjukvården.
European Academies Science Advisory Council (EASAC) och Federation of European Academies of Medicine (FEAM) publicerade i dag den gemensamma rapporten ”AI in European healthcare: policy recommendations for optimising added value and safe, ethical and inclusive adoption”.
Rapporten syftar till att vara ett underlag för genomförandet av EU:s AI-lag och gemensamma hälsodataområde (EHDS), relevanta pågående lagstiftningsärenden samt det kommande EU-initiativet om AI inom hälso- och sjukvården som tillkännagavs av kommissionsordförande Ursula von der Leyen i Talet om tillståndet i unionen den 16 september. Den har författats av en arbetsgrupp bestående av 22 forskare från hela Europa, utsedda av EASAC-FEAM:s nationella medlemsakademier.
AI utvecklas snabbare än de regler som styr den
Den snabba utvecklingen av AI kan överrumpla samhällen och tillsynsmyndigheter. Varningar från ledande AI-forskare om en potentiell förlust av kontroll understryker hur svårt det är att förutse och hantera risker. Inom hälso- och sjukvårdssektorn står särskilt mycket på spel.
”AI införs i klinisk och administrativ praxis snabbare än vad många hälso- och sjukvårdssystem kan utvärdera, styra och övervaka på egen hand. Det är upp till beslutsfattarna att säkerställa de rättsliga förutsättningarna för patientcentrerade, effektiva, säkra, rättvisa och transparenta AI-metoder,” säger professor André Knottnerus, EASAC:s medordförande i arbetsgruppen.
Fördelar – men också risker och biverkningar
AI-system används redan inom många områden av hälso- och sjukvården och har potential att ge ett betydande mervärde, främst inom klinisk vård och folkhälsa. Utan tydliga regler finns det dock en risk för dataintrång, partiska algoritmer och förlust av mänsklig kontroll.
EU:s AI-lag och gemensamma hälsodataområde utgör en viktig grund, men forskarna identifierar brister i den praktiska tillämpningen inom hälso- och sjukvården. EASAC och FEAM efterlyser därför att AI ska behandlas som vilken annan åtgärd som helst inom hälso- och sjukvården: dess fördelar måste bevisas, riskerna förstås och prestandan kontinuerligt övervakas.
”Vi behöver tydliga specifikationer för att påvisa verkliga kliniska fördelar i olika populationer och sammanhang samt för att säkerställa att representativa data av hög kvalitet används”, säger professor Luis Martí-Bonmatí, FEAM:s medordförande i arbetsgruppen. ”Patienterna behöver också meningsfulla förklaringar och möjligheter till överklagande, ansvarsförhållandena måste vara tydliga och hälso- och sjukvårdssystemen måste undvika att bli beroende av enskilda teknikleverantörer.”
Huvudbudskap
- Proaktiv reglering är avgörande: EU:s AI-lag klassificerar hälso- och sjukvårdssektorn som en högrisksektor. Användningen av AI kräver därför regleringar som tar hänsyn till långsiktiga konsekvenser. Bestämmelserna i AI-lagen måste integreras med befintliga regelverk, såsom Förordningen om medicintekniska produkter (MDR), GDPR och EU:s gemensamma hälsodataområde, European Health Data Space (EHDS).
- Prioritera rättvisa och förtroende: Användningen av AI kan förvärra befintliga ojämlikheter, bland annat sådana som rör genus, etnicitet och socioekonomisk status, liksom skillnader mellan rika och fattiga länder, och undergräva allmänhetens förtroende. Rapporten efterlyser EU-politik som prioriterar rättvis tillgång, öppenhet – inklusive AI:s miljöpåverkan – och allmänhetens delaktighet. Endast då kan AI-system uppfylla målen för allmän hälso- och sjukvård och vara förenlig med demokratiska värden.
- Samordning inom hela EU är ett måste: En splittrad reglering hindrar AI-systemens säkerhet och skalbarhet. EU måste harmonisera standarder, underlätta gränsöverskridande utbyte av anonymiserade data och främja gemensam tillsyn för att säkerställa etiska och robusta AI-tillämpningar i alla medlemsstater.
En uppmaning till beslutsfattare
Författarna rekommenderar också att AI testas i kontrollerade miljöer innan det tas i bruk i större skala. Dessutom bör investeringar riktas mot forskning om metoder som ger tillförlitliga resultat med hjälp av mindre, noggrant utvalda datamängder. ”Nu är det dags att agera, om vi vill anförtro vår hälsa åt AI” betonar Knottnerus. ”Med dessa rekommendationer vill vi hjälpa beslutsfattare att driva innovationer framåt på ett säkert sätt.”
Bilaga: Tio rekommendationer för politiska åtgärder (se nedan)
Kontakt
Sabine Froning
Kommunikationsrådgivare vid EASAC
pressoffice@easac.eu
+49 15208727000
Louise Abboud
Verkställande direktör vid FEAM
info@feam.eu
+32 493889859
Om European Academies Science Advisory Council (EASAC)
EASAC består av de nationella vetenskapsakademierna i EU:s medlemsstater, Norge, Schweiz och Storbritannien, och har bildats för att samarbeta kring rådgivning till europeiska beslutsfattare. EASAC utgör ett forum där den europeiska vetenskapens gemensamma röst kan göra sig hörd. Genom EASAC samarbetar akademierna för att ge oberoende, evidensbaserad rådgivning till dem som utformar eller påverkar europeisk politik inom de europeiska institutionerna.
www.easac.eu
Om Federation of European Academies of Medicine (FEAM)
FEAM samlar 24 nationella akademier för medicin, farmaci och veterinärvetenskap – eller de medicinska avdelningarna vid nationella vetenskapsakademier – från hela WHO:s europeiska region och drar nytta av expertisen hos över 5 000 ledande biomedicinska forskare. Genom FEAM formulerar och framför medlemsakademierna en gemensam ståndpunkt i europeiska frågor som rör human- och veterinärmedicin, biomedicinsk forskning, utbildning och hälsa, och utövar gentemot europeiska myndigheter samma rådgivande roll som de har i sina respektive länder. På så sätt arbetar FEAM för att understödja den europeiska biomedicinska politiken med den bästa vetenskapliga rådgivningen som kontinenten har att erbjuda, och för att främja europeiska medborgares hälsa, säkerhet och välstånd genom en kreativ och hållbar miljö för medicinsk forskning och utbildning.
www.feam.eu
Bilaga: Tio rekommendationer för politiska åtgärder
- Inför en gedigen utvärdering av AI:s mervärde inom hälso- och sjukvården. Kräv en transparent utvärdering av AI:s nettonytta – kliniska resultat, patientsäkerhet, säkerhet, rättvisa, livskvalitet och kostnadseffektivitet – både före och efter införandet.
- Utveckla omfattande riktlinjer för ansvarsfullt införande av AI. Utveckla EU-omfattande riktlinjer som täcker metodologisk kvalitet, partiskhet, extern validitet, kostnadseffektivitet och miljöpåverkan.
- Utvidga de etiska principerna till att omfatta samhälleliga och långsiktiga dimensioner. Uppdatera de etiska spelreglerna för att ta hänsyn till samhällseffekter, institutionellt ansvar, globala effekter och långsiktiga (inklusive generationsöverskridande) konsekvenser.
- Ta itu med utmaningar relaterade till implementeringen vid införande av AI. Investera i interoperabel infrastruktur, harmonisera regler mellan medlemsstaterna, utbilda personal och stöd integrering i arbetsflöden med fokus på användbarhet och patientsäkerhet.
- Utveckla AI till ett lärande hälso- och sjukvårdssystem. Stöd säkra dataplattformar, återkopplingsloopar och adaptiv förbättring med styrning som säkerställer transparens, ansvarsskyldighet och förtroende.
- Främja interoperabilitet och ekosystem för datadelning. Skapa incitament för gränsöverskridande dataekosystem med hjälp av gemensamma standarder, starka integritetsskyddsåtgärder och tydlig dataförvaltning.
- Investera i fortbildning, utbildning och information om AI inom hälso- och sjukvården. Finansiera tvärvetenskaplig fortbildning och kontinuerlig yrkesutveckling för kliniker, utvecklare och beslutsfattare för att bygga upp kompetens och främja ansvarsfull användning.
- Engagera intressenter och skydda allmänhetens förtroende. Kräv deltagande i utformandet, tydlig kommunikation och information om när AI-system används, samt tillgängliga rutiner för klagomål så att systemen återspeglar samhällsvärden och upprätthåller patienternas och allmänhetens förtroende.
- Fastställ strategiska forskningsprioriteringar för AI inom hälso- och sjukvården. Prioritera forskning om transparens, motverkande av partiskhet, klinisk validering, integration i verksamheter, rättvisa och långsiktiga systemeffekter.
- Stärk styrnings- och tillsynsstrukturerna. Inrätta tydligt ansvar, oberoende övervakning, revision och korrigerande mekanismer för att säkerställa efterlevnad och säker drift över tid.
