The Fundamental Right to Healthcare in the Age of Predictive Health AI systems : Legality and Protections under EU Law

Abstract

Predictive AI systems are increasingly being adopted by healthcare providers in the European Union (EU) to assess patient’s eligibility for healthcare services. These systems typically identify “risk profiles” from large volumes of patient data. Based on this analysis, patients receive targeted notifications suggesting tailored healthcare interventions. However, there is a risk that these systems may reinforce existing barriers to access, caused by, for example, old age, lack of ID, or immigrant background.

This thesis assesses whether predictive AI systems are legal under EU regulation, and how the prevailing EU regulation succeeds in protecting equal access to healthcare. In terms of legality, I focus on the rules of the General Data Protection Regulation (GDPR) on automated decision-making and the Artificial Intelligence Act (AIA) provisions on high-risk AI systems. As for the legal protections, I examine the right to healthcare under the Charter of Fundamental Rights of the EU (CFR) and the Fundamental Rights Impact Assessment put forward by the AIA. This thesis draws on a combination of methods, including legal doctrinal analysis, literature review, and comparative analysis.

The main result of this thesis is that EU regulation does not adequately protect vulnerable patient groups from risks posed by predictive AI systems. The legality of predictive AI remains uncertain due to differing interpretations between the Union legislator and the Court of Justice of the EU. The right to healthcare under CFR lacks justiciability and the AIA’s provision on the impact assessment falls short by not ensuring sector-specific safeguards, effective oversight or remedies.

Ennakoivia tekoälyjärjestelmiä otetaan yhä useammin käyttöön terveydenhuollon palveluntarjoajien toimesta Euroopan unionissa (EU). Näitä järjestelmiä käytetään potilaiden hoitoon pääsyn arvioinnissa tunnistamalla niin kutsuttuja ”riskiprofiileja” suurista määristä potilastietoja. Järjestelmän suorittaman analyysin perusteella potilaille ehdotetaan räätälöityjä terveydenhuollon toimenpiteitä. Vaikka järjestelmiin liittyy monia hyötyjä, voivat ne kuitenkin vahvistaa jo olemassa olevia terveydenhuollon pääsyn esteitä. Tällä hetkellä esteitä aiheutuu esimerkiksi korkeasta iästä, henkilöllisyystodistuksen puuttumisesta tai maahanmuuttajataustasta.

Tässä tutkielmassa arvioidaan, ovatko ennakoivat tekoälyjärjestelmät EU:n lainsäädännön valossa laillisia, ja miten unionin voimassa oleva sääntely onnistuu turvaamaan terveydenhuollon yhdenvertaisen saatavuuden. Laillisuuden osalta keskityn yleisen tietosuoja-asetuksen säännöksiin automaattisesta päätöksenteosta sekä tekoälyasetuksen säännöksiin korkean riskin tekoälyjärjestelmistä. Oikeusturvan osalta tarkastelen EU:n perusoikeuskirjan sisältämää oikeutta terveydenhuoltoon sekä tekoälyasetuksen sääntöjä perusoikeusvaikutusten arvioinnista. Tutkielman metodina on lainoppi, kirjallisuuskatsaus sekä vertaileva analyysi.

Tutkielman keskeinen johtopäätös on se, että EU:n lainsäädäntö ei onnistu suojelemaan haavoittuvassa asemassa olevia potilasryhmiä ennakoivien tekoälyjärjestelmien aiheuttamilta riskeiltä. On kyseenalaista, ovatko nämä järjestelmät laillisia, sillä unionin lainsäätäjän ja EU:n tuomioistuimen tulkinnat laillisuudesta eroavat merkittävällä tavalla toisistaan. Lisäksi tuomioistuimessa ei voi nostaa kannetta sillä perusteella, että perusoikeuskirjan oikeutta terveydenhuoltoon on loukattu. Tekoälyasetuksen säännökset vaikutustenarvioinnista ovat niin ikään puutteellisia, sillä ne eivät takaa tehokasta valvontaa tai oikeussuojakeinoja, eivätkä ota riittävällä tarkkuudella huomioon alakohtaisia erityispiirteitä.