Somlyó MilánAz ELTE TK Jogtudományi Intézete a Mesterséges Intelligencia Nemzeti Laboratórium és az Algoritmikus Alkotmányosság Lendület Kutatócsoport közreműködésével szeptember 17-én megrendezte „Fenntartható mesterséges intelligencia használat a jogi munkában” című eseménysorozatának következő részét. Az esemény témája a mesterséges intelligencia (a továbbiakban: MI) egészségügyi felhasználásának alkotmányjogi keretei voltak. A meghívott résztvevők egy kerekasztal-beszélgetés során fejtették ki véleményüket és gondolataikat a témával kapcsolatban. A beszélgetés meghívott vendégei Zorkóczy Miklós, az AI szakértői munkacsoport vezetője, valamint Kovácsy Zsombor ügyvéd voltak. A beszélgetést Szalay Klára, az Algoritmikus Alkotmányosság Lendület Kutatócsoport tagja moderálta.
Fogalmi keretek és alapkérdések
A meghívottak hangsúlyozták, kiindulópontként a fogalmi definíció tisztázása fontos, amikor az MI és az egészségügy kapcsolatáról beszélünk. Ezen elsősorban az MI-n alapuló számítógépes rendszerek összességét értjük, amelyek egészségügyi adatokból tanulva megkönnyíthetik az egészségügyi erőforrások hatékony elosztását, prediktív előrejelzéseket adhatnak, növelhetik a diagnosztikus pontosságot, és döntéstámogatást is végezhetnek. Az egészségügyi ellátás oldaláról az MI alkalmazása négy fő területen jelenik meg: a prevencióban és a diagnosztikában, a terápiában, az adminisztratív folyamatokban, valamint az egészségügyi kutatásban. Ezekből számos alkotmányjogi kérdés ered: az egészséghez való jog és az állam szerepe, az esélyegyenlőség, a betegek önrendelkezése és tájékoztatása, a felelősség és az emberi kontroll, valamint az adatok felhasználása és a szabályozási környezet. E kérdéskörök alkotmányjogi szempontból azért relevánsak, mert közvetlenül érintik az Alaptörvényben rögzített jogokat.
A beszélgetés elején felmerült, hogy új alkotmányjogi kérdésekről van e szó, vagy olyan meglévőkről, amelyeket az MI felerősít. A meghívottak egybehangzóan úgy foglaltak állást, hogy az MI nem hoz létre új kérdéseket, hanem a meglévők intenzitása növekszik. Jól mutatja ezt az egyenlő bánásmód elve, amely megköveteli, hogy a modellek tisztességes és torzításmentes folyamatok mentén tanuljanak. Ha ugyanis a tanítás során bizonyos társadalmi csoportok alulreprezentáltak, a rendszer ezekre a csoportokra nézve pontatlanabb eredményeket adhat, így alkalmazása közvetetten hátrányos megkülönböztetéshez vezethet.
Az egészséghez való jog és az állam szerepe
Az egészséghez való jog kapcsán szó esett az MI kockázataival szembeni védelemről, illetve az állam azon kötelezettségéről, hogy a technológiát bevezesse, és előnyeit a társadalom számára elérhetővé tegye. Kovácsy Zsombor kiemelte, hogy az egészségügyi ellátás megszervezése az állam feladata, így annak biztosítása is, hogy a költséghatékonyságot és az ellátás színvonalát javító technológiák mindenki számára hozzáférhetők legyenek. Zorkóczy Miklós ehhez hozzáfűzte, hogy az állam felelőssége nem ér véget a bevezetéssel, hiszen a rendszerek karbantartásáról, fejlesztéséről és a megfelelő működési keretrendszer megteremtéséről is gondoskodnia kell. A két álláspont kiegészíti egymást, hiszen az egyik a hozzáférés, a másik a fenntartható működés felől közelít az állam feladataihoz. Mindezek mellett a meghívottak egyetértettek abban, hogy e kereteken belül is meg kell hagyni a páciens számára a választás lehetőségét, hogy végső soron maga dönthesse el, igénybe veszi-e az MI által támogatott ellátást.
Szabályozási környezet és adatok
Fontos kitekinteni a jelenlegi szabályozásra is, amelynek egyik legmeghatározóbb eleme az Európai Parlament és a Tanács által elfogadott MI rendelet (AI Act), amelynek hatása az egészségügyben a következő években fog igazán kibontakozni. A moderátor arra kérdezett rá, hogy a betegek mindebből érzékelnek e majd bármit. Ebben a kérdésben a meghívottak eltérően közelítettek. Kovácsy Zsombor úgy vélte, hogy a betegeknek nem is szükséges érzékelniük a változást, hiszen a hatékonyság növekedése magától értetődő elvárás. Zorkóczy Miklós ezzel szemben a fejlesztői oldal nehézségeire hívta fel a figyelmet. Megállapította, hogy a szabályozásnak való megfelelés jelentős pénzügyi terhet ró a fejlesztőkre, és a rendszerek megtervezése alapos felkészülést igényel. Európa ezen a területen érezhető lemaradásban van. Példaként az USA-t hozta fel, ahol a kutatásokba már a kezdetektől bevonják a jogászokat annak érdekében, hogy a fejlesztés a szabályozásnak megfelelő úton haladhasson. Alkalmazói oldalról továbbra is az orvos a felelős, így lényegében ő dönti el, vállalja e egy ilyen rendszer alkalmazásának kockázatát. Az európai helyzet egyik legnagyobb problémájaként az adathiányt nevezte meg. Az úgynevezett „cost of privacy” jelenségére utalva kifejtette, hogy a betegadatok rendkívül hasznosak lennének a modellek fejlesztéséhez, a szigorú adatvédelmi keretek miatt azonban Európában csak korlátozottan hozzáférhetők.
A betegtájékoztatás kérdésköre
A beszélgetés egyik legtöbbet tárgyalt témája a betegtájékoztatási kötelezettség volt. A meghívottak egyetértettek abban, hogy a tájékoztatás kulcsszerepet játszik, viszont a hangsúlyok eltérő módozatban nyilvánultak meg a résztvevőknél. Zorkóczy Miklós szerint a betegnek tudnia kell, kik vesznek részt a döntéshozatalban, milyen MI rendszert alkalmaznak, és hogyan tiltakozhat az MI alkalmazása ellen. A tájékoztatásnak igazodnia kell a beteg tudatállapotához, és ki kell terjednie a beavatkozás minden lényeges elemére. Külön kérdést jelentenek a gyermekek, a korlátozott cselekvőképességűek és a végszükség esetei, amelyekben a szakmai döntés MI alapú rendszerek nélkül is az orvos feladata. Rámutatott arra is, hogy ezekben a kérdésekben társadalmi konszenzusra van szükség, a jogalkotás egyik húzóereje pedig az MI balesetek vizsgálata lehet.
Kovácsy Zsombor ehhez hozzáfűzte, hogy a betegnek tudnia kell arról, ha a döntés előkészítésében MI vett részt, miközben az emberi részvétel alapkövetelmény marad. Álláspontja szerint a tájékoztatási kötelezettség az MI használata esetén közvetlenül az önrendelkezési jogból vezethető le, ezért azt kötelezővé kell tenni. A tájékoztatás terjedelme is központi kérdés, hiszen nemcsak magára a beavatkozásra, hanem a lehetséges hibákra és kockázatokra is ki kell terjednie. Fontos továbbá, hogy a beteg megtudja, ha a rendszert más populáción tesztelték, így az eredmények nem feltétlenül veszik figyelembe az ő sajátosságait. A pontosság és a magyarázhatóság közötti feszültségre utalva kiemelte, hogy az úgynevezett „fekete doboz” jellegű rendszerek esetében is meg kell vizsgálni a döntést befolyásoló tényezőket, és a bizonytalanságról is tájékoztatást kell adni. Zorkóczy Miklós szerint a jog ezen a területen a technológia után kullog, és az információs aszimmetria miatt a teljes körű tájékoztatás sok esetben nem valósul meg. Úgy vélte, hogy a rendszereket előre paraméterezni kell arra, hogyan döntsenek, ez pedig olyan kényes értékválasztásokat kényszerít ki, mint a finanszírozási szempontok figyelembevétele, amelyek politikailag is érzékeny kérdéseket vetnek fel.
Felelősségi dilemmák
A következő kérdés arra irányult, hogy ki viseli a felelősséget, ha egy MI által támogatott döntés kárt okoz. Kovácsy Zsombor szerint a válasz attól függ, hogy az alkalmazás milyen szinten épül be az ellátásba. Ha az MI használata nem rendszerszintű, hanem az orvos saját döntésén alapul, a felelősség az orvost terheli. Ha az alkalmazást egy egészségügyi intézmény vezeti be, intézményi felelősségről beszélhetünk, állami szintű bevezetés esetén pedig felmerül a minisztérium, végső soron az állam felelőssége is. Zorkóczy Miklós a kártérítési perek felől közelítette meg a kérdést, és megállapította, hogy ilyen esetben akár az egész láncolat perelhető lehet, a rendszer fejlesztőjétől egészen az adatgyűjtő cégig. Kiemelte, hogy a felelősség megállapításakor kulcsszerepe van annak, hogyan történt a rendszer betanításának validációja és verifikációja, és hogyan épült be az alkalmazás az ellátási folyamatba, ezért ezekbe a folyamatokba is fontos jogászokat bevonni. Az adatok értékére utalva megjegyezte, hogy az egészségügyi adatok a feketepiacon is kiemelten keresettek, ami az adatbiztonságot a felelősségi kérdések fontos elemévé teszi. A felelősség megállapítását tovább nehezíti, hogy egy modell létrehozásában sokszor több szereplő is részt vesz, így nehéz azonosítani, hol történt a hiba.
A meghívottak egybehangzóan arra hívták fel a figyelmet, hogy a kártérítési ügyek hátterében sok esetben nem maga a technológia hibája, hanem a betegtájékoztatás hiánya áll. Ez is azt mutatja, hogy a felelősség és a tájékoztatás kérdése szorosan összefonódik.
Érdemi emberi kontroll feltételei
A beszélgetés következő kérdése az volt, hogyan lehetne az érdemi emberi kontrollt a gyakorlatban megragadni. Zorkóczy Miklós az európai és az amerikai adatvédelmi tájékoztatók különbségét hozta fel példaként: míg az Egyesült Államokban gyakori az egyoldalas, közérthető összefoglaló, addig Európában a betegek sokszor több száz oldalas dokumentumokkal szembesülnek. Véleménye szerint az információs aszimmetria csökkentésére a fogyasztóvédelmi módszerek jó mintát adhatnak, és az adatvizualizáció kiválóan alkalmas az összetett információk érthetővé tételére. Kovácsy Zsombor ehhez hozzáfűzte, hogy a személyes tájékoztatás továbbra is nélkülözhetetlen, illetve kiemelte az időbeliség szerepét is, vagyis hogy a betegnek a megfelelő időben, a döntés előtt kell megkapnia a szükséges információkat. A vizualizáció kérdésében a meghívottak egyetértettek: mindketten úgy látták, hogy iránta ma már társadalmi elvárás mutatkozik, így a tájékoztatás fontos eszköze lehet.
Az orvosi szerep átalakulása
A beszélgetés kitért arra is, hogy az MI teljesítménye bizonyos területeken, különösen a találati pontosság tekintetében, már meghaladhatja az orvosokét. A meghívottak egyetértettek abban, hogy ez a technológiai kihívásokon túl pszichológiai, szociológiai és oktatási kérdéseket is felvet, mind az orvosok, mind a betegek oldalán. Az MI-nek ugyanakkor még fejlődnie kell, hiszen a hallucináció jelensége az egészségügyben különösen súlyos következményekkel járhat. Felmerült az is, hogyan lehet megakadályozni, hogy az orvosok az MI-re hagyatkozva „ellustuljanak”. Zorkóczy Miklós szerint ez a jelenség más szakterületeken is létezik, és a szakszemélyzet fejlesztése egyben a hatékonyságot is szolgálja. Kovácsy Zsombor konkrét megoldásokat javasolt: ellenőrző listák bevezetését, valamint rendszeres esettanulmányokat az orvosok számára, amelyek egyfajta szakmai agytornaként szolgálhatnak, mindezt átfogó képzéssel kiegészítve.
Az MI megtagadásának joga és az esélyegyenlőség
Külön kérdésként merült fel, hogy lesz-e a betegeknek lehetőségük megtagadni az MI által támogatott ellátást. Az önrendelkezési jog alapján erre elvben lehetőséget kellene biztosítani. Kérdés ugyanakkor, hogy az államnak kell-e garantálnia egy MI mentes alternatívát, hiszen az erőforrások elosztásáért is felelősséggel tartozik, egy párhuzamos rendszer fenntartása pedig aránytalan terhet jelenthet. Ha ezt a lehetőséget csak a magánegészségügy kínálná, azt kizárólag a tehetősebb réteg engedhetné meg magának, ami újabb esélyegyenlőségi problémát vetne fel. A meghívottak egyetértettek abban, hogy az MI hatása az esélyegyenlőségre az alkalmazás módjától függ: jó és rossz irányba is hathat, és az egyéni szinten jelentkező magatartásbeli változások mellett rendszerszintű következményei is vannak.
Összegzés
A beszélgetés zárásaként a meghívottak egybehangzóan úgy foglaltak állást, hogy az MI bevezetése betegvédelmi kockázatot jelent, ugyanakkor az alapjogok érvényesülését nemcsak veszélyeztetheti, hanem elő is segítheti. A kerekasztal legfontosabb tanulsága, hogy az MI nem új alkotmányjogi kérdéseket teremt, hanem felerősíti a meglévőket, és egyben tükröt tart a nem MI alapú ellátás hiányosságai elé is, legyen szó az információs aszimmetriáról, a tájékoztatás minőségéről vagy az esélyegyenlőségről. A meghívottak abban is egyetértettek, hogy a megfelelő betegtájékoztatás az egész terület kulcsa, hiszen az önrendelkezési jog, a felelősség és az érdemi emberi kontroll egyaránt ezen múlik. Álláspontjaik elsősorban abban tértek el, hogy a szabályozás és a tájékoztatás mennyire képes lépést tartani a technológiával.
__________________________________________________________
Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.