Az algoritmikus döntéshozatal egyre nagyobb szerepet kap az állami jóléti rendszerek működésében, így a szociális ellátásokhoz való hozzáférés és azok ellenőrzése területén is. Alkalmazása ugyanakkor komoly alapjogi kérdéseket vet fel, amelyekről mindmáig kevés bírósági döntés született. A holland SyRI-ügyben hozott ítélet az elsők között volt, amelyben egy bíróság kifejezetten egy állami algoritmikus rendszer emberi jogi megítélését vizsgálta; a bejegyzés ennek főbb tanulságait járja körül.

1. Bevezetés, kontextus

A szegénységgel és emberi jogokkal foglalkozó Egyesült Nemzetek Szervezete (a továbbiakban: ENSZ) különleges előadó, Philip Alston már évekkel ezelőtt figyelmeztetett arra, hogy a jóléti állam digitalizációja az emberek jogainak fokozatos eróziójához vezethet. Szerinte a jóléti rendszer „lassan eltűnik egy weboldal és egy algoritmus mögött”, ami különösen veszélyes a legkiszolgáltatottabb társadalmi csoportokra nézve. Alston rámutatott arra is, hogy ha az állam nem biztosít megfelelő átláthatóságot az automatizált rendszerek működéséről, akkor a jogorvoslathoz való jog valójában illuzórikussá válik. A digitális jóléti államról szóló jelentéseiben a különleges előadó arra hívja fel a figyelmet, hogy az államoknak nem csalásfelderítésre, hanem a jólét növelésére kellene összpontosítaniuk. Arra figyelmeztet, hogy ha a kormányok ilyen sebességgel haladnak a korlátlan adat-összekapcsolás útján, könnyen egy digitális jóléti disztópiában találhatják magukat, amelyben a legkisebb adminisztratív eltérés is büntetést vonhat maga után.

Ezeket a jelenségeket élesen szemlélteti a holland SyRI-ügy, amely a digitális jóléti állam egy vitatott és széles körben ismert példájává vált. Az ügyben 2020-ban született ítélet azért is kiemelkedő jelentőségű, mert az elsők között foglalkozott kifejezetten az algoritmikus állami döntéshozatal alapjogi megítélésével. Jelentősége 2026-ban sem halványult el: az algoritmikus állami döntéshozatal alapjogi korlátairól ugyanis mindmáig viszonylag kevés bírói döntés született, így a SyRI továbbra is fontos referenciapont e területen. Bár az AI Act elfogadása új szabályozási keretet teremtett, ez a keret önmagában nem ad választ arra, hogy a konkrét ügyekben miként kell feloldani a technológiai alkalmazás, az alapjogvédelem és a jogorvoslat közötti feszültségeket. E kérdések tartalmi kimunkálása ezért várhatóan a jövőben is nagyrészt a bíróságokra hárul majd.

A SyRI (System Risk Indication) egy algoritmus, amelyet szociális ellátásokkal kapcsolatos visszaélések felderítésére terveztek, és amelyet alkalmazott is a holland kormány. A rendszer hatalmas mennyiségű adatot kapcsolt össze – többek között: lakhatási, munkaügyi és adózással kapcsolatos adatokat, biztosítási nyilvántartásokat -, majd ezek alapján kockázati értesítéseket generált azokról, akikről úgy ítélte meg, hogy érdemes kivizsgálni. A SyRI több volt, mint technológiai eszköz, elemzők értékelése alapján egy összetett társadalmi-technikai infrastruktúra is volt, amely jegyzéket készített a potenciálisan „kockázatos” személyekről, és jelentéseket küldött a részt vevő közigazgatási szerveknek.

A rendszer már a bevezetésekor komoly bírálatokat váltott ki. A Holland Adatvédelmi Hatóság és a Holland Államtanács is figyelmeztetett arra, hogy a SyRI jogszabály gyakorlatilag semmilyen korlátot nem állít a gyűjthető személyes adatok mennyiségének vagy jellegének tekintetében, és hogy a SyRI-szabályozás nem definiálja elég pontosan a SyRI-eszköz működését. Csak a jogszabályhoz fűzött kormányzati indoklás tartalmazott egy – szintén elég tág – leírást:

„A SyRI magában foglalja azt a technikai infrastruktúrát és az ahhoz kapcsolódó eljárásokat, amelyek révén az adatok összekapcsolhatók, majd ezt követően anonim módon elemezhetők egy biztonságos környezetben annak érdekében, hogy kockázati értesítések keletkezzenek. A kockázati értesítés azt jelenti, hogy egy jogi személyt vagy természetes személyt érdemesnek tartanak kivizsgálni lehetséges csalás, a szociális ellátások jogellenes igénybevétele vagy a jogszabályok be nem tartása kapcsán. Ez a módszer hatékonyabbá és eredményesebbé teszi az ellenőrzési eszköz alkalmazását.”

Ennek ellenére a holland parlament végül vita nélkül elfogadta a szabályozást.

A túlzott adatgyűjtés, az átláthatatlanság és az önkényes döntéshozatal veszélyei miatt a SyRI-szabályozás ügyét végül 2020-ban a Hágai Kerületi Bíróság (a továbbiakban: bíróság) elé vitték (NJCM et el. and FNV v. The State of Netherlands). A bíróság úgy ítélte meg, hogy a SyRI mind jogalkotási, mind alkalmazási szinten sérti az Emberi Jogok Európai Egyezményének (a továbbiakban: EJEE) 8. cikkét, mivel az abban meghatározott alapjogba (magánélethez való jog) való beavatkozás mértéke nem szükséges mértékben és nem arányos módon történt.

A SyRI ítélet mérföldkőnek tekinthető, ez volt ugyanis az egyik első olyan döntés világszerte, amely az algoritmikus állami döntéshozatal és a mesterséges intelligencia (a továbbiakban: MI) használatának emberi jogi vetületét részletesen értékelte. Jelentősége ugyanakkor nem merül ki az adatvédelem és a magánélet sérelmének kérdésében. A digitális jóléti állam algoritmikus rendszerei ugyanis tipikusan nem csupán egyéni, izolált jogsérelmeket idéznek elő, hanem strukturális hatásokat is: meghatározott társadalmi csoportokat nagyobb valószínűséggel tesznek fokozott ellenőrzés tárgyává, erősíthetik a szegénységgel kapcsolatos intézményi gyanakvást, és olyan kumulatív hátrányokat termelhetnek, amelyek az egyenlőség klasszikus, individuális sérelemre épülő modelljével nehezen ragadhatók meg. Ebből a szempontból a SyRI nem pusztán adatvédelmi vagy technológia-szabályozási ügy, hanem az algoritmikus kormányzás és az egyenlőség viszonyának korai, paradigmatikus esete is. A későbbi uniós szabályozás, különösen a mesterséges intelligenciáról szóló jogszabály (a továbbiakban: AI Act), részben erre a problémára is próbál reagálni azzal, hogy a magas kockázatú MI-rendszerek esetében nemcsak műszaki, hanem kifejezetten alapjogi kockázatok előzetes feltárását is elvárja.

Mindezek alapján a következőkben azt vizsgálom részletesebben, hogy a bíróság milyen jogi érvekre és rezsimekre támaszkodva minősítette a SyRI-t jogsértőnek, és milyen tanulságok vonhatók le a digitális jóléti államok jövőbeli szabályozása szempontjából.

2. Kérelmek és befogadhatóság

A SyRI-rendszerrel szembeni keresetet egy hat holland civil szervezetből álló koalíció és két magánszemély terjesztette elő, arra hivatkozva, hogy a rendszer sérti a magánélet védelmét, a tisztességes eljáráshoz való jogot és több adatvédelmi követelményt is az Általános Adatvédelmi Rendelet (a továbbiakban: GDPR) égisze alatt. A felperesek szerint a SyRI-t szabályozó jogi keret a rendkívül széleskörű adatgyűjtés, az átláthatatlan algoritmikus működés és a jogorvoslati rendszer hiányosságai miatt összeütközésbe kerül az európai és nemzetközi emberi jogi normákkal, valamint az uniós adatvédelmi szabályozással. Ezen kívül Philip Alston, az ENSZ különmegbízottja amicus curiae beadványt nyújtott be a bírósághoz az ügyben. Alston beadványában rámutatott arra, hogy miközben a digitális technológiák állami alkalmazása más területeken – például a rendvédelem vagy a migrációs politika területén – jelentős figyelmet kap, a szociális ellátórendszerek digitalizációjának emberi jogi következményei jóval kevesebb vizsgálat tárgyát képezik. A különmegbízott különösen aggasztónak tartotta, hogy a SyRI-rendszert elsősorban hátrányos helyzetű és szegényebb lakosságú városrészekben alkalmazták, ami a sérülékeny társadalmi csoportok aránytalan célzásának és az algoritmikus megfigyelés kiterjedésének kockázatát veti fel.

A bíróság a keresetek befogadhatóságát hivatalból vizsgálta, és megállapította, hogy a civil szervezetek a holland polgári jog alapján megfelelő jogi érdekkel rendelkeztek – ugyanis tagságuk védelmében léptek fel. A két magánszemély keresetét azonban nem fogadta be, ugyanis az ő esetükben a bíróság érvelése szerint nem volt megállapítható kellően konkrét, személyesen őket érintő sérelem.

3. Jogforrások, amelyek alapján a bíróság lefolytatta az értékelést

Az ügyben a bíróság elsődleges vizsgálati keretét az Emberi Jogok Európai Egyezményének 8. cikke adta (magánélethez való jog). A cikk ugyan a személyes adatok védelmét nem nevesíti külön, azonban az Emberi Jogok Európai Bírósága (a továbbiakban: EJEB) állandó gyakorlata ezt a jogot a 8. cikk részének tekinti: a magánélet védelme alatt egyúttal érti az egyén személyes identitásának védelmét, valamint az adatfeldolgozás során a diszkriminációtól és a sztereotipizálástól való mentességet is. A bíróság ugyan megvizsgálta a Polgári és Politikai Jogok Nemzetközi Egyezségokmánya 17. cikkének alkalmazási lehetőségét is (a kérelmezők erre is hivatkoztak keresetükben), de végül arra jutott, hogy ez a rendelkezés lényegében ugyanazt a védelmi szintet biztosítja, mint az EJEE 8. cikke, ezért külön nem releváns.

Fontos, hogy a bíróság az EJEE 8. cikk értelmezésekor az Európai Unió Alapjogi Chartájának (a továbbiakban: Charta) 7. és 8. cikkére is támaszkodott, amelyek a magánélet, illetve a személyes adatok védelmének részletesebb garanciáit tartalmazzák. E szerint az adatkezeléshez megfelelő jogalap szükséges, meghatározott célra kell irányulnia és tisztességes módon kell történnie. Mivel az EJEE a védelem minimumszintjét biztosítja, a bíróság hangsúlyozta, hogy ha az uniós normák erősebb garanciát nyújtanak, akkor azokat kell irányadónak tekinteni.

Az értelmezésben ezen kívül kiemelt szerepet kaptak a GDPR 5. cikk (1) bekezdésében rögzített adatkezelési alapelvek – így a célhoz kötöttség, az adattakarékosság, az átláthatóság és a jogszerűség – amelyeket a bíróság kifejezetten a 8. cikk tartalmának kiegészítéseként, mintegy értelmezési kereteként használt.

A bíróság az alapjogi teszt lépéseinek megfelelően vizsgálta, hogy:

1. a SyRI-szabályozás beavatkozást jelentett-e a magánélethez való jogba az EJEE 8. cikk alapján;
2. volt-e ennek a beavatkozásnak legitim célja;
3. volt-e megfelelően hozzáférhető és előrelátható jogalapja a korlátozásnak („törvény minőségi követelményei”);
4. a korlátozás szükséges és arányos volt-e egy demokratikus társadalomban.

A SyRI-ügy időpontjára tekintettel természetesen az AI Act még nem képezhette a bírósági értékelés közvetlen jogi mércéjét. Mégis fontos összevetési pontot kínál a jelenlegi európai szabályozási környezet szempontjából. Az AI Act az Európai Unió első átfogó, kockázatalapú MI-szabályozása, amely az egészségre, biztonságra és alapvető jogokra jelentett kockázat szerint differenciálja a rendszereket. A rendelet logikája azért különösen releváns a SyRI-hez hasonló jóléti rendszerek esetében, mert a magas kockázatú felhasználások között nevesíti az alapvető magán- és közszolgáltatásokhoz, illetve ellátásokhoz való hozzáférést érintő MI-rendszereket, ideértve a természetes személyek jogosultságának értékelését vagy a szolgáltatások odaítélésével kapcsolatos döntéstámogatást is. Az AI Act emellett bizonyos alkalmazók – különösen közfeladatot ellátó vagy közszolgáltatást nyújtó szervezetek – számára előírja, hogy a magas kockázatú rendszerek első használata előtt alapjogi hatásvizsgálatot (Fundamental Rights Impact Assessment, a továbbiakban: FRIA) végezzenek, amelynek ki kell térnie az érintett személyek és csoportok körére, a valószínűsíthető jogsérelmekre, az emberi felügyelet módjára, valamint a kockázatcsökkentő intézkedésekre. Az AI Act tehát nem helyettesíti az EJEE, a Charta vagy a GDPR védelmét, hanem azok mellé egy előzetes megfelelési és dokumentációs keretet illeszt.

4. A bíróság jogi értékelése

(1) Összeütközés az EJEE 8. cikkben foglaltakkal

A felek és a holland állam is egyetértettek abban, hogy a SyRI szabályozás beavatkozást jelentett az EJEE 8. cikkében foglalt magánélethez való jogba. A kérdés az volt, hogy milyen mértékű ez a beavatkozás, valamint, hogy igazolható-e.

A bíróság vizsgálatában arra jutott, hogy a rendszer rendkívül nagy mennyiségű és nagyon sokrétű (tizenhét különböző kategóriába tartozó) személyes adatot kezel, gyakran több, egymástól független állami adatbázisból származó, strukturált adathalmazt összevetve. A bíróság szerint maga a SyRI-rendszer is nehezen átlátható: ennek kapcsán sem a felperes civil koalíció állítását – miszerint válogatás nélküli adatgyűjtésről van szó -, sem az állam érvelését – miszerint csupán meglévő adatbázisokat vetnek össze – nem fogadta el. Bár a bíróság nem talált bizonyítékot arra, hogy a SyRI ténylegesen alkalmazna „deep learning” technikákat vagy kockázati profilalkotást, rámutatott arra, hogy a jogszabály ezt lehetővé teszi, ami önmagában növeli a beavatkozás súlyát. Problémásnak találta a rendszer átláthatóságát: a kockázati modell és az indikátorok nem nyilvánosak, és nincs jogszabályi kötelezettség az érintettek tájékoztatására sem az adatfeldolgozásról, sem a kockázati jelentés elkészítéséről. A bíróság egyetértett abban a felperesekkel, hogy a kockázati jelentés elkészítése az érintettekre nézve a GDPR 22. cikkének értelmében „jelentős hatással” bír, ami tovább erősíti a magánéletbe való beavatkozás súlyosságát. Bár a bíróság abban nem foglalt állást, hogy a SyRI teljesen automatizált egyedi döntéshozatalnak minősül-e, azt hangsúlyozta, hogy a kockázati listákra kerülés ténye önmagában is releváns tényező az EJEE 8. cikkének sérelme szempontjából.

(2) Legitim cél

A beavatkozás célját a bíróság legitimnek ítélte: rámutatott, hogy a szociális biztonság a holland társadalom egyik alappillére, és jelentősen hozzájárul a holland nép jólétéhez. Hangsúlyozta, hogy a csalás elleni küzdelem egy fontos érdek, amely indokolhatja új technológiák bevezetését.

(3) Törvényi korlátozás minőségi kritériumai

Ennek keretében a bíróságok azt vizsgálják, hogy megfelelő jogforrási szintű, valamint megfelelő pontosságú jogszabály keretében történt-e az alapjog-korlátozás, és hogy az érintettek kellő mértékben előre is láthatták-e azt. A bíróság úgy érvelt, hogy ez a követelmény ebben az esetben szorosan összefügg a szükségességi-arányossági mérlegelés azon kitételével, miszerint az intézkedés szükségességét egy demokratikus társadalom kontextusában és annak jogbiztonsági, jogállami mércéjével kell értelmezni, így ezt a kitételt annak vizsgálatával együttesen tárgyalta.

A bíróság tehát nem vizsgálta érdemben a jogalap minőségét, azaz, hogy a SyRI-jogszabály elég világos és átlátható volt-e az EJEE 8. cikk (2) bekezdésének megfelelően. Úgy ítélte meg ugyanis, hogy már önmagában hiányoznak azok a garanciák, amelyek alapján a SyRI alkalmazása egyáltalán szükségesnek tekinthető egy demokratikus társadalomban. Ez végső soron azt eredményezte, hogy egy fontos jogállamisági kérdés – a SyRI jogi keretének minősége – megválaszolatlan maradt.

(4) Szükségesség és arányosság egy demokratikus társadalomban

A bíróság fő kérdése az volt, hogy a SyRI-ről szóló jogszabály megfelel-e az EJEE 8. cikk (2) szerinti szükségességi-arányossági és szubszidiaritási követelményeknek, vagyis fennáll-e a jogszabály céljai és a magánélet sérelme közötti „méltányos egyensúly”. A bíróság az említetteknek megfelelően az értékelés során nagymértékben támaszkodott a GDPR alapelveire, különösen az átláthatóságra, a célhoz kötöttségre és az adattakarékosságra. Megállapította, hogy a SyRI-jogszabály nem átlátható, ugyanis nem derül ki, hogy milyen adatok vagy algoritmikus indikátorok vezetnek a „megnövekedett kockázat” megállapításához, és az érintettek nem követhetik nyomon, hogy hogyan használják fel az adataikat. A bíróság azt is hangsúlyozta, hogy a SyRI jelentős diszkriminációs kockázatot hordoz, különösen mivel addig kizárólag hátrányos helyzetű ún. „problémás körzetekben” alkalmazták. Emellett a célhoz kötöttség és az adattakarékosság elvei sem érvényesültek, mivel a jogszabály gyakorlatilag korlátlan mennyiségű adat bevonását engedte, és nem írt elő független ellenőrzést vagy a GDPR szerinti adatvédelmi hatásvizsgálatot (DPIA) az egyes projektekre. Mindezek alapján a bíróság arra jutott, hogy a SyRI nem tekinthető egy demokratikus társadalomban szükséges mértékű jogkorlátozásnak, és így megsérti az EJEE 8. cikkét.

A SyRI-ügy egyúttal azt is megmutatja, hogy az algoritmikus jóléti rendszerek esetében a szükségesség és arányosság vizsgálata nehezen választható el az egyenlőségi kockázatok értékelésétől. A rendszer ugyanis végeredményben nem neutrális adminisztratív eszközként működött: a fokozott ellenőrzés terhei ténylegesen bizonyos, eleve sérülékenyebb társadalmi csoportokra koncentrálódtak. A bíróság ezt nem egy önálló diszkriminációs teszt keretében bontotta ki, mégis kifejezetten relevánsnak tekintette, hogy a SyRI-t addig kizárólag hátrányos helyzetű, „problémásnak” minősített körzetekben alkalmazták. E körülmény arra utal, hogy az algoritmikus kockázatjelzés a gyakorlatban könnyen összekapcsolódhat társadalmi státuszon, lakóhelyen vagy vagyoni helyzeten alapuló közvetett megkülönböztetéssel. Innen nézve a SyRI-ügy egyik központi tanulsága az, hogy az átláthatóság hiánya nem pusztán adatvédelmi probléma: egyben az egyenlőség megvalósulásának, számonkérhetőségének előfeltételeit is gyengíti, mivel az érintettek és az ellenőrző fórumok sem képesek megítélni, hogy a rendszer pontosan milyen változókon, milyen indikátorok alapján és milyen társadalmi mintázatok mentén termel gyanút. Az AI Act szempontjából ez azért bír különös jelentőséggel, mert a magas kockázatú rendszerekre előírt alapjogi hatásvizsgálat elvileg éppen az ilyen, csoportszinten jelentkező hátrányok előzetes azonosítására szolgálhat. Ugyanakkor ez csak akkor jelent érdemi védelmet, ha a vizsgálat ténylegesen túlmutat a formális adatvédelmi megfelelésen, és a rendszer társadalmi kontextusát, célzottságát, valamint az érintett csoportokra gyakorolt differenciált hatásait is feltárja.

5. További szempontok és nem értékelt aspektusok

Az ügy érdemi vizsgálata kapcsán elemzők az alábbi kérdésekre is rávilágítanak, amelyek éppen arra mutatnak rá, hogy az automatizált döntéshozatal jogi értékelése kapcsán újfajta eszközökre és interpretációs módszerre lehet szükség. Felmerülhet kérdésként egyrészt, hogy a holland bíróság miért az EJEE 8. cikkének sérelmét vizsgálta, miközben a holland alkotmány is védi a magánélethez való jogot. Ennek az az oka, hogy a holland alkotmány tiltja, hogy a bíróságok a törvényeket alkotmányossági szempontból vizsgálják (ez a hazai jogban is így van). Mindazonáltal a holland bíróságok nemzetközi emberi jogi egyezmények alapján vizsgálhatják a törvények jogszerűségét. (Magyarországon ez az ügy az Alkotmánybíróság elé kerülne utólagos normakontroll-eljárásban.)

Szintén érdekes, hogy a bíróság nem közvetlenül a GDPR rendelkezései alapján vizsgálta a SyRI-ítéletet, csupán felhasználta annak alapelveit az EJEE 8. cikkének értelmezéséhez. Ennek oka lehet, hogy meggyőzőbb, ha egy emberi jogi egyezmény alapján vizsgálnak egy jogszabályt, különösen, hogy a felperesek is az EJEE 8. cikkének sérelmére alapították kérelmüket.

A felperesek kérelme, a SyRI-szabályozás ügye tehát három különböző megközelítést kapcsolt össze az MI használatának kedvezőtlen kezelésére: az adatvédelmi jogi rezsimet, az emberi jogi rezsimet és az algoritmikus elszámoltathatóság megközelítését. A SyRI-ügyben az emberi jogok és az adatvédelmi jog alkotta az értékelés mércéjét, de a bíróság szemében a kereset súlyát éppen a szabályozás elszámoltathatósággal és az átláthatósággal kapcsolatos hiányai jelentették. Ugyanakkor az üggyel foglalkozó elemzők is arra hívják fel a figyelmet, hogy a felperesek nem érveltek az összes, a holland hatóságokra alkalmazandó és felhívható és az ügyben potenciálisan felmerülő emberi jogi érvvel. Így nem érintették például a Gazdasági, Szociális és Kulturális Jogok Nemzetközi Egyezségokmányában szociális biztonsághoz való jogot, illetve a megkülönböztetés tilalmának a magánélethez vagy a szociális biztonsághoz való joggal kapcsolatos összefüggéseit (hiszen a beavatkozás különösen az alacsony gazdasági státuszú állampolgárokat érintette, ami sértheti a társadalmi származás, vagyon vagy egyéb helyzet alapján történő megkülönböztetést).

A bíróság az EJEE 8. cikkét a GDPR alapelveivel összevetve vizsgálta, azonban ezen túlmenően a GDPR-ral csak szelektíven foglalkozott: szükségtelennek tartotta például, hogy a GDPR automatikus döntéshozatalról szóló 22. cikk sérelmének vizsgálatát, amely abban az időszakban az egyik egyedüli globális mércéje volt az automatizált döntéshozatalnak, kimunkálatlan bírói gyakorlattal.

További fontos kérdés, hogy a SyRI-t övező titkolózás nemcsak az érintettek joggyakorlását akadályozta, hanem a Bíróság számára is megnehezítette a jogszerűség érdemi vizsgálatát: a testület több fontos kérdésben – például a SyRI jogi természetéről, a kockázati profilok létrehozásáról vagy a diszkriminációs kockázatok semlegesítéséről – kifejezetten nem tudott állást foglalni az információhiány miatt. Felmerül tehát, hogy hogyan kell értékelni az információhiányt egy lehetséges emberi jogi jogsértés vizsgálatakor. Az ENSZ különmegbízottja szerint az ilyen fokú átláthatatlanság esetén a bizonyítási teher az államra hárul, amelynek meggyőzően kell igazolnia, miért nem biztosíthat nagyobb nyilvánosságot, betekintést egy ilyen jelentőségű rendszer működésébe. A bíróság szemléletében visszaköszönt ez a mérlegelés: a rendelkezésre álló töredékes adatok alapján igyekezett dönteni, de amikor az átláthatóság és a garanciák hiánya közvetlenül érintette az egyének jogait, akkor éppen az állam elégtelen indokolása vezetett oda, hogy a bíróság végül arra a következtetésre jutott: sem a SyRI jogalapja, sem annak működése nem felel meg az EJEE 8. cikkének.

A jelenlegi uniós szabályozási környezetben mindez azért kap új jelentőséget, mert az AI Act részben éppen azokat a hiányosságokat próbálja intézményes eszközökkel kezelni, amelyek a SyRI-ügyben is felszínre kerültek. A rendelet a magas kockázatú MI-rendszerek esetében életciklus-alapú megfelelési logikát alkalmaz: kockázatkezelést, adatirányítási követelményeket, dokumentációt, naplózást, emberi felügyeletet és utólagos monitorozást ír elő, továbbá bizonyos alkalmazók számára kötelezővé teszi az alapjogi hatásvizsgálatot is. Ez a modell elvileg alkalmas lehet arra, hogy a SyRI-hez hasonló rendszerek esetében ne csak az utólagos bírói kontroll, hanem egy előzetes, szervezeten belüli alapjogi mérlegelés is megjelenjen. Ugyanakkor az AI Act korlátja, hogy elsősorban megfelelési keretet ad: a kockázatok azonosítását és csökkentését nagyrészt magukra a rendszert alkalmazó szervezetekre bízza, miközben a strukturális egyenlőtlenségek és a kollektív, elosztott sérelmek továbbra is nehezen fordíthatók le a jogsértés klasszikus, egyéniesített nyelvére. Ebben az értelemben az AI Act fontos, de nem önmagában elégséges eszköz a jóléti algoritmusok alapjogi és egyenlőségi „féken tartására”: a rendelet hatékonysága attól függ majd, hogy a FRIA és a kapcsolódó megfelelési gyakorlat mennyire lesz képes valós tartalommal megtölteni az egyenlőségi, hozzáférhetőségi és jogorvoslati szempontokat. Az Európai Unió Alapjogi Ügynöksége (FRA) empirikus kutatása e tekintetben óvatosságra int, mert arra utal, hogy a szervezetek a gyakorlatban gyakran szűken értelmezik az alapjogi kockázatokat, és nem feltétlenül veszik számba a teljes jogi-társadalmi hatásterületet.

A SyRI-ügy rávilágított, hogy bár az emberi jogok biztosítják az MI-rendszerek értékelésének alapvető keretét, a szabályozás sokáig nem adott kellően részletes választ az olyan kérdésekre, mint az indirekt diszkrimináció bizonyítása, a bizonyítási teher megoszlása vagy a csoportszintű károk kezelése. Az AI Act e hiányok egy részére reagál azzal, hogy a magas kockázatú rendszerek esetében – így a közszolgáltatások és ellátások területén is – intézményesíti a kockázatkezelést és az alapjogi hatásvizsgálatot. Ugyanakkor továbbra is nyitott kérdés, hogy ez a megfelelési logika képes lesz-e ténylegesen megragadni az algoritmikus jóléti rendszerek strukturális egyenlőtlenségi hatásait, vagy csupán adminisztratív keretet ad azok kezeléséhez. A digitális állam megoldásainak jövője ezért nagyban múlik azon, hogy a bíróságok, a felügyeleti hatóságok és az alkalmazó szervezetek mennyire tudják az aktuális szabályozási keretet az egyenlőség és az alapjogvédelem szempontjaival összhangban alkalmazni.

__________________________________________________________

Jelen blogbejegyzés az Algoritmikus Alkotmányosság Lendület Kutatócsoport támogatásával készült (LP2024-20/2024).

__________________________________________________________

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.