Pünkösty András: Az Európai Unióban álmodják az emberarcú mesterséges intelligenciát?

Április 21-én jelent meg az Európai Bizottság által kidolgozott mesterséges intelligencia alapú technológiák uniós szintű szabályozásra vonatkozó rendelettervezet az Artifical Intelligence Act. A tervezet amellett, hogy megalkotja a mesterséges intelligencia alapú technológiák szabályozáshoz szükséges terminológiai keretet, jól értelmezhető kockázat-alapú szabályozást javasol, egyúttal kezdeményezővé teszi az Európai Uniót az új technológiák vonatkozásában, hangsúlyosan az európai értékek talaján állva.

A hivatalban lévő Európai Bizottság számára kezdettől fogva prioritás Európa felkészítésére a digitalizáció kihívásaira, amely stratégia kidolgozásában kitüntetett szerepet játszik Margrethe Vestager versenyügyi biztosasszony is. A rendelettervezet bemutatásakor a Margrethe Vestager hangsúlyozta, hogy Európa vezető szerepet kíván betölteni a biztonságos, megbízható és ember-orientált mesterséges intelligencia fejlesztésében. A tervezet előzménye a 2020 februárjában elfogadott Mesterséges Intelligenciáról szóló Fehér Könyv, amely kijelölte a gondolkodás irányát, amelynek a középpontjában a kiválóság és a bizalom állt.

A Rendelettervezet az 1. számú mellékletében határozza „mesterséges intelligencia rendszerek” technikai specifikációkat, amelyre azért is szükség volt, mert jelenleg MI alatt technikai megoldások széles körét emlegetjük pontos definíció nélkül, így végre rendszert alkot a túlterhelt fogalom kapcsán.[1]

A tervezet négy kockázati kategóriába osztja a MI rendszereket, így megkülönbözteti (1) az elfogadhatatlan kockázattal járó, (2) a magas kockázatú, illetve (3) az alacsony és (4) a minimális kockázatú megoldásokat. Az elfogadhatatlan kockázati körbe azok az MI alkalmazások tartoznak, amelyek ellentétesek az EU értékeivel, illetve megsértik az emberi jogokat. Tilosak például emberi gondolatokat a tudatalattit elérő technológiákkal manupulálni képes megoldások, vagy azok amelyek kizsákmányolhatnak sérülékeny csoportokat (pl. gyermekeket vagy fogyatékkal élőket) akár fizikai vagy pszichés kárt okozva nekik. A javaslat tiltja továbbá a hatóságok által társadalmi pontrendszer bevezetéséét, valamint közterületen jogérvényesítés érdekében történő biometrikus adatokkal valós idejű azonosítást. Ezen túlmenően a természetes személyeknek minden esetben biztosítani kell a megfelelő tájékoztatást és szabad választás lehetőségét, hogy elkerülhessék a profilalkotó rendszereket vagy egyéb olyan eljárásokat, amelyek befolyásolhatják a viselkedésüket.

A magas kockázatú MI-ket a 3. számú melléklet sorolja fel, amelyeknek feltétlenül érvényesülendő követelményeknek (mandatory requirements) és előzetes megfelelőségi vizsgálatoknak kell alávetni.  Kiemelt szempontok ezekkel összefüggésben az adatkezelés, a megfelelő dokumentáció és nyilvántartás vezetése, az átláthatóság és a felhasználó tájékoztatására vonatkozó szabályok, az emberi felügyelet biztosítása, a pontosság és a biztonság. Ilyen MI megoldások többek között a

  • természetes személyek biometrikus azonosítása és kategorizálása,
  • kritikus infrastruktúrák működtetése,
  • oktatáshoz és szakképzéshez való hozzáférés meghatározása,
  • foglalkoztatásra, munkaviszonyra történő kiválasztás,     
  • jogérvényesítés,
  • alapvető magán és közszolgáltatások,
  • migráció, menedékjog és határőrize,;
  • igazságszolgáltatás céljából használatos alkalmazások.

 Végül tervezet alapján a nem kiemelt kockázatú MI-k esetében az átláthatóságnak, az önszabályozásnak ad kiemelt szerepet különösképpen a lehetséges manipulációval kapcsolatos kockáztok kizárása érdekében, így 1) az emberekkel interakcióban lépő (chat bot), 2) az emberi érzelmeket feltérképező vagy biometrikus adatok alapján társadalmi réteghez tartozó asszociációkat meghatározó, illetve 3) manipulatív tartalmakat előállító (deep fake) rendszerek esetében. Az embernek minden esetben tisztában kell lennie, hogy ilyen MI-vel lép interakcióba, valamint annak is nyilvánvalónak kell lennie számára, ha eredeti hatást keltő, de automatikusan előállít vagy manipulált képi, hang, vagy videó tartalmakkal szembesül.

Az előre mutató szabályozás hatékony érvényre juttatása érdekében a tervezet Európai Mesterséges Intelligencia Testület felállítására tesz javaslatot, illetve a tagállamoknak ki kell jelölniük az eljáró hatáskörrel rendelkező hatóságokat és a felügyeleti szerveket.     

Az Európai Unió kétség kívül kezdeményezővé lépet elő a mesterséges intelligencia szabályozásban, amely kockázatok értékelésével igyekszik a bizalmat kiépíteni a MI megoldásokkal szemen, teszi ezt úgy, hogy ragaszkodik magas etikai elvekhez, amelyekkel garantálni igyekszik a technológia ember szolgálatába állítását. Az innováció elősegítése legalább ennyire hangsúlyos Európai Bizottság kommunikációjában, amelyre további eszközöket alkalmaz, ugyanakkor a leendő szabályozás sikeressége a gyakorlati átültetés – többismeretlenes egyenletének – a függvénye.   

 

 

[1] A tervezet alapján MI-nek minősülnek a gépi tanuláson alapuló technológiák, beleértve a mélytanulást; a logikai és adatbázis-alapú műveletek, beleértve például az induktív (logikai) programozást; valamint statisztikai megközelítéseket és kereséséi és optimalizálási műveleteket.

  • Home
  • Blog
  • Blog - hu
  • Pünkösty András: Az Európai Unióban álmodják az emberarcú mesterséges intelligenciát?