A Gazdaság és Jog 2021/5. számában jelent meg Ződi Zsolt: Az Európai Bizottság Mesterséges Intelligencia Kódexének tervezete c. tanulmánya, amely az EU Mesterséges Intelligencia Rendelet tervezetét tárgyalja.
Ződi bevezetőjében hangsúlyozza, hogy az EU különböző döntéshozó szerveit nagyjából a 2010-es évek közepe óta foglalkoztatja a mesterséges intelligencia (MI) problematikája. A hosszas munka most mérföldkőhöz érkezett: az Európai Bizottság beterjesztette az Európai Parlamentnek a Mesterséges Intelligencia Rendelet tervezetét.
A Kódex tervezete 89 preambulumbekezdésből, és 12 cím alatt 85 cikkből áll, és a Rendelet hatályát úgy határoznák meg benne, hogy az az MI-rendszerek előállítóira és felhasználóira egyaránt kiterjedjen, amennyiben az EU területén tevékenykednek, sőt, azokra a nem európai uniós alkalmazásokra is, amelyeknek „a kimeneteit” az Európai Unióban használják fel.
A rendelettervezet a közelmúltban kialakult konszenzusnak megfelelően nem valamiféle funkcionális („az emberi cselekvést/gondolkodást imitálni képes”), vagy működési („nem determinisztikus/kiszámíthatatlan/átláthatatlan működés) jellegzetességgel, kockázattal definiálja az MI-t, hanem három konjunktív feltétellel.
Egyfelől az MI-nek valamelyik, a rendelettervezet mellékletében felsorolt speciális technológiát kell alkalmaznia. Másrészről képesnek kell lennie arra, hogy egy ember által definiált célrendszert figyelembe véve működjön. Végül a kimeneti oldalán – példálózó jelleggel – az alábbiaknak kell megjelennie: tartalom, előrejelzés, ajánlás, döntés.
A tervezet hét előírást vagy elvet igyekszik aprópénzre váltani a magas kockázatú MI-k esetén, melyek a következők:
• A magas kockázatú MI-ket mindig kockázatértékelési rendszerekkel és megfelelő adatmenedzsment (data governance) rendszerekkel együtt kell működtetni.
• A tanító, validáló és tesztelő adatoknak „tisztának” kell lennie.
• A magas kockázatú MI-khez részletes dokumentációt kell csatolni.
• A magas kockázatú MI-khez az eseményeket naplózó rendszereket kell társítani.
• Átláthatóan kell működniük.
• A magas kockázatú MI-k felett mindig meg kell maradnia az emberi felügyeletnek és beavatkozási lehetőségnek.
• Mindig meg kell felelniük a pontosság, a robosztusság és a kiberbiztonság követelményeinek.
A Szerző – a tervezet szerkezeti ismertetésén túl – rámutat arra is, hogy „az MI-vel kapcsolatos nagy filozófiai és etikai viták ugyan nem zárultak le, de a problémák aprópénzre váltása megkezdődött. Ez sokkal nehezebb lesz, mint az – egyébként senki által nem vitatott – etikai elvek számbavétele és kinyilatkoztatása.”