Tavaly november óta szinte minden a mesterséges intelligencia (MI) körül forog, ami legfőképp a ChatGPT-nek és a hasonló generatív MI-modellek megjelenésének köszönhető. Azonban a technológia már jóval a különböző kép-, szöveg- és hanggeneráló szoftverek előtt feltűnt az életünkben. A hétköznapjainkat megkönnyítő szolgáltatások, mint a Google-kereső, a Netflix, a Spotify vagy épp a YouTube algoritmusai már évek óta igen fejlettek, azonban azáltal, hogy az alkalmazások emberi feladatok ellátására is képessé váltak, mindenki felfigyelt rájuk.

A jogalkotók bő egy évtizede követik figyelemmel a mesterséges intelligencia-alapú alkalmazásokat.

Abban az Európai Unió és a fejlesztő cégek is egyetértenek, hogy szabályozni kell az MI-fejlesztést. Ennek első jele volt, hogy 2018 áprilisában lefektették az alapvető európai MI-stratégiát, majd az év végére már koordinált tervvel is előálltak a döntéshozók. Ennek nyomán megkezdődött az egyeztetés az érintett cégekkel, 2021 áprilisában az Európai Bizottság pedig bemutatta az első MI-t célzó törvénycsomagot, ami már törvénybetartatási mechanizmusokat is tartalmazott. Ennek első vázlatát az Európai Tanács már 2022-ben elfogadta, majd az Európai Parlament is, utóbbi idén nyáron, június 14-én.

Ez azonban önmagában még nem garantálja a jogok biztosítását: a stratégia tartalmáról ugyanis olyan globális vállalatokkal is egyezségre kell jutni, mint a Google, a Meta, az Apple vagy a Microsoft, és akkor a startupokról még nem is beszéltünk. Az egyeztetés legalább ez év végéig el fog húzódni, és ha sikerül is az idén megállapodni, 2025 előtt akkor sem várható az új szabályok hatályba lépése. De lássuk, miről is szól pontosan az Európai Unió mesterséges intelligenciát érintő szabályozása, mennyire szigorú, és mi az, amin jelenleg is zajlik a vita az EU és a techcégek között.

Bekeményít az Európai Unió

Az Európai Unió eddig is hajlamos volt felvenni a kesztyűt a technológiai vállalatokkal, ennek köszönhető például, hogy a Facebook és társai már nem gazdálkodhatnak úgy az adatainkkal, ahogy kedvük tartja, ahogy az is, hogy az okoseszközök gyártói idén nyártól egységesen átálltak az USB-C-port alkalmazására.

Mivel az uniós döntések eddig is az állampolgárok védelmét célozták, az MI kódex tervezete kockázatalapú megközelítést alkalmaz, amely attól függően, hogy a mesterséges intelligencia mekkora rizikót jelenthet, eltérő kötelezettségeket ír elő a rendszerek fejlesztői és telepítői számára. A javaslat leegyszerűsítve négy szintet különböztet meg:

a betiltandó, a magas kockázatú, a figyelemmel követendő, illetve a teljesen biztonságos mesterséges intelligencia rendszereket.

Egy, a témában jártas európai uniós szakember lapunk kérdésére egy háttérbeszélgetésen elmondta, az MI-rendszerek nagyjából 80 százaléka egyáltalán nem tekinthető veszélyesnek az uniós álláspont szerint, ami viszont igen, azt komolyan szabályozni kell.

Az EU-tól független szakemberek véleménye megoszlik abban a kérdésben, hogy mennyire szigorú vagy megengedő a szabályozás, abban azonban a legtöbben egyetértenek, hogy a jogalkotók elkéstek vele. Az ugyanakkor kétségtelen, hogy a kínai és az amerikai, illetve a kanadaihoz képest sokkal nagyobb hangsúlyt fektet a szabadságjogok érvényesítésére, míg kevesebbet a technológia közérthető módon történő bemutatására.

A tervezet elsőként azokat az MI-rendszereket tiltaná be, amelyek komoly kockázatot jelentenek az emberek biztonságára és szabadságjogaira. Ennek fényében minden olyan rendszert eltüntetnének, amelyek manipulációra alkalmasak. A tervezetben azt is lefektetik, hogy semmiképp nem valósulhat meg egy, a kínai mintához hasonló társadalmi kreditrendszer, a hatóságok tehát nem monitorozhatják az állampolgárokat valós idejű helyadataik és egyéb információik alapján.

NICOLAS ASFOURI / AFP Látogatók az AI arcfelismerővel ellátott biztonsági kamera felvételén a 14. Kínai Nemzetközi Közbiztonsági és Biztonsági Kiállításon Pekingben 2018. október 24-én.

A korábban említett európai uniós háttérbeszélgetésen azt is elmondták, hogy a hitelfelvételek elbírálására sem lehet majd használni az MI-t, azonban a hitelképesség felmérésére készített rendszerek továbbra is a bankok rendelkezésére állnak majd. A tiltott szint tehát nagyrészt egyértelmű, még ha a megfigyelés kapcsán várhatóan lesz is néhány kivétel, például terrorellenes kémkedés esetén.

Bonyolult kérdéseket kell megvitatni

A bizottság javaslata szerint, amikor a mesterséges intelligencia olyan kockázatot jelent, ami inkább a személyekkel szembeni átláthatóság hiányához kapcsolódik, például az emberekkel interakcióba lépő chatbotok vagy a biometrikus alapon kategorizáló rendszerek esetében, az érintett személyt tájékoztatni kell arról, ha kapcsolatba kerül az alkalmazással. Az Európai Bizottság ezért azt javasolta, hogy a generatív mesterséges intelligencia felhasználóinak fel kell tüntetniük a létrehozott tartalmon, hogy az adott kép vagy videó létrehozásához mesterséges intelligenciát vettek igénybe.

Arról még folyik a vita, hogy a mesterséges intelligencia által előállított tartalomnak rendelkeznie kell-e valamilyen digitális vízjellel, ami automatikusan rákerül a mesterségesen generált tartalmakra.

Ennek a megközelítésnek a hatékonysága és technikai megvalósíthatósága egyelőre kérdéses, a szakértőknek sincs egységes álláspontjuk a kérdésben. Ahhoz viszont mindenképpen szükség van további technikai megoldásokra, hogy az MI által generált képek, videók vagy szövegek felismerésével ellenőrizni lehessen a szabályok betartását, és biztosítható legyen, hogy ne legyen ellopható a szellemi tulajdon.

Richard A. Brooks / AFP Mesterséges intelligencia segítségével készült manga.

Más helyzetekben, amikor a mesterséges intelligencia magas kockázatot jelent, az AI Act úgy rendelkezik, hogy magukat a rendszereket nem kell betiltani, de a forgalmazás előtt meg kell felelniük az uniós követelményeknek. Ez az alábbi területekre terjed ki:

kritikus fontosságú infrastruktúra kezelése és működtetése, oktatás és szakképzés, foglalkoztatás és munkaerő-gazdálkodás, közszolgáltatásokhoz és juttatásokhoz való hozzáférés, jogérvényesítés, migráció, menekültügy és határellenőrzés irányítása, igazságszolgáltatás és demokratikus folyamatok.

A törvényhozók és a globális technológiai vállalatok között folyamatos egyeztetések zajlanak, hogy tisztázzák, mely szolgáltatás pontosan melyik szabályozási szintbe tartozik. Juhász Levente, a Google közép-kelet-európai közkapcsolati menedzsere például az NMHH nemrégiben megrendezett, mesterséges intelligenciával foglalkozó nemzetközi konferenciáján jelezte, a cég nem örül, hogy a YouTube ajánlási algoritmusa is szerepel az EU magas kockázatot jelentő MI-rendszereinek listájában, ahogy a Google Fotók arcfelismerő algoritmusa is.

A konfliktus kapcsán érdemes megjegyezni: nem kizárt, hogy különösen nehéz lesz egyeztetni a technológiai cégekkel annak fényében, hogy a vállalatoknak szintén ez idő alatt kell alkalmazkodniuk a piaci folyamatokat megcélzó DMA (Digital Market Act), illetve az EU-s állampolgárok védelmét szolgáló Digital Service Act (DSA) szigorú szabályaihoz.

NMHH Koltay András, az NMHH elnöke megnyitja a mesterséges intelligencia szabályozásáról rendezett konferenciát.

Mi a célja az Európai Uniónak?

Az Európai Unió a kategorizálás mellett a feltételeket is lefektette az AI Act részeként. Eszerint a cégeknek csak széles spektrumból érkező adatokkal szabad dolgozniuk – a rendelkezés célja, hogy az algoritmusokban ne jelentkezzenek olyan, jellemzően információhiányból származó anomáliák, mint a diszkrimináció, legyen az bármilyen természetű is.

A képzési adatokat ennek érdekében átláthatóvá és elmagyarázhatóvá kell tenni a szabályozás szerint. Ez a kitétel amellett, hogy megakadályozza, hogy egy cég jogtalan előnyre tegyen szert, arra is lehetőséget biztosít, hogy más, konkurens, az unió céljai szerint főleg európai cégek is megjelenhessenek a piacon.

Az AI Act azt is kimondja, hogy a potenciálisan veszélyt jelentő MI-rendszereknél emberi felügyelettel is szavatolni kell a fennmaradó kockázatok minimalizálását.

Ez lényegében annyit tesz, hogy legyen bármilyen fejlett is egy rendszer, az önmagában nem, csupán emberi jóváhagyással tud majd cselekedni. Végül pedig a kiberbiztonsági ellenőrzéseket és fejlesztéseket is előírják a termék teljes életciklusa alatt.

Jaap Arriens / NurPhoto / AFP

Az Európai Unió szabályozási megállapításai összhangban állnak az OECD nemzetközi gazdasági szervezet mesterséges intelligencia alapelveivel, amelyek elősegítik az MI innovatív és megbízható, valamint az emberi jogokat és a demokratikus értékeket tiszteletben tartó alkalmazását. A 2019 májusában elfogadott elvek olyan szabványokat határoznak meg a mesterséges intelligenciára vonatkozóan, amelyek elég gyakorlatiasak és rugalmasak ahhoz, hogy hosszú távú megoldást kínáljanak.

Érdekesség, hogy a rendszer alapelveit a kínai rezsim is elfogadta, noha ennek alkalmazása már nem valósul meg a hétköznapi gyakorlatban. Ezért érdemes lesz odafigyelni, hogy az elkövetkező időszakban milyen megállapodások születnek az EU és a cégek között.

Magyarországnak is fontos szerepe lesz

Egy egész kontinenst érintő törvény esetében nagyon fontos, hogy gondosan előkészített egyeztetési fázis előzze meg a végső döntéshozatalt. A megállapodások nemcsak az Európai Unió, de hazánk szempontjából is kifejezetten fontosak, ugyanis 2024 második felében Magyarország tölti be az Európai Unió soros elnökségét, épp abban az évben, amelyben a mesterséges intelligencia szabályozását célzó AI Act véglegesítését is tervezik.

Magyarország számára kiváló példa lehet a jelenlegi elnök Spanyolország, amely tavaly létrehozott egy EU-val közös pilot programot, ami azt célozza, hogy megoldják az uniós törvények tagállami szinten történő adaptálásának problémáját.

A 2022 nyarán elindított, úgynevezett szabályozási homokozó (regulatory sandbox) program az eddigi tapasztalatok szerint jelentősen megkönnyíti a konkrét megoldások tesztelését, ezzel egy időben pedig ösztönzi is a cégeket – a kis- és középvállalkozásokat is –, hogy jelezzék, mi az, amit betarthatatlannak tartanak. Ide kapcsolódó érdekesség, hogy az Ibériai-félszigeten fekvő ország az első EU-tagállam, amely létrehozott egy nemzeti szintű, mesterséges intelligenciát szabályozó szervet is.

Kapcsolódó Teljesen átalakul a közösségi média Európában: erre lehet számítani A Facebook és az Európai Unió harca évek óta tart, azonban most úgy tűnik, sikerül keretek közé szorítani a közösségi médiaóriást, és a társait is.

The post A magyar elnökség tehet pontot az MI szabályozásáról szóló vita végére first appeared on 24.hu.