Hogyan próbálják a kormányok kordában tartani az AI-t?

A gépek új szabályai

Az AI vadnyugati korszaka véget ért. A kormányok már nem csak a partvonalról figyelnek, hanem írják azokat a szabálykönyveket, amelyek meghatározzák, hogyan írható a kód és hol alkalmazható. Ez nem csupán etikáról vagy ködös elvekről szól, hanem kemény törvényekről és hatalmas bírságokról. Az Európai Unió az AI Act-tel járt elöl, az Egyesült Államok pedig egy átfogó elnöki rendelettel követte. Ezek a lépések alapjaiban változtatják meg a tech cégek számításait. Ha olyan modellt építesz, amely túllép egy bizonyos teljesítményküszöböt, célponttá válsz. Bizonyítanod kell a biztonságosságát, mielőtt a nyilvánosság elé kerülne. Ez az önkéntes vállalásoktól a kötelező felügyelet felé való elmozdulást jelzi. Az átlagfelhasználó számára ez azt jelenti, hogy a holnap használt eszközeid másképp nézhetnek ki, mint a maiak. Egyes funkciók elérhetetlenné válhatnak az országodban, mások pedig átláthatóbbá teszik az adataid kezelését. A cél a fejlődés és a védelem egyensúlya, de az út tele van súrlódásokkal.

Az etikától a végrehajtásig

Az új szabályok megértéséhez a kockázati kategóriákat kell nézni. A legtöbb kormány elmozdul az „egy kaptafára” elvtől, és a potenciális károkozás alapján osztályozza a rendszereket. Ez közvetlen operatív változás. A cégek már nem adhatnak ki terméket csak úgy, reménykedve a legjobbakban; a felhasználás előtt kategorizálniuk kell a technológiát. Ez határozza meg a kormányzati ellenőrzés szintjét és a jogi felelősséget is. A hangsúly áttevődött arról, hogy mi az AI, arra, hogy mit csinál. Ha egy rendszer emberekről hoz döntéseket, sokkal gyanakvóbban kezelik, mint egy macskás képeket generáló szoftvert.

A legszigorúbb szabályok az elfogadhatatlan kockázatú rendszerekre vonatkoznak. Ezeket nemcsak nem ajánlják, hanem be is tiltják. Ez világos határvonalat húz a fejlesztőknek. Minden más esetben a szabályok új szintű dokumentációt követelnek. A cégeknek részletes nyilvántartást kell vezetniük a modellek tanításáról, és meg kell tudniuk magyarázni a következtetéseik menetét. Ez komoly technikai kihívás, mivel sok modern modell lényegében „fekete doboz”. A szabályok azt is követelik, hogy a tanító adatok tiszták és elfogultságoktól mentesek legyenek, ami az adatgyűjtési folyamatot is jogi audit alá vonja. A jelenlegi szabályozási megközelítést az alábbi kategóriák határozzák meg:

• Tiltott rendszerek, amelyek társadalmi pontozást vagy megtévesztő technikákat használnak a viselkedés befolyásolására.
• Magas kockázatú rendszerek, amelyeket kritikus infrastruktúrában, toborzásnál és bűnüldözésnél használnak, és szigorú auditot igényelnek.
• Korlátozott kockázatú rendszerek, például chatbotok, amelyeknek fel kell tüntetniük, hogy nem emberek.
• Minimális kockázatú rendszerek, mint az AI-alapú videojátékok, amelyek kevesebb korlátozással szembesülnek.

Ez a struktúra rugalmas. Ahogy a technológia változik, a magas kockázatú alkalmazások listája bővülhet, így a törvény a szoftverek fejlődése mellett is releváns marad. Ez azonban állandó bizonytalanságot szül a vállalkozások számára, akiknek folyamatosan ellenőrizniük kell, nem került-e új funkciójuk egy szigorúbban szabályozott kategóriába. Ez a szoftverfejlesztés új valósága egy olyan világban, amely tart a gépek erejétől.

Töredezett globális keretrendszer

E szabályok hatása nem korlátozódik egyetlen nemzet határain belülre. Tanúi vagyunk a *Brussels Effect* felemelkedésének: amikor az EU magasra teszi a lécet, a globális cégek gyakran mindenhol átveszik ezeket a standardokat a működés egyszerűsítése érdekében. Olcsóbb egyetlen megfelelő terméket építeni, mint tíz különbözőt. Ez hatalmas befolyást biztosít Európának a Szilícium-völgyi fejlesztésekre. Az EU AI Act részleteiről többet is olvashatsz. Az Egyesült Államokban a megközelítés más, de hasonlóan jelentős: a kormány a **Defense Production Act** segítségével kötelezi a tech óriásokat a biztonsági tesztek eredményeinek megosztására, ami azt jelzi, hogy az USA nemzetbiztonsági kérdésként tekint a nagy léptékű AI-ra.

Kína eközben közvetlenebb utat választott: szabályozásuk a generatív AI által előállított tartalomra fókuszál, megkövetelve, hogy a kimenetek összhangban legyenek a társadalmi értékekkel és ne ássák alá az államhatalmat. Ez egy töredezett világot teremt, ahol ugyanaz a modell másképp viselkedik attól függően, honnan jelentkezel be. A pekingi modell más korlátokkal bír, mint a párizsi vagy a New York-i. Ez fejfájást okoz a fejlesztőknek, akiknek egymásnak ellentmondó szabályok hálójában kell dolgozniuk. Egyes országok nyitottságot, mások kontrollt akarnak. A globális közönség számára ez azt jelenti, hogy az AI-élmény lokalizálódik. Az egyetlen, határok nélküli internet álma halványul, helyét egy szabályozott környezet veszi át, ahol a tartózkodási helyed határozza meg, mit mondhat neked a gép. Ez a 2024-es év új valósága, amely meghatározza a következő évtized technológiai növekedését.

Mindennapi élet a szabályozói szem alatt

Képzeljünk el egy átlagos reggelt Sarah-nál, egy projektmenedzsernél. A napot egy AI-eszközzel kezdi, amivel összefoglalja hosszú e-mail-láncait. Az új szabályozások értelmében a szoftvernek értesítenie kell őt, hogy az összefoglalót algoritmus generálta. Azt is biztosítania kell, hogy a vállalati adatait ne használják fel a nyilvános modell tanítására az ő beleegyezése nélkül. Ez a friss adatvédelmi törvények közvetlen eredménye. Később Sarah megpályáz egy új állást egy tech cégnél, amely AI-szűrőeszközt használ. Mivel ez magas kockázatú alkalmazás, a cégnek auditálnia kellett az eszközt az elfogultság kiszűrésére. Sarah-nak törvényes joga van magyarázatot kérni arra, miért úgy rangsorolta őt az AI, ahogy. Régebben egy sablonos elutasítást kapott volna, most viszont út nyílt az átláthatóság felé. Ez konkrét példa arra, hogyan változtatja meg a kormányzás a vállalatok és egyének közötti erőviszonyokat.

Délután Sarah egy bevásárlóközpontban sétál. Egyes városokban arcfelismerő rendszerek követnék a mozgását, hogy célzott hirdetéseket szolgáljanak ki. A szigorú EU-s szabályok szerint az ilyen valós idejű megfigyelés korlátozott: a központnak konkrét jogi indokkal kell rendelkeznie, és Sarah-t tájékoztatni kell. A termékek is változnak; az OpenAI és a Google már igazítják funkcióikat a helyi törvényekhez. Észreveheted, hogy bizonyos képgeneráló eszközök nem érhetőek el a régiódban, vagy szigorú szűrőkkel rendelkeznek, amelyek megakadályozzák közszereplők élethű arcának létrehozását. Ez nem technikai korlát, hanem jogi. A szabályok melletti érv valósnak tűnik, ha figyelembe vesszük a deepfake-ek választásokat befolyásoló hatását vagy az elfogult algoritmusok lakhatási diszkriminációját. A korlátok felállításával a kormányok megpróbálják megelőzni ezeket a károkat. Ez az amerikai megközelítés az AI-biztonság terén.

Sarah azonban azt is észreveheti, hogy az eszközei lassabbak vagy korlátozottabbak lettek. Az AI „Sajnálom, ezt nem tehetem” válaszai gyakran annak az eredményei, hogy a fejlesztő el akarja kerülni a hatalmas bírságot. A hasznosság és a biztonság közötti feszültség minden interakcióban látható. Ez állandó emlékeztető arra, hogy a gépet figyelik. Ez a fejlődés nem statikus; a szabályokat frissítik az új képességek megjelenésével. A cél az, hogy az AI, amit Sarah használ, az ő érdekét szolgálja, ne pedig egy olyan rendszer legyen, amely a háttérben ellene dolgozik. Ez a legjelentősebb változás a számítógépekkel való interakciónkban az internet feltalálása óta.

A megfelelés rejtett költségei

Fel kell tennünk a nehéz kérdéseket: ki nyer valójában egy szabályozott világban? A súlyos szabályozási teher valóban védi a közvéleményt, vagy csak a piaci szereplőket védi? A nagy tech cégeknek megvannak az erőforrásaik százszámra ügyvédeket és mérnököket alkalmazni a megfeleléshez, egy garázsban induló startupnak viszont nem. Azt kockáztatjuk, hogy olyan világot teremtünk, ahol csak az óriások engedhetik meg maguknak az innovációt, ami kevesebb versenyt és magasabb árakat jelenthet a felhasználóknak. Ott van az adatvédelem kontra biztonság kérdése is. Amikor a kormányok hozzáférést követelnek egy AI-modell belső működéséhez, ki védi azokat az adatokat? Ha egy kormány auditálhat egy modellt a biztonság érdekében, ugyanazt a hozzáférést használhatja a felhasználói adatok megfigyelésére is. Ez egy olyan kompromisszum, amit ritkán vitatnak meg nyilvános fórumokon.

Az innováció rejtett költségeit is figyelembe kell vennünk. Ha minden új funkciónak hosszú jóváhagyási folyamaton kell átesnie, lemaradunk-e olyan áttörésekről, amelyek életeket menthetnének az orvostudományban vagy megoldhatnák a klímaválságot? A szabályozás súrlódása valós költség. Tudnunk kell, megéri-e a nyert biztonság az elvesztett fejlődést. Ott van a végrehajtás kérdése is: hogyan szabályozol egy modellt, amely decentralizált hálózaton fut, vagy olyan országban, amely figyelmen kívül hagyja a nemzetközi normákat? A szabályok csak azokra a cégekre vonatkozhatnak, amelyek betartják azokat, így a legveszélyesebb szereplők felügyelet nélkül maradhatnak. Ez a biztonság hamis érzetét kelti: kerítést építünk a törvénytisztelő állampolgárok köré, miközben a kapu nyitva marad mindenki más előtt. Ezek azok a kérdések, amelyeket a szabályozók gyakran elkerülnek. A látható kockázatokra fókuszálnak, miközben figyelmen kívül hagyják a rendszerszintűeket. Ahogy haladunk előre, biztosítanunk kell, hogy a biztonság iránti vágyunk ne vakítson el minket a nyitott és versenyképes piac értékével szemben.

Van egy AI-történet, eszköz, trend vagy kérdés, amiről úgy gondolja, hogy foglalkoznunk kellene vele? Küldje el nekünk cikkötletét — szívesen meghallgatnánk.

Az átláthatóság technikai ára

A haladó felhasználók és fejlesztők számára az új szabályozások konkrét technikai korlátokat jelentenek. Az egyik legfontosabb mérőszám a számítási küszöb. Az USA elnöki rendelete 10 a 26-ikon lebegőpontos műveletnél húzza meg a határt. Minden modellt, amelyet ennél nagyobb teljesítménnyel tanítottak, jelenteni kell a kormánynak. Ez arra kényszeríti a fejlesztőket, hogy részletes naplókat vezessenek hardverhasználatukról és tanítási folyamataikról. Az API-korlátok is a szabályozás eszközeivé válnak. A dezinformáció tömeges generálásának megakadályozása érdekében egyes régiók korlátozzák, hány kérést küldhet egy felhasználó egy generatív modellnek. Ez befolyásolja, hogyan építik a fejlesztők az alkalmazásaikat. A kódjukban és üzleti modelljükben is számolniuk kell ezekkel a korlátokkal. A helyi tárolás egy másik fontos tényező: a törvények gyakran megkövetelik, hogy az állampolgárok adatai meghatározott földrajzi határokon belül maradjanak. Ez azt jelenti, hogy a cégek nem használhatnak egyszerűen egy központi felhőt az adatok feldolgozására, hanem helyi adatközpontokat kell építeniük és fenntartaniuk. A technikai követelmények közé tartoznak:

• Kötelező vízjelezés API-szinten az AI által generált tartalom azonosítására.
• Adattárolási követelmények, amelyek helyi feldolgozást és tárolást kényszerítenek ki.
• Számítási naplózás minden olyan modelltanításhoz, amely meghaladja a 10 a 26-ikon flop küszöböt.
• Magyarázhatósági rétegek, amelyek lehetővé teszik a modell súlyainak és döntési útjainak emberi auditját.

Az integrációs munkafolyamatok is változnak. A fejlesztőknek most már a csővezeték minden szakaszában biztonsági ellenőrzéseket kell beépíteniük. Ha olyan eszközt építesz, amely harmadik féltől származó API-t használ, te felelsz azért, hogyan kezeli az az API az adatokat. Biztosítanod kell, hogy az integrációd ne kerülje meg a szolgáltató által beállított biztonsági szűrőket. A törvény „geek” része az, ahol az igazi csaták zajlanak: a késleltetésről, az adattárolásról és a modell súlyainak matematikájáról van szó. Ezek a részletek határozzák meg, hogy egy termék életképes-e, vagy eltemetik a megfelelési követelmények. Ezekről a technikai változásokról többet is megtudhatsz a technológiai politikával foglalkozó legfrissebb hírekben. Azok számára, akik lépéselőnyben akarnak maradni, elengedhetetlen az AI-szabályozás legfrissebb fejleményeinek követése. A szabályok összetettsége miatt a fejlesztő szerepe egyre inkább a jogról, mintsem a kódról szól.

A befejezetlen kód

Az AI kordában tartására tett kísérlet folyamatban lévő munka. A teljes szabadság időszakából a menedzselt növekedés korszakába lépünk. A ma megírt szabályok formálják a következő évtized technológiáját. Azonban a szoftverek sebessége mindig meghaladja a jogalkotásét. Mire egy törvény megszületik, a technológia gyakran már tovább lépett. Ez egy olyan élő kérdést hagy ránk, amely folyamatosan fejlődni fog: vajon egy demokratikus folyamat elég gyors lehet-e egy olyan intelligencia szabályozására, amely újraírja önmagát? Egyelőre a hangsúly az átláthatóságon és az elszámoltathatóságon van. Megpróbáljuk biztosítani, hogy az emberek maradjanak a gép felett, amit építettek. Hogy ezek a szabályok biztonságosabbá teszik-e az AI-t, vagy csak bonyolultabbá, az még kiderül. Az egyetlen biztos pont, hogy a szabályozatlan algoritmusok korszaka véget ért. Ez a 2024-es év és az azt követő időszak valósága.

A szerkesztő megjegyzése: Ezt az oldalt többnyelvű AI hírek és útmutatók központjaként hoztuk létre olyan emberek számára, akik nem számítógépes zsenik, de mégis szeretnék megérteni a mesterséges intelligenciát, magabiztosabban használni, és követni a már megérkező jövőt.

Hibát talált, vagy valami javításra szorul? Tudassa velünk.