Jak se vlády snaží zkrotit umělou inteligenci

Nová pravidla pro stroje

Éra divokého západu v oblasti umělé inteligence končí. Vlády už jen nepostávají opodál. Píšou pravidla, která určí, jak se bude psát kód a kde se bude moci nasadit. Nejde jen o etiku nebo vágní principy. Jde o tvrdé zákony a obří pokuty. Evropská unie udala směr svým AI Actem. Spojené státy následovaly rozsáhlým exekutivním příkazem. Tyto kroky mění pravidla hry pro každou technologickou firmu na planetě. Pokud vytvoříte model, který překročí určitý výkonnostní limit, máte na zádech terč. Musíte dokázat, že je bezpečný, než se dostane k veřejnosti. Tento posun znamená přechod od dobrovolných slibů k povinnému dohledu. Pro běžného uživatele to znamená, že nástroje, které používáte zítra, mohou vypadat jinak než ty dnešní. Některé funkce mohou být ve vaší zemi zablokovány. Jiné nástroje mohou být transparentnější v tom, jak nakládají s vašimi daty. Cílem je vyvážit pokrok s ochranou, ale cesta je plná třenic.

Od etiky k vymáhání

Abyste pochopili nová pravidla, musíte se podívat na kategorie rizik. Většina vlád opouští přístup „jedna velikost pro všechny“. Místo toho hodnotí systémy na základě potenciálních škod, které by mohly způsobit. Jde o přímou provozní změnu. Firmy už nemohou jen tak vydat produkt a doufat v nejlepší. Musí svou technologii kategorizovat dříve, než se dostane k uživateli. Tato klasifikace určuje úroveň kontroly, kterou vláda uplatní. Také určuje úroveň právní odpovědnosti, které firma čelí, pokud se něco pokazí. Fokus se přesunul od toho, co AI je, k tomu, co AI dělá. Pokud systém činí rozhodnutí o lidech, je brán s mnohem větším podezřením než systém, který generuje obrázky koček.

Nejpřísnější pravidla platí pro systémy, které jsou považovány za nepřijatelné riziko. Ty nejsou jen nedoporučovány. Jsou zakázány. To vytváří jasnou hranici pro vývojáře. Přesně vědí, které čáry nesmí překročit. Pro vše ostatní pravidla vyžadují novou úroveň dokumentace. Firmy musí vést podrobné záznamy o tom, jak byly jejich modely trénovány. Musí také umět vysvětlit, jak model dospěl ke svým závěrům. To je významná technická výzva, protože mnoho moderních modelů jsou v podstatě černé skříňky. Vynutit si jejich vysvětlitelnost vyžaduje zásadní změnu v tom, jak jsou navrhovány. Pravidla také vyžadují, aby data použitá k tréninku byla čistá a bez zkreslení. To znamená, že samotný proces sběru dat nyní podléhá právním auditům. Současný regulační přístup definují tyto kategorie:

• Zakázané systémy, které využívají sociální skórování nebo klamavé techniky k manipulaci s chováním.
• Vysoce rizikové systémy používané v kritické infrastruktuře, náboru a vymáhání práva, které vyžadují přísné audity.
• Systémy s omezeným rizikem, jako jsou chatboty, které musí přiznat, že nejsou lidé.
• Systémy s minimálním rizikem, jako jsou videohry s AI, které čelí menším omezením.

Tato struktura je navržena tak, aby byla flexibilní. S tím, jak se technologie mění, může seznam vysoce rizikových aplikací růst. To udržuje zákon relevantní i v době, kdy se software vyvíjí. Nicméně to také vytváří stav trvalé nejistoty pro firmy. Musí neustále kontrolovat, zda se jejich nová funkce neposunula do více regulované kategorie. To je nová realita vývoje softwaru ve světě, který je obezřetný vůči síle strojů.

Roztříštěný globální rámec

Dopad těchto pravidel se neomezuje na hranice jednoho státu. Sledujeme vzestup tzv. *Brussels Effect*. Když EU nastaví vysokou laťku pro regulaci technologií, globální firmy často tyto standardy přijímají všude, aby si zjednodušily provoz. Je levnější postavit jeden vyhovující produkt než deset různých verzí pro různé trhy. To dává Evropě obrovský vliv na to, jak se AI staví v Silicon Valley. Více o EU AI Act si můžete přečíst, abyste viděli, jak jsou tyto standardy strukturovány. Ve Spojených státech je přístup jiný, ale stejně významný. Vláda využívá **Defense Production Act**, aby přiměla technologické giganty sdílet výsledky jejich bezpečnostních testů. To signalizuje, že USA vnímají rozsáhlou AI jako otázku národní bezpečnosti.

Mezitím Čína zvolila přímější cestu. Její regulace se zaměřují na obsah produkovaný generativní AI. Vyžadují, aby výstupy byly v souladu se společenskými hodnotami a nepodkopávaly státní moc. To vytváří roztříštěný svět, kde se stejný model může chovat odlišně podle toho, kde se přihlásíte. Model v Pekingu bude mít jiné mantinely než ten v Paříži nebo New Yorku. Tato fragmentace způsobuje vrásky vývojářům, kteří nyní musí pracovat napříč sítí protichůdných pravidel. Některé země chtějí více otevřenosti, zatímco jiné chtějí větší kontrolu nad narativem. Pro globální publikum to znamená, že zkušenost s AI se stává lokalizovanou. Sen o jediném, bezhraničním internetu slábne. Na jeho místě je regulované prostředí, kde vaše poloha určuje, co vám stroj smí říct. To je nová realita roku 2024. Je to posun, který definuje příští desetiletí technologického růstu.

Každodenní život pod dohledem regulátorů

Představte si typické ráno projektové manažerky Sáry. Den začíná otevřením AI nástroje, který jí shrne dlouhý řetězec e-mailů. Podle nových regulací ji software musí upozornit, že shrnutí vygeneroval algoritmus. Musí také zajistit, aby její firemní data nebyla bez jejího souhlasu použita k trénování veřejného modelu. To je přímý důsledek nových ochran soukromí zakotvených v nedávných zákonech. Později se Sára hlásí na novou pozici v technologické firmě. Firma používá AI screeningový nástroj. Protože jde o vysoce rizikovou aplikaci, firma musela nástroj auditovat na přítomnost zkreslení. Sára má zákonné právo požádat o vysvětlení, proč ji AI ohodnotila tak, jak ji ohodnotila. V minulosti by dostala jen generické zamítnutí. Nyní má cestu k transparentnosti. Toto je konkrétní příklad toho, jak správa věcí veřejných mění mocenskou dynamiku mezi korporacemi a jednotlivci.

Odpoledne Sára prochází nákupním centrem. V některých městech by její pohyb sledovalo rozpoznávání obličejů, aby jí servírovalo cílené reklamy. Podle přísných pravidel EU je tento druh sledování v reálném čase omezen. Obchodní centrum musí mít konkrétní právní důvod k jeho použití a Sára o tom musí být informována. Produkty, které používá, se také mění. Firmy jako OpenAI a Google již upravují své funkce, aby vyhověly místním zákonům. Možná si všimnete, že určité nástroje pro generování obrázků nejsou ve vašem regionu dostupné nebo mají přísné filtry, které brání vytváření realistických tváří veřejných osobností. Nejde o technické omezení. Je to omezení právní. Argumenty pro tato pravidla působí reálně, když vezmete v úvahu potenciál deepfakes narušit volby nebo zaujaté algoritmy, které lidem odepřou bydlení. Tím, že vlády zavádějí mantinely, se snaží těmto škodám předejít dříve, než nastanou. To je americký přístup k bezpečnosti AI v praxi.

Sára si však může také všimnout, že její nástroje jsou pomalejší nebo omezenější. Odpovědi typu „Omlouvám se, to nemohu udělat“ jsou často výsledkem snahy vývojáře vyhnout se obří pokutě. Napětí mezi užitečností a bezpečností je viditelné v každé interakci. Je to neustálá připomínka, že stroj je pod dohledem. Tento vývoj není statický. Pravidla se aktualizují s tím, jak se objevují nové schopnosti. Cílem je zajistit, aby AI, kterou Sára používá, byla nástrojem pro její prospěch, nikoliv systémem, který v zákulisí pracuje proti jejím zájmům. Toto je nejvýznamnější změna v tom, jak komunikujeme s počítači od vynálezu internetu.

Skryté náklady na shodu

Musíme si klást těžké otázky o tom, kdo v regulovaném světě skutečně vyhrává. Chrání těžká regulační zátěž veřejnost, nebo prostě jen chrání zavedené hráče? Velké technologické firmy mají zdroje na to, aby si najaly stovky právníků a inženýrů, kteří se postarají o shodu. Malý startup v garáži ne. Riskujeme, že vytvoříme svět, kde si inovace mohou dovolit jen giganti. To by mohlo vést k menší konkurenci a vyšším cenám pro uživatele. Existuje také otázka soukromí versus bezpečnosti. Když vlády požadují přístup k vnitřnímu fungování AI modelu, kdo chrání tato data? Pokud může vláda auditovat model, aby zajistila, že je bezpečný, může stejný přístup využít i ke sledování toho, co se model učí od svých uživatelů. To je kompromis, o kterém se ve veřejných fórech mluví jen zřídka.

Musíme také zvážit skryté náklady na inovace. Pokud musí každá nová funkce projít zdlouhavým schvalovacím procesem, přijdeme o průlomy, které by mohly zachránit životy v medicíně nebo vyřešit komplexní klimatické problémy? Tření způsobené regulací je skutečným nákladem. Potřebujeme vědět, zda bezpečnost, kterou získáváme, stojí za pokrok, o který přicházíme. Existuje také problém vymáhání. Jak regulovat model, který je hostován v decentralizované síti nebo v zemi, která ignoruje mezinárodní normy? Pravidla se mohou vztahovat pouze na firmy, které se rozhodnou je dodržovat, zatímco ti nejnebezpečnější aktéři mohou volně operovat bez dohledu. To vytváří falešný pocit bezpečí. Stavíme plot kolem zákonů dbalých občanů, zatímco brána zůstává otevřená pro všechny ostatní. To jsou otázky, kterým se regulátoři často vyhýbají. Zaměřují se na viditelná rizika, zatímco ignorují ta systémová. Jak postupujeme vpřed, musíme zajistit, aby naše touha po bezpečí nezastřela hodnotu otevřeného a konkurenčního trhu.

Máte příběh, nástroj, trend nebo otázku týkající se AI, o kterých si myslíte, že bychom je měli pokrýt? Pošlete nám svůj nápad na článek — rádi si ho poslechneme.

Technická daň za transparentnost

Pro pokročilé uživatele a vývojáře se nová regulace promítá do konkrétních technických omezení. Jednou z nejdůležitějších metrik je výpočetní práh. Exekutivní příkaz USA nastavuje laťku na 10 na 26. mocninu operací v plovoucí řádové čárce. Jakýkoliv model trénovaný s vyšším výkonem musí být nahlášen vládě. To nutí vývojáře vést podrobné protokoly o využití hardwaru a tréninkových bězích. API limity se také stávají nástrojem regulace. Aby se zabránilo masovému generování dezinformací, některé regiony zvažují limity na to, kolik požadavků může jeden uživatel poslat generativnímu modelu. To ovlivňuje, jak vývojáři staví aplikace, které na těchto modelech závisí. Nyní musí tyto limity zohlednit ve svém kódu a obchodních modelech. Lokální úložiště je dalším hlavním faktorem. Zákony často vyžadují, aby data o občanech zůstala v určitých geografických hranicích. To znamená, že firmy nemohou jednoduše používat centrální cloud ke zpracování dat odkudkoliv. Musí stavět a udržovat lokální datová centra. Technické požadavky zahrnují:

• Povinné vodoznaky na úrovni API pro identifikaci obsahu generovaného AI.
• Požadavky na datovou rezidenci, které vynucují lokální zpracování a ukládání.
• Protokolování výpočetního výkonu pro jakýkoliv trénink modelu, který překročí práh 10 na 26. mocninu flopů.
• Vysvětlitelné vrstvy, které umožňují lidský audit vah modelu a rozhodovacích cest.

Integrační pracovní postupy se také mění. Vývojáři nyní musí v každé fázi potrubí zabudovat bezpečnostní kontroly. Pokud stavíte nástroj, který využívá API třetí strany, jste nyní zodpovědní za to, jak toto API nakládá s daty. Musíte zajistit, aby vaše integrace neobcházela bezpečnostní filtry nastavené poskytovatelem. Geekovská sekce zákona je místem, kde se odehrávají skutečné bitvy. Jde o latenci, datovou rezidenci a matematiku vah modelu. To jsou detaily, které určují, zda je produkt životaschopný, nebo zda bude pohřben pod tíhou vlastních požadavků na shodu. Více podrobností o těchto technických posunech najdete v nejnovějších zpravodajských reportech ohledně technologické politiky. Pro ty, kteří chtějí být před těmito změnami napřed, je sledování nejnovějšího vývoje v regulaci AI zásadní. Složitost těchto pravidel znamená, že role vývojáře se stává stejně tak o právu jako o kódu.

Nedokončený kód

Pokus o kontrolu AI je rozpracovaným dílem. Přecházíme z období naprosté svobody do období řízeného růstu. Pravidla napsaná dnes budou formovat technologii příštího desetiletí. Rychlost softwaru však vždy předbíhá rychlost legislativy. Než je zákon přijat, technologie se často posunula k něčemu novému. To nás nechává s živou otázkou, která bude toto téma neustále vyvíjet: může být demokratický proces někdy dostatečně rychlý na to, aby reguloval inteligenci, která přepisuje sama sebe? Prozatím je důraz kladen na transparentnost a odpovědnost. Snažíme se zajistit, aby lidé zůstali pány strojů, které postavili. Zda tato pravidla učiní AI bezpečnější, nebo jen komplikovanější, se teprve uvidí. Jedinou jistotou je, že éra neregulovaného algoritmu skončila. To je realita roku 2024 a dále.

Poznámka redakce: Tuto stránku jsme vytvořili jako vícejazyčné centrum zpráv a průvodců o umělé inteligenci pro lidi, kteří nejsou počítačoví maniaci, ale přesto chtějí porozumět umělé inteligenci, používat ji s větší jistotou a sledovat budoucnost, která již přichází.

Našli jste chybu nebo něco, co je potřeba opravit? Dejte nám vědět.