Čeho se AI průmysl nejvíce obává v oblasti práva a regulace 2026

Éra dobrovolné etiky v oblasti AI je u konce. Celé roky fungovaly technologické giganty i startupy v prostoru, kde jedinými mantinely byly „principy“ a „pokyny“. To se změnilo s dokončením evropského aktu o umělé inteligenci (EU AI Act) a vlnou žalob ve Spojených státech. Dnes se debata přesunula od toho, co by AI mohla dokázat, k tomu, co jí zákon skutečně dovoluje. Právní týmy nyní sedí u jednoho stolu se softwarovými inženýry. Už nejde o abstraktní filozofii. Jde o hrozbu pokut, které mohou dosáhnout až sedmi procent celosvětového ročního obratu společnosti. Průmysl se připravuje na období, kdy je compliance stejně důležitá jako výpočetní výkon. Firmy jsou nyní nuceny dokumentovat svá tréninková data, prokazovat, že jejich modely nejsou zaujaté, a přijmout fakt, že některé aplikace jsou prostě nelegální. Tento přechod od bezprávného prostředí k přísně regulovanému je nejvýznamnější změnou v technologickém sektoru za poslední desetiletí.

Posun směrem k povinné compliance

Jádrem současného regulačního hnutí je přístup založený na riziku. Regulátoři se nesnaží AI zakázat. Snaží se ji kategorizovat. Podle nových pravidel jsou systémy AI rozděleny do čtyř kategorií: nepřijatelné riziko, vysoké riziko, omezené riziko a minimální riziko. Systémy využívající biometrickou identifikaci na veřejných prostranstvích nebo vládní sociální skórování jsou z velké části zakázány. To jsou nepřijatelná rizika. Vysoce rizikové systémy jsou ty, které skutečně ovlivňují váš život. Patří sem AI používaná při náborech, úvěrovém skórování, vzdělávání a vymáhání práva. Pokud firma vytvoří nástroj pro třídění životopisů, musí nyní splňovat přísné standardy transparentnosti a přesnosti. Nemohou jen tvrdit, že jejich algoritmus funguje. Musí to dokázat prostřednictvím důkladné dokumentace a auditů třetích stran. Pro firmy, které dříve své vnitřní fungování tajily, je to obrovská provozní zátěž.

Obecné modely AI, jako jsou velké jazykové modely pohánějící chatboty, mají vlastní sadu pravidel. Tyto modely musí zveřejnit, zda byl jejich obsah vygenerován AI. Musí také poskytnout shrnutí dat chráněných autorským právem, která byla použita k jejich trénování. Právě zde leží napětí. Většina AI firem považuje svá tréninková data za obchodní tajemství. Regulátoři nyní říkají, že transparentnost je podmínkou pro vstup na trh. Pokud firma nemůže nebo nechce zveřejnit své zdroje dat, může se stát, že bude z evropského trhu vyloučena. Je to přímá výzva povaze „černé skříňky“ moderního strojového učení. Vynucuje si úroveň otevřenosti, které se průmysl roky bránil. Cílem je zajistit, aby uživatelé věděli, kdy komunikují se strojem, a aby tvůrci věděli, zda byla jejich práce použita k vytvoření tohoto stroje.

Dopad těchto pravidel sahá daleko za hranice Evropy. Často se tomu říká Bruselský efekt. Protože je obtížné vytvářet různé verze softwarového produktu pro každou zemi, mnoho firem jednoduše uplatní nejpřísnější pravidla globálně. Viděli jsme to před několika lety u zákonů o ochraně osobních údajů. Nyní to vidíme u AI. Ve Spojených státech je přístup odlišný, ale stejně působivý. Místo jednoho obřího zákona využívají USA exekutivní příkazy a záplavu ostře sledovaných žalob k vytyčení hranic. Exekutivní příkaz USA z roku 2026 se zaměřil na testování bezpečnosti těch nejvýkonnějších modelů. Mezitím soudy rozhodují o tom, zda je trénování AI na knihách a novinových článcích chráněných autorským právem „fair use“, nebo „krádež“. Tyto právní bitvy určí ekonomickou budoucnost celého odvětví. Pokud budou firmy muset platit za licenci na každý kousek dat, náklady na budování AI vyletí do nebes.

Čína se také rychle pustila do regulace generativní AI. Její pravidla se zaměřují na zajištění toho, aby výstupy AI byly přesné a v souladu se společenskými hodnotami. Vyžadují, aby firmy registrovaly své algoritmy u vlády. To vytváří roztříštěné globální prostředí. Vývojář v San Franciscu se nyní musí starat o EU AI Act, americké autorské právo a čínskou registraci algoritmů. Tato roztříštěnost je pro průmysl velkým problémem. Vytváří vysokou bariéru vstupu pro menší hráče, kteří si nemohou dovolit obrovské právní oddělení. Obava spočívá v tom, že pouze největší technologické firmy budou mít zdroje na to, aby zůstaly v souladu s předpisy v každém regionu. To by mohlo vést k situaci, kdy několik gigantů ovládne celý trh, protože jsou jediní, kdo si může dovolit „daň za compliance“.

V reálném světě to vypadá jako zásadní změna ve způsobu, jakým se produkty vytvářejí. Představte si produktového manažera ve středně velkém startupu. Před rokem bylo jeho cílem vydat novou funkci AI co nejrychleji. Dnes je jeho první schůzka s compliance manažerem. Musí sledovat každý dataset, který použijí. Musí testovat svůj model na „halucinace“ a zaujatost. Musí vytvořit systém „člověk v procesu“ (human in the loop), který bude dohlížet na rozhodnutí AI. To přidává měsíce do vývojového cyklu. Pro tvůrce je dopad jiný. Nyní hledají nástroje, které prokáží, že nebyly trénovány na ukradené práci. Vidíme vzestup „licencované AI“, kde je každý obrázek a věta v tréninkové sadě řádně podchycena. Je to posun směrem k udržitelnějšímu, ale dražšímu způsobu budování technologií.

Den v životě compliance manažera nyní zahrnuje „red teaming“ sezení, kde se snaží nabourat vlastní AI. Hledají způsoby, jak by model mohl poskytnout nebezpečnou radu nebo projevit předsudky. Tato selhání a jejich opravy dokumentují. Tato dokumentace není jen pro interní potřebu. Musí být kdykoli připravena ke kontrole vládními regulátory. To má daleko k éře „move fast and break things“. Nyní, pokud věci rozbijete, můžete čelit žalobě od velké zpravodajské organizace nebo pokutě od vládní agentury. EU AI Act proměnil vývoj AI v regulovanou profesi, podobně jako bankovnictví nebo medicínu. Můžete si najít komplexní analýzu AI politiky, která podrobně popisuje, jak se tato pravidla dnes aplikují v různých sektorech. V sázce už není jen uživatelská zkušenost; jde o právní přežití.

Průmysl se také potýká s „autorskoprávní pastí“. Velcí vydavatelé, jako New York Times, zažalovali AI společnosti za používání jejich článků bez povolení. Tyto případy nejsou jen o penězích. Jsou o právu na existenci. Pokud soudy rozhodnou, že trénování AI není fair use, celý obchodní model generativní AI by se mohl zhroutit. Firmy by musely smazat své současné modely a začít znovu s licencovanými daty. Proto vidíme společnosti jako OpenAI, které podepisují dohody se zpravodajskými organizacemi. Snaží se předejít právnímu riziku. Směňují hotovost za zákonné právo používat data. To vytváří novou ekonomiku, kde jsou data nejcennější komoditou.

To však pomáhá pouze velkým vydavatelům. Malí tvůrci a nezávislí umělci si stále kladou otázku, jak budou v tomto novém systému odškodněni.

Máte příběh, nástroj, trend nebo otázku týkající se AI, o kterých si myslíte, že bychom je měli pokrýt? Pošlete nám svůj nápad na článek — rádi si ho poslechneme.

Sokratovský skepticismus naznačuje, že bychom se měli ptát, koho tato pravidla skutečně chrání. Chrání veřejnost, nebo chrání zavedené hráče? Pokud náklady na compliance dosahují milionů dolarů, dvoučlenný startup v garáži nemůže konkurovat. Možná neúmyslně vytváříme monopol pro firmy, které už peníze mají. Existuje také otázka soukromí. Aby firma dokázala, že AI není zaujatá vůči určité skupině, možná bude muset o této skupině shromáždit více dat. To vytváří paradox, kdy je k zajištění „férovosti“ vyžadován větší dohled. Musíme se také ptát na ekologické náklady. Pokud regulace vyžaduje neustálé testování a přetrénovávání modelů pro splnění nových standardů, spotřeba energie těchto datových center poroste ještě rychleji. Jsme ochotni tento kompromis přijmout?

Další obtížnou otázkou je definice „pravdy“. Regulátoři chtějí, aby AI byla „přesná“. Ale kdo rozhoduje o tom, co je přesné v politickém nebo společenském kontextu? Pokud může vláda pokutovat firmu za „nepřesnou“ odpověď AI, má v podstatě nástroj pro cenzuru. To je velká obava v zemích s ne zrovna ideální historií v oblasti lidských práv. Průmysl se obává, že se „bezpečnost“ stane kódovým slovem pro „státem schválený obsah“. Vidíme také tlak na „vodoznaky“ u obsahu generovaného AI. I když to zní dobře pro zastavení deepfakes, technicky je to obtížné implementovat. Šikovný uživatel často dokáže vodoznak odstranit. Pokud spoléháme na technologii, kterou lze snadno obejít, nevytváříme falešný pocit bezpečí? Skryté náklady těchto regulací jsou často pohřbeny v drobném písmu.

Pro pokročilé uživatele a vývojáře se geekovská stránka regulace skrývá v technických požadavcích na reportování modelů. Vidíme vzestup modelových karet (model cards), což jsou standardizované dokumenty, které uvádějí tréninková data modelu, výkonnostní benchmarky a známá omezení. Stávají se stejně běžnými jako soubory „readme“ v repozitářích GitHub. Vývojáři také musí budovat „transparentní API“, která umožňují výzkumníkům třetích stran auditovat jejich systémy, aniž by viděli základní kód. To je komplexní inženýrská výzva. Jak někomu poskytnout dostatečný přístup k ověření bezpečnosti modelu, aniž byste prozradili své duševní vlastnictví? Průmysl v současnosti debatuje o standardech pro tato API a limitech toho, co by mělo být sdíleno.

Lokální úložiště a „edge AI“ se stávají populárnějšími jako způsob, jak se vyhnout některým regulačním překážkám. Pokud zpracování AI probíhá v telefonu uživatele a ne v cloudu, je snazší dodržet přísné zákony o ochraně osobních údajů. To však omezuje výkon AI. Vývojáři nyní vyvažují potřebu masivního cloudového výpočetního výkonu s právní bezpečností lokální inference. Vidíme také implementaci „vypínačů“ (kill switches) v kódu AI. Jsou to protokoly, které mohou model vypnout, pokud začne vykazovat „emergentní chování“, které nebylo při testování předpovězeno. To už není sci-fi. Je to požadavek pro vysoce rizikové systémy. Compliance je přímo včleňována do softwarové architektury, od schématu databáze až po limity API.

Závěrem lze říci, že AI průmysl dospívá. Přechod od výzkumné kuriozity k regulované utilitě je bolestivý a drahý. Firmy, které budou právní posun ignorovat, příštích pět let nepřežijí. Těžiště se přesunulo od „můžeme to postavit“ k „měli bychom to stavět“ a „jak to zdokumentujeme“. Tato změna pravděpodobně v krátkodobém horizontu zpomalí tempo inovací, ale z dlouhodobého hlediska může vést ke stabilnějším a důvěryhodnějším technologiím. Pravidla se stále píší a žaloby se stále řeší. Jasné je, že „divoký západ“ je pryč. Budoucnost AI budou definovat právníci a zákonodárci stejně jako inženýři a datoví vědci. Průmysl se obává, ale také se přizpůsobuje nové realitě regulovaného světa.

Poznámka redakce: Tuto stránku jsme vytvořili jako vícejazyčné centrum zpráv a průvodců o umělé inteligenci pro lidi, kteří nejsou počítačoví maniaci, ale přesto chtějí porozumět umělé inteligenci, používat ji s větší jistotou a sledovat budoucnost, která již přichází.

Našli jste chybu nebo něco, co je potřeba opravit? Dejte nám vědět.