Šta najviše brine AI industriju u pogledu zakona i regulative

Era dobrovoljne AI etike je završena. Godinama su tehnološki giganti i startupi poslovali u prostoru gde su „principi“ i „smernice“ bili jedine kočnice. To se promenilo finalizacijom EU AI Act-a i talasom tužbi u Sjedinjenim Američkim Državama. Danas se razgovor pomerio sa onoga šta AI može da uradi na ono šta joj je zakonski dozvoljeno. Pravni timovi sada sede u istim prostorijama sa softverskim inženjerima. Više nije reč o apstraktnoj filozofiji, već o pretnji kaznama koje mogu dostići sedam procenata globalnog godišnjeg prometa kompanije. Industrija se priprema za period u kojem je usklađenost sa propisima jednako važna kao i računarska snaga. Kompanije su sada prinuđene da dokumentuju svoje podatke za obuku, dokažu da njihovi modeli nisu pristrasni i prihvate da su neke aplikacije jednostavno nezakonite. Ovaj prelazak iz bezakonja u strogo regulisano okruženje je najznačajnija promena u tehnološkom sektoru u poslednjih nekoliko decenija.

Prelazak ka obaveznoj usklađenosti

Srž trenutnog regulatornog pokreta je pristup zasnovan na riziku. Regulatori ne pokušavaju da zabrane AI, već da je kategorizuju. Prema novim pravilima, AI sistemi su raspoređeni u četiri kategorije: neprihvatljiv rizik, visok rizik, ograničen rizik i minimalan rizik. Sistemi koji koriste biometrijsku identifikaciju na javnim mestima ili socijalno bodovanje od strane vlada su uglavnom zabranjeni. To su neprihvatljivi rizici. Sistemi visokog rizika su oni koji direktno utiču na vaš život. To uključuje AI koji se koristi pri zapošljavanju, kreditnom bodovanju, obrazovanju i sprovođenju zakona. Ako kompanija napravi alat za proveru radnih biografija, sada mora da ispuni stroge standarde transparentnosti i tačnosti. Ne mogu samo da tvrde da njihov algoritam radi; moraju to da dokažu kroz rigoroznu dokumentaciju i revizije trećih strana. Ovo predstavlja ogroman operativni teret za kompanije koje su ranije svoje interne procese držale u tajnosti.

AI modeli opšte namene, poput velikih jezičkih modela koji pokreću chatbotove, imaju sopstveni set pravila. Ovi modeli moraju da obelodane ako je njihov sadržaj generisan veštačkom inteligencijom. Takođe moraju da pruže sažetke podataka zaštićenih autorskim pravima koji su korišćeni za njihovu obuku. Tu leži tenzija. Većina AI kompanija smatra svoje podatke za obuku poslovnom tajnom. Regulatori sada kažu da je transparentnost uslov za ulazak na tržište. Ako kompanija ne može ili neće da otkrije izvore svojih podataka, mogla bi biti blokirana na evropskom tržištu. Ovo je direktan izazov prirodi „crne kutije“ modernog mašinskog učenja. To primorava na nivo otvorenosti kojem se industrija godinama opirala. Cilj je osigurati da korisnici znaju kada komuniciraju sa mašinom i da kreatori znaju da li je njihov rad korišćen za izgradnju te mašine.

Uticaj ovih pravila se proteže daleko izvan Evrope. Ovo se često naziva Briselski efekat. Pošto je teško graditi različite verzije softverskog proizvoda za svaku zemlju, mnoge kompanije će jednostavno primeniti najstroža pravila globalno. To smo videli sa zakonima o privatnosti podataka pre nekoliko godina. Sada to vidimo sa AI. U Sjedinjenim Američkim Državama pristup je drugačiji, ali jednako uticajan. Umesto jednog gigantskog zakona, SAD koriste izvršne naredbe i niz visokoprofilnih tužbi za postavljanje granica. Izvršna naredba SAD iz 2027 fokusirala se na testiranje bezbednosti najmoćnijih modela. U međuvremenu, sudovi odlučuju da li je obuka AI na knjigama i novinskim člancima zaštićenim autorskim pravima „poštena upotreba“ ili „krađa“. Ove pravne bitke će definisati ekonomsku budućnost industrije. Ako kompanije moraju da plaćaju licencu za svaki podatak, troškovi izgradnje AI će drastično porasti.

Kina se takođe brzo kretala u regulisanju generativne AI. Njihova pravila se fokusiraju na osiguravanje da su rezultati AI tačni i u skladu sa društvenim vrednostima. Zahtevaju od kompanija da registruju svoje algoritme kod vlade. Ovo stvara fragmentisano globalno okruženje. Programer u San Francisku sada mora da brine o EU AI Act-u, američkom zakonu o autorskim pravima i kineskoj registraciji algoritama. Ova fragmentacija je velika briga za industriju. Ona stvara visoku barijeru za ulazak manjih igrača koji ne mogu sebi da priušte masivan pravni odsek. Strah je da će samo najveće tehnološke kompanije imati resurse da ostanu usklađene u svakom regionu. To bi moglo dovesti do situacije u kojoj nekoliko giganta kontroliše celo tržište jer su jedini koji mogu da priušte „porez na usklađenost“.

U stvarnom svetu, ovo izgleda kao fundamentalna promena u načinu na koji se proizvodi grade. Zamislite menadžera proizvoda u startupu srednje veličine. Pre godinu dana, njihov cilj je bio da što brže izbace novu AI funkciju. Danas je njihov prvi sastanak sa službenikom za usklađenost. Moraju da prate svaki skup podataka koji koriste. Moraju da testiraju svoj model na „halucinacije“ i pristrasnost. Moraju da kreiraju sistem „čovek u petlji“ za nadgledanje odluka AI. Ovo dodaje mesece razvojnom ciklusu. Za kreatora, uticaj je drugačiji. Oni sada traže alate koji mogu da dokažu da nisu obučeni na ukradenom radu. Vidimo uspon „licencirane AI“ gde se vodi računa o svakoj slici i rečenici u skupu za obuku. Ovo je korak ka održivijem, ali skupljem načinu izgradnje tehnologije.

Svakodnevica službenika za usklađenost sada uključuje sesije „red teaming-a“ gde pokušavaju da „razbiju“ sopstvenu AI. Traže načine na koje bi model mogao da pruži opasne savete ili pokaže predrasude. Dokumentuju te propuste i popravke. Ova dokumentacija nije samo za internu upotrebu. Mora biti spremna za inspekciju vladinih regulatora u svakom trenutku. Ovo je daleko od ere „kreći se brzo i ruši stvari“. Sada, ako nešto srušite, mogli biste se suočiti sa tužbom velike novinske organizacije ili kaznom vladine agencije. EU AI Act je pretvorio razvoj AI u regulisanu profesiju, sličnu bankarstvu ili medicini. Možete pronaći sveobuhvatnu analizu AI politike koja detaljno opisuje kako se ova pravila danas primenjuju na različite sektore. Ulozi više nisu samo korisničko iskustvo; reč je o pravnom opstanku.

Industrija se takođe bori sa „zamkom autorskih prava“. Veliki izdavači poput New York Times-a tužili su AI kompanije zbog korišćenja njihovih članaka bez dozvole. Ovi slučajevi nisu samo zbog novca. Reč je o pravu na postojanje. Ako sudovi presude da obuka AI nije poštena upotreba, ceo poslovni model generativne AI bi mogao da se uruši. Kompanije bi morale da izbrišu svoje trenutne modele i počnu ispočetka sa licenciranim podacima. Zato vidimo kompanije poput OpenAI-a kako potpisuju ugovore sa novinskim organizacijama. Pokušavaju da preduprede pravni rizik. Menjaju novac za pravno pravo korišćenja podataka. Ovo stvara novu ekonomiju u kojoj su podaci najvrednija roba.

Međutim, ovo pomaže samo velikim izdavačima. Mali kreatori i nezavisni umetnici se i dalje pitaju kako će biti kompenzovani u ovom novom sistemu.

Имате причу о вештачкој интелигенцији, алат, тренд или питање које мислите да бисмо требали да покријемо? Пошаљите нам своју идеју за чланак — волели бисмо да је чујемо.

Sokratovski skepticizam sugeriše da treba da se zapitamo koga ova pravila zapravo štite. Da li štite javnost ili štite postojeće lidere? Ako trošak usklađenosti iznosi milione dolara, startup od dvoje ljudi u garaži ne može da se takmiči. Možda slučajno stvaramo monopol za kompanije koje već imaju novac. Tu je i pitanje privatnosti. Da bi dokazala da AI nije pristrasna prema određenoj grupi, kompanija možda mora da prikupi više podataka o toj grupi. Ovo stvara paradoks gde je potreban veći nadzor da bi se osigurala „pravičnost“. Takođe se moramo zapitati o ekološkoj ceni. Ako regulativa zahteva stalno testiranje i ponovnu obuku modela radi ispunjavanja novih standarda, potrošnja energije u ovim centrima podataka će rasti još brže. Da li smo spremni da prihvatimo taj kompromis?

Još jedno teško pitanje je definicija „istine“. Regulatori žele da AI bude „tačna“. Ali ko odlučuje šta je tačno u političkom ili društvenom kontekstu? Ako vlada može da kazni kompaniju za „netačan“ AI odgovor, ta vlada u suštini ima alat za cenzuru. Ovo je velika briga u zemljama sa manje nego savršenim rezultatima u oblasti ljudskih prava. Industrija brine da će „bezbednost“ postati šifrovana reč za „sadržaj odobren od strane države“. Takođe vidimo pritisak za „vodeno žigosanje“ AI sadržaja. Iako ovo zvuči dobro za zaustavljanje deepfake-ova, tehnički je teško sprovesti. Vešt korisnik često može da ukloni vodeni žig. Ako se oslanjamo na tehnologiju koja se lako može zaobići, da li stvaramo lažni osećaj sigurnosti? Skriveni troškovi ovih propisa su često zakopani u sitnim slovima.

Za napredne korisnike i programere, štreberska strana regulative nalazi se u tehničkim zahtevima za izveštavanje o modelima. Vidimo uspon model kartica, koje su standardizovani dokumenti koji navode podatke za obuku modela, merila performansi i poznata ograničenja. Oni postaju uobičajeni kao „readme“ fajlovi u GitHub repozitorijumima. Programeri takođe moraju da grade „API-je za transparentnost“ koji omogućavaju istraživačima trećih strana da revidiraju njihove sisteme bez uvida u osnovni kod. Ovo je složen inženjerski izazov. Kako nekome dati dovoljno pristupa da verifikuje bezbednost vašeg modela, a da ne odate svoju intelektualnu svojinu? Industrija trenutno raspravlja o standardima za ove API-je i granicama onoga što treba deliti.

Lokalno skladištenje i „edge AI“ postaju popularniji kao način da se izbegnu neke regulatorne prepreke. Ako se AI obrada dešava na telefonu korisnika, a ne u cloud-u, lakše je uskladiti se sa strogim zakonima o privatnosti podataka. Međutim, ovo ograničava snagu AI. Programeri sada balansiraju između potrebe za masivnom cloud računarskom snagom i pravne sigurnosti lokalnog zaključivanja. Takođe vidimo implementaciju „prekidača za isključivanje“ u AI kodu. To su protokoli koji mogu da isključe model ako počne da pokazuje „emergentna ponašanja“ koja nisu predviđena tokom testiranja. Ovo više nije naučna fantastika. To je zahtev za sisteme visokog rizika. Usklađenost se direktno ugrađuje u softversku arhitekturu, od šeme baze podataka do ograničenja brzine API-ja.

Zaključak je da AI industrija sazreva. Prelazak iz istraživačke radoznalosti u regulisanu komunalnu uslugu je bolan i skup. Kompanije koje ignorišu pravnu promenu neće preživeti narednih pet godina. Fokus se pomerio sa „možemo li to da izgradimo“ na „treba li to da izgradimo“ i „kako to da dokumentujemo“. Ova promena će verovatno usporiti tempo inovacija kratkoročno, ali može dovesti do stabilnije i pouzdanije tehnologije dugoročno. Pravila se još uvek pišu, a tužbe se još u divljem zapadu rešavaju. Jasno je da je „divlji zapad“ nestao. Budućnost AI će definisati advokati i zakonodavci isto koliko i inženjeri i naučnici za podatke. Industrija je zabrinuta, ali se takođe prilagođava novoj realnosti regulisanog sveta.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.

Пронашли сте грешку или нешто што треба исправити? Јавите нам.