Da li su AI PC uređaji već bitni ili je to samo marketing?

Tehnološka industrija je trenutno opsednuta specifičnim prefiksom od dva slova koji se pojavljuje na svakoj novoj nalepnici laptopa i marketinškom slajdu. Proizvođači hardvera tvrde da je stigla era AI PC uređaja, obećavajući fundamentalnu promenu u načinu na koji komuniciramo sa silikonom. U svojoj osnovi, AI PC je jednostavno računar opremljen namenskom Neural Processing Unit jedinicom, ili NPU-om, dizajniranom da obradi složena matematička opterećenja koja zahtevaju modeli mašinskog učenja. Dok se vaš trenutni laptop oslanja na centralni procesor i grafičku karticu za ove zadatke, nova generacija hardvera ih prebacuje na ovaj specijalizovani motor. Ova tranzicija se manje odnosi na to da vaš računar „razmišlja“, a više na to da postane efikasniji. Prebacivanjem zadataka kao što su uklanjanje pozadinske buke ili generisanje slika sa cloud-a na vaš lokalni radni sto, ove mašine imaju za cilj da reše dvostruki problem latencije i privatnosti. Brz odgovor za većinu kupaca je da, iako je hardver spreman, softver još uvek hvata korak. Kupujete osnovu za alate koji će postati standard u narednih nekoliko godina, umesto alata koji će vam promeniti život već danas popodne.

Da bismo razumeli šta ove mašine čini drugačijim, moramo pogledati tri stuba modernog računarstva. Decenijama je CPU obrađivao logiku, a GPU vizuelne elemente. NPU je treći stub. Napravljen je da istovremeno izvodi milijarde operacija niske preciznosti, što je upravo ono što je potrebno velikom jezičkom modelu ili generatoru slika zasnovanom na difuziji. Kada od standardnog računara tražite da zamuti pozadinu tokom video poziva, CPU mora naporno da radi, što stvara toplotu i troši bateriju. NPU obavlja isti zadatak koristeći samo delić te snage. Ovo se naziva on-device inference. Umesto slanja podataka na server farmu u drugoj državi radi obrade, matematika se dešava direktno na vašoj matičnoj ploči. Ova promena smanjuje vreme povratnog putovanja podataka i osigurava da vaše osetljive informacije nikada ne napuste vašu fizičku kontrolu. To je korak dalje od potpune zavisnosti od cloud-a koja je definisala poslednju deceniju računarstva.

Marketinške oznake često zamagljuju stvarnost onoga što se dešava unutar kućišta. Kompanije kao što su Intel, AMD i Qualcomm su u trci da definišu kako izgleda standardni AI PC. Microsoft je postavio osnovu od 40 TOPS, ili Tera Operations Per Second, za svoj Copilot+ PC brend. Ovaj broj je mera koliko triliona operacija NPU može da izvede svake sekunde. Ako laptop padne ispod ovog praga, možda će i dalje pokretati AI alate, ali neće ispunjavati uslove za najnaprednije lokalne funkcije integrisane u operativni sistem. Ovo stvara jasnu podelu između nasleđenog hardvera i novog standarda. Vidimo pomak ka specijalizovanom silikonu koji daje prednost efikasnosti u odnosu na sirovu brzinu takta. Cilj je stvoriti mašinu koja može ostati responzivna čak i kada pokreće složene modele u pozadini. Ovo nije samo pitanje brzine. Radi se o stvaranju predvidljivog okruženja u kojem se softver može osloniti na namenske hardverske resurse bez nadmetanja sa vašim web browser-om ili tabelama za pažnju.

Silikonski pomak ka lokalnoj inteligenciji

Globalni uticaj ove hardverske tranzicije je ogroman, utičući na sve, od korporativnih nabavki do međunarodne potrošnje energije. Velike organizacije vide AI PC uređaje kao način da smanje svoje račune za cloud computing. Kada hiljade zaposlenih koriste AI asistente za sumiranje dokumenata ili pisanje e-mailova, trošak API poziva ka eksternim provajderima brzo raste. Prebacivanjem tog opterećenja na lokalni NPU, kompanija može značajno smanjiti svoje operativne troškove. Takođe postoji važna bezbednosna komponenta ove promene. Vlade i finansijske institucije često oklevaju da koriste AI zasnovan na cloud-u zbog rizika od curenja podataka. Lokalna inferencija pruža put napred koji čuva vlasničke podatke unutar korporativnog firewall-a. Ovo podstiče masovni ciklus osvežavanja na enterprise tržištu dok se IT odeljenja pripremaju za budućnost u kojoj je AI integracija obavezna za softver za produktivnost. Ovo je globalno retooling digitalnog radnog prostora.

Pored korporativne kancelarije, prelazak na lokalni AI ima implikacije na globalnu povezanost i digitalnu jednakost. U regionima sa nestabilnim internet vezama, AI zasnovan na cloud-u je često neupotrebljiv. Laptop koji može da obavlja prevođenje ili prepoznavanje slika bez veze velike brzine postaje mnogo moćniji alat na tržištima u razvoju. Vidimo decentralizaciju inteligencije. Umesto nekoliko ogromnih data centara koji opslužuju ceo svet, krećemo se ka modelu gde svaki uređaj ima osnovni nivo kognitivnih sposobnosti. Ovo smanjuje opterećenje na globalne data mreže i čini naprednu tehnologiju otpornijom.

Međutim, ovo takođe stvara novi digitalni jaz. Oni koji mogu priuštiti najnoviji hardver opremljen NPU-om imaće pristup alatima koje drugi nemaju. Globalni lanac snabdevanja se već okreće kako bi zadovoljio ovu potražnju, pri čemu proizvođači čipova daju prioritet razvoju NPU-a u odnosu na tradicionalna povećanja CPU performansi. Ovo je najznačajnija promena u PC arhitekturi od uvođenja integrisanog grafičkog procesora.

Kako ovo izgleda u praksi? Zamislite tipičan radni dan marketing menadžerke po imenu Sarah. Jutro počinje uključivanjem u video konferenciju. U prošlosti, ventilatori njenog laptopa bi se glasno okretali dok se sistem borio da upravlja video feed-om i zamućenjem pozadine. Danas, njen NPU tiho rukuje video efektima, ostavljajući CPU slobodnim da upravlja otvorenim tabovima i softverom za prezentacije. Tokom sastanka, lokalni model sluša audio i generiše transkript u realnom vremenu. Pošto se ovo dešava lokalno, ona ne brine o privatnosti poverljive strategije o kojoj se raspravlja. Nakon sastanka, treba da pronađe određenu fotografiju iz kampanje od pre dve godine. Umesto skrolovanja kroz hiljade fajlova, ona kuca opis prirodnim jezikom u svoj file explorer. Lokalni AI, koji je indeksirao njene slike koristeći on-device vision modele, pronalazi tačan fajl za nekoliko sekundi. Ovo je nivo integracije koji deluje nevidljivo, ali štedi minute trenja tokom dana.

Kasnije popodne, Sarah treba da ukloni ometajući objekat sa fotografije proizvoda. Umesto otvaranja teškog cloud editora, ona koristi lokalni alat koji koristi NPU da trenutno popuni piksele. Kada treba da napiše kratak izveštaj, njen lokalni asistent sugeriše poboljšanja na osnovu njenog prethodnog stila pisanja, sve bez slanja njenih nacrta na centralni server. Ovo je obećanje AI PC uređaja. Ne radi se o jednoj spektakularnoj funkciji koja menja sve. Radi se o stotinu malih poboljšanja koja uklanjaju kašnjenje između misli i izvršenja. Do kraja dana, njena baterija je i dalje na pedeset posto jer je specijalizovani NPU mnogo efikasniji od procesora opšte namene iz prošlosti. Mašina više deluje kao partner koji razume kontekst njenog rada, a ne samo kao glupi terminal za cloud usluge. Ovo je primena u stvarnom svetu koja prevazilazi marketinški hype.

Međutim, moramo primeniti određeni skepticizam prema ovim sjajnim novim obećanjima. Prvo pitanje koje treba da postavimo je ko zaista ima koristi od ovog hardvera. Da li je NPU tu da služi korisniku, ili je tu da pomogne dobavljačima softvera da prikupe više telemetrijskih podataka pod maskom lokalne obrade? Iako je lokalna inferencija privatnija od cloud inferencije, operativni sistem i dalje vodi evidenciju o tome šta AI radi. Takođe moramo uzeti u obzir skrivene troškove ovih mašina. AI PC zahteva više RAM-a i brže skladištenje kako bi modeli ostali učitani i responzivni. Ovo podiže ulaznu cenu za potrošače. Da li smo primorani na skup ciklus nadogradnje za funkcije koje su mogle biti optimizovane za postojeći hardver? Tu je i pitanje dugovečnosti. AI modeli se razvijaju tempom koji daleko prevazilazi hardverske cikluse. Laptop kupljen danas sa 40 TOPS-a bi mogao biti zastareo za dve godine ako sledeća generacija modela zahteva 100 TOPS-a. Ulazimo u period brze amortizacije hardvera koji bi mogao biti frustrirajući za kupce.

Takođe moramo pogledati uticaj na životnu sredinu. Iako je on-device AI efikasniji od cloud AI-a za pojedinačnog korisnika, proizvodnja ovih specijalizovanih čipova zahteva retke materijale i procese koji intenzivno troše energiju. Ako industrija bude forsirala globalno osvežavanje milijardi PC uređaja, e-otpad i karbonski otisak će biti značajni. Tu je i pitanje prirode „crne kutije“ ovih modela. Čak i ako je obrada lokalna, mnogi modeli su vlasnički. Korisnici možda ne znaju kako AI donosi odluke ili koje su predrasude ugrađene u lokalne težine. Menjamo transparentnost jednostavnog softvera za složenost neuronskih mreža. Da li je pogodnost brže pretrage ili boljeg video poziva vredna gubitka predvidljivosti naših alata? Ovo su teška pitanja na koja marketinška odeljenja Intela i Microsofta nisu željna da odgovore. Moramo balansirati uzbuđenje zbog novih mogućnosti sa jasnim sagledavanjem kompromisa uključenih u ovu tranziciju.

Имате причу о вештачкој интелигенцији, алат, тренд или питање које мислите да бисмо требали да покријемо? Пошаљите нам своју идеју за чланак — волели бисмо да је чујемо.

Za napredne korisnike i geek-ove, stvarnost AI PC-a živi u tehničkim specifikacijama i ekosistemima programera. Trenutni standard je izgrađen oko ONNX Runtime i DirectML, koji omogućavaju programerima da ciljaju NPU kod različitih prodavaca hardvera. Međutim, i dalje vidimo mnogo fragmentacije. Alat optimizovan za Qualcomm Snapdragon X Elite možda neće raditi na isti način na Intel Core Ultra ili AMD Ryzen AI čipu. Ovo stvara glavobolju za programere koji žele da integrišu lokalni AI u svoje radne tokove. API ograničenja su takođe problem. Iako hardver možda može da postigne 40 TOPS-a, operativni sistem često ograničava ovu snagu da bi upravljao toplotom i trajanjem baterije. Za one koji žele da pokreću sopstvene modele, kao što su Llama 3 ili Mistral, usko grlo je često unifikovana memorija. Lokalni LLM-ovi su neverovatno gladni za propusnim opsegom memorije. Ako želite da pokrenete model sa 7 milijardi parametara glatko, zaista vam je potrebno 32GB RAM-a ili više, bez obzira na to koliko TOPS-a vaš NPU tvrdi da ima.

Lokalno skladištenje je još jedan kritičan faktor za naprednog korisnika. Visokokvalitetni AI modeli mogu zauzeti gigabajte prostora. Ako pokrećete više modela za generisanje slika, obradu teksta i prepoznavanje glasa, vaš SSD će se brzo napuniti. Takođe vidimo ograničenja trenutnih NPU arhitektura kada je u pitanju obuka. Ovi čipovi su dizajnirani za inferenciju, a ne za fino podešavanje ili obuku vaših sopstvenih modela. Ako ste programer koji želi da izgradi sopstveni AI, i dalje vam je potreban moćan NVIDIA GPU sa CUDA podrškom. NPU je alat okrenut potrošačima, a ne zamena za radnu stanicu. Takođe smo u ranim danima stabilnosti drajvera. Mnogi korisnici prijavljuju da funkcije ubrzane NPU-om mogu biti bagovite ili uzrokovati nestabilnost sistema. Ovo su porođajne muke nove kategorije hardvera. Detaljnije tehničke analize možete pronaći na The Verge ili proveriti najnovije benchmark testove na AnandTech za dublji uvid u performanse specifičnih čipova. Takođe možete pratiti najnovija ažuriranja na zvaničnom blogu za programere kompanije Microsoft u vezi sa integracijom AI-a u Windows 11.

Zaključak je da je AI PC stvarna tehnološka promena, ali se trenutno nalazi u svojoj nezgodnoj tinejdžerskoj fazi. Hardver je impresivan, a dobici u efikasnosti su opipljivi, ali „must-have“ softverska aplikacija tek treba da stigne. Za većinu ljudi, najbolji razlog za kupovinu AI PC-a danas je da zaštitite svoju investiciju za budućnost. Kako sve više programera softvera počne da koristi NPU, jaz između starog i novog hardvera će se povećavati. Ako ste kreativni profesionalac ili neko ko provodi sate na video sastancima, prednosti su već vidljive. Za sve ostale, ovo je igra čekanja. Kupujete viziju računarstva koja je lokalnija, privatnija i efikasnija. Samo budite svesni da ste rani korisnik u eksperimentu koji se brzo kreće. Da biste ostali u toku sa tim kako se ovi alati razvijaju, pogledajte ovaj vodič o najnovijim trendovima u lokalnoj veštačkoj inteligenciji i kako oni utiču na vaš svakodnevni radni tok. Era NPU-a je počela, ali priča je daleko od kraja.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.

Пронашли сте грешку или нешто што треба исправити? Јавите нам.