AI PC objašnjeno: Šta zapravo rade ovi uređaji [2024]

Silikonska realnost iza marketinške buke

Tehnološka industrija se kreće u ciklusima hardverskih definicija. Videli smo eru multimedijalnih PC-jeva i eru ultrabook-ova. Sada svaki veliki proizvođač priča o AI PC-ju. U svojoj srži, AI PC je jednostavno računar opremljen namenskim delom silicijuma koji se zove Neural Processing Unit (NPU). Ovaj čip je dizajniran posebno za obavljanje složenih matematičkih proračuna potrebnih za zadatke mašinskog učenja. Iako vaš trenutni računar verovatno može da pokrene osnovne programe veštačke inteligencije koristeći centralni procesor ili grafičku karticu, on to čini uz značajno zagrevanje i brže trošenje baterije. AI PC menja ovo prebacivanjem tih radnih opterećenja na specijalizovani motor koji je mnogo efikasniji. To znači da vaš laptop može da obavlja napredne zadatke poput prevođenja jezika u realnom vremenu ili složene obrade slika bez uključivanja ventilatora ili pražnjenja baterije za sat vremena.

Neposredna korist za prosečnog korisnika nije računar koji razmišlja sam za sebe. Umesto toga, to je mašina koja inteligentnije upravlja pozadinskim zadacima. Ovo ćete videti u boljem kvalitetu video poziva, gde hardver uklanja pozadinsku buku i drži vas u centru kadra bez usporavanja vaših drugih aplikacija. Radi se o prebacivanju teškog rada veštačke inteligencije iz ogromnih data centara u cloud-u direktno na uređaj u vašem krilu. Ova promena obećava brže vreme odziva i bolju sigurnost, jer vaši podaci nikada ne moraju da napuste vaš hard disk da bi bili obrađeni. To je fundamentalna promena u načinu na koji softver komunicira sa hardverom. Prvi put u deceniji, fizičke komponente naših računara se redizajniraju kako bi zadovoljile specifične potrebe generativnog softvera i lokalnih modela zaključivanja.

Motor ispod haube

Da biste razumeli šta ove mašine čini drugačijim, morate pogledati tri stuba modernog računarstva. CPU je generalista koji upravlja operativnim sistemom i osnovnim instrukcijama. GPU je specijalista koji upravlja pikselima i složenom grafikom. NPU je novi dodatak koji se ističe u paralelnoj obradi sa malom potrošnjom energije. Ovaj treći čip je optimizovan za specifičnu vrstu matematike koju koriste neuronske mreže, a koja uključuje milijarde jednostavnih množenja i sabiranja. Prebacivanjem ovih zadataka na NPU, ostatak sistema ostaje hladan i brz. Ovo nije samo manja nadogradnja. To je strukturna promena u načinu na koji je silicijum raspoređen. Intel, Qualcomm i AMD se takmiče ko može da upakuje najefikasniji NPU u svoje najnovije mobilne procesore.

Većina ljudi precenjuje šta će ovaj hardver raditi prvog dana. Očekuju digitalnog asistenta koji upravlja celim njihovim životom. U stvarnosti, trenutna korist je suptilnija. Softverski developeri tek počinju da pišu aplikacije koje mogu da komuniciraju sa ovim novim čipovima. Trenutno se NPU uglavnom koristi za „Windows Studio Effects“ ili specijalizovane funkcije u kreativnim paketima kao što je Adobe Premiere. Prava vrednost leži u lokalnom zaključivanju (on-device inference). To znači pokretanje velikog jezičkog modela lokalno. Umesto slanja privatnog dokumenta na server radi sumiranja, to možete učiniti na svojoj mašini. Ovo eliminiše kašnjenje čekanja na odgovor servera i osigurava da vaše osetljive informacije ostanu privatne. Kako više developera usvaja ove standarde, lista podržanih funkcija će rasti od jednostavnog zamućivanja pozadine do složene lokalne automatizacije i generativnih alata koji rade bez internet konekcije.

Marketinške oznake mogu biti zbunjujuće. Možda ćete videti termine kao što su Copilot Plus ili AI-native hardver. Ovo su uglavnom brending vežbe koje vam govore da mašina ispunjava određeni prag procesorske snage. Na primer, Microsoft zahteva određenu količinu NPU performansi pre nego što laptop može da nosi njihov premijum AI brending. Ovo osigurava da mašina može da podnese nadolazeće funkcije Windows operativnog sistema koje se oslanjaju na stalnu pozadinsku obradu. Ako danas kupujete računar, u suštini kupujete budućnost u kojoj je softver izgrađen oko ovih lokalnih mogućnosti. To je razlika između mašine koja jedva pokreće najnoviji softver i one koja je napravljena da napreduje u svetu lokalnog mašinskog učenja.

Promena u globalnoj računarskoj snazi

Pritisak za lokalnu veštačku inteligenciju ima ogromne implikacije na globalnu tehnološku ekonomiju. Poslednjih nekoliko godina bili smo u velikoj meri zavisni od cloud provajdera. Ovo stvara usko grlo gde samo ljudi sa brzim i pouzdanim internetom mogu koristiti najmoćnije alate. Prebacivanjem ove snage na sam uređaj, proizvođači demokratizuju pristup vrhunskom računarstvu. Istraživač u udaljenom području ili putnik na dugom letu sada može pristupiti istom nivou pomoći koji je ranije bio zaključan iza veze velike brzine. Ovo smanjuje digitalni jaz između dobro povezanih urbanih centara i ostatka sveta. Takođe smanjuje ogromne energetske troškove povezane sa radom gigantskih server farmi za svaki jednostavan upit.

Privatnost je drugi globalni pokretač. Različiti regioni imaju različite zakone o tome gde se podaci mogu čuvati i obrađivati. Evropska unija ima stroga pravila koja se često sukobljavaju sa načinom na koji posluju američke cloud kompanije. AI PC rešava mnoge od ovih pravnih glavobolja zadržavanjem podataka unutar granica korisnikovog uređaja. Ovo čini ove mašine posebno privlačnim vladinim agencijama i zdravstvenim ustanovama koje rukuju osetljivim zapisima. Oni mogu koristiti moderne alate bez brige o curenju podataka ili problemima sa međunarodnom usklađenošću. Ovaj pomak ka lokalnoj obradi je direktan odgovor na rastuću globalnu potražnju za suverenitetom podataka i pravima na individualnu privatnost.

Takođe vidimo promenu u načinu na koji se hardver proizvodi i prodaje širom sveta. Trka za izgradnju najboljeg NPU-a dovela je nove igrače na tržište laptopova. Qualcomm je sada glavni konkurent Intelu i AMD-u koristeći arhitekturu fokusiranu na mobilne uređaje koja se ističe u AI zadacima. Ova konkurencija je dobra za potrošače jer snižava cene i podstiče brže inovacije. Svaki veliki region, od Azije do Severne Amerike, trenutno se utrkuje da osigura lance snabdevanja za ove specijalizovane čipove. AI PC nije samo proizvod. To je centralni deo nove globalne strategije da računarstvo postane otpornije i manje zavisno od centralizovanih struktura moći. Ova tranzicija će verovatno definisati narednu deceniju industrije elektronike jer će svaki uređaj, od telefona do servera, usvojiti sličan specijalizovani silicijum.

Život sa lokalnom inteligencijom

Zamislite tipičan radni dan sa mašinom koja sama upravlja svojim zaključivanjem. Jutro započinjete otvaranjem desetak neurednih e-mailova. Umesto da čitate svaki, tražite od lokalnog sistema da sumira ključne stavke. Ovo se dešava trenutno jer je model već učitan u sistemsku memoriju. Tokom video konferencije, NPU naporno radi da vaše oči ostanu usmerene ka kameri čak i kada gledate u svoje beleške. Filtrira zvuk psa koji laje u pozadini i prevodi kolegu koji govori drugim jezikom u realnom vremenu. Sve se to dešava bez pregrevanja laptopa ili buke ventilatora koja nadjačava vaš glas. Ovo je praktična strana tehnologije koja se često izgubi u hajp-u.

Popodne ćete možda morati da uredite fotografiju za prezentaciju. U prošlosti biste morali ručno da birate objekte ili koristite cloud alat kojem treba vremena za obradu. Sa AI PC-jem, jednostavno možete ukucati komandu da uklonite pozadinu ili promenite osvetljenje. Lokalni hardver obavlja tešku matematiku i promene se pojavljuju dok kucate. Kasnije radite na osetljivom finansijskom izveštaju. Koristite lokalnog asistenta da proverite greške i predložite bolje fraziranje. Pošto je obrada lokalna, ne morate da brinete da li će se tajni podaci vaše kompanije koristiti za obuku javnog modela. Mašina se oseća kao privatni produžetak vašeg mozga, a ne kao portal ka dalekom serveru. Ovaj nivo integracije menja ritam rada uklanjanjem malih trenja koja nas obično usporavaju.

Dan se završava laganim kreativnim radom. Želite da generišete koncept art za lični projekat. Otvarate lokalni generator slika i proizvodite nekoliko visokokvalitetnih nacrta za nekoliko sekundi. Nema pretplate i nema čekanja u redu iza drugih korisnika. Performanse su konzistentne bez obzira na brzinu interneta. Ovo je uticaj modernih hardverskih mogućnosti na dohvat ruke u stvarnom svetu. Ne radi se o jednoj velikoj funkciji, već o stotinu malih poboljšanja koja čine da se računar oseća sposobnijim. Mašina više nije samo pasivan alat. Ona postaje aktivan partner koji predviđa šta vam treba i obavlja dosadne delove digitalnog života. Evo nekoliko uobičajenih načina na koje se ove mašine danas koriste:

• Pokretanje lokalnih jezičkih modela za privatnu analizu i pisanje dokumenata.
• Poboljšanje video i audio strimova uz pozadinsku obradu sa malom potrošnjom energije.
• Automatizacija ponavljajućih zadataka uređivanja fotografija i videa kroz specijalizovane dodatke.
• Pružanje funkcija pristupačnosti u realnom vremenu, kao što su titlovi uživo i praćenje očiju.

Do trenutka kada zatvorite laptop uveče, i dalje imate puno baterije. Ovo je možda najpotcenjeniji deo iskustva. Pošto je NPU toliko efikasan, trajanje baterije na ovim novim mašinama često premašuje ono što smo mislili da je moguće za moćne laptopove. Ne dobijate samo više inteligencije. Dobijate više mobilnosti. Sposobnost da obavljate vrhunski posao u kafiću ili vozu bez traženja utičnice je ogromno poboljšanje kvaliteta života. To menja način na koji razmišljamo o tome gde i kada možemo biti produktivni. AI PC je u suštini prvi laptop koji vas ne tera da birate između snage i prenosivosti. Pruža balansirano iskustvo koje se uklapa u moderan mobilni stil života bez uobičajenih kompromisa.

Teška pitanja za AI eru

Iako je hardver impresivan, moramo se zapitati koji su skriveni troškovi. Da li je pritisak za AI PC-jeve samo način da proizvođači nametnu novi ciklus nadogradnje? Većina funkcija koje se danas reklamiraju tehnički bi mogle raditi na starijem hardveru da je softver drugačije optimizovan. Moramo se zapitati da li stvaramo planinu e-otpada ubeđujući ljude da su njihovi laptopovi stari dve godine odjednom zastareli. Tu je i pitanje telemetrije i prikupljanja podataka. Čak i ako je obrada lokalna, koliko metapodataka ove kompanije prikupljaju o tome kako koristimo ove alate? Mašina koja vas stalno posmatra i sluša da bi vam pomogla je takođe mašina koja stalno prikuplja informacije o vašim navikama.

Još jedna briga je „AI porez“ na cene hardvera. Ovi novi čipovi i dodatna memorija potrebna za efikasno pokretanje lokalnih modela čine laptopove skupljim. Da li su prednosti vredne dodatnih stotina dolara za prosečnog studenta ili kancelarijskog radnika? Takođe moramo uzeti u obzir uticaj proizvodnje ovih složenih čipova na životnu sredinu. Energija ušteđena tokom upotrebe može biti nadoknađena ugljeničnim otiskom procesa proizvodnje. Štaviše, trebalo bi da budemo skeptični prema softverskom zaključavanju koje dolazi sa ovim mašinama. Ako određena funkcija radi samo na jednoj marki procesora, krećemo se ka fragmentiranom ekosistemu gde vaš izbor hardvera diktira koji softver možete koristiti. Ovo bi moglo ograničiti izbor potrošača i ugušiti otvorenu prirodu ličnog računarstva u kojoj uživamo decenijama.

Arhitektura lokalnog zaključivanja

Za one koji žele da razumeju tehničku stranu, najvažnija metrika je TOPS. To je skraćenica za Trillions of Operations Per Second (bilioni operacija u sekundi). Dok standardni CPU može da obradi nekoliko TOPS-a, očekuje se da moderan NPU isporuči 40 ili više. Ova sirova snaga je beskorisna bez pravih softverskih slojeva. Developeri koriste okvire kao što su OpenVINO ili Windows ML za komunikaciju sa hardverom. Ovi API-ji deluju kao most, omogućavajući jednoj aplikaciji da radi na različitim vrstama silicijuma. Izazov je trenutno memorijski propusni opseg. Pokretanje velikog modela zahteva brzo premeštanje puno podataka između skladišta i procesora. Zato mnogi AI PC-jevi dolaze sa bržim i većim količinama RAM-a kao standardom. Više detalja o ovim zahtevima možete pronaći u Intel tehničkom centru ili pregledom Microsoft hardverskih standarda za nove uređaje.

Lokalno skladištenje takođe igra ključnu ulogu. Veliki jezički modeli mogu zauzeti nekoliko gigabajta prostora. Da bi sistem ostao brz, proizvođači koriste NVMe diskove velike brzine koji mogu da šalju podatke NPU-u bez uskih grla. Tu je i problem termalnog prigušivanja. Iako je NPU efikasan, on i dalje generiše toplotu kada se gurne do svojih granica. Inženjeri dizajniraju nova rešenja za hlađenje koja daju prioritet području oko NPU-a kako bi osigurali konzistentne performanse tokom dugih zadataka. Ako ste napredni korisnik, trebalo bi da tražite mašine koje nude najmanje 16GB objedinjene memorije i procesor koji ispunjava najnovije industrijske standarde. Možete proveriti najnovije podatke o performansama iz Qualcomm-ovih izveštaja o arhitekturi da vidite kako se različiti čipovi porede u testiranju u stvarnom svetu. Tehnički zahtevi za AI PC su trenutno sledeći:

• Namenski NPU sposoban za najmanje 40 TOPS za napredne funkcije.
• Minimum 16GB RAM-a velike brzine za podršku učitavanju lokalnih modela.
• Firmver za napredno upravljanje napajanjem za balansiranje NPU i CPU opterećenja.
• Podrška operativnog sistema za okvire neuronske obrade i API-je.

Integracija radnog procesa je poslednji deo slagalice. Nije dovoljno imati hardver. Softver mora znati kako da ga koristi. Vidimo pomak ka „hibridnoj AI“ gde sistem odlučuje da li će zadatak obraditi lokalno ili u cloud-u na osnovu složenosti i dostupne snage. Ovo zahteva sofisticirani sloj orkestracije u operativnom sistemu. Za developere to znači učenje novih načina optimizacije koda za paralelnu obradu. Tranzicija je slična onoj kada smo prešli sa procesora sa jednim jezgrom na više jezgara. Potrebno je vreme da softverski ekosistem sustigne hardverski potencijal. Međutim, kada se postavi temelj, videćemo novu klasu aplikacija koje su ranije bile nemoguće na mobilnom uređaju.

Praktična presuda

AI PC je značajna evolucija u ličnom hardveru. Predstavlja udaljavanje od modela „tankog klijenta“ gde je računar samo ekran za cloud. Stavljanjem namenske inteligencije u silicijum, proizvođači čine naše uređaje sposobnijim i privatnijim. Iako marketing možda prednjači u odnosu na softver, fundamentalna promena je stvarna. Ako ste kreativni profesionalac ili neko ko ceni privatnost, mašina sa NPU-om je pametna investicija. Za sve ostale, prednosti će stizati polako kako sve više aplikacija počne da koristi prednosti hardvera. Era računara opšte namene zamenjuje se erom specijalizovanog asistenta. To je promena koja će na kraju dotaći svaki deo naših digitalnih života.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.