Zašto proizvođači laptopova odjednom žele da sve bude AI

Tehnološka industrija se kreće u ciklusima centralizacije i decentralizacije. Poslednjih deset godina, cloud je bio centar univerzuma. Svaka pametna funkcija na vašem laptopu oslanjala se na server u dalekom data centru. To se brzo menja. Proizvođači laptopova kao što su Intel, AMD i Apple sada vraćaju inteligenciju na lokalni uređaj. To postižu dodavanjem posebnog komada silicijuma zvanog Neural Processing Unit (NPU) u svaku novu mašinu. Ova promena nije samo zbog brzine. Radi se o energetskoj efikasnosti i privatnosti. Kada vaš računar može da obrađuje složene obrasce bez komunikacije sa internetom, postaje sposobniji i manje zavisan od pretplata. Industrija ovo naziva erom AI PC-ja. To je najznačajnija promena u unutrašnjoj arhitekturi laptopa još od uvođenja multi-core procesora. Ova tranzicija ima za cilj da pretvori laptop iz pasivnog alata u aktivnog asistenta koji razume kontekst bez trošenja baterije za dva sata.

Da biste razumeli zašto se ovo dešava, morate pogledati hardver. Standardni laptop ima Central Processing Unit (CPU) za opšte zadatke i Graphics Processing Unit (GPU) za vizuelne podatke. Nijedan nije savršen za veštačku inteligenciju. CPU je prespor za masivne matematičke proračune koje zahtevaju moderni modeli. GPU je brz, ali troši ogromnu količinu električne energije. Neural Processing Unit je specijalizovani čip dizajniran da obradi specifičnu matematiku koja se koristi u mašinskom učenju. Koristi vrlo malo energije za izvođenje biliona operacija u sekundi. Ovo omogućava laptopu da lokalno pokreće veliki jezički model ili generator slika. Prebacivanjem ovih zadataka na NPU, CPU i GPU su slobodni da obavljaju svoj uobičajeni posao. Ova arhitektura sprečava pregrevanje laptopa kada koristite pametne funkcije. To takođe znači da funkcije poput korekcije kontakta očima tokom video poziva mogu stalno raditi u pozadini bez primetnog pada performansi. Proizvođači se klade da će ova efikasnost ubediti korisnike da nadograde svoj stari hardver.

Pritisak za lokalni hardver je takođe odgovor na rastuće troškove cloud computinga. Svaki put kada od AI-ja baziranog na cloudu tražite da sumira dokument, to provajdera košta novac u vidu električne energije i održavanja servera. Prebacivanjem tog posla na vaš laptop, kompanije poput Microsofta i Googlea štede milijarde na troškovima infrastrukture. Ova promena efektivno prebacuje račun za AI procesiranje sa softverskog provajdera na potrošača koji kupuje hardver. To je pametan potez koji se poklapa sa poslovnim ciljevima silikonskih giganata kao što su Intel i AMD. Potreban im je novi razlog da ljudi kupuju računare svake tri godine. AI PC pruža taj razlog obećavajući funkcije koje jednostavno neće dobro raditi na starijim mašinama. Više detalja o ovim promenama možete pronaći u našim sveobuhvatnim vodičima za AI hardver koji prate evoluciju potrošačkog silicijuma. Ovo nije samo trend za high-end radne stanice. Postaje standard za svaki potrošački laptop koji se prodaje širom sveta.

Globalni uticaj ove tranzicije fokusiran je na suverenitet podataka i energiju. Vlade i velike korporacije su sve zabrinutije zbog toga gde njihovi podaci odlaze. Ako banka u Nemačkoj koristi cloud AI za analizu osetljivih finansijskih zapisa, ti podaci bi mogli napustiti zemlju. Lokalni AI rešava ovaj problem zadržavanjem podataka na laptopu. Ovo zadovoljava stroge zakone o privatnosti poput GDPR-a u Evropi i sličnih propisa u Aziji. Takođe smanjuje globalni energetski otisak interneta. Data centri troše zapanjujuću količinu energije za premeštanje i obradu informacija. Ako se značajan deo tog posla obavlja na milionima laptopova koji već stoje na stolovima, smanjuje se pritisak na globalnu mrežu. Ovaj decentralizovani pristup je otporniji. Omogućava radniku u regionu sa lošom internet konekcijom da koristi napredne alate koji su ranije bili dostupni samo onima sa brzim optičkim kablovima. Ova demokratizacija računarske snage je glavni pokretač međunarodnog tehnološkog tržišta.

U tipičnom radnom danu, uticaj AI-native laptopa je suptilan, ali konstantan. Zamislite početak jutra uz video konferenciju. U prošlosti, zamućivanje pozadine ili uklanjanje buke činilo bi da se ventilatori vašeg laptopa glasno vrte. Sa NPU-om, ovi zadaci se obavljaju nečujno i troše gotovo nula baterije. Tokom sastanka, lokalni model transkribuje razgovor i identifikuje stavke za akciju u realnom vremenu. Ne morate da otpremate audio na server, što štiti poslovne tajne o kojima se razgovara u prostoriji. Kasnije, treba da pronađete određenu tabelu od prošle godine. Umesto traženja imena datoteke, zamolite računar da pronađe dokument u kojem ste razgovarali o budžetu za kancelariju u Tokiju. Laptop skenira svoj lokalni indeks vaših datoteka i pronalazi ga trenutno. Ovo je razlika između pretraživača i lokalnog inteligentnog motora. On razume sadržaj vašeg rada, a ne samo oznake koje mu dajete.

Do popodneva, možda ćete morati da generišete sliku za prezentaciju. Umesto čekanja u redu na veb lokaciji, koristite lokalnu verziju Stable Diffusion-a. Slika se pojavljuje za nekoliko sekundi jer je NPU optimizovan za ovaj tačan zadatak. Možda ćete takođe dobiti dug izveštaj koji nemate vremena da pročitate. Prevucite ga u lokalni prozor i odmah dobijte rezime od tri pasusa. Ovaj workflow je brži jer nema mrežne latencije. Ne čekate da signal putuje preko okeana i nazad. Računar deluje responzivnije jer se obrada dešava na nekoliko centimetara od vaših prstiju. Ovo je praktična realnost AI PC-ja. Ne radi se o jednoj velikoj funkciji koja menja sve. Radi se o stotinu malih poboljšanja koja čine mašinu intuitivnijom. Cilj je ukloniti trenje između vaših misli i digitalnog rezultata.

Sokratovski skepticizam je neophodan prilikom procene ovih tvrdnji. Moramo se zapitati da li je NPU zaista koristan alat ili samo način da se opravdaju više cene. Većina trenutnih AI funkcija su softverski trikovi koji bi tehnički mogli raditi na starijem hardveru, iako sporije. Da li industrija stvara sintetičku potrebu za novim silicijumom? Tu je i pitanje dugovečnosti. AI modeli rastu u veličini i složenosti svakog meseca. Laptop kupljen danas možda ima NPU sposoban za 40 biliona operacija u sekundi, ali da li će to biti dovoljno za modele od ? Možda ulazimo u eru u kojoj hardver zastareva mnogo brže nego u prethodnoj deceniji. Ako osnovna funkcionalnost vašeg operativnog sistema zavisi od specifičnog čipa, gubite mogućnost da nastavite da koristite svoj računar deset godina. Ovo stvara ogromnu količinu elektronskog otpada. Moramo takođe razmotriti kompromis u pogledu privatnosti. AI koji indeksira sve što radite da bi bio od pomoći je takođe AI koji ima savršen zapis celog vašeg života. Ko kontroliše taj indeks i može li on biti predmet sudskog poziva?

Tehnički sloj ove tranzicije je mesto gde se pojavljuju prava ograničenja. Da bi NPU bio koristan, softverski programeri moraju pisati kod koji može da komunicira sa njim. Ovo zahteva standardizovane API-je kao što su Windows DirectML ili Intel OpenVINO. Trenutno je ekosistem fragmentiran. Funkcija koja radi na Apple Mac-u možda neće raditi na Windows laptopu sa AMD čipom. Tu je i problem propusnog opsega memorije. AI modeli zahtevaju ogromne količine podataka koje se brzo premeštaju između memorije i procesora. Većina trenutnih laptopova ovde ima usko grlo. Čak i ako je NPU brz, možda će većinu vremena provesti čekajući da RAM isporuči podatke. Zato vidimo pomeranje ka arhitekturama sa objedinjenom memorijom gde CPU, GPU i NPU dele isti bazen podataka velike brzine. Ovo poboljšava performanse, ali čini laptopove nemogućim za nadogradnju nakon kupovine. Ne možete samo dodati još RAM-a kasnije jer je memorija zalemljena tik pored procesora radi maksimalne brzine.

Napredni korisnici (power users) treba pažljivo da pogledaju specifikacije pre nego što nasednu na hajp. Industrija koristi metriku zvanu TOPS za merenje AI performansi. Međutim, TOPS je sirov broj koji ne uzima u obzir kako čip rukuje različitim tipovima podataka, kao što su INT8 ili FP16 preciznost. Čip sa visokim TOPS-om možda će se i dalje mučiti sa specifičnim modelima ako njegova arhitektura nije optimizovana za njih. Postoje i termička ograničenja koja treba uzeti u obzir. Tanak i lagan laptop može imati moćan NPU, ali ako ne može da rasprši toplotu, sistem će smanjiti brzinu nakon nekoliko minuta intenzivne upotrebe. Lokalno skladište je još jedan faktor. Pokretanje velikih modela lokalno zahteva gigabajte prostora samo za težine modela. Ako kupite laptop sa malim hard diskom, brzo ćete ostati bez prostora. Geek sekcija tržišta je trenutno groblje hardvera za rane usvojitelje koji je obećavao mnogo, ali mu je nedostajala softverska podrška da to isporuči. Još uvek čekamo univerzalni standard koji AI softver čini zaista prenosivim kroz sve brendove hardvera.

Имате причу о вештачкој интелигенцији, алат, тренд или питање које мислите да бисмо требали да покријемо? Пошаљите нам своју идеју за чланак — волели бисмо да је чујемо.

Zaključak je da je AI PC stvarna arhitektonska promena, ali je trenutno u povoju. Za većinu ljudi, prednosti danas su ograničene na bolje video pozive i malo brže uređivanje fotografija. Prava vrednost će se pojaviti tokom naredne dve godine kako operativni sistemi integrišu lokalno zaključivanje u svaki kutak korisničkog interfejsa. Ne treba da žurite sa zamenom ispravnog laptopa samo da biste dobili NPU nalepnicu. Međutim, kada na kraju budete nadograđivali, prisustvo namenskg AI čipa biće obavezno za dobro iskustvo. Industrija se udaljava od clouda za svakodnevne zadatke. To će dovesti do laptopova koji su privatniji, efikasniji i sposobniji za obavljanje složenog posla bez internet konekcije. To je povratak ideji personalnog računara kao samostalnog moćnog uređaja. Marketing može biti glasan, ali osnovna tehnologija je neophodan korak za narednu deceniju računarstva.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.