Zašto je AI priča o hardveru isto koliko i o softveru

Uobičajena percepcija veštačke inteligencije fokusira se skoro isključivo na kod. Ljudi govore o velikim jezičkim modelima kao da postoje u vakuumu čiste logike. Raspravljaju o briljantnosti algoritma ili nijansama odgovora chatbota. Ova perspektiva zanemaruje najkritičniji faktor u trenutnoj eri tehnologije. AI nije samo priča o softveru. To je priča o teškoj industriji. Radi se o masovnoj potrošnji električne energije i fizičkim granicama silicijuma. Svaki put kada korisnik postavi pitanje chatbotu, lanac fizičkih događaja se dešava u data centru kilometrima daleko. Ovaj proces uključuje specijalizovane čipove koji su trenutno najvrednija roba na planeti. Ako želite da razumete zašto neke kompanije pobeđuju, a druge propadaju, morate pogledati hardver. Softver je volan, ali hardver je motor i gorivo. Bez fizičke infrastrukture, najnapredniji model na svetu je samo gomila beskorisne matematike.

Silicijumski plafon

Decenijama je razvoj softvera pratio predvidljiv put. Pisali ste kod i on se izvršavao na standardnim centralnim procesorskim jedinicama ili CPU-ovima. Ovi čipovi su bili generalisti. Mogli su da obavljaju razne zadatke jedan za drugim. Međutim, AI je promenio zahteve. Modernim modelima nije potreban generalista. Potreban im je specijalista koji može da obavlja milijarde jednostavnih matematičkih operacija istovremeno. Ovo se zove paralelno procesiranje. Industrija je preusmerila fokus na grafičke procesorske jedinice ili GPU-ove. Ovi čipovi su prvobitno dizajnirani za renderovanje video igara, ali istraživači su otkrili da su savršeni za matrično množenje koje pokreće neuronske mreže. Ova promena je stvorila masivno usko grlo. Ne možete jednostavno preuzeti više inteligencije. Morate je izgraditi fizičkim komponentama koje je neverovatno teško proizvesti. Svet se trenutno suočava sa realnošću u kojoj brzinu napretka AI diktira koliko brzo kompanije poput TSMC mogu da urezuju kola na silicijumske ploče.

Ovo fizičko ograničenje stvorilo je novu vrstu klasnog sistema u tehnološkom svetu. Postoje oni bogati kompjuterskom snagom i oni siromašni. Kompanija sa deset hiljada vrhunskih čipova može da trenira model koji kompanija sa stotinu čipova ne može ni da pokuša. Ovo nije pitanje talenta ili pametnog kodiranja. To je pitanje sirove snage. Zabluda da je AI egalitarno polje gde svako sa laptopom može da se takmiči bledi. Ulazna cena za vrhunski nivo razvoja AI sada se meri milijardama dolara u hardveru. Zato vidimo da najveće tehnološke kompanije na svetu troše nezapamćene iznose na infrastrukturu. One ne kupuju samo servere. One grade fabrike budućnosti. Hardver je rov koji štiti njihove poslovne modele.

Geopolitika peska i moći

Pomak ka AI fokusiranom na hardver pomerio je težište tehnološke industrije. Više se ne radi samo o Silicijumskoj dolini. Radi se o Tajvanskom moreuzu i električnim mrežama severne Virdžinije. Proces proizvodnje najnaprednijih AI čipova je toliko složen da samo jedna kompanija, TSMC, može to da uradi u velikom obimu. Ovo stvara jedinstvenu tačku otkaza za celu globalnu ekonomiju. Ako proizvodnja na Tajvanu stane, napredak AI staje. Zato vlade sada tretiraju proizvodnju čipova kao pitanje nacionalne bezbednosti. Subvencionišu izgradnju novih fabrika i uvode izvozne kontrole na vrhunski hardver. Cilj je osigurati da njihove domaće industrije imaju pristup fizičkim komponentama potrebnim da ostanu konkurentne.

Pored samih čipova, tu je i pitanje energije. AI modeli su neverovatno žedni za strujom. Jedan upit može potrošiti znatno više električne energije nego standardni zahtev pretraživača. Ovo stavlja ogroman pritisak na lokalne električne mreže. Na mestima gde su koncentrisani data centri, potražnja za strujom raste brže od ponude. Ovo je dovelo do obnovljenog interesovanja za nuklearnu energiju i druge izvore visokog kapaciteta. Međunarodna agencija za energetiku primetila je da bi data centri mogli udvostručiti svoju potrošnju električne energije do . Ovo nije softverski problem koji se može optimizovati boljim kodom. To je fizička realnost funkcionisanja ovih sistema. Uticaj AI na životnu sredinu ne nalazi se u linijama koda, već u sistemima za hlađenje i ugljeničnom otisku elektrana koje održavaju servere u radu. Organizacije moraju uzeti u obzir ove fizičke troškove kada računaju vrednost svojih AI inicijativa.

Visoka cena svakog upita

Da biste razumeli praktičan uticaj hardverskih ograničenja, zamislite dan u životu osnivača startapa na trenutnom tržištu. Nazovimo je Sara. Sara ima briljantnu ideju za novi alat za medicinsku dijagnostiku. Ima podatke i talenat. Međutim, brzo shvata da njena najveća prepreka nije algoritam. To je cena zaključivanja (inference). Svaki put kada lekar koristi njen alat, ona mora da plati vreme na vrhunskom GPU-u u cloudu. Ovi troškovi nisu statični. Fluktuiraju na osnovu globalne potražnje. Tokom vršnih sati, cena kompjuterske snage može skočiti, smanjujući njenu zaradu. Provodi više vremena upravljajući svojim cloud kreditima i optimizujući upotrebu hardvera nego na samom medicinskom istraživanju. Ovo je realnost za hiljade kreatora danas. Oni su vezani za fizičku dostupnost hardvera.

Za prosečnog korisnika, ovo se manifestuje kao latencija i ograničenja. Da li ste ikada primetili da chatbot postaje sporiji ili manje sposoban u određeno doba dana? To je često zato što provajder dostiže hardversko ograničenje. Oni racionalizuju svoju dostupnu kompjutersku snagu da bi podneli opterećenje. Ovo je direktna posledica fizičke prirode AI. Za razliku od tradicionalnog softvera, koji se može kopirati i distribuirati uz skoro nultu graničnu cenu, svaka instanca AI modela koja radi zahteva namenski deo hardvera. Ovo stvara plafon za to koliko ljudi može koristiti ove alate odjednom. Takođe objašnjava zašto se mnoge kompanije kreću ka manjim modelima koji mogu raditi na lokalnim uređajima poput telefona ili laptopova. Pokušavaju da prebace hardverski teret sa svojih data centara na krajnjeg korisnika. Ova promena pokreće novi ciklus nadogradnje potrošačkog hardvera. Ljudi kupuju nove računare ne zato što su im stari pokvareni, već zato što im nedostaju specijalizovani čipovi potrebni za lokalno pokretanje modernih AI funkcija.

Ovo je masivna promena u načinu na koji razmišljamo o odnosu između naših uređaja i usluga koje koristimo.

Имате причу о вештачкој интелигенцији, алат, тренд или питање које мислите да бисмо требали да покријемо? Пошаљите нам своју идеју за чланак — волели бисмо да је чујемо.

Poslovna dinamika moći se takođe menja. U prošlosti, softverska kompanija je mogla da se skalira globalno sa veoma malim fizičkim otiskom. Danas su kompanije sa najviše moći one koje poseduju infrastrukturu. Zato je NVIDIA postala jedna od najvrednijih kompanija na svetu. Oni obezbeđuju pijuke i lopate za AI zlatnu groznicu. Čak su i najuspešnije AI softverske kompanije često samo podstanari u data centrima svojih većih konkurenata. Ovo stvara nesigurnu situaciju. Ako stanodavac odluči da podigne kiriju ili da prioritet sopstvenim internim projektima, softverska kompanija nema gde drugde da ode. Fizički sloj je krajnji izvor poluge u modernoj tehnološkoj ekonomiji. To je povratak na industrijskiji oblik konkurencije gde obim i fizička imovina znače više od samih pametnih ideja.

Pitanja koja ne postavljamo

Kako zalazimo dublje u ovu eru zavisnu od hardvera, moramo postavljati teška pitanja o skrivenim troškovima. Ko zaista ima koristi kada su barijere za ulazak tako visoke? Ako samo šačica kompanija može priuštiti hardver potreban za izgradnju najnaprednijih modela, šta to znači za konkurenciju i inovacije? Vidimo koncentraciju moći koja je bez presedana u istoriji tehnologije. Ova centralizacija stvara ogroman rizik za privatnost i cenzuru. Ako se sva AI obrada dešava na nekoliko hiljada servera u vlasništvu tri ili četiri kompanije, te kompanije imaju potpunu kontrolu nad tim šta se može reći i šta se može uraditi sa tehnologijom. Šta se dešava sa suverenitetom manjih nacija koje ne mogu priuštiti izgradnju sopstvene AI infrastrukture?

Tu je i pitanje fizičkih materijala potrebnih za izgradnju ovih mašina. AI hardver zavisi od retkih zemnih minerala i složenih lanaca snabdevanja koji se često nalaze u nestabilnim regionima. Ekološki trošak rudarenja ovih materijala retko se raspravlja u kontekstu napretka AI. Govorimo o eleganciji modela dok ignorišemo otvorene kopove i toksični otpad proizveden tokom procesa proizvodnje. Da li je korist od malo boljeg chatbota vredna ekološke štete koju uzrokuje hardver koji zahteva? Štaviše, moramo razmotriti dugoročnu održivost trenutnih trendova potrošnje energije. Prema izveštajima Međunarodne agencije za energetiku, rast potražnje za energijom data centara već prevazilazi dodavanje obnovljive energije u nekim regionima. Da li gradimo tehnološku budućnost koju planeta zapravo ne može da podrži? Ovo nisu tehničke greške koje treba popraviti. Ovo su fundamentalni kompromisi koji dolaze sa odlukom da se AI sledi na ovoj skali. Moramo biti iskreni o činjenici da je AI fizička intervencija u svetu, a ne samo digitalna.

Arhitektura i latencija

Za napredne korisnike i programere, priča o hardveru postaje još specifičnija. Ne radi se samo o posedovanju GPU-a. Radi se o specifičnoj arhitekturi tog GPU-a. Jedno od najvećih uskih grla u modernom AI nije brzina procesora, već brzina memorije. Ovo je poznato kao memorijski zid. Memorija visokog propusnog opsega ili HBM je ključna za održavanje procesora snabdevenim podacima. Ako je memorija prespora, procesor stoji besposlen, trošeći skupe kompjuterske cikluse. Zato se najnoviji čipovi velikih proizvođača toliko fokusiraju na propusni opseg i kapacitet memorije. Ako pokrećete lokalni model, količina VRAM-a na vašoj kartici je najvažniji faktor. Ona određuje veličinu modela koji možete učitati i brzinu kojom može generisati tekst.

Integracija radnog procesa takođe postaje hardverski problem. Mnogi profesionalni alati sada integrišu AI funkcije koje zahtevaju specifična API ograničenja ili lokalno ubrzanje. Ako koristite API zasnovan na cloudu, podložni ste dostupnosti hardvera provajdera. To može dovesti do nepredvidive latencije koja uništava korisničko iskustvo. Za lokalno skladištenje, zahtevi takođe rastu. Čuvanje velikih modela i skupova podataka koji se koriste za njihovo fino podešavanje zahteva terabajte brzog NVMe skladišta. Takođe vidimo porast specijalizovanih međuveza kao što je NVLink, koji omogućava više GPU-ova da komuniciraju jedni sa drugima neverovatnim brzinama. Ovo je neophodno jer najveći modeli više ne staju na jedan čip. Moraju biti raspoređeni na desetine ili čak stotine čipova, svi radeći u savršenoj sinhronizaciji. Ako je fizička veza između tih čipova prespora, ceo sistem se ruši. Ovaj nivo hardverske složenosti je daleko od dana jednostavnog pisanja skripte i pokretanja na laptopu. Detaljnije vodiče o optimizaciji vašeg lokalnog podešavanja možete pronaći na veb lokaciji AI Magazine. Razumevanje ovih tehničkih specifikacija više nije opciono za svakoga ko želi da radi na ivici ovog polja. Razlika između uspešne implementacije i neuspeha često se svodi na to koliko dobro upravljate fizičkim ograničenjima svog hardverskog steka.

Fizička realnost

Narativ o AI kao čisto digitalnom fenomenu je mrtav. Realnost je da je AI fizička industrija koja zahteva ogromne količine zemljišta, vode, energije i silicijuma. Napredak koji vidimo u narednim godinama biće određen koliko probojima u nauci o materijalima i proizvodnji energije, toliko i probojima u mašinskom učenju. Ulazimo u period u kojem fizički svet ponovo potvrđuje svoju dominaciju nad digitalnim svetom. Kompanije koje ovo razumeju i ulažu u sopstveni hardver i izvore energije biće one koje predvode. Oni koji tretiraju hardver kao naknadnu misao naći će se izbačeni sa tržišta zbog cena. Najvažnija stvar koju treba zapamtiti je da svaki bit digitalne inteligencije ima fizički dom. Do , mapa AI sveta izgledaće mnogo kao mapa najmoćnijih industrijskih čvorišta na svetu. Silicijumski plafon je stvaran i svi živimo ispod njega.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.

Пронашли сте грешку или нешто што треба исправити? Јавите нам.