De ce AI-ul este la fel de mult despre hardware, cât și despre software

Percepția comună asupra inteligenței artificiale se concentrează aproape în întregime pe cod. Oamenii vorbesc despre modelele de limbaj mari ca și cum ar exista într-un vid de logică pură. Discută despre strălucirea unui algoritm sau despre nuanțele răspunsurilor unui chatbot. Această perspectivă omite cel mai critic factor din era actuală a tehnologiei. AI-ul nu este doar o poveste despre software. Este o poveste despre industria grea. Este vorba despre consumul masiv de electricitate și limitele fizice ale siliciului. De fiecare dată când un utilizator pune o întrebare unui chatbot, un lanț de evenimente fizice are loc într-un centru de date aflat la kilometri distanță. Acest proces implică cipuri specializate care sunt în prezent cele mai valoroase mărfuri de pe pământ. Dacă vrei să înțelegi de ce unele companii câștigă și altele eșuează, trebuie să te uiți la hardware. Software-ul este volanul, dar hardware-ul este motorul și combustibilul. Fără infrastructura fizică, cel mai avansat model din lume este doar o colecție de matematică inutilă.

Plafonul de siliciu

Timp de decenii, dezvoltarea software a urmat o cale previzibilă. Scriai cod și acesta rula pe unități centrale de procesare standard sau CPU-uri. Aceste cipuri erau generaliste. Puteau gestiona o varietate de sarcini una după alta. Totuși, AI-ul a schimbat cerințele. Modelele moderne nu au nevoie de un generalist. Au nevoie de un specialist care poate efectua miliarde de operații matematice simple în același timp. Aceasta se numește procesare paralelă. Industria și-a mutat atenția către unitățile de procesare grafică sau GPU-uri. Aceste cipuri au fost proiectate inițial pentru randarea jocurilor video, dar cercetătorii au descoperit că sunt perfecte pentru înmulțirea matricelor care alimentează rețelele neuronale. Această schimbare a creat un blocaj masiv. Nu poți pur și simplu să descarci mai multă inteligență. Trebuie să o construiești cu componente fizice care sunt incredibil de greu de fabricat. Lumea se confruntă în prezent cu o realitate în care viteza progresului AI este dictată de cât de repede pot companii precum TSMC să graveze circuite pe plachete de siliciu.

Această constrângere fizică a creat un nou tip de sistem de clasă în lumea tehnologiei. Există cei bogați în putere de calcul și cei săraci. O companie cu zece mii de cipuri de înaltă performanță poate antrena un model pe care o companie cu o sută de cipuri nici nu poate începe să-l încerce. Aceasta nu este o chestiune de talent sau de codare inteligentă. Este o chestiune de putere brută. Ideea greșită că AI-ul este un domeniu egalitarist unde oricine cu un laptop poate concura dispare. Prețul de intrare pentru nivelul superior al dezvoltării AI este acum măsurat în miliarde de dolari în hardware. Acesta este motivul pentru care vedem cele mai mari companii de tehnologie din lume cheltuind sume fără precedent pe infrastructură. Nu cumpără doar servere. Construiesc fabricile viitorului. Hardware-ul este șanțul de apărare care le protejează modelele de afaceri.

Geopolitica nisipului și a puterii

Trecerea către un AI centrat pe hardware a mutat centrul de greutate al industriei tehnologice. Nu mai este vorba doar despre Silicon Valley. Este vorba despre Strâmtoarea Taiwan și rețelele electrice din nordul Virginiei. Procesul de fabricație pentru cele mai avansate cipuri AI este atât de complex încât doar o singură companie, TSMC, o poate face la scară largă. Acest lucru creează un punct unic de eșec pentru întreaga economie globală. Dacă producția în Taiwan se oprește, progresul AI se oprește. Acesta este motivul pentru care guvernele tratează acum fabricarea cipurilor ca pe o chestiune de securitate națională. Subvenționează construcția de noi fabrici și impun controale la export pentru hardware-ul de înaltă performanță. Scopul este de a se asigura că industriile lor interne au acces la componentele fizice necesare pentru a rămâne competitive.

Dincolo de cipurile în sine, există problema energiei. Modelele AI sunt incredibil de însetate de energie. O singură interogare poate consuma semnificativ mai multă electricitate decât o cerere standard către un motor de căutare. Acest lucru pune o presiune masivă pe rețelele electrice locale. În locurile unde sunt concentrate centrele de date, cererea de electricitate crește mai repede decât oferta. Acest lucru a dus la un interes reînnoit pentru energia nucleară și alte surse de energie de mare capacitate. Agenția Internațională pentru Energie a notat că centrele de date și-ar putea dubla consumul de electricitate până în 2026. Aceasta nu este o problemă de software care poate fi optimizată cu un cod mai bun. Este o realitate fizică a modului în care funcționează aceste sisteme. Impactul ecologic al AI-ului nu se găsește în liniile de cod, ci în sistemele de răcire și amprenta de carbon a centralelor electrice care mențin serverele în funcțiune. Organizațiile trebuie să ia în calcul aceste costuri fizice atunci când calculează valoarea inițiativelor lor AI.

Costul ridicat al fiecărui prompt

Pentru a înțelege impactul practic al constrângerilor hardware, luați în considerare o zi din viața unui fondator de startup pe piața actuală. Să o numim Sarah. Sarah are o idee genială pentru un nou instrument de diagnosticare medicală. Are datele și talentul. Totuși, realizează rapid că cel mai mare obstacol al ei nu este algoritmul. Este costul inferenței. De fiecare dată când un medic folosește instrumentul ei, ea trebuie să plătească pentru timp pe un GPU de înaltă performanță în cloud. Aceste costuri nu sunt statice. Ele fluctuează în funcție de cererea globală. În orele de vârf, prețul puterii de calcul poate crește, afectându-i marjele. Petrece mai mult timp gestionându-și creditele cloud și optimizându-și utilizarea hardware-ului decât făcând cercetare medicală propriu-zisă. Aceasta este realitatea pentru mii de creatori astăzi. Sunt legați de disponibilitatea fizică a hardware-ului.

Pentru utilizatorul obișnuit, acest lucru se manifestă prin latență și limitări. Ați observat vreodată că un chatbot devine mai lent sau mai puțin capabil în anumite momente ale zilei? Asta se întâmplă adesea pentru că furnizorul atinge o limită hardware. Raționalizează puterea de calcul disponibilă pentru a face față sarcinii. Aceasta este o consecință directă a naturii fizice a AI-ului. Spre deosebire de software-ul tradițional, care poate fi copiat și distribuit la un cost marginal aproape zero, fiecare instanță a unui model AI care rulează necesită o felie dedicată de hardware. Acest lucru creează un plafon pentru câți oameni pot folosi aceste instrumente simultan. De asemenea, explică de ce multe companii se îndreaptă către modele mai mici care pot rula pe dispozitive locale precum telefoane sau laptopuri. Încearcă să transfere povara hardware de la centrele lor de date către utilizatorul final. Această schimbare conduce la un nou ciclu de upgrade-uri hardware pentru consumatori. Oamenii cumpără computere noi nu pentru că cele vechi sunt stricate, ci pentru că cele vechi nu au cipurile specializate necesare pentru a rula funcții AI moderne local.

Aceasta este o schimbare masivă în modul în care ne gândim la relația dintre dispozitivele noastre și serviciile pe care le folosim.

Aveți o poveste, un instrument, o tendință sau o întrebare despre inteligența artificială pe care credeți că ar trebui să o abordăm? Trimiteți-ne ideea dvs. de articol — ne-ar plăcea să o auzim.

Dinamica puterii în afaceri se schimbă, de asemenea. În trecut, o companie de software putea scala global cu o amprentă fizică foarte mică. Astăzi, companiile cu cea mai mare putere sunt cele care dețin infrastructura. Acesta este motivul pentru care NVIDIA a devenit una dintre cele mai valoroase companii din lume. Ei oferă târnăcoapele și lopețile pentru goana după aurul AI. Chiar și cele mai de succes companii de software AI sunt adesea doar chiriași în centrele de date ale competitorilor lor mai mari. Acest lucru creează o situație precară. Dacă proprietarul decide să mărească chiria sau să prioritizeze propriile proiecte interne, compania de software nu are unde altundeva să meargă. Stratul fizic este sursa supremă de pârghie în economia tehnologică modernă. Este o revenire la o formă mai industrială de competiție, unde scara și activele fizice contează mai mult decât ideile inteligente.

Întrebările pe care nu le punem

Pe măsură ce avansăm în această eră dependentă de hardware, trebuie să punem întrebări dificile despre costurile ascunse. Cine beneficiază cu adevărat când barierele de intrare sunt atât de ridicate? Dacă doar o mână de companii își pot permite hardware-ul necesar pentru a construi cele mai avansate modele, ce înseamnă asta pentru competiție și inovație? Vedem o concentrare a puterii fără precedent în istoria tehnologiei. Această centralizare creează un risc masiv pentru confidențialitate și cenzură. Dacă toată procesarea AI are loc pe câteva mii de servere deținute de trei sau patru companii, acele companii au control total asupra a ceea ce se poate spune și ce se poate face cu tehnologia. Ce se întâmplă cu suveranitatea națiunilor mai mici care nu își permit să își construiască propria infrastructură AI?

Există, de asemenea, întrebarea despre materialele fizice necesare pentru a construi aceste mașinării. Hardware-ul AI depinde de minerale rare și lanțuri de aprovizionare complexe care sunt adesea situate în regiuni instabile. Costul ecologic al mineritului pentru aceste materiale este rar discutat în contextul progresului AI. Vorbim despre eleganța modelului în timp ce ignorăm minele de suprafață și deșeurile toxice produse în timpul procesului de fabricație. Merită beneficiul unui chatbot puțin mai bun daunele ecologice cauzate de hardware-ul pe care îl necesită? Mai mult, trebuie să luăm în considerare sustenabilitatea pe termen lung a tendințelor actuale de consum de energie. Conform rapoartelor Agenției Internaționale pentru Energie, creșterea cererii de energie a centrelor de date depășește deja adăugarea de energie regenerabilă în unele regiuni. Construim un viitor tehnologic pe care planeta nu îl poate susține cu adevărat? Acestea nu sunt bug-uri tehnice care trebuie reparate. Sunt compromisuri fundamentale care vin odată cu decizia de a urmări AI-ul la această scară. Trebuie să fim sinceri cu privire la faptul că AI-ul este o intervenție fizică în lume, nu doar una digitală.

Arhitectură și latență

Pentru utilizatorii avansați și dezvoltatori, povestea hardware devine și mai specifică. Nu este vorba doar despre a avea un GPU. Este vorba despre arhitectura specifică a acelui GPU. Unul dintre cele mai mari blocaje în AI-ul modern nu este viteza procesorului, ci viteza memoriei. Aceasta este cunoscută sub numele de „zidul memoriei”. Memoria cu lățime de bandă mare sau HBM este esențială pentru a menține procesorul alimentat cu date. Dacă memoria este prea lentă, procesorul stă degeaba, irosind cicluri de calcul scumpe. Acesta este motivul pentru care cele mai noi cipuri de la marii producători se concentrează atât de mult pe lățimea de bandă și capacitatea memoriei. Dacă rulați un model local, cantitatea de VRAM de pe cardul dvs. este cel mai important factor. Aceasta determină dimensiunea modelului pe care îl puteți încărca și viteza cu care poate genera text.

Integrarea fluxului de lucru devine, de asemenea, o problemă hardware. Multe instrumente profesionale integrează acum funcții AI care necesită limite API specifice sau accelerare locală. Dacă utilizați un API bazat pe cloud, sunteți supus disponibilității hardware a furnizorului. Acest lucru poate duce la o latență imprevizibilă care distruge experiența utilizatorului. Pentru stocarea locală, cerințele sunt, de asemenea, în creștere. Stocarea modelelor mari și a seturilor de date folosite pentru a le ajusta necesită terabytes de stocare NVMe rapidă. Vedem, de asemenea, apariția interconectărilor specializate precum NVLink, care permit mai multor GPU-uri să comunice între ele la viteze incredibile. Acest lucru este necesar deoarece cele mai mari modele nu mai încap pe un singur cip. Trebuie să fie distribuite pe zeci sau chiar sute de cipuri, toate lucrând în sincronizare perfectă. Dacă conexiunea fizică dintre acele cipuri este prea lentă, întregul sistem se prăbușește. Acest nivel de complexitate hardware este departe de zilele în care pur și simplu scriai un script și îl rulai pe un laptop. Puteți găsi ghiduri mai detaliate despre optimizarea configurației locale pe site-ul AI Magazine. Înțelegerea acestor specificații tehnice nu mai este opțională pentru oricine dorește să lucreze la marginea acestui domeniu. Diferența dintre o implementare de succes și un eșec depinde adesea de cât de bine gestionați constrângerile fizice ale stivei dvs. hardware.

Realitatea fizică

Narațiunea AI-ului ca fenomen pur digital a murit. Realitatea este că AI-ul este o industrie fizică ce necesită cantități masive de teren, apă, energie și siliciu. Progresul pe care îl vom vedea în anii următori va fi determinat la fel de mult de descoperirile în știința materialelor și generarea de energie, ca și de descoperirile în învățarea automată. Intrăm într-o perioadă în care lumea fizică își reafirmă dominația asupra lumii digitale. Companiile care înțeleg acest lucru și investesc în propriul hardware și propriile surse de energie vor fi cele care vor conduce. Cele care tratează hardware-ul ca pe o idee secundară se vor trezi scoase de pe piață din cauza prețurilor. Cel mai important lucru de reținut este că fiecare bit de inteligență digitală are o casă fizică. Până în 2026, harta lumii AI va arăta mult ca o hartă a celor mai puternice hub-uri industriale ale lumii. Plafonul de siliciu este real și trăim cu toții sub el.

Nota editorului: Am creat acest site ca un centru multilingv de știri și ghiduri AI pentru persoanele care nu sunt experți în computere, dar care totuși doresc să înțeleagă inteligența artificială, să o folosească cu mai multă încredere și să urmărească viitorul care deja sosește.

Ați găsit o eroare sau ceva ce trebuie corectat? Anunțați-ne.