Nvidia, AMD og det nye kappløpet om datakraft

Den globale teknologibransjen er for tiden grepet av et skifte i hvordan makt defineres og fordeles. I flere tiår var prosessoren (CPU) hjertet i enhver maskin, men den tiden er forbi. I dag har fokuset flyttet seg til spesialisert silisium designet for å håndtere de enorme matematiske arbeidsmengdene som kreves av moderne kunstig intelligens. Dette er ikke bare en konkurranse om hvem som kan lage en raskere komponent. Det er en kamp om kontroll over datakraft. Nvidia og AMD er hovedaktørene i en historie som handler om mer enn bare maskinvare. Det handler om kontrollen over infrastrukturen som vil definere det neste tiåret med programvareutvikling. Innsatsen er høy, for vinneren selger ikke bare et produkt. De etablerer en plattform som andre må bruke for å forbli relevante. Denne overgangen fra generell databehandling til akselerert databehandling representerer en fundamental endring i hierarkiet i teknologiverdenen.

Den usynlige koden som lenker fast skyen

For å forstå hvorfor ett selskap for tiden dominerer dette feltet, må man se forbi den fysiske brikken. De fleste observatører fokuserer på antall transistorer eller klokkehastigheten til en grafikkprosessor (GPU). Den virkelige styrken ligger imidlertid i programvarelaget som ligger mellom maskinvaren og utvikleren. Nvidia brukte nesten to tiår på å bygge et proprietært miljø kalt CUDA. Dette miljøet lar programmerere bruke den parallelle prosesseringskraften til en GPU for oppgaver som ikke har noe med grafikk å gjøre. Fordi så mye eksisterende kode er skrevet spesifikt for dette miljøet, er det ikke bare å bytte ut et kort for å gå over til en konkurrent. Det krever omskriving av tusenvis av linjer med kompleks kode. Dette er den programvare-vollen som hindrer selv de best finansierte konkurrentene i å få fotfeste umiddelbart. Det skaper en situasjon der maskinvaren i praksis fungerer som inngangsbilletten til et spesifikt programvareøkosystem.

AMD forsøker å motvirke dette med en åpen kildekode-tilnærming kalt ROCm. Strategien deres er å tilby et levedyktig alternativ som ikke låser utviklere til én enkelt leverandør. Selv om deres nyeste maskinvare, som MI300-serien, viser stort potensial når det gjelder rå ytelse, er programvaregapet fortsatt en betydelig hindring. Mange utviklere opplever at de nyeste verktøyene og bibliotekene er optimalisert for Nvidia først, noe som gjør at andre plattformer må spille innhenting. Denne dynamikken forsterker dominansen til den etablerte aktøren. Hvis du er en ingeniør som prøver å få en modell til å kjøre i dag, går du dit dokumentasjonen er mest komplett og feilene allerede er funnet. Du kan finne flere detaljer om de siste fremskrittene innen GPU-arkitektur gjennom offisiell teknisk dokumentasjon. Å forstå infrastrukturen for kunstig intelligens er avgjørende for alle som prøver å forutsi hvor den neste bølgen av innovasjon vil komme fra. Konkurransen handler nå like mye om utvikleropplevelsen som om selve silisiumet.

Et geopolitisk monopol på intelligens

Implikasjonene av dette kappløpet om datakraft strekker seg langt utover regnskapene i Silicon Valley. Vi ser en konsentrasjon av makt som kan måle seg med oljemonopolene på 1900-tallet. En håndfull hyperskalere, inkludert Microsoft, Amazon og Google, er de største kjøperne av disse avanserte brikkene. Dette skaper en positiv tilbakemeldingssløyfe der de største selskapene får den beste maskinvaren først, noe som lar dem bygge kraftigere modeller, som igjen genererer mer inntekter til å kjøpe enda mer maskinvare. Denne konsentrasjonen av ressurser betyr at mindre aktører og til og med hele nasjoner havner på feil side av et voksende skille. De som har tilgang til massive datasentre kan innovere i et tempo som er umulig for de som ikke har det. Dette har ført til fremveksten av et to-delt system i teknologibransjen: de som er rike på datakraft og de som er fattige på datakraft.

Myndigheter har lagt merke til denne ubalansen. Silisium blir nå sett på som en strategisk ressurs av nasjonal betydning. Eksportrestriksjoner er innført for å hindre at avanserte brikker når visse regioner, og maskinvare brukes i praksis som et verktøy for utenrikspolitikk. Disse restriksjonene handler ikke bare om å forhindre militær bruk. De handler om å sikre at de økonomiske fordelene ved neste generasjons programvare forblir innenfor spesifikke grenser. Forsyningskjeden for disse brikkene er også utrolig skjør. Det meste av den avanserte produksjonen skjer på ett enkelt sted i Taiwan, noe som skaper et sårbart punkt for hele den globale økonomien. Vi så hvordan forsyningsbegrensninger kunne stanse produksjonen i flere bransjer. Hvis flyten av avanserte GPU-er skulle stoppe opp, ville utviklingen av moderne programvare i praksis fryse fast. Denne avhengigheten av noen få selskaper og én enkelt produksjonspartner er en risiko som mange analytikere mener ennå ikke er fullt priset inn i markedet. Ifølge rapporter fra Reuters er disse sårbarhetene i forsyningskjeden en topprioritet for globale handelsregulatorer.

Den høye prisen for sulten på datakraft

Tenk på den daglige virkeligheten for en gründer i dagens miljø. Deres primære bekymring er ikke lenger bare å ansette de beste talentene eller finne en produkt-marked-match. I stedet bruker de en betydelig del av tiden sin på å forhandle om server-tid. En vanlig dag kan denne gründeren starte med å gå gjennom «burn rate»-budsjettet, bare for å oppdage at mesteparten av kapitalen går direkte til en skyleverandør for å leie tilgang til H100-klynger. De kan ikke kjøpe brikkene direkte fordi leveringstiden er måneder lang, og de mangler kjøleinfrastrukturen til å drifte dem lokalt. De tvinges til å vente i en digital kø, i håp om at en større kunde ikke overbyr dem for prioritert tilgang. Dette er langt fra de tidlige dagene av internett, da noen få billige servere kunne støtte en global plattform. Inngangsprisen for seriøs utvikling har beveget seg fra tusenvis av dollar til millioner.

Dagen fortsetter med en kamp mot teknisk gjeld. Fordi de bruker leid maskinvare, må de optimalisere hvert sekund med treningstid. Hvis en jobb feiler på grunn av en liten kodefeil, kan det koste tusenvis av dollar i bortkastet datakraft. Dette presset kveler eksperimentering. Utviklere er mindre tilbøyelige til å prøve radikale nye ideer når kostnaden ved å feile er så høy.

Det er også problemet med *økosystem-innlåsing* som blir tydelig når de prøver å flytte arbeidsmengden sin. De kan oppdage at et spesifikt bibliotek de brukte bare fungerer effektivt på én type maskinvare, noe som gjør dem til en fanget kunde hos en spesifikk skyleverandør. Gründeren innser at de ikke bare bygger et produkt: de fungerer som et mellomledd for kapital som flyter fra investorene deres direkte til brikkeprodusentene. Denne virkeligheten endrer hvilke typer selskaper som får finansiering. Investorer ser i økende grad etter team som har garantert tilgang til datakraft, fremfor bare gode ideer. Dette skiftet er dokumentert i ferske bransjeundersøkelser fra Gartner, som fremhever de økende kostnadene for infrastruktur som en primær inngangsbarriere.

Har du en AI-historie, et verktøy, en trend eller et spørsmål du synes vi bør dekke? Send oss din artikkelidé — vi vil gjerne høre den.

Den skjulte skatten av proprietært silisium

Ettersom vi beveger oss dypere inn i denne æraen med akselerert databehandling, må vi stille vanskelige spørsmål om de langsiktige konsekvensene. Er det sunt at fundamentet for moderne teknologi kontrolleres av et så lite antall enheter? Når ett selskap leverer maskinvaren, programvaremiljøet og nettverksforbindelsene, eier de i praksis hele stakken. Dette skaper en skjult skatt på innovasjon. Hver utvikler som skriver kode for et proprietært system, bidrar til et monopol som blir vanskeligere å bryte for hver dag som går. Hva skjer med personvernet når data må passere gjennom disse spesialiserte brikkene i et delt skymiljø? Selv om leverandører hevder at data er isolert, antyder den fysiske virkeligheten av delt silisium at nye typer sidekanal-angrep kan være mulige. Vi bytter åpenhet mot ytelse, og den fulle kostnaden av den handelen er ennå ikke kjent.

Det er også spørsmålet om miljømessig bærekraft. Strømbehovet for disse nye datasentrene er svimlende. Vi bygger massive anlegg som krever like mye strøm som små byer bare for å utføre matrisemultiplikasjoner. Er dette en bærekraftig vei for planeten? Hvis etterspørselen etter disse modellene fortsetter å vokse i dagens tempo, vil vi til slutt nå en fysisk grense for hvor mye energi vi kan levere. Videre, hva skjer hvis den nåværende entusiasmen rundt disse teknologiene flater ut? Vi er for tiden i en massiv utbyggingsfase, men hvis den økonomiske avkastningen ikke materialiserer seg for selskapene som kjøper disse brikkene, kan vi se en plutselig og voldsom korreksjon. Gjelden som er tatt opp for å bygge denne infrastrukturen må fortsatt betales, uavhengig av om programvaren den kjører er lønnsom. Vi må vurdere om vi bygger på sand eller om vi står overfor et permanent skifte i hvordan verden fungerer.

Under panseret på AI-motoren

For de som trenger å forstå de tekniske begrensningene, handler historien om mer enn bare GPU-en. Flaskehalsen i moderne databehandling har flyttet seg fra prosessoren til minnet og sammenkoblingen. High Bandwidth Memory, spesifikt HBM3e, er for tiden den mest ettertraktede komponenten i verden. Det lar prosessoren få tilgang til data i hastigheter som tidligere var umulige. Uten dette minnet ville den raskeste GPU-en stått ubrukt og ventet på at data skulle ankomme. Dette er grunnen til at forsyningsbegrensningene er så vedvarende. Det handler ikke bare om å lage flere brikker: det handler om å koordinere produksjonen av flere komplekse komponenter fra ulike leverandører. Tilgjengeligheten av dette minnet vil sannsynligvis diktere den totale produksjonen for hele bransjen. Dette er en fysisk grense som programvare ikke lett kan overvinne.

Nettverk er den andre kritiske brikken i puslespillet. Når du trener en modell på tvers av tusenvis av GPU-er, blir hastigheten som disse brikkene kan snakke sammen med, den definerende faktoren for ytelse. Nvidia bruker en proprietær sammenkobling kalt NVLink, som gir mye høyere gjennomstrømning enn standard Ethernet. Dette er et annet lag av vollgraven. Selv om en konkurrent lager en brikke som er raskere isolert sett, kan de ikke matche ytelsen til en klynge hvis nettverket deres er tregere. Avanserte brukere må også forholde seg til strenge API-grenser og virkeligheten med flaskehalser i lokal lagring. Selv med den raskeste datakraften forblir det en treg og kostbar prosess å flytte terabyte med data inn i klyngen. Følgende faktorer er for tiden de primære tekniske begrensningene for avanserte brukere:

• Metning av minnebåndbredde under storskala inferens-oppgaver.
• Termisk struping i rack-konfigurasjoner med høy tetthet.
• Latens i sammenkoblinger ved skalering utover en enkelt pod.
• De høye kostnadene for persistent lagring nær datakraft-nodene.

De fleste organisasjoner oppdager at de ikke kan kjøre disse arbeidsmengdene lokalt. De spesialiserte kravene til strøm og kjøling er utenfor kapasiteten til et standard datasenter. Dette tvinger frem en avhengighet av noen få spesifikke leverandører som har kapitalen til å bygge disse skreddersydde miljøene. «Geek»-delen av markedet handler ikke lenger om å bygge din egen rigg: det handler om å forstå konfigurasjonsalternativene til en virtuell maskin i et eksternt anlegg. Overgangen fra lokal maskinvare til abstrahert skydatabehandling er nesten fullført for avanserte arbeidsmengder.

Dommen over silisiumkrigen

Kappløpet mellom Nvidia og AMD er ikke en enkel konkurranse om hastighet. Det er en kamp om fremtiden til dataplattformen. Nvidia har et massivt forsprang, ikke bare på grunn av maskinvaren sin, men fordi de har lykkes med å låse utviklermiljøet til sitt programvareøkosystem. AMD kjemper en oppoverbakke ved å fremme åpne standarder, men de står overfor en betydelig utfordring med å overvinne tregheten i eksisterende kodebaser. De virkelige vinnerne så langt er hyperskalerne som har kapitalen til å kjøpe dette silisiumet i bulk, noe som ytterligere sentraliserer makten i teknologibransjen. For den gjennomsnittlige brukeren eller utvikleren er innsatsen praktisk. Vi ser kostnadene for innovasjon stige og fremveksten av en ny type portvokter. Silisiumkrigen skriver om reglene for den globale økonomien, og vi er bare i startfasen av å se den sanne effekten. Fokus må forbli på om denne konsentrasjonen av makt tjener samfunnets bredere interesser eller bare interessene til de som eier brikkene.

Redaktørens merknad: Vi opprettet dette nettstedet som et flerspråklig knutepunkt for AI-nyheter og guider for folk som ikke er datanerder, men som likevel ønsker å forstå kunstig intelligens, bruke den med større selvtillit og følge fremtiden som allerede er her.

Fant du en feil eller noe som må korrigeres? Gi oss beskjed.