De nye AI-kraftsentrene: Modeller, chips, cloud og data

Slutten på den virtuelle æraen

Tiden da kunstig intelligens bare var et programvarefenomen, er forbi. I årevis fokuserte teknologiverdenen på elegante algoritmer og smarte chat-grensesnitt. Nå har fokuset skiftet til den brutale virkeligheten av fysiske ressurser. Vi ser en massiv overføring av makt fra de som skriver kode til de som kontrollerer strøm, vann og landareal. Evnen til å bygge en smartere modell avhenger ikke lenger bare av forskernes talent. Det avhenger av evnen til å sikre tusenvis av dekar med land og en direkte tilkobling til et høyspentstrømnett. Dette er en retur til den industrielle tidsalderen, hvor de største aktørene er de med den tyngste infrastrukturen. Flaskehalsen er ikke lenger menneskelig kreativitet. Det er kapasiteten til en transformator på en transformatorstasjon eller gjennomstrømningshastigheten i et kjølesystem. Hvis du ikke får tak i strøm, kan du ikke kjøre beregningene. Hvis du ikke kan kjøre beregningene, eksisterer ikke programvaren din. Denne fysiske virkeligheten omorganiserer det globale hierarkiet for teknologiselskaper og nasjoner. Vinnerne er de som kan forvandle fysisk materie til digital intelligens i massiv skala.

Intelligensens fysiske stack

Infrastrukturen som kreves for moderne AI er langt mer kompleks enn en enkel samling servere. Det starter med strømnettet. Datasentre krever nå hundrevis av megawatt med strøm for å fungere. Dette behovet tvinger teknologiselskaper til å forhandle direkte med strømleverandører og til og med investere i sin egen energiproduksjon. Fysisk land med riktig regulering og nærhet til fiberoptiske stamnett har blitt mer verdifullt enn selve programvaren. Vann er den neste kritiske ressursen. Disse enorme klyngene av chips genererer ekstrem varme. Tradisjonell luftkjøling er ofte utilstrekkelig for den nyeste maskinvaren. Selskaper går over til væskekjølesystemer som krever millioner av liter vann hver dag for å hindre at prosessorene smelter. Utover selve anlegget er forsyningskjeden for maskinvaren utrolig konsentrert. Det handler ikke bare om designet på chipsene. Det handler om avanserte pakketeknikker som CoWoS, som gjør at flere chips kan kobles sammen. Det handler om High Bandwidth Memory som gir datahastighetene som er nødvendige for trening. Produksjonen av disse komponentene skjer ved noen få anlegg globalt. Denne konsentrasjonen skaper et sårbart system der en enkelt forstyrrelse kan stoppe fremgangen for hele industrien. Begrensningene er ikke abstrakte. De er konkrete grenser for hvor mye intelligens vi kan produsere i .

• Kapasitet for nettilkobling og tiden som kreves for oppgraderinger av strømnettet.
• Tillatelsesprosesser for industriell kjøling og vannbruk i stor skala.
• Lokal motstand fra lokalsamfunn som er bekymret for støy og strømpriser.
• Tilgjengelighet av spesialiserte elektriske komponenter som høyspenttransformatorer.
• Eksportkontroller på avansert litografi- og pakkeutstyr.

Strømnettets geopolitikk

Distribusjonen av AI-kraft er i ferd med å bli et spørsmål om nasjonal sikkerhet. Regjeringer innser at evnen til å behandle informasjon er like viktig som evnen til å produsere olje eller stål. Dette har ført til en bølge av eksportkontroller designet for å hindre rivaler i å skaffe seg de mest avanserte chipsene og maskineriet som trengs for å lage dem. Fokus skifter imidlertid fra chips til strøm. Nasjoner som har stabil, billig og rikelig med energi, blir de nye knutepunktene for beregningskraft. Dette er grunnen til at vi ser massive investeringer i regioner med underutnyttede strømnett eller stort potensial for fornybar energi. Konsentrasjonen av produksjon i Øst-Asia forblir et betydelig spenningspunkt. Et enkelt selskap som TSMC håndterer størstedelen av avansert chipproduksjon. Hvis den produksjonen blir avbrutt, ville den globale tilgangen på AI-kapasitet forsvunnet over natten. Dette har ført til en hektisk innsats fra USA og Europa for å subsidiere innenlandsk produksjon. Men å bygge en fabrikk er den enkle delen. Å sikre den spesialiserte arbeidsstyrken og de enorme mengdene elektrisitet som trengs for å drive disse anleggene, er en utfordring som tar tiår. Den globale maktbalansen er nå knyttet til stabiliteten i strømnettet og sikkerheten til maritime ruter som frakter minnemoduler og nettverkshardware. Dette er et spill med høy innsats der inngangsprisen måles i titalls milliarder dollar. Du kan finne mer detaljerte data om globale elektrisitetstrender i ferske rapporter fra Det internasjonale energibyrået (IEA).

Når servere møter nabolaget

Virkningen av denne infrastrukturboomen merkes mest lokalt. Tenk deg en kommuneansatt i en mellomstor by. Et stort teknologiselskap kommer med et forslag om et datasenter. På papiret ser det ut som en seier for skattegrunnlaget. I virkeligheten er det en kompleks forhandling om byens fremtid. Den ansatte må finne ut om det lokale strømnettet kan håndtere en plutselig belastning på 200 megawatt uten at det fører til strømbrudd for innbyggerne. De må veie fordelene med skatteinntekter opp mot støyen fra tusenvis av kjølevifter som går 24 timer i døgnet. For en innbygger som bor nær et av disse anleggene, endres hverdagen. De stille utkantsområdene blir en industrisone. Det lokale grunnvannsspeilet kan synke ettersom anlegget trekker millioner av liter vann til kjøletårnene sine. Det er her den abstrakte ideen om AI møter virkeligheten av lokal motstand. På steder som Nord-Virginia eller deler av Irland gjør lokalsamfunn opprør. De spør hvorfor strømprisene deres stiger for å subsidiere driften til en global teknigigant. De stiller spørsmål ved miljøpåvirkningen av disse massive betongblokkene. For en startup som prøver å bygge en ny applikasjon, er utfordringen annerledes. De har ikke kapital til å bygge sine egne kraftverk. De er prisgitt de store cloud-leverandørene som kontrollerer tilgangen til beregningskraft. Hvis cloud-leverandøren går tom for kapasitet eller hever prisene på grunn av energikostnader, er startupen konkurs. Dette skaper et system der bare de rikeste selskapene har råd til å innovere. Synligheten til et produkt i markedet er ikke det samme som varig innflytelse. Ekte innflytelse kommer fra å eie de fysiske ressursene som programvaren er avhengig av. Dette skiftet mot kjernekraft hos teknologiselskaper er et tydelig tegn på hvor desperate de er etter stabil energi.

De skjulte kostnadene ved skala

Vi må stille vanskelige spørsmål om den langsiktige bærekraften i denne veksten. Hvem betaler egentlig for de skjulte kostnadene ved AI-infrastruktur? Når et datasenter bruker en betydelig del av byens vannforsyning under en tørke, er ikke kostnaden bare økonomisk. Det er en sosial kostnad som bæres av lokalsamfunnet. Er skatteinsentivene som gis til disse selskapene verdt belastningen på offentlige ressurser? Vi må også vurdere konsentrasjonen av makt hos noen få selskaper som kontrollerer brukerrelasjonen og beregningskraften. Hvis tre eller fire selskaper eier størstedelen av verdens AI-kapasitet, hva betyr det for konkurransen? Er det mulig for en ny aktør å dukke opp når kapitalkravene er så høye? Vi bygger et system som er utrolig effektivt, men også utrolig sårbart. En enkelt feil i en spesialisert transformatorfabrikk eller tørke i et viktig kjøleknutepunkt kan utløse en kaskade av feil i hele økosystemet. Hva skjer med skaperne og selskapene som har bygget hele arbeidsflyten sin på toppen av disse modellene hvis den fysiske infrastrukturen svikter? Vi må også se på miljøpåvirkningen. Selv om selskaper hevder å være karbonnøytrale, tvinger det enorme energibehovet mange til å holde eldre, skitnere kraftverk i drift lenger enn planlagt. Er fordelen med en litt bedre chatbot verdt forsinkelsen i overgangen til ren energi? Dette er ikke bare tekniske spørsmål. Det er etiske og politiske spørsmål som vil definere det neste tiåret med teknologisk utvikling. Vår nåværende AI-infrastrukturanalyse viser at gapet mellom de som har og de som ikke har, øker basert på fysisk tilgang.

Har du en AI-historie, et verktøy, en trend eller et spørsmål du synes vi bør dekke? Send oss din artikkelidé — vi vil gjerne høre den.

Under panseret på høy ytelse

For de som trenger å forstå de tekniske begrensningene i denne nye æraen, må fokuset flyttes utover modellparametrene. De virkelige flaskehalsene ligger nå i nettverk og minne. Trening av en modell i stor skala krever tusenvis av GPU-er som jobber i perfekt synkronisering. Dette er bare mulig gjennom høyhastighets nettverksteknologier som InfiniBand eller spesialiserte Ethernet-konfigurasjoner. Forsinkelsen (latency) mellom disse chipsene kan være forskjellen på en modell som trenes på uker og en som tar måneder. Så er det spørsmålet om minne. High Bandwidth Memory (HBM) er en mangelvare fordi produksjonsprosessen er betydelig vanskeligere enn for standard DRAM. Dette begrenser antallet high-end chips som kan produseres, selv om logikkplatene er tilgjengelige. På programvaresiden når utviklere grensene for hva API-er kan tilby. Rate limits handler ikke lenger bare om å forhindre misbruk. De er en refleksjon av den fysiske kapasiteten til den underliggende maskinvaren. For avanserte brukere er overgangen til lokal lagring og lokal utførelse et svar på disse begrensningene. Hvis du kan kjøre en mindre, optimalisert modell på din egen maskinvare, omgår du køen i datasenteret. Lokal maskinvare har imidlertid sine egne grenser når det gjelder termisk styring og strømforbruk. Integreringen av disse modellene i eksisterende arbeidsflyter hemmes også av mangelen på standardiserte grensesnitt. Hver leverandør har sin egen proprietære stack, noe som gjør det vanskelig å bytte hvis én leverandør opplever et fysisk avbrudd. Konsentrasjonen av produksjon er også synlig i markedet for avansert pakking. TSMCs fremskritt innen chip-pakking er den eneste grunnen til at vi kan fortsette å skalere ytelsen etter hvert som vi når grensene for tradisjonell silisium. Dette er bransjens geek-virkelighet.

• Gjennomstrømningsgrenser for InfiniBand og NVLink for trening av klynger med flere noder.
• HBM3e-forsyningsbegrensninger og effekten på det totale produksjonsvolumet av GPU-er.
• API-forsinkelsestopper forårsaket av svingninger i det regionale strømnettet.
• Lokal NVMe-lagringshastighet som flaskehals for datainntak ved finjustering.
• Termiske strupegrenser for rack-konfigurasjoner med høy tetthet i eldre anlegg.

Den nye virkeligheten for utviklere

Overgangen fra en programvare-først til en maskinvare-først verden er fullført. Selskapene som vil lede neste fase av utviklingen, er de som har sikret forsyningskjedene og energikildene sine. For resten av bransjen er utfordringen å innovere innenfor begrensningene som den fysiske verden setter. Dette betyr å skrive mer effektiv kode som krever mindre beregningskraft. Det betyr å finne måter å bruke mindre modeller som kan kjøre på mindre spesialisert maskinvare. Dagene med uendelig, billig skalering er bak oss. Vi går inn i en periode der tilgangen til en nettilkobling er en viktigere beregning enn antall linjer med skrevet kode. Å forstå disse fysiske kraftsentrene er den eneste måten å forstå hvor teknologien er på vei i . Fremtiden ligger ikke bare i skyen. Den ligger i bakken, ledningene og vannet som gjør skyen mulig.

Redaktørens merknad: Vi opprettet dette nettstedet som et flerspråklig knutepunkt for AI-nyheter og guider for folk som ikke er datanerder, men som likevel ønsker å forstå kunstig intelligens, bruke den med større selvtillit og følge fremtiden som allerede er her.