Seuraava suuri AI-siru-vallankumous: nopeampi, pienempi vai tehokkaampi?

Kilpailu nopeammasta tekoälystä on siirtynyt yksinkertaisista kellotaajuuksista monimutkaiseen taisteluun järjestelmäarkkitehtuurista. Pelkkä transistorien ahtaminen pii-kiekolle ei enää riitä. Ala on kohdannut seinän, jossa prosessorin ja muistin välisen tiedonsiirron nopeus on itse prosessoria tärkeämpää. Tämä muutos määrittää nykyistä laitteistoaikakautta. Yritykset, jotka keskittyivät aiemmin vain sirusuunnitteluun, joutuvat nyt hallitsemaan globaaleja toimitusketjuja ja kehittyneitä pakkaustekniikoita pysyäkseen mukana. Viimeisin muutos suuntautuu kohti kokonaisvaltaisia järjestelmiä, joissa verkottuminen ja muisti ovat yhtä kriittisiä kuin logiikkaportit. Tämä kehitys muuttaa ohjelmistojen kirjoittamista ja sitä, miten hallitukset näkevät kansallisen turvallisuuden. Jos haluat ymmärtää, mihin teknologia on menossa, tarkastele sirujen välisiä yhteyksiä itse sirujen sijaan. Alustan teho riippuu nykyään sen kyvystä integroida nämä erilliset osat yhdeksi yhtenäiseksi kokonaisuudeksi. Ne, jotka jättävät huomiotta laitteiston fyysiset rajat, huomaavat ohjelmistounelmiensa tyssäävän viiveisiin ja lämpöön.

Piin pinoaminen muistimuurin murtamiseksi

Ymmärtääksesi nykyistä muutosta, sinun on tarkasteltava, miten sirut kootaan fyysisesti. Vuosikymmenten ajan ala noudatti litteää suunnittelua. Oli prosessori ja oli muisti, ja ne sijaitsivat erillään piirilevyllä. Nykyään tuo etäisyys on suorituskyvyn suurin vihollinen. Tämän ratkaisemiseksi valmistajat kääntyvät kehittyneen pakkauksen puoleen. Se tarkoittaa komponenttien pinoamista päällekkäin tai vierekkäin erikoistuneelle alustalle, jota kutsutaan interposeriksi. Tämä tekniikka, jota kutsutaan usein nimellä Chip on Wafer on Substrate, mahdollistaa massiivisten tietomäärien siirtämisen nopeuksilla, jotka olivat aiemmin mahdottomia. Tämä ei ole vain pieni parannus. Se on perustavanlaatuinen muutos siinä, miten rakennamme tietokoneita. Kun pinoat **High Bandwidth Memory** -muistia suoraan prosessoriydinten viereen, poistat liikenneruuhkat, jotka hidastavat suuria kielimalleja. Siksi yritykset kuten NVIDIA ovat niin dominoivia. He eivät myy vain sirua. He myyvät tiiviisti integroidun paketin, joka sisältää muistin ja nopeat liitännät.

Itse muisti on myös muuttunut. Tavallinen RAM ei pysy nykyaikaisen tekoälyn vaatimusten perässä. Ala on siirtynyt kohti erikoistunutta muistia, joka tarjoaa huomattavasti suuremman läpimenon. Tämä muisti on kallista ja vaikeaa valmistaa, mikä luo toimituspullonkaulan. Jos yritys ei saa hankittua tarpeeksi tätä erikoismuistia, heidän kehittyneet prosessorinsa ovat käytännössä hyödyttömiä. Tämä riippuvuus osoittaa, että laitteistotarina on nykyään järjestelmätarina. Et voi puhua aivoista puhumatta verisuonista, jotka kuljettavat verta. Siirtyminen 2D-rakenteista 3D-rakenteisiin on markkinoiden merkittävin tekninen signaali tänään. Se erottaa vakavasti otettavat toimijat niistä, jotka vain iteroivat vanhoja malleja. Tämä siirtymä vaatii massiivisia investointeja valmistuslaitoksiin, jotka pystyvät käsittelemään tällaista tarkkuutta. Vain harvoilla yrityksillä maailmassa, kuten TSMC:llä, on kyky tehdä tätä laajassa mittakaavassa.

Tekoälyn geopoliittinen todellisuus on sidottu siihen, missä nämä sirut valmistetaan. Suurin osa kehittyneestä valmistuksesta on keskittynyt muutaman neliökilometrin alueelle Taiwanissa. Tämä keskittyminen luo globaalille taloudelle yhden epäonnistumispisteen. Jos tuotanto siellä pysähtyy, koko teknologia-ala pysähtyy. Hallitukset käyttävät nyt miljardeja dollareita kotimaisten tehtaiden rakentamiseen, mutta näiden projektien valmistuminen vie vuosia. Vientirajoituksista on myös tullut merkittävä tekijä. Yhdysvaltain hallitus on rajoittanut huippuluokan tekoälysirujen myyntiä tietyille maille teknologisen etumatkan säilyttämiseksi. Tämä on pakottanut yritykset suunnittelemaan laitteistostaan erityisiä versioita, jotka noudattavat näitä sääntöjä. Tämä globaalien markkinoiden pirstoutuminen tarkoittaa, että sijaintisi määrittää, millaista tekoälyä voit rakentaa. Se on paluu maailmaan, jossa fyysiset rajat määrittelevät digitaaliset mahdollisuudet. Laitteiston ja alustan tehon välinen yhteys on nyt kansallisen politiikan asia. Maa, jolla ei ole pääsyä uusimpaan pii-teknologiaan, ei voi kilpailla ohjelmistoaikakaudella. Siksi näemme niin aggressiivisia toimia toimitusketjun hallitsemiseksi raaka-aineista valmiisiin järjestelmiin.

Kehittäjälle tai pienyritykselle näillä laitteistomuutoksilla on välittömiä seurauksia. Kuvittele luova tekijä nimeltä Sarah, joka pyörittää pientä studiota. Vuosi sitten hän luotti täysin pilvipalveluntarjoajiin tekoälytyökalujensa ajamisessa. Hän maksoi korkeita kuukausimaksuja ja oli huolissaan datansa käytöstä koulutustarkoituksiin. Nykyään tehokkaampien sirumallien ja paremman paikallisen muisti-integraation ansiosta hän voi ajaa tehokasta mallia yhdellä työasemalla. Hänen päivänsä alkaa sillä, että hänen paikallinen koneensa generoi korkearesoluutioisia resursseja hänen juodessaan kahvia. Hänen ei tarvitse odottaa toisessa osavaltiossa sijaitsevan palvelimen vastausta. Koska laitteisto on tehokkaampi, hänen toimistonsa ei ylikuumene ja sähkölasku pysyy hallittavana. Tämä siirtymä kohti paikallista laskentaa on suora seuraus paremmasta sirupakkauksesta ja muistinhallinnasta. Se antaa tekijöille enemmän autonomiaa ja parempaa yksityisyyttä. Tämä luo kuitenkin myös kuilun. Niillä, joilla on varaa uusimpaan laitteistoon, on valtava tuottavuusetu niihin verrattuna, jotka ovat jumissa vanhemmissa järjestelmissä.

Vaikutus ulottuu siihen, miten yritykset suunnittelevat budjettejaan. Keskikokoisen yrityksen on ehkä valittava massiivisen pilvisopimuksen tai oman laitteistoklusterin investoinnin välillä. Tämä päätös ei koske enää vain kustannuksia. Se koskee kontrollia. Kun omistat laitteiston, omistat koko pinon. Et ole riippuvainen suuren teknologiatoimittajan API-rajoituksista tai muuttuvista käyttöehdoista. Voit optimoida ohjelmistosi toimimaan nimenomaan omalla laitteistollasi ja puristaa irti jokaisen suorituskyvyn pisaran. Tämä on sirumuutoksen käytännön puoli. Se siirtää tekoälyn etäisestä palvelusta paikalliseksi hyödykkeeksi. Mutta tämä hyödyke vaatii erikoisosaamista. Korkean suorituskyvyn siruklusterin hallinta ei ole sama asia kuin perinteisen palvelinhuoneen hallinta. Sinun on käsiteltävä monimutkaisia verkkoprotokollia ja nestejäähdytysjärjestelmiä. Todellinen vaikutus on uusi laitteistolukutaidon kysyntä ohjelmistotiimeissä. Nämä kaksi alaa sulautuvat yhteen tavalla, jota ei ole nähty tietotekniikan alkuajoista lähtien.

• Mallien paikallinen suorittaminen vähentää viivettä reaaliaikaisissa sovelluksissa.
• Kehittyneet jäähdytysvaatimukset muuttavat nykyaikaisten datakeskusten fyysistä asettelua.
• Laitteistotason salaus tarjoaa uuden tietoturvakerroksen arkaluonteiselle datalle.
• Omisteiset liitännät pakottavat yritykset pysymään yhden laitteistoekosysteemin sisällä.
• Energiatehokkuudesta tulee mobiilin tekoälyn suorituskyvyn ensisijainen mittari.

Meidän on kysyttävä itseltämme, mitkä ovat tämän laitteisto-obsessioin piilokustannukset. Kun tavoittelemme lisää tehoa, jätämmekö huomiotta näiden monimutkaisten järjestelmien valmistamisen ympäristövaikutukset? Nykyaikaisen tehtaan pyörittämiseen tarvittava vesi- ja energiamäärä on hämmästyttävä. On myös kysymys yksityisyydestä laitteistotasolla. Jos itse piissä on sisäänrakennettu telemetria, voimmeko koskaan olla varmoja, että datamme on yksityistä? Oletamme usein, että enemmän laskentatehoa on aina parempi, mutta kysymme harvoin, vaativatko ratkaisemamme ongelmat näin paljon tehoa. Rakennammeko digitaalista maailmaa, jossa vain varakkaimmilla kansakunnilla ja yrityksillä on varaa elää? Valmistusvallan keskittyminen muutamiin käsiin on riski, jonka jätämme enimmäkseen huomiotta kiireessä kohti nopeampia tokeneita sekunnissa. Meidän pitäisi pohtia, luommeko laitteistomonokulttuuria, joka on haavoittuvainen järjestelmälliselle epäonnistumiselle. Laitteisto on kohtalo nykyisessä teknologiailmastossa, mutta tuota kohtaloa kirjoittaa hyvin pieni ihmisryhmä.

Meidän on kyseenalaistettava, onko suorituskyvyn ja läpinäkyvyyden välinen kompromissi sellainen, jonka olemme valmiita tekemään. Nykyinen suuntaus kohti suljettuja laitteistoekosysteemejä vaikeuttaa riippumattomien tutkijoiden mahdollisuuksia todentaa, miten nämä järjestelmät todellisuudessa toimivat.

Tehokäyttäjille tekniset yksityiskohdat ovat se, missä todellinen tarina piilee. Ohjelmistojen ja laitteistojen integraatio tapahtuu erikoistuneiden kirjastojen, kuten CUDA:n tai ROCm:n, kautta. Nämä eivät ole vain ajureita; ne ovat silta, joka antaa koodin puhua sirun tuhansille pienille ytimille. Monien työnkulkujen nykyinen pullonkaula on pilvipalveluntarjoajien asettama API-rajoitus. Siirtymällä paikalliseen laitteistoon käyttäjät voivat ohittaa nämä rajoitukset, mutta heidän on kohdattava paikallisen tallennustilan ja muistin kaistanleveyden rajoitteet. Liitännän nopeus, kuten NVLink, määrittää, kuinka hyvin useat sirut voivat toimia yhdessä yhtenä yksikkönä. Jos liitäntä on hidas, useampien sirujen lisääminen antaa pienenevän tuoton. Siksi uusimmat tekoälylaitteistotrendit osoittavat keskittymistä verkottumiseen yhtä paljon kuin prosessointiin. Sinun on myös otettava huomioon lämpösuunnittelun teho (TDP). Siru, joka käy liian kuumana, kuristaa omaa suorituskykyään, mikä tekee sen teoreettisesta huippunopeudesta merkityksettömän. Paikallisen tallennustilan nopeudella on myös merkitystä, sillä mallin painot on ladattava muistiin nopeasti käynnistysviiveiden välttämiseksi. Markkinoiden nörttiosio on siirtymässä pois yksinkertaisista benchmarkeista kohti koko järjestelmän kattavia läpimenomittareita.

• Liitännän kaistanleveys ylittää nykyään useita teratavuja sekunnissa huippuluokan klustereissa.
• Kvantisointitekniikat mahdollistavat suurten mallien mahtumisen pienempiin muistitiloihin.
• Yhtenäiset muistiarkkitehtuurit mahdollistavat CPU:n ja GPU:n jakaa saman tietovarannon.
• Laitteistokiihdyttimet tietyille matemaattisille operaatioille ovat yleistymässä kuluttaja-CPU:issa.
• Paikalliset API-päätepisteet mahdollistavat saumattoman integraation eri ohjelmistotyökalujen välillä.

Merkittävää edistystä ensi vuoden aikana ei mitata korkeammilla kellotaajuuksilla. Sen sijaan meidän tulisi etsiä parannuksia energiatehokkuudessa ja kehittyneen pakkauksen demokratisoinnissa. Jos näemme siirtymän kohti avoimempia liitäntästandardeja, se olisi merkittävä signaali. Se tarkoittaisi, että käyttäjät eivät ole enää lukittuja yhden toimittajan pinoon. Meidän tulisi myös seurata sirun sisäisen verkottumisen kehitystä, joka vähentää datan siirtämiseen tarvittavaa tehoa. Todellinen menestys on se, jos korkean suorituskyvyn tekoäly tulee saataville muillekin kuin vain ylimmälle prosentille yrityksistä. Käytännön panokset ovat korkeat. Laitteisto on kaiken digitaalisessa tilassa rakentamamme perusta. Jos tuo perusta on keskittynyt, kallis ja läpinäkymätön, teknologian tulevaisuus on samanlainen. Meidän on siirryttävä kohti maailmaa, jossa piin voimaa käytetään todellisten ongelmien ratkaisemiseen kaikille, ei vain lisäämään kohinaa markkinoilla. Muutos tapahtuu nyt, ja sen seuraukset tuntuvat vuosikymmenien ajan.

Toimittajan huomautus: Loimme tämän sivuston monikieliseksi tekoälyuutisten ja -oppaiden keskukseksi ihmisille, jotka eivät ole tietokonenörttejä, mutta haluavat silti ymmärtää tekoälyä, käyttää sitä luottavaisemmin ja seurata jo saapuvaa tulevaisuutta.

Löysitkö virheen tai jotain korjattavaa? Kerro meille.