Miksi läppärivalmistajat haluavat nyt kaiken olevan tekoälyä

Teknologia-ala liikkuu keskittämisen ja hajauttamisen sykleissä. Viimeisen vuosikymmenen ajan pilvipalvelut olivat maailmankaikkeuden keskiössä. Jokainen läppärisi älytoiminto nojasi kaukaisessa palvelinkeskuksessa sijaitsevaan palvelimeen. Tämä muuttuu nyt vauhdilla. Läppärivalmistajat, kuten Intel, AMD ja Apple, siirtävät älykkyyden takaisin paikalliselle laitteelle. Ne tekevät tämän lisäämällä jokaiseen uuteen koneeseen erityisen piirin, jota kutsutaan nimellä Neural Processing Unit (NPU). Tämä muutos ei koske vain nopeutta, vaan myös energiatehokkuutta ja yksityisyyttä. Kun tietokoneesi voi käsitellä monimutkaisia malleja ilman jatkuvaa yhteyttä internetiin, se muuttuu kyvykkäämmäksi ja vähemmän riippuvaiseksi tilauksista. Ala kutsuu tätä AI PC -aikakaudeksi. Kyseessä on merkittävin muutos läppärin sisäisessä arkkitehtuurissa sitten moniydinprosessorien esittelyn. Tämän siirtymän tavoitteena on muuttaa läppäri passiivisesta työkalusta aktiiviseksi avustajaksi, joka ymmärtää kontekstia kuluttamatta akkua tyhjäksi parissa tunnissa.

Ymmärtääksesi miksi tämä tapahtuu, on katsottava rautaa. Tavallisessa läppärissä on keskusprosessori (CPU) yleistehtäviin ja näytönohjain (GPU) visuaaliselle datalle. Kumpikaan ei ole täydellinen tekoälylle. CPU on liian hidas nykyaikaisten mallien vaatimalle massiiviselle laskennalle. GPU on nopea, mutta kuluttaa valtavasti sähköä. **Neural Processing Unit** on erikoistunut siru, joka on suunniteltu koneoppimisen vaatimaan erityiseen matematiikkaan. Se käyttää hyvin vähän virtaa suorittaakseen biljoonia operaatioita sekunnissa. Tämä mahdollistaa suuren kielimallin tai kuvageneraattorin ajamisen paikallisesti. Kun nämä tehtävät siirretään NPU:lle, CPU ja GPU vapautuvat normaaliin työhönsä. Tämä arkkitehtuuri estää läppäriä ylikuumenemasta älytoimintoja käytettäessä. Se tarkoittaa myös, että esimerkiksi videopuheluiden katsekontaktin korjaus voi pyöriä jatkuvasti taustalla ilman, että huomaat suorituskyvyn laskua. Valmistajat lyövät vetoa siitä, että tämä tehokkuus vakuuttaa käyttäjät päivittämään vanhenevan laitteistonsa.

Paikallisen raudan kysyntä on myös vastaus pilvilaskennan nouseviin kustannuksiin. Joka kerta kun pyydät pilvipohjaista tekoälyä tiivistämään dokumentin, se maksaa palveluntarjoajalle sähkön ja palvelinten ylläpidon muodossa. Siirtämällä työn läppärillesi yritykset kuten Microsoft ja Google säästävät miljardeja infrastruktuurikuluissa. Tämä siirtää tekoälylaskennan laskun ohjelmistontarjoajalta laitteiston ostavalle kuluttajalle. Se on fiksu veto, joka sopii Intelin ja AMD:n kaltaisten piirijättien liiketoimintatavoitteisiin. Ne tarvitsevat uuden syyn, jotta ihmiset ostaisivat tietokoneita kolmen vuoden välein. AI PC tarjoaa tämän syyn lupaamalla ominaisuuksia, jotka eivät yksinkertaisesti toimi hyvin vanhemmilla koneilla. Löydät lisätietoja näistä muutoksista kattavista tekoälyrauta-oppaistamme, jotka seuraavat kuluttajapiirien kehitystä. Tämä ei ole vain high-end-työasemien trendi, vaan siitä on tulossa standardi jokaiselle maailmanlaajuisesti myytävälle kuluttajaläppärille.

Tämän siirtymän globaali vaikutus keskittyy datan suvereniteettiin ja energiaan. Hallitukset ja suuryritykset ovat yhä huolestuneempia datansa sijainnista. Jos saksalainen pankki käyttää pilvitekoälyä arkaluontoisten taloustietojen analysointiin, data saattaa poistua maasta. Paikallinen tekoäly ratkaisee ongelman pitämällä datan läppärillä. Tämä täyttää tiukat yksityisyydensuojalait, kuten Euroopan GDPR:n ja vastaavat säädökset Aasiassa. Se myös pienentää internetin globaalia energiajalanjälkeä. Palvelinkeskukset kuluttavat valtavasti virtaa tiedon siirtämiseen ja käsittelyyn. Jos merkittävä osa tästä työstä tapahtuu miljoonilla työpöydillä jo olevilla läppäreillä, globaalin sähköverkon kuormitus vähenee. Tämä hajautettu lähestymistapa on kestävämpi. Se mahdollistaa sen, että heikompien verkkoyhteyksien alueilla työskentelevät voivat käyttää edistyneitä työkaluja, jotka olivat aiemmin vain nopeiden kuituyhteyksien päässä olevien saatavilla. Tämä laskentatehon demokratisointi on kansainvälisten teknologiamarkkinoiden tärkeä ajuri.

Tyypillisenä työpäivänä tekoälyä hyödyntävän läppärin vaikutus on hienovarainen mutta jatkuva. Kuvittele aloittavasi aamusi videopalaverilla. Aiemmin taustan sumentaminen tai melun poisto olisi saanut läppärin tuulettimet huutamaan. NPU:n avulla nämä tehtävät tapahtuvat hiljaa ja kuluttavat tuskin lainkaan akkua. Kokouksen aikana paikallinen malli litteroi keskustelun ja tunnistaa tehtävät reaaliajassa. Sinun ei tarvitse lähettää audiota palvelimelle, mikä suojaa huoneessa käsiteltyjä yrityssalaisuuksia. Myöhemmin sinun on löydettävä tietty taulukko viime vuodelta. Tiedostonimen etsimisen sijaan pyydät tietokonetta löytämään dokumentin, jossa keskusteltiin Tokion toimiston budjetista. Läppäri skannaa paikallisen tiedostohakemistonsa ja löytää sen välittömästi. Tämä on ero hakukoneen ja paikallisen älykkyysmoottorin välillä. Se ymmärtää työsi sisältöä, ei vain antamiasi nimiä.

Iltapäivällä saatat joutua luomaan kuvan esitystä varten. Sen sijaan, että odottaisit verkkosivuston jonossa, käytät paikallista versiota Stable Diffusionista. Kuva ilmestyy sekunneissa, koska NPU on optimoitu juuri tähän tehtävään. Saatat myös saada pitkän raportin, jota et ehdi lukea. Vedät sen paikalliseen ikkunaan ja saat kolmen kappaleen yhteenvedon välittömästi. Tämä työnkulku on nopeampi, koska siihen ei liity verkon latenssia. Et odota signaalin matkaavan valtameren yli ja takaisin. Tietokone tuntuu responsiivisemmalta, koska prosessointi tapahtuu sormiesi alla. Tämä on AI PC:n käytännön todellisuus. Kyse ei ole yhdestä suuresta ominaisuudesta, joka muuttaa kaiken. Kyse on sadasta pienestä parannuksesta, jotka tekevät koneesta intuitiivisemman. Tavoitteena on poistaa kitka ajatustesi ja digitaalisen lopputuloksen väliltä.

Sokraattinen skeptisyys on tarpeen näitä väitteitä arvioitaessa. Meidän on kysyttävä, onko NPU todella hyödyllinen työkalu vai vain tapa perustella korkeammat hinnat. Useimmat nykyiset tekoälyominaisuudet ovat ohjelmistokikkoja, jotka voisivat teknisesti toimia vanhemmallakin raudalla, vaikkakin hitaammin. Onko ala luomassa keinotekoista tarvetta uudelle piiteknologialle? On myös kysymys käyttöiästä. Tekoälymallit kasvavat kooltaan ja monimutkaisuudeltaan kuukausittain. Tänään ostetussa läppärissä voi olla NPU, joka kykenee 40 biljoonaan operaatioon sekunnissa, mutta riittääkö se tulevaisuuden malleille? Saatamme astua aikakauteen, jossa laitteisto vanhenee paljon nopeammin kuin viime vuosikymmenellä. Jos käyttöjärjestelmäsi ydin riippuu tietystä sirusta, menetät kyvyn käyttää tietokonettasi kymmenen vuoden ajan. Tämä luo valtavan määrän elektroniikkajätettä. Meidän on myös harkittava yksityisyyden hintaa. Tekoäly, joka indeksoi kaiken tekemäsi ollakseen avuksi, on myös tekoäly, jolla on täydellinen arkisto koko elämästäsi. Kuka hallitsee tuota indeksiä ja voiko se joutua oikeuden haastamaksi?

Tämän siirtymän tekninen taso on se, missä todelliset rajoitteet näkyvät. Jotta NPU olisi hyödyllinen, ohjelmistokehittäjien on kirjoitettava koodia, joka osaa kommunikoida sen kanssa. Tämä vaatii standardoituja rajapintoja, kuten Windows DirectML tai Intel OpenVINO. Tällä hetkellä ekosysteemi on pirstaloitunut. Ominaisuus, joka toimii Apple Macilla, ei välttämättä toimi Windows-läppärillä, jossa on AMD-siru. On myös muistin kaistanleveyden ongelma. Tekoälymallit vaativat valtavia määriä dataa siirrettäväksi nopeasti muistin ja prosessorin välillä. Useimmissa nykyisissä läppäreissä on tässä pullonkaula. Vaikka NPU olisi nopea, se saattaa viettää suurimman osan ajastaan odottaen, että RAM toimittaa dataa. Siksi näemme siirtymän kohti yhtenäisiä muistiarkkitehtuureja, joissa CPU, GPU ja NPU jakavat saman nopean datavarannon. Tämä parantaa suorituskykyä, mutta tekee läppäreistä mahdottomia päivittää ostamisen jälkeen. Et voi vain lisätä RAM-muistia myöhemmin, koska muisti on juotettu suoraan prosessorin viereen maksimaalisen nopeuden saavuttamiseksi.

Tehokäyttäjien kannattaa tarkastella teknisiä tietoja tarkasti ennen kuin hyppäävät hypen mukaan. Ala käyttää suorituskyvyn mittaamiseen TOPS-lukua. TOPS on kuitenkin raakaluku, joka ei huomioi sitä, miten siru käsittelee erityyppistä dataa, kuten INT8- tai FP16-tarkkuutta. Korkean TOPS-arvon siru voi silti kamppailla tiettyjen mallien kanssa, jos sen arkkitehtuuria ei ole optimoitu niille. On myös lämpörajoituksia, jotka on otettava huomioon. Ohuessa ja kevyessä läppärissä voi olla tehokas NPU, mutta jos se ei pysty haihduttamaan lämpöä, järjestelmä rajoittaa nopeutta muutaman minuutin kovan käytön jälkeen. Paikallinen tallennustila on toinen tekijä. Suurten mallien ajaminen paikallisesti vaatii gigatavuja tilaa pelkästään mallin painoarvoille. Jos ostat läppärin pienellä kovalevyllä, huomaat pian tilan loppuvan. Markkinoiden nörttiosasto on tällä hetkellä täynnä varhaisten omaksujien laitteita, jotka lupasivat paljon, mutta joilta puuttui ohjelmistotuki. Odotamme yhä universaalia standardia, joka tekee tekoälyohjelmistoista todella siirrettäviä kaikille laitemerkeille.

Onko sinulla tekoälytarinaa, -työkalua, -trendiä tai kysymystä, jonka mielestäsi meidän pitäisi käsitellä? Lähetä meille artikkeli-ideasi — kuulisimme sen mielellämme.

Lopputulos on, että AI PC on todellinen arkkitehtuurin muutos, mutta se on vielä lapsenkengissään. Useimmille ihmisille hyödyt rajoittuvat tänään parempiin videopuheluihin ja hieman nopeampaan kuvankäsittelyyn. Todellinen arvo näkyy seuraavan kahden vuoden aikana, kun käyttöjärjestelmät integroivat paikallisen päättelyn osaksi käyttöliittymän jokaista osa-aluetta. Sinun ei kannata kiirehtiä vaihtamaan toimivaa läppäriä vain saadaksesi NPU-tarran. Kuitenkin, kun lopulta päivität, dedikoidun tekoälysirun läsnäolo on välttämätön hyvän käyttökokemuksen kannalta. Ala on siirtymässä pois pilvestä arkipäiväisissä tehtävissä. Tämä johtaa läppäreihin, jotka ovat yksityisempiä, tehokkaampia ja kykenevämpiä hoitamaan monimutkaisia töitä ilman internetyhteyttä. Se on paluu ajatukseen henkilökohtaisesta tietokoneesta itsenäisenä voimanpesänä. Markkinointi saattaa olla kovaäänistä, mutta taustalla oleva teknologia on välttämätön askel seuraavalle vuosikymmenelle.

Toimittajan huomautus: Loimme tämän sivuston monikieliseksi tekoälyuutisten ja -oppaiden keskukseksi ihmisille, jotka eivät ole tietokonenörttejä, mutta haluavat silti ymmärtää tekoälyä, käyttää sitä luottavaisemmin ja seurata jo saapuvaa tulevaisuutta.