Doen AI-pc’s er al toe — of is dit slechts marketing?

De tech-industrie is momenteel geobsedeerd door een specifiek voorvoegsel van twee letters dat op elke nieuwe laptopsticker en marketing-slide prijkt. Hardwarefabrikanten beweren dat het tijdperk van de AI-pc is aangebroken en beloven een fundamentele verschuiving in hoe we met silicium omgaan. In de kern is een AI-pc simpelweg een computer uitgerust met een speciale Neural Processing Unit, of NPU, ontworpen om de complexe wiskundige workloads van machine learning-modellen aan te pakken. Waar je huidige laptop voor deze taken vertrouwt op de centrale processor en videokaart, verplaatst de nieuwe generatie hardware ze naar deze gespecialiseerde engine. Deze overgang gaat minder over het laten ‘denken’ van je computer en meer over het efficiënter maken ervan. Door taken zoals achtergrondruisonderdrukking of beeldgeneratie van de cloud naar je lokale bureau te verplaatsen, willen deze machines de dubbele problemen van latentie en privacy oplossen. Het snelle antwoord voor de meeste kopers is dat, hoewel de hardware er klaar voor is, de software nog een inhaalslag moet maken. Je koopt een fundament voor tools die de komende jaren standaard zullen worden, in plaats van een tool die je leven vandaag nog verandert.

Om te begrijpen wat deze machines anders maakt, moeten we kijken naar de drie pijlers van moderne computing. Decennialang verwerkte de CPU de logica en de GPU de beelden. De NPU is de derde pijler. Hij is gebouwd om miljarden operaties met lage precisie tegelijkertijd uit te voeren, wat precies is wat een large language model of een op diffusie gebaseerde beeldgenerator nodig heeft. Wanneer je een standaardcomputer vraagt om je achtergrond te vervagen tijdens een videogesprek, moet de CPU hard werken, wat hitte genereert en de batterij leegtrekt. Een NPU doet dit met een fractie van het stroomverbruik. Dit heet on-device inference. In plaats van je data naar een serverpark in een andere staat te sturen om verwerkt te worden, gebeurt het rekenwerk direct op je moederbord. Deze verschuiving vermindert de wachttijd voor data en zorgt ervoor dat je gevoelige informatie nooit je fysieke controle verlaat. Het is een beweging weg van de totale cloud-afhankelijkheid die het afgelopen decennium van computing heeft gedefinieerd.

De marketinglabels vertroebelen vaak de realiteit van wat er binnenin de behuizing gebeurt. Bedrijven als Intel, AMD en Qualcomm zijn in een race verwikkeld om te definiëren hoe een standaard AI-pc eruitziet. Microsoft heeft een basislijn van 40 TOPS, of Tera Operations Per Second, vastgesteld voor zijn Copilot+ PC-merk. Dit getal is een maatstaf voor hoeveel biljoenen operaties de NPU per seconde kan uitvoeren. Als een laptop onder deze drempel valt, kan hij misschien nog wel AI-tools draaien, maar komt hij niet in aanmerking voor de meest geavanceerde lokale functies die in het besturingssysteem zijn geïntegreerd. Dit creëert een duidelijke scheidslijn tussen legacy-hardware en de nieuwe standaard. We zien een beweging naar gespecialiseerd silicium dat efficiëntie prioriteert boven pure kloksnelheid. Het doel is om een machine te creëren die responsief blijft, zelfs wanneer hij complexe modellen op de achtergrond draait. Dit gaat niet alleen over snelheid. Het gaat over het creëren van een voorspelbare omgeving waarin software kan vertrouwen op toegewezen hardwarebronnen zonder te hoeven concurreren met je webbrowser of spreadsheet.

De siliciumverschuiving naar lokale intelligentie

De wereldwijde impact van deze hardware-transitie is enorm en beïnvloedt alles, van zakelijke inkoop tot internationaal energieverbruik. Grote organisaties kijken naar AI-pc’s als een manier om hun cloud-rekeningen te verlagen. Wanneer duizenden werknemers AI-assistenten gebruiken om documenten samen te vatten of e-mails op te stellen, lopen de kosten van API-calls naar externe aanbieders snel op. Door die workload naar de lokale NPU te verschuiven, kan een bedrijf zijn operationele kosten aanzienlijk verlagen. Er is ook een belangrijke veiligheidscomponent. Overheden en financiële instellingen zijn vaak terughoudend met cloud-gebaseerde AI vanwege het risico op datalekken. Lokale inference biedt een weg vooruit die bedrijfseigen data binnen de bedrijfsfirewall houdt. Dit zorgt voor een enorme vernieuwingscyclus in de zakelijke markt, nu IT-afdelingen zich voorbereiden op een toekomst waarin AI-integratie verplicht is voor productiviteitssoftware. Dit is een wereldwijde herinrichting van de digitale werkplek.

Naast het kantoor heeft de stap naar lokale AI gevolgen voor wereldwijde connectiviteit en digitale gelijkheid. In regio’s met onstabiele internetverbindingen is cloud-gebaseerde AI vaak onbruikbaar. Een laptop die vertalingen of beeldherkenning kan uitvoeren zonder snelle verbinding, wordt een veel krachtiger tool in opkomende markten. We zien een decentralisatie van intelligentie. In plaats van een paar enorme datacenters die de hele wereld bedienen, bewegen we naar een model waarbij elk apparaat een basisniveau van cognitieve vaardigheden heeft. Dit vermindert de druk op wereldwijde datanetwerken en maakt geavanceerde technologie veerkrachtiger.

Dit creëert echter ook een nieuwe digitale kloof. Degenen die de nieuwste hardware met NPU kunnen betalen, krijgen toegang tot tools die anderen niet hebben. De wereldwijde toeleveringsketen is al aan het draaien om aan deze vraag te voldoen, waarbij chipfabrikanten NPU-ontwikkeling prioriteren boven traditionele CPU-winsten. Dit is de belangrijkste verandering in pc-architectuur sinds de introductie van de geïntegreerde grafische processor.

Hoe ziet dit er in de praktijk uit? Stel je een typische werkdag voor van een marketingmanager genaamd Sarah. Ze begint haar ochtend met een videoconferentie. Vroeger zouden de ventilatoren van haar laptop luid gaan draaien terwijl het systeem worstelde om de videofeed en de achtergrondvervaging te beheren. Tegenwoordig verwerkt haar NPU de video-effecten geruisloos, waardoor de CPU vrij blijft om haar open tabbladen en presentatiesoftware te beheren. Tijdens de vergadering luistert een lokaal model naar de audio en genereert een real-time transcript. Omdat dit lokaal gebeurt, hoeft ze zich geen zorgen te maken over de privacy van de vertrouwelijke strategie die wordt besproken. Na de vergadering moet ze een specifieke foto van een campagne van twee jaar geleden vinden. In plaats van door duizenden bestanden te scrollen, typt ze een natuurlijke beschrijving in haar bestandsverkenner. De lokale AI, die haar afbeeldingen heeft geïndexeerd met on-device vision-modellen, vindt het exacte bestand in seconden. Dit is een niveau van integratie dat onzichtbaar aanvoelt, maar gedurende de dag minuten aan frictie bespaart.

Later in de middag moet Sarah een storend object uit een productfoto verwijderen. In plaats van een zware cloud-gebaseerde editor te openen, gebruikt ze een lokale tool die de NPU gebruikt om de pixels direct in te vullen. Wanneer ze een briefing moet opstellen, suggereert haar lokale assistent verbeteringen op basis van haar eerdere schrijfstijl, allemaal zonder haar concepten naar een centrale server te sturen. Dit is de belofte van de AI-pc. Het gaat niet om één spectaculaire functie die alles verandert. Het gaat om honderd kleine verbeteringen die de vertraging tussen gedachte en uitvoering wegnemen. Aan het einde van de dag staat haar batterij nog op vijftig procent omdat de gespecialiseerde NPU zoveel efficiënter is dan de algemene processors van vroeger. De machine voelt meer als een partner die de context van haar werk begrijpt, in plaats van alleen een domme terminal voor clouddiensten. Dit is de real-world toepassing die verder gaat dan de marketinghype.

We moeten echter wat scepsis toepassen op deze glimmende nieuwe beloften. De eerste vraag die we moeten stellen is wie er echt profiteert van deze hardware. Is de NPU er om de gebruiker te dienen, of is hij er om softwareleveranciers te helpen meer telemetrie-data te verzamelen onder het mom van lokale verwerking? Hoewel lokale inference privater is dan cloud-inference, houdt het besturingssysteem nog steeds een record bij van wat de AI doet. We moeten ook rekening houden met de verborgen kosten van deze machines. Een AI-pc vereist meer RAM en snellere opslag om de modellen geladen en responsief te houden. Dit drijft de instapprijs voor consumenten op. Worden we gedwongen tot een dure upgradecyclus voor functies die voor bestaande hardware geoptimaliseerd hadden kunnen worden? Er is ook de vraag naar duurzaamheid. AI-modellen evolueren in een tempo dat de hardwarecycli ver overstijgt. Een laptop die vandaag met 40 TOPS wordt gekocht, is over twee jaar misschien verouderd als de volgende generatie modellen 100 TOPS vereist. We gaan een periode van snelle hardware-afschrijving in die frustrerend kan zijn voor kopers.

We moeten ook kijken naar de milieu-impact. Hoewel on-device AI efficiënter is dan cloud-AI voor de individuele gebruiker, vereist de productie van deze gespecialiseerde chips zeldzame materialen en energie-intensieve processen. Als de industrie aandringt op een wereldwijde vernieuwing van miljarden pc’s, zullen het e-waste en de ecologische voetafdruk aanzienlijk zijn. Er is ook het probleem van het ‘black box’-karakter van deze modellen. Zelfs als de verwerking lokaal is, zijn veel van de modellen bedrijfseigen. Gebruikers weten misschien niet hoe de AI beslissingen neemt of welke vooroordelen in de lokale gewichten zijn ingebakken. We ruilen de transparantie van eenvoudige software in voor de complexiteit van neurale netwerken. Is het gemak van een snellere zoekopdracht of een beter videogesprek het verlies van voorspelbaarheid in onze tools waard? Dit zijn de moeilijke vragen die de marketingafdelingen van Intel en Microsoft niet graag beantwoorden. We moeten de opwinding over nieuwe mogelijkheden in balans brengen met een heldere blik op de afwegingen die bij deze overgang betrokken zijn.

Heeft u een AI-verhaal, tool, trend of vraag die wij volgens u zouden moeten behandelen? Stuur ons uw artikelidee — we horen het graag.

Voor de power users en de geeks leeft de realiteit van de AI-pc in de technische specificaties en de ontwikkelaars-ecosystemen. De huidige standaard is gebouwd rond de ONNX Runtime en DirectML, waarmee ontwikkelaars de NPU kunnen targeten bij verschillende hardwareleveranciers. We zien echter nog steeds veel versnippering. Een tool die is geoptimaliseerd voor een Qualcomm Snapdragon X Elite werkt misschien niet op dezelfde manier op een Intel Core Ultra of een AMD Ryzen AI-chip. Dit zorgt voor een hoofdpijndossier voor ontwikkelaars die lokale AI in hun workflows willen integreren. API-limieten zijn ook een zorg. Hoewel de hardware in staat is tot 40 TOPS, beperkt het besturingssysteem dit vermogen vaak om hitte en batterijduur te beheren. Voor degenen die hun eigen modellen willen draaien, zoals Llama 3 of Mistral, is de bottleneck vaak het unified memory. Lokale LLM’s zijn ongelooflijk hongerig naar geheugenbandbreedte. Als je een model met 7 miljard parameters soepel wilt draaien, heb je echt 32GB RAM of meer nodig, ongeacht hoeveel TOPS je NPU claimt te hebben.

Lokale opslag is een andere kritieke factor voor de power user. Hoogwaardige AI-modellen kunnen gigabytes aan ruimte in beslag nemen. Als je meerdere modellen draait voor beeldgeneratie, tekstverwerking en spraakherkenning, zal je SSD snel vol raken. We zien ook de grenzen van de huidige NPU-architecturen als het gaat om training. Deze chips zijn ontworpen voor inference, niet voor het finetunen of trainen van je eigen modellen. Als je een ontwikkelaar bent die zijn eigen AI wil bouwen, heb je nog steeds een krachtige NVIDIA GPU met CUDA-ondersteuning nodig. De NPU is een tool voor consumenten, geen vervanging voor een workstation. We bevinden ons ook nog in de beginfase van driver-stabiliteit. Veel gebruikers melden dat NPU-versnelde functies buggy kunnen zijn of systeeminstabiliteit kunnen veroorzaken. Dit zijn de groeipijnen van een nieuwe hardwarecategorie. Je kunt meer gedetailleerde technische analyses vinden op The Verge of de laatste benchmarks bekijken op AnandTech voor een diepere blik op specifieke chipprestaties. Je kunt ook de laatste updates volgen op Microsoft’s officiële ontwikkelaarsblog met betrekking tot Windows 11 AI-integratie.

De conclusie is dat de AI-pc een echte technologische verschuiving is, maar dat hij zich momenteel in zijn ongemakkelijke tienerfase bevindt. De hardware is indrukwekkend en de efficiëntiewinsten zijn tastbaar, maar de ‘must-have’ softwareapplicatie moet nog komen. Voor de meeste mensen is de beste reden om vandaag een AI-pc te kopen, het toekomstbestendig maken van je investering. Naarmate meer softwareontwikkelaars de NPU beginnen te benutten, zal het gat tussen oude en nieuwe hardware groter worden. Als je een creatieve professional bent of iemand die uren in videovergaderingen doorbrengt, zijn de voordelen al zichtbaar. Voor alle anderen is het een kwestie van afwachten. Je koopt in op een visie van computing die lokaler, privater en efficiënter is. Wees je er alleen van bewust dat je een early adopter bent in een snel bewegend experiment. Om op de hoogte te blijven van hoe deze tools evolueren, bekijk deze gids over de nieuwste trends in lokale kunstmatige intelligentie en hoe ze je dagelijkse workflow beïnvloeden. Het tijdperk van de NPU is begonnen, maar het verhaal is nog lang niet voorbij.

Noot van de redactie: We hebben deze site gemaakt als een meertalige AI-nieuws- en gidsenhub voor mensen die geen computernerds zijn, maar toch kunstmatige intelligentie willen begrijpen, er met meer vertrouwen mee willen omgaan en de toekomst willen volgen die al aanbreekt.

Een fout gevonden of iets dat gecorrigeerd moet worden? Laat het ons weten.