I PC con AI contano davvero o è solo marketing? [2024]

L’industria tech è attualmente ossessionata da un prefisso di due lettere che appare su ogni nuovo adesivo per laptop e slide di marketing. I produttori di hardware sostengono che l’era dell’AI PC sia arrivata, promettendo un cambiamento fondamentale nel modo in cui interagiamo con il silicio. Fondamentalmente, un AI PC è semplicemente un computer dotato di una Neural Processing Unit (NPU) dedicata, progettata per gestire i complessi carichi di lavoro matematici richiesti dai modelli di machine learning. Mentre il tuo attuale laptop si affida al processore centrale e alla scheda grafica per queste attività, la nuova generazione di hardware le scarica su questo motore specializzato. Questa transizione non riguarda tanto il far pensare il tuo computer, quanto il renderlo efficiente. Spostando attività come la cancellazione del rumore di fondo o la generazione di immagini dal cloud alla tua scrivania, queste macchine mirano a risolvere i problemi gemelli di latenza e privacy. La risposta rapida per la maggior parte degli acquirenti è che, sebbene l’hardware sia pronto, il software deve ancora mettersi al passo. Stai acquistando le fondamenta per strumenti che diventeranno standard nei prossimi anni, piuttosto che uno strumento che ti cambia la vita oggi pomeriggio.

Per capire cosa rende queste macchine diverse, dobbiamo guardare ai tre pilastri del computing moderno. Per decenni, la CPU ha gestito la logica e la GPU la parte visiva. La NPU è il terzo pilastro. È costruita per eseguire miliardi di operazioni a bassa precisione simultaneamente, che è esattamente ciò di cui ha bisogno un large language model o un generatore di immagini basato su diffusione. Quando chiedi a un computer standard di sfocare lo sfondo durante una videochiamata, la CPU deve lavorare sodo, il che genera calore e consuma la batteria. Una NPU svolge lo stesso compito utilizzando una frazione dell’energia. Questo si chiama on-device inference. Invece di inviare i tuoi dati a una server farm in un altro stato per essere elaborati, la matematica avviene direttamente sulla tua scheda madre. Questo spostamento riduce il tempo di andata e ritorno per i dati e garantisce che le tue informazioni sensibili non lascino mai il tuo controllo fisico. È un allontanamento dalla totale dipendenza dal cloud che ha definito l’ultimo decennio di informatica.

Le etichette di marketing spesso oscurano la realtà di ciò che sta accadendo all’interno dello chassis. Aziende come Intel, AMD e Qualcomm sono in una corsa per definire come appare un AI PC standard. Microsoft ha fissato una base di 40 TOPS, o Tera Operations Per Second, per il suo brand Copilot+ PC. Questo numero è una misura di quanti trilioni di operazioni la NPU può eseguire ogni secondo. Se un laptop scende al di sotto di questa soglia, potrebbe comunque eseguire strumenti AI, ma non si qualificherà per le funzionalità locali più avanzate integrate nel sistema operativo. Questo crea una chiara divisione tra hardware legacy e il nuovo standard. Stiamo assistendo a uno spostamento verso silicio specializzato che privilegia l’efficienza rispetto alla velocità di clock grezza. L’obiettivo è creare una macchina che possa rimanere reattiva anche quando esegue modelli complessi in background. Non si tratta solo di velocità. Si tratta di creare un ambiente prevedibile in cui il software possa fare affidamento su risorse hardware dedicate senza competere con il tuo browser web o il tuo foglio di calcolo per l’attenzione.

Il passaggio del silicio verso l’intelligenza locale

L’impatto globale di questa transizione hardware è enorme e colpisce tutto, dagli acquisti aziendali al consumo energetico internazionale. Le grandi organizzazioni vedono gli AI PC come un modo per ridurre le bollette del cloud computing. Quando migliaia di dipendenti utilizzano assistenti AI per riassumere documenti o bozze di email, il costo delle chiamate API a fornitori esterni aumenta rapidamente. Spostando quel carico di lavoro sulla NPU locale, un’azienda può ridurre significativamente le proprie spese operative. C’è anche una componente di sicurezza importante in questo spostamento. I governi e le istituzioni finanziarie sono spesso esitanti a utilizzare l’AI basata su cloud a causa del rischio di fughe di dati. L’inferenza locale fornisce un percorso che mantiene i dati proprietari all’interno del firewall aziendale. Questo sta guidando un enorme ciclo di aggiornamento nel mercato enterprise, mentre i dipartimenti IT si preparano per un futuro in cui l’integrazione dell’AI sarà obbligatoria per il software di produttività. Si tratta di una riattrezzatura globale dello spazio di lavoro digitale.

Oltre all’ufficio aziendale, il passaggio all’AI locale ha implicazioni per la connettività globale e l’equità digitale. Nelle regioni con connessioni internet instabili, l’AI basata su cloud è spesso inutilizzabile. Un laptop in grado di eseguire traduzioni o riconoscimento di immagini senza un collegamento ad alta velocità diventa uno strumento molto più potente nei mercati in via di sviluppo. Stiamo assistendo a una decentralizzazione dell’intelligenza. Invece di pochi enormi data center che servono il mondo intero, ci stiamo muovendo verso un modello in cui ogni dispositivo ha un livello base di capacità cognitiva. Questo riduce lo sforzo sulle reti dati globali e rende la tecnologia avanzata più resiliente.

Tuttavia, questo crea anche un nuovo digital divide. Coloro che possono permettersi l’hardware più recente dotato di NPU avranno accesso a strumenti che altri non hanno. La catena di approvvigionamento globale si sta già orientando per soddisfare questa domanda, con i produttori di chip che danno priorità allo sviluppo della NPU rispetto ai guadagni tradizionali della CPU. Questo è il cambiamento più significativo nell’architettura dei PC dall’introduzione del processore grafico integrato.

Cosa significa questo nella pratica? Immagina una tipica giornata lavorativa per una marketing manager di nome Sarah. Inizia la sua mattinata partecipando a una videoconferenza. In passato, le ventole del suo laptop avrebbero girato rumorosamente mentre il sistema faticava a gestire il feed video e la sfocatura dello sfondo. Oggi, la sua NPU gestisce gli effetti video in silenzio, lasciando la CPU libera di gestire le sue schede aperte e il software di presentazione. Durante la riunione, un modello locale ascolta l’audio e genera una trascrizione in tempo reale. Poiché questo accade localmente, non si preoccupa della privacy della strategia confidenziale discussa. Dopo la riunione, deve trovare una foto specifica di una campagna di due anni fa. Invece di scorrere migliaia di file, digita una descrizione in linguaggio naturale nel suo file explorer. L’AI locale, che ha indicizzato le sue immagini utilizzando modelli di visione on-device, trova il file esatto in pochi secondi. Questo è un livello di integrazione che sembra invisibile ma che fa risparmiare minuti di attrito durante la giornata.

Più tardi nel pomeriggio, Sarah deve rimuovere un oggetto che distrae da una foto di prodotto. Invece di aprire un pesante editor basato su cloud, utilizza uno strumento locale che sfrutta la NPU per riempire i pixel istantaneamente. Quando deve scrivere una bozza, il suo assistente locale suggerisce miglioramenti basati sul suo precedente stile di scrittura, il tutto senza inviare le sue bozze a un server centrale. Questa è la promessa dell’AI PC. Non si tratta di una funzione spettacolare che cambia tutto. Si tratta di cento piccoli miglioramenti che eliminano il ritardo tra pensiero ed esecuzione. Alla fine della giornata, la sua batteria è ancora al cinquanta percento perché la NPU specializzata è molto più efficiente dei processori general-purpose del passato. La macchina sembra più un partner che comprende il contesto del suo lavoro piuttosto che un semplice terminale stupido per i servizi cloud. Questa è l’applicazione nel mondo reale che va oltre l’hype del marketing.

Tuttavia, dobbiamo applicare un po’ di scetticismo a queste nuove promesse scintillanti. La prima domanda che dovremmo porci è chi beneficia veramente di questo hardware. La NPU è lì per servire l’utente, o è lì per aiutare i fornitori di software a raccogliere più dati di telemetria sotto le spoglie dell’elaborazione locale? Sebbene l’inferenza locale sia più privata di quella cloud, il sistema operativo mantiene comunque un registro di ciò che sta facendo l’AI. Dobbiamo anche considerare il costo nascosto di queste macchine. Un AI PC richiede più RAM e uno storage più veloce per mantenere i modelli caricati e reattivi. Questo fa aumentare il prezzo d’ingresso per i consumatori. Siamo costretti a un costoso ciclo di aggiornamento per funzionalità che avrebbero potuto essere ottimizzate per l’hardware esistente? C’è anche la questione della longevità. I modelli AI si stanno evolvendo a un ritmo che supera di gran lunga i cicli hardware. Un laptop acquistato oggi con 40 TOPS potrebbe essere obsoleto tra due anni se la prossima generazione di modelli richiedesse 100 TOPS. Stiamo entrando in un periodo di rapido deprezzamento dell’hardware che potrebbe essere frustrante per gli acquirenti.

Dobbiamo anche guardare all’impatto ambientale. Sebbene l’AI on-device sia più efficiente dell’AI cloud per il singolo utente, la produzione di questi chip specializzati richiede materiali rari e processi ad alta intensità energetica. Se l’industria spinge per un aggiornamento globale di miliardi di PC, i rifiuti elettronici e l’impronta di carbonio saranno sostanziali. C’è anche il problema della natura di “black box” di questi modelli. Anche se l’elaborazione è locale, molti dei modelli sono proprietari. Gli utenti potrebbero non sapere come l’AI stia prendendo decisioni o quali pregiudizi siano incorporati nei pesi locali. Stiamo scambiando la trasparenza del software semplice con la complessità delle reti neurali. La comodità di una ricerca più veloce o di una migliore videochiamata vale la perdita di prevedibilità nei nostri strumenti? Queste sono le domande difficili a cui i dipartimenti marketing di Intel e Microsoft non sono ansiosi di rispondere. Dobbiamo bilanciare l’entusiasmo per le nuove funzionalità con una visione chiara dei compromessi coinvolti in questa transizione.

Hai una storia, uno strumento, una tendenza o una domanda sull'IA che pensi dovremmo trattare? Inviaci la tua idea per un articolo — ci piacerebbe sentirla.

Per i power user e i geek, la realtà dell’AI PC vive nelle specifiche tecniche e negli ecosistemi di sviluppo. Lo standard attuale è costruito attorno a ONNX Runtime e DirectML, che consentono agli sviluppatori di puntare alla NPU su diversi fornitori di hardware. Tuttavia, stiamo ancora vedendo molta frammentazione. Uno strumento ottimizzato per un Qualcomm Snapdragon X Elite potrebbe non funzionare allo stesso modo su un chip Intel Core Ultra o AMD Ryzen AI. Questo crea un mal di testa per gli sviluppatori che vogliono integrare l’AI locale nei loro flussi di lavoro. Anche i limiti delle API sono una preoccupazione. Mentre l’hardware potrebbe essere capace di 40 TOPS, il sistema operativo spesso limita questa potenza per gestire il calore e la durata della batteria. Per coloro che cercano di eseguire i propri modelli, come Llama 3 o Mistral, il collo di bottiglia è spesso la memoria unificata. Gli LLM locali sono incredibilmente affamati di larghezza di banda della memoria. Se vuoi eseguire un modello con 7 miliardi di parametri senza intoppi, hai davvero bisogno di 32GB di RAM o più, indipendentemente da quanti TOPS la tua NPU dichiara di avere.

Lo storage locale è un altro fattore critico per il power user. I modelli AI di alta qualità possono occupare gigabyte di spazio. Se stai eseguendo più modelli per la generazione di immagini, l’elaborazione del testo e il riconoscimento vocale, il tuo SSD si riempirà rapidamente. Stiamo anche vedendo i limiti delle attuali architetture NPU quando si tratta di training. Questi chip sono progettati per l’inferenza, non per il fine-tuning o l’addestramento dei tuoi modelli. Se sei uno sviluppatore che cerca di costruire la propria AI, hai ancora bisogno di una potente GPU NVIDIA con supporto CUDA. La NPU è uno strumento rivolto al consumatore, non un sostituto della workstation. Siamo anche agli inizi per quanto riguarda la stabilità dei driver. Molti utenti segnalano che le funzionalità accelerate dalla NPU possono essere buggate o causare instabilità del sistema. Questi sono i dolori della crescita di una nuova categoria hardware. Puoi trovare analisi tecniche più dettagliate su The Verge o controllare gli ultimi benchmark su AnandTech per uno sguardo più approfondito alle prestazioni di specifici chip. Puoi anche seguire gli ultimi aggiornamenti sul blog ufficiale degli sviluppatori Microsoft riguardante l’integrazione dell’AI in Windows 11.

Il punto è che l’AI PC è un vero cambiamento tecnologico, ma è attualmente nella sua fase adolescenziale imbarazzante. L’hardware è impressionante e i guadagni di efficienza sono tangibili, ma l’applicazione software “must-have” deve ancora arrivare. Per la maggior parte delle persone, il motivo migliore per acquistare un AI PC oggi è rendere il proprio investimento a prova di futuro. Man mano che più sviluppatori software inizieranno a sfruttare la NPU, il divario tra vecchio e nuovo hardware si allargherà. Se sei un professionista creativo o qualcuno che passa ore in riunioni video, i vantaggi sono già visibili. Per tutti gli altri, è un gioco di attesa. Stai acquistando una visione dell’informatica che è più locale, più privata e più efficiente. Sappi solo che sei un early adopter in un esperimento in rapida evoluzione. Per rimanere aggiornato su come questi strumenti si stanno evolvendo, dai un’occhiata a questa guida alle ultime tendenze nell’intelligenza artificiale locale e su come influenzano il tuo flusso di lavoro quotidiano. L’era della NPU è iniziata, ma la storia è tutt’altro che finita.

Nota dell'editore: Abbiamo creato questo sito come un hub multilingue di notizie e guide sull'IA per le persone che non sono esperti di computer, ma che desiderano comunque comprendere l'intelligenza artificiale, usarla con maggiore fiducia e seguire il futuro che sta già arrivando.

Hai trovato un errore o qualcosa che deve essere corretto? Faccelo sapere.