Έχουν σημασία τα AI PC ή είναι απλώς marketing;

Η βιομηχανία της τεχνολογίας έχει πάθει εμμονή με ένα συγκεκριμένο πρόθεμα δύο γραμμάτων που εμφανίζεται σε κάθε νέο αυτοκόλλητο laptop και διαφάνεια marketing. Οι κατασκευαστές hardware ισχυρίζονται ότι η εποχή του AI PC έχει φτάσει, υποσχόμενοι μια θεμελιώδη αλλαγή στον τρόπο που αλληλεπιδρούμε με το πυρίτιο. Στην ουσία, ένα AI PC είναι απλώς ένας υπολογιστής εξοπλισμένος με μια αποκλειστική Neural Processing Unit (NPU), σχεδιασμένη να διαχειρίζεται τους πολύπλοκους μαθηματικούς φόρτους εργασίας που απαιτούν τα machine learning models. Ενώ το τωρινό σας laptop βασίζεται στον κεντρικό επεξεργαστή και την κάρτα γραφικών για αυτές τις εργασίες, η νέα γενιά hardware τις αναθέτει σε αυτόν τον εξειδικευμένο κινητήρα. Αυτή η μετάβαση δεν αφορά τόσο το να κάνουμε τον υπολογιστή σας να «σκέφτεται», όσο το να τον κάνουμε πιο αποδοτικό. Μεταφέροντας εργασίες όπως η ακύρωση θορύβου παρασκηνίου ή η παραγωγή εικόνας από το cloud στο γραφείο σας, αυτά τα μηχανήματα στοχεύουν να λύσουν τα προβλήματα του latency και της ιδιωτικότητας. Η σύντομη απάντηση για τους περισσότερους αγοραστές είναι ότι, ενώ το hardware είναι έτοιμο, το software ακόμα προσπαθεί να προλάβει. Αγοράζετε τα θεμέλια για εργαλεία που θα γίνουν στάνταρ τα επόμενα χρόνια, και όχι κάτι που θα αλλάξει τη ζωή σας από σήμερα το απόγευμα.

Για να καταλάβουμε τι κάνει αυτά τα μηχανήματα διαφορετικά, πρέπει να δούμε τους τρεις πυλώνες του σύγχρονου computing. Για δεκαετίες, η CPU διαχειριζόταν τη λογική και η GPU τα γραφικά. Η NPU είναι ο τρίτος πυλώνας. Είναι κατασκευασμένη για να εκτελεί δισεκατομμύρια λειτουργίες χαμηλής ακρίβειας ταυτόχρονα, κάτι που ακριβώς χρειάζεται ένα large language model ή μια γεννήτρια εικόνας βασισμένη σε diffusion. Όταν ζητάτε από έναν κανονικό υπολογιστή να θολώσει το φόντο σας κατά τη διάρκεια μιας βιντεοκλήσης, η CPU πρέπει να δουλέψει σκληρά, κάτι που παράγει θερμότητα και εξαντλεί την μπαταρία. Μια NPU κάνει την ίδια εργασία χρησιμοποιώντας ένα κλάσμα της ενέργειας. Αυτό ονομάζεται on-device inference. Αντί να στέλνετε τα δεδομένα σας σε ένα server farm σε άλλη πολιτεία για επεξεργασία, τα μαθηματικά συμβαίνουν απευθείας στη μητρική σας πλακέτα. Αυτή η μετατόπιση μειώνει τον χρόνο απόκρισης και διασφαλίζει ότι οι ευαίσθητες πληροφορίες σας δεν φεύγουν ποτέ από τον φυσικό σας έλεγχο. Είναι μια κίνηση μακριά από την πλήρη εξάρτηση από το cloud που καθόρισε την τελευταία δεκαετία του computing.

Οι ετικέτες marketing συχνά θολώνουν την πραγματικότητα του τι συμβαίνει μέσα στο σασί. Εταιρείες όπως η Intel, η AMD και η Qualcomm βρίσκονται σε έναν αγώνα για να ορίσουν τι είναι ένα στάνταρ AI PC. Η Microsoft έχει θέσει ένα όριο 40 TOPS, ή Tera Operations Per Second, για το brand Copilot+ PC. Αυτός ο αριθμός είναι μια μέτρηση του πόσα τρισεκατομμύρια λειτουργίες μπορεί να εκτελέσει η NPU κάθε δευτερόλεπτο. Αν ένα laptop πέσει κάτω από αυτό το όριο, μπορεί να τρέχει AI εργαλεία, αλλά δεν θα πληροί τις προϋποθέσεις για τις πιο προηγμένες τοπικές λειτουργίες που είναι ενσωματωμένες στο λειτουργικό σύστημα. Αυτό δημιουργεί ένα ξεκάθαρο χάσμα μεταξύ του παλαιού hardware και του νέου προτύπου. Βλέπουμε μια στροφή προς εξειδικευμένο πυρίτιο που δίνει προτεραιότητα στην αποδοτικότητα έναντι της ωμής ταχύτητας ρολογιού. Ο στόχος είναι να δημιουργηθεί ένα μηχάνημα που παραμένει αποκρίσιμο ακόμα και όταν τρέχει πολύπλοκα μοντέλα στο παρασκήνιο. Δεν πρόκειται μόνο για ταχύτητα. Πρόκειται για τη δημιουργία ενός προβλέψιμου περιβάλλοντος όπου το software μπορεί να βασίζεται σε αποκλειστικούς πόρους hardware χωρίς να ανταγωνίζεται τον web browser ή το spreadsheet σας για προσοχή.

Η στροφή του πυριτίου προς την τοπική νοημοσύνη

Ο παγκόσμιος αντίκτυπος αυτής της μετάβασης στο hardware είναι τεράστιος, επηρεάζοντας τα πάντα, από τις εταιρικές προμήθειες μέχρι τη διεθνή κατανάλωση ενέργειας. Οι μεγάλες οργανώσεις βλέπουν τα AI PC ως έναν τρόπο να μειώσουν τους λογαριασμούς τους για cloud computing. Όταν χιλιάδες υπάλληλοι χρησιμοποιούν AI βοηθούς για να συνοψίσουν έγγραφα ή να συντάξουν email, το κόστος των API calls σε εξωτερικούς παρόχους αυξάνεται γρήγορα. Μεταφέροντας αυτόν τον φόρτο εργασίας στην τοπική NPU, μια εταιρεία μπορεί να μειώσει σημαντικά τα λειτουργικά της έξοδα. Υπάρχει επίσης ένα σημαντικό κομμάτι ασφαλείας σε αυτή τη στροφή. Οι κυβερνήσεις και τα χρηματοπιστωτικά ιδρύματα συχνά διστάζουν να χρησιμοποιήσουν cloud-based AI λόγω του κινδύνου διαρροής δεδομένων. Το local inference παρέχει μια διέξοδο που κρατά τα ιδιοταγή δεδομένα εντός του εταιρικού firewall. Αυτό οδηγεί σε έναν τεράστιο κύκλο ανανέωσης στην αγορά των επιχειρήσεων, καθώς τα τμήματα IT προετοιμάζονται για ένα μέλλον όπου η ενσωμάτωση AI είναι υποχρεωτική για το software παραγωγικότητας. Πρόκειται για έναν παγκόσμιο ανασχεδιασμό του ψηφιακού χώρου εργασίας.

Πέρα από το εταιρικό γραφείο, η κίνηση προς το τοπικό AI έχει επιπτώσεις για την παγκόσμια συνδεσιμότητα και την ψηφιακή ισότητα. Σε περιοχές με ασταθείς συνδέσεις στο διαδίκτυο, το cloud-based AI είναι συχνά άχρηστο. Ένα laptop που μπορεί να κάνει μετάφραση ή αναγνώριση εικόνας χωρίς σύνδεση υψηλής ταχύτητας γίνεται ένα πολύ πιο ισχυρό εργαλείο στις αναπτυσσόμενες αγορές. Βλέπουμε μια αποκέντρωση της νοημοσύνης. Αντί για μερικά τεράστια data centers που εξυπηρετούν ολόκληρο τον κόσμο, κινούμαστε προς ένα μοντέλο όπου κάθε συσκευή έχει ένα βασικό επίπεδο γνωστικής ικανότητας. Αυτό μειώνει την πίεση στα παγκόσμια δίκτυα δεδομένων και καθιστά την προηγμένη τεχνολογία πιο ανθεκτική.

Ωστόσο, αυτό δημιουργεί επίσης ένα νέο ψηφιακό χάσμα. Όσοι μπορούν να αντέξουν οικονομικά το πιο πρόσφατο hardware με NPU θα έχουν πρόσβαση σε εργαλεία που άλλοι δεν έχουν. Η παγκόσμια εφοδιαστική αλυσίδα ήδη προσαρμόζεται για να καλύψει αυτή τη ζήτηση, με τους κατασκευαστές chip να δίνουν προτεραιότητα στην ανάπτυξη NPU έναντι των παραδοσιακών κερδών της CPU. Αυτή είναι η πιο σημαντική αλλαγή στην αρχιτεκτονική των PC από την εισαγωγή του επεξεργαστή ενσωματωμένων γραφικών.

Πώς φαίνεται αυτό στην πράξη; Φανταστείτε μια τυπική εργάσιμη ημέρα για μια marketing manager που ονομάζεται Sarah. Ξεκινά το πρωί της συμμετέχοντας σε μια βιντεοδιάσκεψη. Στο παρελθόν, οι ανεμιστήρες του laptop της θα άρχιζαν να γυρίζουν δυνατά καθώς το σύστημα πάλευε να διαχειριστεί το video feed και το θόλωμα του φόντου. Σήμερα, η NPU της διαχειρίζεται τα εφέ βίντεο αθόρυβα, αφήνοντας την CPU ελεύθερη να διαχειριστεί τις ανοιχτές καρτέλες και το software παρουσίασης. Κατά τη διάρκεια της συνάντησης, ένα τοπικό μοντέλο ακούει τον ήχο και παράγει ένα transcript σε πραγματικό χρόνο. Επειδή αυτό συμβαίνει τοπικά, δεν ανησυχεί για την ιδιωτικότητα της εμπιστευτικής στρατηγικής που συζητείται. Μετά τη συνάντηση, πρέπει να βρει μια συγκεκριμένη φωτογραφία από μια καμπάνια πριν από δύο χρόνια. Αντί να κάνει scroll μέσα από χιλιάδες αρχεία, πληκτρολογεί μια περιγραφή σε φυσική γλώσσα στον file explorer της. Το τοπικό AI, το οποίο έχει ευρετηριάσει τις εικόνες της χρησιμοποιώντας on-device vision models, βρίσκει το ακριβές αρχείο σε δευτερόλεπτα. Αυτό είναι ένα επίπεδο ενσωμάτωσης που φαίνεται αόρατο αλλά εξοικονομεί λεπτά τριβής καθ’ όλη τη διάρκεια της ημέρας.

Αργότερα το απόγευμα, η Sarah πρέπει να αφαιρέσει ένα αντικείμενο που αποσπά την προσοχή από μια φωτογραφία προϊόντος. Αντί να ανοίξει έναν βαρύ cloud-based editor, χρησιμοποιεί ένα τοπικό εργαλείο που χρησιμοποιεί την NPU για να συμπληρώσει τα pixel αμέσως. Όταν χρειάζεται να συντάξει ένα brief, ο τοπικός της βοηθός προτείνει βελτιώσεις βασισμένες στο προηγούμενο στυλ γραφής της, όλα χωρίς να στείλει τα προσχέδιά της σε έναν κεντρικό server. Αυτή είναι η υπόσχεση του AI PC. Δεν πρόκειται για ένα εντυπωσιακό χαρακτηριστικό που αλλάζει τα πάντα. Πρόκειται για εκατό μικρές βελτιώσεις που αφαιρούν την καθυστέρηση μεταξύ σκέψης και εκτέλεσης. Μέχρι το τέλος της ημέρας, η μπαταρία της είναι ακόμα στο πενήντα τοις εκατό επειδή η εξειδικευμένη NPU είναι πολύ πιο αποδοτική από τους επεξεργαστές γενικής χρήσης του παρελθόντος. Το μηχάνημα μοιάζει περισσότερο με συνεργάτη που κατανοεί το πλαίσιο της δουλειάς της παρά με ένα απλό τερματικό για cloud υπηρεσίες. Αυτή είναι η πραγματική εφαρμογή που ξεπερνά το hype του marketing.

Ωστόσο, πρέπει να είμαστε επιφυλακτικοί με αυτές τις λαμπερές νέες υποσχέσεις. Το πρώτο ερώτημα που πρέπει να θέσουμε είναι ποιος πραγματικά ωφελείται από αυτό το hardware. Είναι η NPU εκεί για να εξυπηρετήσει τον χρήστη ή για να βοηθήσει τους προμηθευτές software να συλλέξουν περισσότερα δεδομένα τηλεμετρίας με το πρόσχημα της τοπικής επεξεργασίας; Αν και το local inference είναι πιο ιδιωτικό από το cloud inference, το λειτουργικό σύστημα διατηρεί ακόμα ένα αρχείο του τι κάνει το AI. Πρέπει επίσης να εξετάσουμε το κρυφό κόστος αυτών των μηχανημάτων. Ένα AI PC απαιτεί περισσότερη RAM και ταχύτερο storage για να κρατά τα μοντέλα φορτωμένα και αποκρίσιμα. Αυτό ανεβάζει την τιμή εισόδου για τους καταναλωτές. Μήπως αναγκαζόμαστε σε έναν ακριβό κύκλο αναβάθμισης για χαρακτηριστικά που θα μπορούσαν να είχαν βελτιστοποιηθεί για το υπάρχον hardware; Υπάρχει επίσης το ζήτημα της μακροζωίας. Τα AI μοντέλα εξελίσσονται με ρυθμό που υπερβαίνει κατά πολύ τους κύκλους του hardware. Ένα laptop που αγοράστηκε σήμερα με 40 TOPS μπορεί να είναι παρωχημένο σε δύο χρόνια αν η επόμενη γενιά μοντέλων απαιτεί 100 TOPS. Εισερχόμαστε σε μια περίοδο ταχείας απόσβεσης του hardware που θα μπορούσε να είναι απογοητευτική για τους αγοραστές.

Πρέπει επίσης να εξετάσουμε τον περιβαλλοντικό αντίκτυπο. Αν και το on-device AI είναι πιο αποδοτικό από το cloud AI για τον μεμονωμένο χρήστη, η κατασκευή αυτών των εξειδικευμένων chip απαιτεί σπάνια υλικά και διαδικασίες έντασης ενέργειας. Αν η βιομηχανία πιέσει για μια παγκόσμια ανανέωση δισεκατομμυρίων PC, τα e-waste και το αποτύπωμα άνθρακα θα είναι σημαντικά. Υπάρχει επίσης το ζήτημα της φύσης «μαύρου κουτιού» αυτών των μοντέλων. Ακόμα και αν η επεξεργασία είναι τοπική, πολλά από τα μοντέλα είναι ιδιοταγή. Οι χρήστες μπορεί να μην γνωρίζουν πώς το AI λαμβάνει αποφάσεις ή ποιες προκαταλήψεις είναι ενσωματωμένες στα τοπικά βάρη. Ανταλλάσσουμε τη διαφάνεια του απλού software με την πολυπλοκότητα των νευρωνικών δικτύων. Αξίζει η ευκολία μιας ταχύτερης αναζήτησης ή μιας καλύτερης βιντεοκλήσης την απώλεια προβλεψιμότητας στα εργαλεία μας; Αυτά είναι τα δύσκολα ερωτήματα που τα τμήματα marketing της Intel και της Microsoft δεν ανυπομονούν να απαντήσουν. Πρέπει να εξισορροπήσουμε τον ενθουσιασμό των νέων δυνατοτήτων με μια καθαρή ματιά στις ανταλλαγές που συνεπάγεται αυτή η μετάβαση.

Έχετε μια ιστορία, εργαλείο, τάση ή ερώτηση σχετικά με την τεχνητή νοημοσύνη που πιστεύετε ότι πρέπει να καλύψουμε; Στείλτε μας την ιδέα σας για άρθρο — θα χαρούμε να την ακούσουμε.

Για τους power users και τους geeks, η πραγματικότητα του AI PC ζει στις τεχνικές προδιαγραφές και τα οικοσυστήματα προγραμματιστών. Το τρέχον πρότυπο είναι χτισμένο γύρω από το ONNX Runtime και το DirectML, τα οποία επιτρέπουν στους προγραμματιστές να στοχεύουν την NPU σε διαφορετικούς προμηθευτές hardware. Ωστόσο, βλέπουμε ακόμα πολύ κατακερματισμό. Ένα εργαλείο βελτιστοποιημένο για έναν Qualcomm Snapdragon X Elite μπορεί να μην τρέχει με τον ίδιο τρόπο σε ένα Intel Core Ultra ή ένα AMD Ryzen AI chip. Αυτό δημιουργεί πονοκέφαλο για τους προγραμματιστές που θέλουν να ενσωματώσουν το τοπικό AI στις ροές εργασίας τους. Τα όρια του API είναι επίσης μια ανησυχία. Ενώ το hardware μπορεί να είναι ικανό για 40 TOPS, το λειτουργικό σύστημα συχνά περιορίζει αυτή την ισχύ για να διαχειριστεί τη θερμότητα και τη διάρκεια ζωής της μπαταρίας. Για όσους θέλουν να τρέξουν τα δικά τους μοντέλα, όπως το Llama 3 ή το Mistral, το bottleneck είναι συχνά το unified memory. Τα τοπικά LLM είναι απίστευτα πεινασμένα για memory bandwidth. Αν θέλετε να τρέξετε ένα μοντέλο με 7 δισεκατομμύρια παραμέτρους ομαλά, χρειάζεστε πραγματικά 32GB RAM ή περισσότερο, ανεξάρτητα από το πόσα TOPS ισχυρίζεται ότι έχει η NPU σας.

Το τοπικό storage είναι ένας άλλος κρίσιμος παράγοντας για τον power user. Τα υψηλής ποιότητας AI μοντέλα μπορούν να καταλάβουν gigabytes χώρου. Αν τρέχετε πολλαπλά μοντέλα για παραγωγή εικόνας, επεξεργασία κειμένου και αναγνώριση φωνής, ο SSD σας θα γεμίσει γρήγορα. Βλέπουμε επίσης τα όρια των τρεχουσών αρχιτεκτονικών NPU όσον αφορά την εκπαίδευση. Αυτά τα chip είναι σχεδιασμένα για inference, όχι για fine-tuning ή εκπαίδευση των δικών σας μοντέλων. Αν είστε προγραμματιστής που θέλει να χτίσει το δικό του AI, χρειάζεστε ακόμα μια ισχυρή NVIDIA GPU με υποστήριξη CUDA. Η NPU είναι ένα εργαλείο για τον καταναλωτή, όχι αντικαταστάτης workstation. Βρισκόμαστε στις πρώτες μέρες της σταθερότητας των driver επίσης. Πολλοί χρήστες αναφέρουν ότι οι λειτουργίες που επιταχύνονται από την NPU μπορεί να έχουν bugs ή να προκαλέσουν αστάθεια στο σύστημα. Αυτοί είναι οι πόνοι ανάπτυξης μιας νέας κατηγορίας hardware. Μπορείτε να βρείτε πιο λεπτομερείς τεχνικές αναλύσεις στο The Verge ή να ελέγξετε τα τελευταία benchmarks στο AnandTech για μια βαθύτερη ματιά στην απόδοση συγκεκριμένων chip. Μπορείτε επίσης να ακολουθήσετε τις τελευταίες ενημερώσεις στο επίσημο blog προγραμματιστών της Microsoft σχετικά με την ενσωμάτωση AI στα Windows 11.

Το συμπέρασμα είναι ότι το AI PC είναι μια πραγματική τεχνολογική αλλαγή, αλλά βρίσκεται επί του παρόντος στην άβολη εφηβική της φάση. Το hardware είναι εντυπωσιακό και τα κέρδη στην αποδοτικότητα είναι απτά, αλλά η εφαρμογή software που «πρέπει να έχεις» δεν έχει φτάσει ακόμα. Για τους περισσότερους ανθρώπους, ο καλύτερος λόγος για να αγοράσουν ένα AI PC σήμερα είναι για να κάνουν το μέλλον της επένδυσής τους πιο ασφαλές. Καθώς περισσότεροι προγραμματιστές software αρχίζουν να αξιοποιούν την NPU, το χάσμα μεταξύ παλιού και νέου hardware θα μεγαλώσει. Αν είστε δημιουργικός επαγγελματίας ή κάποιος που περνά ώρες σε βιντεοκλήσεις, τα οφέλη είναι ήδη ορατά. Για όλους τους άλλους, είναι ένα παιχνίδι αναμονής. Αγοράζετε ένα όραμα computing που είναι πιο τοπικό, πιο ιδιωτικό και πιο αποδοτικό. Απλώς να γνωρίζετε ότι είστε early adopter σε ένα πείραμα που κινείται γρήγορα. Για να παραμείνετε ενημερωμένοι για το πώς εξελίσσονται αυτά τα εργαλεία, δείτε αυτόν τον οδηγό για τις τελευταίες τάσεις στην τοπική τεχνητή νοημοσύνη και πώς επηρεάζουν την καθημερινή σας ροή εργασίας. Η εποχή της NPU έχει ξεκινήσει, αλλά η ιστορία απέχει πολύ από το να τελειώσει.

Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.

Βρήκατε κάποιο λάθος ή κάτι που χρειάζεται διόρθωση; Ενημερώστε μας.