Γιατί οι κατασκευαστές laptop θέλουν ξαφνικά τα πάντα να είναι AI

Η βιομηχανία της τεχνολογίας κινείται σε κύκλους συγκεντρωτισμού και αποκεντρωτισμού. Την τελευταία δεκαετία, το cloud ήταν το κέντρο του σύμπαντος. Κάθε smart λειτουργία στο laptop σας βασιζόταν σε έναν server σε ένα απομακρυσμένο data center. Αυτό αλλάζει ραγδαία. Κατασκευαστές laptop όπως η Intel, η AMD και η Apple μεταφέρουν τώρα τη νοημοσύνη πίσω στην τοπική συσκευή. Το κάνουν προσθέτοντας ένα συγκεκριμένο κομμάτι πυριτίου που ονομάζεται Neural Processing Unit (NPU) σε κάθε νέο μηχάνημα. Αυτή η αλλαγή δεν αφορά μόνο την ταχύτητα. Αφορά την ενεργειακή απόδοση και την ιδιωτικότητα. Όταν ο υπολογιστής σας μπορεί να επεξεργαστεί πολύπλοκα μοτίβα χωρίς να μιλάει στο internet, γίνεται πιο ικανός και λιγότερο εξαρτημένος από μια συνδρομή. Η βιομηχανία το ονομάζει αυτό εποχή του AI PC. Είναι η πιο σημαντική αλλαγή στην εσωτερική αρχιτεκτονική ενός laptop από την εισαγωγή του multi-core επεξεργαστή. Αυτή η μετάβαση στοχεύει στο να μετατρέψει το laptop από ένα παθητικό εργαλείο σε έναν ενεργό βοηθό που κατανοεί το context χωρίς να εξαντλεί την μπαταρία σε δύο ώρες.

Για να καταλάβετε γιατί συμβαίνει αυτό, πρέπει να κοιτάξετε το hardware. Ένα τυπικό laptop διαθέτει έναν Central Processing Unit (CPU) για γενικές εργασίες και έναν Graphics Processing Unit (GPU) για οπτικά δεδομένα. Κανένας από τους δύο δεν είναι τέλειος για την τεχνητή νοημοσύνη. Ένας CPU είναι πολύ αργός για τα τεράστια μαθηματικά που απαιτούν τα σύγχρονα μοντέλα. Ένας GPU είναι γρήγορος αλλά καταναλώνει τεράστια ποσότητα ηλεκτρικής ενέργειας. Ο Neural Processing Unit είναι ένα εξειδικευμένο chip σχεδιασμένο να χειρίζεται τα συγκεκριμένα μαθηματικά που χρησιμοποιούνται στη μηχανική μάθηση. Χρησιμοποιεί ελάχιστη ενέργεια για να εκτελέσει τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο. Αυτό επιτρέπει σε ένα laptop να τρέχει ένα large language model ή μια γεννήτρια εικόνων τοπικά. Μεταφέροντας αυτές τις εργασίες στο NPU, ο CPU και ο GPU είναι ελεύθεροι να διαχειριστούν την κανονική τους δουλειά. Αυτή η αρχιτεκτονική εμποδίζει το laptop να υπερθερμανθεί όταν χρησιμοποιείτε smart λειτουργίες. Σημαίνει επίσης ότι λειτουργίες όπως η διόρθωση οπτικής επαφής σε βιντεοκλήσεις μπορούν να τρέχουν συνεχώς στο background χωρίς να παρατηρείτε πτώση στην απόδοση. Οι κατασκευαστές ποντάρουν στο ότι αυτή η αποδοτικότητα θα πείσει τους χρήστες να αναβαθμίσουν το παλιό τους hardware.

Η ώθηση για τοπικό hardware είναι επίσης μια απάντηση στο αυξανόμενο κόστος του cloud computing. Κάθε φορά που ζητάτε από ένα cloud-based AI να συνοψίσει ένα έγγραφο, κοστίζει στον πάροχο χρήματα σε ηλεκτρική ενέργεια και συντήρηση server. Μεταφέροντας αυτή τη δουλειά στο laptop σας, εταιρείες όπως η Microsoft και η Google εξοικονομούν δισεκατομμύρια σε έξοδα υποδομής. Αυτή η αλλαγή μεταφέρει ουσιαστικά τον λογαριασμό για το AI compute από τον πάροχο λογισμικού στον καταναλωτή που αγοράζει το hardware. Είναι μια έξυπνη κίνηση που ευθυγραμμίζεται με τους επιχειρηματικούς στόχους των κολοσσών του πυριτίου όπως η Intel και η AMD. Χρειάζονται έναν νέο λόγο για να αγοράζει ο κόσμος υπολογιστές κάθε τρία χρόνια. Το AI PC παρέχει αυτόν τον λόγο υποσχόμενο λειτουργίες που απλά δεν θα τρέχουν καλά σε παλαιότερα μηχανήματα. Μπορείτε να βρείτε περισσότερες λεπτομέρειες για αυτές τις αλλαγές στους ολοκληρωμένους οδηγούς μας για το AI hardware που παρακολουθούν την εξέλιξη του καταναλωτικού πυριτίου. Αυτό δεν είναι απλώς μια τάση για high-end workstations. Γίνεται το baseline για κάθε καταναλωτικό laptop που πωλείται παγκοσμίως.

Ο παγκόσμιος αντίκτυπος αυτής της μετάβασης επικεντρώνεται στην κυριαρχία των δεδομένων και την ενέργεια. Οι κυβερνήσεις και οι μεγάλες εταιρείες ανησυχούν όλο και περισσότερο για το πού πηγαίνουν τα δεδομένα τους. Αν μια τράπεζα στη Γερμανία χρησιμοποιεί ένα cloud AI για να αναλύσει ευαίσθητα οικονομικά αρχεία, αυτά τα δεδομένα μπορεί να φύγουν από τη χώρα. Το τοπικό AI λύνει αυτό το πρόβλημα κρατώντας τα δεδομένα στο laptop. Αυτό ικανοποιεί αυστηρούς νόμους περί ιδιωτικότητας όπως ο GDPR στην Ευρώπη και παρόμοιους κανονισμούς στην Ασία. Επίσης, μειώνει το παγκόσμιο ενεργειακό αποτύπωμα του internet. Τα data centers καταναλώνουν συγκλονιστική ποσότητα ενέργειας για να μετακινούν και να επεξεργάζονται πληροφορίες. Αν ένα σημαντικό μέρος αυτής της δουλειάς συμβαίνει στα εκατομμύρια laptops που βρίσκονται ήδη στα γραφεία, η επιβάρυνση στο παγκόσμιο δίκτυο μειώνεται. Αυτή η αποκεντρωμένη προσέγγιση είναι πιο ανθεκτική. Επιτρέπει σε έναν εργαζόμενο σε μια περιοχή με κακή συνδεσιμότητα στο internet να χρησιμοποιεί προηγμένα εργαλεία που προηγουμένως ήταν διαθέσιμα μόνο σε όσους είχαν οπτικές ίνες υψηλής ταχύτητας. Αυτός ο εκδημοκρατισμός της υπολογιστικής ισχύος είναι ένας σημαντικός μοχλός για τη διεθνή αγορά τεχνολογίας.

Σε μια τυπική εργάσιμη ημέρα, ο αντίκτυπος ενός AI-native laptop είναι διακριτικός αλλά σταθερός. Φανταστείτε να ξεκινάτε το πρωί σας με μια βιντεοδιάσκεψη. Στο παρελθόν, το θόλωμα του φόντου ή η αφαίρεση του θορύβου θα έκαναν τους ανεμιστήρες του laptop σας να ακούγονται δυνατά. Με ένα NPU, αυτές οι εργασίες γίνονται αθόρυβα και σχεδόν δεν καταναλώνουν μπαταρία. Κατά τη διάρκεια της συνάντησης, ένα τοπικό μοντέλο απομαγνητοφωνεί τη συζήτηση και εντοπίζει τα action items σε πραγματικό χρόνο. Δεν χρειάζεται να ανεβάσετε τον ήχο σε έναν server, γεγονός που προστατεύει τα εταιρικά μυστικά που συζητήθηκαν στο δωμάτιο. Αργότερα, πρέπει να βρείτε ένα συγκεκριμένο spreadsheet από πέρυσι. Αντί να ψάχνετε για ένα όνομα αρχείου, ζητάτε από τον υπολογιστή να βρει το έγγραφο όπου συζητήσατε τον προϋπολογισμό για το γραφείο του Τόκιο. Το laptop σαρώνει το τοπικό index των αρχείων σας και το βρίσκει αμέσως. Αυτή είναι η διαφορά μεταξύ μιας μηχανής αναζήτησης και μιας τοπικής μηχανής νοημοσύνης. Κατανοεί το περιεχόμενο της δουλειάς σας αντί για τις ετικέτες που του δίνετε.

Το απόγευμα, ίσως χρειαστεί να δημιουργήσετε μια εικόνα για μια παρουσίαση. Αντί να περιμένετε στην ουρά σε ένα website, χρησιμοποιείτε μια τοπική έκδοση του Stable Diffusion. Η εικόνα εμφανίζεται σε δευτερόλεπτα επειδή το NPU είναι βελτιστοποιημένο για αυτήν ακριβώς την εργασία. Ίσως λάβετε επίσης μια μακροσκελή αναφορά που δεν έχετε χρόνο να διαβάσετε. Τη σέρνετε σε ένα τοπικό παράθυρο και παίρνετε αμέσως μια σύνοψη τριών παραγράφων. Αυτό το workflow είναι πιο γρήγορο επειδή δεν υπάρχει latency δικτύου. Δεν περιμένετε ένα σήμα να ταξιδέψει πέρα από τον ωκεανό και να επιστρέψει. Ο υπολογιστής φαίνεται πιο responsive επειδή η επεξεργασία συμβαίνει λίγα εκατοστά μακριά από τα δάχτυλά σας. Αυτή είναι η πρακτική πραγματικότητα του AI PC. Δεν πρόκειται για μια μεγάλη λειτουργία που αλλάζει τα πάντα. Πρόκειται για εκατοντάδες μικρές βελτιώσεις που κάνουν το μηχάνημα να φαίνεται πιο διαισθητικό. Ο στόχος είναι να αφαιρεθεί η τριβή ανάμεσα στις σκέψεις σας και το ψηφιακό output.

Ο σωκρατικός σκεπτικισμός είναι απαραίτητος όταν αξιολογούμε αυτούς τους ισχυρισμούς. Πρέπει να αναρωτηθούμε αν το NPU είναι όντως ένα χρήσιμο εργαλείο ή απλώς ένας τρόπος να δικαιολογηθούν υψηλότερες τιμές. Οι περισσότερες τρέχουσες AI λειτουργίες είναι software hacks που θα μπορούσαν τεχνικά να τρέξουν σε παλαιότερο hardware, έστω και πιο αργά. Μήπως η βιομηχανία δημιουργεί μια τεχνητή ανάγκη για νέο πυρίτιο; Υπάρχει επίσης το ζήτημα της μακροζωίας. Τα AI μοντέλα μεγαλώνουν σε μέγεθος και πολυπλοκότητα κάθε μήνα. Ένα laptop που αγοράστηκε σήμερα μπορεί να έχει ένα NPU ικανό για 40 τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο, αλλά θα είναι αρκετό για τα μοντέλα του ; Μπορεί να εισερχόμαστε σε μια εποχή όπου το hardware καθίσταται παρωχημένο πολύ πιο γρήγορα από ό,τι την προηγούμενη δεκαετία. Αν η βασική λειτουργικότητα του λειτουργικού σας συστήματος εξαρτάται από ένα συγκεκριμένο chip, χάνετε τη δυνατότητα να συνεχίσετε να χρησιμοποιείτε τον υπολογιστή σας για δέκα χρόνια. Αυτό δημιουργεί τεράστια ποσότητα ηλεκτρονικών αποβλήτων. Πρέπει επίσης να εξετάσουμε το αντάλλαγμα της ιδιωτικότητας. Ένα AI που κάνει index τα πάντα για να είναι χρήσιμο είναι επίσης ένα AI που έχει ένα τέλειο αρχείο ολόκληρης της ζωής σας. Ποιος ελέγχει αυτό το index και μπορεί να κληθεί σε δίκη;

Το τεχνικό επίπεδο αυτής της μετάβασης είναι εκεί όπου εμφανίζονται οι πραγματικοί περιορισμοί. Για να είναι χρήσιμο ένα NPU, οι software developers πρέπει να γράψουν κώδικα που μπορεί να επικοινωνήσει μαζί του. Αυτό απαιτεί τυποποιημένα APIs όπως το Windows DirectML ή το Intel OpenVINO. Αυτή τη στιγμή, το οικοσύστημα είναι κατακερματισμένο. Μια λειτουργία που τρέχει σε ένα Apple Mac μπορεί να μην λειτουργεί σε ένα Windows laptop με chip της AMD. Υπάρχει επίσης το ζήτημα του memory bandwidth. Τα AI μοντέλα απαιτούν τεράστιες ποσότητες δεδομένων να μετακινούνται γρήγορα μεταξύ της μνήμης και του επεξεργαστή. Τα περισσότερα τρέχοντα laptops έχουν ένα bottleneck εδώ. Ακόμα κι αν το NPU είναι γρήγορο, μπορεί να ξοδεύει το μεγαλύτερο μέρος του χρόνου του περιμένοντας τη RAM να παραδώσει δεδομένα. Αυτός είναι ο λόγος που βλέπουμε μια κίνηση προς unified memory αρχιτεκτονικές όπου ο CPU, ο GPU και το NPU μοιράζονται όλοι το ίδιο pool δεδομένων υψηλής ταχύτητας. Αυτό βελτιώνει την απόδοση αλλά καθιστά τα laptops αδύνατο να αναβαθμιστούν μετά την αγορά. Δεν μπορείτε απλώς να προσθέσετε περισσότερη RAM αργότερα γιατί η μνήμη είναι κολλημένη ακριβώς δίπλα στον επεξεργαστή για μέγιστη ταχύτητα.

Οι power users θα πρέπει να εξετάσουν προσεκτικά τις προδιαγραφές πριν ενδώσουν στο hype. Η βιομηχανία χρησιμοποιεί μια μέτρηση που ονομάζεται TOPS για να μετρήσει την AI απόδοση. Ωστόσο, το TOPS είναι ένας ακατέργαστος αριθμός που δεν λαμβάνει υπόψη πώς το chip διαχειρίζεται διαφορετικούς τύπους δεδομένων, όπως η ακρίβεια INT8 ή FP16. Ένα chip με υψηλό TOPS μπορεί ακόμα να δυσκολεύεται με συγκεκριμένα μοντέλα αν η αρχιτεκτονική του δεν είναι βελτιστοποιημένη για αυτά. Υπάρχουν επίσης θερμικά όρια που πρέπει να ληφθούν υπόψη. Ένα λεπτό και ελαφρύ laptop μπορεί να έχει ένα ισχυρό NPU, αλλά αν δεν μπορεί να αποβάλει τη θερμότητα, το σύστημα θα ρίξει την ταχύτητα μετά από λίγα λεπτά έντονης χρήσης. Ο τοπικός αποθηκευτικός χώρος είναι ένας άλλος παράγοντας. Το να τρέχετε μεγάλα μοντέλα τοπικά απαιτεί gigabytes χώρου μόνο για τα βάρη του μοντέλου. Αν αγοράσετε ένα laptop με μικρό σκληρό δίσκο, σύντομα θα ξεμείνετε από χώρο. Το geek τμήμα της αγοράς είναι αυτή τη στιγμή ένα νεκροταφείο hardware για early-adopters που υποσχέθηκε πολλά αλλά δεν είχε την υποστήριξη λογισμικού για να τα παραδώσει. Περιμένουμε ακόμα ένα παγκόσμιο πρότυπο που θα κάνει το AI λογισμικό πραγματικά φορητό σε όλες τις μάρκες hardware.

Έχετε μια ιστορία, εργαλείο, τάση ή ερώτηση σχετικά με την τεχνητή νοημοσύνη που πιστεύετε ότι πρέπει να καλύψουμε; Στείλτε μας την ιδέα σας για άρθρο — θα χαρούμε να την ακούσουμε.

Το συμπέρασμα είναι ότι το AI PC είναι μια πραγματική αρχιτεκτονική αλλαγή, αλλά βρίσκεται ακόμα στα σπάργανα. Για τους περισσότερους ανθρώπους, τα οφέλη σήμερα περιορίζονται σε καλύτερες βιντεοκλήσεις και ελαφρώς ταχύτερη επεξεργασία φωτογραφιών. Η πραγματική αξία θα εμφανιστεί μέσα στα επόμενα δύο χρόνια καθώς τα λειτουργικά συστήματα ενσωματώνουν το τοπικό inference σε κάθε γωνιά του user interface. Δεν θα πρέπει να βιαστείτε να αντικαταστήσετε ένα laptop που λειτουργεί μόνο και μόνο για να πάρετε ένα αυτοκόλλητο NPU. Ωστόσο, όταν τελικά αναβαθμίσετε, η παρουσία ενός ειδικού AI chip θα είναι υποχρεωτική για μια καλή εμπειρία. Η βιομηχανία απομακρύνεται από το cloud για καθημερινές εργασίες. Αυτό θα οδηγήσει σε laptops που είναι πιο ιδιωτικά, πιο αποδοτικά και πιο ικανά να διαχειρίζονται πολύπλοκη δουλειά χωρίς σύνδεση στο internet. Είναι μια επιστροφή στην ιδέα του προσωπικού υπολογιστή ως ένα αυτόνομο powerhouse. Το marketing μπορεί να είναι δυνατό, αλλά η υποκείμενη τεχνολογία είναι ένα απαραίτητο βήμα για την επόμενη δεκαετία των υπολογιστών.

Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.