Ποιος κερδίζει όταν όλοι διψούν για περισσότερη υπολογιστική ισχύ;

Η παγκόσμια κούρσα για υπολογιστική ισχύ βγήκε από το server room και μεταφέρθηκε στον φυσικό κόσμο. Για δεκαετίες, το software έμοιαζε άυλο. Πατούσες ένα κουμπί και η μαγεία συνέβαινε κάπου αλλού. Αυτή η ψευδαίσθηση τελείωσε. Κάθε μεγάλη εταιρεία και χώρα παλεύει σήμερα για τους ίδιους περιορισμένους πόρους: γη, ηλεκτρικό ρεύμα και νερό. Δεν πρόκειται πλέον μόνο για silicon chips ή έξυπνους αλγόριθμους. Είναι μια ιστορία για μπετόν και γραμμές υψηλής τάσης. Οι νικητές της επόμενης δεκαετίας δεν θα είναι απαραίτητα οι εταιρείες με τον καλύτερο κώδικα, αλλά εκείνες που εξασφάλισαν τα περισσότερα megawatt και τα μεγαλύτερα οικόπεδα. Το compute έχει γίνει πλέον ένα σκληρό asset, σαν το πετρέλαιο ή τον χρυσό, και η προσφορά προσκρούει σε έναν φυσικό τοίχο.

Το φυσικό βάρος του cloud

Για να καταλάβεις γιατί το compute έγινε ξαφνικά σπάνιος πόρος, πρέπει να δεις την κλίμακα των σύγχρονων data centers. Δεν είναι πια απλές αποθήκες με υπολογιστές. Είναι τεράστια βιομηχανικά συγκροτήματα που απαιτούν περισσότερη ενέργεια από μικρές πόλεις. Μια high-end εγκατάσταση μπορεί να ζητά εκατοντάδες megawatt ρεύματος. Αυτή η ζήτηση αυξάνεται τόσο γρήγορα που οι εταιρείες κοινής ωφέλειας δυσκολεύονται να ακολουθήσουν. Σε πολλά μέρη του κόσμου, ο χρόνος αναμονής για τη σύνδεση ενός νέου data center στο δίκτυο μετριέται πλέον σε χρόνια και όχι σε μήνες. Αυτή η καθυστέρηση δημιουργεί ένα bottleneck που επηρεάζει τους πάντες, από startup founders μέχρι κυβερνητικούς φορείς. Αν δεν μπορείς να το συνδέσεις στην πρίζα, το πιο εξελιγμένο chip στον κόσμο είναι απλώς ένα πολύ ακριβό χαρτόβαρο.

Οι ανάγκες ψύξης είναι εξίσου έντονες. Οι high-performance επεξεργαστές παράγουν απίστευτη θερμότητα. Για να διατηρηθούν στη σωστή θερμοκρασία, απαιτούνται εκατομμύρια γαλόνια νερού κάθε μέρα. Σε περιοχές που αντιμετωπίζουν ξηρασία, αυτό έχει μετατρέψει τα data centers σε πολιτικό αγκάθι. Οι τοπικές κοινότητες αναρωτιούνται γιατί το νερό τους χρησιμοποιείται για την ψύξη servers αντί για την άρδευση καλλιεργειών ή την ύδρευση. Αυτή η τριβή αλλάζει τον τρόπο με τον οποίο οι εταιρείες επιλέγουν πού θα χτίσουν. Δεν ψάχνουν πλέον μόνο για φθηνή γη. Ψάχνουν για πολιτική σταθερότητα και εγγυημένη πρόσβαση σε υποδομές. Το infrastructure που απαιτείται για ένα σύγχρονο cluster συχνά εκτείνεται σε χιλιάδες m² και απαιτεί ειδικούς υποσταθμούς και μονάδες επεξεργασίας νερού.

Αυτή η μετατόπιση έχει μετατρέψει τα data centers σε στρατηγικά assets. Οι κυβερνήσεις αρχίζουν να τα αντιμετωπίζουν με την ίδια αυστηρότητα όπως τα λιμάνια ή τα εργοστάσια ενέργειας. Αναγνωρίζουν ότι η κατοχή εγχώριας υπολογιστικής ισχύος είναι θέμα εθνικής ασφάλειας. Αν μια χώρα βασίζεται αποκλειστικά σε ξένους servers, χάνει τον έλεγχο των δεδομένων της και του τεχνολογικού της μέλλοντος. Αυτή η συνειδητοποίηση οδηγεί σε ένα κύμα νέων κανονισμών και κινήτρων για την επιστροφή των data centers εντός των εθνικών συνόρων. Το αποτέλεσμα είναι μια κατακερματισμένη παγκόσμια αγορά όπου η φυσική τοποθεσία ενός server μετράει εξίσου με την ταχύτητα επεξεργασίας του.

Ένα νέο γεωπολιτικό νόμισμα

Ο ανταγωνισμός για το compute αναδιαμορφώνει τις παγκόσμιες συμμαχίες. Βλέπουμε ένα νέο είδος διπλωματίας όπου η πρόσβαση σε hardware και η ενέργεια για τη λειτουργία του χρησιμοποιούνται ως διαπραγματευτικά χαρτιά. Χώρες με πλεόνασμα ανανεώσιμων πηγών ενέργειας ή ψυχρά κλίματα βρίσκονται ξαφνικά σε θέση ισχύος. Μπορούν να προσφέρουν την ψύξη και το ρεύμα που ζητούν οι tech giants. Αυτό οδήγησε σε ένα οικοδομικό boom σε μέρη που προηγουμένως αγνοούνταν από τη βιομηχανία. Ο στόχος είναι να χτιστεί ένα τεράστιο αποτύπωμα πριν το τοπικό δίκτυο φτάσει στα όριά του. Μόλις δεσμευτεί η ενέργεια, χάθηκε. Δεν υπάρχει γρήγορος τρόπος να χτίσεις ένα νέο πυρηνικό εργοστάσιο ή ένα τεράστιο αιολικό πάρκο για να καλύψεις μια ξαφνική αιχμή ζήτησης.

Αυτή η έλλειψη οδηγεί επίσης σε τεράστια συγκέντρωση ισχύος. Μόνο οι μεγαλύτερες εταιρείες έχουν το κεφάλαιο να χτίσουν το δικό τους infrastructure από το μηδέν. Οι μικρότεροι παίκτες αναγκάζονται να νοικιάζουν χώρο από τους γίγαντες, γεγονός που δίνει στους τελευταίους ακόμα μεγαλύτερη δύναμη. Αυτό δημιουργεί έναν κύκλο όπου οι εταιρείες που ήδη διαθέτουν compute μπορούν να το χρησιμοποιήσουν για να χτίσουν καλύτερα εργαλεία, που παράγουν περισσότερα έσοδα, επιτρέποντάς τους να αγοράσουν ακόμα περισσότερο compute. Το να σπάσει αυτός ο κύκλος γίνεται σχεδόν αδύνατο για νέους παίκτες. Το εμπόδιο εισόδου δεν είναι πλέον μια καλή ιδέα, αλλά η ικανότητα να υπογράψεις μια επιταγή δισεκατομμυρίων για φυσικές υποδομές. Γι’ αυτό η τελευταία ανάλυση της βιομηχανίας για το artificial intelligence εστιάζει τόσο πολύ στην εφοδιαστική αλυσίδα ενέργειας και ψύξης.

Εν τω μεταξύ, το περιβαλλοντικό αποτύπωμα γίνεται κεντρικό κομμάτι της συζήτησης. Οι εταιρείες πιέζονται να αποδείξουν ότι η τεράστια κατανάλωση ενέργειας δεν εκτροχιάζει τους κλιματικούς στόχους. Αυτό οδήγησε σε έναν αγώνα για συμβόλαια πράσινης ενέργειας, που με τη σειρά του ανεβάζει την τιμή του ρεύματος για όλους τους άλλους. Η ένταση μεταξύ τεχνολογικής προόδου και περιβαλλοντικής βιωσιμότητας είναι μια από τις συγκρούσεις της εποχής μας. Σε πολλές περιοχές, είναι ένα παιχνίδι μηδενικού αθροίσματος. Αν το data center πάρει την πράσινη ενέργεια, το τοπικό εργοστάσιο ή η γειτονιά μπορεί να μείνουν με άνθρακα ή αέριο. Αυτές είναι οι δύσκολες επιλογές που οι πολιτικοί αναγκάζονται να κάνουν προσπαθώντας να εξισορροπήσουν την οικονομική ανάπτυξη με τις τοπικές ανάγκες.

Όταν τα data centers συναντούν τους γείτονες

Σκέψου τη ζωή ενός πολεοδόμου σε ένα αναπτυσσόμενο tech hub. Πριν από μια δεκαετία, ένα νέο data center ήταν εύκολη νίκη. Έφερνε φορολογικά έσοδα χωρίς να προσθέτει κίνηση ή να απαιτεί νέα σχολεία. Σήμερα, η υποδοχή είναι διαφορετική. Ο πολεοδόμος αντιμετωπίζει μια αίθουσα γεμάτη θυμωμένους κατοίκους που ανησυχούν για τον συνεχή βόμβο των ανεμιστήρων ψύξης και την πίεση στο τοπικό δίκτυο. Βλέπουν ένα τεράστιο κτίριο που καταλαμβάνει στρέμματα γης αλλά απασχολεί μόνο μια χούφτα φρουρούς και τεχνικούς. Τα πολιτικά μαθηματικά άλλαξαν. Τα φορολογικά έσοδα είναι ακόμα ελκυστικά, αλλά η τοπική αντίσταση γίνεται μεγάλο εμπόδιο για την επέκταση. Γι’ αυτό βλέπουμε εταιρείες να ξοδεύουν περισσότερα για community outreach και αρχιτεκτονικό σχεδιασμό ώστε αυτά τα κτίρια να εντάσσονται στο περιβάλλον.

Για έναν developer που προσπαθεί να λανσάρει μια νέα υπηρεσία, η πραγματικότητα είναι εξίσου σκληρή. Μπορεί να έχει τον καλύτερο κώδικα στον κόσμο, αλλά είναι στο έλεος των cloud providers. Αν αυτοί οι πάροχοι φτάσουν στα όρια της χωρητικότητάς τους, ο developer βλέπει αυξανόμενο κόστος και πιο αργές επιδόσεις. Πρέπει να ξοδεύει περισσότερο χρόνο βελτιστοποιώντας το software για να χρησιμοποιεί λιγότερο compute, όχι επειδή θέλει, αλλά επειδή πρέπει. Αυτός ο περιορισμός επιβάλλει μια επιστροφή στον αποδοτικό προγραμματισμό. Στην εποχή του άπειρου compute, οι developers έγιναν τεμπέληδες. Τώρα, κάθε κύκλος μετράει. Πρέπει να σκέφτονται το data locality και πώς να ελαχιστοποιήσουν τη μετακίνηση πληροφοριών στο δίκτυο. Οι φυσικοί περιορισμοί του data center αντικατοπτρίζονται πλέον στον ίδιο τον κώδικα.

Ο αντίκτυπος επεκτείνεται και σε τοπικές επιχειρήσεις που δεν έχουν καμία σχέση με την τεχνολογία. Ένας μικρός κατασκευαστής μπορεί να διαπιστώσει ότι τα τιμολόγια ρεύματος αυξάνονται επειδή ένα νέο data center κοντά έχει επιβαρύνει τον τοπικό υποσταθμό. Ένας αγρότης μπορεί να δει τον υδροφόρο ορίζοντα να πέφτει πιο γρήγορα από το συνηθισμένο. Αυτά είναι τα κρυφά κόστη της ψηφιακής οικονομίας. Δεν είναι πάντα ορατά σε έναν ισολογισμό, αλλά είναι πολύ πραγματικά για τους ανθρώπους που ζουν κοντά σε αυτές τις εγκαταστάσεις. Οι αντιφάσεις είναι παντού. Θέλουμε ταχύτερες υπηρεσίες και πιο ισχυρά εργαλεία, αλλά δεν θέλουμε το φυσικό infrastructure στις αυλές μας. Θέλουμε πράσινη ενέργεια, αλλά χτίζουμε μηχανές που καταναλώνουν περισσότερη ισχύ από ποτέ.

Τα επόμενα χρόνια, πιθανότατα θα δούμε περισσότερες συγκρούσεις για άδειες και χρήση γης. Ορισμένες πόλεις επιβάλλουν ήδη μορατόριουμ στην κατασκευή νέων data centers μέχρι να βρουν πώς να διαχειριστούν τη ζήτηση. Αυτό δημιουργεί μια περίεργη κατάσταση όπου το compute γίνεται τοπικός πόρος. Αν είσαι σε μια πόλη που επιτρέπει τα data centers, έχεις ανταγωνιστικό πλεονέκτημα. Αν είσαι σε μια πόλη που τα απαγορεύει, η τοπική tech σκηνή μπορεί να μαραθεί. Γι’ αυτό τα data centers είναι πλέον πολιτικά assets. Είναι τα εργοστάσια της οικονομίας και κάθε πόλη θέλει τα οφέλη χωρίς το κόστος. Η προσπάθεια να βρεθεί αυτή η ισορροπία θα καθορίσει την τοπική πολιτική για μια ολόκληρη γενιά.

Το κρυφό τίμημα του boom της επεξεργασίας

Πρέπει να θέσουμε δύσκολα ερωτήματα για τη μακροπρόθεσμη βιωσιμότητα αυτής της τάσης. Ποιος ωφελείται πραγματικά από αυτή την τεράστια επέκταση των φυσικών υποδομών; Ενώ οι tech giants βλέπουν τις αποτιμήσεις τους να εκτοξεύονται, τα τοπικά κόστη συχνά κοινωνικοποιούνται. Ο θόρυβος, η χρήση νερού και η πίεση στο δίκτυο επιβαρύνουν την κοινότητα. Πρέπει να εξετάσουμε προσεκτικά τη διαφάνεια αυτών των εταιρειών. Πόσο νερό χρησιμοποιούν πραγματικά; Ποιο είναι το πραγματικό carbon footprint όταν συμπεριλάβεις την κατασκευή και την εφοδιαστική αλυσίδα του hardware; Πολλά από αυτά τα νούμερα κρατούνται πίσω από proprietary τείχη, καθιστώντας δύσκολο για το κοινό να πάρει τεκμηριωμένες αποφάσεις για το αν ένα νέο project αξίζει το κόστος.

Υπάρχει επίσης το ζήτημα της ιδιωτικότητας και της κυριαρχίας των δεδομένων. Όταν το compute συγκεντρώνεται σε λίγα τεράστια hubs, γίνεται εύκολος στόχος για παρακολούθηση ή δολιοφθορά. Αν μια περιοχή διαχειρίζεται ένα σημαντικό μέρος της παγκόσμιας επεξεργασίας, μια τοπική διακοπή ρεύματος ή μια πολιτική αλλαγή θα μπορούσε να έχει παγκόσμιες συνέπειες. Χτίζουμε ένα εξαιρετικά συγκεντρωτικό σύστημα πάνω σε ένα εύθραυστο φυσικό θεμέλιο. Είναι αυτός ο πιο ανθεκτικός τρόπος για να χτίσουμε μια ψηφιακή κοινωνία; Ο σωκρατικός σκεπτικισμός υποδηλώνει ότι ίσως υπερεκτιμάμε τα οφέλη της κλίμακας και υποτιμάμε τους κινδύνους της συγκέντρωσης. Ανταλλάσσουμε την τοπική αυτονομία με την παγκόσμια αποδοτικότητα, και το τίμημα αυτής της ανταλλαγής αρχίζει μόλις τώρα να γίνεται σαφές.

Τέλος, πρέπει να εξετάσουμε τι θα συμβεί όταν η φούσκα της ζήτησης τελικά σταθεροποιηθεί. Βρισκόμαστε σε μια περίοδο πυρετώδους οικοδόμησης. Αλλά τι θα γίνει αν η επόμενη γενιά software είναι πιο αποδοτική; Ή αν οι οικονομικές αποδόσεις αυτής της τεράστιας επένδυσης δεν υλοποιηθούν όπως αναμένεται; Θα μπορούσαμε να μείνουμε με πολλά άδεια, ενεργοβόρα κτίρια που είναι δύσκολο να επαναχρησιμοποιηθούν. Η ιστορία της τεχνολογίας είναι γεμάτη από υπερκατασκευές που ακολουθούνται από κραχ. Η διαφορά αυτή τη φορά είναι η κλίμακα του φυσικού αποτυπώματος. Δεν μπορείς απλώς να διαγράψεις ένα data center όπως διαγράφεις ένα κομμάτι software. Μένει στο έδαφος για δεκαετίες.

Κάτω από το καπό του σύγχρονου cluster

Για όσους πρέπει να κατανοήσουν τους τεχνικούς περιορισμούς, η εστίαση μετατοπίζεται προς τα interconnects και το τοπικό storage. Σε ένα σύγχρονο high-performance cluster, το bottleneck συχνά δεν είναι ο ίδιος ο επεξεργαστής, αλλά το πόσο γρήγορα μπορούν να μετακινηθούν τα δεδομένα μεταξύ των επεξεργαστών. Τεχνολογίες όπως το NVLink και το Infiniband είναι οι αφανείς ήρωες του τρέχοντος boom. Επιτρέπουν σε χιλιάδες chips να συνεργάζονται ως μια ενιαία μονάδα. Ωστόσο, αυτά τα συστήματα έχουν αυστηρά φυσικά όρια. Τα καλώδια δεν μπορούν να είναι πολύ μακριά πριν υποβαθμιστεί το σήμα, πράγμα που σημαίνει ότι οι servers πρέπει να είναι πακεταρισμένοι σφιχτά. Αυτή η πυκνότητα δημιουργεί τα τεράστια προβλήματα θερμότητας που απαιτούν εξειδικευμένα συστήματα υδρόψυξης.

Τα API limits είναι μια άλλη αυξανόμενη ανησυχία για τους power users. Καθώς το compute γίνεται ακριβότερο, οι πάροχοι σφίγγουν τα λουριά. Βλέπουμε πιο επιθετικά rate limiting και υψηλότερες τιμές για προνομιακή πρόσβαση. Αυτό αναγκάζει τις εταιρείες να κοιτάξουν ξανά το τοπικό storage και το on-premise hardware ως βιώσιμη εναλλακτική. Το όνειρο της μεταφοράς των πάντων στο cloud προσκρούει στην πραγματικότητα του μηνιαίου λογαριασμού. Για πολλές εξειδικευμένες εργασίες, γίνεται πιο αποδοτικό να αγοράσεις το hardware και να διαχειριστείς μόνος σου την ενέργεια και την ψύξη, αρκεί να βρεις πού να τα βάλεις. Αυτή η «επανατοπικοποίηση» του compute είναι μια σημαντική τάση μεταξύ των high-end χρηστών που χρειάζονται σταθερή απόδοση χωρίς το overhead ενός cloud provider.

Το ίδιο το hardware αλλάζει επίσης. Απομακρυνόμαστε από τους general-purpose CPUs προς εξειδικευμένους accelerators σχεδιασμένους για συγκεκριμένους τύπους μαθηματικών. Αυτό καθιστά το hardware πιο αποδοτικό για ορισμένες εργασίες αλλά λιγότερο ευέλικτο για άλλες. Σημαίνει επίσης ότι η εφοδιαστική αλυσίδα είναι ακόμα πιο εύθραυστη. Αν ένα εργοστάσιο σε ένα μέρος του κόσμου έχει πρόβλημα, ολόκληρη η παγκόσμια γραμμή παραγωγής για έναν συγκεκριμένο τύπο accelerator μπορεί να σταματήσει. Οι power users ξοδεύουν πλέον όσο χρόνο διαχειρίζονται την εφοδιαστική αλυσίδα του hardware τους όσο και γράφοντας κώδικα. Πρέπει να σχεδιάζουν τις ανάγκες χωρητικότητας χρόνια πριν και να εξασφαλίζουν μακροχρόνια συμβόλαια τόσο για τα chips όσο και για το ρεύμα που θα τα τροφοδοτεί. Το geek κομμάτι της οικονομίας δεν ήταν ποτέ πιο δεμένο με τον κόσμο της βαριάς βιομηχανίας.

• Τα racks υψηλής πυκνότητας απαιτούν πλέον υδρόψυξη απευθείας στο chip για τη διαχείριση της θερμικής απόδοσης.
• Τα οπτικά interconnects αντικαθιστούν τον χαλκό για να ξεπεραστούν οι περιορισμοί απόστασης και ταχύτητας.
• Οι αποκλειστικοί υποσταθμοί ρεύματος γίνονται τυπική απαίτηση για τα νέα mega-clusters.
• Το τοπικό flash storage μεταφέρεται πιο κοντά στον accelerator για τη μείωση του latency.

Το μέλλον είναι προσγειωμένο

Η εποχή που αντιμετωπίζαμε το compute ως αφηρημένο, άπειρο πόρο τελείωσε. Μπήκαμε σε μια περίοδο όπου ο φυσικός κόσμος θέτει τους κανόνες. Οι εταιρείες που μπορούν να εξασφαλίσουν γη, ρεύμα και νερό θα ευδοκιμήσουν, ενώ εκείνες που βασίζονται στην καλή θέληση του δικτύου θα δυσκολευτούν. Αυτή η μετατόπιση μετατρέπει τους tech giants σε εταιρείες υποδομών. Χτίζουν εργοστάσια ενέργειας, στρώνουν δικές τους οπτικές ίνες και διαπραγματεύονται δικαιώματα νερού. Είναι μια επιστροφή στη βιομηχανική εποχή, αλλά με ψηφιακό σκοπό. Οι νικητές σε αυτό το περιβάλλον θα είναι εκείνοι που κατανοούν ότι το cloud είναι στην πραγματικότητα φτιαγμένο από ατσάλι και μπετόν.

Οι εντάσεις μεταξύ παγκόσμιας ζήτησης και τοπικής αντίστασης θα μεγαλώνουν. Πρέπει να περιμένουμε περισσότερους κανονισμούς, περισσότερες πολιτικές τριβές και συνεχή αύξηση του κόστους της high-end επεξεργασίας. Ο ψηφιακός κόσμος δεν είναι πλέον ένας ξεχωριστός χώρος. Είναι βαθιά ενσωματωμένος στο φυσικό μας περιβάλλον και επιτέλους αρχίζουμε να βλέπουμε το πραγματικό κόστος αυτής της ενσωμάτωσης. Οι εταιρείες που θα πετύχουν θα είναι εκείνες που μπορούν να πλοηγηθούν σε αυτούς τους φυσικούς περιορισμούς, συνεχίζοντας να παρέχουν τα εργαλεία στα οποία έχουμε βασιστεί. Το μέλλον της τεχνολογίας δεν είναι στον αέρα· είναι σταθερά στο έδαφος.

Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.