Ενέργεια, νερό, ψύξη: Το πραγματικό κόστος της εκπαίδευσης της AI

Το φυσικό βάρος της εικονικής νοημοσύνης

Η κοινή αντίληψη για την τεχνητή νοημοσύνη περιλαμβάνει καθαρό κώδικα και ανάλαφρα σύννεφα. Αυτή η εικόνα είναι ένα marketing παραμύθι. Κάθε prompt που πληκτρολογείτε και κάθε μοντέλο που εκπαιδεύει μια εταιρεία πυροδοτεί μια τεράστια φυσική αλυσιδωτή αντίδραση. Ξεκινά με ένα chip πυριτίου, αλλά καταλήγει σε έναν βουητό μετασχηματιστή και έναν πύργο ψύξης. Αυτή τη στιγμή γινόμαστε μάρτυρες μιας τεράστιας αλλαγής στον τρόπο με τον οποίο ο κόσμος χτίζει τη φυσική του βάση. Τα data centers έχουν μετατραπεί από ήσυχες αποθήκες στην άκρη της πόλης στα πιο αμφισβητούμενα κομμάτια υποδομής στον πλανήτη. Καταναλώνουν ηλεκτρική ενέργεια σε κλίμακα που προκαλεί τα εθνικά δίκτυα και καταναλώνουν νερό με τα δισεκατομμύρια γαλόνια. Η εποχή του αόρατου computing έχει τελειώσει. Σήμερα, η AI ορίζεται από το μπετόν, το ατσάλι και την ωμή ικανότητα μεταφοράς θερμότητας από το ένα μέρος στο άλλο. Αν μια εταιρεία δεν μπορεί να εξασφαλίσει χιλιάδες στρέμματα γης και έναν αποκλειστικό υποσταθμό ηλεκτρικής ενέργειας, οι φιλοδοξίες της για software είναι άσχετες. Ο αγώνας για την κυριαρχία στην AI δεν αφορά πλέον μόνο το ποιος έχει τα καλύτερα μαθηματικά. Αφορά το ποιος μπορεί να χτίσει το μεγαλύτερο καλοριφέρ.

Μπετόν, ατσάλι και πολεοδομικές άδειες

Η κατασκευή ενός σύγχρονου data center είναι ένα επίτευγμα βαριάς μηχανικής που ανταγωνίζεται την κατασκευή ενός μικρού αεροδρομίου. Ξεκινά με την απόκτηση γης. Οι developers αναζητούν επίπεδα οικόπεδα κοντά σε γραμμές μεταφοράς υψηλής τάσης και κορμούς οπτικών ινών. Αυτή η αναζήτηση έχει γίνει όλο και πιο δύσκολη καθώς οι κορυφαίες τοποθεσίες στη Βόρεια Βιρτζίνια ή το Δουβλίνο φτάνουν στα όριά τους. Μόλις εξασφαλιστεί ο χώρος, ξεκινά η διαδικασία των αδειών. Εκεί είναι που πολλά έργα κολλάνε. Οι τοπικές κυβερνήσεις δεν εγκρίνουν πλέον τυφλά αυτές τις αναπτύξεις. Ρωτούν για τα επίπεδα θορύβου από τους ανεμιστήρες ψύξης και τον αντίκτυπο στις τοπικές αξίες των ακινήτων. Μια μεγάλη εγκατάσταση μπορεί να καλύψει εκατοντάδες χιλιάδες τετραγωνικά πόδια. Στο εσωτερικό, το πάτωμα πρέπει να αντέχει το τεράστιο βάρος των server racks γεμάτα με μόλυβδο και χαλκό. Δεν πρόκειται για τυπικά κτίρια γραφείων. Είναι εξειδικευμένα δοχεία πίεσης σχεδιασμένα να διατηρούν ένα σταθερό περιβάλλον ενώ χιλιάδες GPUs λειτουργούν στο μέγιστο της χωρητικότητάς τους. Ο όγκος των υλικών που απαιτούνται είναι συγκλονιστικός. Χιλιάδες τόνοι δομικού χάλυβα και μίλια εξειδικευμένων σωληνώσεων χρειάζονται για να δημιουργηθούν τα κυκλώματα που απομακρύνουν τη θερμότητα από τους επεξεργαστές. Χωρίς αυτά τα φυσικά εξαρτήματα, το πιο προηγμένο νευρωνικό δίκτυο είναι απλώς μια συλλογή στατικών αρχείων σε έναν σκληρό δίσκο. Η βιομηχανία ανακαλύπτει ότι ενώ το software κλιμακώνεται με την ταχύτητα του φωτός, το ρίξιμο μπετόν και η εγκατάσταση ηλεκτρολογικού εξοπλισμού κλιμακώνονται με την ταχύτητα της τοπικής γραφειοκρατίας και των παγκόσμιων εφοδιαστικών αλυσίδων.

Η νέα γεωπολιτική των Megawatts

Η ενέργεια έχει γίνει το απόλυτο νόμισμα στον κόσμο της τεχνολογίας. Οι εθνικές κυβερνήσεις βλέπουν πλέον τα data centers ως στρατηγικά περιουσιακά στοιχεία, παρόμοια με τα διυλιστήρια πετρελαίου ή τα εργοστάσια ημιαγωγών. Αυτό δημιουργεί μια δύσκολη ένταση. Από τη μία πλευρά, οι χώρες θέλουν να φιλοξενήσουν την υποδομή που τροφοδοτεί τη μελλοντική οικονομία. Από την άλλη, οι ενεργειακές απαιτήσεις απειλούν να αποσταθεροποιήσουν τα τοπικά δίκτυα. Σε ορισμένες περιοχές, μια πανεπιστημιούπολη data center μπορεί να καταναλώσει τόση ηλεκτρική ενέργεια όση μια πόλη μεσαίου μεγέθους. Αυτό οδήγησε σε μια νέα μορφή ενεργειακού προστατευτισμού. Οι χώρες αρχίζουν να δίνουν προτεραιότητα στις δικές τους εγχώριες ανάγκες AI έναντι των απαιτήσεων των διεθνών τεχνολογικών κολοσσών. Ο Διεθνής Οργανισμός Ενέργειας σημείωσε ότι η κατανάλωση ηλεκτρικής ενέργειας των data centers θα μπορούσε να διπλασιαστεί καθώς αυξάνεται η ζήτηση για εκπαίδευση AI. Αυτό φέρνει τις εταιρείες τεχνολογίας σε άμεσο ανταγωνισμό με τους κατοίκους και τις παραδοσιακές βιομηχανίες για μια περιορισμένη προσφορά πράσινης ενέργειας. Βλέπουμε μια μετατόπιση όπου τα data centers δεν είναι πλέον απλώς τεχνικοί κόμβοι, αλλά πολιτικά διαπραγματευτικά χαρτιά. Οι κυβερνήσεις απαιτούν από τις εταιρείες να χτίσουν τις δικές τους πηγές ανανεώσιμης ενέργειας ή να συνεισφέρουν σε αναβαθμίσεις του δικτύου ως προϋπόθεση για οικοδομικές άδειες. Το αποτέλεσμα είναι ένας κατακερματισμένος παγκόσμιος χάρτης όπου η ανάπτυξη της AI συγκεντρώνεται σε περιοχές που μπορούν να αντέξουν το τεράστιο ηλεκτρικό φορτίο. Αυτή η γεωγραφική συγκέντρωση δημιουργεί νέους κινδύνους για την παγκόσμια σταθερότητα και την κυριαρχία των δεδομένων, καθώς μια χούφτα περιοχών πλούσιων σε ενέργεια γίνονται οι φύλακες της μηχανικής νοημοσύνης.

Θόρυβος, θερμότητα και τοπική αντίσταση

Σκεφτείτε την καθημερινή πραγματικότητα για έναν υπεύθυνο εργοταξίου σε ένα μεγάλο έργο κατασκευής data center. Το πρωί του δεν ξεκινά με code reviews. Ξεκινά με ενημέρωση για την κατάσταση ενός νέου αγωγού νερού. Περνά τις ώρες του συντονίζοντας τις εταιρείες κοινής ωφέλειας για να διασφαλίσει ότι η παροχή ρεύματος παραμένει σταθερή κατά τη διάρκεια ενός καύσωνα. Αυτός ο manager είναι η γέφυρα μεταξύ του ψηφιακού κόσμου και της φυσικής κοινότητας. Το απόγευμα, μπορεί να παρευρεθεί σε μια δημόσια συγκέντρωση όπου οργισμένοι κάτοικοι παραπονιούνται για το βουητό χαμηλής συχνότητας των μονάδων ψύξης. Αυτός ο θόρυβος είναι μια συνεχής υπενθύμιση στους γείτονες ότι μια τεράστια βιομηχανική διαδικασία συμβαίνει στην αυλή τους. Η θερμότητα που παράγεται από χιλιάδες chips πρέπει να πάει κάπου. Στις περισσότερες περιπτώσεις, εκτονώνεται στην ατμόσφαιρα ή μεταφέρεται στο νερό. Αυτό δημιουργεί ένα τεράστιο αποτύπωμα νερού. Μια μεγάλη εγκατάσταση μπορεί να χρησιμοποιεί εκατομμύρια γαλόνια νερού κάθε μέρα για εξατμιστική ψύξη. Σε περιοχές που πλήττονται από ξηρασία, αυτό αποτελεί σημείο ανάφλεξης για την τοπική αντίσταση. Οι αγρότες και οι κάτοικοι είναι όλο και λιγότερο πρόθυμοι να ανταλλάξουν την τοπική τους ασφάλεια νερού με την ανάγκη μιας εταιρείας να εκπαιδεύσει ένα μεγαλύτερο γλωσσικό μοντέλο. Αυτή η τριβή αλλάζει τον τρόπο με τον οποίο οι εταιρείες σχεδιάζουν τα συστήματά τους. Αναγκάζονται να εξετάσουν την ψύξη κλειστού κυκλώματος ή ακόμα και τη μετεγκατάσταση σε ψυχρότερα κλίματα όπως οι σκανδιναβικές χώρες για να μειώσουν την εξάρτηση από τις τοπικές προμήθειες νερού. Η αντίφαση είναι σαφής. Θέλουμε τα οφέλη της AI, αλλά διστάζουμε όλο και περισσότερο να ζήσουμε με τις φυσικές συνέπειες της παραγωγής της. Αυτή η τοπική αντίσταση δεν είναι ένα μικρό εμπόδιο. Είναι ένας θεμελιώδης περιορισμός στην ανάπτυξη της βιομηχανίας. Οι άνθρωποι που ζουν κοντά σε αυτές τις εγκαταστάσεις είναι εκείνοι που πληρώνουν το κρυφό τίμημα κάθε αναζήτησης και παραγόμενης εικόνας.

Η κλίμακα αυτής της υποδομής συχνά υποτιμάται από το ευρύ κοινό. Ενώ πολλοί άνθρωποι εστιάζουν στην ενέργεια που χρησιμοποιείται για την εκτέλεση ενός μοντέλου, η ενέργεια που χρησιμοποιείται για την κατασκευή του ίδιου του data center συχνά αγνοείται. Αυτό περιλαμβάνει το αποτύπωμα άνθρακα του τσιμέντου και την εξόρυξη των μετάλλων σπάνιων γαιών που απαιτούνται για το hardware.

Συχνά υπερεκτιμούμε την αποδοτικότητα αυτών των συστημάτων ενώ υποτιμάμε τις απαιτήσεις σε πρώτες ύλες. Η βιομηχανία βρίσκεται επί του παρόντος σε έναν κύκλο οικοδόμησης όσο το δυνατόν γρηγορότερα για να καλύψει τη ζήτηση, γεγονός που συχνά οδηγεί σε περικοπές στη μακροπρόθεσμη βιωσιμότητα. Αυτό δημιουργεί ένα χρέος που τελικά θα πρέπει να πληρωθεί από το τοπικό περιβάλλον και το παγκόσμιο κλίμα. Καθώς κοιτάζουμε προς το μέλλον, το ερώτημα είναι αν μπορούμε να βρούμε έναν τρόπο να αποσυνδέσουμε την πρόοδο της AI από αυτή την τεράστια φυσική επέκταση.

Το κρυφό τίμημα της αποδοτικότητας

Ο σωκρατικός σκεπτικισμός μας αναγκάζει να δούμε πέρα από τις εκθέσεις βιωσιμότητας των εταιρειών. Αν μια εταιρεία ισχυρίζεται ότι το data center της είναι ουδέτερο ως προς τον άνθρακα, πρέπει να ρωτήσουμε πού μετατοπίστηκε ο άνθρακας. Συχνά, οι εταιρείες αγοράζουν πιστώσεις ανανεώσιμης ενέργειας ενώ εξακολουθούν να αντλούν βαριά φορτία από ένα δίκτυο που βασίζεται στον άνθρακα κατά τις ώρες αιχμής. Ποιο είναι το κρυφό κόστος αυτής της ρύθμισης; Μήπως η παρουσία ενός τεράστιου data center ανεβάζει τις τιμές του ηλεκτρικού ρεύματος για τις τοπικές οικογένειες; Σε πολλές αγορές, η απάντηση είναι ναι. Πρέπει επίσης να εξετάσουμε τις επιπτώσεις της φυσικής συγκέντρωσης στην ιδιωτικότητα. Όταν λίγες τεράστιες πανεπιστημιουπόλεις κατέχουν το μεγαλύτερο μέρος της επεξεργαστικής ισχύος του κόσμου, γίνονται μεμονωμένα σημεία αποτυχίας και κύριοι στόχοι για παρακολούθηση ή δολιοφθορά. Είναι συνετό να συγκεντρώνουμε τη συλλογική μας νοημοσύνη σε μερικές δεξαμενές υψηλής πυκνότητας; Υπάρχει επίσης το ζήτημα του νερού. Όταν ένα data center χρησιμοποιεί επεξεργασμένο δημοτικό νερό για ψύξη, ουσιαστικά ανταγωνίζεται τον τοπικό πληθυσμό για έναν πόρο ζωτικής σημασίας. Αξίζει ένα ταχύτερο chatbot έναν χαμηλότερο υδροφόρο ορίζοντα; Αυτά δεν είναι τεχνικά ερωτήματα. Είναι ηθικά και πολιτικά. Πρέπει να ρωτήσουμε ποιος ωφελείται από αυτή την υποδομή και ποιος επωμίζεται το βάρος. Οι εταιρείες τεχνολογίας κερδίζουν το κέρδος και τη δυνατότητα, ενώ οι τοπικές κοινότητες αντιμετωπίζουν τον θόρυβο, την κίνηση και την περιβαλλοντική πίεση. Αυτή η ανισορροπία είναι ο πυρήνας της αυξανόμενης αντίδρασης κατά της φυσικής επέκτασης της βιομηχανίας AI. Πρέπει να ορίσουμε τα όρια αυτής της ανάπτυξης πριν το φυσικό αποτύπωμα γίνει μη διαχειρίσιμο.

Θερμικός σχεδιασμός και πυκνότητα rack

Για τον power user, οι περιορισμοί της AI βρίσκονται στις τεχνικές προδιαγραφές του server rack. Απομακρυνόμαστε από την παραδοσιακή ψύξη με αέρα προς την υγρή ψύξη ως πρότυπο. Ο λόγος είναι η απλή φυσική. Ο αέρας δεν μπορεί να απομακρύνει τη θερμότητα αρκετά γρήγορα για να συμβαδίσει με την πυκνότητα ισχύος των σύγχρονων chips. Μια NVIDIA H100 GPU μπορεί να έχει θερμική ισχύ σχεδιασμού 700 watt. Όταν βάζετε δεκάδες από αυτές σε ένα μόνο rack, έχετε να κάνετε με μια πηγή θερμότητας που μπορεί να λιώσει το standard hardware αν η ψύξη αποτύχει έστω και για λίγα δευτερόλεπτα. Αυτό οδήγησε στην υιοθέτηση της υγρής ψύξης απευθείας στο chip, όπου το ψυκτικό υγρό αντλείται απευθείας πάνω από τον επεξεργαστή. Αυτό απαιτεί μια εντελώς διαφορετική υποδομή υδραυλικών εγκαταστάσεων μέσα στο data center. Αλλάζει επίσης τη ροή εργασίας για τους μηχανικούς. Πρέπει πλέον να διαχειρίζονται τις πιέσεις των υγρών και τα συστήματα ανίχνευσης διαρροών παράλληλα με τις αναπτύξεις του software τους. Τα όρια του API είναι συχνά μια άμεση αντανάκλαση αυτών των θερμικών και ενεργειακών περιορισμών. Ένας πάροχος περιορίζει τα tokens σας όχι μόνο για να εξοικονομήσει χρήματα, αλλά για να εμποδίσει το hardware του να φτάσει σε ένα θερμικό όριο που θα προκαλούσε τερματισμό λειτουργίας. Η τοπική αποθήκευση γίνεται επίσης σημείο συμφόρησης. Η μετακίνηση των τεράστιων συνόλων δεδομένων που απαιτούνται για την εκπαίδευση σε αυτά τα clusters υψηλής πυκνότητας απαιτεί εξειδικευμένη δικτύωση που μπορεί να διαχειριστεί terabits throughput. Η ενσωμάτωση αυτών των συστημάτων σε μια συνεκτική ροή εργασίας είναι η κύρια πρόκληση για τις σύγχρονες ομάδες DevOps. Δεν διαχειρίζονται πλέον μόνο containers. Διαχειρίζονται τη φυσική κατάσταση του hardware. Αυτό το geek κομμάτι της βιομηχανίας είναι όπου συμβαίνει η πραγματική καινοτομία, καθώς οι μηχανικοί βρίσκουν τρόπους να αποσπάσουν περισσότερη απόδοση από κάθε watt και κάθε λίτρο νερού. Μπορείτε να βρείτε περισσότερες λεπτομέρειες σχετικά με αυτές τις τεχνικές απαιτήσεις στον ολοκληρωμένο οδηγό υποδομής AI μας στο [Insert Your AI Magazine Domain Here].

Έχετε μια ιστορία, εργαλείο, τάση ή ερώτηση σχετικά με την τεχνητή νοημοσύνη που πιστεύετε ότι πρέπει να καλύψουμε; Στείλτε μας την ιδέα σας για άρθρο — θα χαρούμε να την ακούσουμε.

Το ανεπίλυτο χάσμα υποδομών

Το συμπέρασμα είναι ότι η AI έχει ένα φυσικό όριο. Δεν μπορούμε να συνεχίσουμε να αυξάνουμε τα μεγέθη των μοντέλων επ’ αόριστον χωρίς να χτυπήσουμε σε έναν τοίχο διαθεσιμότητας ενέργειας και χωρητικότητας ψύξης. Η βιομηχανία στοιχηματίζει επί του παρόντος ότι τα κέρδη στην αποδοτικότητα θα ξεπεράσουν την αύξηση της ζήτησης, αλλά τα δεδομένα δείχνουν το αντίθετο. Χτίζουμε έναν ψηφιακό κόσμο πάνω σε μια φυσική βάση που βρίσκεται ήδη υπό σημαντική πίεση. Οι πιο επιτυχημένες εταιρείες της επόμενης δεκαετίας θα είναι αυτές που θα κυριαρχήσουν στο φυσικό επίπεδο του stack. Θα είναι εκείνες που θα εξασφαλίσουν τη γη, την ενέργεια και το νερό πριν από τους ανταγωνιστές τους. Αυτός είναι ένας αγώνας υψηλού ρίσκου που θα αναδιαμορφώσει τις πόλεις μας και τα ενεργειακά μας δίκτυα. Ένα ερώτημα παραμένει ανοιχτό. Θα απαιτήσει τελικά το κοινό ένα σκληρό όριο στους πόρους που διατίθενται για την AI, ή θα συνεχίσουμε να δίνουμε προτεραιότητα στην εικονική πρόοδο έναντι της φυσικής βιωσιμότητας; Η απάντηση θα καθορίσει το σχήμα του τεχνολογικού μας μέλλοντος. Η ένταση μεταξύ των ψηφιακών μας φιλοδοξιών και της φυσικής μας πραγματικότητας είναι η καθοριστική σύγκρουση της εποχής της AI.

Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.

Βρήκατε κάποιο λάθος ή κάτι που χρειάζεται διόρθωση; Ενημερώστε μας.