Τι πραγματικά ζητούν οι χώρες από τη στρατιωτική τεχνητή νοημοσύνη
Ο αγώνας για την αλγοριθμική ταχύτητα
Η σύγχρονη αμυντική στρατηγική δεν αφορά πλέον μόνο το μέγεθος ενός στρατού ή το βεληνεκές ενός πυραύλου. Σήμερα, η προτεραιότητα για κάθε μεγάλη παγκόσμια δύναμη είναι η συμπίεση του χρόνου. Οι χώρες θέλουν να μειώσουν το παράθυρο μεταξύ του εντοπισμού μιας απειλής και της εξουδετέρωσής της. Αυτή η διαδικασία, που συχνά αποκαλείται sensor to shooter loop, είναι εκεί όπου η τεχνητή νοημοσύνη βρίσκει τον κύριο σκοπό της σε στρατιωτικά πλαίσια. Οι κυβερνήσεις δεν αναζητούν ρομπότ με συνείδηση για να αντικαταστήσουν τους στρατιώτες. Αναζητούν επεξεργασία δεδομένων υψηλής ταχύτητας που μπορεί να εντοπίσει ένα κρυμμένο τανκ σε μια δορυφορική εικόνα ή να προβλέψει πού μπορεί να χτυπήσει ένα σμήνος από drones πριν καν προλάβει να ανοιγοκλείσει τα μάτια του ένας άνθρωπος χειριστής. Ο στόχος είναι η τακτική υπεροχή μέσω της κυριαρχίας στην πληροφορία. Αν η μία πλευρά μπορεί να επεξεργάζεται δεδομένα και να λαμβάνει αποφάσεις δέκα φορές πιο γρήγορα από τον αντίπαλο, το φυσικό μέγεθος της αντίπαλης δύναμης γίνεται δευτερεύον. Αυτός είναι ο πυρήνας της τρέχουσας αλλαγής στις παγκόσμιες αμυντικές προμήθειες.
Η εστίαση παραμένει σε τρεις συγκεκριμένους τομείς: επιτήρηση, προγνωστική εφοδιαστική και αυτόνομη πλοήγηση. Ενώ το κοινό συχνά ανησυχεί για φονικά ρομπότ, η στρατιωτική πραγματικότητα είναι πολύ πιο πεζή αλλά εξίσου σημαντική. Περιλαμβάνει λογισμικό που μπορεί να σκανάρει χιλιάδες ώρες βίντεο για να βρει μια πινακίδα κυκλοφορίας. Περιλαμβάνει αλγόριθμους που λένε σε έναν διοικητή πότε ένας κινητήρας τζετ είναι πιθανό να παρουσιάσει βλάβη ώστε να επισκευαστεί πριν από μια αποστολή. Αυτές οι εφαρμογές χρησιμοποιούνται ήδη και αλλάζουν τον τρόπο με τον οποίο κατανέμονται οι στρατιωτικοί προϋπολογισμοί. Η στροφή απομακρύνεται από το παραδοσιακό hardware και κατευθύνεται προς αμυντικά συστήματα που ορίζονται από λογισμικό (software defined) και μπορούν να ενημερώνονται σε πραγματικό χρόνο. Αυτή η αλλαγή δεν αφορά μόνο την τεχνολογία. Αφορά τον θεμελιώδη τρόπο με τον οποίο ένα έθνος προστατεύει τα συμφέροντά του σε μια εποχή όπου τα δεδομένα είναι ο πιο πολύτιμος πόρος στο πεδίο της μάχης.
Η στρατιωτική τεχνητή νοημοσύνη είναι μια ευρεία κατηγορία που καλύπτει τα πάντα, από τον απλό αυτοματισμό έως τα σύνθετα συστήματα υποστήριξης αποφάσεων. Στο πιο βασικό της επίπεδο, πρόκειται για αναγνώριση προτύπων. Οι υπολογιστές είναι εξαιρετικά καλοί στο να βρίσκουν βελόνες στα άχυρα. Σε στρατιωτικό πλαίσιο, αυτή η βελόνα μπορεί να είναι ένας καμουφλαρισμένος εκτοξευτής πυραύλων ή μια συγκεκριμένη συχνότητα ραδιοφωνικών παρεμβολών. Ο αυτοματισμός χειρίζεται επαναλαμβανόμενες εργασίες που εξαντλούν τους ανθρώπους, όπως η παρακολούθηση ενός συνοριακού φράχτη για είκοσι τέσσερις ώρες συνεχόμενα. Η αυτονομία είναι διαφορετική. Η αυτονομία περιλαμβάνει ένα σύστημα που μπορεί να κάνει τις δικές του επιλογές μέσα σε ένα σύνολο προκαθορισμένων παραμέτρων. Οι περισσότερες χώρες επικεντρώνονται επί του παρόντος σε ημι-αυτόνομα συστήματα όπου ένας άνθρωπος παραμένει στο κύκλωμα για να λάβει την τελική απόφαση. Αυτή η διάκριση είναι κρίσιμη επειδή καθορίζει τα νομικά και ηθικά όρια του σύγχρονου πολέμου. Η λογική προμηθειών για αυτά τα συστήματα καθοδηγείται από την ανάγκη για αποτελεσματικότητα και την επιθυμία να κρατηθούν οι άνθρωποι στρατιώτες μακριά από καταστάσεις υψηλού κινδύνου. Μπορείτε να διαβάσετε περισσότερα για αυτές τις τάσεις στο τελευταίο μας AI reporting που καλύπτει τη διασταύρωση τεχνολογίας και πολιτικής.
Το χάσμα μεταξύ ρητορικής και εφαρμογής είναι μεγάλο. Ενώ οι πολιτικοί μιλούν για προηγμένη μηχανική μάθηση, η πραγματικότητα στο πεδίο συχνά περιλαμβάνει δυσκολίες στο να κάνουν διαφορετικά συστήματα λογισμικού να επικοινωνούν μεταξύ τους. Οι προμήθειες είναι μια αργή διαδικασία που συχνά συγκρούεται με τον γρήγορο ρυθμό ανάπτυξης λογισμικού. Ένα παραδοσιακό μαχητικό αεροσκάφος μπορεί να χρειαστεί είκοσι χρόνια για να αναπτυχθεί, αλλά ένα μοντέλο AI μπορεί να είναι ξεπερασμένο σε έξι μήνες. Αυτό δημιουργεί ένα σημείο τριβής στον τρόπο με τον οποίο οι στρατοί αγοράζουν τεχνολογία. Προσπαθούν να κινηθούν προς αρθρωτά (modular) συστήματα όπου το hardware παραμένει το ίδιο, αλλά ο «εγκέφαλος» της μηχανής μπορεί να αντικατασταθεί ή να αναβαθμιστεί συχνά. Αυτό απαιτεί μια πλήρη αναθεώρηση του τρόπου με τον οποίο συντάσσονται τα αμυντικά συμβόλαια και του τρόπου διαχείρισης της πνευματικής ιδιοκτησίας μεταξύ της κυβέρνησης και των ιδιωτικών εταιρειών τεχνολογίας. Η κίνηση προς αυτά τα συστήματα καθοδηγείται επίσης από την αυξανόμενη διαθεσιμότητα φθηνής, εμπορικής τεχνολογίας που μπορεί να προσαρμοστεί για στρατιωτική χρήση. Αυτός ο εκδημοκρατισμός της τεχνολογίας σημαίνει ότι ακόμη και μικρότερα έθνη μπορούν πλέον να έχουν πρόσβαση σε δυνατότητες που κάποτε προορίζονταν για υπερδυνάμεις.
Ο παγκόσμιος αντίκτυπος αυτών των τεχνολογιών είναι βαθύς επειδή αλλάζουν τον υπολογισμό της αποτροπής. Εάν μια χώρα γνωρίζει ότι ο αντίπαλός της διαθέτει ένα σύστημα AI που μπορεί να αναχαιτίσει κάθε εισερχόμενο πύραυλο με σχεδόν τέλεια ακρίβεια, η απειλή μιας πυραυλικής επίθεσης χάνει τη δύναμή της. Αυτό οδηγεί σε μια κούρσα εξοπλισμών όχι μόνο στα όπλα, αλλά και στους αλγόριθμους που τα ελέγχουν. Αυτό δημιουργεί ένα νέο είδος αστάθειας. Όταν δύο αυτόνομα συστήματα αλληλεπιδρούν, το αποτέλεσμα μπορεί να είναι απρόβλεπτο. Υπάρχει κίνδυνος τυχαίας κλιμάκωσης όπου μια μηχανή αντιλαμβάνεται μια απειλή και αντιδρά πριν προλάβει να παρέμβει ένας άνθρωπος. Αυτό αποτελεί μείζονα ανησυχία για τους ειδικούς διεθνούς ασφάλειας που φοβούνται ότι η ταχύτητα της AI θα μπορούσε να οδηγήσει σε συγκρούσεις που ξεφεύγουν από τον έλεγχο μέσα σε λίγα λεπτά. Η παγκόσμια κοινότητα συζητά επί του παρόντος αν θα πρέπει να υπάρξουν διεθνείς απαγορεύσεις για ορισμένους τύπους αυτόνομων όπλων, αλλά οι μεγάλες δυνάμεις διστάζουν να υπογράψουν οτιδήποτε θα μπορούσε να τις θέσει σε μειονεκτική θέση. Η εστίαση είναι στη διατήρηση ενός ανταγωνιστικού πλεονεκτήματος, ενώ παράλληλα προσπαθούν να θεσπίσουν ορισμένους βασικούς κανόνες για την αποφυγή ενός καταστροφικού λάθους.
Οι περιφερειακές δυνάμεις χρησιμοποιούν επίσης αυτά τα εργαλεία για να προβάλουν επιρροή. Σε περιοχές όπως η Θάλασσα της Νότιας Κίνας ή η Ανατολική Ευρώπη, η AI επιτήρησης επιτρέπει τη συνεχή παρακολούθηση των κινήσεων χωρίς την ανάγκη μεγάλης φυσικής παρουσίας. Αυτό δημιουργεί μια κατάσταση μόνιμης παρατήρησης όπου κάθε κίνηση καταγράφεται και αναλύεται. Για τα μικρότερα έθνη, η AI προσφέρει έναν τρόπο να ξεπεράσουν τις δυνατότητές τους. Ένας μικρός στόλος αυτόνομων υποβρύχιων οχημάτων μπορεί να παρακολουθεί αποτελεσματικά μια ακτογραμμή με ένα κλάσμα του κόστους ενός παραδοσιακού ναυτικού. Αυτή η αλλαγή αποκεντρώνει τη στρατιωτική ισχύ και καθιστά το παγκόσμιο περιβάλλον ασφαλείας πιο περίπλοκο. Δεν αφορά πλέον μόνο το ποιος έχει τα περισσότερα τανκς. Αφορά το ποιος έχει τα καλύτερα δεδομένα και τους πιο αποτελεσματικούς αλγόριθμους για την επεξεργασία τους. Αυτή η αλλαγή αναγκάζει κάθε έθνος να επανεξετάσει τη στρατηγική άμυνάς του από το μηδέν. Η εστίαση μετατοπίζεται από τη φυσική δύναμη στη γνωστική ευελιξία.
Για να κατανοήσετε τον αντίκτυπο στον πραγματικό κόσμο, σκεφτείτε μια μέρα στη ζωή ενός σύγχρονου αναλυτή πληροφοριών. Πριν από δέκα χρόνια, αυτό το άτομο θα περνούσε οκτώ ώρες την ημέρα κοιτάζοντας χειροκίνητα δορυφορικές φωτογραφίες και επισημαίνοντας πιθανούς στόχους. Ήταν αργό, κουραστικό και επιρρεπές σε ανθρώπινα λάθη. Σήμερα, ο αναλυτής φτάνει στο γραφείο του και τον υποδέχεται μια λίστα ειδοποιήσεων υψηλής προτεραιότητας που δημιουργήθηκαν από μια AI. Το λογισμικό έχει ήδη σκανάρει χιλιάδες εικόνες και έχει επισημάνει οτιδήποτε φαίνεται ύποπτο. Ο αναλυτής αφιερώνει στη συνέχεια τον χρόνο του επαληθεύοντας αυτές τις ειδοποιήσεις και αποφασίζοντας ποια ενέργεια θα αναλάβει. Πρόκειται για μια μετατόπιση από τη συλλογή δεδομένων στην επικύρωση δεδομένων. Σε ένα σενάριο μάχης, ένας χειριστής drone μπορεί να διαχειρίζεται δώδεκα αυτόνομα αεροσκάφη ταυτόχρονα. Ο χειριστής δεν πετάει τα αεροπλάνα με την παραδοσιακή έννοια. Αντίθετα, δίνει εντολές υψηλού επιπέδου όπως “ψάξε αυτή την περιοχή” ή “παρακολούθησε αυτή τη συνοδεία”. Η AI χειρίζεται τη διαδρομή πτήσης, τη διαχείριση της μπαταρίας και την αποφυγή εμποδίων. Αυτό επιτρέπει σε έναν μόνο άνθρωπο να έχει πολύ μεγαλύτερο αντίκτυπο στο πεδίο της μάχης από ποτέ.
Σε ένα θαλάσσιο περιβάλλον, ένα αυτόνομο πλοίο μπορεί να περάσει μήνες στη θάλασσα, ακούγοντας αθόρυβα το ακουστικό αποτύπωμα ενός υποβρυχίου. Δεν χρειάζεται φαγητό, ύπνο ή μισθό. Απλώς ακολουθεί τον προγραμματισμό του και αναφέρει πίσω όταν βρίσκει κάτι ενδιαφέρον. Αυτό το είδος επίμονης επιτήρησης αλλάζει τα δεδομένα για την ασφάλεια των συνόρων και τη θαλάσσια περιπολία. Επιτρέπει σε μια χώρα να διατηρεί παρουσία σε απομακρυσμένες περιοχές χωρίς να διακινδυνεύει ανθρώπινες ζωές. Ωστόσο, αυτό σημαίνει επίσης ότι το κατώφλι για σύγκρουση χαμηλώνει. Εάν μια χώρα χάσει ένα αυτόνομο drone, είναι μια οικονομική απώλεια, όχι μια ανθρώπινη. Αυτό μπορεί να κάνει τους ηγέτες πιο πρόθυμους να αναλάβουν κινδύνους που θα απέφευγαν αν εμπλέκονταν άνθρωποι πιλότοι. Η έλλειψη ανθρώπινου κινδύνου θα μπορούσε να οδηγήσει σε συχνότερες αψιμαχίες και υψηλότερο συνολικό επίπεδο έντασης σε αμφισβητούμενες περιοχές. Αυτό είναι το κρυφό κόστος του να γίνει ο πόλεμος πιο αποτελεσματικός και λιγότερο επικίνδυνος για την πλευρά με την καλύτερη τεχνολογία.
Η λογική προμηθειών πίσω από αυτά τα συστήματα αλλάζει επίσης τη σχέση μεταξύ του στρατού και του ιδιωτικού τομέα. Εταιρείες όπως η Palantir και η Anduril είναι πλέον σημαντικοί παίκτες στον αμυντικό χώρο. Φέρνουν μια προσέγγιση Silicon Valley στο hardware και το λογισμικό που είναι πολύ διαφορετική από τους παραδοσιακούς αμυντικούς εργολάβους. Εστιάζουν στην ταχεία επανάληψη και την εμπειρία χρήστη. Αυτό προσελκύει μια νέα γενιά μηχανικών στην αμυντική βιομηχανία, αλλά εγείρει επίσης ερωτήματα σχετικά με την επιρροή των ιδιωτικών εταιρειών στην πολιτική εθνικής ασφάλειας. Όταν μια ιδιωτική εταιρεία κατέχει τους αλγόριθμους που λειτουργούν τα αμυντικά συστήματα μιας χώρας, η γραμμή μεταξύ κυβέρνησης και βιομηχανίας γίνεται θολή. Αυτό ισχύει ιδιαίτερα όσον αφορά τα δεδομένα. Τα συστήματα AI χρειάζονται τεράστιες ποσότητες δεδομένων για να μάθουν. Συχνά, αυτά τα δεδομένα προέρχονται από τον ιδιωτικό τομέα ή συλλέγονται από ιδιωτικές εταιρείες για λογαριασμό της κυβέρνησης. Αυτό δημιουργεί μια εξάρτηση που είναι δύσκολο να ξεμπλεχτεί και έχει μακροπρόθεσμες επιπτώσεις στον τρόπο με τον οποίο διεξάγονται οι πόλεμοι και διατηρείται η ειρήνη.
Ο σωκρατικός σκεπτικισμός μας αναγκάζει να θέσουμε δύσκολες ερωτήσεις σχετικά με αυτές τις εξελίξεις. Εάν ένα αυτόνομο σύστημα κάνει λάθος και χτυπήσει έναν πολιτικό στόχο, ποιος είναι υπεύθυνος; Είναι ο προγραμματιστής που έγραψε τον κώδικα, ο διοικητής που ανέπτυξε το σύστημα ή ο κατασκευαστής που έφτιαξε το hardware; Τα τρέχοντα νομικά πλαίσια δεν είναι εξοπλισμένα για να χειριστούν αυτό το επίπεδο πολυπλοκότητας. Υπάρχει επίσης το ζήτημα της μεροληψίας. Εάν μια AI εκπαιδευτεί σε δεδομένα από προηγούμενες συγκρούσεις, μπορεί να κληρονομήσει τις προκαταλήψεις εκείνων που τις πολέμησαν. Αυτό θα μπορούσε να οδηγήσει στην άδικη στόχευση ορισμένων ομάδων ή περιοχών με βάση ελαττωματικά ιστορικά δεδομένα. Επιπλέον, ποιο είναι το κρυφό κόστος αυτής της τεχνολογίας; Ενώ μπορεί να εξοικονομήσει χρήματα από το προσωπικό, το κόστος συντήρησης της ψηφιακής υποδομής και προστασίας της από κυβερνοεπιθέσεις είναι τεράστιο. Μια μόνο παραβίαση θα μπορούσε να απενεργοποιήσει έναν ολόκληρο στόλο αυτόνομων οχημάτων, αφήνοντας ένα έθνος απροστάτευτο.
Το BotNews.today χρησιμοποιεί εργαλεία τεχνητής νοημοσύνης για την έρευνα, συγγραφή, επιμέλεια και μετάφραση περιεχομένου. Η ομάδα μας ελέγχει και επιβλέπει τη διαδικασία για να διατηρεί τις πληροφορίες χρήσιμες, σαφείς και αξιόπιστες.
Το Geek Section: Για όσους ενδιαφέρονται για την τεχνική αρχιτεκτονική, η στρατιωτική AI βασίζεται σε μεγάλο βαθμό στο edge computing. Σε μια ζώνη μάχης, δεν μπορείτε να βασιστείτε σε μια σταθερή σύνδεση με έναν cloud server στη Βιρτζίνια. Η επεξεργασία πρέπει να γίνεται στην ίδια τη συσκευή. Αυτό σημαίνει ότι τα drones και οι επίγειοι αισθητήρες πρέπει να διαθέτουν ισχυρά, ενεργειακά αποδοτικά τσιπ ικανά να εκτελούν σύνθετα νευρωνικά δίκτυα τοπικά. Η πρόκληση είναι η εξισορρόπηση της ανάγκης για επεξεργαστική ισχύ με τους περιορισμούς της διάρκειας ζωής της μπαταρίας και της απαγωγής θερμότητας. Ένα άλλο σημαντικό εμπόδιο είναι το πρόβλημα των σιλό δεδομένων. Διαφορετικοί κλάδοι του στρατού χρησιμοποιούν συχνά διαφορετικές μορφές δεδομένων και πρωτόκολλα επικοινωνίας. Για να είναι αποτελεσματική μια AI, πρέπει να είναι σε θέση να λαμβάνει και να συνθέτει δεδομένα από κάθε διαθέσιμη πηγή, από την κάμερα σώματος ενός στρατιώτη μέχρι ένα κατασκοπευτικό αεροπλάνο μεγάλου υψομέτρου. Αυτό απαιτεί τη δημιουργία ενοποιημένων επιπέδων δεδομένων και τυποποιημένων API που μπορούν να λειτουργήσουν σε διαφορετικές πλατφόρμες. Τα περισσότερα τρέχοντα στρατιωτικά έργα AI επικεντρώνονται σε αυτό το βαρετό αλλά απαραίτητο έργο της ενοποίησης δεδομένων.
Τα όρια του API και το εύρος ζώνης αποτελούν επίσης σημαντικούς περιορισμούς. Σε ένα αμφισβητούμενο περιβάλλον, ο εχθρός θα προσπαθήσει να παρεμβληθεί στις επικοινωνίες. Μια AI που εξαρτάται από συνεχείς ενημερώσεις θα αποτύχει. Επομένως, ο στόχος είναι η δημιουργία συστημάτων που μπορούν να λειτουργούν ανεξάρτητα για μεγάλες περιόδους και να συγχρονίζονται μόνο όταν είναι διαθέσιμη μια ασφαλής σύνδεση. Αυτό οδηγεί στην ανάπτυξη μοντέλων ομοσπονδιακής μάθησης (federated learning) όπου η AI μπορεί να μαθαίνει και να βελτιώνεται εν κινήσει χωρίς να χρειάζεται να στέλνει όλα τα δεδομένα της πίσω σε έναν κεντρικό διακομιστή. Η τοπική αποθήκευση είναι ένα άλλο ζήτημα. Ένας μόνο αισθητήρας υψηλής ευκρίνειας μπορεί να δημιουργήσει terabytes δεδομένων σε λίγες ώρες. Η απόφαση για το ποια δεδομένα θα διατηρηθούν και ποια θα απορριφθούν είναι μια εργασία που ανατίθεται όλο και περισσότερο στην AI. Αυτό δημιουργεί έναν βρόχο ανάδρασης όπου η AI αποφασίζει ποιες πληροφορίες θα βλέπουν οι άνθρωποι. Εάν η λογική φιλτραρίσματος της AI είναι ελαττωματική, οι άνθρωποι διοικητές θα λαμβάνουν αποφάσεις βασισμένοι σε μια ελλιπή ή μεροληπτική εικόνα της κατάστασης. Αυτή η τεχνική πραγματικότητα είναι πολύ πιο περίπλοκη από τις απλές αφηγήσεις που παρουσιάζονται συχνά στα μέσα ενημέρωσης. Περιλαμβάνει έναν συνεχή αγώνα με τους νόμους της φυσικής, τους περιορισμούς του hardware και την ακαταστασία των δεδομένων του πραγματικού κόσμου.
Το συμπέρασμα είναι ότι η στρατιωτική AI δεν είναι μια μελλοντική ιδέα. Είναι μια παρούσα πραγματικότητα που ενσωματώνεται σε κάθε επίπεδο άμυνας. Δεν πρόκειται για τη δημιουργία μιας μηχανής που μπορεί να σκέφτεται σαν άνθρωπος. Πρόκειται για τη δημιουργία μιας μηχανής που μπορεί να επεξεργάζεται δεδομένα με τρόπους που οι άνθρωποι δεν θα μπορούσαν ποτέ. Αυτή η αλλαγή κάνει τον πόλεμο ταχύτερο, ακριβέστερο και πιο εξαρτημένο από το λογισμικό. Ενώ τα οφέλη όσον αφορά την αποτελεσματικότητα και την ασφάλεια για τους στρατιώτες είναι σαφή, οι κίνδυνοι κλιμάκωσης και η απώλεια ανθρώπινου ελέγχου είναι σημαντικοί. Οι χώρες θέλουν την AI επειδή δεν έχουν την πολυτέλεια να μείνουν χωρίς αυτήν. Σε έναν κόσμο όπου ο αντίπαλός σας έχει αλγοριθμικό πλεονέκτημα, είστε στο έλεός του. Η πρόκληση για την επόμενη δεκαετία θα είναι να βρεθεί ένας τρόπος διαχείρισης αυτής της τεχνολογίας, ώστε να ενισχύει την ασφάλεια χωρίς να οδηγεί σε μια τυχαία και ανεξέλεγκτη σύγκρουση. Η μηχανή ήρθε για να μείνει. Τώρα πρέπει να καταλάβουμε πώς να ζήσουμε με αυτήν.
Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.
Βρήκατε κάποιο λάθος ή κάτι που χρειάζεται διόρθωση; Ενημερώστε μας.
