Πώς οι κυβερνήσεις προσπαθούν να ελέγξουν την Τεχνητή Νοημοσύνη

Οι νέοι κανόνες της μηχανής

Η εποχή της «άγριας δύσης» στην τεχνητή νοημοσύνη φτάνει στο τέλος της. Οι κυβερνήσεις δεν παρακολουθούν πλέον από το περιθώριο. Συντάσσουν τους κανόνες που θα καθορίσουν πώς γράφεται ο κώδικας και πού μπορεί να αναπτυχθεί. Δεν πρόκειται μόνο για ηθική ή ασαφείς αρχές, αλλά για σκληρούς νόμους και τεράστια πρόστιμα. Η Ευρωπαϊκή Ένωση πρωτοστάτησε με το AI Act, ενώ οι Ηνωμένες Πολιτείες ακολούθησαν με ένα σαρωτικό εκτελεστικό διάταγμα. Αυτές οι ενέργειες αλλάζουν τα δεδομένα για κάθε tech εταιρεία στον πλανήτη. Αν δημιουργήσεις ένα μοντέλο που ξεπερνά ένα συγκεκριμένο όριο ισχύος, μπαίνεις στο στόχαστρο. Πρέπει να αποδείξεις ότι είναι ασφαλές πριν φτάσει στο κοινό. Αυτή η αλλαγή σηματοδοτεί τη μετάβαση από τις εθελοντικές δεσμεύσεις ασφαλείας στην υποχρεωτική εποπτεία. Για τον μέσο χρήστη, αυτό σημαίνει ότι τα εργαλεία που χρησιμοποιείς αύριο μπορεί να φαίνονται διαφορετικά από αυτά που χρησιμοποιείς σήμερα. Κάποιες λειτουργίες μπορεί να μπλοκαριστούν στη χώρα σου, ενώ άλλα εργαλεία μπορεί να γίνουν πιο διαφανή σχετικά με το πώς χρησιμοποιούν τα δεδομένα σου. Ο στόχος είναι η ισορροπία μεταξύ προόδου και προστασίας, αλλά ο δρόμος είναι γεμάτος τριβές.

Από την ηθική στην επιβολή

Για να κατανοήσεις τους νέους κανόνες, πρέπει να κοιτάξεις τις κατηγορίες κινδύνου. Οι περισσότερες κυβερνήσεις απομακρύνονται από την προσέγγιση «ένα μέγεθος για όλους» και αξιολογούν τα συστήματα με βάση την πιθανή ζημιά που θα μπορούσαν να προκαλέσουν. Πρόκειται για μια άμεση επιχειρησιακή αλλαγή. Οι εταιρείες δεν μπορούν πλέον απλώς να κυκλοφορήσουν ένα προϊόν και να ελπίζουν για το καλύτερο. Πρέπει να κατηγοριοποιήσουν την τεχνολογία τους πριν καν φτάσει στον χρήστη. Αυτή η ταξινόμηση καθορίζει το επίπεδο ελέγχου που θα ασκήσει η κυβέρνηση και τη νομική ευθύνη της εταιρείας αν κάτι πάει στραβά. Η εστίαση μετατοπίστηκε από το «τι είναι» η AI στο «τι κάνει». Αν ένα σύστημα λαμβάνει αποφάσεις για ανθρώπους, αντιμετωπίζεται με πολύ μεγαλύτερη καχυποψία από ένα σύστημα που δημιουργεί φωτογραφίες με γάτες.

Οι πιο περιοριστικοί κανόνες ισχύουν για συστήματα που θεωρούνται απαράδεκτου κινδύνου. Αυτά δεν αποθαρρύνονται απλώς, αλλά απαγορεύονται. Αυτό δημιουργεί ένα σαφές όριο για τους developers. Για όλα τα υπόλοιπα, οι κανόνες απαιτούν ένα νέο επίπεδο τεκμηρίωσης. Οι εταιρείες πρέπει να τηρούν λεπτομερή αρχεία για το πώς εκπαιδεύτηκαν τα μοντέλα τους και να μπορούν να εξηγήσουν πώς το μοντέλο καταλήγει στα συμπεράσματά του. Αυτή είναι μια σημαντική τεχνική πρόκληση, καθώς πολλά σύγχρονα μοντέλα είναι ουσιαστικά «μαύρα κουτιά». Οι κανόνες απαιτούν επίσης τα δεδομένα εκπαίδευσης να είναι καθαρά και χωρίς προκαταλήψεις, πράγμα που σημαίνει ότι η ίδια η διαδικασία συλλογής δεδομένων υπόκειται πλέον σε νομικούς ελέγχους. Οι ακόλουθες κατηγορίες ορίζουν την τρέχουσα ρυθμιστική προσέγγιση:

• Απαγορευμένα συστήματα που χρησιμοποιούν κοινωνική βαθμολόγηση ή παραπλανητικές τεχνικές για τη χειραγώγηση της συμπεριφοράς.
• Συστήματα υψηλού κινδύνου που χρησιμοποιούνται σε κρίσιμες υποδομές, προσλήψεις και επιβολή του νόμου, τα οποία απαιτούν αυστηρούς ελέγχους.
• Συστήματα περιορισμένου κινδύνου, όπως τα chatbots, που πρέπει να αποκαλύπτουν ότι δεν είναι άνθρωποι.
• Συστήματα ελάχιστου κινδύνου, όπως τα video games με AI, που αντιμετωπίζουν λιγότερους περιορισμούς.

Αυτή η δομή είναι σχεδιασμένη να είναι ευέλικτη. Καθώς η τεχνολογία αλλάζει, η λίστα των εφαρμογών υψηλού κινδύνου μπορεί να μεγαλώνει. Ωστόσο, αυτό δημιουργεί μια κατάσταση μόνιμης αβεβαιότητας για τις επιχειρήσεις, οι οποίες πρέπει να ελέγχουν συνεχώς αν η νέα τους λειτουργία έχει μετακινηθεί σε μια πιο ρυθμιζόμενη κατηγορία. Αυτή είναι η νέα πραγματικότητα της δημιουργίας λογισμικού σε έναν κόσμο που είναι επιφυλακτικός απέναντι στη δύναμη της μηχανής.

Ένα κατακερματισμένο παγκόσμιο πλαίσιο

Ο αντίκτυπος αυτών των κανόνων δεν περιορίζεται στα σύνορα ενός έθνους. Βλέπουμε την άνοδο του *Brussels Effect*. Όταν η ΕΕ θέτει τον πήχη ψηλά για τη ρύθμιση της τεχνολογίας, οι παγκόσμιες εταιρείες συχνά υιοθετούν αυτά τα πρότυπα παντού για να απλοποιήσουν τις λειτουργίες τους. Είναι φθηνότερο να χτίσεις ένα συμβατό προϊόν παρά δέκα διαφορετικές εκδόσεις. Αυτό δίνει στην Ευρώπη τεράστια επιρροή στο πώς χτίζεται η AI στη Silicon Valley. Μπορείς να διαβάσεις περισσότερα για το EU AI Act για να δεις πώς είναι δομημένα αυτά τα πρότυπα. Στις Ηνωμένες Πολιτείες, η προσέγγιση είναι διαφορετική αλλά εξίσου σημαντική. Η κυβέρνηση χρησιμοποιεί το **Defense Production Act** για να αναγκάσει τους tech γίγαντες να μοιραστούν τα αποτελέσματα των δοκιμών ασφαλείας τους, σηματοδοτώντας ότι οι ΗΠΑ θεωρούν την AI μεγάλης κλίμακας ζήτημα εθνικής ασφάλειας.

Εν τω μεταξύ, η Κίνα έχει ακολουθήσει μια πιο άμεση διαδρομή. Οι κανονισμοί τους εστιάζουν στο περιεχόμενο που παράγεται από τη generative AI, απαιτώντας τα αποτελέσματα να ευθυγραμμίζονται με τις κοινωνικές αξίες και να μην υπονομεύουν την κρατική εξουσία. Αυτό δημιουργεί έναν κατακερματισμένο κόσμο όπου το ίδιο μοντέλο μπορεί να συμπεριφέρεται διαφορετικά ανάλογα με το πού συνδέεσαι. Ένα μοντέλο στο Πεκίνο θα έχει διαφορετικά «προστατευτικά κιγκλιδώματα» από ένα στο Παρίσι ή τη Νέα Υόρκη. Αυτός ο κατακερματισμός δημιουργεί πονοκέφαλο για τους developers, οι οποίοι πρέπει πλέον να εργάζονται μέσα σε έναν ιστό αντικρουόμενων κανόνων. Για το παγκόσμιο κοινό, αυτό σημαίνει ότι η εμπειρία AI γίνεται τοπική. Το όνειρο ενός ενιαίου, χωρίς σύνορα internet ξεθωριάζει. Στη θέση του υπάρχει ένα ρυθμιζόμενο περιβάλλον όπου η τοποθεσία σου καθορίζει τι επιτρέπεται να σου πει η μηχανή. Αυτή είναι η νέα πραγματικότητα του 2024, μια αλλαγή που θα καθορίσει την επόμενη δεκαετία της τεχνολογικής ανάπτυξης.

Η καθημερινή ζωή κάτω από το ρυθμιστικό βλέμμα

Φαντάσου ένα τυπικό πρωινό για μια project manager, τη Σάρα. Ξεκινά τη μέρα της ανοίγοντας ένα AI εργαλείο για να συνοψίσει μια μακρά αλυσίδα email. Με τους νέους κανονισμούς, το λογισμικό της πρέπει να την ειδοποιήσει ότι η σύνοψη δημιουργήθηκε από αλγόριθμο. Πρέπει επίσης να διασφαλίσει ότι τα δεδομένα της εταιρείας της δεν χρησιμοποιούνται για την εκπαίδευση του δημόσιου μοντέλου χωρίς τη συγκατάθεσή της. Αργότερα, η Σάρα κάνει αίτηση για μια νέα θέση σε μια tech εταιρεία. Η εταιρεία χρησιμοποιεί ένα AI εργαλείο ελέγχου. Επειδή πρόκειται για εφαρμογή υψηλού κινδύνου, η εταιρεία έπρεπε να ελέγξει το εργαλείο για προκαταλήψεις. Η Σάρα έχει το νόμιμο δικαίωμα να ζητήσει εξήγηση για το πώς την κατέταξε η AI. Στο παρελθόν, θα λάμβανε μια γενική απόρριψη. Τώρα, έχει μια διαδρομή προς τη διαφάνεια. Αυτό είναι ένα συγκεκριμένο παράδειγμα του πώς η διακυβέρνηση αλλάζει τη δυναμική ισχύος μεταξύ εταιρειών και ατόμων.

Το απόγευμα, η Σάρα περπατά σε ένα εμπορικό κέντρο. Σε ορισμένες πόλεις, η αναγνώριση προσώπου θα παρακολουθούσε τις κινήσεις της για να της σερβίρει στοχευμένες διαφημίσεις. Με τους αυστηρούς κανόνες της ΕΕ, αυτό το είδος παρακολούθησης σε πραγματικό χρόνο περιορίζεται. Το εμπορικό κέντρο πρέπει να έχει συγκεκριμένο νόμιμο λόγο για να το χρησιμοποιήσει και η Σάρα πρέπει να ενημερωθεί. Τα προϊόντα που χρησιμοποιεί επίσης αλλάζουν. Εταιρείες όπως η OpenAI και η Google προσαρμόζουν ήδη τις λειτουργίες τους για να συμμορφωθούν με τους τοπικούς νόμους. Μπορεί να παρατηρήσεις ότι ορισμένα εργαλεία παραγωγής εικόνας δεν είναι διαθέσιμα στην περιοχή σου ή έχουν αυστηρά φίλτρα που εμποδίζουν τη δημιουργία ρεαλιστικών προσώπων δημόσιων προσώπων. Αυτό δεν είναι τεχνικός περιορισμός, αλλά νομικός. Το επιχείρημα για αυτούς τους κανόνες φαίνεται πραγματικό όταν εξετάζεις τη δυνατότητα των deepfakes να διαταράξουν εκλογές ή των προκατειλημμένων αλγορίθμων να στερήσουν από ανθρώπους τη στέγαση. Βάζοντας προστατευτικά κιγκλιδώματα, οι κυβερνήσεις προσπαθούν να αποτρέψουν αυτές τις βλάβες πριν συμβούν. Αυτή είναι η προσέγγιση των ΗΠΑ για την ασφάλεια της AI στην πράξη.

Ωστόσο, η Σάρα μπορεί επίσης να παρατηρήσει ότι τα εργαλεία της γίνονται πιο αργά ή πιο περιορισμένα. Οι απαντήσεις «Λυπάμαι, δεν μπορώ να το κάνω αυτό» από την AI είναι συχνά το αποτέλεσμα ενός developer που προσπαθεί να αποφύγει ένα τεράστιο πρόστιμο. Η ένταση μεταξύ χρηστικότητας και ασφάλειας είναι ορατή σε κάθε αλληλεπίδραση. Είναι μια διαρκής υπενθύμιση ότι η μηχανή παρακολουθείται. Αυτή η εξέλιξη δεν είναι στατική. Οι κανόνες ενημερώνονται καθώς προκύπτουν νέες δυνατότητες. Ο στόχος είναι να διασφαλιστεί ότι η AI που χρησιμοποιεί η Σάρα είναι ένα εργαλείο προς όφελός της, όχι ένα σύστημα που λειτουργεί ενάντια στα συμφέροντά της στο παρασκήνιο. Αυτή είναι η πιο σημαντική αλλαγή στον τρόπο που αλληλεπιδρούμε με τους υπολογιστές από την εφεύρεση του internet.

Το κρυφό κόστος της συμμόρφωσης

Πρέπει να θέσουμε τα δύσκολα ερωτήματα για το ποιος κερδίζει πραγματικά σε έναν ρυθμιζόμενο κόσμο. Προστατεύει όντως το κοινό ένα βαρύ ρυθμιστικό βάρος ή απλώς προστατεύει τους κατεστημένους παίκτες; Οι μεγάλες tech εταιρείες έχουν τους πόρους να προσλάβουν εκατοντάδες δικηγόρους και μηχανικούς για να διαχειριστούν τη συμμόρφωση. Ένα μικρό startup σε ένα γκαράζ όχι. Κινδυνεύουμε να δημιουργήσουμε έναν κόσμο όπου μόνο οι γίγαντες μπορούν να αντέξουν οικονομικά την καινοτομία. Αυτό θα μπορούσε να οδηγήσει σε λιγότερο ανταγωνισμό και υψηλότερες τιμές για τους χρήστες. Υπάρχει επίσης το ζήτημα της ιδιωτικότητας έναντι της ασφάλειας. Όταν οι κυβερνήσεις απαιτούν πρόσβαση στις εσωτερικές λειτουργίες ενός AI μοντέλου, ποιος προστατεύει αυτά τα δεδομένα; Αν μια κυβέρνηση μπορεί να ελέγξει ένα μοντέλο για να διασφαλίσει ότι είναι ασφαλές, μπορεί επίσης να χρησιμοποιήσει την ίδια πρόσβαση για να παρακολουθεί τι μαθαίνει το μοντέλο από τους χρήστες του. Αυτός είναι ένας συμβιβασμός που σπάνια συζητείται σε δημόσια φόρουμ.

Πρέπει επίσης να εξετάσουμε το κρυφό κόστος της καινοτομίας. Αν κάθε νέα λειτουργία πρέπει να περάσει από μια χρονοβόρα διαδικασία έγκρισης, θα χάσουμε ανακαλύψεις που θα μπορούσαν να σώσουν ζωές στην ιατρική ή να λύσουν σύνθετα κλιματικά ζητήματα; Η τριβή της ρύθμισης είναι πραγματικό κόστος. Πρέπει να γνωρίζουμε αν η ασφάλεια που κερδίζουμε αξίζει την πρόοδο που χάνουμε. Υπάρχει επίσης το ζήτημα της επιβολής. Πώς ρυθμίζεις ένα μοντέλο που φιλοξενείται σε ένα αποκεντρωμένο δίκτυο ή σε μια χώρα που αγνοεί τους διεθνείς κανόνες; Οι κανόνες μπορεί να ισχύουν μόνο για τις εταιρείες που επιλέγουν να τους ακολουθήσουν, αφήνοντας τους πιο επικίνδυνους παίκτες ελεύθερους να λειτουργούν χωρίς εποπτεία. Αυτό δημιουργεί μια ψευδαίσθηση ασφάλειας. Χτίζουμε έναν φράχτη γύρω από τους νομοταγείς πολίτες, ενώ η πύλη παραμένει ανοιχτή για όλους τους άλλους. Αυτά είναι τα ερωτήματα που οι ρυθμιστικές αρχές συχνά αποφεύγουν, εστιάζοντας στους ορατούς κινδύνους ενώ αγνοούν τους συστημικούς.

Έχετε μια ιστορία, εργαλείο, τάση ή ερώτηση σχετικά με την τεχνητή νοημοσύνη που πιστεύετε ότι πρέπει να καλύψουμε; Στείλτε μας την ιδέα σας για άρθρο — θα χαρούμε να την ακούσουμε.

Το τεχνικό τίμημα της διαφάνειας

Για τους power users και τους developers, οι νέοι κανονισμοί μεταφράζονται σε συγκεκριμένους τεχνικούς περιορισμούς. Μία από τις πιο σημαντικές μετρήσεις είναι το όριο υπολογιστικής ισχύος. Το εκτελεστικό διάταγμα των ΗΠΑ θέτει τον πήχη στο 10 εις την 26η δύναμη πράξεων κινητής υποδιαστολής (flops). Οποιοδήποτε μοντέλο εκπαιδεύεται με περισσότερη ισχύ από αυτή πρέπει να αναφέρεται στην κυβέρνηση. Αυτό αναγκάζει τους developers να κρατούν λεπτομερή αρχεία καταγραφής της χρήσης του hardware και των εκπαιδευτικών τους runs. Τα API limits γίνονται επίσης εργαλείο ρύθμισης. Για την πρόληψη της μαζικής παραγωγής παραπληροφόρησης, ορισμένες περιοχές εξετάζουν όρια στο πόσα αιτήματα μπορεί να κάνει ένας χρήστης σε ένα generative μοντέλο. Αυτό επηρεάζει τον τρόπο με τον οποίο οι developers χτίζουν εφαρμογές που βασίζονται σε αυτά τα μοντέλα. Πρέπει πλέον να λαμβάνουν υπόψη αυτά τα όρια στον κώδικά τους και στα επιχειρηματικά τους μοντέλα. Η τοπική αποθήκευση είναι ένας άλλος σημαντικός παράγοντας. Οι νόμοι συχνά απαιτούν τα δεδομένα των πολιτών να παραμένουν εντός συγκεκριμένων γεωγραφικών ορίων. Αυτό σημαίνει ότι οι εταιρείες δεν μπορούν απλώς να χρησιμοποιούν ένα κεντρικό cloud για την επεξεργασία δεδομένων από παντού. Πρέπει να χτίσουν και να συντηρήσουν τοπικά data centers. Οι τεχνικές απαιτήσεις περιλαμβάνουν:

• Υποχρεωτικό watermarking σε επίπεδο API για την αναγνώριση περιεχομένου που παράγεται από AI.
• Απαιτήσεις διαμονής δεδομένων (data residency) που επιβάλλουν τοπική επεξεργασία και αποθήκευση.
• Καταγραφή υπολογιστικής ισχύος για οποιαδήποτε εκπαίδευση μοντέλου υπερβαίνει το όριο των 10 εις την 26η flops.
• Επίπεδα επεξηγησιμότητας (explainability layers) που επιτρέπουν τον ανθρώπινο έλεγχο των βαρών του μοντέλου και των διαδρομών λήψης αποφάσεων.

Τα workflows ενσωμάτωσης αλλάζουν επίσης. Οι developers πρέπει πλέον να χτίζουν ελέγχους ασφαλείας σε κάθε στάδιο του pipeline. Αν χτίζεις ένα εργαλείο που χρησιμοποιεί ένα third-party API, είσαι πλέον υπεύθυνος για το πώς αυτό το API διαχειρίζεται τα δεδομένα. Πρέπει να διασφαλίσεις ότι η ενσωμάτωσή σου δεν παρακάμπτει τα φίλτρα ασφαλείας που έχει θέσει ο πάροχος. Το geek τμήμα του νόμου είναι εκεί όπου δίνονται οι πραγματικές μάχες. Αφορά το latency, το data residency και τα μαθηματικά των βαρών του μοντέλου. Αυτές είναι οι λεπτομέρειες που καθορίζουν αν ένα προϊόν είναι βιώσιμο ή αν θα θαφτεί κάτω από το βάρος των δικών του απαιτήσεων συμμόρφωσης. Μπορείς να βρεις περισσότερες λεπτομέρειες για αυτές τις τεχνικές αλλαγές στις τελευταίες ειδήσεις σχετικά με την τεχνολογική πολιτική. Για όσους θέλουν να παραμείνουν μπροστά από αυτές τις αλλαγές, η παρακολούθηση των τελευταίων εξελίξεων στη ρύθμιση της AI είναι απαραίτητη. Η πολυπλοκότητα αυτών των κανόνων σημαίνει ότι ο ρόλος του developer γίνεται τόσο θέμα νόμου όσο και θέμα κώδικα.

Ο ημιτελής κώδικας

Η προσπάθεια ελέγχου της AI είναι μια διαδικασία σε εξέλιξη. Μετακινούμαστε από μια περίοδο απόλυτης ελευθερίας σε μια περίοδο ελεγχόμενης ανάπτυξης. Οι κανόνες που γράφονται σήμερα θα διαμορφώσουν την τεχνολογία της επόμενης δεκαετίας. Ωστόσο, η ταχύτητα του λογισμικού ξεπερνά πάντα την ταχύτητα της νομοθεσίας. Μέχρι να ψηφιστεί ένας νόμος, η τεχνολογία έχει συχνά προχωρήσει σε κάτι νέο. Αυτό μας αφήνει με ένα ζωντανό ερώτημα που θα κρατήσει αυτό το θέμα σε εξέλιξη: μπορεί μια δημοκρατική διαδικασία να είναι ποτέ αρκετά γρήγορη για να ρυθμίσει μια νοημοσύνη που ξαναγράφει τον εαυτό της; Προς το παρόν, η εστίαση είναι στη διαφάνεια και τη λογοδοσία. Προσπαθούμε να διασφαλίσουμε ότι οι άνθρωποι παραμένουν υπεύθυνοι για τις μηχανές που έχτισαν. Το αν αυτοί οι κανόνες θα κάνουν την AI ασφαλέστερη ή απλώς πιο περίπλοκη μένει να φανεί. Η μόνη βεβαιότητα είναι ότι η εποχή του μη ρυθμιζόμενου αλγορίθμου τελείωσε. Αυτή είναι η πραγματικότητα του 2024 και μετά.

Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.

Βρήκατε κάποιο λάθος ή κάτι που χρειάζεται διόρθωση; Ενημερώστε μας.