Τα μεγαλύτερα ηθικά ερωτήματα που η AI δεν μπορεί να αποφύγει

Η Silicon Valley υποσχέθηκε ότι η τεχνητή νοημοσύνη θα έλυνε τα πιο δύσκολα προβλήματα της ανθρωπότητας. Αντ’ αυτού, η τεχνολογία δημιούργησε μια νέα σειρά από τριβές που κανένας κώδικας δεν μπορεί να διορθώσει. Περνάμε από τη φάση του θαυμασμού σε μια περίοδο σκληρής λογοδοσίας. Το κεντρικό ζήτημα δεν είναι μια μελλοντική εξέγερση των μηχανών, αλλά η τρέχουσα πραγματικότητα του τρόπου με τον οποίο κατασκευάζονται και αναπτύσσονται αυτά τα συστήματα. Κάθε large language model βασίζεται σε ένα θεμέλιο ανθρώπινης εργασίας και δεδομένων που έχουν συλλεχθεί από το διαδίκτυο. Αυτό δημιουργεί μια θεμελιώδη σύγκρουση μεταξύ των εταιρειών που κατασκευάζουν τα εργαλεία και των ανθρώπων των οποίων η εργασία τα τροφοδοτεί. Οι ρυθμιστικές αρχές στην Ευρώπη και τις Ηνωμένες Πολιτείες αναρωτιούνται πλέον ποιος είναι υπεύθυνος όταν ένα σύστημα κάνει ένα λάθος που καταστρέφει μια ζωή. Η απάντηση παραμένει ασαφής, επειδή τα νομικά πλαίσια δεν σχεδιάστηκαν για λογισμικό που δρα με αυτό το επίπεδο αυτονομίας. Βλέπουμε μια μετατόπιση της εστίασης από το τι μπορεί να κάνει η τεχνολογία στο τι θα έπρεπε να της επιτρέπεται να κάνει στη δημόσια ζωή.

Η τριβή της αυτοματοποιημένης λήψης αποφάσεων

Στον πυρήνα της, η σύγχρονη τεχνητή νοημοσύνη είναι μια μηχανή πρόβλεψης. Δεν κατανοεί την αλήθεια ή την ηθική. Υπολογίζει την πιθανότητα της επόμενης λέξης ή του επόμενου pixel με βάση τεράστια datasets. Αυτή η έλλειψη εγγενούς κατανόησης δημιουργεί ένα χάσμα μεταξύ του αποτελέσματος μιας μηχανής και των απαιτήσεων της ανθρώπινης δικαιοσύνης. Όταν μια τράπεζα χρησιμοποιεί έναν αλγόριθμο για να καθορίσει την πιστοληπτική ικανότητα, το σύστημα μπορεί να εντοπίσει μοτίβα που συσχετίζονται με τη φυλή ή τον ταχυδρομικό κώδικα. Αυτό δεν συμβαίνει επειδή η μηχανή έχει συνείδηση, αλλά επειδή τα ιστορικά δεδομένα στα οποία εκπαιδεύτηκε περιέχουν αυτές τις προκαταλήψεις. Οι εταιρείες συχνά κρύβουν αυτές τις διαδικασίες πίσω από proprietary μυστικά, καθιστώντας αδύνατο για έναν απορριφθέντα αιτούντα να μάθει γιατί απορρίφθηκε. Αυτή η έλλειψη διαφάνειας είναι το καθοριστικό χαρακτηριστικό της τρέχουσας εποχής του αυτοματισμού. Συχνά αποκαλείται το πρόβλημα του black box.

Η τεχνική πραγματικότητα είναι ότι αυτά τα μοντέλα εκπαιδεύονται στο ανοιχτό διαδίκτυο, το οποίο είναι μια αποθήκη τόσο ανθρώπινης γνώσης όσο και ανθρώπινων προκαταλήψεων. Οι developers προσπαθούν να φιλτράρουν αυτά τα δεδομένα, αλλά η κλίμακα καθιστά την τέλεια επιμέλεια αδύνατη. Όταν μιλάμε για την ηθική της AI, μιλάμε πραγματικά για το πώς διαχειριζόμαστε τα σφάλματα που αναπόφευκτα παράγουν αυτά τα συστήματα. Υπάρχει μια αυξανόμενη ένταση μεταξύ της ταχύτητας ανάπτυξης και της ανάγκης για ασφάλεια. Πολλές εταιρείες αισθάνονται την πίεση να κυκλοφορήσουν προϊόντα πριν γίνουν πλήρως κατανοητά, για να αποφύγουν την απώλεια μεριδίου αγοράς. Αυτό δημιουργεί μια κατάσταση όπου το κοινό γίνεται μια ομάδα ακούσιων πειραματόζωων για μη δοκιμασμένο λογισμικό. Το νομικό σύστημα δυσκολεύεται να συμβαδίσει με τον ρυθμό των αλλαγών, καθώς τα δικαστήρια συζητούν αν ένας software developer μπορεί να θεωρηθεί υπεύθυνος για τις παραισθήσεις της δημιουργίας του.

Το νέο παγκόσμιο ψηφιακό χάσμα

Ο αντίκτυπος αυτών των συστημάτων δεν κατανέμεται ισότιμα σε όλο τον κόσμο. Ενώ τα κεντρικά γραφεία των μεγάλων εταιρειών AI βρίσκονται σε λίγα πλούσια έθνη, οι συνέπειες της δουλειάς τους γίνονται αισθητές παντού. Μια νέα μορφή εργασιακής εκμετάλλευσης αναδύεται στον Παγκόσμιο Νότο. Χιλιάδες εργαζόμενοι σε χώρες όπως η Κένυα και οι Φιλιππίνες πληρώνονται με χαμηλούς μισθούς για να επισημαίνουν δεδομένα και να φιλτράρουν τραυματικό περιεχόμενο. Αυτοί οι εργαζόμενοι είναι το αόρατο δίχτυ ασφαλείας που εμποδίζει την AI από το να παράγει τοξικό υλικό, ωστόσο σπάνια μοιράζονται τα κέρδη του κλάδου. Αυτό δημιουργεί μια ανισορροπία ισχύος όπου τα πλούσια έθνη ελέγχουν τα εργαλεία, ενώ τα αναπτυσσόμενα έθνη παρέχουν την πρώτη ύλη και τα δεδομένα που χρειάζονται για να τα συντηρήσουν.

Η πολιτισμική κυριαρχία είναι μια άλλη σημαντική ανησυχία για τη διεθνή κοινότητα. Τα περισσότερα μεγάλα μοντέλα εκπαιδεύονται κυρίως σε δεδομένα της αγγλικής γλώσσας και σε δυτικά πολιτισμικά πρότυπα. Αυτό σημαίνει ότι τα συστήματα συχνά αποτυγχάνουν να κατανοήσουν το τοπικό πλαίσιο ή γλώσσες με λιγότερους ψηφιακούς πόρους. Όταν αυτά τα εργαλεία εξάγονται, κινδυνεύουν να αντικαταστήσουν την τοπική γνώση με μια ομογενοποιημένη δυτική προοπτική. Αυτό δεν είναι απλώς ένα τεχνικό ελάττωμα, αλλά μια απειλή για την πολιτισμική ποικιλομορφία. Οι κυβερνήσεις αρχίζουν να συνειδητοποιούν ότι η εξάρτηση από ξένες υποδομές AI δημιουργεί ένα νέο είδος εξάρτησης. Εάν μια χώρα δεν διαθέτει τις δικές της κυρίαρχες δυνατότητες AI, πρέπει να ακολουθεί τους κανόνες και τις αξίες των εταιρειών που παρέχουν την υπηρεσία. Η παγκόσμια κοινότητα αντιμετωπίζει επί του παρόντος αρκετά κρίσιμα ζητήματα:

• Τη συγκέντρωση υπολογιστικής ισχύος σε μια χούφτα ιδιωτικών εταιρειών.
• Το περιβαλλοντικό κόστος της εκπαίδευσης τεράστιων μοντέλων σε περιοχές με λειψυδρία.
• Τη διάβρωση των τοπικών γλωσσών σε ψηφιακούς χώρους που κυριαρχούνται από μοντέλα με επίκεντρο τα αγγλικά.
• Την έλλειψη διεθνών συμφωνιών για τη χρήση αυτόνομων συστημάτων στον πόλεμο.
• Τη δυνατότητα της αυτοματοποιημένης παραπληροφόρησης να αποσταθεροποιήσει δημοκρατικές εκλογές.

Ζώντας με τον αλγόριθμο

Σκεφτείτε μια μέρα στη ζωή της Sarah, μιας manager μεσαίου επιπέδου σε μια εταιρεία logistics. Το πρωί της ξεκινά με μια σύνοψη των email της που έχει δημιουργηθεί από AI. Το σύστημα επισημαίνει όσα θεωρεί ως τα πιο επείγοντα καθήκοντα, αλλά χάνει ένα λεπτό παράπονο από έναν παλιό πελάτη επειδή το εργαλείο sentiment analysis δεν αναγνώρισε τον σαρκασμό. Αργότερα, χρησιμοποιεί ένα generative εργαλείο για να συντάξει μια αξιολόγηση απόδοσης για έναν υπάλληλο. Το λογισμικό προτείνει χαμηλότερη βαθμολογία με βάση metrics παραγωγικότητας που δεν λαμβάνουν υπόψη τον χρόνο που αφιέρωσε ο υπάλληλος στην καθοδήγηση νέων προσλήψεων. Η Sarah πρέπει να αποφασίσει αν θα εμπιστευτεί τη δική της κρίση ή τη data-driven σύσταση της μηχανής. Αν αγνοήσει την AI και ο υπάλληλος αποτύχει αργότερα, μπορεί να κατηγορηθεί ότι δεν ακολούθησε τα δεδομένα. Αυτή είναι η αθόρυβη πίεση του αλγοριθμικού management.

Το απόγευμα, η Sarah κάνει αίτηση για ένα νέο ασφαλιστήριο συμβόλαιο. Η ασφαλιστική εταιρεία χρησιμοποιεί ένα αυτοματοποιημένο σύστημα για να σκανάρει τα social media και τα ιατρικά της αρχεία. Το σύστημα την επισημαίνει ως υψηλού κινδύνου επειδή πρόσφατα γράφτηκε σε μια ομάδα πεζοπορίας, την οποία ο αλγόριθμος συνδέει με πιθανό τραυματισμό. Δεν υπάρχει άνθρωπος για να μιλήσει και κανένας τρόπος να εξηγήσει ότι είναι έμπειρη πεζοπόρος με άριστη υγεία. Το ασφάλιστρό της αυξάνεται αμέσως. Αυτή είναι μια πραγματική συνέπεια ενός συστήματος που δίνει προτεραιότητα στην αποτελεσματικότητα έναντι της ατομικής απόχρωσης. Μέχρι το βράδυ, η Sarah περιηγείται σε έναν ειδησεογραφικό ιστότοπο όπου τα μισά άρθρα γράφτηκαν από bots. Δυσκολεύεται όλο και περισσότερο να ξεχωρίσει τι είναι αναφερθέν γεγονός και τι είναι μια συνθετική σύνοψη σχεδιασμένη για να την κρατά σε συνεχή κλικ. Αυτή η διαρκής έκθεση σε αυτοματοποιημένο περιεχόμενο αλλάζει τον τρόπο που αντιλαμβάνεται την πραγματικότητα.

Η τεχνολογία δεν είναι πλέον ένα εργαλείο που χρησιμοποιεί, είναι το περιβάλλον στο οποίο ζει. Οι αντιφάσεις είναι ορατές παντού. Θέλουμε την ταχύτητα της AI αλλά φοβόμαστε την ψυχρότητά της. Θέλουμε την ευκολία του αυτοματισμού αλλά δυσανασχετούμε με την απώλεια της ανθρώπινης πρωτοβουλίας. Οι εταιρείες υπερεκτιμούν την ικανότητα αυτών των εργαλείων να αντικαταστήσουν την ανθρώπινη κρίση, ενώ υποτιμούν τη ζημιά που προκαλείται από ένα μόνο μεροληπτικό αποτέλεσμα. Οι δημιουργοί υπερεκτιμούν την προστασία της πνευματικής τους ιδιοκτησίας ενώ υποτιμούν το πόσο εύκολα μπορεί να απορροφηθεί η δουλειά τους από έναν scraper. Το αποτέλεσμα είναι μια κοινωνία όπου όλοι κινούμαστε πιο γρήγορα, αλλά είμαστε λιγότερο σίγουροι για το πού πηγαίνουμε.

Το τίμημα της αποτελεσματικότητας

Πρέπει να θέσουμε δύσκολα ερωτήματα σχετικά με το κρυφό κόστος της τρέχουσας πορείας μας. Εάν ένα σύστημα AI εξοικονομεί σε μια εταιρεία εκατομμύρια δολάρια αλλά οδηγεί στην απώλεια χιλιάδων θέσεων εργασίας, ποιος είναι υπεύθυνος για το κοινωνικό κόστος; Συχνά αντιμετωπίζουμε την τεχνολογική πρόοδο ως μια αναπόφευκτη δύναμη της φύσης, αλλά είναι το αποτέλεσμα συγκεκριμένων επιλογών που έγιναν από άτομα με συγκεκριμένα κίνητρα. Γιατί δίνουμε προτεραιότητα στη βελτιστοποίηση του κέρδους έναντι της σταθερότητας της αγοράς εργασίας; Υπάρχει επίσης το ζήτημα της προστασίας των δεδομένων σε μια εποχή όπου κάθε αλληλεπίδραση είναι ένα σημείο εκπαίδευσης. Όταν χρησιμοποιείτε έναν δωρεάν βοηθό AI, δεν είστε ο πελάτης, είστε το προϊόν. Οι συνομιλίες και οι προτιμήσεις σας χρησιμοποιούνται για να βελτιώσουν ένα μοντέλο που τελικά θα πωληθεί πίσω σε εσάς ή στον εργοδότη σας. Τι συμβαίνει με την έννοια της ιδιωτικής σκέψης όταν οι ψηφιακοί μας βοηθοί ακούνε και μαθαίνουν συνεχώς;

Ο περιβαλλοντικός αντίκτυπος είναι ένα άλλο κόστος που σπάνια συζητείται στο marketing. Η εκπαίδευση ενός μόνο μεγάλου μοντέλου μπορεί να καταναλώσει τόση ηλεκτρική ενέργεια όση χρησιμοποιούν εκατοντάδες σπίτια σε έναν χρόνο. Οι απαιτήσεις ψύξης για τα data centers επιβαρύνουν τις τοπικές προμήθειες νερού σε άνυδρες περιοχές. Είμαστε διατεθειμένοι να ανταλλάξουμε την οικολογική σταθερότητα με ένα ελαφρώς καλύτερο chatbot; Πρέπει επίσης να εξετάσουμε τον μακροπρόθεσμο αντίκτυπο στην ανθρώπινη νόηση. Αν αναθέσουμε τη γραφή μας, τον προγραμματισμό μας και την κριτική μας σκέψη σε μηχανές, τι θα απογίνουν αυτές οι δεξιότητες στον ανθρώπινο πληθυσμό; Μπορεί να χτίζουμε έναν κόσμο που είναι εξαιρετικά αποτελεσματικός, αλλά κατοικείται από ανθρώπους που δεν μπορούν πλέον να λειτουργήσουν χωρίς ένα ψηφιακό δεκανίκι. Αυτά δεν είναι τεχνικά προβλήματα που λύνονται με περισσότερα δεδομένα. Είναι θεμελιώδη ερωτήματα για το τι είδους μέλλον θέλουμε να κατοικήσουμε.

Έχετε μια ιστορία, εργαλείο, τάση ή ερώτηση σχετικά με την τεχνητή νοημοσύνη που πιστεύετε ότι πρέπει να καλύψουμε; Στείλτε μας την ιδέα σας για άρθρο — θα χαρούμε να την ακούσουμε.

Η υποδομή της επιρροής

Για τους power users και τους developers, τα ηθικά ερωτήματα είναι ενσωματωμένα στις τεχνικές προδιαγραφές. Η στροφή προς την τοπική αποθήκευση και το edge computing είναι εν μέρει μια απάντηση στις ανησυχίες για την ιδιωτικότητα. Τρέχοντας μοντέλα τοπικά, οι χρήστες μπορούν να αποφύγουν την αποστολή ευαίσθητων δεδομένων σε έναν κεντρικό server. Ωστόσο, αυτό δημιουργεί μια νέα σειρά προκλήσεων σχετικά με τις απαιτήσεις hardware και τα όρια των API. Τα περισσότερα μοντέλα υψηλής απόδοσης απαιτούν σημαντική VRAM και εξειδικευμένα chips που είναι επί του παρόντος σε έλλειψη. Αυτό δημιουργεί ένα bottleneck όπου μόνο όσοι διαθέτουν το πιο πρόσφατο hardware μπορούν να έχουν πρόσβαση στα πιο ικανά εργαλεία. Οι developers παλεύουν επίσης με τους περιορισμούς των τρεχουσών αρχιτεκτονικών. Ενώ τα transformer μοντέλα κυριαρχούν, είναι διαβόητα δύσκολο να επιθεωρηθούν. Μπορούμε να δούμε τα βάρη και την αρχιτεκτονική, αλλά δεν μπορούμε εύκολα να εξηγήσουμε γιατί μια συγκεκριμένη είσοδος οδηγεί σε μια συγκεκριμένη έξοδο.

Η ενσωμάτωση της AI στις επαγγελματικές ροές εργασίας προσκρούει επίσης σε έναν τοίχο από data poisoning και model collapse. Αν το διαδίκτυο κορεστεί με περιεχόμενο που δημιουργείται από AI, τα μελλοντικά μοντέλα θα εκπαιδευτούν στα αποτελέσματα των προκατόχων τους. Αυτό οδηγεί σε υποβάθμιση της ποιότητας και ενίσχυση των σφαλμάτων. Για να το καταπολεμήσουν αυτό, ορισμένοι developers εξετάζουν verifiable data sources και τεχνικές υδατογράφησης. Υπάρχει επίσης μια ώθηση για πιο διαφανή AI ethics analysis για να βοηθηθούν οι χρήστες να κατανοήσουν τους κινδύνους. Η τεχνική κοινότητα επικεντρώνεται επί του παρόντος σε αρκετούς βασικούς τομείς ανάπτυξης:

• Την εφαρμογή differential privacy για την προστασία μεμονωμένων δεδομένων στα σύνολα εκπαίδευσης.
• Την ανάπτυξη μικρότερων, πιο αποτελεσματικών μοντέλων που μπορούν να τρέξουν σε καταναλωτικό hardware.
• Τη δημιουργία τυποποιημένων benchmarks για τον εντοπισμό προκαταλήψεων και πραγματικών σφαλμάτων.
• Τη χρήση federated learning για την εκπαίδευση μοντέλων σε πολλαπλές αποκεντρωμένες συσκευές.
• Την εξερεύνηση νέων αρχιτεκτονικών που προσφέρουν καλύτερη ερμηνευσιμότητα από τα τυπικά νευρωνικά δίκτυα.

Η άλυτη πορεία προς το μέλλον

Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης έχει ξεπεράσει την ικανότητά μας να τη διακυβερνήσουμε. Βρισκόμαστε επί του παρόντος σε ένα αδιέξοδο μεταξύ της επιθυμίας για καινοτομία και της ανάγκης για προστασία. Τα μεγαλύτερα ηθικά ερωτήματα δεν αφορούν τις δυνατότητες των μηχανών αλλά τις προθέσεις των ανθρώπων που τις ελέγχουν. Καθώς προχωράμε, η εστίαση πιθανότατα θα μετατοπιστεί από τα ίδια τα μοντέλα στην εφοδιαστική αλυσίδα δεδομένων και στη λογοδοσία των developers. Μας μένει ένα ζωντανό ερώτημα που θα καθορίσει την επόμενη δεκαετία. Μπορούμε να χτίσουμε ένα σύστημα που είναι αρκετά ισχυρό για να λύσει τα προβλήματά μας και αρκετά διαφανές ώστε να είναι αξιόπιστο; Η απάντηση δεν έχει γραφτεί ακόμα σε κώδικα. Θα αποφασιστεί σε δικαστικές αίθουσες, αίθουσες συνεδριάσεων και στις καθημερινές επιλογές των χρηστών που πρέπει να αποφασίσουν πόση από την αυτονομία τους είναι διατεθειμένοι να ανταλλάξουν για την ευκολία.

Σημείωση συντάκτη: Δημιουργήσαμε αυτόν τον ιστότοπο ως έναν πολύγλωσσο κόμβο ειδήσεων και οδηγών τεχνητής νοημοσύνης για άτομα που δεν είναι φανατικοί των υπολογιστών, αλλά εξακολουθούν να θέλουν να κατανοήσουν την τεχνητή νοημοσύνη, να τη χρησιμοποιούν με μεγαλύτερη αυτοπεποίθηση και να παρακολουθούν το μέλλον που ήδη έρχεται.

Βρήκατε κάποιο λάθος ή κάτι που χρειάζεται διόρθωση; Ενημερώστε μας.