Filosofia dell’IA per chi odia la filosofia

La scelta pratica

La maggior parte delle persone tratta la filosofia dell’intelligenza artificiale come un dibattito sul fatto che i robot abbiano un’anima. È un errore che fa perdere tempo e oscura i rischi reali. Nel mondo professionale, la filosofia di questa tecnologia è in realtà una discussione su responsabilità, precisione e costo del lavoro umano. Riguarda chi è responsabile quando un modello commette un errore che costa a un’azienda milioni di dollari. Riguarda se un lavoratore creativo possiede lo stile che ha impiegato decenni a perfezionare. Ci stiamo allontanando dall’era in cui ci si chiedeva se le macchine potessero pensare. Siamo ora nell’era in cui decidiamo quanto ci fidiamo di loro affinché agiscano per nostro conto. Il recente cambiamento nel settore è passato dai chatbot che raccontano barzellette ad agenti in grado di prenotare voli e scrivere codice. Questo cambiamento ci costringe ad affrontare i meccanismi della fiducia piuttosto che il mistero della coscienza. Se odi la filosofia, guardala come una serie di negoziazioni contrattuali. Stai stabilendo i termini per un nuovo tipo di dipendente che non dorme mai ma che spesso ha delle allucinazioni. L’obiettivo è costruire un framework in cui i vantaggi della velocità non superino i rischi di un guasto totale del sistema.

La meccanica della logica delle macchine

Per comprendere lo stato attuale del settore, devi ignorare i termini di marketing. Un large language model non è un cervello. È una massiccia mappa statistica del linguaggio umano. Quando digiti un prompt, il sistema non sta pensando alla tua domanda. Sta calcolando quale parola ha più probabilità di seguire la precedente basandosi su trilioni di esempi. Ecco perché i sistemi sono così bravi con la poesia ma così scarsi nella matematica di base. Comprendono i modelli di come le persone parlano dei numeri, ma non comprendono la logica dei numeri stessi. Questa distinzione è vitale per chiunque utilizzi questi strumenti in un contesto aziendale. Se tratti l’output come un registro fattuale, stai usando lo strumento in modo errato. È un sintetizzatore creativo, non un database. La confusione deriva spesso da quanto bene questi modelli imitino l’empatia umana. Possono sembrare gentili, frustrati o disponibili, ma sono solo specchi linguistici. Riflettono il tono dei dati su cui sono stati addestrati.

Il cambiamento che abbiamo visto di recente comporta una mossa verso il grounding di questi modelli in dati del mondo reale. Invece di lasciare che un modello indovini una risposta, le aziende li stanno ora collegando ai propri file interni. Ciò riduce la possibilità che il modello inventi le cose. Cambia anche la posta in gioco della conversazione. Non ci chiediamo più cosa sappia il modello. Ci chiediamo come il modello acceda a ciò che sappiamo. Questo è un passaggio dall’arte generativa all’utilità funzionale. La filosofia qui è semplice. È la differenza tra un narratore e un archivista. La maggior parte degli utenti vuole l’archivista, ma la tecnologia è stata costruita per essere il narratore. Riconciliare queste due identità è la sfida principale per gli sviluppatori oggi. Devi decidere se vuoi uno strumento creativo o uno strumento accurato, perché attualmente è difficile ottenere entrambi al massimo livello contemporaneamente.

Stake globali e interessi nazionali

L’impatto di queste scelte non è limitato ai singoli uffici. I governi stanno ora trattando lo sviluppo di questi modelli come una questione di sicurezza nazionale. Negli Stati Uniti, gli ordini esecutivi si concentrano sulla sicurezza dei sistemi più potenti. In Europa, l’AI Act ha creato un quadro giuridico che classifica i sistemi in base al rischio. Ciò crea una situazione in cui la filosofia di uno sviluppatore in California può influenzare la legalità di un prodotto a Berlino. Stiamo assistendo a un mondo frammentato in cui diverse regioni hanno idee molto diverse su ciò che una macchina dovrebbe poter fare. Alcune nazioni vedono la tecnologia come un modo per aumentare la produzione economica a ogni costo. Altre la vedono come una minaccia al tessuto sociale e ai mercati del lavoro. Ciò crea una serie separata di regole per ogni mercato, rendendo più difficile per le piccole aziende competere con i giganti che possono permettersi grandi team legali.

Anche la catena di approvvigionamento globale per questa tecnologia è un punto di tensione. L’hardware necessario per far funzionare questi modelli è concentrato in poche mani. Ciò crea un nuovo tipo di dinamica di potere tra i paesi che progettano i chip, i paesi che li producono e i paesi che forniscono i dati. Per l’utente medio, questo significa che gli strumenti su cui fai affidamento potrebbero essere soggetti a guerre commerciali o controlli all’esportazione. La filosofia dell’IA è ora legata alla filosofia della sovranità. Se un paese si affida a un modello straniero per il proprio sistema sanitario o legale, perde un grado di controllo sulla propria infrastruttura. Ecco perché stiamo assistendo a una spinta verso modelli locali e cloud sovrani. L’obiettivo è garantire che la logica che governa una nazione non sia di proprietà di una società dall’altra parte del pianeta. Questo è il lato pratico del dibattito che spesso si perde parlando di scenari di fantascienza.

Una mattinata con l’intelligenza sintetica

Considera una giornata tipica per una marketing manager di nome Sarah. Inizia la mattinata chiedendo a un assistente di riassumere tre dozzine di email. L’assistente lo fa in pochi secondi, ma Sarah deve controllare se ha perso un dettaglio cruciale su un taglio di budget. Più tardi, usa uno strumento generativo per creare immagini per una nuova campagna. Passa un’ora a modificare il prompt perché la macchina continua a dare alle persone nelle immagini sei dita. Nel pomeriggio, usa un assistente alla programmazione per correggere un bug sul sito web dell’azienda, anche se non sa programmare. È essenzialmente il direttore di un’orchestra digitale. Non sta facendo il lavoro manuale, ma è responsabile della performance finale. Questa è la nuova realtà del lavoro. Si tratta più di editing e verifica che di creazione da zero. Sarah è più produttiva, ma è anche più stanca. Il carico mentale di controllare costantemente una macchina per errori è diverso dal carico di fare il lavoro da sola

Anche gli incentivi per l’azienda di Sarah sono cambiati. Non assumono più scrittori entry level. Assumono un senior editor che usa tre diversi modelli per produrre la stessa quantità di contenuti. Questo fa risparmiare denaro a breve termine, ma crea un problema a lungo termine. Da dove verrà la prossima generazione di senior editor se nessuno sta facendo il lavoro entry level? Questa è una conseguenza dell’attuale logica di efficienza. Stiamo ottimizzando per il presente mentre potenzialmente svuotiamo il futuro. La posta in gioco per i creatori è ancora più alta. Musicisti e illustratori vedono il loro lavoro utilizzato per addestrare proprio i modelli che ora competono con loro per i posti di lavoro. Questo non è solo un cambiamento nel mercato. È un cambiamento nel valore che diamo allo sforzo umano. Dobbiamo chiederci se stiamo valutando il risultato più del processo, e cosa succede alla nostra cultura quando il processo è nascosto dentro una black box.

• I leader aziendali devono decidere se danno più valore alla velocità o al pensiero originale.
• I dipendenti devono imparare a controllare l’output della macchina come competenza primaria.
• I legislatori devono bilanciare la necessità di innovazione con la protezione della forza lavoro.
• I creatori devono trovare modi per dimostrare che il loro lavoro è umano per mantenerne il valore.
• Gli educatori devono ripensare al modo in cui valutano gli studenti quando le risposte sono a portata di clic.

I costi nascosti dell’automazione

Spesso parliamo dei vantaggi di questa tecnologia senza menzionare il conto. Il primo costo è la privacy. Per rendere questi modelli più utili, dobbiamo dare loro più dati. Siamo incoraggiati a inserire i nostri programmi personali, le nostre note private e i nostri segreti aziendali in questi sistemi per ottenere risultati migliori. Ma dove vanno a finire quei dati? La maggior parte delle aziende afferma di non utilizzare i dati dei clienti per addestrare i propri modelli, ma la storia di internet suggerisce che le politiche possono cambiare. Una volta che i tuoi dati sono all’interno del sistema, è quasi impossibile recuperarli. Questo è uno scambio permanente di privacy per comodità. Stiamo anche assistendo a un enorme aumento del consumo di energia. L’addestramento di un singolo modello di grandi dimensioni richiede abbastanza elettricità per alimentare migliaia di case per un anno. Man mano che ci spostiamo verso sistemi più complessi, il costo ambientale non farà che crescere. Dobbiamo chiederci se la capacità di generare una foto divertente di un gatto valga l’impronta di carbonio che genera.

C’è anche il costo della verità. Poiché diventa più facile generare testi e immagini realistici, il valore delle prove diminuisce. Se tutto può essere falsificato, allora nulla può essere provato. Questo sta già influenzando i nostri sistemi politici e i nostri tribunali. Stiamo entrando in un periodo in cui il presupposto predefinito è che ciò che vediamo su uno schermo sia una bugia. Ciò crea un alto livello di attrito sociale. Rende più difficile concordare sui fatti di base. La filosofia dell’IA qui riguarda l’erosione di una realtà condivisa. Se tutti guardano una versione del mondo che è stata filtrata e alterata da un algoritmo, perdiamo la capacità di comunicare efficacemente attraverso quelle divisioni. Stiamo scambiando una base sociale stabile per un’esperienza più personalizzata e divertente. Questa è una scelta che facciamo ogni volta che usiamo questi strumenti senza metterne in discussione la fonte o l’intento.

Hai una storia, uno strumento, una tendenza o una domanda sull'IA che pensi dovremmo trattare? Inviaci la tua idea per un articolo — ci piacerebbe sentirla.

Vincoli tecnici e sistemi locali

Per gli utenti esperti, la conversazione riguarda molto più della semplice etica. Riguarda i limiti dell’hardware e del software. Uno dei maggiori ostacoli è il context window. Questa è la quantità di informazioni che un modello può mantenere nella sua memoria attiva in una volta sola. Sebbene queste finestre stiano crescendo, sono ancora limitate. Se dai in pasto a un modello un libro di mille pagine, alla fine inizierà a dimenticare l’inizio quando arriverà alla fine. Ciò porta a incongruenze nei progetti lunghi. C’è anche la questione dei limiti API e della latenza. Se la tua attività si basa su un modello di terze parti, sei in balia del loro uptime e dei loro prezzi. Un improvviso cambiamento nei loro termini di servizio può interrompere l’intero flusso di lavoro. Ecco perché molti utenti avanzati si stanno spostando verso lo storage locale e l’esecuzione locale. Stanno eseguendo modelli più piccoli sul proprio hardware per mantenere il controllo e la velocità.

L’integrazione del flusso di lavoro è la prossima grande sfida. Non basta avere una chat box su un sito web. Il vero valore deriva dal collegare questi modelli a strumenti esistenti come fogli di calcolo, database e software di gestione dei progetti. Ciò richiede una profonda comprensione di come strutturare i dati in modo che il modello possa comprenderli. Stiamo assistendo all’ascesa della RAG, o Retrieval-Augmented Generation. Questo è un metodo in cui il modello cerca informazioni specifiche da una fonte attendibile prima di rispondere. È un modo per colmare il divario tra la natura statistica del modello e le esigenze fattuali dell’utente. Tuttavia, ciò aggiunge un livello di complessità al sistema. Devi gestire il motore di ricerca, il database e il modello contemporaneamente. È una soluzione a manutenzione elevata che richiede una serie specifica di competenze per essere gestita in modo efficace.

• La quantizzazione consente ai modelli di grandi dimensioni di funzionare su hardware di livello consumer riducendo la precisione dei pesi.
• Il fine tuning sta diventando meno popolare poiché la RAG fornisce una migliore accuratezza fattuale con meno sforzo.
• La tokenizzazione rimane un costo nascosto che può rendere alcune lingue più costose da elaborare rispetto ad altre.
• L’esecuzione locale è l’unico modo per garantire il 100 percento di privacy per i dati aziendali sensibili.
• La distillazione del modello sta creando versioni più piccole e veloci di modelli giganti per l’uso mobile.

Il percorso pratico da seguire

La filosofia dell’IA non è una distrazione dal lavoro. È il lavoro. Ogni volta che scegli un modello, stai facendo una scelta sul tipo di logica che vuoi che domini la tua vita. Stai decidendo quali rischi sono accettabili e quali costi sono troppo alti. La tecnologia sta cambiando rapidamente, ma i bisogni umani rimangono gli stessi. Vogliamo strumenti che ci rendano migliori, non strumenti che ci sostituiscano. Vogliamo sistemi trasparenti, non sistemi che operano nell’oscurità. La confusione su questo argomento è spesso intenzionale. È più facile per le aziende vendere una scatola magica che vendere un complesso strumento statistico. Eliminando il superfluo e concentrandosi sugli incentivi, puoi vedere la tecnologia per quello che è veramente. È una creazione potente, imperfetta e profondamente umana. Riflette le nostre idee migliori e le nostre abitudini peggiori. L’obiettivo è usarla a occhi aperti, comprendendo i compromessi che stai facendo in ogni interazione. Puoi trovare maggiori informazioni sui ultimi trend nel machine learning per stare al passo con questi cambiamenti. Per approfondimenti sull’etica di questi sistemi, risorse come lo Stanford Institute for Human-Centered AI e il MIT Technology Review forniscono dati eccellenti. Puoi anche seguire i cambiamenti legali nella sezione tech del New York Times.

Nota dell'editore: Abbiamo creato questo sito come un hub multilingue di notizie e guide sull'IA per le persone che non sono esperti di computer, ma che desiderano comunque comprendere l'intelligenza artificiale, usarla con maggiore fiducia e seguire il futuro che sta già arrivando.