Da mesi, forse da anni, discutiamo dei pericoli dell’Intelligenza Artificiale come se improvvisamente fosse comparso davanti a noi un oggetto completamente estraneo alla storia recente della tecnologia e della società. Si moltiplicano gli allarmi, gli appelli alla regolamentazione, le richieste di nuovi divieti, le previsioni catastrofiche e le descrizioni di un futuro nel quale le macchine potrebbero sottrarci capacità, lavoro, autonomia e persino la possibilità di distinguere ciò che è vero da ciò che è falso.
Molti di questi problemi esistono e sarebbe irresponsabile negarli. Ma concentrando quasi tutta l’attenzione sull’Intelligenza Artificiale rischiamo di non vedere qualcosa di molto più grande e, soprattutto, di molto più antico: non abbiamo ancora imparato, come società, a usare consapevolmente gli strumenti digitali che già possediamo.
Il problema, insomma, non nasce con ChatGPT, con l’Intelligenza Artificiale generativa o con gli algoritmi più recenti. Nasce molto prima, quando abbiamo confuso la diffusione della tecnologia con la diffusione della cultura tecnologica, distribuendo computer, smartphone, connessioni, applicazioni e servizi digitali senza costruire parallelamente una conoscenza collettiva sufficiente a comprenderli, valutarli e, quando necessario, rifiutarli.
Abbiamo digitalizzato la società molto più velocemente di quanto abbiamo alfabetizzato digitalmente i cittadini.
Ed oggi ne vediamo le conseguenze.
Due bambine, uno smartphone e una società assente
Il recente episodio delle due sorelle di 12 e 8 anni che si sono nascoste per ore dopo avere preso spunto da contenuti visti online ha inevitabilmente riaperto la discussione sui pericoli dei social e delle cosiddette “challenge”. È giusto interrogarsi sulle responsabilità delle piattaforme, sui loro algoritmi di raccomandazione, sui contenuti proposti ai minori e sui sistemi progettati per prolungare il più possibile la permanenza dell’utente davanti allo schermo.
Ma sarebbe troppo facile fermarsi qui.
La domanda più difficile è un’altra: come siamo arrivati a considerare normale che bambini di otto, dieci o dodici anni possano accedere sostanzialmente da soli a uno degli ambienti comunicativi più complessi mai costruiti dall’uomo?
Uno smartphone non è un giocattolo e non è neppure semplicemente un telefono. È contemporaneamente una videocamera, un televisore, una biblioteca, un sistema di comunicazione planetario, un mercato, uno strumento pubblicitario, un dispositivo di localizzazione, una porta di accesso a comunità composte da milioni di persone e una macchina capace di raccogliere, elaborare e trasferire quantità enormi di informazioni personali.
Eppure lo consegniamo frequentemente ai bambini senza che nessuno abbia prima fornito loro gli strumenti culturali necessari per comprenderlo.
Non consegneremmo le chiavi di un’automobile a un bambino limitandoci a raccomandargli prudenza. Consegniamo invece strumenti digitali immensamente complessi e poi ci stupiamo quando vengono utilizzati in maniera inconsapevole.
Naturalmente non si tratta di trasformare ogni genitore in un informatico. Il problema è precisamente il contrario: anche gli adulti sono spesso digitalmente impreparati. Genitori, insegnanti, educatori e operatori sociali utilizzano quotidianamente strumenti dei quali conoscono l’interfaccia ma raramente il funzionamento economico, sociale e culturale.
Sappiamo premere i pulsanti, ma non necessariamente sappiamo che cosa accade dopo averli premuti.
Abbiamo imparato a usare le applicazioni, non a comprenderle
Questa distinzione è fondamentale.
Sapere utilizzare WhatsApp non significa possedere cultura digitale. Saper pubblicare una fotografia su Instagram, realizzare un video su TikTok, utilizzare Facebook o interrogare un sistema di Intelligenza Artificiale non significa comprendere quegli strumenti.
La vera alfabetizzazione digitale dovrebbe insegnare altre domande.
Chi possiede il servizio che sto utilizzando? Perché me lo offre gratuitamente? Quali informazioni raccoglie? Dove vengono conservate? Posso trasferirle altrove? Posso comunicare con chi utilizza un altro servizio? Perché l’algoritmo mi sta mostrando proprio questo contenuto? Esistono alternative? Sono libere? Sono interoperabili? Posso abbandonare quella piattaforma senza essere escluso dalla mia comunità?
Sono domande molto più importanti del semplice “come si usa?”.
Ed è precisamente su questo terreno che abbiamo accumulato un ritardo enorme.
Quando una scelta privata diventa un obbligo sociale
C’è poi un fenomeno ancora più insidioso perché ormai quasi invisibile.
Entriamo in una libreria e ci viene detto che riceveremo informazioni attraverso WhatsApp. Contattiamo un’azienda e scopriamo che l’assistenza più semplice passa attraverso WhatsApp. Una classe scolastica organizza le proprie comunicazioni attraverso WhatsApp. Un’associazione pubblica informazioni su Facebook. Un esercizio commerciale rimanda a Instagram. Qualcuno ci invita a seguire un evento attraverso una piattaforma proprietaria.
Presi singolarmente sembrano episodi insignificanti.
Sommati, producono invece una gigantesca trasformazione sociale.
Un servizio commerciale privato smette progressivamente di essere percepito come una possibilità e diventa un’infrastruttura sociale di fatto.
Nessuno ci obbliga formalmente a installare WhatsApp. Possiamo teoricamente rifiutarci. Ma se il negozio, la scuola, gli amici, il condominio, l’associazione, il professionista e magari persino qualche servizio di interesse generale presumono che lo utilizziamo, il costo sociale del rifiuto diventa progressivamente maggiore.
La libertà formale rimane. Quella sostanziale diminuisce.
Ed è questa una delle forme più profonde di dipendenza digitale, perché non riguarda soltanto il rapporto psicologico fra una persona e uno schermo. Riguarda l’organizzazione stessa della società.
Usiamo un determinato servizio perché lo usano tutti gli altri, e tutti gli altri continuano a utilizzarlo perché lo usiamo noi.
Il monopolio, a quel punto, non deve neppure essere imposto: viene riprodotto quotidianamente dalle nostre abitudini.
Il Software Libero è anche una questione di libertà sociale
È in questo contesto che il Software Libero assume un significato molto più ampio di quello strettamente informatico.
Non si tratta di stabilire quale programma sia tecnicamente migliore, né di trasformare una preferenza tecnologica in una questione ideologica. Si tratta di riconoscere che gli strumenti attraverso i quali comunichiamo, apprendiamo, lavoriamo e partecipiamo alla vita pubblica incidono sulla nostra autonomia.
Software Libero, standard aperti, interoperabilità e portabilità dei dati sono quindi parti di una stessa questione: la possibilità concreta di scegliere.
Una società digitalmente libera non è quella nella quale tutti possono installare WhatsApp.
È quella nella quale nessuno è costretto, direttamente o indirettamente, a installarlo per partecipare normalmente alla vita sociale.
Ed è una differenza enorme.
La legge può proibire. La cultura può liberare
A questo punto emerge inevitabilmente il tema delle regole.
Davanti a ogni nuovo problema tecnologico la risposta politica sembra ormai seguire uno schema quasi automatico: individuare il pericolo, invocare una norma, introdurre un obbligo o un divieto e dichiarare il problema affrontato.
Ma legge e cultura non sono strumenti equivalenti e non si trovano sullo stesso livello.
La legge interviene dall’esterno. Stabilisce ciò che possiamo o non possiamo fare, determina responsabilità, pone limiti e sanziona determinati comportamenti. In alcuni casi è certamente necessaria, soprattutto quando occorre tutelare i soggetti più deboli, impedire abusi, garantire diritti o contrastare posizioni di potere incompatibili con l’interesse collettivo.
Ma rimane uno strumento inferiore rispetto alla costruzione di una cultura diffusa.
Una legge può impedirmi di compiere un determinato comportamento.
La conoscenza può permettermi di comprendere perché non dovrei compierlo.
Una legge può imporre a un’impresa determinate condizioni.
Una cittadinanza consapevole può decidere di non utilizzare un servizio che considera incompatibile con i propri interessi.
Una legge può stabilire un’età minima.
Una comunità educante può fare in modo che un ragazzo comprenda ciò che sta utilizzando.
Una legge può obbligare una piattaforma ad aggiungere un avvertimento.
La cultura può insegnare al cittadino a non affidare automaticamente il proprio giudizio alla piattaforma.
La differenza è enorme perché nel primo caso costruiamo cittadini protetti, nel secondo costruiamo cittadini autonomi.
E una società democratica dovrebbe aspirare soprattutto alla seconda cosa.
La lezione del tabacco
Abbiamo già affrontato nella nostra storia recente qualcosa che può aiutarci a comprendere questo passaggio.
Per decenni il tabacco fu trasformato in una componente apparentemente naturale della vita quotidiana. Si fumava nei film, nei programmi televisivi, nei ristoranti, negli uffici, nei treni e negli aerei. I marchi del tabacco sponsorizzavano manifestazioni e competizioni sportive. La pubblicità associava la sigaretta all’eleganza, alla libertà, alla maturità, al successo.
Fumare era stato trasformato in normalità sociale.
La grande trasformazione avvenuta successivamente non può essere spiegata soltanto attraverso i divieti. Le norme ebbero certamente un ruolo, ma arrivarono e funzionarono dentro un cambiamento culturale molto più ampio, alimentato dalla ricerca scientifica, dall’informazione, dalle campagne pubbliche, dalla scuola, dalla comunicazione sanitaria e dalla progressiva consapevolezza collettiva delle conseguenze del fumo.
Il risultato più importante non è stato semplicemente vietare di fumare in determinati luoghi.
È stato cambiare ciò che la società considerava normale.
Ed è esattamente questo che dovremmo tentare di fare con il digitale.
Cambiare la normalità digitale
Dovrebbe sembrarci strano che un bambino abbia accesso illimitato e non accompagnato ai social.
Dovrebbe sembrarci strano che una scuola utilizzi una piattaforma commerciale come se fosse un’infrastruttura pubblica inevitabile.
Dovrebbe sembrarci strano che un’impresa chieda al cliente di installare un’applicazione proprietaria senza offrirgli un’alternativa realmente equivalente.
Dovrebbe sembrarci strano che un servizio gratuito possa raccogliere enormi quantità di informazioni personali senza che l’utente sappia realmente quale sia il modello economico che lo sostiene.
Dovrebbe sembrarci strano che miliardi di persone affidino una parte crescente della propria comunicazione a pochissime aziende.
Dovrebbe sembrarci strano che un cittadino possa trascorrere dieci ore al giorno dentro sistemi algoritmici senza avere mai ricevuto nemmeno dieci ore di formazione sul loro funzionamento.
E invece tutto questo è diventato normale.
È questa normalità che dobbiamo mettere in discussione.
Una grande campagna pubblica per la cultura digitale
Perché allora non investire seriamente in una campagna permanente di alfabetizzazione e consapevolezza digitale?
Non qualche spot occasionale sui “pericoli di Internet”.
Non la giornata celebrativa annuale.
Non il corso nel quale qualcuno insegna come creare una password.
Servirebbe un progetto pubblico di lungo periodo, con la stessa ambizione delle grandi campagne sanitarie che hanno modificato comportamenti profondamente radicati nella società.
Una campagna capace di entrare nelle scuole, nelle università, nei luoghi di lavoro, nelle biblioteche, nei centri sociali, nei servizi pubblici e nei mezzi di comunicazione, coinvolgendo bambini, ragazzi, genitori, insegnanti, anziani, lavoratori e amministratori.
Bisognerebbe spiegare che cosa sono i dati personali, come funzionano gli algoritmi di raccomandazione, perché un servizio apparentemente gratuito può produrre enormi profitti, che cosa significa profilazione, come riconoscere una fonte, come verificare un’informazione, come funzionano le immagini sintetiche, quali conseguenze produce la concentrazione delle piattaforme, che cosa sono il Software Libero e gli standard aperti, perché l’interoperabilità rappresenta una forma di libertà e quali alternative esistono ai servizi dominanti.
E naturalmente bisognerebbe insegnare anche a utilizzare consapevolmente l’Intelligenza Artificiale.
Non a temerla.
Non ad adorarla.
A comprenderla.
E finalmente arriviamo all’Intelligenza Artificiale
Molte delle sciagure oggi attribuite all’IA sono in realtà l’amplificazione di problemi che avevamo già costruito.
La disinformazione esisteva prima dell’IA generativa.
La profilazione esisteva prima.
La raccolta massiva dei dati esisteva prima.
La concentrazione tecnologica esisteva prima.
La dipendenza dalle piattaforme esisteva prima.
La difficoltà nel distinguere una fonte affidabile da una voce infondata esisteva prima.
La delega delle nostre scelte agli algoritmi esisteva prima.
L’Intelligenza Artificiale rende alcuni di questi problemi enormemente più potenti, più veloci e più difficili da riconoscere e ne introduce certamente di nuovi. Proprio per questo richiede attenzione, ricerca, trasparenza e, quando necessario, anche regole.
Ma pensare di affrontare questa trasformazione prevalentemente attraverso nuovi divieti significa continuare a curare i sintomi lasciando intatta la malattia.
Possiamo vietare uno strumento oggi.
Domani ne arriverà un altro.
Possiamo stabilire una regola per una piattaforma.
Fra cinque anni quella piattaforma potrebbe non esistere più.
Possiamo rincorrere ogni innovazione con una nuova norma, condannandoci però a essere permanentemente un passo indietro rispetto alla tecnologia.
Oppure possiamo fare qualcosa di molto più difficile e molto più duraturo: costruire cittadini capaci di comprendere gli strumenti prima ancora che qualcuno debba dire loro se possono utilizzarli.
Non cittadini obbedienti, ma cittadini consapevoli
Questo dovrebbe essere il vero obiettivo.
Non costruire una società nella quale un’autorità protegge continuamente cittadini considerati incapaci di orientarsi nel mondo digitale, ma una società nella quale le persone possiedano gli strumenti culturali necessari per esercitare la propria autonomia.
La legge rimarrà necessaria laddove occorre garantire diritti, contrastare abusi e limitare concentrazioni di potere. Ma nessuna quantità di regolamenti potrà sostituire una popolazione capace di comprendere criticamente la tecnologia.
Perché una democrazia matura non dovrebbe limitarsi a chiedersi quali strumenti proibire ai propri cittadini.
Dovrebbe chiedersi quali conoscenze fornire loro affinché possano scegliere.
Ed è forse proprio questa la domanda che manca nel grande dibattito contemporaneo sull’Intelligenza Artificiale.
Continuiamo a domandarci:
come possiamo proteggere le persone dall’Intelligenza Artificiale?
Proviamo a sostituirla con una domanda diversa:
come possiamo costruire una società capace di usare consapevolmente la tecnologia?
Da questa domanda nasce una politica completamente differente.
Nascono investimenti nell’educazione invece della sola produzione di divieti, formazione permanente invece di campagne emergenziali, Software Libero e standard aperti invece della dipendenza inevitabile da pochi ecosistemi commerciali, interoperabilità invece dei recinti digitali, capacità critica invece dell’obbedienza, conoscenza invece della paura.
E soprattutto nasce una diversa idea di cittadino.
Non qualcuno da proteggere continuamente dalla tecnologia.
Ma qualcuno al quale fornire gli strumenti per dominarla, comprenderla, sceglierla e, quando lo ritiene necessario, rifiutarla.
Perché la vera libertà digitale non consiste nel poter utilizzare qualsiasi tecnologia.
Consiste anche nel poter decidere consapevolmente di non utilizzarla senza essere esclusi dalla società.
Forse, allora, il problema che abbiamo davanti non è davvero l’Intelligenza Artificiale.
È molto più grande.
Non abbiamo un problema con l’Intelligenza Artificiale. Abbiamo un problema con la nostra cultura digitale.
E nessuna legge potrà costruirla al posto nostro.