Salta al contenuto principale

L’illusione del "basta chiedere all’IA": perché creare senza comprendere impoverisce la mente, il software e la democrazia

Inviato da enzo de simone il
scelta autonoma

«Ma usa l’IA». È diventata quasi un riflesso condizionato, sui social come nelle conversazioni quotidiane, una scorciatoia verbale che suona come un’ovvietà rassicurante, quasi un nuovo slogan pubblicitario. L’altro giorno un amico mi raccontava entusiasta di aver risolto un problema di pacchettizzazione - sia in Flatpak che in AppImage - senza muovere quasi un dito e senza sapere minimamente cosa stesse accadendo sotto il cofano. Da quell’episodio nasceva una convinzione diffusa: che ormai chiunque possa improvvisarsi programmatore senza studiare né conoscere alcun linguaggio, arrivando persino a immaginare di costruire una propria distribuzione Linux — salvo poi scontrarsi con il limite reale delle risorse economiche, perché ciò che gira nelle grandi infrastrutture aziendali ha ben altri costi e requisiti rispetto a ciò che è accessibile a chiunque gratuitamente o a basso costo.

Il punto, però, non è se l’intelligenza artificiale possa velocizzare certi passaggi o se esistano filtri per bloccare richieste palesemente illecite o pericolose (filtri che peraltro chi ha competenze sa aggirare, mentre la massa si ferma alla superficie). Il vero rischio è molto più profondo e silenzioso: la delega totale della comprensione. Affidarsi a sistemi potentissimi, opachi, centralizzati in poche mani e orientati al profitto senza capire ciò che si produce espone a una dipendenza umana, sociale e politica pericolosa. Strumenti del genere possono già oggi orientare e manipolare l’opinione pubblica a vantaggio di chi li controlla.

Quando "funziona" non significa "lo capisci"

Usare l’intelligenza artificiale per accelerare un compito ripetitivo o esplorare una strada è legittimo; usarla per scavalcare i processi di apprendimento, di analisi e di decisione ribalta il rapporto tra strumento e persona. L’IA dovrebbe alleggerire l’esecuzione, non sostituire il pensiero critico né i percorsi che danno senso a un progetto, a un’idea o a un servizio.

Quando si costruisce qualcosa - un pacchetto software, uno script, una configurazione di sistema o un flusso di lavoro - senza sapere come sia stato assemblato, ci si espone subito a tre domande scomode:

  1. Se qualcosa si rompe o si comporta in modo anomalo, come intervengo? Senza comprendere l’architettura e le dipendenze, ogni modifica rischia di essere un tentativo alla cieca.

  2. Sono davvero in grado di riconoscere un errore o un malfunzionamento? Un output che "sembra" corretto o che compila senza errori visibili può nascondere falle logiche, permessi eccessivi o comportamenti imprevisti.

  3. Riesco a cogliere le criticità nascoste e a prevederne le conseguenze? Capire l’impatto di una scelta su sicurezza, stabilità, privacy o manutenzione nel tempo richiede competenza, non solo velocità di generazione.

Esempi concreti: cosa succede quando l’automazione corre più della comprensione

Non serve fare fantascienza per vedere gli effetti di un uso acritico o automatizzato dell’IA nel mondo del software e dell’open source. Basta guardare a ciò che sta già accadendo:

  • Il sovraccarico dei programmi di Bug Bounty: Come emerso di recente nel dibattito sul software libero, l’uso massiccio di strumenti di IA per scansionare il codice ha prodotto valanghe di segnalazioni automatiche, spesso piene di falsi positivi o di ipotesi prive di contesto reale. A pagare il prezzo sono soprattutto i maintainer volontari o i piccoli team che reggono progetti essenziali: ore sottratte allo sviluppo e alla correzione dei problemi veri per verificare report generati da bot, con il rischio concreto di burnout.

  • Pacchetti generati o spinti da agenti autonomi: Quando catene automatizzate o agenti IA operano su repository e sistemi di distribuzione senza controlli solidi né piena supervisione umana, il rischio di introdurre codice non sicuro o pacchetti problematici nella supply chain del software diventa reale.

  • Il paradosso del "guscio aperto e cervello chiuso": Anche quando si adottano strumenti o interfacce open source legati ad agenti IA, se il modello sottostante o i servizi collegati restano proprietari, opachi e vincolati a piattaforme esterne, l’autonomia reale dell’utente o dell’organizzazione resta limitata. Lo stesso vale per la sovranità digitale nella Pubblica Amministrazione e nella scuola: dipendere in massa da software proprietari extraeuropei espone a costi, vincoli (vendor lock-in) e vulnerabilità strategiche che l’adozione di software libero e standard aperti mira proprio a ridurre.

Due pilastri per non impoverirci culturalmente e politicamente

Per contrastare questo impoverimento culturale, sociale e politico non servono divieti punitivi o stretti coercitivi, ma scelte strutturali chiare:

  1. L’IA deve essere aperta e sottratta al monopolio privato: La conoscenza, i modelli e le infrastrutture fondamentali non possono restare chiuse in poche scatole nere guidate solo dal profitto, né diventare strumenti di condizionamento di massa. L’apertura, la verificabilità e la trasparenza sono condizioni essenziali per la libertà tecnologica.

  2. Ripartire dai grandi profitti per l’alfabetizzazione informatica diffusa: Le risorse economiche generate dai colossi tecnologici - spesso superiori al PIL di interi Stati o aree - andrebbero orientate verso un’alfabetizzazione digitale seria, critica e accessibile a tutte le fasce della popolazione e in tutti i settori, affinché la tecnologia resti uno strumento comprensibile e governabile, non un oracolo.

Piccolo Vademecum per un uso responsabile e consapevole dell’IA (per l’utente domestico e comune)

  1. Non delegare il giudizio: L’IA può suggerire, riassumere o abbozzare, ma la decisione finale su ciò che leggi, pubblichi, installi o condividi resta tua.

  2. Diffida della sicurezza apparente: Un testo scorrevole o un comando che "sembra funzionare" non è automaticamente vero, sicuro o adatto al tuo caso. Verifica sempre le fonti e il contesto.

  3. Proteggi i tuoi dati e la tua privacy: Evita di inserire in servizi esterni dati personali, documenti sensibili, password o informazioni riservate di terzi.

  4. Cerca di capire almeno le basi: Non serve diventare esperti di tutto, ma comprendere il funzionamento generale di ciò che usi ti aiuta a prevenire errori e a non restare bloccato al primo intoppo.

  5. Resta critico verso l’automazione e le scorciatoie: Chiediti sempre se stai risparmiando tempo utile o se stai rinunciando a imparare qualcosa di importante per te.

  6. Sostieni l’aperto e il verificabile: Quando puoi, privilegia strumenti liberi, trasparenti e rispettosi della privacy, e valorizza il lavoro delle comunità che li mantengono.

  7. Coltiva il confronto umano: Confrontati con persone reali, colleghi e comunità: il pensiero collettivo e il dibattito restano insostituibili per evitare bolle e manipolazioni.