Il progetto Debian ha concluso una delle discussioni più interessanti degli ultimi anni all'interno della comunità del Software Libero: stabilire quale atteggiamento adottare nei confronti dell'intelligenza artificiale generativa e, in particolare, dei contributi realizzati con l'assistenza di Large Language Model.
La votazione si è conclusa il 28 agosto e i risultati sono stati pubblicati il 29 agosto. Tra otto differenti proposte sottoposte alla comunità ha prevalso quella denominata “Responsible Use of Generative AI”, che sceglie una strada intermedia tra il divieto dell'intelligenza artificiale e la sua accettazione senza particolari cautele.
La decisione può essere sintetizzata in un principio: Debian non approva né proibisce l'utilizzo degli strumenti di intelligenza artificiale generativa, ma chi presenta un contributo rimane pienamente responsabile di ciò che presenta.
È una distinzione importante.
Durante il dibattito erano emerse posizioni molto differenti. Una delle proposte chiedeva di vietare esplicitamente i contributi realizzati con l'assistenza dei Large Language Model attraverso una modifica al Social Contract di Debian. Un'altra sosteneva che Debian dovesse essere esplicitamente “creata dagli esseri umani”, mentre altre proponevano differenti forme di accettazione, prudenza o regolamentazione.
Alla fine la comunità ha scelto di non introdurre un divieto.
La risoluzione approvata riconosce che gli strumenti di intelligenza artificiale generativa possono aumentare la produttività dei collaboratori, permettendo ai volontari di dedicare più tempo alle attività che richiedono competenza tecnica, capacità di giudizio, revisione e collaborazione.
Questo riconoscimento, però, non costituisce un'approvazione indiscriminata dell'AI.
Debian stabilisce infatti che un contributo deve rispettare gli stessi criteri di qualità, correttezza, manutenibilità e conformità legale indipendentemente dagli strumenti utilizzati per produrlo.
Un programmatore non può quindi giustificare un errore sostenendo che il codice sia stato generato da un'intelligenza artificiale.
Chi presenta il contributo deve comprenderlo, controllarlo, provarlo e, quando necessario, modificarlo prima che venga incorporato nel progetto. Accettare automaticamente materiale generato da un sistema AI senza un'adeguata revisione umana viene considerato incompatibile con le normali pratiche di sviluppo di Debian.
È probabilmente questo il passaggio più importante dell'intera decisione.
L'intelligenza artificiale può essere uno strumento, ma non diventa un soggetto responsabile.
La responsabilità tecnica continua ad appartenere alla persona.
Debian affronta anche una delle questioni più controverse dell'AI generativa: copyright e licenze.
Lo status giuridico dei contenuti prodotti attraverso questi sistemi rimane incerto in numerose giurisdizioni. Esistono interrogativi sull'autorialità, sulla possibilità di proteggere attraverso copyright il materiale generato e sull'eventuale riproduzione di contenuti provenienti dai dati utilizzati durante l'addestramento.
Debian sceglie deliberatamente di non tentare di risolvere questi problemi attraverso la propria risoluzione.
Restano invece valide le regole già esistenti.
Il collaboratore deve valutare la provenienza e le implicazioni delle licenze del materiale che introduce nel progetto e non deve presentare contenuti dei quali non possa ragionevolmente giustificare lo status legale.
Particolarmente importante è anche il capitolo relativo alla riservatezza dei dati.
La risoluzione invita chi utilizza servizi AI esterni a non trasmettere informazioni confidenziali, comunicazioni private, vulnerabilità di sicurezza ancora sotto embargo, credenziali, chiavi crittografiche o altre informazioni non pubbliche relative al progetto e alla sua infrastruttura.
È una precauzione che dovrebbe probabilmente diventare normale ben oltre Debian.
Quando utilizziamo un servizio di intelligenza artificiale remoto, infatti, non stiamo semplicemente eseguendo un programma sul nostro computer: possiamo inviare dati verso infrastrutture gestite da soggetti terzi. La domanda su quali informazioni sia opportuno trasmettere diventa quindi parte integrante della sicurezza.
Debian affronta inoltre il rischio dell'automazione su larga scala.
L'utilizzo dell'intelligenza artificiale non autorizza operazioni massive come l'apertura automatizzata di grandi quantità di bug report, l'invio indiscriminato di patch o modifiche estese a numerosi pacchetti. Operazioni con un impatto significativo sul progetto devono essere preventivamente discusse attraverso i normali processi comunitari e devono comunque essere supervisionate da una persona.
Anche qui emerge una filosofia precisa: automatizzare non significa eliminare la responsabilità.
Interessante è infine la scelta relativa alla trasparenza. Debian incoraggia i collaboratori a dichiarare quando un contributo è stato realizzato con l'assistenza dell'intelligenza artificiale, ma non rende questa dichiarazione obbligatoria.
La decisione assume un significato particolare perché Debian non è un'azienda.
Non esiste un amministratore delegato che possa semplicemente stabilire una nuova politica aziendale sull'intelligenza artificiale. Debian è una comunità internazionale governata attraverso una Costituzione, un Social Contract e procedure democratiche che consentono ai membri del progetto di presentare proposte, discuterle e votarle.
Ed è esattamente ciò che è avvenuto in questo caso.
Il risultato non elimina naturalmente il dibattito sull'intelligenza artificiale nel Software Libero. Rimangono aperte questioni enormi: i dati utilizzati per l'addestramento, il rispetto delle licenze, l'impatto ambientale, la concentrazione delle infrastrutture nelle mani di poche aziende, la dipendenza dai servizi cloud e il possibile impoverimento delle comunità quando la produzione automatica di codice supera la capacità umana di revisionarlo.
La decisione di Debian evita però due scorciatoie opposte.
Da una parte non considera inevitabile che tutto ciò che viene chiamato intelligenza artificiale debba essere automaticamente adottato. Dall'altra non ritiene che vietare completamente lo strumento sia la risposta migliore.
Sceglie invece un principio che appartiene profondamente alla cultura del Software Libero: la tecnologia deve rimanere uno strumento nelle mani delle persone, non diventare il soggetto al quale delegare decisioni e responsabilità.
È probabilmente questa la parte più interessante della risoluzione.
Nel dibattito pubblico sull'intelligenza artificiale si parla continuamente di ciò che le macchine potranno fare al posto nostro. Debian pone una domanda differente: chi risponde di ciò che viene fatto?
La risposta della comunità è molto semplice.
L'intelligenza artificiale può aiutare a scrivere codice, documentazione o altri contenuti. Può accelerare alcune attività e probabilmente diventerà sempre più presente negli strumenti utilizzati dagli sviluppatori.
Ma dietro ogni contributo a Debian deve continuare a esserci una persona disposta a comprenderlo, verificarlo e assumersene la responsabilità.