Caro Luca, l’applicazione dell’intelligenza artificiale alle armi è una delle più preoccupanti frontiere dell’innovazione. La possibilità che dei sistemi d’arma automatici (Aws) decidano in base a funzionalità tecniche di porre fine alla vita di persone impone una riflessione profonda. Un principio fondamentale dovrebbe essere che quella decisione sia presa da umani in base a logiche ben codificate. So che al Parlamento è in discussione una mozione per stabilire che l’Italia non si impegna nella produzione di Aws che violino quel principio. Questo è il testo del proponente, l’onorevole Stefano Quintarelli: “Mozione 1/01620, Camera dei Deputati. La Camera, premesso che: l’articolo 11 della Costituzione ripudia la guerra (...) ; lo sviluppo tecnologico, in particolare nei settori dell’elettronica e dell’intelligenza artificiale, con capacità di acquisizione di grandi quantità di dati, loro elaborazione ed analisi in tempo reale con miglioramento delle performance mediante sistemi di autoapprendimento, consente di realizzare sistemi con facoltà di assumere decisioni autonome; uno dei settori di applicazione di tali tecnologie riguarda il settore degli armamenti, in particolare nei cosiddetti Aws, ovvero sistemi d’arma che, una volta attivati, possono selezionare e ingaggiare bersagli senza ulteriore intervento di un operatore umano; l’esistenza degli Aws abilita, pertanto, la possibilità di eliminare l’operatore umano dal campo di battaglia, ponendo i presupposti di una trasformazione nella struttura delle operazioni militari qualitativamente diversa da precedenti innovazioni tecnologiche in tale ambito, impegna il Governo: 1) a promuovere a livello europeo una moratoria internazionale dello sviluppo di sistemi d’arma di tipo Aws; 2) ad assumere iniziative per introdurre nella normativa nazionale la previsione di un divieto dello sviluppo e della ommercializzazione di sistemi Aws.”
Che cosa ne pensi?
Fabio Pietrosanti
Presidente Centro Hermes per la trasparenza e i diritti umani digitali

Caro Fabio, il Parlamento dimostra una crescente sensibilità per i temi della società digitale. L’intergruppo innovazione ha contribuito ad affrontare intricate questioni relative alla modernizzazione digitale del Paese con un approccio non partigiano. La X Commissione ha prodotto un’analisi strategica sull’industria 4.0 che è risultata decisiva per definire una policy incisiva per lo sviluppo. E la Dichiarazione dei diritti in internet realizzata da una Commissione di studio – ispirata dalla leadership di Stefano Rodotà che ha dedicato tutta la sua vita all’innovazione culturale nella politica come – ha portato a una mozione votata all’unanimità dalla Camera. Il suo valore di ispirazione potrà essere considerato meglio guardando a una prospettiva di lungo termine. Ma ha dato un senso nuovo alle mozioni di principio. Come quella che si propone contro gli armamenti a base di intelligenza artificiale. Il principio costituzionale secondo il quale l’Italia ripudia la guerra è un elemento identitario della nostra civiltà democratica. Il principio umano secondo il quale non possono essere le macchine a prendere la decisione di premere il grilletto è un elemento fondamentale della responsabilità degli umani nei confronti della vita e della civiltà. Ma la spesa militare è una delle primarie fonti di finanziamento della ricerca tecnologica. Si potrà affermare un principio sacrosanto senza confondersi a causa di quella prassi? Si può consentire un impegno degli italiani nello sviluppo, nella ricerca e nella produzione di armi per la difesa intelligente, contro attacchi missilistici o i cyberattacchi, ma lavorare per fermare la proliferazione di armi di attacco dotate di intelligenza artificiale?

© Riproduzione riservata