Guerre disumane: dalla critica dell’IA militare alla sua regolamentazione

di Federico Oliveri

 

La mattina del 28 febbraio scorso, primo giorno dell’Operazione Epic Fury lanciata dagli Stati Uniti e da Israele contro l’Iran, le forze statunitensi hanno colpito una scuola elementare nel sud del paese, uccidendo 180 persone la maggior parte delle quali bambine tra i sette e i dodici anni. Nei giorni successivi la domanda che ha dominato molti media era se e perché Claude, il chatbot creato da Anthropic e utilizzato dal Pentagono, avesse “scelto” la scuola come obiettivo.

La questione è rivelatrice, non tanto per ciò che riguarda l’attacco alla scuola o l’uso militare dei sistemi di intelligenza artificiale, quanto per ciò che rivela del nostro modo di parlare di queste macchine che simulano attività mentali umane.

Dire che un sistema informatico possa “decidere” o “scegliere” di colpire un bersaglio è un tipico caso di antropomorfismo linguistico: si attribuiscono intenzioni e stati mentali a entità che non ne possiedono e non possono possederne. Per quanto sorprendenti e sofisticati siano, i sistemi di IA non comprendono ciò che fanno, non hanno intenzionalità, né coscienza, né personalità e, proprio per questo, non possono e non devono in nessun caso essere considerati responsabili dei danni arrecati a cose o persone.

L’antropomorfismo tecnologico non è semplicemente una cattiva abitudine linguistica che ci trae in inganno, ma la versione contemporanea di una tendenza evolutiva ben radicata, di cui dobbiamo prendere consapevolezza. Per i nostri progenitori cacciatori‑raccoglitori individuare per tempo un animale o un altro essere umano dietro un movimento o un suono era una questione di sopravvivenza. Attribuire una mente ai sistemi di IA non serve a salvarci da un predatore, al contrario: è un modo per delegare valutazioni, decisioni e responsabilità alle macchine, assoggettandoci a chi le produce e rinunciando all’uso sensato del linguaggio normativo, sia morale che giuridico.

Vedere nei sistemi di IA degli “agenti” realmente capaci di individuare determinati bersagli e di decidere se, come e quando colpirli, conduce a ridurre o persino a eliminare la responsabilità umana in decisioni di vita e di morte. Se la macchina ha “scelto” il bersaglio sbagliato allora qualche essere umano – un esperto informatico, un dirigente aziendale, un capo di governo, un ministro, un comandante – può non averlo fatto. Attribuendo una forma di intenzionalità alle macchine viene messa a repentaglio la capacità del diritto di limitare l’uso della forza e mantenere la pace e la sicurezza internazionale: diventa difficile minacciare individui, Stati e società private di sanzioni per crimini di guerra, crimini contro l’umanità o genocidio se possono scaricare la loro responsabilità su sistemi di IA “opachi” e “fuori controllo”.

L’assenza di pensiero e di giudizio che si produce delegando le facoltà di discernimento a macchine che ne sono costitutivamente prive rappresenta la versione contemporanea di ciò che Hannah Arendt ha definito la “banalità del male”. Assistendo al processo contro Adolf Eichmann, la filosofa si è convinta che per sterminare milioni di persone non serve un mostro: è sufficiente un ligio burocrate e un “buon padre di famiglia” che rinunci a interrogarsi sul senso delle proprie azioni.

La memoria dello sterminio e il monito “mai più, per nessuno” deve spingerci ad affrontare una domanda sempre più urgente: come scongiurare il rischio di guerre disumane, in cui le decisioni letali sono automatizzate al punto da espellere la capacità umana di pensare e giudicare, distinguendo ciò che è lecito, morale e umano da ciò che non lo è, e di assumersi la responsabilità delle proprie azioni e omissioni?

Per iniziare a rispondere a questa domanda è necessario sviluppare una critica dell’IA militare su due piani: il primo riguarda l’attuale contesto storico-politico, di cui occorre comprendere le dinamiche profonde; il secondo riguarda l’effettivo funzionamento dei sistemi di automatizzazione, sia in generale che in ambito militare, mettendone in luce le criticità strutturali.

La convergenza di questi due piani consentirà di comprendere perché le tecnologie basate sull’apprendimento automatico (machine learning) da grandi quantità di dati non siano affatto neutre e, soprattutto, perché non sappiano né possano fare ciò che promettono. Occorre dunque abbandonare il pensiero consolatorio che “tutto dipende dall’uso che si fa dei sistemi di IA”. Soprattutto in ambito militare, è la loro stessa esistenza, la loro commerciabilità e la loro utilizzabilità che deve essere messa radicalmente in discussione, se si vuole impedire l’avvento di un nuovo (dis)ordine mondiale fondato sul primato della violenza armata automatizzata.

Un dibattito pubblico e scientifico realistico sulla regolamentazione dell’IA, soprattutto di quella militare, dovrebbe partire da qui.

 

La chiamata alle armi della Silicon Valley

I leader delle principali potenze mondiali e delle più agguerrite aziende tecnologiche statunitensi considerano l’IA come il fattore determinante per la futura egemonia globale. In questa prospettiva, la corsa all’automatizzazione generale non riguarda soltanto l’ambito civile ma investe in modo sempre più profondo il settore militare, guidata dall’idea che una supremazia tecnoscientifica mondiale possa tradursi direttamente in prevalenza geopolitica.

Come ha affermato Donald Trump all’insediamento del suo Council of Advisors on Science and Technology, “le scoperte in materia di IA hanno il potenziale di ridefinire l’equilibrio del potere globale, generare intere nuove industrie e rivoluzionare il modo in cui viviamo e lavoriamo. Man mano che i nostri competitori globali si affrettano a sfruttare queste tecnologie, è un imperativo di sicurezza nazionale per gli Stati Uniti raggiungere e mantenere un dominio tecnologico globale incontestato e incontrastato”.

Il concetto è stato sviluppato nelle prime pagine dell’America’s AI Action Plan, pubblicato a luglio 2025 e intitolato significativamente Vincere la corsa: “Chi possiede l’ecosistema IA più ampio stabilirà gli standard globali dell’IA e raccoglierà ampi benefici economici e militari. Così come abbiamo vinto la corsa allo spazio, è imperativo che gli Stati Uniti e i loro alleati vincano questa corsa. Il Presidente Trump ha compiuto passi decisi verso questo obiettivo nei suoi primi giorni di mandato, firmando l’Ordine Esecutivo 14179, ‘Rimozione degli ostacoli alla leadership americana nell’intelligenza artificiale’, con cui ha chiesto che l’America mantenga il dominio in questa corsa globale”.

La “chiamata alle armi” lanciata ad aprile 2026 dai vertici di Palantir Technologies – società leader nella realizzazione di infrastrutture digitali per operazioni e processi decisionali basati sui dati – alle aziende della Silicon Valley va letta in questo contesto. Il manifesto in ventidue punti, presentato come una sintesi del libro The Technological Republic pubblicato nel 2025 dal CEO Alex Karp in collaborazione con Nicholas Zamiska, non è un semplice documento aziendale: è un atto politico che mira a ridefinire i termini del rapporto tra tecnologie digitali di frontiera, potere economico-militare e uso internazionale della forza.

Secondo Karp e Zamiska “la domanda non è se le armi basate sull’IA verranno costruite; è chi le costruirà e per quale scopo”. In questo scenario, la Silicon Valley avrebbe “perso la sua strada”, distogliendo i suoi ingegneri più talentuosi dalla “difesa della nazione” per dedicarli ad “app per la consegna di cibo” e “chatbot per i consumatori”.

L’appello spinge a cambiare rotta per “tornare alle origini”, recuperando quel “progetto nazionale” che aveva legato le startup californiane al Pentagono durante la Guerra Fredda, dando vita a internet e alle prime ricerche in materia di IA. Palantir Technologies, nata nel 2003 col sostegno di In-Q-Tel (il braccio di venture capital della CIA) e cresciuta grazie alla “guerra globale al terrore”, si candida a diventare la guida di questa riscossa. La posta in gioco è la sopravvivenza stessa dell’Occidente: “un’era di deterrenza, l’era atomica, sta finendo”, recita il manifesto, “una nuova era di deterrenza costruita sull’IA sta per iniziare”.

Il linguaggio aspro e minaccioso del manifesto – la difesa del servizio militare obbligatorio, la condanna di un “pluralismo vacuo e vuoto”, l’idea che alcune culture siano “regressive e dannose” – è funzionale a creare un clima di urgenza e inevitabilità che restringe lo spazio per il dibattito democratico e presenta come necessità ciò che è invece una scelta politica ben precisa: fare del “settore privato” più dinamico e competitivo il “sistema nervoso dello Stato”, superando il confine tra interesse pubblico e profitto privato, tra sorveglianza e sicurezza, tra guerra e polizia.

Sullo sfondo emerge chiaramente la competizione con la Repubblica Popolare Cinese, dipinta come una partita esistenziale a somma zero in cui “o vinciamo noi o vincerà la Cina”. In questo contesto, il manifesto di Palantir non è una provocazione isolata, ma la punta più avanzata di un movimento più ampio in cui aziende specializzate in IA militare come Anduril o Shield AI, spesso finanziate dagli stessi fondi collegati alla “nuova destra” vicina a Trump, stanno tessendo una rete di interessi che prende sempre più piede negli apparati di sicurezza degli Stati Uniti.

 

L’ascesa di un nuovo complesso militare digitale

Il manifesto di Palantir cade in un momento in cui la Silicon Valley e, più nello specifico, le grandi società tecnologiche statunitensi sono già ampiamente militarizzate. Dopo l’11 settembre e, in modo sempre più rapido negli ultimi dieci anni, si è consolidato negli Stati Uniti un nuovo complesso nuovo complesso militare digitale centrato su sistemi di IA e sui droni, che minaccia seriamente il primato degli storici colossi del settorecome Lockheed Martin, Northrop Grumman e Boeing.

Mentre i giganti della vecchia guardia costruiscono aerei, missili e sottomarini con cicli di progettazione decennali, le nuove imprese offrono nel giro di pochi mesi sistemi operativi per automatizzare la guerra: piattaforme software che comprimono la kill chain da minuti a secondi, che fondono dati provenienti da sensori satellitari, droni, radar e social network in un’unica immagine operativa, che consentono a un singolo operatore di comandare sciami di droni con sistemi autonomi di navigazione.

Anduril, fondata nel 2017, ha già scavalcato Boeing e Lockheed Martin per aggiudicarsi contratti per i droni da combattimento collaborativo dell’Air Force, ed è oggi valutata intorno ai 30 miliardi di dollari: più del doppio rispetto a dieci mesi fa. La già ricordata Palantir è diventata un fornitore cruciale del Pentagono, destinata a ricevere ingenti finanziamenti a lungo termine per la sua piattaforma di IA, il Maven Smart System, che automatizza la selezione dei bersagli, sia umani che infrastrutturali, e guida ormai ogni fase del dispiegamento della forza armata sul terreno.

Anche quelle società che si presentano come “etiche” partecipano all’automatizzazione della guerra. È il caso di Anthropic, che da luglio 2024 ha fornito ha i propri servizi basati sull’IA generativa al Pentagono attraverso una partnership con Amazon e Palantir del valore massimo di 200 milioni di dollari in due anni. Claude è diventato così il primo grande modello di linguaggio (LLM) a essere impiegato nelle reti classificate del governo statunitense. Thiyagu Ramasamy, responsabile del settore pubblico di Anthropic, aveva celebrato l’accordo come “un nuovo capitolo nell’impegno dell’azienda a sostegno della sicurezza nazionale degli Stati Uniti”, ricordando un precedente contratto stipulato sotto l’amministrazione Biden. E aveva aggiunto: “Non vediamo l’ora di approfondire la nostra collaborazione all’interno del Pentagono per risolvere le sfide critiche delle missioni con la nostra competenza tecnica (…) e la leadership nell’intelligenza artificiale sicura e responsabile”.

L’ascesa delle società tecnologiche militari è stata favorita anche da un cambiamento decisivo nelle regole degli appalti. Il Pentagono, attraverso iniziative come Replicator e gli ordini esecutivi firmati dall’amministrazione Trump, ha privilegiato sempre di più l’uso della cosiddetta Other Transaction Authority (OTA): una procedura che consente di aggirare i lenti e competitivi processi di gara tradizionali, favorendo quelle società tecnologiche in grado di consegnare i propri prodotti in mesi anziché in anni. Allo stesso tempo, un sistema di porte girevoli senza precedenti ha portato dirigenti e investitori di queste stesse aziende a ricoprire ruoli chiave nell’amministrazione federale e nell’esercito, contribuendo a scrivere le stesse policy che poi premiano le loro società.

La relazione tra governo federale e settore tecnologico si caratterizza per una crescente interdipendenza reciproca. Da un lato, gli apparati militari dipendono sempre più dalle capacità sviluppate dalle grandi aziende, che vantano un primato quasi monopolistico nelle risorse di calcolo, nel trattamento dei dati personali e nelle ricerche in materia di apprendimento automatico: i tre elementi fondamentali dell’IA contemporanea basata sul machine learning. Dall’altro lato, le medesime società tecnologiche, che non riescono a rientrare dagli enormi investimenti fatti nel campo dell’IA e temono lo scoppio di una “bolla speculativa”, dipendono in misura crescente dalle commesse pubbliche di tipo militare, integrando le proprie strategie industriali con le esigenze della sicurezza nazionale e del mantenimento del predominio militare degli Stati Uniti.

Nel nuovo complesso militare digitale, il settore privato non si limita più a fornire tecnologie di frontiera: partecipa direttamente alla definizione delle capacità operative, delle infrastrutture digitali e degli stessi orizzonti strategici. Ciò è reso possibile dal carattere intrinsecamente duale delle tecnologie digitali, che transitano senza attrito dal civile al militare e viceversa, dissolvendo la distinzione che aveva storicamente separato i due ambiti. L’episodio che, a fine febbraio 2026, ha visto lo scontro frontale tra l’amministrazione Trump e la società Anthropic sull’impiego dei sistemi di IA nella sorveglianza di massa e nello sviluppo di armi interamente autonome ha reso evidente la profondità di questi intrecci pubblico‑privato: non si tratta più soltanto di appalti o forniture, ma di una co‑produzione del potere militare, in cui le società tecnologiche diventano co‑autrici delle dottrine militari e delle architetture digitali che consentono il dispiegamento della forza.

Questa evoluzione era già stata intuita dal presidente Dwight D. Eisenhower che, nel suo celebre Discorso di commiato del 1961, aveva messo in guardia dal rischio che il complesso militare‑industriale, ovvero la convergenza di interessi economici, politici e militari tra le forze armate e le industrie private che producono armamenti, potesse acquisire un “potere ingiustificato” sulle scelte strategiche dell’amministrazione federale minacciando “le libertà e le istituzioni democratiche”. “Non dobbiamo dare niente per scontato”, aveva affermato il presidente-generale.

Oggi quel complesso non solo si è ampliato, ma si è fuso con l’infrastruttura digitale globale, generando un sistema in cui la capacità di controllo tecnologico e di comando militare tendono a coincidere. Il risultato è un ecosistema di potere ibrido, nel quale le scelte strategiche non sono più monopolio degli Stati perché la logica dell’accumulazione privata è penetrata nel cuore delle decisioni sulla guerra e sulla pace, ma anche nelle istituzioni democratiche.

La militarizzazione del “capitalismo della sorveglianza”, iniziata negli anni della guerra globale al terrore di G.W. Bush ed emersa dalle rivelazioni di Edward Snowden, è arrivata a uno stadio molto avanzato: non soltanto per l’attivismo del nuovo complesso militare digitale, ma anche per l’uso acritico che singoli utenti, aziende ed enti pubblici fanno quotidianamente dei servizi digitali offerti da Google, Amazon e Microsoft, sempre più coinvolte nella repressione interna, nella guerra esterna e in azioni genocidarie.

In uno scenario di tale complessità, il dibattito politico e accademico sulla regolamentazione dell’IA militare letale soffre di seri limiti su cui è necessario riflettere in modo approfondito, sia per evitare che la crisi del diritto internazionale precipiti a causa della digitalizzazione sregolata della guerra, sia per creare le condizioni affinché emerga un nuovo ordine mondiale senza ricorso alla violenza armata su larga scala.

 

I limiti del dibattito sulla regolazione dell’IA militare letale

La discussione sulla regolazione dell’IA militare letale tende a concentrarsi quasi esclusivamente sui sistemi d’arma “autonomi” e sul connesso problema del “controllo umano significativo”, assumendo come primaria la relazione tra operatori umani e macchine nella decisione finale se colpire o meno un certo bersaglio. Questa prospettiva richiede di essere allargata e approfondita.

Occorre sviluppare, innanzitutto, un’analisi sistematica di tutti i fenomeni di automatizzazione dell’uso della forza, a partire dall’uso dell’IA nell’analisi dell’intelligence, nei sistemi di supporto decisionale e di targeting, nella sicurezza e nell’organizzazione di attacchi informatici, nel controllo dei sistemi d’arma nucleari, nella produzione e nella diffusione di contenuti ingannevoli.

Ma occorre soprattutto approfondire il dibattito sull’affidabilità di tali sistemi, smettendo di considerare i loro “errori” come imperfezioni contingenti risolvibili con un miglioramento tecnologico o con un controllo umano più stringente (controllo, peraltro, in contraddizione con l’imperativo della massima velocità possibile che motiva l’automatizzazione del decision-making militare). A questo scopo, occorre trasferire l’ampia letteratura esistente sui bias algoritmici, sulla black box, sul disallineamento e sulle altre criticità intrinseche dei sistemi d’intelligenza artificiale dall’ambito civile a quello militare: una regolazione fondata su promesse tecnologiche infondate produrrà inevitabilmente un quadro normativo inadeguato e inefficace.

Occorre, al tempo stesso, superare un approccio esclusivamente “etico”, che tende ad affrontare le criticità dei sistemi automatizzati in termini di principi da declinare in linee guida non vincolanti dal punto di vista giuridico, astraendo dal contesto storico, economico e geopolitico in cui ci troviamo. Questa prospettiva presenta, in alcuni casi, un limite teorico significativo: parte dal presupposto che i problemi dell’IA non siano costitutivi di queste tecnologie ma possano essere corretti o mitigati, puntando tutto su un design e su un uso responsabili.

A questo limite se ne aggiunge un altro, di tipo politico: in un quadro di crisi dell’ordine internazionale e di competizione strategica acuta, di ricorso abusivo a forme di legittima difesa “preventiva” e di aperta violazione del divieto di uso aggressivo della forza, un approccio volontaristico circoscritto agli usi dell’IA nella difesa rischia di risultare debole e inefficace.

Anche il dibattito giuridico-politico sull’IA militare sconta alcuni limiti significativi, laddove tende ad affrontare i problemi attraverso l’adozione di nuovi strumenti pattizi di livello internazionale, ad esempio nell’ambito del Gruppo di esperti governativi (GGE) istituito presso le Nazioni Unite nel quadro della Convenzione su Certe Armi Convenzionali (CCW). In una fase di crisi dell’ordine e di competizione strategica accresciuta, in assenza di forti campagne di pressione di massa, appare improbabile che le grandi potenze si sottomettano a nuove norme destinate a limitare la loro corsa all’IA militare. Per questa ragione, una strada d’azione più promettente consiste nel sottolineare i punti di incompatibilità costitutiva tra i sistemi di IA militare letale e i principi del diritto internazionale umanitario, a partire dai principi di distinzione, precauzione e umanità.

Sollecitata dall’Assemblea Generale delle Nazioni Unite, la Corte Internazionale di Giustizia nel suo parere consultivo del 1996 ha stabilito che la minaccia o l’uso di armi nucleari sono generalmente contrari alle norme del diritto internazionale applicabile nei conflitti armati, in particolare ai principi e alle regole del diritto umanitario. Ne ha concluso, all’unanimità, che esiste un obbligo da parte degli Stati di perseguire in buona fede e portare a termine negoziati per il disarmo nucleare in tutti i suoi aspetti, precisando che tale obbligo non è una mera obbligazione di condotta, ma implica il raggiungimento di un risultato preciso: il disarmo nucleare nella sua totalità.

Questo parere mostra chiaramente come il diritto vigente possa (e debba) essere utilizzato per mettere in discussione la compatibilità stessa di determinate armi – nel caso in questione, dei sistemi letali di IA militare – con i principi fondamentali dell’ordinamento internazionale. Il fatto che le armi nucleari non siano state messe al bando dopo il parere della Corte (anche se il 22 gennaio 2021 è entrata in vigore una Convenzione internazionale per la loro proibizione) non costituisce di per sé un argomento contrario al perseguimento di questa strada, anche se ne mostra tutte le difficoltà.

 

Le criticità strutturali dei sistemi di IA come base del loro divieto presuntivo in ambito militare

Per affrontare il problema della regolazione dell’IA militare propongo di rovesciare l’impostazione dominante: la questione non è se e come regolare l’uso letale dei sistemi di IA, ma se tali sistemi siano compatibili con il quadro giuridico vigente a cui sono sottoposti. Questa prospettiva ha il vantaggio di essere immediatamente applicabile, dando luogo a un divieto presuntivo: la realizzazione, la vendita e l’acquisto di sistemi letali di IA potrebbero essere consentiti solo a condizione che terze parti indipendenti (non i produttori o gli utilizzatori stessi) ne accertino la piena conformità ai principi del diritto internazionale umanitario.

Tale divieto presuntivo si fonda sulle criticità tecnologiche strutturali che rendono l’uso dell’IA militare prima facie incompatibile con i principi dell’ordinamento in materia di uso della forza, indipendentemente dalle modalità concrete di un loro impiego sul campo. Il problema non è il “cattivo uso” di sistemi informatici di per sé neutri, ma l’idoneità di tali sistemi a rispettare il diritto internazionale umanitario.

Ritengo sia possibile mostrare che, per il loro stesso modo di funzionare, i sistemi letali di IA militare non possano aiutare un essere umano né a distinguere tra combattenti e non combattenti, tra obiettivi militari e civili, né a valutare la necessità e la proporzionalità di azioni letali, né a rispettare l’umanità delle persone coinvolte a vario titolo in un conflitto armato. Essi cadono al di fuori del perimetro normativo definito dal diritto internazionale umanitario.

 

Una mappa delle criticità strutturali dei sistemi di IA

Una prima criticità strutturale degli attuali sistemi di IA riguarda la provenienza dei dati necessari al loro addestramento. Soprattutto nel caso di finalità militari, questi dati sono generalmente raccolti attraverso pratiche di sorveglianza estensiva: monitoraggio delle comunicazioni, intercettazioni, rilevamenti biometrici a posti di blocco o durante controlli di polizia, immagini raccolte da satelliti, videocamere e social media, dati di navigazione internet, banche dati istituzionali contenenti documenti personali, numeri di targa, mappatura delle attività sociali e dei percorsi abituali, ecc.

Tali pratiche di sorveglianza sono condotte in assenza di qualsiasi consenso informato e in violazione dei principi generalmente ammessi in materia di tutela dei dati personali: si può arrivare a sostenere che, per funzionare, questi sistemi non possano non violare la privacy. Da qui la tendenza di molti ordinamenti a escludere l’ambito militare dalle norme standard sulla protezione dei dati personali, intendendo quest’ultima come un elemento sacrificabile in nome della “sicurezza” e della vittoria in un conflitto armato. Daltronde, se la protezione dei dati personali avesse avuto pieno valore in ambito militare, i sistemi letali di IA non sarebbero mai stati sviluppati.

Una seconda criticità strutturale riguarda le cosiddette “distorsioni” (bias) presenti nei dati di addestramento, nelle regole di estrazione della conoscenza e negli algoritmi di inferenza. I sistemi di machine learning non sono programmati esplicitamente per svolgere determinati compiti: apprendono a imitare capacità classificatorie e “predittive” umane a partire da un numero sufficientemente ampio di esempi, dai quali ricavano e generalizzano regolarità statistiche. Tali esempi, però, non sono mai rappresentazioni neutrali della realtà: incorporano le categorie, le scelte operative e i pregiudizi di chi li ha raccolti, annotati e preparati per l’apprendimento automatico. I bias, inoltre, non riguardano solo i dati: possono essere integrati nelle scelte architetturali del sistema, nella selezione delle variabili rilevanti, nella struttura della rete neurale, nelle funzioni di ottimizzazione impiegate durante l’addestramento, nelle regole di connessione tra dati eterogenei. In altre parole, la distorsione può emergere in ogni fase del processo.

Uno dei casi più discussi e documentati in materia di IA militare è il sistema di targeting automatizzato Lavender, sviluppato dall’intelligence israeliana e impiegato dall’esercito di occupazione nella campagna genocidaria su Gaza a partire dall’ottobre 2023. Il sistema è stato addestrato sui profili di militanti “noti” di Hamas e della Jihad islamica palestinese per ricavarne un modello da applicare all’intera popolazione di Gaza – circa 2,3 milioni di persone – assegnando a ciascun individuo sopra i 14 anni un “punteggio di rischio” da 1 a 100: più elevato il punteggio, maggiore la probabilità di essere considerato affiliato ai gruppi nemici e finire in una kill list.

Il sistema presenta varie problematiche, distinte ma convergenti, che vale la pena analizzare in dettaglio per trarne conclusioni sul piano del diritto internazionale umanitario.

Una prima problematica riguarda la composizione del dataset di addestramento, che sembra abbia incluso anche lavoratori della protezione civile palestinese e altre categorie estranee alla sfera dei combattenti, etichettate come “sospetti”: una classificazione che il sistema ha appreso e riprodotto su larga scala.

Una seconda problematica riguarda le correlazioni che il sistema ha appreso dal dataset di partenza. Si ritiene che una delle più distorsive sia stata “maschio di età compresa tra i 20 e i 40 anni = militante”: una generalizzazione che rispecchiava e amplificava un pregiudizio presente nei dati di partenza, trasformando una caratteristica demografica neutra in un indice di pericolosità sufficiente per diventare un bersaglio.

Si tratta di una conseguenza prevedibile del modo in cui il sistema di targeting automatizzato è stato costruito. Un modello di previsione statistica addestrato su una popolazione specifica e ristretta (i militanti “noti”) tende a generalizzare le caratteristiche di quel dataset – inclusi i suoi errori di classificazione e i suoi pregiudizi impliciti – all’intera popolazione a cui viene applicato, producendo errori sistematici ogni volta che il contesto reale è più ampio ed eterogeneo di quello su cui il modello è stato calibrato: il semplice fatto di condividere certe abitudini di vita con un “noto” militante palestinese diventa motivo sufficiente per essere presi di mira.

Una terza problematica riguarda le variabili scelte per classificare la popolazione. Il sistema ha combinato un’ampia gamma di input – dalle intercettazioni alla compresenza sulle reti sociali – per valutare la probabilità che un individuo fosse un combattente. Ma assumere l’analisi delle reti sociali come una variabile classificatoria tende a classificare come tale non chi compia azioni militari, ma semplicemente chi frequenta, comunica o è associato a chi è già stato classificato come militante. È un meccanismo di “colpa per associazione” incorporato nell’architettura stessa del sistema – non nella qualità dei dati che lo alimentano, ma nella logica con cui li interpreta – aumentando la probabilità che dei non combattenti vengano selezionati come bersagli.

Le tre problematiche individuate a partire da Lavender – l’errore di etichettatura ereditato dal dataset, la correlazione spuria età/genere, l’uso della rete sociale come variabile classificatoria erronea – alludono a due criticità più generali dei sistemi di machine learning, che propongo di chiamare acausalità e rigidità ontologica, entrambe aggravate da un problema di aureferenzialità ossia di mancanza da parte dei sistemi di un accesso diretto al mondo reale. Comprendere tali criticità è importante perché ne derivano conseguenze significative per quanto riguarda l’incompatibilità tra questi sistemi e il diritto internazionale umanitario.

L’acausalità allude al fatto che i sistemi di machine learning individuano correlazioni statistiche nei dati di addestramento, senza che nei parametri appresi sia codificata alcuna rappresentazione delle relazioni causali tra i fenomeni reali: nell’architettura del modello non esiste un meccanismo che spieghi perché due o più elementi siano correlati, né è disponibile una procedura per distinguere correlazioni genuine di causa-effetto da correlazioni spurie mancando la possibilità di confrontarle direttamente con la realtà. Dall’altra parte, le categorie con cui il mondo esterno viene rappresentato e organizzato all’interno del sistema sono rigide e non aggiornabili in diretta con l’esperienza operativa: il modello ha come unico referente se stesso, ossia i parametri estratti dai dati di apprendimento.

Eppure le distinzioni fondamentali del diritto internazionale umanitario – combattente/civile, obiettivo militare/bene protetto, zona di combattimento/area sicura – devono essere effettuate contestualmente e dinamicamente, in relazione alle effettive condotte delle persone e alle mutabili condizioni del contesto operativo: un individuo può essere un combattente in un momento e un non combattente in quello successivo. Un modello capace di vero ragionamento causale potrebbe, in linea di principio, inferire se e quando una persona sul terreno muti il proprio status. Sistemi privi di questa capacità, come quelli attuali, possono solo applicare a un contesto in continuo cambiamento le categorie cristallizzate in fase di addestramento, e non possono verificare la fondatezza delle loro inferenze.

Analogamente, il principio di precauzione richiede che ogni dubbio rispetto alle conseguenze di un’azione militare sia risolto a favore della protezione della popolazione civile – il che presuppone la possibilità di riconoscere, caso per caso, quando un’inferenza è incerta e quando non lo è. Ma un sistema privo di rappresentazione causale non dispone di alcun criterio interno per distinguere un’inferenza solida da una fondata su una correlazione spuria: non “sa” di essere in dubbio o di non sapere, perché non ha modo di verificare se la correlazione appresa regga nel caso specifico. E poiché le sue categorie restano cristallizzate anche quando il contesto operativo si allontana da quello di addestramento, il sistema è meno affidabile proprio nelle situazioni – mutevoli, ambigue, deliberatamente confuse dall’avversario – in cui il principio di precauzione avrebbe più bisogno di essere applicato.

In conclusione, i fallimenti dei sistemi letali di IA non sono errori contingenti o difetti correggibili con dati migliori, algoritmi più raffinati o supervisori umani più attenti, ma sono le conseguenze dirette del modo stesso in cui questi sistemi sono costruiti: classificano attraverso categorie fisse anziché contestuali, apprendono correlazioni anziché relazioni causali e si degradano quando le condizioni si allontanano da quelle di addestramento. La cautela richiesta dal diritto internazionale umanitario presuppone un sistema capace di riconoscere i propri margini di errore; un sistema che non accede mai al mondo, ma solo a una sua rappresentazione statistica fissata in addestramento, non è strutturalmente in grado di offrire questo riconoscimento. Il problema non è dunque l’uso improprio che di questi sistemi può essere fatto sul campo di battaglia, ma la loro strutturale inidoneità a operare secondo i criteri che il diritto impone.

Un’ulteriore e ben nota criticità dei sistemi di machine learning si manifesta nel cosiddetto “disallineamento”: con questa espressione si allude alla divergenza tra il comportamento effettivo di un sistema di IA e le intenzioni dei suoi progettisti, gli obiettivi perseguiti nell’addestramento o i risultati conseguiti in fase di verifica. Questa divergenza può prodursi per ragioni puramente tecniche — interazioni inattese tra componenti del sistema, vulnerabilità ad attacchi avversari — e può emergere improvvisamente nel corso dell’operatività, in situazioni che nessun test preventivo aveva anticipato. Il problema è aggravato dalla natura fluida degli “aggiornamenti algoritmici”: a differenza di un’arma convenzionale, un sistema di IA può essere riaddestrato e modificato nei suoi parametri interni anche dopo l’immissione operativa, e ogni modifica successiva può introdurre nuove forme di disallineamento o amplificare quelle già presenti, in modi difficili da anticipare.

Questa instabilità rende impossibile il rispetto dell’articolo 36 del Primo Protocollo aggiuntivo alle Convenzioni di Ginevra del 1977, che impone agli Stati di verificare la conformità al diritto internazionale umanitario di qualsiasi nuova arma prima della sua adozione, attraverso una valutazione che intervenga a monte dell’uso operativo. Questa logica presuppone un artefatto stabile, le cui caratteristiche possano essere valutate in modo tendenzialmente definitivo. I sistemi di machine learning contraddicono strutturalmente questa esigenza: se un sistema può essere riaddestrato dopo l’adozione, la verifica condotta in quel momento diventa obsoleta non appena il sistema viene aggiornato, e andrebbe ripetuta a ogni modifica per conservare un qualche valore.

Anche potendo “congelare” il sistema subito dopo la verifica, resterebbe un secondo ostacolo, più radicale del primo: l’opacità strutturale di questi modelli, specialmente se basati su reti neurali profonde, impedisce di ricostruire in modo intelligibile la “logica” con cui producono i loro output a partire da determinati input. Quando un sistema classifica un individuo come bersaglio, non è possibile articolare, in termini accessibili alla comprensione umana, il percorso che ha condotto a quella classificazione e che ha indotto il combattente a colpire.

Tale opacità ha conseguenze dirette e significative sul piano del diritto umanitario: il principio di precauzione richiede che chi conduce un attacco adotti tutte le misure a sua disposizione per verificare la legittimità del bersaglio e per ridurre l’impatto sui non combattenti; un sistema la cui logica decisionale è intrinsecamente inaccessibile non può, per definizione, essere sottoposto a questa verifica né prima né dopo l’attacco. L’opacità mina simultaneamente la possibilità di controllo ex ante e la possibilità di accertamento ex post delle responsabilità per aver colpito un bersaglio illegittimo, ossia un non combattente o un sito non classificabile come obiettivo militare.

Nessuna di queste criticità, tuttavia, può fornire l’alibi per non assegnare una responsabilità giuridica e morale (responsibility gap) per l’uso e per le conseguenze di questi sistenmi. È vero l’esatto contrario: proprio perché si tratta di criticità strutturali ben note, la responsabilità di chi decide comunque di realizzare, commercializzare e impiegare un sistema che le presenta non è attenuata ma, se possibile, aggravata.

Quando l’uso di un sistema automatizzato causa la morte di non combattenti o viola in altro modo il diritto internazionale umanitario, deve sempre essere possibile attribuire tale violazione a un agente umano specifico, individuabile come responsabile per eventuali crimini di guerra, crimini contro l’umanità o genocidio. Tale responsabilità si distribuisce, senza diluirsi, lungo l’intera catena che rende operativo un dispositivo del genere. Essa riguarda anzitutto chi progetta e commercializza sistemi che presuppongono sorveglianza di massa e presentano distorsioni, acausalità, rigidità ontologica, instabilità comportamentale e opacità. Riguarda poi chi ne autorizza la vendita e l’impiego – un governo, un comando militare – indipendentemente dal fatto che le criticità siano note e comprese: l’ignoranza delle problematiche intrinseche di un sistema letale che si decide comunque di impiegare non può essere una scusante. Riguarda infine chi sul campo – comandanti e operatori – ne decide l’impiego e ne fa concretamente uso, e che non può invocare l’autonomia o l’opacità tecnica del sistema per sottrarsi alle conseguenze delle proprie decisioni.

 

La guerra disumana che disumanizza tutti

I sistemi letali di IA militare, specialmente quando vengono integrati in droni telecomandati a distanza o del tutto autonomi che colpiscono il bersaglio una volta individuato, producono una preoccupante deresponsabilizzazione morale: il nesso tra decisione e uccisione viene accelerato, diluito e infine dissolto.

L’operatore che supervisiona una raccomandazione algoritmica, il comandante che approva un ingaggio sulla base di un output del sistema, il funzionario che ha prodotto una lista di bersagli umani o infrastrutturali: nessuno di questi agenti percepisce quasi più di aver preso la decisione di uccidere. La macchina ha raccomandato, l’essere umano ha confermato – tanto più rapidamente quanto più si fida di un sistema informatico che, fino a quel momento, ha sempre confermato le sue aspettative. In questo schema la conferma degli output tende a diventare automatica, tanto che non ha quasi più senso parlare di “controllo umano significativo”: il sistema è progettato per rendere la critica cognitivamente costosa e la conformità psicologicamente agevole.

Questa deresponsabilizzazione sistematica evoca in modo perturbante la possibilità che la violenza estrema di massa – come quella di un genocidio – non richieda più nemmeno un’intenzione malvagia: per mettere in moto l’ingranaggio basta l’assenza di pensiero che accompagna l’esecuzione di procedure fortemente automatizzate. Il sistema non pensa, ma elabora raccomandazioni operative. L’operatore non giudica, ma esegue ciò che la macchina ha raccomandato, ritrovandovi i propri pregiudizi su chi sia pericoloso, chi sia un “terrorista”, chi meriti di finire in una kill list. Chi vi compare, per il solo fatto di comparirvi, è già trattato come qualcuno che merita di morire: la lista automatica dei bersagli produce da sé quella legittimazione che dovrebbe, in teoria, essere l’esito di una verifica umana responsabile.

Le vittime, ridotte a pattern statistici in un dataset costruito attraverso pratiche di sorveglianza di massa, sono disumanizzate prima ancora di essere colpite. Chi uccide, schermato dalla distanza fisica e dalla mediazione algoritmica, è esentato dall’esperienza perturbante – ma moralmente necessaria per sentirsi parte dell’umanità – di riconoscere nell’altro un essere umano. La violenza su larga scala diventa così l’opera di una mega-macchina in cui ogni responsabilità individuale sembra dissolversi: se Auschwitz è l’emblema del genocidio industriale di tipo taylorista, quelli del XXI secolo rischiano di essere, e in parte già sono, genocidi industriali 4.0.

È precisamente questa deriva che il diritto internazionale umanitario, coi suoi principi fondamentali, è chiamato a prevenire e contrastare – non a registrare come un dato di fatto ormai acquisito – attraverso una presunzione di illegalità di questi sistemi che tale deriva alimentano in modo strutturale. Dal momento che progettisti e fornitori sono ben consapevoli delle loro criticità intrinseche – a meno che non credano al loro stesso marketing – occorre al più presto ragionare su come estendere anche ai dirigenti delle imprese tecno-militari una quota di responsabilità per i crimini internazionali commessi da governi ed eserciti che hanno utilizzato i loro prodotti: aver colpito la scuola nel Sud dell’Iran è responsabilità tanto dell’esercito e del governo statunitensi, quanto di chi ha fornito loro sistemi di IA incapaci di distinguere davvero tra obiettivi militari e civili.

 

Conclusioni provvisorie

In un’epoca di profondi squilibri globali, causati dalla circolazione sregolata dei capitali, dalla finanziarizzazione sempre più spinta delle economie reali e dalla crisi dell’egemonia del dollaro come valuta internazionale, la tendenza alla guerra è strutturale. La tentazione delle élite statunitensi di mantenere con la forza delle armi il primato mondiale del paese nonostante le avverse condizioni materiali e l’emersione di nuove potenze, a partire dalla Repubblica Popolare Cinese, alimenta la corsa all’IA militare: le attività e il ruolo di società tecnologiche come Palantir incarnano esattamente questo problema.

In questa fase, rivendicare la vigenza e il rispetto del diritto internazionale umanitario, ancorché sistematicamente violato, non costituisce soltanto un necessario esercizio teorico-critico per comprendere cosa comporti l’uso letale dei sistemi di IA e richiamare alle loro responsabilità chi li produce e li utilizza: questa rivendicazione è la base per organizzare una campagna di massa contro la guerra disumana che è già tra noi. I principi e le norme giuridiche, da sole, non hanno mai cambiato il mondo. Occorre che si incarnino nelle menti e nei corpi delle comunità e che si accompagnino a una riforma strutturale dell’ordine economico-finanziario.

 

Federico Oliveri è Ricercatore a tempo determinato in Filosofia del diritto presso la Scuola di Giurisprudenza dell’Università di Camerino, dove insegna Informatica giuridica e Teorie giuridiche nella società dell’informazione.