L’impiego dell’intelligenza artificiale in ambito militare sta rivoluzionando le strategie di guerra e le regole di ingaggio in battaglia.
In particolare le Lethal Autonomous Weapon Systems (LAWS) o “killer robot”, capaci di individuare e colpire un obiettivo senza intervento umano. Tali innovazioni sollevano enormi questioni: è lecito che a decidere della vita o della morte di soldati e civili sia un algoritmo?
L’IA finora è stata concepita come supporto alla decisione, per analizzare enormi quantità di dati, selezionare obiettivi, adiuvare la logistica e velocizzare le reazioni di un essere umano.
Ma l'evoluzione dell'IA è troppo prorompente per essere racchiusa in confini predefiniti e la realtà irrompe sui teatri di guerra. Il caso della scuola di Minab, colpita da un missile Tomahawk che ha massacrato gli studenti e i maestri viene citato come il caso di errore madornale compiuto per difetto di integrazione tra sistemi di analisi automatica e decisioni operative.
Tuttavia è dificile assodare che la decisione affidata alla mente umana avrebbe evitato il massacro. Secondo le ricostruzioni, il comando militare avrebbe utilizzato informazioni di intelligence obsolete, quindi anche senza l’IA impiegata per filtrare o classificare obiettivi, che risorse aveva un umano per aggiornare le informazioni in tempi rapidi? L’IA velocizza la catena di intervento identificando i bersagli con i dati a disposizione. Ma se i dati di partenza sono errati o incompleti, l’IA commette gli stessi errori degli umani, anche se ad un ritmo più serrato.
Lo scontro tra Anthropic e il Pentagono rappresenta il conflitto tra chi vuole un'IA "etica" con controllo umano (human-in-the-loop) e chi, come il Pentagono e i tecnocrati, propugna sistemi aperti e interamente autonomi per scopi di sicurezza nazionale.
La questione non è banale e difficlmente risolvibile. Molti sistemi di IA sono “scatole nere”: neanche i loro sviluppatori sono in grado di prevedere con certezza quale sarà la decisione presa in un contesto specifico.
Questo rende estremamente difficile prevedere o spiegare il comportamento di un’arma autonoma in situazioni reali di estrema complessità. Inoltre, sistemi addestrati in ambienti artificiali possono reagire in modo assurdo quando operano in scenari in continua evoluzione come una battaglia, con il rischio concreto di ignorare le vittime civili o generare effetti deflagranti.
Ma al di là di tutte le considerazioni etiche il Pentagono ritiene che le argomentazioni etiche sono una distrazione. In una guerra con la Cina conterà l'efficienza dei sistemi di IA. Il più veloce è destinato a vincere. L'etica in guerra è un lusso che non possiamo permetterci.
