Il 4 settembre si sono conclusi a Ginevra i negoziati della Convenzione delle Nazioni Unite su certe armi convenzionali (CCW), un confronto accolto generalmente come un importante passo avanti per trovare un accordo sul come gestire su scala internazionale l’integrazione dell’intelligenza artificiale in ambito bellico e letale. Ebbene, ora emerge che Stati Uniti e Russia hanno lavorato in sincrono per far eliminare le raccomandazioni più stringenti, indebolendo l’intero testo e lo scopo stesso del negoziato.
Uno scoop esclusivo del Washington Post ha ricostruito le ultime, infuocate 15 ore di trattative, quelle in cui sono venuti al pettine i nodi più intricati e i diplomatici hanno dovuto scendere a compromessi pur di trovare un punto d’incontro condiviso. Stando alla testata, Washington e Mosca avrebbero approfittato degli incontri a porte chiuse, lontani da telecamere e osservatori terzi, per schierare un plotone di 20 avvocati, 10 per parte, che hanno suggerito in modo martellante una miriade di piccole modifiche, lasciando spiazzati i consulenti delle altre delegazioni.
In molti casi l’intervento ha riguardato elementi in apparenza minori, ma decisivi: per esempio, sono state rimosse le parole “prevedibile” e “affidabile” dai requisiti di operatività dei modelli di IA destinati agli strumenti letali. In altri casi lo stravolgimento è stato più profondo, con l’esempio più evidente che ci viene offerto dall’eliminazione delle clausole che imponevano una revisione umana dell’individuazione dei bersagli da parte dell’IA prima di ogni ordine d’attacco.
Con l’obiettivo dichiarato di velocizzare il processo decisionale sul campo di battaglia, le due potenze hanno dunque cancellato il cosiddetto “human in the loop”, la figura del tecnico in carne e ossa chiamato a verificare ciò che viene calcolato dalle armi letali autonome (LAWS). Un ruolo che, nella migliore delle interpretazioni, le istituzioni considerano un rallentamento tecnico e che, nella peggiore, rappresenta un polo di responsabilità legale e istituzionale di cui i Poteri farebbero volentieri a meno, sia in caso di errori sia di violazioni di accordi internazionali.
L’idea di rinunciare a una simile figura è quantomeno scriteriata: non solo lo human in the loop è un caposaldo la cui necessità viene ribadita da tecnici e regolatori di ogni parte, ma è stata proprio la presenza umana nel processo decisionale militare a evitare di recente agli Stati Uniti di abbordare una nave cargo cinese, un incidente diplomatico che avrebbe potuto evolvere in una guerra con Pechino.
La posizione di Washington, in particolare, è in aperta contraddizione con quanto chiesto dalle principali aziende di IA, tutte statunitensi, che negli ultimi tempi hanno invocato a gran voce nuove regole per frenare l’uso distruttivo dei modelli da loro sviluppati, paventando la possibile distruzione dell’umanità nell’arco di una manciata di anni. Non tanto di norme che incidano sull’attività delle singole imprese, sia chiaro, quanto di accordi internazionali condivisi, proprio quelli che dovrebbero essere al centro dei negoziati delle Nazioni Unite.
Stati Uniti e Russia si sono mostrati indifferenti a simili appelli e hanno anzi minato alcuni degli elementi essenziali del confronto, il quale, pur non essendo al momento vincolante, potrebbe un domani diventarlo in forma ufficiale. La Conferenza di riesame della Convenzione è infatti in programma il 16 novembre: quattro giorni in cui si definiranno i prossimi passi istituzionali e la possibilità che l’accordo informale si trasformi in un vero e proprio trattato. Una prospettiva a sua volta ridimensionata dal fatto che, come accade per il trattato sulla proibizione delle armi nucleari, i singoli Stati potrebbero scegliere di non firmarlo o di non ratificarlo.
Walter Ferri
