A giugno 2026 Oleksandr Kokhanovskyy, di Aero Center, ha rivelato a New Scientist, che ha riportato per primo la notizia, un episodio avvenuto circa due anni prima: in un test sul campo vicino a Bakhmut, dieci droni con intelligenza artificiale autonoma di bordo hanno operato senza decisione umana identificando e colpendo i bersagli da soli. È il primo caso pubblicamente ammesso di un sistema di AI che seleziona e colpisce bersagli umani da solo. Bilancio: un paio di soldati russi uccisi e un mezzo distrutto. Un episodio isolato, ma un precedente enorme.
Per anni ci siamo raccontati la formula dello "human in the loop": qualunque cosa facesse l'AI sul campo, la decisione finale sarebbe rimasta a un uomo. Quel principio, almeno in via sperimentale, è stato superato. Vanno dette due cose per onestà: fu un test una tantum, e le regole ucraine oggi impongono comunque la verifica umana nella fase finale d'ingaggio.
Chi difende questa direzione ha un argomento concreto: quando il segnale radio viene disturbato (e il jamming sul fronte è ormai la norma) un drone che dipende dall'operatore è inutilizzabile, mentre un'AI di bordo continua a funzionare. Il problema è l'affidabilità: come sa chi lavora con l'intelligenza artificiale ogni giorno, resta un sistema probabilistico, che sbaglia a classificare.
Ed è qui che la differenza di contesto diventa tutto. In Scp portiamo l'AI dentro i processi di ufficio di aziende, studi commercialisti e Pubblica Amministrazione: legge e smista i documenti nella gestione documentale, trasforma i dati in informazioni con la business intelligence, qualifica i contatti nel CRM, assiste le persone in Microsoft Modern Work. Con una costante non negoziabile: l'AI propone, l'essere umano decide. In ufficio l'errore di un modello è un documento nella cartella sbagliata, recuperabile. Sul campo, un'AI che confonde un civile con un combattente produce vittime, e non c'è nessun "annulla".
Resta la domanda che nessuna demo risolve: se un'arma autonoma sbaglia bersaglio, di chi è la colpa? Del programmatore, del comandante, dell'azienda che l'ha venduta? L'autonomia piena non distribuisce la responsabilità: la fa evaporare. Le Nazioni Unite discutono da anni limiti e divieti, ma la pratica corre più veloce della norma. E stavolta non parliamo di privacy o copyright, ma di chi vive e chi no.
L'intelligenza artificiale dà il meglio quando amplifica le capacità umane, non quando le sostituisce nelle scelte che contano di più.