La notizia non è recentissima, ma è significativa: verso la fine del 2020 l’Inverness, società calcistica scozzese, ha inaugurato un sistema di telecamere senza operatori guidate da un’IA capace di riconoscere la palla sul campo da gioco. Ma il giorno del debutto di questo nuovo sistema, L’IA ha scambiato la testa calva del guardalinee per la palla. Il risultato è stato esilarante: anziché seguire il gioco la telecamera per larghi tratti di partita ha inquadrato l’incolpevole guardalinee. La notizia è divertente e strappa una risata. Ma risulta un po’ meno divertente se la colleghiamo a un articolo apparso in questi giorni sul New York Times. Il giornalista, Eric Lipton, parla dei progressi militari nell’uso di droni armati da impiegare in campo bellico. Droni controllati dall’intelligenza artificiale, senza intervento umano.
“Sembra qualcosa uscito dalla fantascienza: sciami di robot assassini che danno la caccia ai bersagli e sono in grado di volare per uccidere senza che alcun umano abbia il controllo”, scrive Lipton. Una prospettiva che mette i brividi e rende concreti scenari da incubo. Molte nazioni stanno sollevando questioni pratiche ed etiche. Per questo hanno inoltrato proposte alle Nazioni Unite per imporre regole giuridicamente vincolanti sull’uso delle “armi autonome letali”. Si tratta di nuove tecnologie che hanno il potenziale per riscrivere la storia della guerra. La preoccupazione di molti sembra più che giustificata, visto che si sta parlando di affidare le decisioni di vita o di morte a droni autonomi dotati di AI. Ma Stati Uniti e Cina, che sono molto avanti nella ricerca, non sembrano d’accordo. Le grandi potenze si oppongono ad eventuali accordi.
Alexander Kmennt, capo negoziatore austriaco, è stato chiaro: “Questo è uno dei punti di svolta più significativi per l’umanità”, ha affermato. “Va stabilito qual è il ruolo degli esseri umani nell’uso della forza: è una questione di sicurezza fondamentale, una questione legale ed etica”. Ma mentre nel mondo si discute, i droni killer diventano realtà. Alla Eglin Air Force, base militare in Florida, è già in dotazione un aereo sperimentale senza equipaggio che utilizza l’AI. Non è stato ancora usato in combattimento, ma è solo questione di tempo. E la preoccupazione riguarda anche ciò che potrebbe succedere se un’intelligenza artificiale avanzata acquisisse, come in effetti sta succedendo, nozioni distruttive. Che entrerebbero inevitabilmente a far parte del patrimonio di conoscenze di tutte le AI. Leonard Cohen, con preveggenza d’artista, cantava di avere “veduto il futuro: è tutto nero”. Di fronte a questi scenari distopici, difficile dargli torto.