Una nuova concezione di città in emergenza permanente: dalla Smart Control Room e il sentiment analysis di Venezia alla sorveglianza di massa a Hebron, con il sistema di riconoscimento facciale Red Wolf presente ai checkpoint, l’applicazione Blue Wolf installata negli smartphone dei militari israeliani e il Wolf Pack, il database con immagini e informazioni sui palestinesi della Cisgiordania
La città intelligente
“Benvenuti nell’anno 2030. Benvenuti nella mia città – o dovrei dire ‘nostra città’. […] Shopping? Non riesco a ricordare cosa sia. Per la maggior parte di noi, ora si tratta della scelta di oggetti da utilizzare. Talvolta lo trovo divertente, e talvolta voglio che sia l’algoritmo a farlo per me. Ormai conosce i miei gusti meglio di me. […] La mia maggiore preoccupazione riguarda coloro che non vivono nella nostra città. Quelli che abbiamo perso per strada. Quelli che hanno deciso che tutta questa tecnologia era diventata troppo. Quelli che, quando i robot e l’AI hanno preso il posto di gran parte dei nostri lavori, si sono sentiti obsoleti e inutili. Quelli che si sono arrabbiati con il sistema politico e gli si sono rivoltati contro. Vivono vite differenti fuori dalla nostra città. Alcuni hanno creato piccole comunità autosufficienti. Altri semplicemente stanno in case vuote e abbandonate in piccoli villaggi del XIX secolo. Di tanto in tanto mi infastidisce il fatto di non avere una vera e propria privacy. Non posso andare da nessuna parte senza essere registrata. So che, da qualche parte, tutto ciò che faccio, penso e sogno è registrato. Spero solo che nessuno lo usi contro di me. Tutto sommato è una bella vita […].” (1)
Queste sono le parole che Ida Auken nel 2016 – quando era parlamentare danese, Young Global Leader e membro del Global Future Council on Cities and Urbanization del World Economic Forum (WEF) – scrive in un breve articolo intitolato inizialmente Benvenuti nel 2030. Non possiedo nulla, non ho privacy, e la vita non è mai stata migliore, e successivamente Ecco come potrebbe cambiare la vita nella mia città entro il 2030. All’epoca, il testo dove Auken immagina uno scenario venturo determinato dallo sviluppo tecnologico, ricevette delle critiche: alcuni lo interpretarono come un’utopia dell’autrice, quando invece Auken – come si legge in una nota inserita nell’articolo reintitolato – dichiara di aver solo mostrato un futuro possibile. Che quello descritto sia un sogno o meno, possiamo affermare che le nostre città stanno percorrendo la strada ipotizzata assumendo la forma delle cosiddette ‘smart city’.
La smart city è “un luogo che integra i sistemi fisici, digitali e umani nelle reti e nei servizi tradizionali” (2), è un luogo dove “i servizi, le infrastrutture e le strade [sono] connesse alla rete e [sono] così intelligenti da gestire i flussi di energia e di materiale, la logistica e il traffico” (3). Nel 2016, ne La quarta rivoluzione industriale, Klaus Schwab – fondatore e presidente del WEF – scrive che “le città ‘intelligenti’ stanno estendendo continuamente il proprio network di sensori e lavorando su piattaforme dati che rappresenteranno lo spazio dove confluiranno diversi progetti tecnologici e dove implementare ulteriori servizi basati sull’analisi dei dati e su modelli di previsione” (4). Come prima conseguenza negativa di questo modello urbano Schwab indica la questione della privacy e della sorveglianza; come aspetto con effetti non ancora noti segnala i cambiamenti delle abitudini individuali dei cittadini. Schwab individua nella città “lo spazio dove l’innovazione viene generata”, una trasformazione di una rilevanza tale da dare luogo a cambiamenti economici, sociali e culturali. Come appunta l’autore, “la tecnologia e la digitalizzazione rivoluzioneranno ogni cosa, al punto da rendere l’espressione ‘questa volta è diverso’, spesso abusata o utilizzata impropriamente, perfettamente calzante. In parole povere, le principali innovazioni tecnologiche sono nel punto di promuovere un cambiamento epocale, nonché inevitabile, a livello globale”. Che la tecnologia avrebbe modificato la natura stessa delle città è un dato affiorato anche in uno studio condotto dal Global Agenda Council on the Future of Software and Society del WEF (5), dove viene indicato il 2026 come l’anno di svolta per l’avvento delle smart city, inserite nella lista delle ventuno trasformazioni dovute allo sviluppo tecnologico.
La città in stato d’emergenza permanente
Se per Schwab la città è il sito dell’innovazione, per Shoshana Zuboff è il campo di battaglia preferito per gli “affari del capitalismo” (6), in particolare del capitalismo della sorveglianza. Con questa espressione Zuboff intende “un nuovo ordine economico che sfrutta l’esperienza umana come materia prima per pratiche commerciali segrete di estrazione, previsione e vendita”: è una logica che permea la tecnologia trasformandola in azione. Come vedremo, negli attuali scenari urbani la tecnologia non è una cosa a sé, isolata da economia e società, ma è un soggetto che regola l’ambiente in cui si vive e che viene presentato come lo strumento necessario per la sicurezza, intesa come priorità in uno stato d’emergenza permanente. Oggi la necessità di ‘difesa’ viene perseguita attraverso dispositivi di separazione e di canalizzazione: le persone, diventate ‘utenti’ della città, possono essere filtrate “in funzione della legittimità riconosciuta alla loro presenza nel dato luogo da securizzare” (7). Come osserva l’urbanista Jean-Pierre Garnier, il modello è quello dello stadio o dell’aeroporto, dove gli accessi sono controllati in modo da impedire attacchi terroristici o violenza.
Sicurezza e urbanità sono oramai un binomio assodato: in un articolo del 2019 sulle operazioni militari congiunte della NATO in ambiente urbano, Jozsef Bodnar (tenente colonnello NATO) e Sue Collins (Comando Alleato della Trasformazione, NATO) dichiarano che “le città stanno diventando sempre più i bersagli principali di attacchi militari, politici e terroristici e sono ambienti di violenza e conflitto”, una situazione che “richiederà il coinvolgimento della NATO nelle aree urbane” (8). Per esercitarsi a possibili conflitti ad alta intensità sono utilizzati i cosiddetti ‘wargame’, con i quali è possibile esaminare e valutare contesti militari e confrontare eventuali alternative tattiche, senza sperimentare il conflitto reale. Archaria (9) è un modello di città virtuale del 2035 commissionato dal Comando Alleato Trasformazioni della NATO alla Fabaris, azienda italiana che opera nel settore della difesa, intelligence e aerospazio. Dall’esperienza maturata nello sviluppo di Archaria, nel 2019 il Modelling & Simulation Centre of Excellence della NATO ha avviato un nuovo progetto denominato WISDOM (Wargame Interactive Scenario Digital Overlay Model) (10). Si tratta di una piattaforma di gestione di territori urbani in grado di creare un numero qualsiasi di modelli di città virtuali di particolare interesse operativo, il cui utilizzo è consentito a un elevato numero di utenti contemporaneamente. Sviluppato dall’azienda olandese TNO è, invece, MARVEL, un modello di sistemi dinamici che raffigura le capacità di resilienza della città di Archaria in relazione a eventi come un’azione militare.
Nell’ambiente delle smart city, il sistema Internet delle cose (IoT) – tra cui sensori, telecamere e Wi-Fi – modifica in modo radicale la consapevolezza situazionale, un dato che non ha ripercussioni solo nelle simulazioni di wargaming ma che, come vedremo, interferisce con la quotidianità attraverso il controllo totale e la polizia predittiva.
Il caso Venezia: dalla sicurezza al sentiment analysis
Nel panorama italiano, City Vision (11) misura il grado di “intelligenza” di tutti i Comuni; nel 2023 il podio è stato occupato da Milano, Trento e Bolzano (12). Molti investimenti nel settore della digitalizzazione delle città italiane arrivano dal PNRR (13), che prevede lo stanziamento di diversi miliardi di euro per la digitalizzazione e la trasformazione di territori vulnerabili in smart city (14), attraverso il recupero del ruolo dei Comuni e la promozione dei partenariati pubblico-privato. La cooperazione su cui si basano le smart city vede, infatti, come soggetti gli enti territoriali regionali e locali, le istituzioni culturali e accademiche, le grandi aziende, infine i cittadini e i ‘city users’ – così definiti coloro che si recano in città per usufruire di un servizio.
In questo scenario, una città che si contraddistingue è Venezia, al cui interno si trova una Smart Control Room (15) che, inaugurata nel settembre 2020, rappresenta una vera e propria torre di controllo del capoluogo veneto. Realizzata e gestita in collaborazione tra Comune, Venis S.p.A. (16), Polizia Locale e TIM, si trova nella sede della Polizia Municipale al Tronchetto. Nella sala tecnologica sono presenti enormi video-wall che proiettano in diretta immagini provenienti dalle quasi 600 telecamere intelligenti installate in città, ma l’enorme flusso di dati arriva anche dai sensori dislocati sul territorio e dalle celle telefoniche che, attraverso il collegamento delle sim alle antenne, rivelano le presenze riuscendo a distinguere anche la provenienza delle persone. I dati e i metadati sono raccolti e gestiti da MindIcity, una piattaforma digitale acquistata da TIM nel 2022 che correla tutte le informazioni ottenute dai sensori, dalle telecamere e dalla rete telefonica per interpretare, prevedere e simulare i fenomeni che potrebbero interessare la città (17). Le informazioni restituite in tempo reale e storiche sono rappresentate e consultabili sia sui video-wall della Smart Control Room, sia “sui dispositivi personali del Sindaco, di amministratori e responsabili tramite viste di sintesi che, attraverso indici di osservazione e previsionali, consentono di avere in ogni momento il controllo della situazione con particolare riferimento alla sicurezza e alla mobilità” (18).
Il progetto veneziano nasce per regolare la mobilità attraverso un sistema integrato di controllo che coinvolge i passaggi pedonali, stradali e acquei. Fin da principio, il tracciamento viene presentato come uno strumento utile per sorvegliare i flussi turistici e per individuare eventuali assembramenti, consentendo “l’intervento puntuale delle pattuglie di Polizia locale” (19). È bene ricordare che la Smart Control Room di Venezia diventa realtà nel 2020, quando la gestione dell’emergenza Covid-19 criminalizza l’idea di folla e dà inizio a un disciplinamento di massa attraverso dispositivi di controllo e identificazione che permettono spostamenti e accessi solo alle persone in possesso del Green Pass. Non troppo dissimile è il funzionamento del nuovo contributo d’accesso necessario per visitare Venezia. Da aprile 2024, infatti, in specifiche date, i visitatori occasionali sono soggetti alla prenotazione e al pagamento di una tassa che genera un QR code da mostrare agli addetti al controllo, e necessario per entrare fisicamente in laguna quando saranno installati i tornelli: obbligando costantemente le persone a dimostrare di avere il permesso di accedere a un luogo, Venezia assume a tutti gli effetti le sembianze di un aeroporto (20).
Oltre alla sicurezza e alla mobilità, la smart city è presentata come promotrice della sostenibilità: applicazioni ad hoc consentirebbero la gestione efficiente dell’energia, delle risorse ambientali e dei rifiuti (21). È inevitabile che anche a Venezia la salvaguardia dell’ambiente sia un argomento di primaria importanza, tanto che nel 2022 è stata costituita la Fondazione Venezia Capitale Mondiale della Sostenibilità. Pure in questo caso siamo davanti a un partenariato pubblico-privato formato da enti territoriali regionali e locali, da istituzioni culturali e accademiche veneziane e da grandi imprese. Tra le aziende “interessate allo sviluppo sostenibile dell’intorno veneziano” (22), compare tra i soci fondatori ENI (Ente Nazionale Idrocarburi) e tra i soci co-fondatori Leonardo. La multinazionale italiana attiva nei combustibili fossili è una delle aziende più inquinanti al mondo, nonché il maggior emettitore italiano di gas serra a livello mondiale; Leonardo S.p.A. – gruppo industriale italiano attivo nei settori della difesa, dell’aerospazio e della sicurezza –, invece, è la prima azienda in Unione europea come ricavi per vendita di armi (23). Se nel primo caso la contraddittorietà è tale da rendere palese il tentativo di greenwashing, nel secondo il tema della sostenibilità s’intreccia con quello della guerra. In tempi bellicosi come quelli attuali, non c’è da sorprendersi se Leonardo mostra interesse verso un’associazione che opera a Venezia, prima città italiana con una Smart Control Room. Come abbiamo visto, infatti, quello urbano è considerato il principale scenario di attacchi militari e conflitti e, in questo panorama, le smart city giocano un ruolo sempre più emblematico. Per dirlo in poche battute, per fare la guerra fuori è conveniente poter controllare la popolazione dentro.
Fino a ora, abbiamo affermato che una città intelligente si basa su un partenariato tra pubblico e privato, ma per funzionare realmente richiede una cooperazione con i cittadini che comunicano con le macchine in modo sempre più costante e immediato. La piattaforma (24) della Smart Control Room di Venezia è, difatti, in grado di effettuare sentiment analysis, calcolando l’indice di stato della città. Con sentiment analysis s’intende il processo operativo alla base dello studio dei testi condivisi dagli utenti in rete, al fine di individuarne lo stato d’animo. Tale analisi è un campo di elaborazione del linguaggio naturale che estrae, quantifica e studia le informazioni contenute nel linguaggio per elaborare previsioni su comportamenti e modelli decisionali. In questo scenario, i social media sono dei veri e propri sensori sociali: facendo dialogare le opinioni postate sui social con la localizzazione della loro pubblicazione, è possibile indagare la stabilità emotiva di un luogo.
Per capire come questo sistema possa avere un impatto sul dominio delle opinioni e delle azioni è utile osservare i suoi campi di applicazione più estremi. Finanziato dal programma 2020 della Commissione europea è SEWA (25) della start-up Realeyes, un progetto che legge indicatori comportamentali come la gestualità, considerata un indizio importante, e che utilizza “software specializzati per scandagliare volti, gesti, corpi e menti, catturati da ‘biometriche’ e sensori ‘profondi’, spesso combinati con videocamere incredibilmente piccole e ‘discrete’” (26). Un complesso di tecnologie che riesce ad analizzare comportamenti che sfuggono alla mente consapevole, rischia di rendere reale il fatto che “il nostro inconscio, dove si formano le sensazioni prima che ci siano parole per esprimerle, [diventi] solo un’altra fonte di materie prime per la macchina della renderizzazione e dell’analisi, con il solo scopo di avere previsioni migliori” (27). La possibilità indicata da Zuboff è l’obiettivo dichiarato di Realeyes, la cui consulente scientifica dichiara: “I computer saranno più bravi di noi a leggere le emozioni e in grado di rilevare sfumature che agli esseri umani potrebbero sfuggire” (28).
Attraverso la lente della Smart Control Room di Venezia – massimo grado di ‘città intelligente’ in Italia – possiamo dunque sostenere un’equiparazione tra la smart city e la smart factory: alla città vengono applicati i parametri dell’industria 4.0, tra cui la collaborazione tra operatore, macchine e strumenti (smart production) e la collaborazione tra aziende come avviene tra TIM e il Comune di Venezia. Le stesse tecnologie sono inserite tanto nell’automatizzazione industriale quanto nella quotidianità cittadina, situazione che rende evidente come tra i principi non esplicitati della smart city ci sia l’equiparazione tra persone e macchine.
Hebron smart city: sorveglianza di massa
Dal 1997 Hebron (Cisgiordania) è divisa in due settori noti come H1 e H2 (29). La prima zona, che costituisce l’80% della città, è amministrata dalle autorità palestinesi, mentre la seconda area, che comprende la città vecchia, è sotto controllo israeliano (30). Uno dei simboli dell’occupazione e della divisione tra H1 e H2 è il checkpoint 56, una barriera di ferro con due tornelli e almeno 24 dispositivi di sorveglianza audiovisiva. È a questo posto di blocco (31) – attraversato solo dalla popolazione palestinese di H2 – che è stato scoperto l’utilizzo da parte dell’esercito israeliano di un nuovo sistema di riconoscimento facciale chiamato Red Wolf (32). L’uso della tecnologia di riconoscimento facciale come strumento per limitare la libertà di movimento dei palestinesi nei territori occupati è l’argomento indagato in Automated Apartheid – How facial recognition fragments, segregates and controls Palestinians in the OPT, report di Amnesty International pubblicato nel 2023 (33).
Red Wolf è l’ultimo strumento di controllo sperimentale dopo almeno altri tre sistemi di sorveglianza e database, tra cui Blue Wolf, White Wolf e Wolf Pack. Fino al 2021 la tecnologia di riconoscimento facciale era utilizzata solo nei posti di blocco, ma ora ogni soldato israeliano può usarla ovunque attraverso il cellulare. Blue Wolf è, infatti, un’applicazione presente negli smartphone dei militari che funziona con la scansione del volto della persona o del codice a barre che si trova sul mumarnat – la smartcard contenente le informazioni biometriche (34) dei civili palestinesi, oltre a informazioni personali e di sicurezza, necessaria per entrare in territorio israeliano. Attraverso la scannerizzazione si accede immediatamente alle informazioni archiviate nel Wolf Pack, un grande database con immagini e notizie – tra cui, numero di targa, storia famigliare, dati sull’educazione, i contatti e un punteggio relativo alla pericolosità – disponibili esclusivamente sui palestinesi della Cisgiordania. Alla fine della ricerca nell’archivio, l’app Blue Wolf segnala al militare con dei colori in stile semaforo se l’individuo ritratto va fermato o lasciato andare. Lo scopo è quello di registrare i profili di ogni palestinese, in modo tale da condividere le informazioni con l’Agenzia di Intelligence per gli Affari Interni dello Stato d’Israele (Shin Bet). Come si legge in una dichiarazione raccolta da Breaking the Silence (35) – organizzazione non governativa fondata nel 2004 da veterani delle forze di difesa israeliane –, i soldati sono soliti girare per i quartieri di Hebron sotto controllo israeliano fotografando a piacimento chiunque vogliano: l’obiettivo è quello di fare il numero maggiore di foto – tra i militari si è creata una sorta di competizione – in modo da creare nuove voci biometriche, così da completare i profili e le informazioni contenute nel Wolf Pack. Soprannominato il “Facebook dei palestinesi”, Blue Wolf può essere usato anche per incursioni di intelligence mapping, una pratica che prevede irruzioni notturne nelle case palestinesi per raccogliere notizie sui residenti e sugli edifici. Destinata invece ai coloni è White Wolf, l’applicazione che permette agli ebrei in Cisgiordania di controllare, accedendo al database, quei palestinesi che vogliono lavorare negli insediamenti ebraici: scansionando i documenti d’identità dei lavoratori, i coloni possono entrare in possesso di dati confidenziali governativi.
Per accedere ai servizi, molti palestinesi di Hebron devono attraversare i checkpoint militari ed è qui che le forze di sicurezza israeliane stanno sperimentando il sistema Red Wolf. In una testimonianza, un primo sergente di stanza a Hebron racconta il funzionamento del sistema e come i soldati abbiano il compito di addestrare l’algoritmo per far sì che Red Wolf impari a riconoscere i volti precedentemente sconosciuti senza l’intervento umano: “[nel checkpoint] si trovano all’incirca dieci telecamere. Una volta che [i palestinesi] arrivano e passano attraverso, il sistema scatta delle fotografie, li identifica, per aiutare il soldato che si trova lì. Il sistema cattura il volto prima che la persona entri, e lo visualizza sul computer. Se si tratta di qualcuno che passa spesso da lì, il computer lo riconosce. In sostanza il sistema fotografa tutti quelli che passano [dal checkpoint]. E tu, come soldato o comandante, lì in piedi, puoi abbinare il volto ai documenti d’identità, finché il sistema non impara a riconoscere il viso. [Il sistema] riconosce [la persona] che arriva che è illuminata di verde già prima che mi mostri un documento, così il processo per lei è più rapido, in teoria. […] Queste telecamere consentono essenzialmente di ricevere l’avviso sul computer più velocemente. […] È un sistema che, in sostanza, sei tu come persona al posto di blocco a istruire. Lui fotografa. Io posso entrare nella foto e inserire il documento d’identità” (36).
L’identificazione biometrica è, però, qualcosa che i palestinesi subiscono da oltre un ventennio. Era il 1999, infatti, quando Israele iniziò a sperimentare Basel System (37), un sistema di identificazione biometrica automatizzato con riconoscimento palmare e facciale, che regola lo spostamento dei palestinesi. Il Ministero della Difesa lo ha installato ai posti di controllo militare prima a Gaza e poi anche in Cisgiordania. Da allora, con l’aiuto di tecnologie altamente avanzate, il governo israeliano ha reso Hebron una vera e propria smart city dove, secondo le forze di difesa, è stato fatto un grande passo avanti nella lotta contro il terrorismo (38). L’iniziativa ‘Smart City Hebron’ prevede una vasta rete di telecamere a circuito chiuso e sensori che fornisce in tempo reale il monitoraggio della città identificando, come accade a Venezia, eventuali situazioni anomale: “Qualora il sistema rilevi movimenti o rumori insoliti, invia il messaggio all’HML [Mashine Learning for Humanitarian Data] per continuare a gestire l’evento e dispiegare le forze, se necessario” (39).
La tecnologia utilizzata a Hebron nel contesto della ‘Smart City Initiative’ non solo rappresenta un alto livello di sorveglianza di massa che monitora ogni movimento, ma, concepita come l’ennesimo programma di difesa contro il terrorismo, rende reale il fatto che l’essere palestinese sia l’elemento di pericolo. Come abbiamo visto, i palestinesi sono gli unici residenti in H2 a dover utilizzare i posti di blocco – i coloni ebrei israeliani percorrono strade diverse e non sono tenuti ad attraversare i checkpoint – e solo i loro dati sono contenuti nei database. Nel panorama di quella che può essere considerata una smania di controllo totale, assistiamo al fatto che, attraverso l’identificazione tra nazionalità e minaccia, venga legittimata ogni tipo di politica di sorveglianza e azione di guerra che faccia uso di una tecnologia diventata l’ennesima arma a supporto di un regime di occupazione. Per usare le parole di Michel Warschawski, “dal momento in cui, in nome della sicurezza, ci si attribuisce il diritto di negare la dimensione umana dell’avversario, il processo di disumanizzazione non può più fermarsi: diventa un comportamento globale di fronte all’altro, che non ha più nulla a che vedere con la sicurezza” (40).
L’intelligenza artificiale che discrimina
Dopo aver esaminato i casi di Venezia ed Hebron appare difficile non accorgersi delle assonanze presenti tra le città: un sistema che rileva movimenti o rumori insoliti capace di determinare l’intervento della polizia, la presenza di tornelli che regolano l’accesso e – non ultimo – uno stesso linguaggio sicuritario permettono di avvicinare le due realtà. Il motivo per cui non è tanto azzardato paragonare situazioni all’apparenza molto diverse ce lo fornisce ancora Schwab, quando, scrivendo a proposito del carattere mutevole del conflitto determinato dalla quarta rivoluzione industriale, afferma che “la distinzione tra guerra e pace – e tra combattenti e civili – sta […] diventando sempre meno marcata” (41).
Un aspetto, invece, che nelle smart city italiane è ancora poco evidente ma che nei territori occupati è lampante, è la discriminazione razziale che accompagna queste tecnologie digitali emergenti. Nonostante la percezione diffusa voglia che la tecnologia sia neutrale e obiettiva nel suo funzionamento, essa riflette i valori e gli interessi di coloro che la progettano e la utilizzano ed è creata in base alle strutture di potere che operano nella società (42). Il sistema Wolf – prodotto della società israeliana e dunque specchio dei suoi principi – esemplifica come l’intelligenza artificiale riproduca ed esasperi l’iniquità, il razzismo, l’intolleranza e la violenza a cui sono sottoposti i palestinesi nella loro quotidianità.
Il carattere discriminatorio della tecnologia lo si vede anche nei dispositivi utilizzati nei Paesi occidentali nell’ambito della polizia predittiva (43). Uno dei più conosciuti è PredPol, un sistema usato fino a pochi anni fa dal dipartimento di polizia di Los Angeles, che esaminava dieci anni di dati sulla criminalità, inclusi le date, i luoghi e la frequenza dei crimini, per prevedere quando e dove i reati si sarebbero probabilmente verificati nelle dodici ore successive. Queste informazioni, raccolte e categorizzate dagli agenti di polizia, dietro la parvenza di obiettività dell’algoritmo, causarono un forte aumento di sorveglianza nelle comunità latine e nere: la capacità decisionale della macchina rispecchiava alla perfezione i pregiudizi esistenti.
Il Regno Unito utilizza invece Gangs Violence Matrix (44), un database che assegna alle persone conosciute dal software come appartenenti a un gruppo criminale un punteggio, in base a qualsiasi informazione posseduta dalle forze dell’ordine su di loro. A proposito di Matrix, in un report del 2020 delle Nazioni Unite sulle discriminazioni razziali e le nuove tecnologie (45), viene denunciato che gli agenti di polizia fanno ipotesi in base all’etnia, al sesso, all’età e allo status socioeconomico, una prassi che fa sì che il 78% degli individui presenti su Matrix sia nero e un ulteriore 9% appartenga ad altri gruppi etnici minoritari, sebbene i dati mostrino che solo il 27% dei responsabili di gravi episodi di violenza giovanile sia di colore. Chi è presente in Matrix riferisce, inoltre, di subire innumerevoli perquisizioni, fino ad arrivare a molteplici fermi ogni giorno. Ma la violenza fondata sulla digitalizzazione delle informazioni non finisce qui: la polizia condivide i dati con altre agenzie, come i centri dell’impiego, le associazioni di alloggi, le istituzioni scolastiche, perpetrando l’emarginazione sulla base di una presunta affiliazione a una gang.
Nonostante questi due esempi mostrino la pericolosità della polizia predittiva, in Italia nel 2020, dentro il Dipartimento di Pubblica Sicurezza del Ministero dell’Interno, è nato Giove, un sistema di analisi automatizzata che dovrebbe essere dato in dotazione a tutte le questure italiane tra qualche anno, previo consenso del garante della privacy. Basato su un algoritmo di intelligenza artificiale, Giove utilizza le banche dati delle forze dell’ordine relative ai reati per prevenire e reprimere i crimini a impatto sociale, come molestie e furti in abitazione, e, con il miglioramento della tecnologia, potrà essere usato nell’ambito di indagini di terrorismo che, come già vediamo, sempre più contemplano tutto ciò che è dissenso politico.
L’intelligenza artificiale che reprime
Utilizzando nuovamente la lente della Palestina, contesto di guerra esplicito, possiamo capire la portata dell’intelligenza artificiale nell’ambito della difesa. È il 2019 quando il governo israeliano annuncia la creazione della Direzione Targeting per produrre nuovi obiettivi funzionali all’esercito (46), dichiarando che le tecnologie utilizzate avrebbero per la prima volta combinato il campo dei data science e quello del machine learning. Ciò che viene sviluppato è Habsora (‘Vangelo’ in ebraico), un sistema di AI che “consente l’uso di strumenti automatizzati per produrre target a un ritmo rapido, che funziona migliorando il materiale di intelligence” (47). Habsora, utilizzato per la prima volta nel 2021 durante l’operazione “Guardian of the Walls”, genera, attraverso l’analisi dei dati, obiettivi di attacco a una velocità molto più elevata rispetto agli analisti umani, il cui ruolo diventa quello di confermare ciò che l’algoritmo stabilisce. Questo software è un esempio concreto dei “nuovi strumenti tecnologici dagli effetti mortali” menzionati da Schwab quasi un decennio fa, quando preannunciava che “le armi autonome, capaci di identificare gli obiettivi e decidere se aprire il fuoco senza l’intervento dell’uomo, saranno sempre più semplici da produrre, mettendo in discussione le pratiche militari tradizionali” (48).
PredPol, Matrix, Giove e Habsora hanno una matrice comune: un algoritmo che genera target considerati sacrificabili. Se il software usato dall’esercito israeliano per combattere Hamas prevede la morte di civili, i dispositivi in possesso della polizia occidentale implicano una corrispondenza tra minoranze e crimine. In un paradigma di guerra globale, possiamo notare come l’intelligenza artificiale sia usata in modo diverso ma con lo stesso fine: controllo, repressione, saccheggio coloniale. Fino a ora nelle ‘nostre’ smart city il conflitto ha assunto le forme del war gaming, ma a Hebron – come in tutta la Palestina – l’avanguardia tecnologica del governo d’Israele ha preso una forma concreta estremamente crudele. Attribuire alla macchina capacità decisionali autonome ha conseguenze distopiche: se da una parte si realizza più facilmente la volontà di dominio sulla vita, dall’altra sembra smaterializzarsi la responsabilità individuale: mentre l’algoritmo assume caratteristiche antropomorfe, gli individui perdono umanità.
2) https://commission.europa.eu/news/focus-energy-and-smart-cities-2022-07-13_it
3) Klaus Schwab, La quarta rivoluzione industriale, FrancoAngeli
4) Ibidem
5) https://www3.weforum.org/docs/WEF_GAC15_Deep_Shift_Software_Transform_Society.pdf
6) Shoshana Zuboff, Il capitalismo della sorveglianza, Luiss University Press
7) Jean-Pierre Garnier, Verso una urbanità securitaria
8) https://www.jwc.nato.int/images/stories/_news_items_/2019/three-swords/NATOUrbanization_2035.pdf
9) https://www.mscoe.org/archaria-virtual-city-model-stress-test-in-virtualized-environment/
11) City Vision è una piattaforma di contenuti ed eventi che si concentra sul mondo delle smart city; ne fanno parte amministratori pubblici, funzionari della pubblica amministrazione, imprese, organizzazioni, ricercatori, professionisti
12) La classifica è creata in base ai sei assi che identificano le smart city: smart governance, smart economy, smart environment, smart living, smart mobility, smart people
13) https://www.governo.it/en/node/16701
14) La “Missione 1” – Digitalizzazione, Innovazione, Competitività, Cultura – prevede lo stanziamento di circa 40 miliardi di euro per: “La diffusione della Banda Ultralarga e connessioni veloci in tutto il Paese; incentivi per la transizione digitale e per l’adozione di tecnologie innovative e le competenze digitali da parte del settore privato; la digitalizzazione della Pubblica Amministrazione e rafforzamento delle competenze digitali; il sostegno alle filiere e all’internazionalizzazione e investimenti nel settore aerospaziale; il rilancio del turismo e dei settori culturali con un approccio innovativo e sostenibile, per migliorare l’accesso ai siti turistici e culturali e la loro fruizione; […] l’avvio di un Piano Italia 5G per il potenziamento della connettività mobile in aree a fallimento di mercato”. La “Missione 5 C2.2” – Rigenerazione urbana e housing sociale – destina circa 9 miliardi di euro, finanziamenti finalizzati a trasformare territori vulnerabili in smart city
15) In Italia, anche Firenze e Pescara hanno una Smart Control Room
16) Venis-Venezia Informatica e Sistemi S.p.A. lavora alla progettazione, sviluppo e realizzazione del sistema informativo e della rete di telecomunicazioni di Venezia
17) https://developers.italia.it/it/software/mindicity-core-ui-mindicity_core_ui_app-cee062.html
18) https://www.fabbricadigitale.com/smart-control-room-venezia-mindicity/
19) https://www.youtube.com/watch?v=OPnznPqNDnI; 1’06’’-1’13’’
20) L’approvazione della tassa d’ingresso è una delle misure introdotte per evitare che Venezia fosse declassata nella danger list dell’UNESCO; l’inserimento nella danger list avrebbe portato a limitazioni all’autonomia decisionale sulla città
21) Come si possa far passare anche dall’immondizia il livello di ‘intelligenza’ e ‘digitalizzazione’ di un contesto urbano lo esemplifica Genius, il cassonetto 5.0 al cui interno è installato un sensore volumetrico che permette a una centrale di controllo di misurare e registrare da remoto il volume di ogni conferimento e di associarlo alle singole utenze. Prodotto da Alia Multiutility e Nord Engineering, è in fase di sperimentazione in provincia di Firenze
22) https://vsf.foundation/fondazione/chi-siamo/
23) https://www.sipri.org/sites/default/files/2022-12/fs_2212_top_100_2021.pdf
24) TIM Urban Genius offre un sistema di controllo centralizzato e di raccolta, aggregazione, gestione e analisi dei dati; è fondato sulla piattaforma MindIcity
25) https://www.realeyesit.com/resources/papers/sewa-project/
26) Shoshana Zuboff, op. cit.
27) Ibidem
28) https://www.realeyesit.com/resources/papers/sewa-project/
29) Divisione attuata a seguito dell’accordo del 1997 tra le autorità israeliane e l’Organizzazione per la Liberazione della Palestina
30) A H2 abitano oltre 30.000 palestinesi e circa 800 coloni israeliani
31) Per l’Ufficio delle Nazioni Unite per gli Affari Umanitari (OCHA) sono 28 i checkpoint costantemente presidiati che separano l’area H2 da H1
32) L’esercito israeliano rifiuta di confermare l’uso di tecnologie di riconoscimento facciale
33) https://www.amnesty.org/en/documents/mde15/6701/2023/en/; il report analizza in particolare le situazioni di Hebron e Gerusalemme Est
34) Un sistema di riconoscimento biometrico è un particolare tipo di sistema informatico che ha la funzionalità e lo scopo di identificare una persona sulla base di una o più caratteristiche fisiologiche e/o comportamentali (biometria), confrontandole con i dati, precedentemente acquisiti e presenti nel database del sistema, tramite degli algoritmi e di sensori di acquisizione dei dati
35) https://www.breakingthesilence.org.il/testimonies/database/280983
36) https://www.breakingthesilence.org.il/testimonies/database/820366
37) HP Israel è l’azienda che ha sviluppato, installato e che si occupa della manutenzione sul campo del sistema Basel
39) Ibidem
40) Michel Warschawski, A precipizio, Bollati Boringhieri
41) Klaus Schwab, op. cit.
42) https://documents.un.org/doc/undoc/gen/g20/151/06/pdf/g2015106.pdf?token=nlQjuCQWE2mOFctpWf&f e=true
43) Consiste nell’utilizzo di sistemi di IA che attingono a molteplici dati, come i casellari giudiziari, le statistiche sulla criminalità e i dati demografici dei quartieri, per prevedere possibili reati e identificare in modo preventivo chi potrebbe commettere reati
45) https://documents.un.org/doc/undoc/gen/g20/151/06/pdf/g2015106.pdf?token=nlQjuCQWE2mOFctpWf&fe=true
46) https://www.israeldefense.co.il/en/node/37799
48) Klaus Schwab, op. cit.
