30/01/2024
Smart city e nuove tecnologie
Giovanni Di Vito
Questo articolo ha l’obiettivo di avvicinare i cittadini alla conoscenza delle smart city o città intelligenti e dei meccanismi che risiedono dietro di esse, ponendo l’accento su come l’utilizzo improprio delle tecnologie digitali stia creando un vero e proprio cortocircuito sociale, economico e politico.
I politici ci dicono che la tecnologia è facile da usare, tutto diventa più semplice e attraverso di essa ogni problema verrà risolto. In realtà, questo è solo l’aspetto più superficiale, quello commerciale, e come ogni buon messaggio pubblicitario nasconde delle insidie. Le tecnologie digitali sono come una torta ben farcita: esternamente vediamo una semplice glassa, ma dentro, ogni strato è interconnesso all’altro con maestria. C'è quindi un elevato livello di complessità sotto la superficie. Affascinati dalla sua gustosità, tendiamo a ignorare tale complessità proprio perché la torta è davvero gustosa, giusto?
A monte di tutto c’è la questione che le tecnologie digitali non sono state progettate per funzionare per noi. Certo, lo smartphone ci aiuta a raggiungere una precisa destinazione o rimanere in contatto con amici o parenti che abitano lontano, ma non sono tecnologie di nostra proprietà. I veri proprietari sono le aziende che le progettano, che scrivono gli algoritmi e costruiscono tutta l’infrastruttura che noi utilizziamo per comunicare. Queste aziende fanno tutto ciò tenendo presente specifici interessi, e sono i loro, non i nostri.
COS’È UNA CITTÀ INTELLIGENTE O SMART CITY?
Dagli albori del primo progetto di Big Data urbana del 1974 a Los Angeles “A cluster Analysis” sino all’attuale visione di “città del futuro” basata su l’Internet of Things (IoT), intelligenza artificiale e deep learning, la definizione di “città intelligente” ha subito una significativa modificazione. Non essendo questo il contesto in cui parlare dell’evoluzione storica delle smart city - di cui ci occuperemo in un altro scritto -, è significativo partire dalla definizione proposta dall’Unione europea:
Una città intelligente è un luogo in cui le reti e i servizi tradizionali sono resi più efficienti attraverso l’uso di soluzioni digitali a vantaggio dei suoi abitanti e delle imprese. La Commissione europea intende realizzare un ecosistema digitale per le città che includa approcci alla mobilità urbana intelligente, all’efficienza energetica, agli alloggi sostenibili, ai servizi pubblici digitali.[1]
Nell’ultimo decennio l’Unione europea ha stanziato ingenti risorse finanziare, destinate ad aumentare in maniera significativa con i futuri programmi Horizon Europe 2021-2027 (95,5 miliardi di euro) e Digital Europe (7,5 miliardi di euro), somme che finanzieranno varie aree strategiche, tra cui HP computing, AI (intelligenza artificiale), cybersecurity, IoT e tutto ciò che ruota attorno alle smart city.
A supporto della strategia di trasformazione delle città e di tutto quanto gravita attorno alle tecnologie digitali ad esse connesse, l’Unione europea affianca ai finanziamenti comunitari il “Mercato delle città intelligenti”[2] ovvero un’articolata rete di aziende del settore hi-tech chiamate dalla UE a promuovere le loro soluzioni imprenditoriali legate alla trasformazione digitale delle città.
Sotto la lente di Oscar
Lo stato dell’arte a dieci anni dai progetti finanziati dalla UE sulle smart city non è incoraggiante. Città come Venezia, Trento o Milano – solo per citarne alcune – rappresentano un fallimento in termini di politiche urbane; se da una parte le tecnologie digitali stanno costruendo un nuovo paesaggio urbano – quello delle informazioni - poco visibile rispetto al paesaggio urbano tradizionale (strade, edifici, industrie), dall’altra, finanziamenti, grandi capitali e colossi della tecnologia digitale sono riusciti, con la compiacenza della politica, a impossessarsi delle nostre città e a influenzare la nostra democrazia e la nostra identità: siamo intercettati, diretti, seguiti e riorganizzati.
Alla base c'è l'utilizzo pervasivo delle tecnologie digitali con le quali operano una costante e meticolosa estrazione dei nostri dati personali come se ci fosse un “diritto alla sorveglianza” dei cittadini; d'altronde, in questo nuovo modello organizzativo della società, assistiamo al demansionamento del ruolo centrale del cittadino che viene declassato a city user ovvero utente, il cui unico ruolo è quello di fornire i propri dati personali alle grandi aziende hi-tech. I nostri diritti sbiadiscono per far spazio alla definizione di una riorganizzazione della vita quotidiana i cui limiti - ben precisi - sono stabiliti dai nuovi guardiani delle città.
Le città diventano quindi dei campi di sperimentazione a servizio di chi trae profitto dalle tecnologie digitali.
INTELLIGENZA ARTIFICIALE (IA)
Sebbene l’intelligenza artificiale (AI), l’apprendimento automatico (machine learning), l'apprendimento profondo (deep learning) e le reti neurali siano tecnologie correlate, i termini sono spesso usati in modo intercambiabile, il che spesso porta a confusione sulle loro differenze.
In realtà sono una serie di sistemi di intelligenza artificiale dal più grande al più piccolo, ognuno dei quali comprende il successivo. L'intelligenza artificiale è il sistema generale. L'apprendimento automatico è un sottoinsieme dell'intelligenza artificiale. L'apprendimento profondo è un sottocampo dell'apprendimento automatico e le reti neurali costituiscono la spina dorsale degli algoritmi di apprendimento profondo. È il numero di strati di nodi, o profondità, delle reti neurali che distingue una singola rete neurale da un algoritmo di deep learning, che deve averne più di tre.
L'intelligenza artificiale , il termine più ampio dei tre, viene utilizzata per classificare le macchine che imitano l'intelligenza umana e le funzioni cognitive umane come la risoluzione dei problemi e l'apprendimento. L’intelligenza artificiale non ha nulla di davvero “intelligente” bensì riesce a gestire un'enorme mole di dati (i cosiddetti Big Data) e ha una straordinaria velocità di calcolo. Questa caratteristica è utilizzata per fare previsioni finalizzate ai processi decisionali. L'IA però non ha le caratteristiche proprie del sistema cognitivo dell'uomo quindi ad essa non appartengono le caratteristiche tipiche delle funzioni cognitive umane, fondamentali per prendere delle vere e proprie decisioni.
Sentiamo dire che l’intelligenza artificiale (IA) ha sconfitto i migliori giocatori di scacchi e la sua capacità di elaborazione raddoppia ogni due anni quindi, tra non molto tempo, le macchine faranno ogni cosa meglio degli umani. Non è proprio così. I processi decisionali forniti dall'IA sono frutto esclusivo dell'apprendimento automatico che avviene a seguito dei dati ricevuti: e se i dati fossero sbagliati o non rappresentassero una situazione reale? I risultati sarebbero errati. Vediamo perché.
Il principio del mondo stabile dell’IA
Gli algoritmi complessi dell’IA funzionano bene in situazioni ben definite, stabili, in cui sono disponibili una grande quantità di dati (Big Data). L’intelligenza umana si è, invece, evoluta in modo da gestire l’incertezza a prescindere dalla quantità di dati disponibili.[3]
Le città e le persone che le animano sono caratterizzate da incertezze quindi c’è bisogno di discernimento, intelligenza umana, intuizione e coraggio per prendere decisioni e queste caratteristiche non appartengono alle tecnologie digitali.
Poiché le aziende hi-tech non possono superare questo limite dell’IA, per migliorare le prestazioni dell’IA stanno rendendo più stabile l’ambiente fisico (le città) e il comportamento umano più prevedibile.
Le nuove tecnologie digitali non si limitano ad assisterci, il loro effetto è molto più profondo. Per beneficiare della loro massima efficienza dobbiamo adattarci e modificare il nostro comportamento e gli ambienti urbani in cui viviamo. Questa trasformazione sta avvenendo perché gli amministratori delle città ripongono un esagerato entusiasmo nel marketing dei colossi hi-tech e nella fede tecno-religiosa mentre ci sono grandi limiti dell’intelligenza artificiale a cui tutti dovremmo prestare attenzione.
E mentre ci vengono spiattellate le potenzialità miracolose dell'IA non v'è un dibattito politico sui limiti e i rischi, sulle conseguenze dell'utilizzo indiscriminato dell'intelligenza artificiale. Vediamo quali:
1) disoccupazione
Esperti stimano che, entro il 2030, tra i 75 e i 375 milioni di lavoratori (tra il 3 e il 14% della forza lavoro globale) dovranno cambiare lavoro e imparare nuove professioni a causa dei processi di automazione e all’uso dell’IA. In questo scenario, i lavori meno qualificati saranno i più interessati. [4]
2) mancanza di trasparenza
L’intelligenza artificiale può essere difettosa in molti modi, quindi la trasparenza è estremamente importante. I dati che utilizza per alimentarsi possono essere pieni di errori o mal filtrati. Alcuni algoritmi di apprendimento automatico non sono spiegati o sono tenuti segreti (poiché è nell’interesse commerciale dei loro produttori), o entrambi. Ciò implica una comprensione limitata dei fallimenti che l’IA può generare.
3) profilazione
L’intelligenza artificiale può essere utilizzata per creare profili molto accurati delle persone. Nel corso di una competizione sulla raccolta di dati personali, è emerso che l’intelligenza artificiale era in grado di prevedere la probabile posizione futura di un utente osservando la cronologia delle posizioni passate. La previsione è risultata ancora più accurata quando sono stati utilizzati anche i dati di localizzazione degli amici e dei contatti social. Potremmo dire che non ci interessa sapere chi conosce i nostri movimenti, dopo tutto non abbiamo nulla da nascondere. Ma forse non è del tutto vero visto che non viviamo in una casa con pareti trasparenti. Quindi è proprio vero che non ci interessa la nostra privacy?
Ci sentiremmo davvero a nostro agio se qualcuno divulgasse i dati relativi alla posizione di nostra figlio/a?
4) impatto sull’ambiente
I nostri amministratori ci dicono che l’intelligenza artificiale ci aiuterà a ridurre l’inquinamento ambientale, ad esempio consentendo alle reti intelligenti di regolare la domanda di elettricità o rendere le città intelligenti a basse emissioni di carbonio. Quello che non ci viene detto è che l’intelligenza artificiale può anche causare danni ambientali significativi a causa del consumo intensivo di energia. Uno studio del 2019 dell’Università del Massachusetts ha rilevato che l'IA lascia un’enorme impronta di carbonio perché l’hardware richiede molta energia. Secondo gli esperti, l’addestramento di un singolo modello di intelligenza artificiale produce 626.000 libbre di anidride carbonica che equivale a quasi cinque volte le emissioni dell’intera vita di un’auto americana media, compresa la sua produzione. [5]
Sotto la lente di Oscar
L'IA è sempre più utilizzata nelle smart city nei processi decisionali delle politiche urbane. La politica si dissolve quindi in mera raccolta di dati e le decisioni politiche sono monche dei percorsi democratici che prevedono il confronto tra rappresentanti (eletti) e cittadinanza.
In un futuro non molto lontano la politica sarà sostituita da un sistema manageriale basato sui dati e le decisioni socialmente rilevanti verranno prese attraverso i Big Data e intelligenza artificiale. [6]
È evidente che in questo contesto siamo travolti da una vera e propria distorsione del processo democratico dove a essere “sovrano” non è più il popolo bensì chi possiede le informazioni, i dati. Inoltre, ad essere “trasparente” non è più “la cosa pubblica”, ma il cittadino sempre sotto la lente di un sistema di governo della città che prevede il prelievo dei dati personali, le abitudini comportamentali nonché le emozioni (sentiment analysis) del cittadino stesso. E proprio per via della poca trasparenza e la violazione della privacy che il Garante per la Protezione dei Dati Personali (GPDP) ha condannato, di recente, il Comune di Trento in merito ai progetti Marvel e Protector. [7]
IL SISTEMA DI CREDITO SOCIALE
Deriva dal progetto social scoring cinese e, nonostante l’idea di democrazia cinese sia così differente da quella occidentale, diverse amministrazioni comunali italiane stanno adottando progetti di credito sociale per assegnare punteggi e classificare cittadini, aziende e organizzazioni sulla base del loro comportamento.
Sì, avete letto bene, la politica sta consegnando agli algoritmi delle applicazioni digitali il compito di giudicare i cittadini “buoni o cattivi” per poi prevedere premi o sanzioni.
Il caso Fidenza (PR): la “Carta dell’assegnatario”.
L’amministrazione comunale ha introdotto un sistema che attribuisce a ogni nucleo familiare avente diritto a una casa popolare la “Carta dell’assegnatario”, riportante un punteggio iniziale di 50 punti e nel caso in cui si esaurissero tutti i punti a disposizione, gli assegnatari sarebbero costretti a lasciare l’alloggio. Per l’utilizzo di barbecue e griglie sul balcone si perdono 10 punti, se ospiti persone estranee al nucleo senza la preventiva autorizzazione del Comune si perdono 25 punti; inoltre, negli spazi comuni è vietato consumare alcolici o distribuire cibo alle popolazioni libere di colombi e volatili in genere, pena la perdita di 10 punti. [8]
Il caso di Trento.
E-Wallet ovvero il portafoglio digitale. Trento è la città capofila per la sperimentazione della European Digital Identity Wallet, una App (il wallet) dove i cittadini caricheranno i propri documenti personali, come carta di identità, patente, tessera sanitaria, titoli di studi, apertura di conti bancari, sim del telefonino, abbonamenti, ricezione delle prescrizioni mediche, ma la volontà dell’Unione europea è quella di estenderla a ulteriori servizi. [9]
Si basa sul regolamento EU chiamato Eidas, il cui aggiornamento - proprio alla luce dell'identità digitale - risulta molto delicato poiché le scelte in materia di identità digitale possono trasformarsi in un sistema di sorveglianza invasivo.
Tra gli altri progetti di credito sociale ci sono: Smart Citizien Wallet a Roma e Bologna, Buoni mobilità a Bergamo e la piattaforma Smart Ivrea.
Per attuare questi progetti i cittadini devono essere sorvegliati 24 ore su 24 attraverso le App che le amministrazioni appaltano a grandi società hi-tech capaci di gestire una grande mole di dati (cosiddetti Big Data).
Lo scopo presunto del sistema di credito sociale è migliorare il comportamento dei cittadini.
Lo scopo reale è che un sistema di punizioni e ricompense impone un determinato comportamento non tanto per un’elevazione civica ai valori comunitari bensì per escludere dalla vita pubblica tutti i “cattivi” cittadini. Inoltre, un sistema basato sulla perdita dei diritti del cittadino è un modo per soffocare qualunque dissenso nei confronti della politica locale.
Cosa accadrà se saremo classificati come “cattivi” cittadini?
L’intelligenza artificiale bloccherà l’E-Wallet e di conseguenza saremo messi davanti all’impossibilità di svolgere la normale vita quotidiana.
VIDEOCAMERE A RICONOSCIMENTO FACCIALE
Questi sistemi di sorveglianza, già presenti in alcune città come Trento, Venezia, Caorle, Milano, Torino, e altre città, vengono installate – dicono gli amministratori locali – per proteggere i cittadini, attraverso il riconoscimento di persone con precedenti penali, latitanti o persone che in generale possono creare problemi, che verranno monitorate dalle autorità o addirittura allontanate dalle zone dove si suppone possano creare problemi. In realtà, gli stessi politici, per lo più grandi entusiasti delle tecnologie digitali, non conoscono i limiti e le possibilità dei sistemi di riconoscimento facciale e si fidano degli esperti marketing delle aziende hi-tech.
Questa tecnologia è eccellente in situazioni stabili come sbloccare il proprio smartphone o per il controllo alla frontiera, dove la foto del documento è ben illuminata e le persone hanno una postura che fa vedere bene tutto il volto, ma quando queste operazioni avvengono nel mondo reale, l’intelligenza artificiale che elabora i dati non funziona bene e genera falsi allarmi.
Le videocamere a riconoscimento facciale hanno due punti deboli:
- un tasso di successo dell’80% ovvero per ogni 10 sospetti, il sistema non ne riconosce due;
- un tasso di falsi allarmi dello 0,7% ovvero ogni milione di persone rilevate dalle videocamere 7.000 vengono scambiate per sospette.
Applicando questi dati a una città come Venezia si possono contare 210.000 falsi allarmi su 30 milioni di presenze l'anno. Questi numeri ci fanno capire che le queste tecnologie vengono impiegate male e vanno nella direzione opposta rispetto a quanto le amministrazioni pubbliche ci dicono.
Inoltre, alcuni ricercatori del Massachusetts Institute of Technology e della Stanford University hanno dimostrato che ci sono software di riconoscimento facciale in commercio che non riconoscono bene le persone di pelle scura e i transgender.
Oltre ai problemi di sicurezza reale, è evidente che una sorveglianza così pervasiva generi problemi di privacy; e mentre le amministrazioni ci fanno firmare pagine e pagine per il consenso della privacy, a nostra insaputa raccolgono dati su di noi senza quel consenso. Non a caso il Garante dei dati personali ha aperto diversi procedimenti nei confronti di altrettante amministrazioni locali.
E quando l’IA commette questi errori, tipo etichettarci come un criminale, a chi chiederemo il risarcimento danni?
La normativa non ha ancora definito questo insidioso terreno e dietro gli errori delle macchine potranno nascondere gli errori umani. I governi locali e nazionali dovrebbero avere più coraggio nel proteggere i cittadini che rappresentano, ma questo argomento non è nemmeno nominato nel Libro bianco sull’intelligenza artificiale della Commissione europea del 2020.
INTERNET DELLE COSE (IoT)
Impianti di riscaldamento che si accendono da remoto con lo smartphone, frigoriferi che segnalano la scadenza dei cibi, orologi intelligenti che segnalano al nostro medico eventuali anomalie corporee. Sono solo alcuni degli innumerevoli servizi offerti oggi da quello che è stato definito “Internet delle cose” (in inglese, “Internet of Things”, IoT).
La possibilità per gli oggetti di “dialogare” ed interagire tra loro attraverso sensori, senza l´intervento umano e mediante reti di comunicazione elettronica, presenta indubbi vantaggi per la vita di tutti i giorni, ma anche rischi che è bene non sottovalutare. [10]
Anche le auto di oggi sono dotate di dispositivi IoT e la maggior parte di esse inviano al fabbricante tutti i dati che riesce a raccogliere ogni due minuti (posizione, frenate brusche, dove facciamo carburante o i cd che ascoltiamo). Inoltre, appena colleghiamo il nostro smartphone, l’auto intelligente può copiare le nostre informazioni personali, compresi gli indirizzi dei contatti, mail, messaggi e foto.
Molte persone diranno che non hanno niente da nascondere, ma forse cambieranno idea quando, come accade a Milano, a Torino e a breve in Veneto, la scatola nera dell’auto registrerà un’infrazione e la notificherà automaticamente alle forze dell’ordine e tramite il portafoglio digitale gli verrano prelevati i soldi della multa dal proprio conto bancario.
E se le auto non sono un problema potrebbero esserlo le smart TV che possono registrare le nostre conversazioni personali nel soggiorno o in camera da letto.
Non ci credete? Visitate il sito https://www.samsung.com/hk_en/info/privacy/smarttv/
Sotto la lente di Oscar
Questo uso delle tecnologie digitali spiega come far funzionare l’intelligenza artificiale in situazioni d’incertezza che è propria della vita umana.
Una soluzione è la sorveglianza 24h/24h e la modificazione dei comportamenti attraverso un’immediata gratificazione o punizione (crediti sociali); la conseguenza è rendere gli umani più prevedibili.
L’altra soluzione è, come visto, rendere l’ambiente che viviamo più stabile e prevedibile con la conseguenza che non è la tecnologia digitale a essere al nostro servizio ma noi umani al suo.
Se i motivi per la sorveglianza variano, la tecnologia digitale li supporta proprio tutti.
In uno scenario di questo genere, nella città intelligente, in cui lo streaming sostituirà il cinema, gli acquisti online sostituiranno quelli nei negozi, le autovetture a guida automatica o i droni consegneranno i farmaci a casa e qualsiasi altra cosa dovessimo desiderare sarà alla portata di in click sullo smartphone, non ci sarà molto da fare e sarà addirittura inutile andare in centro città.
Nella città intelligente, che abbiamo visto essere popolata da tecnologia e intelligenza artificiale, i cittadini hanno bisogno di rimanere intelligenti, informarsi ed essere critici se vogliono conservare l’eredità conquistata a fatica della libertà personale e della democrazia.
____
3.G. Gigerenzer, Perché l'intelligenza umana batte ancora gli algoritmi, Milano, Raffaello Cortina Editore, 2023.
6.Byung-chul Han, Infocrazia, Torino, Einaudi
Ultimi post
OSCAR
Super telecamere: Un progetto di controllo dei canali a Venezia. Un controverso sistema di videosorveglianza che ha già palesato i suoi fallimenti, ma l'amministrazione non molla.
OSCAR
Super telecamere, storiche, potentissime e stravaganti. Un esempio di come i nostri soldi servano a soddisfare la tecnocrazia per fare cassa.
Erano una decina e ci sono costate milioni di euro.
EPTO
Esercizio dei diritti verso gli operatori telefonici, per bloccare l'invio e l'elaborazione dati sulla posizione degli utenti.diritti.xyz