The Science of Where Magazine incontra Giuliano Pozza, CIO (Chief Information Officer) dell’Università Cattolica del Sacro Cuore. Precedentemente, Giuliano ha lavorato come CIO di Ospedale San Raffaele, Fondazione Don Carlo Gnocchi Onlus e dell’Istituto Clinico Humanitas. È Past President di AISIS (Associazione Italiana Sistemi Informativi in sanità) e tutt’ora fa parte dell’Executive Committee dell’Associazione.
– La rivoluzione tecnologica sta trasformando la nostra vita in maniera veloce e radicale. Ma la tecnologia ha da sempre accompagnato, e aiutato, l’esistenza umana. A che punto siamo arrivati?
Siamo arrivati al punto che la tecnologia è indistinguibile da noi. Come scriveva un filosofo che amo molto, U. Galimberti: “La tecnica non è neutra, perché crea un mondo con determinate caratteristiche che non possiamo evitare di abitare e, abitando, contrarre abitudini che ci trasformano ineluttabilmente. […]. Per questo abitiamo la tecnica irrimediabilmente e senza scelta.” [1] La tecnologia è un dato di fatto, non ha senso non prenderne atto. Credo sia interessante in merito anche il pensiero di Teilhard de Chardin, che introduce il concetto di Noosfera: “Con questa parola voglio indicare “lo strato ‘pensante’ formatosi grazie al diffondersi del gruppo zoologico umano al di sopra (e in discontinuità) della Biosfera.”. Il concetto è ripreso da un geochimico russo (V. I. Vernadsky) e sta ad indicare la convergenza dell’umanità verso una sfera di pensiero e di intelligenza collettiva. In effetti io credo che ci si stia dischiudendo una nuova fase evolutiva. Non ancora sviluppata, ma già presente in potenza. Come in ogni salto evolutivo, le opportunità sono enormi, come anche i rischi. L’uomo del futuro o sarà un essere nuovo, parte di un’intelligenza collettiva rappresentata dalla noosfera e abilitata dalla tecnologia, o non sarà. Speriamo che sia buona la prima!
– Pensiamo alle nostre città. Le grandi trasformazioni, ad esempio di Milano (ce ne siamo occupati in un docufilm e in diverse iniziative), non sarebbero state possibili senza le tecnologie. Le città diventeranno sempre più hub d’innovazione?
Le città sono sempre state hub di innovazione e non può che essere così anche nell’era digitale. L’Internet of Things, i servizi sempre più digitalizzati, la mobilità e il controllo dei flussi energetici sono spinte fortissime verso l’evoluzione tecnologica. Il tema ancora è come riusciremo a governare questa evoluzione. Sempre Galimberti dice che ormai non siamo più noi che governiamo la tecnologia ma la tecnologia che si auto alimenta e conduce l’uomo in un percorso di evoluzione non governato. Spero abbia torto, ma in molti casi si ha l’impressione che sia così. Facciamo le cose perché possiamo farle, non perché siano necessariamente utili o benefiche.
– Il Cardinale Matteo Zuppi, Presidente della CEI, in una intervista al nostro Magazine ha posto il tema della responsabilità dei produttori nel governare l’intelligenza artificiale. Cosa ne pensa ?
Nell’ “abitare la tecnica” di cui parla Galimberti sarà fondamentale trovare le giuste modalità di governo e non lasciare la conduzione della tecnologia (e dell’Intelligenza Artificiale in particolare) ad una élite di tecnocrati o a governi autoritari, che è quello che stiamo facendo ora. Ami Webb, in un suo interessantissimo libro [2], analizza come si stanno muovendo i due gruppi di tecno-giganti che chiama G-MAFIA (Google, Microsoft, Amazon, Facebook, IBM and Apple) e BAT (Baidu, Alibaba e Tencent) nello sviluppo dell’AI. In questo momento sono loro a “governare” l’evoluzione tecnologica. Purtroppo, a dispetto delle intenzioni che a volte sono anche buone (e a volte meno), gli scenari possibili che la Webb analizza alla fine del libro tendono quasi tutti in modo preoccupante alla distopia. Se guardiamo in particolare all’occidente con i suoi tecno-giganti, è evidente che le élite che stanno sviluppando i sistemi di intelligenza artificiale di nuova generazione sono per lo più composte da statunitensi bianchi e maschi. Questo introduce una serie di pericolosissimi bias che possono portare agli scenari più catastrofici descritti nel libro della Webb. Su un tema cruciale come quello dell’AI sarà fondamentale il coinvolgimento di persone diverse per cultura, genere, origine e preparazione. Non bastano i tecnici ma ci vogliono anche giuristi, filosofi, teologi. La posta in gioco è troppo alta per lasciare che un gruppo di persone, pur con le migliori intenzioni, sviluppi gli algoritmi che condizioneranno il nostro futuro. Me ne sono reso conto recentemente quando ho chiesto un piccolo finanziamento ad una banca per la ristrutturazione del 110%. Pur avendo sulla carta i requisiti, quando chiesi al commerciale che mi seguiva se potevo stare tranquillo sulla fattibilità dell’operazione, mi rispose: “In teoria sì, ma dobbiamo attendere il responso dell’algoritmo. Se l’algoritmo darà esito positivo, ci possono essere approfondimenti ma non vedo problemi, perché possiamo parlare con un collega umano e quindi portare le nostre ragioni a fronte di eventuali dubbi. Se l’algoritmo per qualche motivo da esito negativo, non posso fare più nulla e dobbiamo chiudere la richiesta. Con l’algoritmo non si dialoga.”. Mi sono reso conto, durante quella conversazione, che l’algocrazia non è il nostro futuro, è già il nostro presente.
La mia speranza è che, almeno a livello di normativo e di governo dell’AI, l’Europa possa giocare un ruolo, come lo ha giocato sulla protezione dei dati, per introdurre qualche elemento di garanzia a tutela di noi comuni cittadini dallo strapotere degli algoritmi di intelligenza artificiale. L’Artificial Intelligence Act è forse un primo passo nella giusta direzione per tenere a bada il drago![3]
