Avvenire | Le potenzialità nella telemedicina, i pericoli delle derive dell'”algocrazia” o della progettazione di armi. Politica, religione e scienza a confronto al meeting di Demos alla Camera con Paolo Ciani
Panacea tecnologica per migliorare la vita delle persone? O strumento diabolico per la manipolazione definitiva dei consumi e soprattutto del consenso? L’A.I, artificial intelligence non è più solo un visionario film di Steven Spielbeg del 2001, ma un tema sempre più centrale nel dibattito pubblico. «L’intelligenza artificiale apre sicuramente grandi sfide etiche, a cominciare dal lavoro per arrivare alla centralità stessa della persona», sostiene Paolo Ciani, deputato di Demos e promotore dell’incontro “Intelligenza artificiale – sfide e oportunità”. «Io che scrissi il tema della maturità sul “luddismo” – scherza – non voglio avere un approccio oppositivo. Le possibilità che si aprono ci sono e sono tante, ma dobbiamo conoscere per deliberare. Capire come bilanciare sfide e opportunità».
Tema caldissimo, quello sui cui si sono confrontati questa sera alla Sala del refettorio di Palazzo San Macuto l’arcivescovo Vincenzo Paglia, presidente della Pontificia accademia per la vita; l’eurodeputata dem Beatrice Covassi; il dottor Sandro Petrolati, direttore del servizio di cardiologia di Global health telemedicine; e Carla Ciavarella, membro del Consiglio d’Europa ed esperta di carcere e libertà vigilata. Preoccupata la lettura di monsignor Paglia: «È un tema gravemente e colpevolmente disatteso dalla politica – sferza il prelato – e se non creiamo un contesto giuridico internazionale, può essere più rischioso del nucleare. Sulle tecnologie dell’A.I. abbiamo bisogno con urgenza di un Accordo di Parigi, come nel 2015 per il clima». Senza un intervento della politica, preconizza monsignor Paglia. «saremo in mano a club e gruppi che spadroneggeranno. I governi devono prendere in mano consapevolmente la materia. Nel campo militare non abbiamo idea, o quasi, di quello che sta accadendo. Ad esempio nella sperimentazione della gestione dei droni in Ucraina: per qualcuno – riflette l’arcivescovo – che se la guerra dura un po’ di più non è poi così male».
Da sinistra: Covassi, Paglia, Ciani, Ciavarella, Petrolati – L.Liv.
Dalla riflessione della Pontificia accademia per la vita assieme a Microsoft già a febbraio 2020 nacque la Rome call for A.I. ethics, firmata da Vaticano, Governo Italiano, Fao, Microsoft e Ibm. E sottoscritta due anni dopo anche da rappresentanti dell’ebraismo e dell’islam. «Microsoft, azienda privata, potè respingere la richiesta di dati fatta da Trump – racconta Paglia – mentre Huawei i suoi dati li ha passati al governo cinese. Ha 1,4 miliardi di persone su cui sperimentare». Segnali che lo spingono a parlare della necessità impellente di «un umanesimo planetario all’altezza di queste prospettive scientifiche, in presenza di tecnologie che decideranno del destino di tutti. L’alternativa sarebbe l’algocrazia, il potere degli algoritmi. Un nuovo schiavismo».
Anche Carla Ciavarella sottolinea alcuni esiti rischiosi nell’uso dell’intelligenza artificiale, stavolta nel contesto penale: la possibilità di gestione di centinaia di telecamere di controllo dei detenuti, l’uso in Finlandia dei visori 3D per pseudo-programmi di recupero di tossicodipendenti, l’individuazione dei detenuti potenzialmente violenti a Madrid con un algoritmo che produce valutazioni su base razzista. «In alcuni ambiti – è l’opinione dell’esperta di esecuzione penale – l’A.I. va usato come strumento ad adiuvandum, mai da sola».
Più ottimistica la visione del medico. Sandro Petrolati ricorda come già nel 2004 una rivista britannica di chirurgia parlava di medicina e A.I.. «Prima dovevamo vedercela con un collega ingombrante come il “dottor Google”», dove i paziente cercano diagnosi “fai da te” e possibilmente consolatorie. O conferma a teorie pseudoscientifiche «che hanno rafforzato l’opposizione alle vaccinazioni». Ora c’è il “dottor A.I.”, «un nuovo collega che può aiutarci». In due anni le riviste mediche «hanno prodotto 42.272 pubblicazioni sul tema». La valutazione epidemiologica e delle anamnesi fatta dell’A.I. «può ridurre di molto gli errori medici e evitare una massa di esami inutili, accorciando le liste d’attesa». Non solo: «L’intelligenza artificiale può rendere elettrocardiogrammi ed ecografie molto più dettagliate in senso predittivo». Ed è preziosa anche per la telemedicina: nell’ambito del programma sanitario Dream, promosso dalla Comunità di Sant’Egidio in molti paesi della Africa subsahariana, «possiamo avere diagnosi molto più accurate a distanza in contesti in cui mancano Tac e strumenti di indagine raffinati. Per un’ecografia basta un tablet, e l’operatore sanitario, guidato dall’A.I., impara a farle in mezzora, invece che in sei mesi».
L’Unione Europea, in modo abbastanza solitario nello scenario globale, ci sta provando, rivendica Beatrice Covassi. «Vent’anni fa mi occupavo di telecomunicazioni – racconta – un mondo di attrezzi che potevano migliorare la nostra vita. Oggi questi strumenti hanno raggiunto una potenzialità quasi ontologica. Vedo un salto quantistico. In Cina stanno pensando a robot per amministrare la giustizia. Per i rifugiati si sta riflettendo su strumenti per l’esame delle domande di asilo». L’Europa parla di sistemi di intelligenze artificiali: »Ed è stata la prima al mondo a occuparsene legislativamente. Siamo stati criticati: dicono che così rimarremo indietro, che da noi le tecnologie non si svilupperanno come negli Stati Uniti, in Gran Bretagna o Cina. Noi abbiamo scelto di valutare la prevalenza del rischio, in una piramide che in cima ha le applicazioni illegittime». Come il riconoscimento facciale biometrico di massa, esemplifica l’europarlamentare, «che può diventare un controllo degli spostamenti delle persone. O per la manipolazione delle opinioni pubbliche, attraverso i deep fake di leader politici per falsi annunci di salute pubblica o di guerre. A dicembre abbiamo raggiunto un consenso politico, ad aprile dovremmo arrivare a quello giuridico». Verrebbe da dire: meglio tardi che A.I.
Guarda il video del convegno: clicca qui
