TRASF0RMAZIONE D I G I TA L E E VALORI UMANI Un manuale per l’Umanesimo Digitale con esercizi pratici Anita Eichinger, Peter Knees e Hannes Werthner(a cura di) Edizione italiana a cura di Enrico Nardelli, realizzata con il contributo di Indice Prefazione 6 Capitolo 1 LA TRASFORMAZIONE DIGITALE 9 Capitolo 2 LO SVILUPPO DELL’INFORMATICA 25 Capitolo 3 UN’INTRODUZIONE ALL’INTELLIGENZA ARTIFICIALE 39 Capitolo 4 GLI EFFETTI DELL’INTELLIGENZA ARTIFICIALE BASATA SU GRANDI QUANTITÀ DI DATI 51 Capitolo 5 LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 65 Capitolo 6 I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 83 Capitolo 7 LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB 99 Capitolo 8 LA NECESSITÀ DI PROTEGGERE LA PRIVACY 111 Capitolo 9 LA MODERAZIONE ALGORITMICA DEI CONTENUTI 123 Capitolo 10 L’ESSERE UMANO AL CENTRO DELLO SVILUPPO 139 Capitolo 11 I FONDAMENTI FILOSOFICI DELL’UMANESIMO DIGITALE 155 Capitolo 12 L’UMANESIMO DIGITALE 171 Glossario 190 Curatori 198 Colophon 199 Prefazione 6 La trasformazione digitale riguarda tutti noi, come individui e come società. I mutamenti sono di tale portata che considerarli solo attraverso la lente dell’informatica e delle discipline tecnologiche non è più sufficiente per comprendere l’impatto di tale trasformazione. Con questo manuale vogliamo far capire l’ampiezza dei cambiamenti e dimostrare che possiamo intervenire e influenzare positivamente questo processo. Nei dodici capitoli vengono presentati alcuni concetti chiave della trasformazione digitale. Si illustra il contesto tecnologico e gli sviluppi dell’informatica, nonché il loro impatto sulla società, assumendo un punto di vista umanistico e arrivando a discutere l’approccio dell’Umanesimo Digitale. Un capitolo tratta la storia dell’informatica, mentre un altro fornisce un’introduzione all’intelligenza artificiale(IA). Vengono evidenziati gli effetti dell’IA sull’uomo e sulla natura, nonché la necessità di una legislazione che regoli l’IA. Sono discussi i sistemi di raccomandazione e la loro influenza sulla pluralità e l’equità, nonché la presenza di pregiudizi sul web. Un capitolo è dedicato alla necessità di proteggere la privacy e un altro ai problemi che possono derivare dalla moderazione algoritmica dei contenuti. A tutto ciò si contrappone lo sviluppo di sistemi incentrati sull’uomo e rispettosi dei valori umani, come auspica l’Umanesimo Digitale. Questo testo si basa sul volume interdisciplinare Introduction to Digital Humanism, scritto in inglese da rinomati esperti internazionali e curato da Hannes Werthner, Carlo Ghezzi, Jeff Kramer, Julian Nida-Rümelin, Bashar Nuseibeh, Erich Prem e Allison Stanger(Springer, 2024). Mentre il testo in inglese è pensato per l’istruzione universitaria, Trasformazione digitale e valori umani fornisce una guida iniziale ai suoi contenuti pensata per le scuole secondarie superiori e l’istruzione degli adulti. Questo manuale contiene presentazioni dei vari temi accompagnate da esercizi e attività finalizzati a una loro migliore comprensione. Esso costituisce un punto di partenza per affrontare gli aspetti sfaccettati e interdisciplinari della digitalizzazione e offre spunti concreti a tale scopo. Ogni capitolo è suddiviso in sezioni, integrate da domande di verifica, domande per la discussione, attività e lavori di gruppo, ciascuna associata a pagine di diverso colore. All’inizio di ogni capitolo è visualizzata la sua struttura come una rete basata sui diversi colori. Non abbiamo alcuna pretesa di completezza per quanto riguarda la selezione dei capitoli e degli argomenti, data anche la natura dinamica P re fa z ione della trasformazione digitale. In ogni caso, gli argomenti presentati nel volume sono quelli fondamentali per discutere le relazioni tra soluzioni tecnologiche e questioni sociali, e mostrare come le implementazioni tecniche definiscano implicitamente delle norme. Ci aspettiamo che questo manuale aiuti a capire quali argomenti richiedono una maggiore conoscenza o devono essere discussi in modo più approfondito. Fornisce quindi un punto di partenza e non un punto di arrivo. Per realizzare questo volume ci si è avvalsi del supporto di strumenti basati sull’IA. Il contenuto inglese è stato prima tradotto in tedesco utilizzando DeepL e poi parzialmente semplificato con l’aiuto di ChatGPT. Questa esperienza rassicurerà alcuni, soprattutto alla luce di quanto discusso nel testo, e deluderà altri: i contenuti didattici e gli interventi pedagogici generati dalle macchine si sono rivelati inadeguati e l’intervento umano è stato indispensabile per ottenere un risultato soddisfacente. Analogamente, il testo tedesco è stato prima tradotto in italiano con DeepL e poi rivisto da un’interprete professionista. La versione finale in italiano è infine il risultato di un’approfondita revisione di un esperto universitario del settore. Desideriamo ringraziare gli autori dei testi su cui si basano i singoli capitoli. Desideriamo inoltre ringraziare Stefan Woltran per i suoi commenti, Christian Mertens e Julia Friehs per la correzione delle bozze e l’editing, Lisa Ifsits per il meraviglioso supporto grafico e contenutistico. Grazie a Bettina K. Lechner per la progettazione didattica, ad Ada Vallorani per la realizzazione della traduzione italiana, a Teresa Indjein e al Forum Austriaco di Cultura Roma per il supporto alla produzione dell’edizione italiana. L’Umanesimo Digitale pone le persone, la società e il loro ambiente al centro degli sviluppi tecnologici e mostra come la tecnologia possa contribuire a un mondo più equo e sociale. Questo è uno dei motivi per cui abbiamo deciso di pubblicare questo libro in modalità Accesso Aperto, cosicché possa essere facilmente utilizzato in altri Paesi e in altre lingue. Anita Eichinger, Peter Knees e Hannes Werthner Vienna, novembre 2024, revisionato da Enrico Nardelli, Roma, luglio 2025 P re fa z ione 7 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 1 LA TRASFORMAZIONE DIGITALE In questo capitolo esaminiamo la trasformazione digitale che sta interessando quasi tutti i settori della vita. Esaminiamo l’impatto dell’informatica e del web sugli individui e sulla società e dimostriamo che essi comportano cambiamenti di vasta portata. È quindi necessario progettare questi sistemi in modo mirato. Questo capitolo si basa sul saggio“Digital transformation, Digital Humanism: What Needs to Be Done” di Hannes Werthner, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Cham: Springer, 2024. DOI: 10.1007/978-3-031-45304-5_8. Introduzione Viviamo in un’epoca entusiasmante. La trasformazione digitale sta cambiando le nostre vite: essa è iniziata con l’invenzione del primo computer elettronico, circa 80 anni fa, e ha fatto sì che la tecnologia informatica sia oggi essenziale per la nostra società. Questo è diventato particolarmente evidente durante la pandemia di COVID-19, quando molti di noi hanno potuto continuare a lavorare e a studiare grazie alle possibilità di comunicazione a distanza offerte da tale tecnologia. Ma sono emersi anche gli svantaggi di una vita digitale senza incontri e riunioni fisiche(solitudine, depressione, ecc.). Questi cambiamenti sono profondi e continueranno a verificarsi in misura sempre maggiore. I computer e le reti influenzano ogni aspetto della nostra vita e portano a relazioni sempre più strette tra uomini e macchine. Inoltre, stiamo vivendo una co-evoluzione di persone e tecnologia, il cui sviluppo si influenza a vicenda. Tra gli esempi di trasformazione digitale in tutti i settori della vita si possono citare: • Comunicazione: le tecnologie digitali di comunicazione ci permettono di interagire quasi istantaneamente con chiunque nel mondo in modi diversi. • Media: grazie a queste tecnologie, l’informazione è disponibile in rete( online) in misura sempre maggiore. La distinzione tra chi crea i contenuti e chi li consuma è sempre meno netta. La carta stampata e le tradizionali trasmissioni radiotelevisive vengono relegate a un ruolo marginale tra i mezzi di comunicazione di massa. • Industria: i processi produttivi e la logistica sono strettamente collegati in rete a livello mondiale e vengono sempre più personalizzati in base alle esigenze individuali. • Consumi ed economia: gli acquisti in tutte le loro forme si stanno spostando verso il mondo online. Le valute e le transazioni digitali stanno diventando la norma e il contante è sempre meno preponderante. • Intrattenimento: musica, radio, video, ecc. vengono prodotti digitalmente e distribuiti in modo personalizzato. Le scelte di consumo e i comportamenti di utilizzo sono registrati e impiegati per ottimizzare questi processi e consigliare altri contenuti. 10 Capitolo 1 Questi sono solo alcuni esempi. L’informatica ha cambiato il mondo anche nella scienza, nella medicina e nella salute, nell’amministrazione, nell’agricoltura, nell’ambiente, nei trasporti, nella giustizia, nella polizia e nella prevenzione del crimine – nel crimine stesso – e anche nella guerra. In pratica, questi settori sono interconnessi e si assiste un rapido scambio di informazioni e di interazioni al di là dei rispettivi ambiti. Mai prima d’ora vi sono state così tante aziende con nuove idee e soluzioni. Sebbene il progresso tecnologico offra molti vantaggi, ci sono anche svantaggi e sfide: dai problemi economici e sociali alle disuguaglianze, alle crisi politiche ed ecologiche. La realtà dell’economia digitale dimostra, per esempio, che i nuovi mercati sono spesso iniqui e che le teorie economiche consolidate non sono più direttamente applicabili alla situazione attuale. Una nuova comprensione globale della trasformazione digitale è quindi necessaria per condurre la nostra società verso un futuro più equo, più rispettoso e più sostenibile. L’Umanesimo Digitale, che esploriamo alla fine di questo libro(v. pag. 171), cerca di plasmare la tecnologia in modo da creare un mondo più sociale, giusto e rispettoso dell’ambiente. ATTIVITÀ Trasformazione digitale Materiali: • Cartoncini/Post-it • Smartphone I partecipanti posano i loro smartphone sul tavolo e scrivono su dei cartoncini quali effetti positivi e negativi associano alla trasformazione digitale. la tras f orma z ione digitale 11 Il web e le sue implicazioni Internet e il web sono probabilmente le conquiste tecnologiche più importanti di oggi. Il loro rapido sviluppo ha effetti di vasta portata sulla nostra società e sulla nostra vita quotidiana. Quella che era nata come una semplice rete per lo scambio di informazioni tra scienziati si è sviluppata in un’infrastruttura globale che influenza quasi tutti gli aspetti della vita moderna . • Rete globale: Internet collega miliardi di persone in tutto il mondo. Questo accesso alle informazioni e alla comunicazione ha cambiato radicalmente il modo in cui ci informiamo, lavoriamo e interagiamo. • Divario digitale: nonostante gli ampi benefici di Internet, esistono notevoli disuguaglianze nell’accesso. Mentre nei Paesi industrializzati quasi tutti sono online, in molti Paesi in via di sviluppo meno della metà delle persone ha accesso a Internet. Questo divario digitale non è evidente solo tra i Paesi, ma anche all’interno delle società. Secondo le stime dell’Unione Internazionale delle Telecomunicazioni delle Nazioni Unite, nel 2023 un terzo della popolazione mondiale non aveva accesso a Internet. • Trasformazione economica: il web ha creato nuovi settori e modelli di commercio e ha cambiato i mercati tradizionali in modo massiccio. Piattaforme online come Amazon e Alibaba hanno rivoluzionato il panorama della vendita al dettaglio, mentre servizi come Uber e Airbnb stanno sfidando i settori tradizionali come i taxi e gli alberghi. • Espansione sociale: strumenti di comunicazione come Skype, Facebook, WhatsApp e Zoom hanno creato nuove forme di interazione sociale che consentono alle persone di rimanere in contatto anche a grandi distanze. Soprattutto in tempi di crisi, come durante la pandemia di COVID-19, questi strumenti hanno svolto un ruolo cruciale nel preservare i contatti sociali e professionali. • Cambiamenti psicologici: la disponibilità costante e l’accesso onnipresente ai media digitali hanno influenzato anche le nostre abitudini e i nostri comportamenti. Fenomeni come la“FoMo”(Fear of Missing out), cioè la paura di perdersi qualcosa, riflettono i nuovi vincoli sociali creati dal web. • Cambiamenti a livello politico: il web ha anche ampliato lo spettro dell’azione politica. Consente una mobilitazione rapida e di vasta portata per le campagne politiche e i movimenti di opinione, ma allo stesso tempo ci pone di fronte a nuove sfide in termini di disinformazione, protezione dei dati e sicurezza informatica. 12 Capitolo 1 • Cambiamento degli spazi fisici: l’incremento del commercio elettronico non sta cambiando solo il comportamento d’acquisto, ma anche la realtà fisica della vendita al dettaglio e dei negozi. I centri commerciali e i negozi stanno perdendo clienti, mentre i centri logistici e i servizi di consegna sono in piena espansione. La rete dagli inizi a oggi Internet e il web sono stati originariamente ispirati dal movimento anti-sistema statunitense e dalla sua visione utopica di una comunicazione aperta e decentralizzata. Le prime forme di comunicazione su Internet, come i newsgroup e le bacheche, permettevano il libero scambio di informazioni e si basavano sul principio della partecipazione popolare. Figure chiave come Doug Engelbart hanno visto la tecnologia come un mezzo per espandere le capacità umane piuttosto che sostituirle. Mettere in comunicazione le persone attraverso la rete consente una cooperazione globale. L'enciclopedia partecipativa online Wikipedia o la distribuzione di programmi di software libero che possono essere utilizzati e modificati da tutti sono solo due dei tanti meravigliosi esempi del mondo interconnesso in rete. Breve digressione sull’informatica: → Vedere anche il capitolo 2, pagina 25. L’informatica è lo studio dei metodi e delle tecnologie per elaborare automaticamente dati. Il computer è una macchina tecnologica informatica, che può essere utilizzata per quasi tutto, dalla riproduzione di musica al controllo di una centrale elettrica. • Macchina a scopo generale: il computer può cambiare e adattare il suo“comportamento” in base al programma che esegue e agli ingressi che riceve. Questo lo rende una “tecnologia generica” che può essere utilizzata ovunque e che sta rapidamente cambiando il nostro mondo. • Gli informatici sono le persone dietro a questa tecnologia. Sviluppano nuovi programmi(software) e macchine(hardware) che danno forma al nostro mondo fisico e digitale. • Ubiquità del software: il software è ovunque, controlla le macchine moderne e persino gli oggetti della nostra vita quotidiana che non possiamo vedere, come accade, p.es. nelle case intelligenti(cosiddette smart home). la tras f orma z ione digitale 13 domande di verifica Il web e i suoi effetti Cosa si intende per“divario digitale” e come influisce sull’accesso a Internet nei diversi Paesi? In che modo le piattaforme online come Amazon e Airbnb stanno cambiando i modelli economici tradizionali? In che misura la pandemia di COVID-19 ha sottolineato l’importanza delle tecnologie di comunicazione digitale come Skype e Zoom? In che modo gli strumenti di comunicazione digitale, nonostante i loro vantaggi, rafforzano l’isolamento sociale e i problemi psicologici, come p.es. la“ fear of missing out”(FOMO)? 14 Capitolo 1 ATTIVITÀ Riflessione: la pandemia senza la tecnologia informatica(TI) Obiettivo: Una riflessione su come sarebbe stata la nostra vita durante la pandemia senza il supporto della tecnologia informatica(TI). Materiali: • Fogli di carta e penne. 1. Introduzione e organizzazione del gruppo: Iniziare con una breve introduzione: sottolineare quanto la nostra vita quotidiana sia fortemente permeata dalla TI e come questo sia stato particolarmente evidente durante la pandemia. Dividere i partecipanti in piccoli gruppi di massimo 3 o 4 persone ciascuno. Non è consentito l’uso di smartphone o computer per lo svolgimento dell’attività. Basta un foglio di carta e una penna! 2. Istruzioni- Il mondo senza informatica: La riflessione inizia con le seguenti domande: — Come sarebbe andata la pandemia se non ci fosse stata la TI? Prendere in considerazione il lavoro da casa, l’insegnamento a distanza, la diffusione di informazioni sul virus, l’ordinazione di cibo e altri beni, ecc. — Come avrebbero reagito i governi, le aziende e gli individui? — Quali metodi di comunicazione e di lavoro alternativi si sarebbero potuti sviluppare? I gruppi discutono queste domande e sviluppano scenari su come sarebbe stato il mondo senza il supporto della TI 3. Consolidamento e discussione: Ogni gruppo presenta brevemente i propri pensieri e scenari. Discussione in comune su quali spunti di riflessione offre l’attività e cosa dice sulla nostra dipendenza dalla TI. 4. Riflessione e conclusione: I partecipanti riflettono su ciò che hanno imparato da questa attività. la tras f orma z ione digitale 15 Fin dalla sua nascita, il web si è evoluto non sempre a vantaggio degli utenti: • Modello economico: il web di oggi si basa prevalentemente sulla pubblicità. I grandi motori di ricerca e i negozi online usano in modo intensivo sistemi di raccomandazione(vedi Capitolo 6) e meccanismi di personalizzazione per offrire pubblicità mirata ai singoli utenti. L’obiettivo è cambiare il comportamento degli utenti per aumentare i loro clic, allo scopo di massimizzare i ricavi pubblicitari. • Incentivi emotivi e sorveglianza: dal momento che i contenuti emotivi, soprattutto quelli negativi, diffusi su social media e altri servizi online ottengono più clic, essi sono amplificati dai sistemi di raccomandazione, allo scopo di moltiplicare il coinvolgimento degli utenti e raccogliere il loro dati. Tutto questo ha portato al “capitalismo della sorveglianza”. • Da una base democratica al controllo di pochi: quello che era nato come un mezzo per promuovere la libertà di espressione e di partecipazione si è trasformato in un’infrastruttura controllata da poche grandi aziende. Illusione di libertà e controllo algoritmico Sul web sperimentiamo un’apparente libertà, che però è controllata da algoritmi. Infatti, ciò che vediamo, le informazioni che riceviamo e il modo in cui interagiamo sono sempre più determinati da algoritmi progettati per influenzare il nostro comportamento a partire dai dati ottenuti su di noi(filtri algoritmici). Le nostre decisioni sembrano libere, ma spesso sono influenzate dalle informazioni che ci vengono presentate, che sono state preselezionate algoritmicamente senza che noi ne abbiamo consapevolezza. Il risultato è un’illusione di libere scelte e di presenza di una comunità, che in realtà è solo una collezione di opinioni individuali influenzate da algoritmi ignoti, ottenendo quindi una perdita inconscia di autonomia individuale e collettiva. Il termine“capitalismo della sorveglianza” è stato coniato dall’economista statunitense Shoshana Zuboff. La Zuboff lo definisce come un sistema capitalistico basato sul raccogliere dati degli utenti nella maggiore quantità possibile, allo scopo di fare previsioni comportamentali e generare profitti. Per la Zuboff, il capitalismo di sorveglianza è un progetto totalitario. → Libro consigliato: Shoshana Zuboff, Il capitalismo della sorveglianza. Luiss University Press, 2023. 16 Capitolo 1 DOMANDE DI VERIFICA La rete dagli inizi a oggi Come è cambiata l’idea iniziale di partecipazione al web su base democratica? Quali sono le implicazioni sociali ed economiche del crescente controllo e della commercializzazione dei dati personali da parte di aziende private? Che cos’è il capitalismo della sorveglianza e come viene descritto da Shoshana Zuboff? Quali sfide etiche e sociali derivano dal ruolo centrale degli algoritmi nel controllare le nostre interazioni e decisioni sul web? Dipendono dal ruolo degli algoritmi o dal fatto che sono nelle mani di poche aziende? la tras f orma z ione digitale 17 Automazione, efficienza e cambiamenti economici strutturali Il progressivo sviluppo del web e delle tecnologie digitali è stato guidato da obiettivi di automazione e di aumento dell’efficienza, allo scopo di arrivare a sistemi in grado di funzionare in modo ottimale e quasi autonomo. Tuttavia, la resilienza dei sistemi e l’aspetto umano sono stati spesso trascurati, il che ha portato alla soppressione sistematica di elementi apparentemente improduttivi. Importanti sviluppi a livello economico strutturale: 1.“Informatizzazione” della catena di fornitura: In molti settori le catene di fornitura sono state rimodellate dall’uso crescente delle tecnologie informatiche. Di conseguenza, le aziende possono esternalizzare più facilmente le attività e la produzione viene suddivisa tra più aziende. Ciò ha portato a una crescente specializzazione e a una ristrutturazione di interi settori. Questa“informatizzazione” è anche un fattore chiave della globalizzazione, in quanto consente alle aziende di svolgere le proprie attività dove è più conveniente. 2. Esternalizzazione ai clienti: Molti compiti tradizionalmente svolti dalle aziende vengono ora esternalizzati ai clienti. Si va dal self-service degli sportelli bancomat ai servizi online, dove i clienti si fanno carico di molte fasi del processo di vendita e assistenza senza ricevere alcun compenso. Di conseguenza, i settori di occupazione stanno cambiando, con un impatto anche sul numero di posti di lavoro. 3. Privatizzazione dei dati pubblici: Nel mondo digitale, i dati personali e pubblici sono sempre più controllati e utilizzati commercialmente da aziende informatiche Resilienza significa che la funzionalità di un sistema può essere mantenuta in presenza di influenze interne o esterne dirompenti o che la funzionalità può essere ripristinata il più rapidamente possibile dopo un’interruzione. Un esempio di sistema non resiliente sono le catene di fornitura, che sono state massicciamente compromesse durante la pandemia di COVID-19. Un esempio di sistema resiliente, invece, è la rete Internet: nel caso in cui un tratto della rete sia interrotto essa consente alle informazioni di giungere a destinazione attraverso connessioni alternative. 18 Capitolo 1 private. Queste aziende utilizzano questi dati per migliorare e personalizzare i loro prodotti, generando a loro volta enormi profitti. Un esempio è l’uso dei dati di Wikipedia o dei libri delle biblioteche che sono stati digitalizzati, che contribuiscono in modo significativo a migliorare i risultati di ricerca generati da Google. Il fatto che i dati pubblici siano nelle mani di aziende private solleva importanti questioni sulla protezione dei dati, sui diritti di proprietà e sull’equa distribuzione del valore generato dai dati. Sta emergendo una nuova forma di economia in cui le informazioni e i dati diventano la valuta principale. Sviluppo del panorama aziendale nell’economia delle piattaforme Negli ultimi 25 anni, il panorama aziendale è cambiato radicalmente, in particolare a causa dell’emergere e del successo di“aziende piattaforma” come Apple, Microsoft, Amazon, Google, YouTube, Facebook, Uber, Airbnb e Instagram. Ciò che accomuna queste aziende è la gestione di piattaforme digitali che fanno incontrare domanda e offerta in modo innovativo. Alcune caratteristiche chiave di questo sviluppo sono: • Digitalizzazione del modello imprenditoriale: queste aziende hanno modelli imprenditoriali completamente digitali, il che porta a un’elevata scalabilità, vale a dire che sebbene il numero degli utenti raggiunti e delle funzioni disponibili aumenti, i costi di gestione non crescono affatto. Aziende di questo tipo si trovano in quasi tutte le aree economiche e sociali e offrono sia servizi tecnici che orientati al mercato. • Effetti di rete e dinamiche“chi vince prende tutto”: l’economia delle piattaforme è nota per i suoi effetti di rete, in cui il beneficio della piattaforma per ogni utente aumenta con il numero di utenti. Questo determina una concentrazione del mercato che viene dominato da pochi grandi operatori. • Dominio del mercato: piattaforme come queste spesso dominano il mercato con quote comprese tra il 50 e il 90%. Il loro valore principale non risiede nell’infrastruttura fisica, ma nelle reti di utenti e nelle informazioni che generano. la tras f orma z ione digitale 19 DOMANDE DI VERIFICA Automazione, efficienza e cambiamenti economici strutturali Cosa significa“informatizzazione” della catena di fornitura e come contribuisce alla distruzione delle industrie tradizionali? Quali compiti sono stati trasferiti ai clienti attraverso l’esternalizzazione e quale impatto questa ha avuto sull’efficienza delle aziende? In che modo le aziende piattaforma come Google o Facebook utilizzano i dati pubblici per generare valore economico? In che misura l’esternalizzazione dei compiti ai clienti influisce sulla responsabilità e sulla perdita di forza lavoro umana, e quali sono le conseguenze sociali? 20 Capitolo 1 DOMANDE PER LA DISCUSSIONE Automazione, efficienza e cambiamenti economici strutturali In che modo l’automazione influisce sui posti di lavoro e sulla vita quotidiana? Quali sono i vantaggi e gli svantaggi percepiti? 1 Possibile discussione: l’automazione porta notevoli guadagni in termini di efficienza e solleva le persone da compiti ripetitivi, aumentando la produttività. Tuttavia, comporta anche la perdita di alcuni posti di lavoro e pone delle sfide alle competenze della forza lavoro. Tra i vantaggi ci sono i costi di produzione più bassi e la maggiore precisione, mentre tra gli svantaggi ci sono la perdita di posti di lavoro e l’aumento della necessità di riqualificazione. In che misura l’esternalizzazione dei compiti ai clienti contribuisce allo spostamento delle responsabilità e alla perdita di forza lavoro umana, e quali conseguenze sociali comporta? 2 Possibile discussione: l’esternalizzazione di compiti attuata, ad esempio, con il self-service alle casse e il check-in online, fa sì che i clienti svolgano in misura maggiore attività che prima spettavano alle aziende. Ciò comporta la perdita di posti di lavoro con mansioni semplici e alla riduzione delle interazioni interpersonali. A livello sociale, questo può portare alla solitudine e alla sensazione che le aziende stiano scaricando i loro doveri sui consumatori. Gli utenti dovrebbero essere remunerati per aver fornito i loro dati? Quale potrebbe essere un modello equo per ottenere questo? 3 Possibile discussione: la remunerazione dei dati sarebbe un modo per distribuire più equamente la creazione di valore. Un possibile modello potrebbe prevedere che le piattaforme diano agli utenti la possibilità di scegliere di condividere i propri dati offrendo in cambio incentivi monetari o di altro tipo. Potrebbero anche essere previsti micropagamenti per ogni utilizzo di un dato o di un insieme di dati, in base al loro valore. la tras f orma z ione digitale 21 lavoro di gruppo Progettazione di piattaforme eque Obiettivo: I partecipanti sviluppano idee su come poter rendere le economie delle piattaforme più eque e inclusive. Obiettivi di apprendimento: • Rafforzare le capacità creative di risoluzione dei problemi. • Aumentare la consapevolezza della responsabilità delle aziende nell’economia digitale. Materiali: • Notebook, tablet o smartphone per le ricerche. 1. Divisione in gruppi: I partecipanti vengono divisi in piccole squadre. 2. Selezione e analisi della piattaforma: Ogni squadra sceglie una piattaforma specifica(p.es. Uber, Facebook) e analizza i problemi sociali o economici causati da questa piattaforma. 3. Individuazione della soluzione: Le squadre sviluppano soluzioni creative per affrontare gli effetti negativi, p.es. migliorando i modelli di retribuzione per i lavoratori di queste piattaforme o le misure di protezione dei dati degli utenti. 4. Conclusione: Alla fine, ogni squadra presenta la propria soluzione al gruppo, seguita da un giro di discussione. 22 Capitolo 1 Il dominio delle aziende piattaforma provoca anche tensioni a livello economico e politico. Dal momento che esse sono in grado, per le loro dimensioni, di determinare le regole di funzionamento del mondo online, altre aziende si sentono svantaggiate e non tutte le fasce della popolazione beneficiano in egual misura dei vantaggi del mondo digitale. Il crescente potere delle piattaforme solleva naturalmente questioni relative a una loro regolamentazione e a un controllo adeguati, una sfida considerevole per la politica. Osservazioni conclusive Nella nostra discussione abbiamo parlato dell’evoluzione della digitalizzazione e di Internet da piattaforma partecipativa a infrastruttura informativa centralizzata. Se da un lato questa trasformazione ha indubbiamente portato progressi e benefici significativi, dall’altro ha generato anche importanti sfide socioeconomiche e politiche. la tras f orma z ione digitale 23 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 2 LO SVILUPPO DELL’INFORMATICA In questo capitolo esaminiamo la storia dei computer e dell’elaborazione automatica dei dati. In pochi decenni, la tecnologia informatica ha trasformato completamente l’ambiente umano – gli affari, la finanza, le relazioni sociali, la politica e la società, per citarne solo alcuni – grazie a progressi rivoluzionari come il personal computer, internet, il world wide web, il mobile computing, l’apprendimento automatico e l’intelligenza artificiale. Questo capitolo si basa sul saggio“Evolution of Computing” di James R. Larus, in: Hannes Werthner et al.(eds.), I ntroduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_3. Passato Un algoritmo è una sequenza finita di operazioni(dette anche istruzioni) per la risoluzione di un problema. Può essere implementato in un programma informatico che viene poi eseguito, ma può anche essere formulato in linguaggio umano.(vedi: https://it.wikipedia.org/ wiki/Algoritmo). Macchina di Turing L’informatica moderna, in inglese computer science, può essere fatta risalire ad Alan Turing(1912-1954), che nel 1936, mentre era studente a Cambridge, pubblicò il suo lavoro rivoluzionario On Computable Numbers, with an Application to the Entscheidungsproblem. In questo articolo, Turing introdusse il concetto di computer universale(la macchina di Turing) e ipotizzò che potesse eseguire qualsiasi algoritmo. L’idea di una macchina calcolatrice – un dispositivo in grado di eseguire un calcolo – ha avuto diversi predecessori. Già nel 1834 p.es., l’inglese Charles Babbage(1791-1871), con il suo Analytical Engine(che non fu mai realizzato), progettò un modello di computer in grado di eseguire operazioni di calcolo. La sua conoscente Lady Ada Lovelace(1815-1852) si rese conto che una macchina del genere non solo poteva risolvere problemi matematici, ma anche essere programmata. Ada Lovelace è quindi una delle più importanti co-fondatrici della disciplina che in seguito verrà chiamata informatica. L’innovazione di Turing consiste nel trattare le istruzioni per il controllo del computer(cioè, il suo programma) come dati, creando così un dispositivo infinitamente modificabile. Questa innovazione ha trasformato il computer da semplice macchina calcolatrice a dispositivo di calcolo universale. Ad oggi, nessun altro settore dell’invenzione umana ha prodotto un dispositivo così potente. Tuttavia, una macchina di Turing è un’astrazione matematica e non un computer pratico. I primi computer elettronici furono costruiti durante la Seconda guerra mondiale per risolvere problemi come i calcoli necessari per i tiri dell’artiglieria e la decifrazione di codici segreti. Questi primi computer erano elettronici e non meccanici come i loro immediati predecessori, ma non seguivano la strada di Turing e non trattavano i programmi come dati, piuttosto, venivano programmati riconnettendo in modo diverso i loro circuiti. 26 Capitolo 2 1936 – Alan Turing e la macchina di Turing Alan Turing pubblica On Computable Numbers, introduce il concetto di macchina di Turing e getta le basi per i dispositivi di calcolo universali. Fine anni’40(dopoguerra) – architettura di Von Neumann John von Neumann sviluppa l’architettura che porta il suo nome, che descrive il concetto di computer a programma memorizzato e diventa la base dei computer moderni. Anni’70 – ARPANET e Internet Sviluppo di ARPANET come sistema di comunicazione decentralizzato che pone le basi di internet . Anni’80 – Ascesa dell’industria del software La decisione di IBM di realizzare un personal computer aperto all’integrazione con componenti di terze parti favorisce la sua diffusione, la compatibilità e riduce i prezzi. La conseguente proliferazione dei personal computer porta a un boom dell’industria del software 2007 – Introduzione dell’iPhone Apple realizza l’iPhone, uno smartphone che consente l’elaborazione mobile dei dati e la connessione costante a internet per le masse. Anni’40(Seconda guerra mondiale) – Primi computer elettronici Sviluppo dei primi computer elettronici per il calcolo delle tabelle per i tiri di artiglieria e la decifrazione dei codici. Questi computer erano elettronici, ma non ancora programmabili nel senso moderno del termine. 1950 – Test di Turing Alan Turing introduce il test di Turing per determinare se le macchine possono “pensare” imitando l’intelligenza umana. Dalla metà degli anni’70 – Microprocessori e personal computer Lo sviluppo dei microprocessori (complessi circuiti elettronici integrati in un singolo elemento) consente la costruzione di personal computer. Essi diventano economici e accessibili ai privati e alle piccole imprese. 1991 – World Wide Web Tim Berners-Lee sviluppa il world wide web, che porta alla diffusione e all’uso massiccio di internet. Dagli anni 2000 – L’a ccelerazione della digitalizzazione e i rapidi sviluppi nelle aree dell’intelligenza artificiale, dei big data, del cloud computing, della sicurezza e della protezione dei dati stanno dando forma alla trasformazione digitale. LO SVILUPPO DELL'INFORMATICA 27 ATTIVITÀ Visita a un museo della tecnologia Obiettivo: I partecipanti visitano un museo della tecnologia per vedere e capire i vecchi computer e il loro sviluppo. Scelta del museo: Scegliere un museo della tecnologia nelle vicinanze con una mostra su vecchi computer e sulla loro storia. In assenza di tale possibilità, si può trovare un museo che offre una visita online. Risultato: Al termine dell’attività, i partecipanti dovrebbero avere una migliore comprensione dello sviluppo della tecnologia informatica ed essere in grado di riflettere sul suo impatto sulla società di oggi. La visita a un museo offre un’opportunità pratica e coinvolgente per esplorare e conoscere gli aspetti storici della tecnologia. 1. Compiti di gruppo: dividere i partecipanti in piccoli gruppi e assegnare loro compiti specifici o domande a cui rispondere durante la visita al museo. — Sviluppo tecnico: notare i più importanti progressi tecnici osservabili grazie ai computer in mostra. — Utilizzo: ai partecipanti viene chiesto di scoprire a cosa servivano i vecchi computer e come influenzavano la vita delle persone. — Storie personali: ricerca di storie o aneddoti sulle persone che hanno sviluppato o utilizzato questi computer. 2. Elementi interattivi: incoraggiare i partecipanti a provare tutte le postazioni interattive disponibili. Molti musei offrono repliche di vecchi giochi o applicazioni per computer che permettono ai visitatori di capire come veniva usata la tecnologia in passato. 3. Presentazione dei risultati: dopo la visita al museo, i partecipanti si incontrano per condividere le loro esperienze e i loro risultati. Ogni gruppo presenta brevemente le proprie osservazioni e risponde a eventuali domande. 4. Discussione: discussione sul significato dello sviluppo storico della tecnologia informatica. Domande: — Cosa ha sorpreso dei vecchi computer? — Quali sono i progressi tecnici che hanno avuto il maggiore impatto sulla tecnologia d’oggi? — Come è cambiato l’uso del computer nel tempo? 28 Capitolo 2 Fig. 1: ENIAC(1947), il primo computer elettronico di uso generale. Fonte: Wikipedia(pubblico dominio). https://it.wikipedia.org/wiki/ENIAC ENIAC Il primo computer elettronico di uso generale negli Stati Uniti fu l’ENIAC. Fu un passo importante nello sviluppo della tecnologia informatica. Architettura di Von Neumann Subito dopo la guerra, il matematico ungherese-americano John von Neumann, basandosi sul lavoro di molti altri studiosi, scrisse un’opera che combinava le scoperte di Turing con la tecnologia pratica. Descrisse un’architettura per computer con programma memorizzato che gettò le basi per l’industria informatica. La cosiddetta architettura di Von Neumann è ancora oggi la struttura di riferimento dei computer moderni. LO SVILUPPO DELL'INFORMATICA 29 I computer come macchine programmabili L’impatto sociale dei primi computer fu inizialmente minimo. Le nuove macchine sostituirono in modo limitato la manodopera umana. Accadde soprattutto con quella femminile, visto che a quel tempo erano le donne che eseguivano calcoli scientifici a mano o con macchine calcolatrici meccaniche. Allo stesso tempo, esse divennero le prime programmatrici, p.es. presso il Jet Propulsion Laboratory della NASA(vedi Fig. 2). In questa foto del 1959, una programmatrice sta lavorando con uno dei primi computer dell’IBM, il modello 704. Nonostante il loro uso ancora limitato, c’era un grande entusiasmo intellettuale per il potenziale di queste che venivano chiamate “macchine pensanti”. Test di Turing In un altro contributo innovativo, Alan Turing si chiedeva se una macchina potesse“pensare”, definendo il suo famoso test di Turing, secondo il quale una macchina può essere definita intelligente se gli esseri umani non sono in grado di distinguere se stanno parlando con una macchina o con un altro essere umano(si veda anche il box informativo a pag. 166). Fig. 2: Una programmatrice lavora su un primo computer. Fonte: https://www.flickr.com/ photos/nasamarshall/30683267841/. Licenza: CC BY-NC 2.0; Crediti: NASA/JPL-Caltech 30 Capitolo 2 Settant’anni dopo, con l’avvento di ChatGPT, la formulazione di Turing è ancora comprensibile e pertinente, anche se viene accostata a una varietà di altre definizioni e punti di vista. Sviluppo di microprocessori Negli anni’70, la crescente densità dei circuiti integrati ha reso possibile la produzione di un“computer su chip”. Questi microprocessori trasformarono i computer, da macchine per le aziende costose e difficili da costruire, in dispositivi piccoli e poco costosi che gli imprenditori potevano utilizzare per realizzare prodotti innovativi. L’ascesa dei personal computer(PC) I microprocessori hanno reso possibile la costruzione di personal computer così piccoli e poco costosi da diventare accessibili anche per uso privato e determinando in questo modo una rapida crescita del numero di computer. Bill Gates, uno dei cofondatori di Microsoft, è stato uno dei primi a riconoscere che il valore dei computer si stava spostando drasticamente dai computer fisici al software utilizzato per eseguire le attività. IBM ha accelerato questo passaggio costruendo il suo leggendario PC con componenti di largo consumo e non impedendo ad altre aziende di costruire computer“IBM-compatibili”. Questo ha portato a una disponibilità diffusa e a una diminuzione dei prezzi, che a sua volta ha favorito la nascente industria del software. Interfacce utente grafiche(GUI) L’interazione con i primi computer avveniva in forma di testo. I programmi venivano scritti in un linguaggio di programmazione e il computer veniva controllato con comandi testuali. Alla fine degli anni’60 e negli anni’70 sono state sviluppate le interfacce utente grafiche(GUI= graphical user interface). Questo cambiamento ha reso i computer accessibili e utili a molte più persone. I computer hanno anche adottato altre modalità di interazioni più vicine all’essere umano. Il riconoscimento e la generazione vocale sono da tempo tecnologie consolidate per l’interazione. Oggi non è raro controllare uno smartphone o un altro dispositivo attraverso la voce. LO SVILUPPO DELL'INFORMATICA 31 . Conclusioni di questa sezione: La storia iniziale dell’informatica è caratterizzata da lavori e innovazioni rivoluzionarie che pongono le basi per i computer di oggi. Il concetto di macchina di Turing di Alan Turing e l’architettura di Von Neumann di John von Neumann sono pietre miliari che hanno reso possibile l’informatica moderna e la caratterizzano ancora oggi. L’evoluzione della tecnologia informatica, dalle prime macchine da calcolo ai microprocessori e ai personal computer, ha rivoluzionato il modo in cui le persone lavorano e comunicano. L’introduzione delle interfacce grafiche e del riconoscimento vocale ha reso i computer ancora più accessibili e versatili. Computer e comunicazione Gli albori di internet I computer sarebbero solo un po’ più interessanti delle attuali calcolatrici tascabili se eseguissero unicamente calcoli matematici. Ma ben presto divenne chiaro che i computer potevano scambiare dati non solo per eseguire calcoli, ma anche per comunicare e lavorare insieme. Una delle innovazioni fondamentali fu ARPANET, il diretto precursore di internet. Il Dipartimento della Difesa degli Stati Uniti creò ARPANET tra la fine degli anni’60 e l’inizio degli anni’70 come sistema di comunicazione decentralizzato e resiliente, in grado di sopravvivere a un attacco nucleare. Commercializzazione di internet Internet è nata quindi come progetto di ricerca e infrastruttura del governo statunitense. Per questo all’inizio solo i militari, alcune università e alcune aziende affiliate al governo vi avevano accesso. All’inizio degli anni’90, la National Science Foundation(NSF) decise di commercializzare internet. Con una decisione poco nota ma di grande impatto, ha consegnato internet alla comunità tecnica che l’aveva costruita e alle aziende private che gestiscono le singole reti che costituiscono l’internet di oggi. 32 Capitolo 2 Durante il suo lavoro al CERN, un laboratorio di ricerca per la fisica delle particelle in Svizzera, Tim Berners-Lee sviluppò un sistema ipertestuale in rete, che ottimisticamente chiamò“World Wide Web”. Il CERN rese pubblico il suo progetto e il suo software nel 1991. La comunità accademica, che aveva già familiarità con internet, ha abbracciato rapidamente il Web. WWW – il World Wide Web L’avvento del world wide web(WWW) ha portato un cambiamento decisivo. Tim Berners-Lee l’ha sviluppato presso il Centro Europeo per la Ricerca Nucleare( CERN). Aziende e istituzioni lo hanno poi adottato per creare siti web che il pubblico poteva consultare attraverso PC connessi a internet. Utilizzando i cosiddetti collegamenti ipertestuali, era possibile navigare in internet senza avere specifiche conoscenze tecniche. Le informazioni disponibili su internet diventavano accessibili a tutti. Questo avrebbe portato a una grande democratizzazione della conoscenza. In una sezione successiva vedremo come si è sviluppato questo libero accesso alle informazioni. Smartphone Il cambiamento successivo, importante e radicale, è stato l’avvento dell’informatica mobile( mobile computing), che è avvenuto quando i computer sono diventati sufficientemente efficienti dal punto di vista energetico da poter essere realizzati come smartphone. La svolta decisiva è stata l’introduzione nel 2007 da parte di Apple dell’iPhone, che combinava in un dispositivo tascabile un’interfaccia utente touchscreen, necessaria per un oggetto senza tastiera o mouse, e una connettività continua tramite la rete telefonica wireless. Per la maggior parte della popolazione mondiale, gli smartphone sono oggi il mezzo principale per accedere a internet. Nel giro di pochi anni, lo smartphone è diventato un compagno costante che la maggior parte delle persone porta sempre con sé. Con la presenza negli smartphone di fotocamere e ricevitori GPS(che consentono di determinare la posizione) è anche cambiato il modo con cui le persone documentano le loro attività. Come molte altre funzioni, però, il rilevamento della posizione è un’arma a doppio taglio: da un lato, offre agli utenti sofisticate opzioni di orientamento e navigazione, dall’altra, consente a chi ha accesso a questi dati di determinare dove si trovino le persone, con conseguente perdita della privacy. LO SVILUPPO DELL'INFORMATICA 33 Effetti di internet e del WWW Negli ultimi tre decenni internet e il WWW hanno reso possibile una serie notevole di cambiamenti sociali e personali. Hanno permesso di reperire informazioni, commerciare e comunicare dovunque uno si trovi, apparentemente senza costi. Di fatto, l’attività pubblicitaria si è affermata come modello economico fondamentale di internet. Conclusioni di questa sezione: Lo sviluppo della tecnologia informatica è stato un punto di svolta che ha permesso la comunicazione e la collaborazione tra persone e macchine. ARPANET, il precursore di internet, ha posto le basi per un sistema di comunicazione decentralizzato. L’introduzione del world wide web ha reso internet universalmente accessibile, con la conseguenza di un enorme interesse da parte del pubblico e di grandi investimenti economici. Con la diffusione degli smartphone, internet è diventato un compagno onnipresente nella vita quotidiana delle persone. Questi sviluppi hanno cambiato radicalmente il modo in cui scambiamo informazioni e comunichiamo e sono una parte essenziale della trasformazione digitale della nostra società. L’attività pubblicitaria è il modello economico che caratterizza internet. 34 Capitolo 2 DOMANDE DI VERIFICA Computer e comunicazione Perché lo sviluppo del world wide web è stato così importante? Si è trattato effettivamente di una democratizzazione della conoscenza? Quali due cambiamenti decisivi hanno contribuito alla diffusione dell’uso di internet da parte del grande pubblico nei primi anni’90? Perché l’attività pubblicitaria è diventata il modello economico fondamentale di internet? In che modo l’iPhone ha cambiato l’uso dei computer e di internet per la maggioranza degli utenti? In che modo lo sviluppo delle interfacce utente grafiche(GUI) ha cambiato l’uso e l’accessibilità dei computer per un pubblico più ampio? LO SVILUPPO DELL'INFORMATICA 35 DOMANDE PER LA DISCUSSIONE Computer e comunicazione Il termine“computer” indicava la manodopera umana, costituita 1 soprattutto da donne, che eseguiva calcoli a mano. Gradualmente, le donne sono state escluse dal campo emergente dell’informatica. A parte l’automazione, ci sono altre ragioni per cui le donne sono state escluse a partire dagli anni’50/’60? Possibile discussione: oltre all’automazione, anche la discriminazione di genere ha svolto un ruolo importante, in quanto l’informatica è stata definita come un“dominio tecnico maschile”. La crescente professionalizzazione e l’attenzione all’hardware e alla matematica sono state considerate “maschili”, rendendo difficile per le donne l’accesso a molte posizioni. Anche i pregiudizi sociali e la mancanza di sostegno alle donne nelle professioni tecniche hanno contribuito alla loro emarginazione. Internet è un sistema molto resistente. In che misura l’immagine di una rete stradale corrisponde a quella di internet? E in che misura no? L’immagine ha rilevanza soprattutto per il mondo 2 occidentale? Possibile discussione: il funzionamento di internet è simile a quello di una rete stradale estesa, in cui le auto possono andare da A a B seguendo percorsi diversi e possono essere in grado di evitare ingorghi, chiusure, ecc. In quanto tale è un’immagine universale. 36 Capitolo 2 Ulteriori sviluppi ed effetti Gli sviluppi della tecnologia informatica hanno portato a cambiamenti fondamentali in tutti i settori della vita- la cosiddetta trasformazione digitale della società. I dati svolgono un ruolo centrale e sono di grande interesse per lo sviluppo di nuove applicazioni. Le tre aree dell’ intelligenza artificiale e dell’ apprendimento automatico, dei big data e del cloud computing, e della sicurezza e protezione dei dati sono strettamente interconnesse. Esse vengono trattate in modo più dettagliato in altri capitoli di questo libro. Oltre ai progressi tecnici e alle applicazioni, occorre considerare un altro aspetto dell’informatica che ha avuto un forte impatto sulla società, ovvero la visione delle azioni e delle abilità intellettuali come un processo formale e analizzabile. Questa visione, chiamata anche “pensiero computazionale”, ha influenzato anche altri settori dell’istruzione, della scienza e dell’economia. Per secoli, le scoperte scientifiche e tecniche hanno fornito descrizioni informali, in linguaggio semplice, di come portare a termine un compito. L’informatica ha portato rigore e formalismo nella descrizione delle soluzioni sotto forma di algoritmi. LO SVILUPPO DELL'INFORMATICA 37 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 3 UN’INTRODUZIONE ALL’INTELLIGENZA ARTIFICIALE Questo capitolo fornisce una panoramica dei metodi più importanti dell’intelligenza artificiale(IA). I metodi dell’IA simbolica sono radicati nella logica, mentre gli algoritmi di apprendimento automatico(AA) estraggono informazioni dai dati e creano modelli da impiegare in nuovi casi. Questo capitolo si basa sui saggi“A Short Introduction to Artificial Intelligence: Methods, Success Stories, and Current Limitations” di Clemens Heitzinger e Stefan Woltran,“Trustworthy Artificial Intelligence: Comprehensible, transparent and Correctable” di Ute Schmid e“Evolution of Computing” di James R. Larus, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOIs: 10.1007/978-3-031-45304-5_9, 10.1007/978-3-031-45304-5_10, and 10.1007/978-3-031-45304-5_3. Introduzione L’intelligenza artificiale è il campo dell’informatica che si occupa della simulazione del pensiero umano. Il termine è stato coniato nel 1956 alla Dartmouth Conference on Artificial Intelligence. Tuttavia, non esiste una definizione chiara di questo termine. Esso è caratterizzato dall’uso di due grandi classi di metodi. Queste due classi sono(1) i metodi simbolici o basati sulla conoscenza e(2) l’apprendimento automatico. Entrambe esistono fin dagli inizi, anche se è solo a partire dal 2010 circa che i metodi di apprendimento automatico hanno fornito risultati molto positivi. La prima implementazione di un programma di apprendimento automatico fu un programma per l’apprendimento di una strategia per il gioco della dama, realizzato nel 1952 da Arthur Samuel(19011990). Fra i primi approcci vi è stato anche il“percettrone” come tentativo di modellare la struttura dei neuroni del cervello umano e quindi poter simulare in una macchina i processi cognitivi delle persone. Il percettrone è stato sviluppato da Frank Rosenblatt(19281971) nel 1957. È costituito da una“unità sensore” con fotocellule e unità di risposta che indicando il riconoscimento di uno dei modelli. La macchina viene prima addestrata posizionando delle lettere nel campo visivo della fotocellula. Una volta completato l’addestramento, è in grado di riconoscere correttamente le lettere. In compiti più complessi, come il riconoscimento di diversi caratteri tipografici, la macchina ha raggiunto un’accuratezza dell’85%. In generale, gli approcci basati sull’IA dovrebbero essere impiegati solo per problemi che non possono essere risolti con algoritmi standard, cioè con la classica programmazione informatica. Mentre gli algoritmi standard, almeno in linea di principio, garantiscono la correttezza(un ingresso produce l’uscita prevista) e la completezza (per tutti i possibili ingressi può essere calcolata un’uscita), ciò non è generalmente valido nell’IA basata sull’apprendimento automatico. Gli algoritmi di IA non sono quindi generalmente adatti a molte aree critiche per la sicurezza. 40 Capitolo 3 IA simbolica – sistemi basati sulla conoscenza L’IA simbolica si riferisce a quei metodi che si basano sulla descrizione esplicita dei problemi e/o dei passi di soluzione di cui necessita il computer. Per descrivere i problemi si utilizzano la logica o analoghi linguaggi formali; l’effettiva ricerca di possibili soluzioni(“ricerca”) è un aspetto centrale dell’IA simbolica. In questo modello, è relativamente facile garantire la spiegabilità di una soluzione. Inoltre, la correttezza di una soluzione è generalmente univoca e non dipende dalle probabilità. Il comportamento“intelligente” deriva semplicemente dalla potenza di calcolo. Va notato che in questo modello la“spiegabilità” di una soluzione è concettualmente facile da ottenere(quando le descrizioni sono troppo lunghe, però, le spiegazioni tendono a diventare incomprensibili per gli esseri umani). Gli anni’80 sono stati il periodo di massimo splendore di questi metodi basati sulla conoscenza, soprattutto in relazione ai sistemi esperti. Si sperava che i sistemi di intelligenza artificiale potessero affiancare gli specialisti umani in molti settori, dalla diagnostica medica alla pianificazione della produzione e ai sistemi di tutoraggio intelligente nell’insegnamento. Ciò ha portato alla creazione di algoritmi efficienti per trarre conclusioni. I sistemi di intelligenza artificiale simbolica hanno avuto particolare successo nel campo dei giochi, poiché i giochi da tavolo come gli scacchi hanno regole chiare che dettano le possibili mosse dei giocatori. . Il paradosso di Polanyi si riferisce all’osservazione del filosofo Michael Polanyi che le persone spesso sanno più di quanto possano esprimere o formalizzare. Descrive il fenomeno per cui gran parte della conoscenza umana è implicita e non può essere facilmente riassunta in regole o istruzioni esplicite. Polanyi ha riassunto questo concetto nella frase:“Sappiamo più di quanto possiamo dire”. Un esempio del paradosso di Polanyi è l’andare in bicicletta. La maggior parte delle persone sa andare in bicicletta, ma solo poche sono in grado di descrivere accuratamente i processi fisici e motori coinvolti. Questa conoscenza implicita è spesso inconscia e viene acquisita attraverso l’esperienza e la pratica, non attraverso un’istruzione formalizzata. Nell’intelligenza artificiale, e in particolare nell’IA simbolica, il paradosso di Polanyi diventa una sfida. Mentre alcuni aspetti della conoscenza possono essere codificati esplicitamente ed essere utilizzati nei sistemi esperti, gran parte della conoscenza umana rimane al di fuori ciò di che può essere formalizzato. Questa conoscenza implicita non può essere facilmente tradotta in regole logiche o linguaggi formali, rendendo difficile lo sviluppo di sistemi efficaci basati sulla conoscenza. . U n’introdu z ione all’intelligen z a arti f iciale 41 Nonostante le grandi aspettative, i sistemi esperti hanno convinto solo in parte. Uno dei problemi principali era il cosiddetto“collo di bottiglia” dell’ingegneria della conoscenza: la conoscenza umana è solo parzialmente disponibile in modo esplicito e non sempre è rappresentabile formalmente. Ampie aree della conoscenza umana, in particolare la conoscenza percettiva e le sequenze di azioni altamente automatizzate, sono implicite e non possono essere registrate o possono essere registrate solo in modo inadeguato con i metodi di acquisizione della conoscenza. Questo fenomeno è noto anche come paradosso di Polanyi:“Sappiamo più di quanto possiamo dire.” IA sub-simbolica – apprendimento automatico Gli impressionanti successi nell’applicazione delle reti neurali profonde hanno riacceso l’interesse per l’IA fin dai primi anni 2010, questa volta con un’attenzione particolare all’apprendimento automatico. Il motivo principale è che ora è possibile apprendere direttamente da diversi tipi di dati, come immagini o testi, senza una complessa pre-elaborazione (procedimento chiamato“apprendimento end-to-end”). In preceden-za, i dati dovevano essere in forma tabellare per poterli elaborare automaticamente. Oggi le reti neurali sono in grado di apprendere direttamente da dati grezzi come foto o immagini a raggi X. Fig. 3: Durante il riconoscimento delle immagini, l’algoritmo classifica gli ingressi(pixel dell’immagine) e identifica l’oggetto nell’immagine. Si tratta di un compito di apprendimento supervisionato in cui l’algoritmo impara dai dati di addestramento. L’esempio di ingresso è la foto di un cane, mentre l’uscita è l’etichetta “cane”. Fonte: immagine generata dall’intelligenza artificiale L’apprendimento automatico comporta spesso compiti di classificazione in cui l’algoritmo trova funzioni che classificano o identificano correttamente gli ingressi. Un esempio è il riconoscimento delle immagini: l’ingresso è costituito dai pixel di un’immagine e l’uscita è l’identificazione di un oggetto nell’immagine. Si tratta di compiti di apprendimento supervisionato, in cui l’algoritmo di apprendimento apprende da dati di addestramento costituiti da coppie costituite dai dati di ingresso e dalle uscite che li identificano. Le uscite sono spesso indicate come etichette; un esempio di ingresso può essere p.es. la foto di un cane e l’uscita corrispondente può essere l’etichetta“cane”. Esistono molti algoritmi per l’apprendimento supervisionato, ma le reti neurali artificiali sono attualmente le più conosciute e importanti. Le reti neurali sono costituite dai cosiddetti neuroni, unità semplici che trasformano i valori di ingresso in valori di uscita, in base a pesi e funzioni di attivazione. I neuroni sono disposti in strati o livelli, che rappresentano i dati come vettori. Quelli dello strato di ingresso 42 Capitolo 3 strato di ingresso strato nascosto strato nascosto strato nascosto strato di uscita Vettore Vettore Vettore Vettore Vettore Grafico 1: Questa rappresentazione schematica illustra come una rete neurale artificiale(RNA) elabora e trasforma passo dopo passo i dati in ingresso per effettuare una classificazione o una previsione. A sinistra si trova lo strato di ingresso, dove entrano i dati che sono poi trasformati da diversi strati nascosti. In ogni strato nascosto, i dati in ingresso vengono elaborati mediante funzioni di ponderazione e attivazione. A destra si trova lo strato di uscita, dove si ottiene il risultato finale. Le frecce mostrano le connessioni tra i neuroni. Per maggiore chiarezza, sono mostrate solo le connessioni di un neurone con il livello successivo. Fonte: Clemens Heitzinger, DOI: 10.1007/978-3-031-45304-5_9 U n’introdu z ione all’intelligen z a arti f iciale 43 Criterio IA simbolica Descrizione I metodi si basano su regole esplicite e logica per la risoluzione dei problemi Principio fondamentale Descrizione esplicita delle strategie per la risoluzione dei problemi Spiegabilità Le soluzioni sono in linea di principio facili da spiegare IA sub-simbolica(apprendimento automatico) Gli algoritmi apprendono modelli dai dati Apprendere da esempi e dati Le soluzioni sono spesso più difficili da spiegare(sono una“scatola nera”) Applicazione Adatta a problemi ben definiti con regole chiare Adatta a problemi complessi in cui è difficile la descrizione esplicita delle regole Esempio Dati Flessibilità Correttezza e completezza Sfide Sistemi esperti, programmi di scacchi Riconoscimento vocale e di immagini, sistemi di raccomandazione Richiede conoscenze esplicita e regole specifiche Richiede grandi quantità di dati per l’addestramento Meno flessibile quando la struttura del problema cambia Elevata flessibilità e adattabilità ai nuovi dati Può garantire la correttezza e la completezza In generale non è possibile garantire questo La rappresentazione esplicita della conoscenza può essere difficile o impossibile Necessità di serie di dati ampie e rappresentative, spiegabilità Tabella 1: Confronto tra IA simbolica e IA sub-simbolica. Fonte: Bettina K. Lechner rappresentano i dati di ingresso, mentre quelli dello strato di uscita rappresentano i dati di uscita. In mezzo, c’è un numero variabile di strati nascosti. I neuroni dei vari strati sono collegati tramite pesi che vengono modificati durante l’addestramento al fine di rappresentare i dati di addestramento nel modo più accurato possibile. Per questo obiettivo un importante passo avanti è stato compiuto con l’ algoritmo di retro-propagazione. Nel 2012, una rete neurale profonda chiamata AlexNet ha vinto l’ImageNet Challenge per classificare immagini di 1.000 categorie. 44 Capitolo 3 AlexNet è stata in grado di apprendere direttamente dalle immagini, il che è stato un importante progresso. Progressi simili si sono avuti anche nell’elaborazione del linguaggio naturale, come la traduzione automatica(DeepL) o la generazione di testi(GPT-3). Un nuovo e rivoluzionario sviluppo è rappresentato dai“trasformatori”, un tipo specifico di rete neurale che utilizza il cosiddetto“meccanismo di attenzione” per apprendere le relazioni tra le parole in un testo, anche quando la distanza tra di esse è molto grande. I trasformatori sono stati originariamente utilizzati nella traduzione automatica e hanno fornito la migliore e più veloce traduzione automatica dell’epoca. Sono stati adattati per l’uso in modelli linguistici di grandi dimensioni(LLM) come InstructGPT, ChatGPT e GPT-4 e rappresentano una pietra miliare nell’elaborazione del linguaggio naturale. Finora l’apprendimento automatico si è basato sulle classificazioni. L’aspetto rivoluzionario di questi modelli linguistici di grandi dimensioni è che“prevedono la prossima probabile parola” e quindi creano effettivamente“cose nuove”. Il fattore più importante per il successo dei sistemi di intelligenza artificiale basati sull’apprendimento è spesso un ampio insieme di dati di addestramento. Ad esempio, i modelli linguistici di grandi dimensioni come ChatGPT, sono addestrati con miliardi di documenti provenienti da internet. Questi modelli sono in grado di rispondere bene a domande comuni e di impegnarsi in dialoghi realistici, anche se spesso commettono errori di contenuto che dimostrano la loro mancanza di comprensione profonda. Osservazioni conclusive L’apprendimento automatico(AA) ha cambiato il modo di programmare i computer. Una volta i programmatori davano istruzioni esplicite, ora i computer imparano attraverso l’osservazione. Il metodo che usa l’AA si basa sulle probabilità, poiché dipende dai dati raccolti, che sono sempre limitati. Di conseguenza, dati importanti possono essere mancanti o mal rappresentati. I sistemi di AA sono spesso difficili da comprendere e sono considerati“scatole nere”. U n’introdu z ione all’intelligen z a arti f iciale 45 domande di verifica Introduzione, IA sub-simbolica e simbolica Qual è la differenza fondamentale tra IA simbolica e IA sub-simbolica? Che cos’è l’intelligenza artificiale(IA) e chi ha coniato il termine? In quali aree l’IA simbolica mostra i suoi punti di forza e dove raggiunge i suoi limiti? Quali sono le due aree principali dell’intelligenza artificiale(IA) e come si differenziano? Quali vantaggi offre l’apprendimento automatico rispetto ai sistemi basati sulla conoscenza? 46 Capitolo 3 Perché sono necessari gli algoritmi dell’IA e in quali settori non vengono generalmente utilizzati? domande per la discussione IA simbolica o sub-simbolica Si dovrebbe dare maggiore importanza alla spiegabilità dei sistemi di 1 intelligenza artificiale, anche se questo limita la flessibilità e l’adattabilità? Si potrebbe discutere se è più importante che i sistemi di IA siano comprensibili e trasparenti(come nel caso dell’IA simbolica) o se si debba dare priorità alla flessibilità e alle prestazioni dell’apprendimento automatico, anche se i sistemi sono più difficili da spiegare. 2 In quali aree di applicazione potrebbe essere particolarmente utile una combinazione di IA simbolica e sub-simbolica? Questa domanda potrebbe stimolare una discussione su come i punti di forza di entrambi gli approcci possano essere combinati per sviluppare sistemi di IA più versatili e robusti. Come possiamo evitare che nell’addestramento dei modelli linguistici di grandi dimensioni(LLM) vengano utilizzati prevalentemente testi provenienti dal mondo maschile, 3 occidentale e anglofono? Si potrebbe discutere di cosa cambierebbe se si utilizzassero in misura maggiore anche lingue meno diffuse, dati provenienti dal Sud globale, e così via. U n’introdu z ione all’intelligen z a arti f iciale 47 Nonostante queste sfide, l’apprendimento automatico ha conferito ai computer capacità simili a quelle umane, che sono difficili da realizzare con la programmazione tradizionale. Questo cambiamento ha portato alcuni a temere che i computer potessero diventare “intelligenti” e superare le capacità umane e, di conseguenza, sfuggire al controllo umano. In realtà la vera sfida è usare l’IA in modo responsabile, affrontando problemi e impatti specifici. Sono tre i fattori principali che hanno portato allo stato attuale dell’IA. Il primo è la disponibilità, grazie anche a internet, di enormi insiemi di dati sui quali basare l’apprendimento. Questo include tutte le modalità, p.es. immagini etichettate per l’apprendimento supervisionato e grandi raccolte di testi di alta qualità per la traduzione automatica. Il secondo fattore è la disponibilità di enormi risorse di calcolo per effettuare il processo di apprendimento, in particolare di aggregati( cluster ) di unità di elaborazione grafica(GPU) per i calcoli delle reti neurali. Il terzo fattore è rappresentato dai progressi algoritmici e dagli strumenti software. Sebbene le reti neurali siano apparse ripetutamente nel corso della storia dell’intelligenza artificiale, nuovi algoritmi sono stati e continuano a essere di grande importanza per le applicazioni. Le ultime scoperte porteranno a un certo consolidamento, nel senso che gli algoritmi di apprendimento diventeranno più efficienti e più facili da capire. La ricerca nel campo dell’IA continuerà a ritmo serrato, con il raggiungimento e il superamento di un numero sempre maggiore di capacità umane. Sta a noi regolare questa co-evoluzione dell’uomo e della macchina. 48 Capitolo 3 attività I robot-IA conquisteranno il mondo e supereranno le capacità umane? Obiettivo: I partecipanti rifletteranno sul rapido sviluppo dell’intelligenza artificiale(IA) e discuteranno del possibile impatto futuro sulla società e sulla vita quotidiana. Materiali: • Penne • Schede 1. Brainstorming: — Ai partecipanti viene chiesto di indicare quali capacità umane, secondo loro, ritengono che i computer possano raggiungere nei prossimi dieci anni. — Le risposte vengono scritte su schede e raccolte in una bacheca. 2. Lavoro di gruppo: — I partecipanti vengono divisi in piccoli gruppi e ogni gruppo sceglie una delle capacità elencate. — I gruppi discutono su come sarebbe la vita se i computer raggiungessero questa capacità. Dovrebbero delineare i possibili vantaggi e svantaggi e considerare quali problemi etici o sociali potrebbero essere associati a questa possibilità. 3. Presentazione e discussione: — Ogni gruppo presenta i propri risultati in aula. — Ogni presentazione è seguita da una breve discussione in cui gli altri partecipanti forniscono le loro opinioni su quanto presentato e contribuiscono con ulteriori riflessioni. U n’introdu z ione all’intelligen z a arti f iciale 49 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 4 GLI EFFETTI DELL’INTELLIGENZA ARTIFICIALE BASATA SU GRANDI QUANTITÀ DI DATI Questo capitolo analizza l’impatto dell’intelligenza artificiale basata su grandi quantità di dati, in particolare dell’apprendimento automatico. Esamina le sfide associate all’uso dei dati e le conseguenze di queste tecnologie, in particolare nel contesto del cambiamento climatico. Mostra come l’intelligenza artificiale possa essere usata in modo sensato per massimizzare gli effetti positivi e minimizzare quelli negativi. Questo capitolo si basa sui saggi“Artificial Intelligence and Large-Scale threats to Humanity” di Guglielmo Tamburrini,“A Short Introduction to Artificial Intelligence: Methods, Success Stories, and Current Limitations” di Clemens Heitzinger e Stefan Woltran e“Evolution of Computing” di James R. Larus, in: Hannes Werthner et al. (eds.), Introduction to Digital Humanism. A Textbook. Cham: Springer, 2024. DOI: 10.1007/978-3-031-45304-5_16, 10.1007/978-3-031-45304-5_9, 10.1007/978-3-031-45304-5_3. Introduzione L’utilizzo di grandi quantità di dati per addestrare i sistemi di intelligenza artificiale comporta delle sfide, soprattutto per quanto riguarda le infrastrutture necessarie per la gestione dei dati e per avere una sufficiente potenza di calcolo. Questi requisiti hanno conseguenze di vasta portata, soprattutto nel contesto globale del cambiamento climatico. Se da un lato l’IA può aiutare ad analizzare i dati climatici e a sviluppare soluzioni per mitigare il riscaldamento globale, dall’altro è anche un grande consumatore di energia. L’addestramento dei modelli di IA richiede molta energia e comporta un aumento delle emissioni di gas serra, che accelera il riscaldamento globale. L’IA ha quindi il potenziale per contribuire sia a risolvere che ad aggravare il cambiamento climatico. Questo ruolo ambivalente dell’IA evidenzia la complessità della questione e sottolinea la necessità di valutare attentamente come e dove l’IA viene utilizzata per raggiungere i migliori risultati possibili per la società e l’ambiente. Effetti dei big data(grandi quantità di dati) I progressi nell’apprendimento automatico e in altre aree come i modelli linguistici di grandi dimensioni(LLM) si basano sulla capacità di raccogliere e analizzare enormi quantità di dati, noti come big data. Questi insiemi di dati sono stati originariamente sviluppati per applicazioni web come i motori di ricerca, che utilizzano grandi centri di dati con migliaia di computer per effettuare ricerche nei siti web e reagire rapidamente alle domande degli utenti. Ogni volta che viene eseguita una ricerca, migliaia di computer sono coinvolti contemporaneamente nell’elaborazione dei dati, in un processo noto come“elaborazione parallela”. Le ricerche su internet e l’archiviazione di grandi quantità di dati sono state rese possibili dai progressi dell’informatica, come p.es. lo sviluppo di reti ad alta velocità e di supporti di memorizzazione a basso costo. Inizialmente, questa infrastruttura era accessibile solo a poche aziende, ma con il cloud computing essa è stata resa disponibile a una base più ampia di utenti. Il cloud computing consiste in un accesso economico via internet a potenti computer, permettendo alle aziende di raccogliere, archiviare e analizzare grandi quantità di dati. 52 Capitolo 4 Tuttavia, tali sviluppi hanno anche gravi conseguenze per la protezione dei dati, poiché molti siti web registrano e memorizzano ogni interazione dell’utente. Questi dati vengono utilizzati anche per addestrare i sistemi di apprendimento automatico. È ben noto che i dati vengono considerati il nuovo“petrolio”, quindi una risorsa preziosa che può essere utilizzata con profitto. Allo stesso tempo, spesso si trascura il fatto che l’elaborazione di grandi quantità di dati comporta costi elevati, alti requisiti energetici ed emissioni di CO 2. L’idea che la crescita infinita crei prosperità si adatta bene al mondo digitale, in cui i sistemi possono teoricamente essere espansi all’infinito. In realtà, però, le risorse sono limitate e i big data e l’IA usufruiscono di una parte significativa di queste risorse. Conclusioni di questa sezione: La capacità di raccogliere e analizzare enormi quantità di dati ha rivoluzionato l’apprendimento automatico e altre aree dell’informatica. Sebbene questi sviluppi offrano un enorme potenziale e possano portare alla creazione di un’attività redditizia, sono anche accompagnati da sfide considerevoli. Tra queste, i costi elevati, il grande consumo di energia e l’aumento delle emissioni di CO 2, che hanno un impatto negativo sull’ambiente. Inoltre, i rischi per la protezione dei dati sono notevoli, in quanto i dati personali vengono spesso utilizzati senza sufficiente trasparenza o consenso. Questi sviluppi dimostrano che l’uso di grandi quantità di dati deve essere attentamente considerato per ridurre al minimo gli effetti negativi sulla società e sull’ambiente. G L I E FF E T T I D E L L'I NT E L L I G E N Z A A RT I F I C I A L E B A S ATA S U G R A N D I Q UA NT ITÀ D I DAT I 53 L’intelligenza artificiale e il cambiamento climatico L’intelligenza artificiale influenza il cambiamento climatico in due modi diversi. Da un lato, i modelli di intelligenza artificiale aiutano i climatologi a sviluppare modelli climatici e strumenti di previsione più accurati, contribuendo a comprendere meglio e a individuare soluzioni per mitigare il riscaldamento globale. L’impiego dell’intelligenza artificiale svolge quindi un ruolo sempre più importante nella riduzione delle emissioni di gas serra, p.es. riconoscendo e promuovendo modelli di consumo energetico più efficienti in settori quali la produzione, il trasporto e il riscaldamento. Tali tecnologie sono state proposte anche a supporto del Green Deal europeo e la piattaforma AI for Good(vedi https://aiforgood.itu.int) delle Nazioni Unite aiuta a definire soluzioni basate sull’IA per combattere il cambiamento climatico. I Paesi tecnologicamente avanzati dovrebbero facilitare l’accesso dei Paesi meno avanzati alle risorse dell’IA, al fine di sostenere gli sforzi globali per la protezione del clima. Il contributo dell’IA alle emissioni di gas serra D’altra parte, però, ci sono anche applicazioni dell’IA che aggravano il cambiamento climatico. Le compagnie petrolifere e del gas, in particolare, impiegano l’IA per migliorare l’efficienza nell’estrazione e nella lavorazione dei combustibili fossili. Queste tecnologie aiutano a estrarre, lavorare e commercializzare una maggiore quantità di combustibili fossili, il che porta in ultima analisi a un aumento delle emissioni di CO 2. Ciò è in contrasto con gli obiettivi di molte grandi aziende di raggiungere la carbon neutrality, come ha dimostrato un rapporto di Greenpeace del 2020 1 . Consumo energetico e impronta di CO 2 dell’IA Oltre alle applicazioni specifiche dell’IA, è necessario prendere in considerazione anche l’impatto generale dell’IA sul cambiamento 1 Greenpeace(2020), Rapporto di Greenpeace: Oil in the Cloud, https://www.greenpeace.org/usa/oil-in-the-cloud/(consultato il: 4 settembre 2024). 54 Capitolo 4 L’elaborazione del linguaggio naturale(NLP) è un’area dell’intelligenza artificiale che si occupa del linguaggio umano. L’obiettivo è dare ai computer la capacità di comprendere, interpretare e generare il nostro linguaggio naturale. Le applicazioni dell’NLP comprendono la traduzione automatica, il riconoscimento vocale, l’analisi del testo, i chatbot e molto altro. climatico come ambito di ricerca, industriale e commerciale. La preoccupazione per il consumo energetico richiesto per l’elaborazione dei dati e per l’infrastruttura hardware necessaria è aumentata in particolare a seguito di stime allarmanti. Per esempio, le transazioni Bitcoin consumano annualmente una quantità di energia pari a quella di un intero Paese delle dimensioni dell’Argentina. I centri dati e le reti di trasmissione dati sono responsabili di circa l’1% delle emissioni globali di gas serra legate all’energia. Troviamo un quadro simile anche per i modelli di intelligenza artificiale: l’addestramento di grandi modelli di elaborazione del linguaggio naturale(NLP) inizialmente aveva un’impronta di carbonio paragonabile a quella di cinque automobili medie durante il loro intero ciclo di vita. Stime più recenti hanno ridotto leggermente questa cifra, ma le preoccupazioni ambientali rimangono. Ad esempio, si stima che fino al 15% del consumo totale di elettricità di Google tra il 2019 e il 2021 sia attribuibile allo sviluppo e all’utilizzo di modelli di intelligenza artificiale. Solo il 10% di questo consumo è relativo all’addestramento dei modelli, mentre il restante 90% riguarda l’utilizzo dei modelli addestrati. BERT( bidirectional encoder representations from transformers) è il nome di un algoritmo che Google ha introdotto nel 2018. Consumo di energia in aumento con i modelli più grandi di intelligenza artificiale Non si sa come si svilupperà il consumo energetico dei sistemi di IA in futuro, ma esso dipenderà direttamente dalle dimensioni dei modelli usati. Si stanno sviluppando modelli sempre più grandi, la cui dimensione è determinata dal numero di connessioni tra le unità neuronali. Nel campo dell’elaborazione del linguaggio naturale(NLP), il numero di questi parametri è aumentato in modo significativo: da 350 milioni per un modello BERT nel 2018 a 175 miliardi per GPT-3 nel 2020 e fino a diversi trilioni per GPT-4 nel 2023. Anche i ricercatori in altri campi dell’IA stanno perseguendo l’obiettivo di migliorare l’accuratezza attraverso modelli sempre più grandi. Tuttavia, ciò comporta un maggiore consumo di energia e una maggiore impronta di carbonio per il settore dell’IA. Inoltre, le applicazioni di IA che riducono l’impronta di carbonio dei processi produttivi possono paradossalmente determinare un loro maggior impiego e quindi aumentare le emissioni complessive di CO 2. G L I E FF E T T I D E L L'I NT E L L I G E N Z A A RT I F I C I A L E B A S ATA S U G R A N D I Q UA NT ITÀ D I DAT I 55 1 trilione 900 miliardi 800 miliardi 700 miliardi 600 miliardi 500 miliardi 400 miliardi 300 miliardi 200 miliardi 100 miliardi 0 modello BERT(2018) 350 milioni GTP-3(2020) 175 miliardi GTP-4(2023) 1 trilione Grafico 2: Il numero di connessioni neuronali nel modello BERT del 2018, pari a 350 milioni, è completamente trascurabile rispetto al modello attuale. Fonte: Bettina K. Lechner Misure per ridurre l’impronta di carbonio dell’IA Per ridurre in modo significativo l’impronta di carbonio dell’IA, l’ideale sarebbe ottenere l’elettricità da fonti di energia rinnovabili. Nel 2020, tuttavia, quasi due terzi dell’elettricità mondiale provenivano da fonti energetiche fossili, il che rende evidente che sono necessari ancora molti anni di sforzi continui per ottenere una produzione globale di elettricità verde. Nel frattempo, i ricercatori e le aziende che si occupano di IA possono attuare alcune pratiche per ridurre il consumo energetico e ridurre l’impronta di carbonio dell’IA: 1. Architetture ad alta efficienza energetica: la scelta di modelli di IA che consumano meno energia può fare una grande differenza. 2. Hardware ottimizzato: l’uso di processori appositamente sviluppati per effettuare l’addestramento di modelli di intelligenza artificiale può ridurre significativamente il consumo energetico. 56 Capitolo 4 3. Centri dati più efficienti: i calcoli dovrebbero essere effettuati in centri dati che utilizzano fonti di energia più pulite e sono più efficienti dal punto di vista energetico. Queste pratiche sono particolarmente importanti nel campo delle tecnologie dell’informazione e della comunicazione e possono essere attuate indipendentemente dallo sviluppo del mix globale di energia elettrica. Il ruolo della ricerca e delle associazioni professionali Anche i gruppi di ricerca e le associazioni professionali possono svolgere un ruolo chiave nel favorire un’IA più“verde”. Potrebbero, ad esempio, ridefinire i criteri per un“buon” risultato di ricerca, valutando non solo l’accuratezza dei modelli di IA, ma anche la loro efficienza energetica. Stabilendo nuovi standard, la ricerca sull’intelligenza artificiale può portare a sistemi più efficienti dal punto di vista delle risorse e ridurre il consumo energetico. Questi sforzi dovrebbero essere portati avanti parallelamente ai necessari cambiamenti nella produzione e nella fornitura di energia. È responsabilità etica, sociale e scientifica degli attori dell’IA e delle istituzioni politiche garantire che l’IA contribuisca a mitigare il riscaldamento globale e non ad aggravare ulteriormente il cambiamento climatico. Nel complesso, le tecnologie di intelligenza artificiale offrono molte opportunità per aumentare l’efficienza, ma resta una decisione collettiva se utilizzare queste tecnologie per combattere o aggravare il cambiamento climatico. IA per il bene comune – L’utilizzo di IA“buona” Oltre alla questione del cambiamento climatico, l’IA può fornire un valido supporto per problemi difficili anche in altri modi. Questi utilizzi, spesso definiti“IA per il bene comune( AI for Good), mostrano come l’IA possa portare benefici alla società. Esempi significativi sono disponibili in diversi settori, come la medicina, dove l’IA viene utilizzata per il trattamento, la diagnosi, la diagnosi precoce, la G L I E FF E T T I D E L L'I NT E L L I G E N Z A A RT I F I C I A L E B A S ATA S U G R A N D I Q UA NT ITÀ D I DAT I 57 prevenzione del cancro e lo sviluppo di farmaci. Inoltre, l’IA svolge un ruolo importante anche nell’individuazione di discorsi di odio, della disinformazione e nei dispositivi di assistenza per le persone con disabilità.. Conclusioni di questa sezione: L’IA ha un enorme potenziale per aiutare a mitigare il cambiamento climatico, ma comporta anche il rischio di aggravarlo. L’IA può aiutare a identificare modelli di consumo energetico più efficienti e a migliorare i modelli climatici. Allo stesso tempo, i processi ad alta intensità energetica dei grandi modelli di IA contribuiscono in modo significativo alle emissioni di CO 2. . Per ridurre al minimo questi effetti negativi, è necessario impiegare buone pratiche e accelerare la transizione verso le fonti di energia rinnovabili. Ma ci sono anche impieghi dell’IA, denominati“IA per il bene comune”, che dimostrano quanto essa possa essere utile all’umanità. Questioni impellenti e riflessioni Nei media, il pericolo dell’IA è spesso rappresentato con scenari apocalittici, come i robot ribelli. Tuttavia, il vero problema è rappresentato dall’uso sempre più frequente di grandi quantità di dati per addestrare modelli di IA sempre più potenti. Ciò pone numerose sfide, tra cui le questioni relative al diritto d’autore, alla protezione della privacy e all’impatto dei sistemi personalizzati. Inoltre, non va sottovalutato il costo della raccolta dei dati e dell’addestramento dei modelli. Altri temi, come l’impatto dell’IA sull’istruzione e sul mondo del lavoro, non possono essere trattati in questa sede per motivi di spazio, ma sono certamente importanti. Un esempio concreto è lo sviluppo del programma ChatGPT, che è stato condotto utilizzando una varietà di fonti come libri, articoli, siti web e persino commenti sui social media. In questo processo non è stato chiesto il consenso agli autori dei contenuti. Questo tipo di problema legato al diritto d’autore esiste da tempo su internet, ma diventa particolarmente rilevante quando contenuti protetti dal diritto d’autore vengono utilizzati per addestrare sistemi di IA. 58 Capitolo 4 domande di verifica L’intelligenza artificiale e il cambiamento climatico Come può l’intelligenza artificiale(IA) contribuire a mitigare il riscaldamento globale? Quale percentuale delle emissioni globali di CO 2 legate all’energia è causata dai data center e dalle reti di trasmissione dati? Quali misure si possono adottare per ridurre l’impronta di carbonio delle applicazioni di IA? In quali ambiti la“IA per il bene comune” può contribuire a risolvere le sfide sociali e su quali aspetti etici è necessario riflettere? In che modo gruppi di ricerca e organizzazioni professionali possono contribuire a definire e implementare degli standard per lo sviluppo e l’uso responsabile dell’IA? G L I E FF E T T I D E L L'I NT E L L I G E N Z A A RT I F I C I A L E B A S ATA S U G R A N D I Q UA NT ITÀ D I DAT I 59 domande per la discussione L’intelligenza artificiale e il cambiamento climatico Le aziende di IA dovrebbero essere obbligate per legge a rivelare la loro impronta di carbonio e a intraprendere azioni per ridurla, perché? O perché no? 1 Possibile discussione: l’obbligo di divulgazione potrebbe portare a una maggiore trasparenza e senso di responsabilità, ma potrebbe anche limitare la forza innovativa e la competitività. In che misura gli sviluppatori e i ricercatori di IA dovrebbero cambiare 2 le loro priorità per porre maggiore enfasi sull’efficienza energetica dei loro modelli? Possibile discussione: dare una maggiore priorità all’efficienza energetica potrebbe ridurre significativamente l’impronta di carbonio delle applicazioni di IA, ma ciò potrebbe anche portare a compromessi nell’accuratezza o nelle prestazioni dei modelli. . 60 Capitolo 4 Inoltre, le piattaforme di social media sono progettate per interagire con gli utenti il più a lungo possibile, utilizzando i loro like e la loro cronologia di navigazione e dando luogo a fenomeni come le bolle di filtraggio(che propongono agli utenti preferibilmente contenuti simili a quelli già visti) e le camere dell’eco(cioè l’interagire preferibilmente con utenti che condividono le stesse proprie opinioni). Questi meccanismi contribuiscono alla polarizzazione delle opinioni e a lungo termine mettono in pericolo i processi democratici. È quindi importante fare attenzione a come alimentiamo i sistemi di IA con i dati personali. Inoltre, si trascura il fatto che l’addestramento dei modelli di IA si basa sul lavoro umano, che spesso si svolge in condizioni precarie nei Paesi meno sviluppati. Questi lavoratori sono utilizzati per l’individuazione di contenuti problematici come i discorsi di odio o le immagini di violenza. Per esempio, si è saputo che l’adattamento di ChatGPT per evitare risposte tossiche è stato effettuato da lavoratori kenioti sottopagati, cosa che ha attirato per la prima volta l’attenzione dei media. Tuttavia, questo problema non è nuovo e sembra essere strettamente dipendente dall’attuale pratica di sviluppo dei sistemi di IA. Conclusioni di questa sezione: L’uso dell’intelligenza artificiale è associato a numerose sfide etiche e sociali. La crescente dipendenza da grandi quantità di dati per migliorare i modelli di IA comporta rischi quali la perdita della privacy, problemi di diritti d’autore e lo sfruttamento di manodopera a basso costo, in particolare nel Sud del mondo. C’è anche il rischio che i sistemi di IA offrano agli utenti solo ciò che vogliono sentire, con il rischio di un’esasperazione della polarizzazione delle opinioni e di una minaccia per i processi democratici. È quindi fondamentale che l’IA venga utilizzata in modo responsabile e con cautela, al fine di ridurre al minimo gli effetti negativi sulla società e sugli individui. G L I E FF E T T I D E L L'I NT E L L I G E N Z A A RT I F I C I A L E B A S ATA S U G R A N D I Q UA NT ITÀ D I DAT I 61 attività Diversi scenari degli effetti dell’IA Obiettivo: I partecipanti devono riconoscere quanto siano complessi e di vasta portata gli effetti dell’IA e che ci sono molti aspetti da considerare. L’obiettivo è sviluppare soluzioni che sfruttino le opportunità in modo responsabile e riducano al minimo i rischi delle tecnologie dell’IA. Possibili scenari: 1. IA e protezione del clima: Un gruppo potrebbe discutere su come utilizzare efficacemente l’IA per combattere il cambiamento climatico. Quali tecnologie di IA potrebbero essere utilizzate nel loro scenario? Quali sfide e rischi potenziali vedono i membri del gruppo? 2. Protezione dei dati ed etica: Un altro gruppo potrebbe lavorare su uno scenario in cui deve scoprire come le aziende possono addestrare i sistemi di IA mantenendo la protezione dei dati. Quali sono le misure da adottare per garantire che i sistemi di IA rimangano etici? 3. Impatto sul Sud globale: Un terzo gruppo potrebbe occuparsi delle questioni etiche relative all’utilizzo di manodopera a basso costo nel Sud del mondo per l’elaborazione dei dati e la loro classificazione. Come si potrebbe evitare lo sfruttamento e creare condizioni di lavoro eque? 4. L’intelligenza artificiale a supporto del monitoraggio ambientale In questo scenario, un gruppo potrebbe discutere di come utilizzare i sistemi di intelligenza artificiale per monitorare le condizioni ambientali. Potrebbero concentrarsi sulle tecnologie che analizzano la qualità dell’aria e dell’acqua, ottimizzano il consumo energetico o supportano la conservazione degli ecosistemi. Il gruppo dovrebbe anche considerare le sfide e i rischi potenziali, come ad esempio i requisiti energetici dei sistemi di intelligenza artificiale e possibili problemi di protezione dei dati nella raccolta di dati ambientali. 62 Capitolo 4 NOTE G L I E FF E T T I D E L L'I NT E L L I G E N Z A A RT I F I C I A L E B A S ATA S U G R A N D I Q UA NT ITÀ D I DAT I 63 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 5 LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE Questo capitolo esamina come le istituzioni giuridiche e politiche possano rispondere alle sfide della trasformazione digitale, in particolare dell’IA. Sottolinea la necessità di un sistema di leggi che protegga i diritti fondamentali. Il capitolo descrive anche lo sviluppo della Legge sui Servizi Digitali( Digital Services Act – DSA) e della Legge sui Mercati Digitali( Digital Markets Act – DMA), oltre a varie altre leggi sull’IA. Infine vengono discusse le leggi attuali e le sfide future per il governo dell’IA e della sua influenza sulla società e sui valori democratici. Questo capitolo si basa sul saggio“Human rights Alignment: the Challenge Ahead for AI Lawmakers” di Marc Rotenberg, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_38. Introduzione Le reazioni dei governi e delle organizzazioni internazionali alle sfide della gestione e del controllo dell’IA, ovvero le sue modalità di regolamentazione, sono un banco di prova decisivo per determinare come possiamo utilizzare questa nuova tecnologia a vantaggio e beneficio della società. Questi sforzi si basano sul presupposto che leggi e regolamenti siano necessari per proteggere i diritti fondamentali. Tuttavia, le leggi sono spesso imperfette perché il linguaggio è impreciso e le tecnologie si evolvono rapidamente. Le grandi aziende si opporranno alle restrizioni, e c’è il rischio che diritti umani consolidati, come la tutela della dignità umana e della privacy, vengano modificati per consentire lo sviluppo tecnologico. È quindi importante formulare principi per le modalità di governo dell’IA, in modo che la società sia in grado di controllare lo sviluppo tecnologico e garantire che le tecnologie digitali rimangano incentrate sull’essere umano. Tuttavia, è necessario anche un quadro giuridico per garantire i diritti fondamentali degli utenti nello spazio digitale in generale, indipendentemente dalla legislazione sull’IA. Con la Legge sui Servizi Digitali( Digital Services Act – DSA) e la Legge sui Mercati Digitali ( Digital Markets Act – DMA), l’Unione Europea(UE) ha adottato misure per creare questo spazio digitale sicuro, in cui garantire soprattutto i diritti degli utenti. Essi costituiscono un insieme di norme standardizzate che si applicano in tutta l’UE. 66 Capitolo 5 Misure dell’UE per uno spazio digitale sicuro Legge sui servizi digitali(DSA) La DSA mira a creare uno spazio digitale più sicuro in cui siano tutelati i diritti fondamentali di tutti gli utenti dei servizi digitali. Il suo scopo è quello di regolamentare gli obblighi dei servizi digitali che agiscono come intermediari tra gli utenti finali da un lato e i fornitori di beni, servizi e contenuti dall’altro. Una delle principali preoccupazioni della DSA è la trasparenza nei confronti degli utenti. Questi ultimi non solo dovrebbero essere informati in modo trasparente sui loro diritti e obblighi nelle condizioni d’uso delle piattaforme, ma dovrebbero anche essere meglio informati, p.es., sulla pubblicità che viene loro mostrata. Ciò vale in particolare per la trasparenza degli algoritmi. I modelli commerciali basati sulla pubblicità personalizzata in linea di principio rimangono ammissibili. La DSA regolamenta la responsabilità dei servizi digitali per i contenuti illegali caricati dagli utenti e introduce obblighi di diligenza per i fornitori al fine di ridurre al minimo gli effetti negativi dei servizi online. Si rivolge alle piattaforme online di grandi dimensioni con più di 45 milioni di utenti. La DSA assegna quindi ai gestori delle piattaforme digitali un ruolo di responsabilità nella lotta contro i contenuti illegali online. Una novità significativa è che l’ambito di applicazione della DSA è legato al luogo in cui si trova l’utente e non alla sede del fornitore. In caso di violazione della DSA, si possono infliggere sanzioni fino al sei per cento delle entrate annuali o del fatturato annuale del rispettivo fornitore. Legge sui mercati digitali(DMA) La DMA mira a creare un mercato competitivo ed equo nel settore digitale, all’interno del quale anche i piccoli e nuovi operatori abbiano opportunità di crescita e le aziende e i consumatori non siano costretti ad accettare la concorrenza sleale dettata da operatori consolidati con potere di mercato. LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 67 Il mercato unico digitale dell’UE deve rimanere libero, aperto ed equo. Per garantire ciò, gli operatori di piattaforme che hanno una grande influenza economica e quindi anche sociale, i cosiddetti“guardiani” ( gatekeeper), sono soggetti a regole chiare e, soprattutto, più severe rispetto al passato. Ciò implica sia obblighi di attuare alcuni comportamenti che di astenersi da altri. Un servizio si qualifica come guardiano( gatekeeper) se: a) ha una notevole influenza sociale ed economica, b) gestisce un servizio di importanza fondamentale per raggiungere i consumatori su internet, c) ha una posizione stabile e permanente. Ciò può riguardare motori di ricerca, social network, piattaforme di condivisione video, servizi di messaggistica, sistemi operativi, ma anche servizi di mediazione online completamente diversi. Per ognuno di questi tipi di servizi sono stati definiti specifici valori limite oltre il quale scattano le regolamentazioni previste dalla DMA. Per gli utenti è importante che la DMA impedisca ai guardiani di combinare i dati personali degli utenti con quelli di altri fornitori o con i dati dei servizi offerti da loro o da altri fornitori. Inoltre, non possono più impedire agli utenti di disinstallare software o applicazioni preinstallate. Non possono nemmeno far dipendere l’utilizzo di un loro servizi dalla registrazione a un altro servizio. Gli utenti devono inoltre poter trasferire semplicemente i propri dati a un altro fornitore (portabilità dei dati). Questi sono solo alcuni esempi specifici di ciò che la DMA regolamenta. Se un guardiano non adempie ai suoi obblighi, potrebbe incorrere in gravi sanzioni, fino al dieci per cento del suo fatturato globale annuo. Secondo quanto previsto dalla DMA, la Commissione europea può imporre queste sanzioni. 68 Capitolo 5 Misure per la regolamentazione dell’IA Questa sezione si occupa dello sviluppo di quadri di riferimento giuridici per il governo dell’intelligenza artificiale(IA). Tali quadri includono importanti accordi politici e globali, quali: 1. i principi dell’IA dell’OCSE e le linee guida di IA del G20, 2. la raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale 3. la legge sull’IA dell’Unione europea. Questi quadri di riferimento formano la base per gli standard legali e gli accordi internazionali e influenzano il comportamento di coloro che sviluppano e utilizzano i sistemi di IA. In questi quadri di riferimento ricorrono diverse parole chiave: “equità”,“accuratezza”,“trasparenza”,“incentrato sull’uomo” e “affidabile”. Queste parole possono essere considerati gli elementi costitutivi delle modalità di governo dell’IA, in quanto rappresentano valori fondamentali da cui discendono requisiti più specifici. 1. I principi dell’IA dell’OCSE e le linee guida dell’IA del G20 L’OCSE(Organizzazione per la Cooperazione e lo Sviluppo Economico) ha stabilito nel maggio 2019 cinque principi per una gestione responsabile di un’IA affidabile: 1. Crescita inclusiva, sviluppo sostenibile e benessere 2. Rispetto dei diritti umani e dei valori democratici 3. Trasparenza e spiegabilità 4. Robustezza, sicurezza e protezione 5. Responsabilità Questi principi(la cui descrizione è stata aggiornata nel 2024) a giugno 2019 sono stati adottati dai Paesi del G20, diventando così le Linee guida del G20 sull’intelligenza artificiale. LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 69 L’OCSE ha inoltre formulato cinque raccomandazioni per la politica nazionale e la cooperazione internazionale nel campo dell’IA affidabile 1. Investimenti in ricerca e sviluppo dell’IA 2. Promozione di un ecosistema digitale per l’IA 3. Creazione di un ambiente politico favorevole all’IA 4. Sviluppo delle capacità umane e preparazione ai cambiamenti del mercato del lavoro 5. Cooperazione internazionale per un’IA affidabile 2. Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale Nel novembre 2021, i 193 Stati membri dell’UNESCO hanno adottato la “Raccomandazione sull’etica dell’intelligenza artificiale”. Il suo scopo non è solo quello di proteggere i diritti umani e la dignità umana, ma anche di promuovere principi etici. I punti più importanti sono: 1. Protezione dei dati: la raccomandazione dell’UNESCO chiede misure aggiuntive rispetto a quanto fatto finora dalle aziende tecnologiche e dai governi per offrire maggiore protezione alle persone. Ciò include una maggiore trasparenza, controllo e responsabilizzazione in relazione ai dati personali. 2. Divieto dell’uso di sistemi di credito sociale e di sorveglianza di massa: la raccomandazione vieta esplicitamente l’uso di sistemi di intelligenza artificiale per il credito sociale( social scoring) e la sorveglianza di massa. 3. Monitoring and evaluation: New tools are proposed to assist in the implementation of the recommendations, including ethical impact assessments. 4. Protezione dell’ambiente: l’IA deve essere utilizzata come strumento importante nella lotta contro il cambiamento climatico e i problemi ambientali. Credito sociale: il comportamento sociale, economico e politico di privati, aziende e altre organizzazioni(come le organizzazioni non governative) viene utilizzato per determinare la“reputazione sociale”. Un punteggio basso può comportare restrizioni nella vita quotidiana, come l’accesso ai servizi sociali o la ricerca di un lavoro o di una formazione. v. https://it.wikipedia.org/wiki/Sistema_di_credito_sociale) 70 Capitolo 5 La raccomandazione si concentra non solo sui valori e sui principi, ma anche sulla loro attuazione pratica attraverso misure politiche concrete. L’UNESCO invita gli Stati membri a introdurre quadri di riferimento per la valutazione dell’impatto etico e meccanismi di supervisione. 3. La legge UE sull’intelligenza artificiale Con la Legge sull’IA( AI Act), il Parlamento europeo intende garantire che i sistemi di IA siano: • sicuri, • trasparenti, • comprensibili, • non discriminatori • rispettosi dell’ambiente. La legge stabilisce obblighi che si basano sul rischio posto dal rispettivo sistema di IA. Più alto è il rischio, più severa è la normativa. I sistemi di IA considerati una minaccia per gli esseri umani sono vietati. Link importanti sui quadri di riferimento: • OCSE: Intelligenza artificiale nella società: https://www.oecd.org/en/publications/artificial-intelligence-in-society_eedfee77en/full-report.html. • Linee guida del G20 per l’intelligenza artificiale: https://wp.oecd.ai/app/uploads/2021/06/G20-AI-Principles.pdf • Raccomandazione UNESCO sull’etica dell’intelligenza artificiale: https://unesdoc.unesco.org/ark:/48223/pf0000380455 • Legge sull’IA(AI-Act) dell’Unione Europea: https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_it LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 71 Rischio inaccettabile (vietato) • Vietati perché in contrasto con i valori dell’UE • P.es. sistemi di IA che manipolano il comportamento umano o sfruttano le debolezze umane o usano il credito sociale o azioni di polizia predittiva Rischio elevato (valutazione della conformità) • Obblighi stringenti di conformità per l’immissione sul mercato e la messa in servizio • P.es. Sistemi di intelligenza artificiale in determinati prodotti e settori quali quelli dei giocattoli, aviazione civile, biometria, infrastrutture critiche Rischio elevato (obbligo di trasparenza) • Gestione del rischio attraverso misure di trasparenza • P.es. chatbot o sistemi di intelligenza artificiale per la creazione di testi, immagini o video Rischio minimo o nullo (nessun obbligo specifico) • Tutti gli altri sistemi di intelligenza artificiale • P.es. videogiochi, filtri antispam • Codici di condotta volontari Grafico 3: I sistemi di intelligenza artificiale sono classificati in base al loro potenziale di rischio come inaccettabile, elevato, limitato e minimo/nessun rischio© RTR(CC BY 4.0) Il grafico 3 mostra le categorie di rischio dell’AI Act. Nella categoria di rischio più alta, i sistemi di IA sono classificati come“inaccettabili”, p.es. se influenzano il libero arbitrio degli utenti o usano un sistema di credito sociale, ovvero la valutazione del comportamento dei singoli cittadini sulla base dei dati disponibili su di essi da tutte le fonti. In base all’ambito di applicazione della legge sull’IA, entrata in vigore nell’agosto 2024, il loro utilizzo sarà vietato nell’UE. Per il gruppo successivo,“ad alto rischio”, ciò che conta è l’area di utilizzo, cioè non è il sistema di IA in sé a essere considerato rischioso, ma l’area in cui viene utilizzato. Vengono citati diversi ambiti, p.es. nelle decisioni sull’accesso all’istruzione o all’occupazione, oppure nell’applicazione della legge o nella gestione dell’immigrazione. Se un sistema di IA rientra in questa categoria, i produttori e gli utenti devono rispettare una serie di obblighi – come l’istituzione di sistemi di gestione del rischio e della qualità – e il sistema deve essere registrato presso la Commissione. Il terzo gruppo,“rischio limitato”, prevede“solo” obblighi di trasparenza. I fornitori devono informare i propri utenti che il contenuto è stato generato da un’IA. 72 Capitolo 5 Nel quarto gruppo vi sono i sistemi di IA“privi di rischio”, che non sono regolamentati dalla legge sull’IA. Si tratta, p.es., dei filtri antispam per i programmi di posta elettronica. In questo caso, il rischio per gli utenti è considerato talmente basso che non vi è alcuna regolamentazione. Esempi di sistemi di IA vietati: • Manipolazione del comportamento cognitivo, p.es. giocattoli a comando vocale che incoraggiano comportamenti pericolosi nei bambini • Credito sociale: classificare le persone in base al loro comportamento • Categorizzazione biometrica delle persone in base a caratteristiche sensibili • Sistemi biometrici di identificazione remota in tempo reale, come il riconoscimento facciale Il Parlamento dell’UE ha adottato la legge sull’intelligenza artificiale nel marzo 2024 e il Consiglio europeo ha dato la sua approvazione nel maggio 2024. La legge sarà pienamente applicabile 24 mesi dopo la sua entrata in vigore. I sistemi ad alto rischio avranno più tempo per soddisfare i requisiti; gli obblighi ad essi relativi varranno solo dopo 36 mesi dall’entrata in vigore della legge. Conclusioni di questa sezione: La legislazione sull’intelligenza artificiale si sta sviluppando rapidamente e comprende una serie di principi e regolamenti volti a rendere i sistemi di IA sicuri, equi e incentrati sull’uomo. L’UNESCO, l’OCSE e l’UE sono impegnate per tutelare i diritti umani, la trasparenza e la sostenibilità nell’uso dell’IA. Nonostante questi progressi, rimangono delle sfide, in particolare per quanto riguarda l’applicazione dei divieti e la gestione dei rapidi sviluppi tecnologici. Un’efficace cooperazione internazionale e un costante adeguamento delle leggi sono essenziali per garantire che i sistemi di IA corrispondano ai valori sociali e ai diritti fondamentali. LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 73 domande di verifica Misure per la regolamentazione dell’IA Quali sono gli elementi ricorrenti nelle varie leggi e raccomandazioni sull’IA? Cosa prevede la raccomandazione dell’UNESCO sulla protezione dei dati personali? Quali sono le cinque raccomandazioni dell’OCSE per le politiche nazionali e la cooperazione internazionale nel campo dell’IA affidabile? A cosa mira la Legge sui Servizi Digitali? Cosa significa portabilità dei dati? 74 Capitolo 5 Qual è l’obiettivo della legge UE sull’IA? Quali sono le sfide principali nel governo dei sistemi di IA? Quali strategie possono essere utilizzate per garantire l’osservanza delle leggi sull’IA in tutto il mondo? Quali misure si possono adottare per garantire che gli esseri umani mantengano il controllo dei sistemi di IA? LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 75 domande per la discussione Misure per la regolamentazione dell’IA In che modo i principi di equità, accuratezza, trasparenza, centralità dell’uomo e affidabilità possono essere applicati nella pratica per garantire che i sistemi di IA soddisfino le aspettative sociali? 1 Possibili contributi: • Equità: garantire che gli insiemi di dati su cui vengono addestrati i modelli di IA siano diversificati e rappresentativi per ridurre al minimo i pregiudizi. Implementare controlli e revisioni periodiche degli algoritmi per individuare ed eliminare la discriminazione. • Accuratezza: sviluppo di rigorose procedure di test e di tecniche di convalida per garantire l’accuratezza dei modelli. Implementazione di meccanismi per il monitoraggio continuo e l’adeguamento dei modelli in base ai nuovi dati. • Trasparenza: fornire spiegazioni comprensibili di come i sistemi di IA prendono le loro decisioni. Questo obiettivo potrebbe essere raggiunto attraverso lo sviluppo e l’applicazione di tecnologie di“IA spiegabile”( Explainable AI – XAI), che rendono più comprensibili i processi decisionali dei modelli di IA. • Centralità umana: coinvolgere gli utenti e le parti interessate nel processo di sviluppo dei sistemi di IA per garantire che i sistemi soddisfino le loro esigenze e aspettative. Ciò potrebbe essere ottenuto attraverso approcci di progettazione partecipativa e meccanismi di valutazione da parte degli utenti. • Affidabilità: costruire e mantenere la fiducia implementando misure di protezione dei dati e protocolli di sicurezza che garantiscano la protezione dei dati degli utenti. Anche controlli periodici e certificazioni di sicurezza possono contribuire al rafforzamento della fiducia. 76 Capitolo 5 Quale ruolo dovrebbero svolgere organizzazioni internazionali come l’OCSE e l’UNESCO nella definizione e nell’applicazione delle leggi sull’IA e come si può garantire un’efficace cooperazione internazionale? Quale ruolo potrebbe svolgere l’ONU? 2 Possibili risposte: • Ruolo dell’OCSE e dell’UNESCO: queste organizzazioni dovrebbero sviluppare standard e linee guida globali che possano servire da base per le legislazioni nazionali. Possono fungere da piattaforme per lo scambio di buone pratiche ed esperienze e contribuire a sviluppare una comprensione comune delle sfide e delle soluzioni nell’area del governo dell’IA. • Cooperazione internazionale: una cooperazione efficace può essere promossa attraverso la creazione di forum e gruppi di lavoro internazionali in cui governi, imprese e società civile possano lavorare insieme. Accordi e memorandum multilaterali possono contribuire a stabilire obiettivi e impegni comuni. • Sfide e soluzioni: le differenze nelle legislazioni e negli interessi nazionali possono rappresentare una criticità. Questa può essere superata attraverso il dialogo diplomatico e i negoziati. Esempi di cooperazione internazionale di successo, come l’Accordo di Parigi sulla protezione del clima, possono servire da modello. Anche le iniziative di armonizzazione delle normative e il riconoscimento reciproco degli standard possono contribuire a promuovere la cooperazione. LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 77 attività Libertà sotto osservazione – Le catene invisibili della sorveglianza dell’IA Obiettivo: Attraverso il gioco di ruolo, i partecipanti dovrebbero riconoscere l’importanza delle leggi sull’IA, anche se pensano di non avere nulla da nascondere. Questo illustrerà come la sorveglianza e la valutazione da parte dei sistemi di IA possano limitare la libertà e i diritti dei cittadini. Materiali: • Descrizione del ruolo dei decisori politici e dei cittadini • Schede o evidenziatori per visualizzare le varie misure di monitoraggio • Una lavagna tradizionale o a fogli mobili per la discussione e la sintesi 1. Introduzione e suddivisione: — I partecipanti sono divisi in due gruppi: decisori politici e cittadini. — Viene fornita una breve introduzione all’argomento, compresa una spiegazione degli strumenti di IA vietati, come il credito sociale e il monitoraggio biometrico. 2. Scenario: — La simulazione inizia con i responsabili politici che annunciano nuove misure di sorveglianza per“aumentare la sicurezza e l’efficienza”. — I cittadini imparano a conoscere queste misure e discutono su come potrebbero influire sulla loro vita quotidiana. 3. Interazione: — I politici utilizzano diverse misure di sorveglianza, come la raccolta di dati dai social media, il riconoscimento facciale e la classificazione dei cittadini in base al loro comportamento. — I cittadini devono fare i conti con questa situazione nella vita di tutti i giorni e cercare di gestire attività normali come la richiesta di lavoro, i viaggi o l’utilizzo dei servizi sociali mentre sono sotto costante osservazione. 4. Discussione: Dopo l’interazione, i due gruppi si riuniscono e discutono le loro esperienze. Domande per la riflessione: — Come si sentivano i cittadini sotto costante sorveglianza? — Quali sono le sfide che i responsabili politici hanno affrontato nell’applicazione delle misure di sorveglianza? — Quali diritti sono stati limitati dalla sorveglianza? — Perché sono importanti le leggi che vietano queste misure di sorveglianza? 78 Capitolo 5 5. Conclusione: — Breve sintesi dell’importanza delle leggi sull’IA e dei loro meccanismi di protezione. — Enfasi sul ruolo della cooperazione internazionale e del costante adattamento delle leggi per proteggere i diritti dei cittadini. LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 79 lavoro di gruppo Legge sulla regolamentazione dell’IA Materiali: Notebook, tablet o smartphone per le ricerche Svolgere una simulazione in cui i partecipanti sono divisi in gruppi per redigere una legge sulla regolamentazione dell’IA. I gruppi devono tenere conto di aspetti quali la trasparenza, la responsabilità, la protezione dei dati e le considerazioni etiche. I gruppi presentano poi le loro proposte e discutono i pro e i contro dei vari approcci. Sfide attuali e future Una delle maggiori sfide nella regolamentazione dell’IA consiste nel vietare alcune applicazioni e nel far rispettare tali divieti. Nonostante i divieti, alcuni Paesi continuano a sostenere l’uso delle tecnologie di IA per scopi quali il credito sociale e la sorveglianza di massa. L’uso dell’IA per l’identificazione biometrica a distanza rimane problematico in molti Paesi, poiché questi sistemi possono collegare le immagini ai profili personali, il che potrebbe portare all’intervento della polizia prima che venga commesso un reato. Nelle società democratiche, un governo efficace dell’IA richiede l’introduzione di restrizioni su tali sistemi. Il quadro giuridico che viene attualmente sviluppato dall’UE, dal Consiglio europeo e da molti governi a livello mondiale si trova di fronte al problema di non essere immediatamente efficace. Dall’adozione delle leggi alla loro effettiva attuazione passano infatti 80 Capitolo 5 mesi o anni. Il periodo che intercorre tra l’adozione della legge europea sull’intelligenza artificiale e la sua effettiva applicazione è di due anni, lasciando così un vuoto che consente l’uso di sistemi di IA non regolamentati. La proposta dell’industria di sviluppare un“patto sull’IA” o un“codice di condotta” preliminare è però respinta dalle organizzazioni della società civile perché potrebbe minare il processo decisionale democratico. Complessivamente, solo la Commissione Europea e la Repubblica Popolare Cinese dispongono attualmente di leggi e regolamenti validi sull’intelligenza artificiale che possono anche essere applicati. In tutte le altre parti del mondo esistono al momento solo raccomandazioni. Il governo dell’IA ha due sfide principali: 1. applicazione delle leggi, 2. validità mondiale. C’è poi la sfida esistenziale: gli esseri umani riusciranno a mantenere il controllo sui sistemi di IA che hanno creato? Negli ultimi anni questo interrogativo si è fatto sempre più pressante. Ciò rende ancora più importante la capacità di sviluppare leggi efficaci per regolamentare l’IA. Conclusioni di questa sezione: La sfida consiste nel creare e applicare leggi efficaci per prevenire applicazioni pericolose di IA. La cooperazione internazionale è necessaria per stabilire standard uniformi e proteggere i valori democratici. Occorre garantire che le persone mantengano il controllo sui sistemi di IA e che questi siano in linea con i valori democratici e i diritti fondamentali. LA REGOLAMENTAZIONE DELL’INTELLIGENZA ARTIFICIALE 81 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 6 I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ I sistemi di raccomandazione sono ampiamente utilizzati in varie applicazioni, p.es. negli acquisti online, nei social media e nella personalizzazione delle notizie. Questo capitolo fornisce una breve introduzione al tema dei sistemi di raccomandazione, ne spiega i meccanismi di base, gli effetti e discute gli approcci per tenere conto della diversità e dell’equità in questi sistemi. . Questo capitolo si basa sul saggio“Recommender Systems: Techniques, Effects, and Measures towards Pluralism and Fairness” di Peter Knees, Julia Neidhardt e Irina Nalis, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_27. Introduzione I sistemi di raccomandazione sono strumenti software che raccolgono dati sul comportamento e sulle preferenze degli utenti. Questi dati vengono poi utilizzati per suggerire agli utenti contenuti futuri che potrebbero essere di loro gradimento in base a ciò che hanno visto/letto fino a quel momento. Queste raccomandazioni possono riguardare un’ampia gamma di prodotti: dai libri, ai film, alla musica, ai viaggi, alle offerte di lavoro e ai servizi finanziari. I sistemi di raccomandazione sono ormai molto diffusi e vengono utilizzati dalle principali piattaforme online come Google, Amazon, Facebook, YouTube e Netflix, per personalizzare i propri servizi in base alle esigenze e alle preferenze degli utenti. I sistemi di raccomandazione svolgono un ruolo centrale nell’internet moderno, in quanto non solo facilitano l’accesso ai contenuti digitali, ma determinano anche quali contenuti sono presentati agli utenti. In un certo senso, rappresentano i guardiani dell’accesso alla conoscenza e all’informazione. Definiscono quali contenuti digitali ci vengono offerti su internet. D’altro canto, però, sono anche necessari per orientarsi nella quantità immensa di informazioni disponibili. In questo capitolo ci concentriamo su due aspetti dei sistemi di raccomandazione che sono particolarmente importanti per il loro potenziale impatto sociale: la diversità e l’equità. Mostriamo che i sistemi di raccomandazione possono promuovere questi valori, ma anche minacciarli. La discussione viene approfondita nei capitoli successivi, dove trattiamo anche argomenti come i pregiudizi e i preconcetti sul web e la moderazione automatica dei contenuti. 84 Capitolo 6 Sistemi di raccomandazione: concetti e pratiche I sistemi di raccomandazione sono applicazioni software specializzate che hanno lo scopo di suggerire agli utenti elementi, che siano articoli, prodotti o contenuti, scelti in modo mirato in base alle loro preferenze individuali e al loro comportamento sul web. Questi sistemi utilizzano dati raccolti da molte fonti per creare raccomandazioni personalizzate. I dati più importanti utilizzati dai sistemi di raccomandazione sono: • Informazioni sugli elementi: includono le proprietà tramite cui un elemento viene presentato in rete, come le descrizioni testuali, le parole chiave, le categorie(p.es. il genere di libro o il tipo di prodotto), la data di pubblicazione e il prezzo. Questi dati aiutano il sistema a comprendere le caratteristiche degli elementi e a confrontarli tra di loro. • Informazioni sugli utenti: per formulare raccomandazioni pertinenti, i sistemi hanno bisogno anche di dati sugli utenti. Essi includono informazioni demografiche(p.es., età, genere), dati sul comportamento precedente dell’utente(come acquisti precedenti, clic, valutazioni) e talvolta anche informazioni provenienti dai social network degli utenti per vedere cosa piace agli amici o ai contatti. Il modo in cui i sistemi di raccomandazione utilizzano queste informazioni varia notevolmente. Ecco alcuni esempi: • Filtraggio basato sui contenuti: in questo caso, vengono consigliati elementi che hanno caratteristiche simili a quelli che l’utente ha utilizzato in precedenza. → Esempio: su una piattaforma di streaming, a Laura, che guarda regolarmente documentari sulle pitture rupestri, viene suggerito un altro documentario sulla vita degli uomini dell’età della pietra, perché è di un genere simile a quello dei documentari visti in precedenza. • Filtraggio collaborativo: questo approccio si basa sulle preferenze di altri utenti con interessi simili. Il sistema analizza quali articoli sono stati valutati positivamente da utenti con comportamenti simili e li raccomanda. → Esempio: una grande piattaforma di shopping suggerisce a Tommaso di acquistare un libro di cucina oltre a un frullatore, perché altri clienti che hanno comprato il frullatore hanno preso anche questo libro di cucina. I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 85 • Filtro basato sui dati demografici: le raccomandazioni si basano su dati demografici relativi a gruppi generali di utenti. Alcuni film potrebbero essere suggeriti agli utenti più giovani in base alle preferenze di questa fascia d’età. → Esempio: una piattaforma musicale consiglia a Martina, nata nel 2000, playlist come“Teen Party” o“Pop Rising”, che si rivolgono alla sua fascia d’età. • Raccomandazioni basate sulla popolarità: gli elementi che sono attualmente di tendenza o che vengono visualizzati o acquistati con particolare frequenza vengono consigliati in via prioritaria. In questo modo si garantisce che agli utenti vengano mostrati i contenuti più“caldi”. → Esempio: una piattaforma video mostra a Marco i video che sono piaciuti ai suoi amici, anche se a lui non sono piaciute queste pagine o contenuti. • Sistemi di raccomandazione ibridi: questi sistemi combinano i diversi approcci di cui sopra per migliorare ulteriormente la qualità delle raccomandazioni. → Esempio: a Sara viene consigliato dalla piattaforma Netflix il film“Conclave”, sulla base di una combinazione del suo precedente comportamento di acquisto, delle preferenze di utenti simili e delle tendenze attuali. Affinché un sistema di raccomandazione possa fornire suggerimenti personalizzati, deve creare un modello o profilo dell’utente, che raccoglie le preferenze dell’utente, gli articoli che ha consumato in passato e i dati demografici. Ciò solleva preoccupazioni in merito alla protezione dei dati, in quanto vengono raccolti e memorizzati numerosi dati personali. Tradizionalmente, i sistemi di raccomandazione venivano valutati soprattutto in base all’accuratezza con cui riuscivano a prevedere se un utente avrebbe gradito un determinato prodotto o contenuto. In questo modo, aumentavano la probabilità di un clic o di un acquisto. Tuttavia, questa attenzione all’accuratezza presenta anche degli svantaggi: può portare a bolle di filtraggio e alla formazione di camere dell’eco. Ciò significa che gli utenti vedono sempre più spesso solo contenuti che confermano i loro interessi e che altre prospettive o nuovi contenuti li raggiungono a malapena. Tale meccanismo limita la varietà e la diversità delle informazioni consumate, il che è particolarmente problematico nel caso delle notizie o dei social media. La qualità di un sistema di raccomandazione, quindi, dipende anche dalla varietà e diversità dei contenuti suggeriti. 86 Capitolo 6 Caratteristiche utente (età, genere, ecc.) Caratteristiche prodotto (parole chiave, genere, ecc.) Preferenze dell’utente sul prodotto (Acquisti, clic, ecc.) A B C Prodotto Sistema di raccomandazione Previsioni, cosa potrebbe interessare gli utenti Utente Grafico 4: Rappresentazione schematica di un sistema di raccomandazione. Fonte: Hannes Werthner Conclusioni di questa sezione: Questa sezione illustra i meccanismi di base dei sistemi di raccomandazione che forniscono suggerimenti personalizzati analizzando i dati degli utenti. Risulta chiaro che questi sistemi devono trovare un equilibrio tra accuratezza e diversità per evitare la formazione di bolle di filtraggio e camere dell’eco. L’accuratezza è importante per raccomandare agli utenti i contenuti migliori. La diversità delle raccomandazioni, invece, è fondamentale per offrire agli utenti un’ampia gamma di contenuti e incoraggiare una ricchezza di opinioni. Ciò sottolinea la necessità di non limitarsi a considerazioni tecniche nello sviluppo di sistemi di raccomandazione. I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 87 domande di verifica Sistemi di raccomandazione: concetti e pratiche Quali tipi di dati utilizzano i sistemi di raccomandazione per creare suggerimenti personalizzati? Che cos’è un approccio ai sistemi di raccomandazione basato sui contenuti? Quali sono le sfide poste dalle bolle di filtraggio nei sistemi di raccomandazione? Come possono influenzare la visione del mondo dell’utente? Quali rischi comporta l’attenzione esclusiva all’accuratezza nella previsione del comportamento o del gusto degli utenti nei sistemi di raccomandazione? In che modo gli approcci per aumentare la diversità e l’equità nei sistemi di raccomandazione possono prevenire la formazione di camere dell’eco? 88 Capitolo 6 domande per la discussione Sistemi di raccomandazione: concetti e pratiche 1 Come si possono progettare i sistemi di raccomandazione per raggiungere un equilibrio tra accuratezza e diversità? Nel valutare le raccomandazioni, si potrebbe fare attenzione a non controllare solo quanto sono adatte le proposte formulate, ma anche quanto sono diverse. In questo modo si otterrebbe una maggiore varietà. Un’opzione potrebbe essere quella di combinare diversi metodi in modo da non mostrare solo ciò che piace, ma anche offrire qualcosa di nuovo o diverso da scoprire. Ciò potrebbe aiutare ad ampliare i propri orizzonti e a non rimanere sempre nella propria “bolla”. Un’altra idea potrebbe essere quella di progettare il sistema in modo da suggerire occasionalmente contenuti nuovi o meno familiari, eventualmente anche contraddittori, per rendere la selezione più varia. Quali sfide etiche derivano dall’uso dei dati degli utenti nei sistemi di raccomandazione e come si potrebbero affrontare queste sfide? 2 La protezione dei dati è un problema importante. I dati raccolti su di voi potrebbero essere usati o abusati senza il vostro consenso. Una soluzione potrebbe essere quella di mostrare in modo trasparente per quali finalità vengono utilizzati i dati. Un altro problema è che le raccomandazioni potrebbero inconsapevolmente penalizzare alcuni gruppi. Questo potrebbe essere evitato rivedendo regolarmente e regolando gli algoritmi per garantirne l’equità. C’è anche il rischio che i sistemi vi influenzino troppo e magari mostrino contenuti polarizzanti. Potrebbe essere utile introdurre standard etici rigorosi per gli algoritmi ed effettuare controlli indipendenti per garantire che i contenuti siano scelti in modo equilibrato. I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 89 attività I miei consigli personali Obiettivo: Sensibilizzare i partecipanti sui meccanismi dei sistemi di raccomandazione e incoraggiarli a riflettere sulle proprie esperienze con proposte personalizzate. Materiali: • Schede e penne • Bacheca e puntine Durata: A seconda del numero di gruppi, ma almeno 20 minuti circa 1. Divisione dei partecipanti in squadre: Ogni squadra riceve diverse schede e penne. 2. A ogni squadra viene assegnato il seguente compito: — Sviluppare la propria raccomandazione per un sistema fittizio. I partecipanti devono immaginare di essere loro stessi l’algoritmo e creare una raccomandazione per un utente. 3. Le squadre riflettono su: — La base su cui si è costruita la raccomandazione(p.es. preferenze precedenti, tendenze attuali, età, genere). — Come possono garantire che la raccomandazione sia diversificata e non porti a una bolla di filtraggio. — Come possono integrare l’equità nelle loro raccomandazioni. 4. Presentazione e discussione: — Ogni gruppo presenta i propri risultati agli altri partecipanti. 5. Domande finali per la riflessione: — In che modo i sistemi di raccomandazione influenzano la vita quotidiana dei partecipanti? — Quali responsabilità devono avere gli sviluppatori e gli utenti di tali sistemi? 90 Capitolo 6 I sistemi di raccomandazione come minaccia alla diversità e all’equità? Uno dei problemi principali dei sistemi di raccomandazione è che spesso limitano la diversità dei contenuti, favorendo articoli simili basati su decisioni precedenti e non presentandone altri che si discostano da essi. Eli Pariser(1980) ha coniato il termine“bolle di filtraggio” nel 2011. Per esempio, se qualcuno legge articoli sul tema dell’immigrazione nei social media, il sistema potrebbe suggerire sempre più contenuti su questo argomento, ignorando così altri argomenti interessanti. Di conseguenza, il tema dell’immigrazione è sovra-rappresentato e diminuisce la diversità dei contenuti mostrati. Pariser ha sostenuto che tali filtri e servizi personalizzati sono direttamente collegati all’isolamento e alla divisione sociale, che in ultima analisi portano alla polarizzazione e rappresentano una minaccia per le società democratiche. Diversi studi hanno analizzato il modo in cui il comportamento dell’utente nell’uso dei sistemi di raccomandazione influisce sulla diversità dei contenuti utilizzati. Tuttavia, sono giunti a conclusioni diverse. È stato quindi proposto di introdurre ulteriori classificazioni per distinguere tra i seguenti tipi di bolle di filtraggio: • Bolle di filtraggio tecnologiche: sono create da algoritmi che portano a una diminuzione della varietà di raccomandazioni che un utente riceve nel tempo. • Bolle di filtraggio sociale: si tratta degli effetti sociali delle bolle di filtraggio tecnologiche, in cui la società si divide in gruppi con opinioni molto diverse. Questo processo viene anche definito ipotesi di personalizzazione-polarizzazione. L’importanza della diversità non è solo una questione tecnica, ma anche sociale, poiché in una società democratica i cittadini hanno bisogno di informazioni provenienti da una varietà di fonti con prospettive diverse per prendere decisioni informate. I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 91 Equità e interessi diversi nei sistemi di raccomandazione I sistemi di raccomandazione coinvolgono diverse parti con interessi diversi, che a volte possono essere in conflitto tra loro: • Utenti: vogliono assicurarsi che gli articoli raccomandati siano rilevanti per loro e che essi vengano trattati in modo equo, indipendentemente da caratteristiche come l’etnia o il genere. • Fornitori di prodotti, servizi, contenuti, ecc.: vogliono assicurarsi che i loro contenuti siano raccomandati a parità di condizioni con quelli di altri fornitori. • I gestori dei sistemi di raccomandazione: vogliono massimizzare i benefici per tutti i soggetti coinvolti e assicurarsi i propri vantaggi, per esempio attraverso raccomandazioni particolarmente redditizie. Un esempio tipico di questi problemi di equità sono le raccomandazioni di lavoro su piattaforme come LinkedIn. In questo caso sorgono alcune domande, come: • Le raccomandazioni di offerte di lavoro sono distribuite equamente tra gli utenti? • Le valutazioni di idoneità dei candidati sono corrette o alcuni candidati sono sottovalutati o sopravvalutati? • Gli utenti hanno una buona possibilità di comparire negli elenchi dei risultati quando i reclutatori cercano candidati per una posizione aperta? Inoltre, nei sistemi di raccomandazione sono spesso coinvolte molte altre parti che devono essere prese in considerazione. Lo streaming musicale, per esempio, non coinvolge solo i musicisti stessi, ma anche le case discografiche e i detentori dei diritti, mentre i fattorini giocano un ruolo importante nelle piattaforme di consegna del cibo. Come vedete, l’equità è una questione complessa. 92 Capitolo 6 Conclusioni di questa sezione: La sezione mostra che i sistemi di raccomandazione possono compromettere la diversità e l’equità dando priorità ai contenuti basati sulle preferenze precedenti e non mostrando affatto altri contenuti. Questo può portare a bolle di filtraggio in cui gli utenti sono meno o per nulla confrontati con prospettive diverse. I diversi interessi degli utenti, dei fornitori e dei sistemi stessi possono complicare ulteriormente l’equità, soprattutto in aree complesse come le raccomandazioni di lavoro. È quindi importante che i sistemi di raccomandazione siano sviluppati e regolati con attenzione per evitare pregiudizi e scorrettezze. Considerazioni e sfide Come già detto, i sistemi di raccomandazione spesso si basano in modo eccessivo su dati storici facilmente disponibili e misurabili. In questo modo si trascura la discussione su quanto siano stabili nel tempo gli atteggiamenti e i comportamenti umani e su come misure mirate possano portare a un cambiamento. Molte teorie psicologiche utilizzate nei sistemi di raccomandazione si basano su ricerche più datate, per esempio alcune risalenti agli anni Novanta. Queste teorie si sono spesso rivelate troppo semplicistiche e non riescono a cogliere appieno la natura complessa e dinamica degli atteggiamenti, dei comportamenti, dei pensieri e dei sentimenti umani. Alcuni sistemi di raccomandazione utilizzano modelli di psicologia cognitiva per migliorare il loro funzionamento. I sistemi di raccomandazione basati sulla personalità tengono conto dei tratti della personalità individuale per offrire una selezione più diversificata e personalizzata di raccomandazioni. Un modello ben noto a questo proposito è il Modello a cinque fattori che descrive i tratti della personalità umana. I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 93 Il Modello a Cinque Fattori(FFM), noto anche come Modello dei Big Five o modello OCEAN(Openness, Conscientiousness, Extraversion, Agreeableness, Neuroticism), è un concetto ampiamente utilizzato in psicologia per descrivere i tratti della personalità umana. Il modello identifica cinque dimensioni principali della personalità, considerate fondamentali per caratterizzare una persona. Queste dimensioni sono: 1. Apertura all’esperienza(Opennes to Experience): Descridescrive l’apertura mentale, la curiosità e l’immaginazione in una persona. Le persone con un’elevata apertura tendono a essere creative e desiderose di sperimentare. 2. Coscienziosità: questa dimensione coglie quanto una persona sia organizzata, coscienziosa e affidabile. Le persone con un alto livello di coscienziosità tendono a essere orientate agli obiettivi e disciplinate. 3. Estroversione(Extraversion): si riferisce al grado di socievolezza, energia ed emotività positiva. Le persone estroverse sono socievoli, attive e spesso ottimiste. 4. Gradevolezza/Amicalità(Agreeableness): questa dimensione misura quanto una persona sia cooperativa, compassionevole e di buon carattere. Le persone con un’elevata gradevolezza sono spesso disponibili, amichevoli e altruiste. 5. Nevroticismo(Neuroticism): descrive la tendenza a provare emozioni negative come ansia, insicurezza e tristezza. Le persone con un elevato nevroticismo hanno maggiori probabilità di sperimentare stress e instabilità emotiva. Nella ricerca sui sistemi di raccomandazione, il FFM viene spesso utilizzato per dedurre i tratti della personalità che potrebbero influenzare le preferenze e le decisioni degli utenti. Ciò consente di adattare meglio le raccomandazioni personalizzate alle esigenze e alle preferenze individuali degli utenti. Conclusioni Questo capitolo ha fornito una panoramica sui sistemi di raccomandazione, sulla loro importanza per il web e sul loro potenziale impatto sugli individui e sulla società. Spiegando come funzionano questi sistemi e come vengono valutati e ottimizzati, la discussione si è concentrata sulla diversità e sull’equità. Da queste considerazioni derivano le seguenti indicazioni: • Non ottimizzare solo in base ai dati passati Se i sistemi di raccomandazione si basano solo su modelli storici di dati comportamentali, possono sembrare più efficaci. Ma questo può portare a una minore soddisfazione dell’utente e limitarne l’utilità. Altri aspetti, come la varietà dei prodotti raccomandati sono importanti per giudicare realmente la qualità di un sistema. • D are priorità ai valori sociali In aree importanti per la democrazia – come l’informazione e i media – o per il benessere dell’individuo, per esempio nelle 94 Capitolo 6 raccomandazioni di lavoro, i valori definiti dalla società dovrebbero essere più importanti degli obiettivi dei fornitori di servizi. Questo può essere garantito attraverso politiche e regolamenti. • Considerare i diversi interessi I sistemi di raccomandazione sono complessi e coinvolgono diverse parti interessate con prospettive spesso contrastanti. Le questioni di diversità ed equità devono essere considerate da molteplici punti di vista. In ultima analisi, la società o la comunità interessata dovrebbe decidere quali interessi hanno la precedenza. Conclusioni di questa sezione: I sistemi di raccomandazione sono un potente strumento del web moderno che può avere effetti sia positivi che negativi sugli utenti e sulla società. È fondamentale che lo sviluppo e la valutazione di questi sistemi non si basino solo su criteri tecnici, ma tengano conto anche di aspetti quali la diversità e l’equità. I valori e i bisogni della società dovrebbero avere precedenza sugli interessi economici dei fornitori. Inoltre, la ricerca sui sistemi di raccomandazione deve essere esaminata criticamente per garantire che sia veramente incentrata sull’essere umano e non si basi su fondamenta deboli o imperfette che possono essere potenzialmente pericolose. I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 95 domande di verifica I sistemi di raccomandazione come minaccia alla diversità e all’equità? Cosa si intende per“bolla di filtraggio” in relazione ai sistemi di raccomandazione? Perché la diversità è importante nei sistemi di raccomandazione? Quali interessi devono essere presi in considerazione quando si progettano sistemi di raccomandazione? Che ruolo hanno le bolle di filtraggio tecnologiche e sociali nella limitazione della diversità e come si possono progettare i sistemi in modo da contrastarle? Quali sono le sfide dell’implementazione dell’equità nei sistemi di raccomandazione? In che modo le distorsioni algoritmiche nei sistemi di raccomandazione possono portare allo svantaggio di alcuni gruppi di utenti e quali misure potrebbero fornire un rimedio? 96 Capitolo 6 attività Effetti delle bolle di filtraggio sui giovani Obiettivo: I partecipanti dovranno confrontarsi attivamente con gli effetti delle bolle di filtraggio sui giovani. Esamineranno come le bolle di filtraggio possono influenzare la formazione delle loro opinioni, il loro comportamento e la loro percezione del mondo. Materiali: • Schede e penne • Bacheca e puntine • Adesivi con punteggio per il voto, se necessario Durata: A seconda del numero di gruppi, ma almeno 20 minuti circa 1. I partecipanti vengono divisi in gruppi: Ogni gruppo riceve diverse schede e penne. 2. A ciascun gruppo vengono assegnati i seguenti compiti: — Identificare le diverse aree in cui i giovani potrebbero essere particolarmente colpiti dalle bolle di filtraggio (p.es. social media, notizie, musica). — Discutere su come le bolle di filtraggio possano influenzare l’immagine di sé e la percezione degli altri da parte dei giovani. — Sviluppare una breve storia o uno scenario che mostri come un giovane sia influenzato da una bolla di filtraggio. — I risultati vengono annotati sulle schede. 3. Presentazione e discussione: Ogni gruppo presenta i propri risultati agli altri partecipanti. I partecipanti discutono poi insieme gli scenari presentati. Le domande chiave possono essere: — In che misura le bolle di filtraggio possono distorcere la visione del mondo da parte dei giovani? — In quali pericoli si incorre se ai giovani viene data solo una visione limitata del mondo? — Quali strategie possono utilizzare i giovani per uscire dalle loro bolle di filtraggio? I SISTEMI DI RACCOMANDAZIONE E IL LORO IMPATTO SU PLURALITÀ ED EQUITÀ 97 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 7 LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB I pregiudizi sono onnipresenti, a volte evidenti, spesso nascosti, e nascono da ciò che manca nella nostra conoscenza o nei dati. Questo capitolo spiega cosa sono i pregiudizi, come si originano e come permangono. Mostra anche come confluiscono nei sistemi informatici e possono essere amplificati dagli algoritmi. Per illustrare il problema, si utilizza il web come il più grande archivio di informazioni creato dall’umanità. Un elemento fondamentale per combattere i pregiudizi è essere consapevoli della loro esistenza. Questo capitolo si basa sul saggio“Bias and the Web” di Ricardo Baeza-Yates e Leena Murgai, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook.: Springer, 2024. DOI: 10.1007/978-3-031-45304-5_28. Introduzione La nostra tendenza naturale a privilegiare certe opinioni o cose rispetto ad altre, influenza molte aree della nostra vita e porta a sviluppare pregiudizi più o meno visibili in tutto ciò che facciamo. La presenza dei pregiudizi nell’essere umano non è una novità, dal momento che sono sempre esistiti nella cultura e nella storia. Tuttavia, con l’evoluzione di internet e del web, essi possono diffondersi più velocemente e più estesamente. Di conseguenza, negli ultimi anni il loro impatto è considerato un tema importante e spesso controverso. Qualsiasi strategia per combattere i pregiudizi inizia con un’attività di sensibilizzazione mirata a favorire la presa di coscienza. Anche se tale attività da sola non risolve il problema, è un primo passo importante. Le società progressiste riconoscono i pregiudizi sociali e identificano alcune caratteristiche sensibili, come il genere, l’etnia o la religione, che possono dar luogo a pregiudizi sistemici e adottano contro-misure per contrastarli. Ciò è particolarmente importante quando si tratta di sviluppare algoritmi che hanno un impatto significativo sulle persone. L’obiettivo è aumentare la consapevolezza della presenza di pregiudizi nel web per creare un ambiente digitale che vada a beneficio di tutti, non solo di pochi privilegiati. Pregiudizio I pregiudizi spesso derivano da una mancanza di informazioni o da una conoscenza incompleta. Queste lacune nei dati non sono insignificanti, poiché influenzano il modo in cui vengono progettati prodotti, servizi e sistemi. Se mancano informazioni su alcuni gruppi, ad esempio, le loro esigenze non vengono prese in considerazione nella fase di progettazione di sistemi o prodotti che loro possono utilizzare. Un esempio è il divario di dati specifici relativi al genere per certi ambiti, come quelli relativi ad alcune malattie o alla sicurezza delle automobili. Questo implica che le donne sono sottorappresentate in essi, e di conseguenza possono avere più spesso diagnosi errate ed essere più a rischio negli incidenti stradali. Un altro aspetto importante è come i pregiudizi vengono definiti e rilevati. Da un punto di vista statistico, si usa il termine inglese bias per indicare una deviazione sistematica che deriva da una raccolta di dati imprecisa o errata. Poiché il valore reale è spesso sconosciuto, i dati 100 Capitolo 7 sono sempre una rappresentazione distorta della realtà. Per esempio, le categorie utilizzate per classificare le persone sono spesso distorte perché si basano su giudizi soggettivi. I dati su una persona sono quindi sempre incompleti. I pregiudizi influenzano la nostra percezione del mondo in modi invisibili e profondi. Gli studi dimostrano che i risultati delle ricerche su internet spesso rafforzano gli stereotipi di genere e possono modificare la percezione della realtà. Questi pregiudizi su internet contribuiscono a perpetuare le gerarchie sociali e ostacolano il progresso sociale. Misurare i pregiudizi è difficile, soprattutto quando non esistono chiari valori comparativi. Per la distribuzione delle risorse, si potrebbe assumere come standard l’uguaglianza, ma per una variabile sociale come l’influenza di una persona su un’altra, il valore di riferimento corretto è spesso poco chiaro. I pregiudizi culturali derivano da norme e credenze condivise nelle comunità. Questi pregiudizi ci portano ad avere inconsciamente delle opinioni su persone e cose prima di conoscerle realmente. Un ’istruzione che promuove la diversità è il mezzo più importante per combattere i pregiudizi. Molti algoritmi sul web si basano su grandi quantità di dati, che possono essere distorti. Una tale situazione porterà ad algoritmi distorti, che quindi amplificheranno le distorsioni iniziali. Il pregiudizio può riguardare le attività degli utenti, i dati, le informazioni e gli sviluppatori, in una sorta di circolo vizioso che aggrava ulteriormente la presenza di pregiudizi nel web(vedi Grafico 5). Il termine“bias” deriva dal francese(“biais”) e successivamente è entrato nella lingua inglese. Originariamente era usato per descrivere una direzione obliqua o deviante, soprattutto in relazione a una palla o a un oggetto che non rotola dritto. Nel corso del tempo, il termine è stato usato metaforicamente per descrivere un’inclinazione o una tendenza che non è neutrale e implica una distorsione o un pregiudizio in determinati contesti. Oggi il termine“bias” è spesso usato in contesti scientifici, psicologici e statistici per descrivere errori sistematici o distorsioni che possono influenzare l’obiettività e l’accuratezza di dati, decisioni o opinioni. LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB 101 Distorsioni sistemiche sul web Web 3 Dati 2 Misura 1 Attività 4 Selezione 5 Sviluppatore Algoritmo 6 Algoritmo 8 Preferenza 7 Interazione Grafico 5: Il circolo vizioso dei pregiudizi sul web. Fonte: Baeza-Yates e Murgai, DoI: 10.1007/978-3-031-45304-5_28 Alcune delle componenti che contribuiscono alla distorsione nel web, mostrate nel grafico 5, sono spiegate di seguito. Pregiudizi nelle attività: la saggezza di pochi Uno studio del 2011 ha dimostrato che il primo 0,05% delle persone più popolari su Twitter(adesso chiamato X) attira quasi il 50% dell’attenzione totale. Ciò significa che la metà degli utenti di Twitter segue solo un piccolo gruppo di personaggi famosi. In altre parole, abbiamo una maggioranza silenziosa che si limita a guardare il web senza contribuirvi in alcun modo, che è una distorsione relativa alle attività degli utenti. Tale situazione solleva la questione su quale sia la reale percentuale di utenti attivi nel web che produce la maggior parte dei contenuti. 102 Capitolo 7 1 Attività: gli utenti attivi sono sovrarappresentati. 2 Misura: differenza tra la realtà e la sua rappresentazione digitale. 3 Dati: per esempio i testi in lingua inglese sono sovrarappresentati sul web. 4 Selezione: i dati sono mal selezionati. 5 Sviluppatore: le opinioni soggettive si riflettono nel codice o nella selezione dei dati. 6 Algoritmo: il sistema è sistematicamente ingiusto nei confronti di alcuni gruppi. 7 Interazione: il modo in cui i contenuti vengono visualizzati determina la reazione degli utenti. 8 Preferenza: ciò che uno preferisce determina quali dati vengano mostrati. Un altro studio del 2022 ha esaminato il coinvolgimento su X e ha rilevato che circa il 90% delle persone si comporta in modo passivo. Le interazioni che richiedono un clic(p.es. i like o i clic sul profilo) sono state effettuate dalla metà degli utenti, mentre i retweet, le risposte e i tweet di citazione provengono prevalentemente dal 10% più attivo degli utenti. Anche in questo caso è emerso che l’1% degli autori ha generato l’80% delle visualizzazioni. . Pregiudizi nei dati I dati presenti sui social media sono molti di più, molto più parziali e senza dubbio di qualità inferiore rispetto ai dati raccolti da agenzie governative, università e altre istituzioni, che vengono spesso pubblicati dopo un’attività di revisione paritaria. Anche altri pregiudizi hanno un impatto sulla qualità dei dati, come la sottorappresentazione delle donne sia nei contenuti di Wikipedia che tra i redattori dei contenuti. Ad esempio, solo il 9% dei redattori di Wikipedia in lingua inglese è donna. Un altro esempio è che i contenuti in lingua inglese sono sovra-rappresentati nel web, mentre solo il 15% della popolazione mondiale ha l’inglese come prima o seconda lingua. Queste distorsioni nei dati sono difficili da misurare e influenzano l’accuratezza predittiva degli algoritmi che utilizzano l’apprendimento automatico. Prima di tutto, i dati presenti nel web spesso non rappresentano in modo fedele la popolazione, il che può portare a errori significativi negli studi che si basano sui dati presenti in esso. Di conseguenza, i risultati non possono essere automaticamente trasferiti all’intera popolazione. In aggiunta, ulteriori errori derivano da campioni distorti dei dati, ad esempio a causa di imprecisioni nella selezione dei dati in cui alcuni gruppi risultano sovra-rappresentati o sotto-rappresentati, o a causa di campioni troppo piccoli, che non permettono analisi affidabili. Pregiudizi negli sviluppatori La scarsa diversità di genere tra gli sviluppatori, soprattutto nei sistemi basati sui dati, è un problema importante. Circa l’80% degli sviluppatori di software sono uomini, il che significa che ci sono LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB 103 quattro uomini per ogni donna. In aree specializzate come la ricerca sull’IA, la percentuale di donne è ancora più bassa: nel 2020, solo il 16,1% del personale docente universitario permanente nel settore dell’informatica era costituito da donne, e nelle grandi aziende tecnologiche come Facebook e Google, la percentuale di ricercatrici di IA era rispettivamente solo del 15% e del 10%. È importante che le donne siano maggiormente rappresentate nello sviluppo di queste tecnologie per evitare gli errori che derivano da una prospettiva unilaterale. Gli studi dimostrano che una maggiore diversità di opinioni aiuta a riconoscere e correggere più rapidamente gli errori. Distorsioni deliberate sul web Pregiudizi nell’informazione Sulle piattaforme di social media esiste un grave problema di contenuti generati da bot, che rappresentano disinformazione e contenuti falsi e che spesso si diffondono più rapidamente delle notizie reali. Uno studio del 2020 ha dimostrato che quasi il 45% dei circa 200 milioni di tweet sul COVID-19 proveniva da bot. Questi bot hanno anche diffuso false teorie, come l’affermazione che lo standard di telefonia mobile 5G causasse malattie, facendo sì che in Inghilterra si desse fuoco a delle antenne-5G. Un altro problema è rappresentato dagli algoritmi delle piattaforme di social media, che sono progettati per legare gli utenti alla rispettiva piattaforma. Questo può contribuire alla diffusione di discorsi di odio e di violenza, soprattutto nelle regioni in conflitto. In Myanmar, p.es. Facebook è stato accusata di aver contribuito ad amplificare i discorsi di odio, situazione seguita dal genocidio contro i Rohingya. Un impatto simile si è avuto nella diffusione d’informazione sulle violenze nel Tigray, in Etiopia, dove imperversa una delle guerre civili più letali degli ultimi anni. 104 Capitolo 7 Conclusioni di questa sezione: Le distorsioni sul web sono spesso causate da una combinazione di fattori, tra cui una partecipazione non equilibrata degli utenti, insiemi di dati errati e una composizione di genere sbilanciata nei gruppi di sviluppatori. Questi pregiudizi influenzano le informazioni che vengono presentate e il modo in cui vengono elaborate. Il fatto che possano essere ulteriormente amplificati dagli algoritmi, con un impatto negativo sull’accuratezza e l’equità dei contenuti online, è particolarmente problematico. Per ridurre questi pregiudizi, è importante aumentare la diversità tra gli sviluppatori ed essere critici nei confronti delle fonti delle informazioni che vengono presentate. Conclusioni Il problema dei pregiudizi è a più livelli e non riguarda solo il web. Quello che abbiamo discusso è solo una piccola parte dell’intero quadro. I nostri pregiudizi – sia come individui che come società – sono alla base di molte valutazioni errate o non accurate della realtà. Questi pregiudizi non riguardano solo il web, ma anche l’uso dei dispositivi mobili e dell’internet delle cose. Anche se cerchiamo di essere imparziali, i nostri pregiudizi culturali e cognitivi possono influenzarci. Il passo più importante per combattere i pregiudizi è diventarne consapevoli. Solo in questo modo possiamo cercare di ridurli. Altrimenti, rischiamo di vivere in un mondo in cui le decisioni si basano su percezioni distorte e la diversità ha poche possibilità di esprimersi. LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB 105 domande di verifica Distorsioni sistemiche sul web In che modo i pregiudizi culturali e cognitivi influenzano la progettazione e l’uso dei contenuti web e quale impatto hanno sulla percezione della realtà da parte degli utenti? Cosa si intende per “pregiudizi nell’attività” nel contesto dei social media e quale impatto ha sulla distribuzione delle attività? In che modo il pregiudizio nei dati influisce sulla qualità delle informazioni diffuse sui social media e su altre piattaforme web? Perché la diversità di genere degli sviluppatori è importante per evitare pregiudizi nei sistemi basati sui dati? 106 Capitolo 7 domande per la discussione Distorsioni sistemiche sul web In che misura i social media e i loro algoritmi contribuiscono alla 1 polarizzazione dei contenuti e cosa si potrebbe fare per attenuarla? Possibili discussioni: i social media rafforzano la polarizzazione dando priorità ai contenuti che generano alti livelli di interazione, che spesso sono argomenti emotivi e controversi. Questo meccanismo crea bolle di filtraggio e camere dell’eco in cui gli utenti vedono solo opinioni simili. Le misure di attenuazione potrebbero includere una modifica degli algoritmi per promuovere prospettive diverse e facilitare l’accesso a informazioni equilibrate. Quali sono le considerazioni etiche da tenere in considerazione per evitare 2 pregiudizi e discriminazioni quando si sviluppano algoritmi e sistemi basati sui dati? Possibile discussioni: gli sviluppatori devono assicurarsi che i dati di addestramento siano diversificati e rappresentativi per ridurre al minimo i pregiudizi. Anche la trasparenza è importante, in modo che il pubblico possa capire come vengono prese le decisioni. Controlli regolari e cicli di valutazione da parte dei gruppi interessati possono contribuire a ridurre al minimo la discriminazione e a garantire sistemi equi. LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB 107 attività Detective del web: rintracciare i pregiudizi su internet Obiettivo: I giovani dovrebbero imparare ad affrontare in modo più consapevole i pregiudizi e le distorsioni presenti su internet e a valutare criticamente quali informazioni presenti sul web possono essere distorte o di parte. Materiali: • Smartphone o notebook (per le ricerche) • Lavagne • Penne, schede Durata: 60 minuti 1. Introduzione: Iniziare con una breve spiegazione del significato di pregiudizio nella rete. Ripetere che gli algoritmi e i dati sul web non sono neutrali e favoriscono determinate opinioni o contenuti. Un esempio illustrativo tratto dalla vita quotidiana dei giovani(p.es. il fatto che i social media mostrino spesso contenuti simili) può facilitare l’inizio. 2. Compito –“Trova il pregiudizio!”: I giovani vengono divisi in piccoli gruppi. A ciascun gruppo viene affidato il compito di cercare su internet un argomento a scelta(p.es. clima, moda, musica, giochi). Devono utilizzare diverse fonti(Google, social media, Wikipedia) e valutare se scoprono distorsioni o pregiudizi. Ci sono alcune opinioni che compaiono più frequentemente? Alcuni argomenti o gruppi sono più rappresentati di altri?(Vedi anche esempi)* 3. Discussione nel gruppo: Ciascun gruppo condivide le proprie scoperte e discute i casi in cui hanno trovato pregiudizi o distorsioni. Dovrebbero fare particolare attenzione alla pubblicità, ai risultati delle ricerche e ai contenuti personalizzati. 4. Presentazione dei risultati: Ogni gruppo presenta i propri risultati spiegando dove ha trovato eventuali pregiudizi e quali effetti potrebbero avere sulla sua percezione. 5. Riflessione e conclusione: Insieme, ognuno riflette su ciò che ha imparato. Come possono essere più consapevoli del modo in cui utilizzano le informazioni provenienti dal web? Ci sono misure che possono adottare per difendersi da manipolazioni e pregiudizi? 108 Capitolo 7 — Esempi di distorsione: I giovani cercano informazioni sul tema del “cambiamento climatico” su varie piattaforme, p.es. su YouTube e Instagram. — Ricerca su Youtube: Un gruppo inserisce il termine“cambiamento climatico” su YouTube e guarda i primi risultati. Possibile pregiudizio: YouTube potrebbe dare priorità ai video pseudoscientifici. — Ricerca su Instagram: Lo stesso gruppo cerca“cambiamento climatico” su Instagram. Possibili pregiudizi: gli algoritmi di Instagram possono tendere a favorire i contenuti che sono più provocatori ed emotivi perché tali post vengono condivisi più frequentemente. Ciò potrebbe favorire la diffusione di informazioni distorte o false, inducendo gli utenti a percepirle come più credibili. LE DISTORSIONI IN RETE: I PREGIUDIZI SUL WEB 109 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 8 LA NECESSITÀ DI PROTEGGERE LA PRIVACY In questo capitolo viene analizzato il rapporto conflittuale tra sorveglianza e privacy. Le aziende raccolgono dati personali su larga scala e li commercializzano utilizzandoli per pubblicità mirate e altri scopi commerciali. Allo stesso tempo, ci sono a volte ragioni comprensibili per la sorveglianza, per esempio nell’ambito della sicurezza o dell’assistenza sanitaria. Per questo motivo, occorre sempre valutarla con attenzione e prevenirne l’abuso. La tutela della privacy è fondamentale per mantenere la fiducia degli utenti nella tecnologia ed evitare che la sorveglianza limiti la libertà e l’autonomia delle persone. Questo capitolo si basa sul saggio“The threat of Surveillance and the Need for Privacy Protections” di Martina Lindorfer, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_37. Introduzione La tecnologia digitale è ormai una parte essenziale della nostra vita quotidiana. La utilizziamo in vari modi, dalla comunicazione via e-mail, chat e social network alle transazioni commerciali e bancarie. Spesso e volentieri riveliamo i nostri dati personali per entrare in contatto con gli altri online o per completare determinate transazioni e attività. Le applicazioni e i siti web raccolgono sempre più informazioni private. Con la crescente popolarità dei dispositivi della“Internet delle cose” ( Internet of Things – IoT), condividiamo ancora di più le nostre vite e le abitudini quotidiane per godere della comodità delle case intelligenti ( smart home). Ciò include non solo dispositivi come tostapane e lampadine intelligenti, ma anche dispositivi medici, fitness tracker, nonché televisori intelligenti( smart TV) e dispositivi in grado di monitorare le abitudini di visione degli utenti in tempo reale e di collegarli ad altri profili. Le aziende raccolgono questi dati dalle app mobili, dal comportamento di navigazione, dai social media e da tutti i dispositivi con cui interagiamo per creare profili dettagliati degli utenti. Queste informazioni private e i comportamenti che ne derivano sono diventati una merce: le grandi aziende tecnologiche e i commercianti di dati raccolgono e vendono questi dati non solo per offrire contenuti personalizzati, ma anche per ricerche di mercato e pubblicità mirata. Questo fenomeno è noto come capitalismo della sorveglianza(cfr. pagina 16). Spesso questi processi non sono trasparenti perché vengono utilizzati metodi di tracciamento di difficile comprensione. Inoltre, i dati raccolti non sono sempre sicuri: numeri di previdenza sociale, indirizzi, dati finanziari e altre informazioni sensibili di miliardi di utenti possono essere resi pubblici e utilizzati per scopi criminali. Ciò che è ancora più preoccupante è che la profilazione comportamentale, in cui vengono creati profili di utenti basati sulla storia del loro comportamento in rete, non viene utilizzata solo per la pubblicità, ma anche per manipolare l’opinione pubblica e politica. Un esempio ben noto è il caso Cambridge Analytica, in cui i dati degli utenti di Facebook sono stati venduti per influenzare le elezioni attraverso campagne politiche. 112 Capitolo 8 Sorveglianza contro privacy Sorveglianza e privacy sono spesso viste in opposizione, ma idealmente dovrebbero completarsi a vicenda. La sorveglianza può essere necessaria per garantire la sicurezza della società, p.es. nell’applicazione della legge e nella lotta alla criminalità. Un esempio è l’uso delle telecamere di sorveglianza, le cui registrazioni hanno contribuito a risolvere reati come l’attentato alla maratona di Boston nel 2013 o l’attacco al Campidoglio degli Stati Uniti nel 2021. Come sempre, però, limitare la sorveglianza è fondamentale per garantire la privacy. La privacy è un diritto umano fondamentale. Questo diritto è incluso nella Convenzione europea dei diritti dell’uomo come articolo 8 “Diritto al rispetto della vita privata e familiare”, ed è anche protetto dal Regolamento generale sulla protezione dei dati(GDPR) all’interno dell’Unione Europea. Queste leggi garantiscono che i dati personali siano protetti e che le persone mantengano il controllo sui propri dati. Tutti hanno il diritto alla privacy e alla protezione dei propri dati personali e delle proprie attività online. Ci sono categorie (professionali e non) che sono particolarmente a rischio di essere monitorate. Tra queste vi sono attivisti politici, giornalisti, informatori, persone LGBT+, minoranze etniche e religiose e molti altri. Il Regolamento generale sulla protezione dei dati(GDPR) è una legge sulla protezione dei dati introdotta dall’Unione Europea(UE) nel 2018. L’obiettivo del GDPR è dare alle persone un maggiore controllo sui propri dati personali e garantire che le aziende gestiscano questi dati in modo responsabile. Il consenso è un elemento centrale del GDPR: le aziende devono ottenere il consenso chiaro ed esplicito degli interessati prima di raccogliere ed elaborare i loro dati. Gli interessati hanno anche il diritto di sapere come vengono utilizzati i loro dati, di ritirare il loro consenso e di richiedere la cancellazione dei loro dati. Il GDPR è un’importante normativa volta a garantire la protezione dei dati personali. Leggi simili esistono anche in altri Paesi, come il California Consumer Privacy Act(CCPA) negli Stati Uniti, la legge brasiliana sulla protezione dei dati(LGPD), la legge canadese sulla protezione delle informazioni personali e dei documenti elettronici(PIPEDA) e il Data Protection Act 2018(DPA) del Regno Unito. . la necessità D I P R OT E G G E R E L A P R I VAC Y 113 Vantaggi del monitoraggio Protezione e sicurezza: la sorveglianza può aiutare a evitare attività criminali, terrorismo e altre minacce. Le telecamere di sicurezza nei luoghi pubblici possono prevenire i reati e le loro registrazioni possono essere di supporto alle forze dell’ordine. Salute: la sorveglianza può aiutare a controllare le epidemie e a monitorare i tassi di diffusione. In situazioni di emergenza, come una pandemia, può contribuire in modo decisivo a riconoscere e fermare la diffusione delle malattie. Gestione del traffico: il monitoraggio del flusso del traffico può aiutare a ridurre al minimo la congestione e a pianificare i miglioramenti necessari all’infrastruttura. Rischi del monitoraggio Invasione della privacy: la sorveglianza può violare il diritto alla privacy e far sentire a disagio le persone monitorate. Questo può portare le persone a esprimere meno liberamente le proprie opinioni. Abuso di potere e discriminazione: i governi e le aziende possono utilizzare la sorveglianza per controllare o manipolare le persone monitorando i loro movimenti e le loro attività e per discriminare alcuni gruppi in base a fattori quali la razza, la religione o le convinzioni politiche. Mancanza di trasparenza: senza un controllo sufficiente, la sorveglianza può portare ad abusi e violazioni dei diritti umani. Se la sorveglianza viene effettuata senza adeguata informazione, le persone interessate non sanno di essere monitorate e non sono quindi in grado di proteggersi. Conclusioni di questa sezione: La sorveglianza può essere fondata, ma può anche essere male utilizzata e avere conseguenze negative per gli individui e per la società nel suo complesso. È quindi importante considerare attentamente l’equilibrio tra privacy e sicurezza e garantire che la sorveglianza sia condotta in modo trasparente, responsabile ed etico, in modo da proteggere soprattutto i gruppi vulnerabili. 114 Capitolo 8 domande di verifica Sorveglianza contro privacy Che cosa significa il termine “Capitalismo di sorveglianza”? Quali sono i rischi e i potenziali benefici della sorveglianza aziendale e governativa? Come si possono conciliare questi due aspetti? Qual è l’obiettivo principale del Regolamento generale sulla protezione dei dati(GDPR)? In che modo l’introduzione di standard internazionali di protezione dei dati può contribuire a proteggere la privacy a livello globale e quali sono le sfide da affrontare per la loro attuazione? Che ruolo hanno tecnologie come l’anonimizzazione e la crittografia per limitare la sorveglianza e proteggere la privacy degli utenti? la necessità D I P R OT E G G E R E L A P R I VAC Y 115 domande per la discussione Sorveglianza contro privacy Come si può trovare un equilibrio tra la sorveglianza necessaria per 1 garantire pubblica sicurezza e la protezione della privacy dei cittadini? Le possibili risposte potrebbero riguardare la necessità di tecniche di sorveglianza trasparenti e responsabili e di quadri di riferimento giuridici che impediscano l’uso improprio dei dati di sorveglianza. Quali rischi comporta la diffusa raccolta ed elaborazione di dati personali da parte delle aziende, e in che modo ciò potrebbe influire sulla 2 libertà e sull’autonomia individuale? Le discussioni potrebbero includere gli effetti sulla privacy quali la possibile manipolazione delle opinioni attraverso la pubblicità mirata e l’abuso di potere da parte delle aziende. 116 Capitolo 8 Misure di tutela della privacy Esistono diverse misure che possono essere adottate per proteggere la privacy. Tali misure possono essere attuate da singoli individui, sviluppatori di app, aziende o governi. Esse comprendono approcci tecnici, organizzativi e politici. Spesso è necessario combinare queste misure, a seconda dei rischi per la privacy. • Privacy in fase di progettazione( Privacy by Design): la protezione dei dati deve essere parte integrante dello sviluppo di un prodotto o di un servizio fin dall’inizio. • Privacy per impostazione predefinita( Privacy by Default): le impostazioni più favorevoli alla privacy dovrebbero essere attivate come impostazione predefinita, in modo che gli utenti debbano accettare di aderire alla raccolta dei loro dati prima che questi vengano raccolti( opt-in) anziché decidere a posteriore di negare il consenso( opt out). • Proteggere e migliorare la privacy: i dati personali degli utenti devono essere gestiti in modo da proteggere la loro privacy senza che ne risenta la funzionalità di un’applicazione o di un servizio. Misure tecniche • — Controlli di accesso: meccanismi che consentono l’accesso alle informazioni sensibili solo alle persone autorizzate, come la protezione con password e l’autenticazione a più livelli. • — Crittografia: le informazioni vengono crittografate in modo che possano essere lette solo dalle persone autorizzate. In questo modo si proteggono i dati da accessi non autorizzati, sia da parte di persone che utilizzano lo stesso Wi-Fi pubblico, sia da parte dei fornitori di internet e delle autorità. Ne sono un esempio il protocollo HTTPS per i siti web, le e-mail crittografate e le piattaforme di messaggistica crittografate end-to-end come Messenger, WhatsApp e Signal. Anche le reti private virtuali(VPN) e Tor offrono protezione attraverso la crittografia. La rete Tor consente l’uso anonimo di internet instradando i dati attraverso diversi server criptati. Tor protegge gli utenti dall’analisi del loro traffico di dati ed è quindi utilizzato anche per attività criminali. la necessità D I P R OT E G G E R E L A P R I VAC Y 117 • Anonimizzazione: è la rimozione di informazioni di identificazione personale dai record di dati per proteggere la privacy. La pseudoanonimizzazione è una forma più debole in cui i dati non possono essere associati direttamente a un utente. Tuttavia, è spesso difficile da implementare. • Minimizzazione dei dati e livello di granularità: bisognerebbe raccogliere solo la quantità minima di dati necessari per l’erogazione dei servizi. Ove possibile, si devono utilizzare dati sfumati, p.es. la città invece dell’indirizzo esatto. • Nuove tecnologie per migliorare la privacy: tecnologie come la Differential Privacy rappresentano ulteriori misure di protezione. Misure organizzative • Politiche sulla privacy: spiegano in modo chiaro come un’organizzazione gestisce i dati e quali diritti ha l’individuo. Creano trasparenza e responsabilità. • Formazione interna: sensibilizzazione all’interno di un’organizzazione sui rischi della protezione dei dati e sulle migliori pratiche per gestire violazioni involontarie o intenzionali. È importante che i dipendenti comprendano come gestire i dati raccolti. I rapporti mostrano che i dipendenti delle aziende tecnologiche hanno spesso un ampio accesso a dati sensibili. • Accesso alle telecamere di sicurezza: Thè stato riferito che i produttori di telecamere di sorveglianza concedono ai propri dipendenti l’accesso illimitato alle registrazioni. Ciò solleva notevoli problemi di privacy, soprattutto quando i dipendenti possono visualizzare video in diretta o registrati dalle case degli utenti senza che questi ne siano a conoscenza o abbiano dato il loro consenso. Per esempio, è stato riferito che i dipendenti di aziende come Ring(di proprietà di Amazon) hanno avuto accesso alle registrazioni video dei clienti, che potrebbero essere utilizzate in modo improprio. • Trascrizioni di altoparlanti intelligenti( smart): problemi di privacy simili si sono verificati con gli altoparlanti intelligenti, quando dipendenti e appaltatori di aziende come Amazon hanno trascritto registrazioni vocali da dispositivi come Alexa senza informare 118 Capitolo 8 esplicitamente gli utenti. Queste registrazioni possono essere conversazioni sensibili e private, il che solleva questioni su come gestirli e accedervi. • Valutazioni d’impatto sulla protezione dei dati: valutazioni sistematiche dei potenziali rischi per la protezione dei dati di processi e tecnologie nuovi o modificati, al fine di riconoscere e affrontare i rischi in una fase iniziale. Misure politiche • Leggi sulla protezione dei dati: quadri di riferimento giuridici, come ad esempio il GDPR nell’UE, che definiscono le modalità di raccolta, conservazione e utilizzo dei dati personali. Queste leggi conferiscono alle persone diritti quali l’accesso ai propri dati, il diritto alla rettifica o alla cancellazione e stabiliscono sanzioni in caso di uso improprio. • Accordi internazionali: quadri normativi condivisi, come ad esempio il Data Privacy Framework tra UE e USA(che dal luglio 2023 sostituisce il precedente“scudo per la privacy” Privacy Shield), contribuiscono a stabilire standard globali di protezione dei dati e a facilitare la protezione transfrontaliera dei dati. • Advocacy e attivismo: la formazione sui rischi della protezione dei dati è fondamentale per responsabilizzare le organizzazioni e i governi e per influenzare le politiche pubbliche a favore della protezione dei dati. Conclusioni di questa sezione: Nonostante i progressi tecnologici e i quadri normativi, la protezione dei dati personali rimane una sfida complessa, soprattutto in considerazione del potenziale di abuso da parte di dipendenti interni e del fatto che spesso i sistemi non sono adeguatamente protetti. È fondamentale che le organizzazioni e i governi continuino a implementare e applicare politiche rigorose di protezione dei dati per mantenere la fiducia degli utenti e proteggere la loro privacy. la necessità D I P R OT E G G E R E L A P R I VAC Y 119 domande di verifica Misure di tutela della privacy A quali misure ci si riferisce nel GDPR come“Privacy in fase di progettazione” ( by design) e“Privacy per impostazione predefinita”( by default), e cosa significano questi termini? Quali misure tecniche possono essere adottate per proteggere la privacy degli utenti? Perché la formazione dei dipendenti è importante in relazione ai rischi di protezione dei dati e quali problemi sono stati associati in passato? Che ruolo hanno le leggi sulla protezione dei dati come il GDPR nella salvaguardia dei dati e come influenzano il comportamento delle aziende? In che misura la“Privacy in fase di progettazione” può rafforzare la sicurezza dei dati e quali vantaggi offre rispetto a misure di sicurezza successive? 120 Capitolo 8 attività “Cipolla dei dati” Obiettivo: I partecipanti devono essere in grado di riconoscere il collegamento tra i dati da loro condivisi e le informazioni che se ne possono ricavare. Opzionale: Se si vuole, si può disegnare una“cipolla dei dati” su una lavagna; i partecipanti considerano in modo indipendente quali conclusioni si possono trarre dalla divulgazione di quali dati, annotano queste considerazioni su schede e le assegnano ai singoli strati della cipolla. 1. Visitare il sito web: https://internethealthreport.org/2019/show-me-my-dataand-ill-tell-you-who-i-am/ che mostra, con un diagramma “a cipolla”, cosa una persona condivide quando accede a un sito, cosa mostra il suo comportamento sul sito, cosa deduce il sito sulla base dei suoi algoritmi. Il sito è in inglese ma può essere facilmente compreso, anche eventualmente aiutandosi con un traduttore automatico. 2. Discutere e constatare insieme: I partecipanti cliccano sui singoli strati della cipolla di dati e riflettono sul loro comportamento in rete. — Quali sono i dati che i partecipanti condividono online quotidianamente? — Cosa potrebbero rivelare questi dati? — Cosa“pensano” i siti web dei partecipanti e quali conseguenze questo può avere? 3. Riflessione e conclusione: — Discussione in comune sull’importanza della protezione dei dati e della privacy. — Quali sono le misure più efficaci per proteggere la privacy (di tipo tecnico, organizzativo, politico)? la necessità D I P R OT E G G E R E L A P R I VAC Y 121 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 9 LA MODERAZIONE ALGORITMICA DEI CONTENUTI Il capitolo spiega come funziona il controllo automatico dei contenuti – noto come moderazione algoritmica dei contenuti – sul web e le sfide ad esso associate. Gli algoritmi aiutano a controllare i contenuti sui social media e su altre piattaforme online per garantire che siano appropriati e legali. Tuttavia, possono sorgere dei problemi perché, ad esempio, è difficile determinare l’esatto significato dei testi, soprattutto quando si tratta di testi umoristici o ironici. Nel capitolo viene anche discusso come gli algoritmi possono limitare la libertà di espressione e rafforzare i pregiudizi esistenti nella società, e anche come possono essere utili per promuovere discussioni costruttive e rendere più visibili le voci dei gruppi sotto-rappresentati. Poiché la tecnologia digitale è in continua evoluzione, queste sfide rimangono attuali e richiedono ulteriori ricerche e discussioni. Questo capitolo si basa sul saggio“on Algorithmic Content Moderation” di Erich Prem e Brigitte Krenn, in Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_30. Introduzione Per moderazione algoritmica dei contenuti si intende l’utilizzo di programmi informatici per moderare i contenuti sul web, in particolare sulle piattaforme di social media. Questi programmi spesso lavorano insieme a moderatori umani, ma la tendenza è quella di automatizzare sempre di più la moderazione dei contenuti, perché la loro quantità è in costante crescita e i programmi sono in grado di elaborarli più velocemente. Le ragioni per cui i contenuti vengono controllati ed eventualmente rimossi sono diverse: ad esempio, perché violano i diritti d’autore o contengono contenuti illegali, o perché infrangono le regole delle piattaforme. Sebbene la tecnologia alla base della moderazione dei contenuti esista da tempo, è diventata veramente importante solo con l’avvento dei principali social network. Questi network rendono possibile che le informazioni false(cosiddette fake news) si diffondano rapidamente o che le persone vedano solo contenuti che confermano la loro opinione. Questi fenomeni possono essere ulteriormente intensificati dall’uso di piattaforme online, in assenza di comunicazione dirette tra le persone. La moderazione dei contenuti è importante anche perché la discussione pubblica si sta spostando sempre più sui social media. Motivi della moderazione algoritmica dei contenuti Ci sono diversi motivi per controllare i contenuti generati dagli utenti. 1. Requisiti legali: in Austria, la legge sui media stabilisce che i fornitori di media, come i giornali online, sono responsabili dei contenuti pubblicati sui loro siti web. Le piattaforme di social media come Facebook, Twitter o TikTok sono fenomeni globali che richiedono norme internazionali. Un esempio è il Legge sui Servizi Digitali dell’UE, che regolamenta i servizi online all’interno dell’Unione Europea. 2. Politiche editoriali: ogni piattaforma ha le sue regole per interagire con gli altri, che sono definite nelle condizioni d’uso. I sistemi automatici aiutano a riconoscere i contenuti che le violano e che potrebbero scatenare discussioni emotive o discriminatorie. 124 Capitolo 9 3. Protezione della proprietà intellettuale: i contenuti devono essere esaminati per verificare se comprendono materiale protetto da diritto d’autore. Questo spesso viene realizzato mediante filtri applicati al caricamento( upload) di contenuti per controllare automaticamente se le informazioni da caricare sono protette dal diritto d’autore. La moderazione dei contenuti non si applica solo ai testi, ma anche alle immagini, ai video e alla musica ed è importante sia per i siti web di notizie che per le piattaforme di social media. Da ciò se ne deduce che la moderazione algoritmica è ampiamente necessaria. Conclusione di questa sezione: La moderazione algoritmica dei contenuti è necessaria per gestire l’enorme quantità di contenuti generati dagli utenti nei media online e nei social network. I motivi principali sono requisiti di legge e linee guida editoriali che assicurano che i contenuti siano legalmente conformi e appropriati. I sistemi automatici aiutano a riconoscere i contenuti problematici, dai commenti indesiderati alle violazioni del diritto d’autore, e sono essenziali per la moderazione di testi, immagini, video e musica su varie piattaforme. Approcci tecnici e sfide della moderazione dei contenuti La moderazione dei contenuti utilizza diversi metodi tecnici. I classificatori basati sull’apprendimento automatico sono una componente centrale di questi approcci. I classificatori utilizzati possono svolgere compiti diversi a seconda dei requisiti. Esistono diverse fasi di moderazione. Nella fase di pre-moderazione, i contenuti generati dagli utenti vengono classificati automaticamente dai classificatori. Si decide se il contenuto può essere pubblicato o meno su un sito web. La decisione si basa sulla conformità del contenuto ai requisiti legali o alle linee guida della piattaforma. I contenuti che violano queste regole vengono bloccati prima della pubblicazione. la modera z ione algoritmica dei C O NT E N uti 125 Nella post-moderazione, i contenuti già pubblicati vengono successivamente rivisti. I classificatori aiutano i moderatori a identificare i post particolarmente rilevanti o problematici. Questa revisione successiva permette di garantire il dibattito e di reagire a contenuti che potrebbero violare le regole ma che non sono stati notati nella pre-moderazione. Pre-moderazione Posting Post-moderazione Grafico 6: Fasi della moderazione. Fonte: Bettina K. Lechner Riconoscere le informazioni false Una parte fondamentale della moderazione dei contenuti consiste nel riconoscere e combattere le notizie tendenziose e le informazioni false. Questo aspetto è particolarmente importante nei social media, che sono meno controllati dei forum dei giornali online. Mentre i questi ultimi pubblicano articoli scritti e modificati da giornalisti, le piattaforme di social media permettono agli utenti di condividere contenuti senza alcun controllo. Di conseguenza, oltre alla libertà di opinione, c’è molto spazio per la propaganda e la disinformazione. Un esempio in tal senso è rappresentato dalle elezioni presidenziali statunitensi del 2016, in cui le informazioni false hanno giocato un ruolo fondamentale. I classificatori sono algoritmi utilizzati per classificare i dati in diverse categorie o classi. Nel contesto della moderazione dei contenuti, i classificatori sono utilizzati per determinare automaticamente se un post o un contenuto soddisfa determinati criteri e deve essere inserito in una certa categoria, p.es.“consentito” o“non consentito”. → Esempio: se un classificatore è stato addestrato a distinguere lo spam dai messaggi legittimi, imparerà che i messaggi di spam contengono spesso determinate parole o frasi come“offerta gratuita” o“compra subito”. Quando il classificatore analizza un nuovo messaggio contenente queste frasi, è probabile che lo classifichi come spam. Nella moderazione dei contenuti, i classificatori aiutano a controllare e classificare grandi quantità di contenuti generati dagli utenti in modo rapido ed efficiente, prima che un moderatore umano intervenga o che il contenuto venga pubblicato senza controlli. 126 Capitolo 9 La ricerca si sta quindi concentrando molto sul rilevamento automatico di tali notizie e sulla verifica dei fatti(il cosiddetto fact-checking), come p.es www.politifact.com in USA, www.eufactcheck.eu in Europa o www.poynter.org, una rete internazionale per la verifica dei fatti. Questi progetti lavorano al fine di prevenire la diffusione di informazioni false e preservare l’integrità delle notizie. Disinformazione e deepfake Riconoscere la disinformazione rimane una sfida importante perché emergono continuamente nuovi argomenti e propaganda mirata. Per tenere il passo, anche i metodi di verifica dei fatti devono essere costantemente adattati. Grazie ai progressi tecnologici, in particolare nel campo dell’apprendimento profondo, esistono oggi strumenti sofisticati che utilizzano l’intelligenza artificiale per generare testi, immagini, audio o video che sembrano reali ma sono falsi, i cosiddetti deepfake. Esempi di tali strumenti sono i modelli linguistici di grandi dimensioni, come la famiglia GPT di openAI o il PaLM di Google, in grado di generare nuovi testi in base agli ingressi ricevuti, nonché programmi come DALL-E, in grado di creare immagini a partire da descrizioni testuali. Queste tecnologie rendono sempre più difficile distinguere i contenuti reali da quelli falsi. Conclusioni di questa sezione: La moderazione algoritmica dei contenuti svolge un ruolo decisivo per far fronte alla marea di contenuti generati dagli utenti sul web. L’attenzione principale è rivolta al riconoscimento dei contenuti problematici, come le informazioni false, e al controllo delle discussioni. Mentre le tecniche di moderazione si basano sempre più spesso sui sistemi supportati dall’intelligenza artificiale, restano da affrontare sfide come il riconoscimento della disinformazione e il rischio di deepfake. Queste tecnologie sono in continua evoluzione, rendendo necessario un continuo adattamento e perfezionamento dei metodi di moderazione e verifica dei fatti. la modera z ione algoritmica dei C O NT E N uti 127 Sfide sociali Nell’ambito della moderazione dei contenuti online ci sono altre sfide da affrontare: la libertà di espressione, la comprensione del linguaggio utilizzato, il potere e il controllo. Libertà di espressione Un aspetto importante della moderazione dei contenuti online è il riconoscimento e la rimozione dei contenuti illegali. P.es. in Austria è un reato penale negare pubblicamente l’Olocausto. Tali contenuti vengono spesso rimossi rapidamente e ne conseguono azioni legali. Oltre ai contenuti illegali, ci sono anche quelli che violano le condizioni d’uso dei social network. La questione si complica quando si tratta di moderare contenuti non illegali, ma ritenuti socialmente indesiderabili o pericolosi. Questi contenuti sono più difficili da definire perché dipendono da valori individuali o sociali. In molti Paesi non è illegale mentire o usare parolacce, ma questi contenuti possono comunque essere considerati problematici perché colpiscono maggiormente alcuni gruppi, o potrebbero favorire la diffusione di informazioni pericolose. Un problema importante è che il termine“contenuto pericoloso” è spesso impreciso e non è chiaro chi esattamente venga danneggiato da questi contenuti o chi abbia l’autorità di identificarli e rimuoverli. Il rischio è che la rimozione di tali contenuti possa costituire una censura. Significato e linguaggio Un’altra sfida importante nella moderazione dei contenuti è la comprensione di ciò che gli utenti vogliono realmente esprimere. La comunicazione umana è complessa ed è facile essere fraintesi. Anche la nozione di“significato” è un concetto filosofico difficile, dibattuto da secoli. Alcuni aspetti del linguaggio naturale, come l’umorismo, l’ironia o la presa in giro, sono particolarmente difficili da riconoscere per le macchine, e anche gli esseri umani a volte fanno fatica. Gli algoritmi rischiano di non essere in grado di riconoscere correttamente il contesto di un enunciato e hanno difficoltà a cogliere sfumature importanti. 128 Capitolo 9 domande di verifica Approcci tecnici e sfide della moderazione dei contenuti Qual è l’obiettivo principale della moderazione algoritmica dei contenuti nelle piattaforme online? Quali sfide pone il costante sviluppo di tecnologie come il deep learning per la moderazione dei contenuti? In che modo le differenze culturali e linguistiche influenzano l’accuratezza e l’equità della moderazione algoritmica dei contenuti sulle piattaforme globali? Quali misure tecniche possono essere sviluppate per distinguere tra espressione legale di opinioni e contenuti pericolosi, senza limitare la libertà di espressione? Che ruolo hanno le iniziative di verifica dei fatti nella moderazione dei contenuti? Quali sono alcune di esse? la modera z ione algoritmica dei C O NT E N uti 129 domande per la discussione Approcci tecnici e sfide della moderazione dei contenuti Quali preoccupazioni etiche potrebbero sorgere quando si utilizzano gli algoritmi 1 per moderare i contenuti online, in particolare in relazione alla libertà di espressione e al rischio di censura? Discussione sull’eventualità e sulle modalità con cui i sistemi algoritmici potrebbero involontariamente sopprimere alcune opinioni e su come poter conciliare questo con il diritto alla libertà di espressione. Come si potrebbero controllare meglio tramite la moderazione 2 algoritmica i rischi dei deepfake e altra disinformazione generata automaticamente, senza limitare la diversità di opinioni? I partecipanti valutano quali misure e tecnologie potrebbero essere introdotte per combattere efficacemente la disinformazione, garantendo al contempo la salvaguardia della diversità di opinioni sulle piattaforme online. 130 Capitolo 9 Un problema specifico che si pone è che molti algoritmi analizzano solo singoli post e hanno difficoltà a seguire discussioni o dialoghi più lunghi. Tuttavia, per capire il vero significato di un post è spesso necessario prendere in considerazione l’intero corso della conversazione. Si stima che gli strumenti di moderazione commerciali raggiungano un’accuratezza dal 70% all’80% circa. Un esempio di tale errore di valutazione si è verificato nel 2020, quando Facebook ha rimosso i post con l’hashtag#EndSARS in Nigeria. Questi post volevano attirare l’attenzione sulla violenza della polizia, ma sono stati erroneamente classificati come disinformazione sul COVID-19. Potere e controllo La moderazione dei contenuti online non è solo un compito tecnico, ma anche profondamente politico, poiché solleva importanti questioni di potere e controllo. Controllando quali contenuti rimangono visibili e quali vengono cancellati, i moderatori hanno una notevole influenza su quali argomenti sono presenti nella discussione pubblica e quali possono scomparire. La principale conseguenza è che certi gruppi della società non vengono ascoltati perché i loro contributi non sono più visibili. La situazione diventa particolarmente critica quando la moderazione dei contenuti viene sempre più affidata agli algoritmi, che decidono quali contenuti rimuovere in base alle specifiche definite nel codice del loro programma. Un grande problema è che questi sistemi algoritmici possono riflettere e persino rafforzare i pregiudizi e la discriminazione esistenti nella società. Se un algoritmo è stato addestrato con dati distorti c’è il rischio che classifichi più frequentemente come inappropriati alcuni contenuti di comunità emarginate, cioè di gruppi socialmente svantaggiati o sottorappresentati, e che li cancelli, mentre contenuti simili di altre comunità possono rimanere inalterati. Un problema molto dibattuto è quello della mancanza di trasparenza. Gli algoritmi per moderare i contenuti sono spesso protetti dal diritto d’autore, il che significa che il pubblico non ha accesso al codice che vi è alla base o ai criteri utilizzati per decidere quali contenuti vengono segnalati o rimossi. Questa mancanza di trasparenza rende difficile per gli utenti capire perché i loro post sono stati eliminati, generando spesso frustrazione e un senso di ingiustizia. la modera z ione algoritmica dei C O NT E N uti 131 Conclusioni di questa sezione: La moderazione dei contenuti online pone la società di fronte a sfide importanti. Da un lato, è necessaria per rimuovere contenuti illegali o che violano le linee guida e per proteggere gli utenti da informazioni false e fuorvianti. Dall’altro, comporta il rischio di limitare la libertà di espressione, soprattutto quando si tratta di contenuti difficili da definire ma considerati indesiderati. La difficoltà di riconoscere correttamente il contesto e le sfumature del linguaggio umano aggrava questo problema, soprattutto nel caso della moderazione algoritmica. Nel complesso, è chiaro che una gestione attenta della moderazione è necessaria per trovare un equilibrio tra protezione della società e salvaguardia della libertà di espressione. Conclusioni La moderazione dei contenuti non è una pratica nuova: esiste da quando gli esseri umani comunicano in forma scritta. Un tempo veniva effettuata esclusivamente dagli esseri umani, ma con la moderazione algoritmica dei contenuti si è aggiunta la dimensione tecnologica. Le ragioni della moderazione dei contenuti sono varie: • Le ragioni legali svolgono un ruolo importante, come l’obbligo degli operatori delle piattaforme di rimuovere contenuti illegali. • Le ragioni pratiche includono il filtraggio dei contenuti per mostrare agli utenti solo le informazioni più rilevanti. • Ci sono anche ragioni sociali e politiche, come l’applicazione delle linee guida per gli utenti o la rimozione di contenuti considerati inappropriati o pericolosi. La moderazione può svolgersi in vari modi. I contenuti possono essere contrassegnati o evidenziati per porre l’attenzione degli utenti su potenziali problemi. Possono anche essere resi meno visibili diminuendone la rilevanza, oppure possono essere cancellati completamente. In alcuni casi, la pubblicazione dei contenuti viene ritardata o segnalata alle autorità competenti. La misura in cui gli utenti sono informati su questi processi varia notevolmente e molti social network offrono solo una visione limitata delle loro pratiche di moderazione. 132 Capitolo 9 domande di verifica Sfide sociali Perché è necessaria la moderazione dei contenuti online? Come si possono adattare gli attuali sistemi di istruzione per preparare le persone alle sfide della società digitale? Quali sono le sfide della moderazione algoritmica dei contenuti? In che modo l’IA generativa influenza le sfide della moderazione dei contenuti? Perché è difficile per gli strumenti di moderazione algoritmica valutare correttamente l’importanza di un contributo nel contesto complessivo di una conversazione e quali conseguenze ne possono derivare? la modera z ione algoritmica dei C O NT E N uti 133 domande per la discussione Sfide sociali La responsabilità per la moderazione 1 dei contenuti spetta più alle persone o agli algoritmi? Come si può raggiungere un equilibrio tra la necessità di rimuovere i contenuti pericolosi e quella di garantire la libertà di espressione? 2 Possibili risposte: alcuni potrebbero sostenere che gli algoritmi sono indispensabili per gestire la quantità di contenuti, mentre altri che i moderatori umani sono in grado di comprendere meglio il contesto e le sfumature, portando a decisioni più eque. Una combinazione di entrambi potrebbe essere una soluzione equilibrata. Possibili risposte: questo obiettivo potrebbe essere raggiunto attraverso linee guida chiare e trasparenti e l’uso di algoritmi in combinazione con la revisione umana. Un’opzione potrebbe essere quella di dare alle persone interessate la possibilità di impugnare le decisioni per garantire che la loro libertà di espressione non venga limitata in modo ingiustificato. 134 Capitolo 9 Sebbene le leggi non prevedano direttamente l’uso di algoritmi per la moderazione dei contenuti, la necessità di intervenire rapidamente e le sanzioni elevate rendono spesso l’uso di algoritmi l’unica soluzione praticabile per gestire l’enorme volume di contenuti. Una delle sfide più grandi nella moderazione dei contenuti è l’interpretazione automatica del linguaggio umano, soprattutto quando si tratta p.es. di satira o umorismo, dove il contesto e le sottili sfumature fanno la differenza. Inoltre, le capacità tecniche e i dati di addestramento per le lingue meno diffuse sono spesso poco sviluppati rispetto all’inglese. I rischi includono la limitazione della libertà di espressione, possibili pregiudizi e un trattamento non equo dei contenuti. Anche l’influenza politica è un problema se le opinioni dissenzienti vengono soppresse o i contenuti vengono moderati in modo tendenzioso. Nonostante queste sfide, la moderazione algoritmica può essere utilizzata anche a beneficio della società. Ne sono un esempio le misure di riduzione della rilevanza per contenuti conflittuali, la promozione di dibattiti online oggettivi e costruttivi e il sostegno di voci spesso sottorappresentate in società. Lo sviluppo dell’intelligenza artificiale generativa e di modelli linguistici di grandi dimensioni è considerato un punto di svolta nell’IA basata sul testo. Queste tecnologie renderanno possibili molte nuove applicazioni e sistemi, ma porteranno anche nuove criticità. Anche con queste nuove tecnologie, infatti, si verificano problemi simili a quelli della moderazione dei contenuti. I problemi di discriminazione, pregiudizio e mancanza di trasparenza riguardano inoltre i principali modelli linguistici ed esigono ulteriori ricerche, dibattiti pubblici e azioni politiche. Conclusioni di questa sezione: La moderazione dei contenuti è necessaria, ma comporta sfide complesse, soprattutto in termini di libertà di espressione, pregiudizio e trasparenza. I sistemi algoritmici sono spesso indispensabili, ma i loro limiti nel riconoscere il contesto e le sfumature comportano dei rischi. Lo sviluppo dell’IA generativa aggrava questi problemi, ed è per questo che ulteriori ricerche, dibattiti sociali e una chiara regolamentazione politica sono urgentemente necessari. la modera z ione algoritmica dei C O NT E N uti 135 lavoro di gruppo Sfida di verifica dei fatti Obiettivo: I partecipanti devono imparare a verificare l’autenticità delle informazioni su internet. Cercano in rete e trovano esempi di notizie o post corretti o falsi. Analizzano e discutono questi esempi. Materiali: • Fogli di lavoro con le situazioni e le domande descritte • Lavagne per le presentazioni • Penne e carta per appunti Durata: A seconda del numero di gruppi, ma almeno 60 minuti. 1. Introduzione alla verifica dei fatti: cos’è e perché è così importante nel mondo digitale di oggi? In questo contesto si possono presentare siti web di verifica dei fatti noti come Mimikama, Correctiv, Snopes, EUfactcheck o Politifact, che si sono specializzati nella verifica delle informazioni. 2. Ricerca su internet in gruppo o individualmente: l’obiettivo è trovare almeno due esempi di informazioni che sono state smascherate come false e due esempi di informazioni che sono state confermate come vere. Utilizzare i siti web di verifica dei fatti sopra indicati o usare le proprie fonti. 3. Breve presentazione dei risultati: Spiegare: — Cosa sosteneva il messaggio o il post. — Come e perché queste informazioni sono state classificate come false o vere. — Quale impatto hanno avuto o possono avere queste informazioni. 4. Discutere le esperienze fatte durante la ricerca: Possibili domande: — Ci sono state sorprese tra gli esempi trovati? — Quali sentimenti sono emersi quando si è capito che un’informazione era sbagliata? — Come possiamo garantire in futuro che le informazioni condivise o fruite siano affidabili? 5. Conclusione: riassumere i punti chiave e sottolineare l’importanza di verificare le informazioni prima di condividerle. Si possono dare suggerimenti su come poter verificare i fatti nella vita quotidiana, p.es. confrontando più fonti o utilizzando siti web di verifica dei fatti ben noti. 136 Capitolo 9 NOTE la modera z ione algoritmica dei C O NT E N uti 137 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 10 L’ESSERE UMANO AL CENTRO DELLO SVILUPPO Nonostante la crescente automazione, l’essere umano è ancora centrale per lo sviluppo dei sistemi di software e in questo capitolo si esamina il suo ruolo in questo processo. Sviluppatori e utenti fanno infatti parte di una comunità. Viene mostrato come questo influisca sullo sviluppo dei sistemi software e, al tempo stesso, come l’uso del software influenzi il loro futuro sviluppo. Questo capitolo si basa sul saggio“Humans in the Loop: People at the Heart of Systems Development” di Helen Sharp, in Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_23. Introduzione Al giorno d’oggi, il software è essenziale per quasi tutte le nostre attività. Le app permettono di rimanere in contatto con amici e conoscenti, di pagare le bollette, di monitorare la nostra forma fisica ecc. Il software controlla i sistemi realizzati da grandi progetti internazionali, come il telescopio James Webb per esplorare lo spazio, così come controlla il traffico nelle città o osserva le specie animali in pericolo. La vita privata, il lavoro e la scuola oggi sono praticamente impossibili senza software. Il software è fondamentale per la progettazione e l’utilizzop degli strumenti digitali, influenzandone il funzionamento, la loro sicurezza e il modo in cui supportano gli utenti nelle loro attività. Sviluppatori di software Quando pensiamo agli sviluppatori di software, di solito pensiamo a professionisti specializzati. In realtà, sono sempre più numerose le persone che, pur non essendo professionisti, sono comunque direttamente coinvolte nello sviluppo e nell’implementazione di sistemi software. Non importa che si tratti di professionisti o meno, le persone che creano software non lavorano da sole. Fanno parte di una comunità di progettisti, sviluppatori, utenti e altre parti interessate che contribuiscono alla creazione. Queste comunità influenzano lo sviluppo del sistema. Sviluppatori di software Lo sviluppo del software moderno è molto complesso, dal momento che si basa su ambienti di programmazione sofisticati e si affida ampiamente a moduli o elementi(componenti) esistenti, come librerie di linguaggi e moduli di interfaccia, a loro volta creati da gruppi diversi. Il software deve essere integrato nel suo ambiente tecnico e dipende dalle caratteristiche del dispositivo e dell’ambiente in cui opera. Il lavoro degli sviluppatori di software è quindi ampiamente dipendenti da quello degli altri. 140 Capitolo 10 L’aspetto comunitario dello sviluppo di software è spesso trascurato. Gli sviluppatori lavorano in team e formano comunità affiatate all’interno delle aziende e spesso al di là dei confini aziendali, delle discipline e dei continenti. Queste comunità si sostengono a vicenda condividendo soluzioni e diffondendo informazioni. Un esempio di come gli sviluppatori siano influenzati dall’ambiente in cui operano è mostrato da uno studio che ha esaminato il loro comportamento in materia di sicurezza. L’obiettivo era capire perché le vulnerabilità di sicurezza di cui si è a conoscenza sono ancora incorporate nel software. Perché gli sviluppatori non affrontano questi problemi noti al momento della creazione del software? Il risultato ha dimostrato che il comportamento degli sviluppatori di software in materia di sicurezza è spesso influenzato dagli atteggiamenti e dalle priorità delle aziende e dei clienti, non solo dalle loro decisioni ed esperienze . Esperti di dominio In ogni sviluppo di software, gli sviluppatori devono familiarizzare con l’area di applicazione in cui il software verrà utilizzato. In aree Economia Tendenze Sociali Cultura aziendale Gruppo di sviluppo del software Tendenze sociali Professione dell’ingegnere del software Mercato Grafico 7: Comunità e ambienti che influenzano lo sviluppo di software© Tim Clarke l’essere umano A L C E NT R O D E L LO S V I LU P P O 141 attività Applicazioni Materiali: Smartphone Durata: 10 minuti I partecipanti esaminano le app che usano di più e valutano quali vantaggi hanno per loro e quanto le considerano sicure. — Quali sono le app utilizzate più frequentemente dai partecipanti? — Perché? — Cosa ci fanno? — Quali sono i vantaggi della specifica applicazione per loro? attività Movimento dei Maker Materiali: Notebook I partecipanti ricercano progetti tecnologici che ritengono interessanti sui siti web instructables.com e makezine.com o siti simili e, facoltativamente, li realizzano anche come parte di un progetto scolastico. 142 Capitolo 10 specializzate, come la ricerca scientifica, sono spesso gli stessi esperti a sviluppare il software, anche se non sono specialisti del software. Il Movimento dei Maker(MM) incoraggia le persone non solo a consumare la tecnologia, ma a partecipare attivamente alla sua creazione. Il movimento promuove la creazione, la condivisione, l’apprendimento di hardware e software e il sostegno alle comunità. Siti web come instructables.com e makezine.com mostrano cosa si può ottenere quando le persone condividono e sviluppano le loro idee e creazioni. Questo movimento mette in evidenza il potere della comunità e la capacità dell’individuo di plasmare la tecnologia per scopi propri piuttosto che esserne controllato. Conclusioni di questa sezione: Lo sviluppo di sistemi software è un processo collaborativo che coinvolge informatici ed esperti tecnici. Le comunità di sviluppatori, le culture aziendali e gli interessi di utenti e clienti svolgono un ruolo decisivo nella qualità e nella sicurezza del software. Movimenti come quello dei maker incoraggiano le persone a partecipare attivamente alla progettazione della tecnologia e sottolineano l’importanza della creatività individuale e della collaborazione. Utenti di sistemi software In questa sezione analizziamo due aspetti importanti del rapporto tra persone e software: 1. Gli utenti sono creativi e adattano la tecnologia alle loro esigenze e ai loro contesti. 2. Le valutazioni da parte degli utenti e il loro comportamento nell’utilizzo dei sistemi influenzano gli sviluppi futuri dei sistemi stessi. l’essere umano A L C E NT R O D E L LO S V I LU P P O 143 DOMANDE PER LA DISCUSSIONE Le persone come sviluppatori di software In che misura la cultura di un’organizzazione o di una comunità può influenzare il processo di sviluppo del software? Possibili risposte per la discussione: • Influenza sulle priorità: la cultura aziendale può influenzare le priorità nello sviluppo del software, p.es. se viene data maggiore importanza alla sicurezza, alla facilità d’uso o alla velocità di commercializzazione. • Processo decisionale: una cultura collaborativa incoraggia la discussione aperta e lo scambio di idee, mentre una cultura gerarchica impone decisioni dall’alto verso il basso, il che può limitare la creatività. • Cultura dell’errore: in una cultura che considera gli errori come un’opportunità di apprendimento, gli sviluppatori sono più disposti a sperimentare approcci innovativi. In una cultura che penalizza gli errori, gli sviluppatori possono essere più avversi al rischio. • Comunicazione e collaborazione: una cultura aperta e solidale incoraggia la condivisione delle conoscenze e la collaborazione tra team e reparti, portando a una migliore integrazione e a una maggiore qualità del software. • Centralità dell’utente: una cultura che si concentra sulle esigenze degli utenti sviluppa software più in linea con i loro requisiti e le loro aspettative. 144 Capitolo 10 Rispetto degli utenti e delle loro attività Negli anni’70 è diventato chiaro che il software doveva essere progettato in modo da essere facilmente utilizzabile dalle persone. La tradizionale attenzione alla“interfaccia uomo-macchina” si è rapidamente evoluta con i sistemi informatici, a partire dagli anni’80, nella“interazione uomocomputer”( Human Computer Interaction – HCI). L’HCI si basa su discipline come la psicologia, la linguistica, l’informatica e la sociologia. L’obiettivo è sviluppare il software in modo che tenga conto di caratteristiche umane come l’attenzione e l’apprendimento, nonché delle dinamiche di gruppo e degli atteggiamenti. Ad esempio, la comprensione dei meccanismi di attenzione può aiutare a strutturare le informazioni in modo che gli utenti possano trovare più facilmente ciò che stanno cercando e a progettare le schermate in modo da enfatizzare le informazioni importanti. Oggi il termine“progetto dell’interazione( interaction design) comprende un ampio spettro di discipline, tra cui la psicologia, l’informatica, il design del prodotto, le scienze sociali e l’ergonomia. Il punto è progettare non solo per gli utenti, ma anche con loro, in modo che le tecnologie siano veramente facili da usare per l’utente( user friendly). L’osservazione del comportamento degli utenti e le loro valutazioni possono fornire indicazioni sull’uso delle tecnologie da parte delle comunità. Tuttavia, spesso è difficile riconoscere le norme culturali, come presupposti, costumi, credenze e abitudini, anche se influenzano fortemente l’uso delle tecnologie L’utilizzo di software influenza lo sviluppo futuro Oggi lo sviluppo e l’uso del software sono strettamente legati. Un esempio è l’ approccio lean UX( lean= snello; UX sta per user experience = esperienza utente), in cui un’idea viene testata nell’uso reale prima che lo sviluppo sia molto avanzato. Un altro esempio è l’ A/B-testing. In questo caso, due versioni diverse di un sistema(versione“A” o“B”) vengono fornite a gruppi di utenti diversi per vedere quale funziona meglio. Gli utenti vengono suddivisi in gruppi in modo casuale e di solito non sono consapevoli di partecipare a un esperimento. l’essere umano A L C E NT R O D E L LO S V I LU P P O 145 Altre fonti di informazione sono le recensioni dei clienti, che mostrano la popolarità e il successo di un prodotto. Anche le recensioni delle app sui social media, come X o Facebook o Instagram, possono fornire un feedback prezioso. Tuttavia, spesso è difficile ottenere informazioni utili da queste fonti. Questo settore è ancora oggetto di ulteriori ricerche. Conclusioni di questa sezione: Le persone adattano creativamente la tecnologia al proprio contesto e influenzano l’ulteriore sviluppo del software attraverso le loro valutazioni e i loro commenti. La fruibilità e la funzionalità del software vengono migliorate attraverso approcci interdisciplinari. La stretta collaborazione tra sviluppatori e utenti è fondamentale per creare tecnologie veramente incentrate sull’utente. Persone in partenariato con il software Il legame tra persone e software va oltre il semplice utilizzo: il software influenza i risultati che le persone possono ottenere, lo sviluppo delle loro idee e il loro comportamento. Esempi: • Sistemi CAD(sistemi di progettazione assistita dal computer): hanno rivoluzionato il modo di progettare gli edifici. Offrono un’elevata precisione e sono facili da modificare. • Immagini satellitari: l’analisi e l’elaborazione via software delle immagini satellitari hanno migliorato la nostra comprensione dell’impatto dell’attività umana sul pianeta. • Sistemi di navigazione: il posizionamento preciso del GPS e le mappe hanno reso più facile camminare e andare in bicicletta. In passato bisognava pianificare attentamente, oggi basta seguire le istruzioni. Il software può non solo influenzare il comportamento, ma anche cambiare le abitudini. 146 Capitolo 10 domande di verifica Le persone come sviluppatori e utenti di software Chi è solitamente coinvolto nello sviluppo di sistemi software? Qual è una caratteristica importante delle comunità di sviluppo di software? In che modo le aziende e i clienti influenzano le decisioni degli sviluppatori di software? Che cos’è l’approccio lean-UX? Che cos’è l’ A/B-testing nello sviluppo del software? Quali fonti di informazione possono essere utilizzate dagli sviluppatori per ottenere una valutazione sull’uso del software? l’essere umano A L C E NT R O D E L LO S V I LU P P O 147 lavoro di gruppo A/B-testing dell’applicazione preferita Obiettivo: I partecipanti devono capire come si usa l’ A/B-testing nello sviluppo di software e pensare in modo creativo a come testare diverse varianti della loro applicazione preferita. Descrizione: I partecipanti assumono il ruolo di sviluppatori di software e pianificano un A/B-testing per la loro applicazione preferita. Viene chiesto loro di progettare due varianti dell’applicazione e di valutare quali elementi potrebbero essere testati per migliorare la facilità d’uso dell’applicazione. e la qualità dell’applicazione. Materiali: • Lavagna per i gruppi che devono illustrare le varianti e i piani di test. • Penne e carta per appunti. 1. Introduzione: spiegazione del concetto di A/B-testing e della sua importanza nello sviluppo del software. → Esempio:“Nell’ A/B-testing vengono create due versioni di un’applicazione e testate su gruppi di utenti diversi per scoprire quale funziona meglio”. 2. Formazione dei gruppi e selezione delle applicazioni: dividere i partecipanti in piccoli gruppi. Ogni gruppo sceglie un’app preferita(p.es. un’app per i social media, un’app per il fitness o un’app per la messaggistica). 3. Sviluppo di varianti: i gruppi sviluppano due diverse varianti dell’app selezionata. Possono concentrarsi su aspetti diversi, come il layout, la navigazione, i colori, le funzioni o la facilità d’uso. La variante A potrebbe p.es. essere una versione classica dell’app, mentre la variante B è una versione più moderna e semplificata. 4. Pianificazione del test: ogni gruppo pianifica come effettuare l’ A/B-testing. Quali criteri verranno misurati (p.es. facilità d’uso, velocità, soddisfazione)? Come vengono selezionati i gruppi di utenti? 5. Presentazione: ogni gruppo presenta le due varianti e il piano di prova. I gruppi spiegano perché hanno apportato determinate modifiche e come misurerebbero i risultati. 6. Discussione: dopo le presentazioni, i gruppi discutono i diversi approcci e quale variante pensano possa funzionare meglio e perché. 148 Capitolo 10 Nel complesso, la collaborazione tra software e persone presenta aspetti positivi, ma anche limiti e conseguenze indesiderate. Le tecnologie persuasive sono quelle progettate esplicitamente per persuadere le persone di qualcosa o per indurle ad agire in un certo modo. Ad esempio, il consumo di energia nelle abitazioni private può essere modificato fornendo ai consumatori informazioni sul loro consumo energetico e indicazioni per ottimizzarlo. A volte, però, la persuasione può anche essere meno positiva. Molti servizi online sono progettati per persuadere gli utenti a fare qualcosa che va oltre il loro obiettivo originale, ad esempio per acquistare un prodotto aggiuntivo o iscriversi a servizi diversi da quelli originariamente previsti. Può(ma non deve) essere considerata una tecnica di marketing corretta nel caso in cui, ad esempio, quando si acquista un biglietto del treno viene offerto in modo trasparente anche un alloggio per la città visitata. Dopotutto, perché non offrire alcune opzioni come servizio? Spesso viene invece adottato un approccio ingannevole, in cui gli utenti sono spinti ad utilizzare qualcosa che in realtà non desideravano (vedi il sito www.deceptive.design). Conclusioni di questa sezione: Le persone e il software lavorano insieme e si influenzano a vicenda. Il software può modificare il comportamento e le abitudini umane, sia in positivo che in negativo. I moderni navigatori molto precisi e i software CAD hanno rivoluzionato il nostro modo di lavorare. Allo stesso tempo, i sistemi di raccomandazione comportano il rischio di rafforzare le opinioni e limitare la creatività. È importante definire con attenzione le modalità del partenariato tra utenti e sistemi per massimizzare i benefici e minimizzare gli effetti negativi. Diversi interessi e obiettivi nel processo del software Nello sviluppo di un sistema è necessario considerare l’intero processo, dall’analisi alla progettazione fino all’utilizzo pratico. Ciò rappresenta una sfida, poiché è difficile trovare un linguaggio comune attraverso cui tutti i partecipanti utilizzano gli stessi termini con lo stesso significato. Le diverse prospettive e i diversi interessi delle persone coinvolte sono elementi particolarmente sfidanti. l’essere umano A L C E NT R O D E L LO S V I LU P P O 149 DOMANDE PER LA DISCUSSIONE L’esperienza personale con il software e la sua influenza sul comportamento e sulle abitudini 1 Esistono esempi di come le app o i sistemi software abbiano influenzato positivamente il comportamento? P.es. fornendo informazioni sul consumo energetico o le app per la salute e il fitness? Possibile risposta: un’app per il fitness potrebbe incoraggiare l’esercizio fisico regolare e una migliore alimentazione, fornendo promemoria e rapporti sui progressi compiuti che siano in grado di motivare le persone a raggiungere i propri obiettivi di salute. Quali sono gli esempi di app o software che hanno cambiato le abitudini? Come è successo? 2 Possibile risposta: un’applicazione per la pianificazione delle spese potrebbe aiutare a monitorare e controllare meglio le spese, portando a maggiori risparmi e a un uso più consapevole del denaro. 150 Capitolo 10 3 Ci sono casi in cui i partecipanti si sono sentiti ingannati da siti web o app a fare qualcosa che non era stato originariamente previsto? Come hanno reagito? Possibile risposta: l’iscrizione a una newsletter potrebbe sembrare necessaria per accedere a un sito web. Dopo essersi sentiti ingannati, gli utenti hanno cancellato l’abbonamento e sono diventati più prudenti. Quali sono le esperienze positive e negative con i sistemi di raccomandazione che suggeriscono prodotti o contenuti? Queste raccomandazioni hanno modificato il comportamento? 4 Possibile risposta: esperienza positiva: sono stati scoperti nuovi e interessanti libri che altrimenti sarebbero passati inosservati. Esperienza negativa: i suggerimenti ripetuti di contenuti simili potrebbero limitare la visione invece di ampliarla. l’essere umano A L C E NT R O D E L LO S V I LU P P O 151 A questo proposito sorgono diverse domande non banali: come si fa a considerare le esigenze dei diversi utenti del sistema, soprattutto dal momento che essi sono ancora sconosciuti nelle prime fasi del suo sviluppo? Chi determina il modo in cui vengono individuati e tenuti in considerazione gli aspetti sociali complessivi, spesso contraddittori? Come si possono armonizzare le esigenze individuali e/o gli interessi dei rispettivi gruppi di interesse con gli interessi dell’intera società? Come organizzare la comunicazione e gestire le richieste di cambiamento? E come si possono integrare efficacemente nel processo i vari gruppi di interesse e come si possono contrastare le minacce(cfr. grafico 8)? Come si vede, a parte le notevoli difficoltà nella definizione degli obiettivi, lo sviluppo del sistema rappresenta una sfida importante. Ricercatori Sviluppatori Management Decisori politici Utenti Valori come la giustizia e la dignità umana Obiettivi individuali Autoefficacia, creatività, responsabilità, relazioni sociali Progettare requisiti/obiettivi per un team affidabile e fidato; organizzazione, requisiti esterni Attori malintezionati Pregiudizi Software difettoso Grafico 8: Sfide per la progettazione e lo sviluppo di sistemi complessi. Fonte: Ben Shneiderman(adattato) Gruppi di interesse Minacce 152 Capitolo 10 Osservazioni conclusive Lo sviluppo di sistemi software è un’attività collaborativa che deve essere condotta mantenendo sempre le persone al centro. Il software aiuta le persone a raggiungere i loro obiettivi e il modo in cui le persone utilizzano il software ne influenza l’ulteriore sviluppo. Nonostante i loro limiti, i sistemi software hanno portato a progressi significativi. Gli sviluppatori e gli utenti di software fanno parte di comunità con norme e aspettative culturali proprie che influenzano lo sviluppo e l’uso del software. La creazione di software dipende spesso da componenti già disponibili e tecnologie sviluppate da altri. Gli sviluppatori e gli utenti non specializzati svolgono un ruolo sempre più importante nella progettazione delle tecnologie disponibili. In definitiva, il processo di sviluppo del software deve tenere conto di un’ampia varietà di interessi e obiettivi. Questo dimostra che si tratta di un processo complesso che richiede un lavoro di squadra. l’essere umano A L C E NT R O D E L LO S V I LU P P O 153 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 11 I FONDAMENTI ­FILOSOFICI DELL’UMANESIMO DIGITALE Questo capitolo spiega cos’è l’umanesimo e che significato ha nell’era digitale. Viene mostrato il legame tra azione, libertà e responsabilità. Questa triade dimostra che gli esseri umani non sono macchine e che le macchine non sono come gli esseri umani. Da ciò derivano due richieste pratiche per l’Umanesimo Digitale, che vengono presentate in modo più dettagliato nel corso del capitolo: ovvero, i sistemi di intelligenza artificiale non dovrebbero assumersi responsabilità e non dovrebbero essere autorizzati a prendere decisioni. Questo capitolo si basa sul saggio“Philosophical Foundations of Digital Humanism” di Julian Nida-Rümelin e Klaus Staudacher, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_3. Introduzione L’Umanesimo Digitale offre una nuova etica per l’era dell’intelligenza artificiale. In parole povere, si contrappone alla“ideologia della Silicon Valley”. Questa ideologia è strettamente legata alla speranza puritana americana di redenzione, di un mondo“puro” e libero dal peccato(il termine“puritanesimo” deriva dalla parola“puro” e si riferisce a un movimento nato in Inghilterra e Scozia e giunto in America con i primi emigranti nel XVII secolo). Portato nell’era digitale, questo significa la creazione di un’immagine digitale perfetta e impeccabile di un essere umano – un’utopia tecnologica. Al centro di tutto questo c’è un’intelligenza artificiale, che si auto-migliora, iper-razionale e sempre più umana. L’unica differenza rispetto al puritanesimo è che qui non è Dio il creatore, ma gli ingegneri informatici che si vedono meno come parte dell’industria del computer e più come parte di un gruppo che vuole creare un paradiso digitale sulla terra. Come tutte le tecnologie, anche quelle digitali sono a doppio taglio. La trasformazione digitale non migliorerà automaticamente le nostre condizioni di vita: dipende da come usiamo e sviluppiamo questa tecnologia. Noi stessi possiamo interpretare e plasmare attivamente il processo di trasformazione digitale. Questa è l’idea centrale dell’Umanesimo Digitale. Cosa significa umanesimo? Umanesimo può significare molte cose, dalla coltivazione delle lingue antiche all’idea che l’umanità debba governare la terra. Quando qui parliamo di umanesimo, non parliamo di epoche storiche, come il primo umanesimo italiano(Francesco Petrarca), l’umanesimo tedesco del XV e XVI secolo(Erasmo da Rotterdam) e il neoumanesimo del XIX secolo(Wilhelm von Humboldt). Inoltre, non si tratta di un fenomeno puramente occidentale o europeo, poiché il pensiero e il comportamento umanistico esiste anche in altre culture. Usiamo il termine“umanesimo” per descrivere una certa idea di cosa significhi essere umani, unita a una pratica che corrisponde il più possibile a questo ideale. Al centro della filosofia umanistica c’è l’idea dell’uomo come attore. Le persone plasmano attivamente la propria vita, 156 Capitolo 11 Responsibilità Ragione Libertà Grafico 9: La triade ragione, libertà e responsabilità ha influenzato per secoli la moralità dell’ambiente in cui viviamo e il sistema giuridico. Fonte: Bettina K. Lechner hanno responsabilità e sono libere. Libertà e responsabilità dipendono l’una dall’altra e sono legate alla capacità di ragionare. In quanto attori della propria vita, le persone sono moralmente responsabili. Questa combinazione di ragione, libertà e responsabilità caratterizza la concezione umanistica dell’uomo. Essa ha influenzato per secoli la morale dell’ambiente in cui viviamo e il sistema giuridico. Per comprendere meglio questa pratica umanistica, vogliamo illuminare il legame tra responsabilità, libertà e ragione. Un excursus sul post-umanesimo L’umanesimo pone al centro le persone come esseri razionali capaci di agire. Il post-umanesimo, invece, non vede più le persone come punto di partenza centrale del pensiero e dell’azione. Esistono varie forme di post-umanesimo, p.es. quello tecnologico, che mira a superare gli esseri umani tramite super-intelligenza artificiale. Altre forme di post-umanesimo ruotano attorno alla critica dell’eurocentrismo, alle dicotomie(elementi opposti o contrari): uomo/donna, natura/cultura, soggetto/oggetto, ecc. o sul presupposto che per capacità di giudizio, apprendimento e autonomia, gli esseri umani siano fondamentalmente diversi dalla materia inanimata. Esistono quindi correnti che assumono l’uguale valore o gli uguali diritti delle diverse forme di I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 157 essere, indipendentemente dal fatto che siano“animali”,“umani”, “vegetali” o“tecnologici”. I dibattiti sul post-umanesimo e sul transumanesimo sono attualmente in corso – e sono tutt’altro che conclusi. Conclusioni di questa sezione: Umanesimo significa vedere le persone come attori liberi e responsabili. Si basa sui concetti di ragione, libertà e responsabilità, che nel corso dei secoli hanno plasmato la morale e il sistema giuridico, in un processo culturale. L’umanesimo non è limitato a una particolare cultura o epoca, ma è un ideale universale. Il legame tra responsabilità, libertà e ragione La responsabilità è strettamente legata alla libertà, alla ragione e all’azione. Un’azione è ragionevole se vi sono buoni motivi per eseguirla. Ragione significa che possiamo soppesare i motivi delle nostre azioni, convinzioni e atteggiamenti in modo appropriato. La libertà è la capacità di seguire le ragioni migliori che abbiamo determinato soppesandole. Quando sono libero, sono guidato dalle motivazioni, che ho soppesato, per prendere una decisione e agire. Cosa vuol dire avere un motivo per qualcosa? Esempi di motivazioni: • Se una vittima di un incidente giace sul ciglio della strada, abbiamo un motivo per aiutarla(p.es. prestare i primi soccorsi o chiamare un’ambulanza). • Quando Piera promette all’amica Giulia di aiutarla a cambiare casa nel fine settimana, ha un motivo per farlo. Anche se ci sono altre ragioni importanti, come p.es. la madre malata di Piera, la promessa rimane un motivo. 158 Capitolo 11 domande di verifica Cosa significa umanesimo? Cosa si intende per umanesimo? Quali sono i tre concetti centrali della filosofia umanistica? Come l’umanesimo ha cambiato la morale dell’ambiente in cui viviamo e del sistema giuridico? Perché la triade ragione, libertà e responsabilità è centrale nella comprensione umanistica dell’uomo? Che cos’è il post-umanesimo tecnologico? I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 159 DISCUSSION QUESTIONS Il legame tra responsabilità, libertà e ragione Perché l’idea dell’uomo come attore libero e responsabile è importante per la società 1 moderna? Possibile discussione: questa idea sottolinea che le persone possono non solo agire razionalmente, ma anche assumersi la responsabilità per le proprie decisioni. In una società moderna, ciò significa che gli individui e le istituzioni devono rispondere delle loro azioni e che dovrebbero agire sulla base di principi etici. Questi valori promuovono una cultura di auto-responsabilità e moralità, che è essenziale per una società giusta ed equa. Come si possono applicare i concetti di ragione, libertà e responsabilità 2 nel mondo tecnologico di oggi? Possibile risposta: ragione, libertà e responsabilità potrebbero essere applicate allo sviluppo tecnologico in modo tale che i sistemi di IA supportino le decisioni umane senza sostituirle. La libertà dell’utente di prendere decisioni rimane intatta e gli sviluppatori sono responsabili per le implicazioni etiche dei sistemi da loro progettati. Ciò potrebbe contribuire a creare tecnologie che diano potere alle persone, anziché controllarle. 160 Capitolo 11 Questi esempi mostrano due importanti caratteristiche delle motivazioni: 1. I motivi sono normativi: se c’è un motivo per un’azione, si deve compiere questa azione, a meno che non ci siano motivi più importanti che la contrastino. 2. I motivi sono oggettivi: un buon motivo è indipendente da atteggiamenti/preferenze personali. Il motivo per aiutare una vittima di un incidente non scompare solo perché si hanno altre preferenze o si pensa che la vittima non meriti aiuto. Il rapporto tra ragione e libertà e il loro significato per la responsabilità La responsabilità presuppone la libertà di astenersi da un’azione o di ritirare una decisione. Ma le nostre decisioni e le nostre azioni sono davvero libere? Le azioni differiscono dal semplice comportamento a seconda dell’intenzionalità: • Se una persona in autobus perde l’equilibrio a causa di una frenata d’emergenza e cade su un’altra persona che si fa male, si tratta di un incidente, di un comportamento che non è un’azione intenzionale. • Se la stessa persona cade deliberatamente su un’altra persona che si fa male, siamo in presenza di un’intenzione e si parla quindi di azione. Le azioni sono guidate dall’intenzione e dalla ragione. Un’azione è razionale se vi sono buoni motivi per compierla e e irrazionale se vi sono buoni motivi per non attuarla. Le ragioni che ci guidano sono il risultato di un processo di ponderazione. Attraverso questa capacità di soppesare le cose, siamo esseri razionali e responsabili delle nostre azioni. Se il danno è causato da un semplice comportamento, non viene formulata alcuna accusa. Ci si limita a descrivere la causalità(p.es.: “La frenata d’emergenza ha fatto cadere la persona e ha ferito l’altra”). Se il danno è stato causato da un’azione, ci aspettiamo una spiegazione e una giustificazione. I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 161 Responsabilità Responsabilità significa essere influenzati dai motivi. Poiché siamo razionali e abbiamo la capacità di valutare le cose, siamo liberi. E solo perché siamo liberi possiamo essere responsabili. Conclusioni di questa sezione: Responsabilità, libertà e ragione sono strettamente collegate. Un’azione è razionale se ci sono buoni motivi per compierla. Libertà significa seguire questi motivi. Le persone sono responsabili delle loro azioni perché sono in grado di soppesare le ragioni e prendere decisioni. Questa comprensione è centrale per l’Umanesimo Digitale. Concetti fondamentali dell’Umanesimo Digitale 1. L’uomo non è una macchina (Rifiuto del“paradigma meccanicistico”) Una delle maggiori sfide per la visione umanistica dell’uomo è l’idea che l’uomo sia una macchina. Questa idea risale alla prima età moderna e vede il mondo come un meccanismo a orologeria e gli esseri umani come piccoli ingranaggi al suo interno. Il creatore di questo“orologio” si assicura che tutto funzioni perfettamente, senza lasciare spazio alla libertà, alla responsabilità o alla ragione dell’uomo. Le macchine e i sistemi informatici funzionano in modo deterministico. Ogni operazione dell’hardware può essere descritta come causalmente determinata dallo stato precedente della macchina e dall’ingresso corrente. Se questa visione viene trasferita all’uomo, l’immagine umanistica dell’uomo risulta un’illusione o un autoinganno. In una visione umanistica, invece, la persona non è un meccanismo, ma un attore libero e responsabile che interagisce con le altre persone e con il 162 Capitolo 11 lavoro di gruppo Responsabilità, libertà e ragione nella vita di tutti i giorni Obiettivo: I partecipanti devono comprendere e impiegare le connessioni tra responsabilità, libertà e ragione analizzando e discutendo situazioni quotidiane. Materiali: • Schede con le situazioni e le domande descritte • Lavagne per le presentazioni • Penne e carta per appunti Durata: A seconda del numero di gruppi, ma almeno 50 minuti circa. 1. Analisi: A ogni gruppo vengono fornite brevi descrizioni di varie situazioni quotidiane da analizzare. Esempi di tali situazioni: — Un amico vi chiede aiuto per arredare il suo appartamento, ma voi avete già altri impegni. — Trovate un portafoglio per strada. — Un compagno è vittima di bullismo a scuola. — In negozio vi danno un resto sbagliato per eccesso. I gruppi devono rispondere alle seguenti domande per ogni situazione: — Quali sono le ragioni a favore o contro una certa azione? — In che misura la ragione gioca un ruolo nella decisione? — Che libertà ha la persona in questa situazione? — Che responsabilità ha la persona? 2. Presentazione e discussione: Ogni gruppo presenta i propri risultati agli altri partecipanti. Il moderatore riassume i punti più importanti e si assicura che tutti i partecipanti comprendano le connessioni tra i concetti. 3. Discussione e riflessione: Discussione comune sull’importanza della responsabilità, della libertà e della ragione nell’era digitale. Riflessione su come questi concetti possono essere impiegati nell’utilizzo e nello sviluppo della tecnologia. I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 163 lavoro di gruppo Sketch su responsabilità, libertà e ragione Obiettivo: I partecipanti devono comprendere e impiegare le connessioni tra responsabilità, libertà e ragione attraverso la presentazione creativa e l’analisi di situazioni reali. Materiali: • Descrizioni delle scene (facoltativo) • Oggetti di scena e costumi per gli spettacoli (facoltativo) • Penne e carta per appunti Durata: A seconda del numero di gruppi, ma almeno 50 minuti circa. 1. Raggruppamento e assegnazione delle scene: — I partecipanti vengono divisi in piccoli gruppi di 4 o 5 persone. — A ogni gruppo viene data una breve descrizione di una situazione quotidiana che deve essere presentata in una breve rappresentazione teatrale(5-7 minuti). 2. Idee di possibili scenari: — Scenario 1: una persona causa accidentalmente un incidente in cui un ciclista rimane ferito. Il gruppo deve mostrare come la persona valuta se assumersi o meno la responsabilità e quali ragioni parlano a favore e contro le varie azioni. — Scenario 2: in un ristorante, un cameriere rovescia accidentalmente una bevanda su un cliente. Il gruppo deve descrivere come il cameriere e il cliente gestiscono la situazione e quali considerazioni emergono sulla responsabilità e sul buon senso. — Scenario 3: una persona partecipa al lavoro di gruppo, ma un membro del gruppo non porta a termine la sua parte di compiti. Il gruppo deve descrivere come reagiscono gli altri membri del gruppo e quali sono le ragioni a favore e contro. 3. Sviluppo degli scenari: — Ogni gruppo lavora sul proprio scenario. Dovranno sviluppare i personaggi, il dialogo e la trama. — I gruppi devono anche assicurarsi che i concetti di responsabilità, libertà e ragione vengano chiariti nei rispettivi scenari. 164 Capitolo 11 4. Rappresentazione degli scenari: — Ogni gruppo recita il proprio scenario davanti agli altri gruppi. — Gli altri gruppi guardano gli scenari e prendono appunti sui concetti presentati. 5. Analisi, discussione e conclusioni: — Dopo ogni rappresentazione, i gruppi di spettatori discutono su come i concetti di responsabilità, libertà e ragione siano stati rappresentati nello scenario. — Il moderatore conduce la discussione e riassume i punti più importanti. — Al termine, si tiene una discussione conclusiva in comune. I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 165 mondo. Noi esseri umani abbiamo caratteristiche mentali, credenze, desideri, intenzioni, paure e aspettative. 2. Le macchine non sono come gli esseri umani (rifiuto del“paradigma animistico”) Secondo questa concezione, le caratteristiche e i comportamenti umani sono attribuiti alla macchina. Questo paradigma animistico è stato più influente di quello meccanicistico, soprattutto dopo la Seconda guerra mondiale, con lo sviluppo della tecnologia informatica. A questo contribuì anche Alan Turing nel 1950 con il suo saggio Computing Machinery and Intelligence. Il paradigma animistico interpreta i sistemi algoritmici come dotati di proprietà mentali, purché il loro comportamento sia simile a quello degli esseri umani. Tale visione è particolarmente evidente nell’idea della“IA forte”. Essa presuppone che un programma possa imparare a comprendere o risolvere qualsiasi compito intellettuale che un essere umano può svolgere. Ciò è associato anche alla possibilità che esso possieda una coscienza. Da questo punto di vista, c’è chi è convinto che si tratti solo di questione di tempo prima che le macchine superino gli esseri umani nelle loro capacità. Il test di Turing, che prende il nome dal matematico e informatico britannico Alan Turing, è stato introdotto nel 1950. Il test è stato progettato per determinare se una macchina può mostrare intelligenza umana. Come funziona il test: una persona conversa con un’altra persona e con una macchina senza sapere chi è chi. I partecipanti alla conversazione comunicano solo tramite testo per nascondere il loro aspetto e la loro voce. Se l’uomo non è in grado di riconoscere in modo affidabile quale dei due interlocutori sia la macchina, quest’ultima ha superato il test ed è intelligente. Il test di Turing è una base importante nella discussione sull’intelligenza artificiale e sulle sue capacità. 166 Capitolo 11 Nella visione di“IA debole”, invece, i sistemi di IA si limitano a risolvere problemi ben definiti e predeterminati e non si pretende che abbiano un’intelligenza generale. Tuttavia, si ritiene che il pensiero, la percezione e i processi decisionali umani possono essere simulati dal software. Non esiste una posizione uniforme nella comunità scientifica sulla possibilità di realizzare il concetto radicale di“IA forte”. Se così fosse, avrebbe conseguenze di vasta portata: anche le macchine dovrebbero godere di qualcosa di simile ai diritti e alla dignità di un essere umano. Inoltre, se le macchine superano noi umani, chi impedirà loro di eliminarci? Conclusioni di questa sezione: L’Umanesimo Digitale rifiuta l’idea che gli esseri umani siano macchine o che le macchine possano essere come gli esseri umani. Gli esseri umani sono attori liberi e responsabili, mentre le macchine non hanno caratteristiche mentali o diritti umani. Questa distinzione è importante per valutare correttamente le implicazioni etiche dell’intelligenza artificiale. Conseguenze pratiche dell’Umanesimo Digitale Anche i sistemi di IA complessi non potranno in un prossimo futuro essere considerati come persone. Ne conseguono due requisiti pratici: • In primo luogo, non dobbiamo attribuire responsabilità ai sistemi di IA. I sistemi di IA non sono razionali e liberi nella misura richiesta per l’attribuzione di responsabilità. • In secondo luogo, le decisioni etiche non devono mai essere prese da sistemi di IA. I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 167 Attività Realizzazione di un poster sui due requisiti pratici dell’Umanesimo Digitale Obiettivo: I partecipanti sono chiamati a realizzare rappresentare in modo chiaro e accattivante i due requisiti pratici dell’Umanesimo Digitale in un poster. Materiali: • Fogli di grande formato • Pennarelli e matite colorate • Forbici e colla • Vecchie riviste per i collage • Penne e carta per appunti Durata: A seconda del numero di gruppi, almeno 45 minuti. 1. Introduzione: Il moderatore spiega i due requisiti pratici dell’Umanesimo Digitale: — Non attribuire responsabilità ai sistemi di intelligenza artificiale. — Non lasciare mai che i sistemi di intelligenza artificiale prendano decisioni etiche. 2. Divisione in gruppi: I partecipanti vengono divisi in piccoli gruppi di 2 o 3 persone. A ciascun gruppo viene affidato il compito di progettare un poster che illustri chiaramente queste due esigenze. 3. Distribuzione del materiale: Ogni gruppo riceve grandi fogli, pennarelli, matite colorate, forbici, colla e vecchie riviste per i collage. 4. Creazione del poster: Ogni gruppo lavora al proprio poster. I gruppi devono trovare modi creativi e visivamente accattivanti per presentare i due principi. Possono usare simboli, disegni, brevi testi e collage per rendere i messaggi chiari e interessanti. 5. Presentazione dei poster: — Ogni gruppo presenta il proprio poster agli altri gruppi e spiega come ha presentato le esigenze dell’Umanesimo Digitale. — Gli altri gruppi possono porre domande e fornire opinioni e valutazione. — Discussione comune sul significato dei due requisiti pratici nel contesto dell’Umanesimo Digitale. 168 Capitolo 11 NOTE I FONDAMENTI FILOSOFICI DELL'UMANESIMO DIGITALE 169 SEZIONI DEL CAPITOLO DOMANDE DI VERIFICA DOMANDE PER LA DISCUSSIONE ATTIVITÀ LAVORO DI GRUPPO Capitolo 12 L’UMANESIMO DIGITALE La trasformazione digitale non porta con sé solo grandi vantaggi, ma anche notevoli sfide. In questo articolo presentiamo l’“Umanesimo Digitale” e il “Manifesto di Vienna”. Si tratta di approcci che mirano a comprendere e influenzare positivamente il rapporto tra tecnologia e umanità. L’Umanesimo Digitale promuove una società che rispetta i diritti umani e abbraccia l’innovazione tecnologica e sociale. È proattivo e mira a plasmare la tecnologia in modo che migliori la vita piuttosto che perseguire solo interessi economici. Questo capitolo si basa sul saggio“Digital transformation, Digital Humanism: What Needs to Be Done” di Hannes Werthner, in: Hannes Werthner et al.(eds.), Introduction to Digital Humanism. A Textbook. Springer, 2024. DOI: 10.1007/978-3-031-45304-5_3. Introduzione La tecnologia informatica ha avuto un impatto profondo sulla nostra vita individuale e sulla società, dalle interazioni quotidiane ai grandi giochi di potere geopolitici. Ha cambiato rapidamente e permanentemente il modo in cui vediamo e comprendiamo il mondo. È stata essenziale per il progresso economico. Questo rapido sviluppo può contribuire a risolvere le crisi globali, ma porta con sé anche nuove sfide. L’Umanesimo Digitale fornisce un quadro di riferimento per comprendere questo processo e intervenire, se necessario, per indirizzare lo sviluppo della tecnologia in una direzione che promuova una società più giusta e democratica. Questa iniziativa interdisciplinare ha dato vita al Manifesto di Vienna, che mira a plasmare e utilizzare la tecnologia informatica in armonia con i valori umani. “Il Sistema sta fallendo” I sistemi informatici si sono rivelati indispensabili, soprattutto durante la pandemia di COVID-19, quando hanno permesso al mondo di continuare a funzionare: il lavoro, l’istruzione e la comunicazione si svolgevano online. La tecnologica informatica supporta ormai funzioni fondamentali e vitali nella nostra società. E può svolgere un ruolo cruciale nella realizzazione degli Obiettivi di Sviluppo Sostenibile ( Sustainable Development Goals – SDG) delle Nazioni Unite. Nonostante questi successi, la tecnologia ha anche i suoi lati negativi. Tim Berners-Lee ha sottolineato in un suo articolo del 2017“Il Sistema sta fallendo( The System is failing, pubblicato su The Guardian il 16 novembre 2017) che gli attuali sistemi informatici portano con sé problemi profondi. Sir Timothy John Berners-Lee, nato a Londra nel 1955) è l'inventore del World Wide Web, dell'Hypertext Markup Language(HTML), del sistema di identificazione URL e dell'Hypertext Transfer Protocol(HTTP). È presidente del World Wide Web Consortium(W3C). 172 Capitolo 12 Monopoli di potere su internet: • Le multinazionali dell’informatica hanno un potere che è difficilmente controllabile dai governi nazionali. Sono le aziende di maggior valore al mondo in termini di valutazioni borsistiche e hanno quote di mercato che vanno in alcuni segmenti dal 50% al 90%. • Queste aziende offrono servizi che i governi non riescono a fornire con lo stesso livello di qualità, decidono le modalità di implementazione di servizi essenziali per i cittadin quali, ad esempio, l’accesso al web mobile o ai servizi cloud. Perdita di sovranità: • Aziende come Google e Apple hanno un’influenza significativa sulla struttura e sulla funzionalità di servizi importanti. Lo dimostra l’esempio delle app utilizzate in occasione del COVID-19, dove sono state queste aziende e non i governi nazionali a decidere che queste applicazioni sarebbero state disponibili come applicazioni mobili. • Le grandi aziende tecnologiche influenzano le decisioni importanti, limitando la capacità degli Stati e dei singoli di prendere decisioni indipendenti. IA e processo decisionale automatizzato: • L’intelligenza artificiale può prendere decisioni in modo autonomo, il che solleva questioni legali ed etiche di responsabilità. • La mancanza di trasparenza degli algoritmi“a scatola nera” rende difficile comprendere le basi del processo decisionale. • Gli strumenti di intelligenza artificiale come ChatGPT non sempre forniscono risultati affidabili e invogliano gli utenti a crederci al 100% perché sembrano molto plausibili e convincenti. Utilizzo dell’IA in ambito militare: • I sistemi autonomi basati sull’intelligenza artificiale vengono sempre più impiegati nelle applicazioni militari. • Il Segretario generale delle Nazioni Unite, António Guterres, ha già chiesto su X che“le macchine autonome in grado di[...] togliere la vita senza coinvolgimento umano siano vietate dal diritto internazionale”. • Sia la società civile che l’opinione pubblica in campo universitario hanno già risposto con la campagna“ Stop Killer Robots”, chiedendo anche loro la messa al bando di queste tecnologie. l’umanesimo digitale 173 attività Analizzare le sfide poste dai sistemi informatici Obiettivo: I partecipanti devono analizzare e discutere i vari problemi e le sfide derivanti dall’uso dei moderni sistemi informatici. Dovranno capire come queste sfide influenzano la vita quotidiana e la società e perché il Manifesto di Vienna è necessario. Materiali: • Penne e carta o dispositivi digitali per prendere appunti • Lavagna • Stampa dei punti più importanti del capitolo (facoltativo) Durata: 45-60 minuti(a seconda del numero di gruppi) 1. Formazione del gruppo e assegnazione dell’argomento: A ogni gruppo viene assegnato uno dei temi principali della sezione: — Monopoli di potere su internet — Perdita di sovranità — IA e processo decisionale automatizzato e impiego in guerra — Sorveglianza e privacy — Disinformazione e bolle di filtraggio — Impatto ambientale della tecnologia informatica 2. Analisi e discussione: Ogni gruppo analizza il proprio argomento e discute le seguenti domande: — Quali sono i principali problemi e le sfide in questo settore? — In che modo questi problemi possono influenzare la nostra vita quotidiana e la società? — Quali possibili soluzioni o approcci potrebbero aiutare a superare queste sfide? 3. Presentazione, domande e feedback: Ogni gruppo presenta brevemente i propri risultati e proposte all’intero gruppo. Dopo ogni presentazione, gli altri partecipanti possono fare domande e fornire valutazioni e commenti. 4. Discussione e riflessione di gruppo: Discussione in comune sull’esercizio. Discussione sui temi e sulle soluzioni comuni che ne sono emersi. 174 Capitolo 12 Effetti dell’automazione sull’occupazione: • L’automazione ha un forte impatto su impieghi e posti di lavoro. La questione aperta è se le macchine affiancheranno le persone o le sostituiranno, causando così la perdita di posti di lavoro. • L’industria dell’IA sta attualmente promuovendo un’ingiusta divisione del lavoro in cui la maggior parte del lavoro mal pagato e poco qualificato viene svolto nei Paesi poveri, mentre i Paesi più ricchi ne traggono vantaggio(divisione coloniale del lavoro). Aumento della sorveglianza e violazione della privacy: • Sia le aziende private che lo Stato stanno espandendo le loro attività di sorveglianza. • Ciò costituisce una grave minaccia per le democrazie liberali. Problemi nei media online: • Le piattaforme, che erano destinate alla comunicazione aperta e alla partecipazione, ora promuovono la diffusione di disinformazione e le bolle di filtraggio. • Queste tendenze avvelenano il discorso politico e mettono a rischio le strutture democratiche. • Questo sviluppo è anche il risultato di algoritmi utilizzati per i sistemi di raccomandazione(si veda anche il capitolo 6, pagina 83), inoltre il web riflette i pregiudizi degli utenti nei dati disponibili e negli algoritmi di selezione. Impatto ambientale della tecnologia informatica: • Nonostante gli esempi positivi di utilizzo della tecnologia informatica per la protezione del clima, spesso prevalgono gli impatti ambientali negativi. • Lo sviluppo e l’addestramento dei sistemi di intelligenza artificiale comportano un consumo energetico e delle emissioni molto elevati. Conclusioni di questa sezione: La tecnologia informatica ha migliorato le nostre vite in molti modi, soprattutto durante la pandemia COVID-19. Allo stesso tempo, però, ha portato con sé problemi e sfide significative, come i monopoli di potere, la perdita di sovranità, le questioni etiche legate all’IA, la sorveglianza, la disinformazione e l’impatto ambientale. Ciò richiede un dibattito critico e un approccio consapevole all’ulteriore sviluppo della tecnologia. l’umanesimo digitale 175 L’Umanesimo Digitale e il Manifesto di Vienna Il workshop di Vienna sull’Umanesimo Digitale si è svolto nell’aprile 2019. È stato ispirato dagli impressionanti successi della tecnologia informatica, ma anche dalle gravi sfide ad essa associate descritte in precedenza. Al centro del workshop vi era l’invito agli scienziati ad assumersi la responsabilità di sviluppare tecnologie orientate ai bisogni e ai valori delle persone, e non il contrario. Oltre 100 partecipanti provenienti da università, istituzioni pubbliche, società civile e imprese hanno discusso di come le tecnologie informatiche influenzino la vita sociale e come poter gestire questo sviluppo positivamente. È stato importante riunire esperti di vari settori come scienze politiche, diritto, sociologia, storia, antropologia, filosofia, economia e informatica per garantire un’ampia prospettiva. Il termine“Umanesimo Digitale” si basa sulle idee dell’Umanesimo e dell’Illuminismo, che mettono al centro le persone e la loro libertà di scelta. Il progresso tecnologico non è né“dato da Dio” né deterministico. Pertanto, non deve essere semplicemente accettato, ma deve essere plasmato consapevolmente e in armonia con i valori democratici, umanistici ed ecologici. Definiamo l’Umanesimo Digitale come un approccio che descrive, analizza e, soprattutto, influenza la complessa interazione tra tecnologia e persone, per una società migliore e una vita migliore nel pieno rispetto dei diritti umani universali. Hannes Werthner Durante il workshop è stato redatto il Manifesto di Vienna per l’Umanesimo Digitale(https://caiml.org/dighum/dighum-manifesto/), adottato dai firmatari di quasi 50 Paesi. Il manifesto è un appello all’azione collettiva per ottenere il sostegno di tutto il mondo e creare un futuro più umano e sostenibile. 176 Capitolo 12 Principi del Manifesto di Vienna Privacy, democrazia e inclusione • Le tecnologie digitali devono promuovere la democrazia e l’integrazione. • La privacy e la libertà di espressione sono valori fondamentali e devono essere protetti. Regolamentazione e amministrazione pubblica • La politica deve intervenire per impedire monopoli tecnologici. • Le decisioni sui diritti umani devono continuare ad essere prese dalle persone. Ruolo specifico della scienza e delle università • La scienza deve unire diverse discipline per superare le sfide. • Le università creano nuove conoscenze e promuovono il pensiero critico. Hanno una specifica responsabilità. Istruzione • I nuovi programmi di studio devono combinare scienze umane, scienze sociali, tecnologia e ingegneria. • L’educazione all’informatica e alle sue implicazioni etiche e sociali dovrebbe iniziare il più presto possibile. L’Umanesimo Digitale non mira solo a eliminare gli aspetti negativi della tecnologia informatica, ma anche a promuovere innovazioni che mettano le persone al centro. Conclusioni di questa sezione: L’Umanesimo Digitale si impegna a garantire che la tecnologia informatica sia progettata in armonia con i valori umani. Il Manifesto di Vienna sottolinea l’importanza della collaborazione tra diverse discipline, la protezione della privacy, il rafforzamento della democrazia e la promozione di una società inclusiva. Chiede che le tecnologie informatiche siano sviluppate in modo consapevole e responsabile. l’umanesimo digitale 177 lavoro di gruppo Come potrebbe apparire un Manifesto di Vienna personale? Obiettivo: I partecipanti sviluppano insieme un manifesto che presenta le loro visioni e i loro principi per l’applicazione dell’Umanesimo Digitale senza conoscere in anticipo il Manifesto di Vienna. Materiali: • Lavagne o grandi fogli di carta, schede • Penne e pennarelli • Quaderni o tablet per la ricerca(facoltativo) Durata: A seconda del numero di gruppi, ma almeno 50 minuti circa. 1. Brainstorming e ricerca: Ogni gruppo elabora idee su quali principi e valori dovrebbe includere il proprio manifesto. I temi possono includere la protezione dei dati, l’intelligenza artificiale etica, l’accessibilità della tecnologia, ecc. 2. Bozza del manifesto: Ogni gruppo formula un breve manifesto basato sulle idee raccolte. Questo dovrebbe contenere principi e obiettivi chiaramente definiti per l’applicazione dell’Umanesimo Digitale. 3. Presentazione e discussione: Ogni gruppo presenta il proprio manifesto agli altri partecipanti. Dopo ogni presentazione si svolge una breve discussione. 4. Riflessione: In un giro conclusivo di riflessioni, i partecipanti parlano del processo e delle esperienze di apprendimento e di come potrebbero mettere in pratica il manifesto. Note: — I partecipanti devono essere incoraggiati a pensare in modo creativo e a sviluppare soluzioni innovative per le sfide del mondo digitale. — L’importanza della prospettiva interdisciplinare deve essere sottolineata e i partecipanti di diverse discipline devono essere incoraggiati a contribuire con le loro conoscenze specifiche. 178 Capitolo 12 domande di verifica L’Umanesimo Digitale e il Manifesto di Vienna Qual è lo scopo principale dell’Umanesimo Digitale? Che ruolo ha la tecnologia informatica nella società? Qual è l’obiettivo principale del workshop di Vienna sull’Umanesimo Digitale dell’aprile 2019? Perché è stata importante la partecipazione di esperti di diverse discipline al workshop di Vienna? Che cos’è il Manifesto di Vienna e qual è il suo obiettivo? l’umanesimo digitale 179 domande per la discussione L’Umanesimo Digitale e il Manifesto di Vienna Come può l’Umanesimo Digitale aiutare a minimizzare gli effetti 1 negativi della trasformazione digitale? Quali sfide potrebbero presentarsi nell’attuazione pratica dell’Umanesimo Digitale? 2 Possibile discussione: Le sfide includono gli interessi spesso contrastanti di imprese, politica e società. Inoltre, può essere difficile creare e mantenere standard internazionali, poiché vi sono differenze culturali e legali. Inoltre il rapido sviluppo tecnologico pone una sfida, poiché spesso non è possibile adattare il contesto legale ed etico alla stessa velocità. Possibile discussione: L’Umanesimo Digitale promuove un approccio etico alla tecnologia che pone al centro le persone. Può contribuire a minimizzare gli impatti negativi puntando a sviluppare tecnologie che rafforzino i valori democratici, la privacy e la giustizia sociale, anziché metterli a repentaglio. Iniziative come il Manifesto di Vienna creano un quadro di riferimento per lo sviluppo di tecnologie etiche. 180 Capitolo 12 Quali sono i vantaggi della 3 collaborazione interdisciplinare nella creazione delle tecnologie? Possibile discussione: La collaborazione interdisciplinare riunisce le prospettive di diverse discipline, che possono portare a soluzioni più complete e responsabili. Gli aspetti tecnologici, sociali ed etici possono essere meglio integrati, portando a tecnologie che soddisfino meglio le esigenze della società e siano in grado di rispondere alle varie sfide. In che modo la scienza, la politica e la società possono contribuire affinché le tecnologie vengano sviluppate e impiegate in armonia con i diritti 4 umani? Possibile discussione: Scienza, politica e società possono promuovere tecnologie conformi ai diritti umani sviluppando standard etici, creando quadri normativi e avviando discussioni pubbliche. La scienza contribuisce con le sue competenze, la politica crea leggi per proteggere i diritti umani e la società si assicura che gli sviluppi tecnologici siano in linea con questi valori attraverso l’impegno e la sensibilizzazione. l’umanesimo digitale 181 L’iniziativa per l’Umanesimo Digitale Il tema dell’Umanesimo Digitale è attuale e importante. Se ne occupano non solo gli informatici, ma anche esperti di altri settori, nonché la società civile e i politici. Il crescente interesse pubblico per i temi dell’IA e della digitalizzazione si riflette in molte misure internazionali, p.es. attraverso nuove leggi nell’UE come la Legge sui Servizi Digitali, la Legge sui Mercati Digitali, la Legge sull’IA, tutte volte a regolamentare il mondo online(si veda anche il capitolo 5, da pagina 65). In Austria, diversi ministeri e in particolare l’amministrazione comunale della città di Vienna sostengono l’iniziativa attraverso progetti di ricerca e borse di studio, rilasciando dichiarazioni pubbliche, come la Dichiarazione di Poysdorf dei ministri degli Esteri di Austria, Repubblica Ceca e Slovacchia. Nel complesso, siamo riusciti a creare una rete di esperti nazionali e internazionali provenienti dal mondo della scienza, dell’amministrazione, dell’economia e della società civile, che promuovono insieme l’Umanesimo Digitale, attraverso conferenze online, cicli di discussioni, workshop, scuole estive e libri. Questa rete internazionale di pensatori intelligenti e innovativi, in costante crescita, costituisce in definitiva il nucleo dell’iniziativa. Conclusioni di questa sezione: L’iniziativa per l’Umanesimo Digitale ha suscitato grande interesse e sostegno a livello internazionale. Grazie alla collaborazione di esperti nazionali e internazionali provenienti dalla scienza, dall’amministrazione, dall’economia e dalla società civile, l’Umanesimo Digitale viene ulteriormente sviluppato. Attività regolari come conferenze, workshop e pubblicazioni contribuiscono alla diffusione e all’approfondimento di questo importante approccio. 182 Capitolo 12 lavoro di gruppo Confrontare il proprio manifesto con il Manifesto di Vienna Obiettivo: I partecipanti individuano le sovrapposizioni o le differenze tra il proprio manifesto personale(vedi lavoro di gruppo a pagina 178) e il Manifesto di Vienna. Materiali: • Lavagne o grandi fogli di carta, schede • Penne e pennarelli • Quaderni o tablet per la ricerca(facoltativo) Durata: A seconda del numero di gruppi, ma almeno 50 minuti circa. 1. Analisi e confronto Ogni gruppo analizza il Manifesto di Vienna e segna i punti del proprio manifesto personale che sono in linea con esso o si discostano da esso. 2. Presentazione e discussione — Ogni gruppo presenta i propri risultati agli altri partecipanti. — Ogni presentazione è seguita da un breve dibattito. 3. Riflessione In una sessione finale di riflessione conclusiva, i partecipanti parlano del processo e delle esperienze di apprendimento e di come potrebbero mettere in pratica il Manifesto di Vienna. l’umanesimo digitale 183 Compiti futuri Internet e il web sono ormai un bene pubblico. L’Umanesimo Digitale mira a plasmare la tecnologia informatica in armonia con i valori umani. Per raggiungere questo obiettivo, è necessario parlare anche di potere e di politica, poiché lo sviluppo tecnologico è spesso caratterizzato da rapporti di forza diseguali. L’Umanesimo Digitale necessita di un approccio multidimensionale: • Diverse aree di contenuto: dalle piattaforme alle IA e alla protezione dei dati o dal lavoro allo sviluppo di sistemi tecnologici. • Diverse discipline: informatica, ingegneria, scienze sociali e umanistiche devono lavorare insieme. • Diverse attività: sono necessari ricerca, sviluppo, istruzione, comunicazione e provvedimenti politici. • Diversi attori sociali: dalle università e scuole, alle aziende, ai gruppi di interesse e alle istituzioni pubbliche, fino ai cittadini e alle loro associazioni spontanee. L’Umanesimo Digitale si concentra sullo sviluppo di tecnologie digitali che supportino le persone, facilitino l’accesso alla conoscenza, consentano la partecipazione alla società e promuovano la diversità. Ci sono molte domande senza risposta e la soluzione necessita della collaborazione tra diverse discipline. Un esempio è il concetto di equità: come possiamo garantire che l’IA sia equa e imparziale? Come suddividere il lavoro tra uomini e macchine? Come possiamo garantire un’equa partecipazione degli utenti alle piattaforme? Come possiamo garantire una distribuzione equa dei contenuti online? Come possiamo rappresentare equamente i vari interessi quando si tratta di questioni ambientali? Questo esempio, come molti altri, dimostra la necessità di interdisciplinarità e cooperazione, anche nello sviluppo e nell’applicazione di nuove tecnologie. 184 Capitolo 12 Conclusioni di questa sezione: L’Umanesimo Digitale richiede un approccio olistico che comprende diverse criticità, discipline e attività. L’obiettivo è sviluppare tecnologie informatiche che supportino le persone e offrano soluzioni eque e sostenibili. La collaborazione interdisciplinare è fondamentale per superare queste sfide. Osservazioni conclusive L’Umanesimo Digitale offre una prospettiva interdisciplinare ed etica sullo sviluppo tecnologico. Sottolinea che la trasformazione economica e sociale provocata dall’informatica è anche una questione politica. Poiché non c’è uno sviluppo predeterminato e nessun essere superiore ne è responsabile, noi, le persone, dovremmo essere la forza trainante. È importante seguire un approccio democratico e partecipativo, non concentrarsi solo sull’ottimizzazione e sull’accelerazione delle tecnologie, ma adottare una prospettiva a lungo termine e sostenibile. Gli obiettivi dell’Umanesimo Digitale sono facili da formulare e comprendere. Raggiungerli è una sfida importante. l’umanesimo digitale 185 Manifesto di Vienna per l’Umanesimo Digitale Vienna, maggio 2019 “Il sistema sta fallendo” – Quest’affermazione del fondatore del Web, Tim Berners-Lee, sottolinea che mentre la digitalizzazione apre opportunità senza precedenti, pone anche serie preoccupazioni: la monopolizzazione del Web, l’insorgere attraverso i social media di opinioni e comportamenti estremisti, la formazione di bolle informative( filter bubbles) e di casse di risonanza( echo chambers) che promuovono verità dissonanti, la perdita della privacy e la diffusione della sorveglianza digitale. Le tecnologie digitali stanno minando la società e mettendo in discussione la nostra comprensione di cosa significhi essere umani. La posta in gioco è alta e e l’obiettivo di costruire una società giusta e democratica in cui le persone siano al centro del progresso tecnologico è una sfida da affrontare con determinazione e inventiva scientifica. L’innovazione tecnologica richiede innovazione sociale e l’innovazione sociale richiede un vasto impegno sociale. Questo manifesto è un appello a riflettere e ad agire sullo sviluppo tecnologico attuale e futuro. Ci rivolgiamo alle nostre comunità accademiche e professionali, ai leader industriali, ai decisori e responsabili politici di tutto il mondo, affinché partecipino attivamente alla formazione delle politiche di governo dello sviluppo tecnologico. La nostra richiesta è il risultato di un processo che unisce scienziati e professionisti di vari settori, accomunati da preoccupazioni e speranze per il futuro. Siamo consapevoli della nostra responsabilità per la situazione attuale e futura- sia come professionisti sia come cittadini. Oggi sperimentiamo una co-evoluzione della tecnologia e della società. La massa di dati, algoritmi e potenza computazionale sta avendo un effetto dirompente sul tessuto stesso della società, cambiando le interazioni tra le persone, le istituzioni sociali, le economie e le strutture politiche. Anche la scienza e le discipline umanistiche non sono risparmiate. Questi profondi cambiamenti contemporaneamente creano e minacciano posti di lavoro, producono 186 Capitolo 12 e distruggono ricchezza, migliorando e danneggiando al tempo stesso la nostra nicchia ecologica. Modificano le relazioni di potere alterando la gerarchia tra l’umano e la macchina. Bisogna adottare un approccio illuminista ed umanista. La capacità di automatizzare le attività cognitive umane è un aspetto rivoluzionario dell’informatica. Per molte attività, le macchine superano già quello che gli esseri umani possono ottenere in termini di velocità, precisione e persino deduzione analitica. È giunto il momento di affiancare ideali umanistici a una riflessione critica sul progresso tecnologico. Questo manifesto si pone quindi in continuità con la tradizione intellettuale dell’umanesimo e con movimenti analoghi che ambiscono a realizzare un’umanità illuminata. Come tutte le tecnologie, le tecnologie digitali non emergono dal nulla. Sono modellate da scelte implicite ed esplicite e, quindi, incorporano un insieme di valori, norme, interessi economici e ipotesi su come il mondo che ci circonda sia o dovrebbe essere. Molte di queste scelte rimangono nascoste in programmi software che implementano algoritmi invisibili. In linea con il famoso Circolo di Vienna e i suoi contributi al pensiero moderno, vogliamo perseguire il pensiero razionale critico e l’interdisciplinarietà che sono necessari per dare forma al futuro. Dobbiamo progettare le tecnologie in base ai valori e ai bisogni umani, invece di consentire alle tecnologie di plasmare gli esseri umani. Il nostro compito non è solo quello di contenere gli aspetti negativi delle tecnologie digitali, ma di incoraggiare l’innovazione incentrata sull’uomo. Auspichiamo un Umanesimo Digitale che descriva, analizzi e, soprattutto, influenzi la complessa interazione tra tecnologia e persone, per una società e una vita migliori, nel pieno rispetto dei diritti umani universali. l’umanesimo digitale 187 In conclusione, proclamiamo i seguenti princìpi fondamentali: • Le tecnologie digitali dovrebbero essere progettate per promuovere la democrazia e l’inclusione. Ciò richiederà degli sforzi speciali per superare le attuali disuguaglianze e utilizzare pienamente il potenziale di emancipazione delle tecnologie digitali per rendere le nostre società più inclusive. • La privacy e la libertà di parola sono valori essenziali per la democrazia e dovrebbero essere al centro delle nostre attività. Pertanto, social media o piattaforme online devono essere modificati per salvaguardare al meglio la libera espressione delle opinioni, la diffusione delle informazioni e la protezione della privacy. • Devono essere stabilite norme, regole e leggi efficaci, basate sul dibattito pubblico e su un ampio consenso. Queste norme, regole e leggi devono garantire accuratezza predittiva, equità e uguaglianza, responsabilità e trasparenza dei programmi software e degli algoritmi. • I regolatori devono intervenire sui monopolî tecnologici. È necessario ripristinare la competitività di mercato, in quanto i monopolî tecnologici concentrano il potere di mercato e soffocano l’innovazione. I governi non dovrebbero lasciare tutte le decisioni ai mercati. • Decisioni le cui conseguenze possono influire sui diritti umani individuali o collettivi devono continuare a essere prese dalle persone. Coloro che decidono devono essere responsabili e rispondere delle decisioni prese. I sistemi decisionali automatizzati dovrebbero solo supportare il processo decisionale umano, non sostituirlo. • Approcci scientifici interdisciplinari sono un prerequisito per affrontare le sfide future. Le discipline tecnico/scientifiche come l’informatica devono collaborare con le scienze sociali, le scienze umane e le altre scienze, superando le barriere disciplinari. • Le università sono il luogo in cui si producono nuove conoscenze e si coltiva il pensiero critico. Hanno quindi una responsabilità speciale di cui devono essere consapevoli. • I ricercatori accademici e industriali devono aprirsi al dialogo con la società e valutare criticamente i propri approcci. Tutto ciò deve essere incorporato nel processo di produzione di nuove conoscenze e tecnologie, preservando al tempo stesso la libertà di pensiero e di ricerca. 188 Capitolo 12 • I professionisti di tutto il mondo dovrebbero riconoscere la loro corresponsabilità nell’impatto sociale delle tecnologie digitali. Devono capire che nessuna tecnologia è neutrale ed essere sensibilizzati a considerare sia i potenziali benefici sia i possibili aspetti negativi. • È necessaria una visione che consideri nuovi programmi di studio che combinino la conoscenza delle scienze umane e sociali e degli studi scientifico-ingegneristici. Nell’era del processo decisionale automatizzato e dell’intelligenza artificiale, la creatività e l’attenzione agli aspetti umani sono fondamentali per l’educazione dei futuri progettisti e tecnologi. • L’educazione all’informatica e al suo impatto sociale devono iniziare il prima possibile. Gli studenti dovrebbero imparare a unire le competenze informatiche con la consapevolezza delle questioni etiche e sociali in gioco. Siamo a un bivio importante per il futuro. Dobbiamo agire e prendere la giusta direzione! Versione italiana del Manifesto di Vienna a cura di Enrico Nardelli, Marco Aiello, Carlo Ghezzi, Francesco Ricci, Viola Schiaffonati, Oliviero Stock, Guglielmo Tamburrini, accessibile a https://caiml.org/dighum/dighum-manifesto/Vienna_ Manifesto_on_Digital_Humanism_IT.pdf l’umanesimo digitale 189 Glossario 190 A/B testing: confronta due versioni(A e B) di un prodotto per scoprire quale funziona meglio. Gli utenti vengono suddivisi in modo casuale e viene analizzato il loro comportamento(p.es. la percentuale di clic). In questo modo è possibile prendere decisioni basate sui dati e identificare la variante di maggior successo. Addestramento di una rete neurale: Processo in cui la rete impara a generare l’uscita corretta dai dati d’ingresso. I pesi delle connessioni(sinapsi) tra i neuroni vengono regolati per ridurre al minimo l’errore. Questo processo viene ripetuto per molte volte fino a quando l’errore è minimo e la rete si adatta bene ai dati di addestramento. AGI( Artificial General Intelligence= Intelligenza Artificiale Generale): un programma/sistema in grado di risolvere qualunque compito o problema come farebbe un essere umano. A differenza dell’IA specializzata e debole, che è adatta solo a determinati compiti, l’AGI sarebbe flessibile, adattabile e in grado di apprendere. Potrebbe imparare a trarre conclusioni e ad affrontare nuove sfide. A oggi esiste solo come concetto. Algoritmo: procedura per risolvere un problema o eseguire un compito. Consiste in una serie di istruzioni effettuabili in modo meccanico che vengono eseguiti in una sequenza specifica per ottenere il risultato desiderato. Algoritmo di retro-propagazione: un metodo per l’addestramento delle reti neurali dell’intelligenza artificiale. Minimizza l’errore tra l’uscita prevista e quella effettiva regolando i pesi della rete. Si basa su due fasi:(1) nel passaggio in avanti, la rete calcola un’uscita in base agli ingressi. Nel passaggio a ritroso l’errore misurato all’uscita viene propagato all’indietro(= feedback) per correggere i pesi della rete. L’algoritmo regola quindi le connessioni di una rete neurale per migliorare le previsioni, riducendo al minimo gli errori del sistema. La retro-propagazione è un algoritmo fondamentale per l’efficacia delle moderne reti neurali nell’apprendimento automatico ed è una componente centrale dei loro processi di addestramento. Approccio Lean UX: metodo di progettazione dell’esperienza utente (finalizzato a migliorarla) che si concentra su processi di sviluppo rapidi e iterativi. Invece di creare una documentazione completa, gli informatici, gli sviluppatori e gli altri membri del team lavorano a stretto contatto per creare rapidamente dei prototipi e ottenere il feedback degli utenti in una fase iniziale. La Lean UX promuove anche la collaborazione e la flessibilità. ARPANET(Advanced Research Projects Agency Network): la prima rete di computer a commutazione di pacchetto e precursore di internet. Fu sviluppata negli anni’60 dal Dipartimento della Difesa degli Stati Uniti per collegare in rete istituti di ricerca e università. Grazie alla tecnologia della commutazione di pacchetto, la rete era robusta e poteva funzionare anche in caso di guasti. Il primo messaggio fu trasmesso nel 1969. Ha gettato le basi di internet e ed è stata da questa sostituita. Bias: distorsione sistematica o pregiudizio nelle decisioni, nelle percezioni o nelle analisi dei dati. Nel contesto dei dati e dell’intelligenza artificiale, i bias si verificano quando gli algoritmi favoriscono o sfavoriscono determinati gruppi a causa di dati sbilanciati o errati. Il bias può sorgere G lossario inconsciamente o attraverso presupposti errati e influenza l’obiettività dei risultati. Bolla di filtraggio( filter bubble): descrive una situazione in cui gli algoritmi visualizzano contenuti che corrispondono agli interessi precedenti degli utenti. Questo spesso porta a un flusso limitato di informazioni e impedisce agli utenti di percepire una più ampia diversità di opinioni. CAD( Computer-Aided Design): Software per la creazione e la modifica di disegni tecnici o modelli 3D. Viene utilizzato principalmente in ingegneria, architettura e progettazione di prodotti per creare disegni precisi in formato digitale. Il CAD consente un elevato livello di precisione e un risparmio di tempo rispetto ai disegni manuali, in quanto è possibile apportare modifiche e cambiamenti in tempo reale. Le simulazioni possono essere facilmente implementate. Camera dell’eco( Echo chamber): si verifica quando le persone consumano principalmente informazioni che confermano le loro opinioni. Gli algoritmi dei social network incoraggiano questo fenomeno mostrando contenuti che corrispondono agli interessi degli utenti. Si creano così delle“bolle di filtraggio” in cui le opinioni dissenzienti non vengono quasi mai ascoltate. In questo modo si rafforzano le proprie convinzioni, che possono distorcere la percezione della realtà. Catena di fornitura: descrive le fasi che un prodotto o un servizio attraversa per arrivare dall’idea al prodotto finale. Il concetto di catena di fornitura aiuta anche le aziende ad analizzare e ottimizzare i propri processi. Classificazione: processo nel campo dell’apprendimento automatico e dell’analisi dei dati in cui i dati vengono suddivisi in categorie o classi predefinite. Un modello di classificazione impara da dati campione(dati di addestramento) per classificare correttamente i dati futuri. Gli esempi includono il riconoscimento delle e-mail come spam o non spam o la categorizzazione delle immagini. L’obiettivo è categorizzare i dati sconosciuti nel modo più preciso possibile. Cloud computing: fornitura di risorse informatiche come spazio di archiviazione, potenza di calcolo e applicazioni tramite internet(“cloud”) anziché localmente sul proprio computer. Gli utenti possono accedere a queste risorse in modo flessibile e spesso pagano solo per i servizi che effettivamente utilizzano. I dati e le applicazioni possono essere utilizzati da qualsiasi luogo e scaricati in base alle esigenze, senza dover gestire i propri server. Commercio elettronico( e-commerce): si riferisce all’acquisto e alla vendita di beni e servizi via internet. I clienti possono sfogliare e confrontare i prodotti online e ordinarli direttamente. I rivenditori utilizzano il commercio elettronico per raggiungere un vasto pubblico, spesso senza negozi fisici. I modelli di commercio elettronico più noti sono B2C (business-to-consumer, cioè aziendacliente), B2B(business-to-business) e C2C(consumer-to-consumer). L’ecommerce offre convenienza e un’ampia gamma di prodotti, ma può anche porre sfide come la protezione dei dati e la gestione dei resi. Commutazione di pacchetto: in internet, ciò significa che i dati vengono suddivisi in piccoli pacchetti che vengono poi inviati a destinazione indipendentemente l’uno dall’altro attraverso percorsi diversi. Ogni pacchetto contiene dati su destinazione e di sequenza in modo che possano essere assemblati correttamente dai destinatari. G lossario 191 Questa tecnologia rende la rete robusta contro i guasti. È la base della struttura flessibile e resiliente di internet. Conferenza di Dartmouth(Dartmouth Summer Research Project on Artificial Intelligence): si è tenuta nell’estate del 1956 al Dartmouth College di Hanover, New Hampshire, USA. È considerata la nascita dell’intelligenza artificiale come campo di ricerca indipendente. Fu avviata da John McCarthy, Marvin Minsky, Claude Shannon e altri. Fu lì che McCarthy coniò il termine“Intelligenza Artificiale”. L’obiettivo era di esplorare le possibilità di dotare le macchine di un’intelligenza simile a quella umana, compresa la capacità di usare il linguaggio o di risolvere problemi riservati all’uomo. sistemi di imparare da grandi quantità di dati e di riconoscere schemi. Il termine “deep” si riferisce all’elevato numero di livelli della rete, fino a 130. Differential privacy: approccio alla protezione dei dati che consente di mantenere riservati gli specifici dati degli utenti negli insiemi di dati che vengono distribuiti, conservando intatte informazioni utili per le analisi. Con questo approccio l’uso di“rumore” statistico mirato(= fluttuazioni casuali) impedisce di trarre conclusioni sulle singole persone. La differential privacy viene utilizzata principalmente nelle analisi di dati di grandi dimensioni per proteggere la privacy e ottenere comunque risultati significativi. Contenuti generati dagli utenti( User Generated Content): contenuti creati e caricati dagli stessi utenti di una piattaforma o di un servizio anziché da produttori professionali di contenuti. Possono essere testi, foto, video, recensioni o commenti. Ne sono un esempio le immagini di Instagram, i video di YouTube, le recensioni di prodotti su Amazon o i lemmi di Wikipedia. Questi contenuti promuovono l’interattività delle piattaforme, conferendogli maggiore autenticità, poiché provengono da utenti reali. CPU(Central Processing Unit): l’unità di elaborazione centrale di un computer, spesso definita il“cervello” del sistema. Esegue calcoli e comandi, controlla tutti i processi ed elabora i dati secondo le istruzioni del software. La CPU influisce in modo significativo sulla velocità e sull’efficienza di un computer. Deep learning: un’area dell’apprendimento automatico che si basa sulle reti neurali artificiali e viene utilizzata per compiti complessi come il riconoscimento delle immagini. Il deep learning consente ai DOI( Digital Object Identifier): identificatore unico e permanente per oggetti digitali come articoli scientifici, libri o insiemi di dati. Viene utilizzato per rendere questi oggetti chiaramente reperibili e collegabili su internet. Ogni DOI si riferisce a un URL specifico che rende accessibile il rispettivo oggetto, anche se cambia posizione. I DOI sono particolarmente diffusi nella ricerca e nell’insegnamento. Economia delle piattaforme: modello di business in cui le piattaforme digitali fungono da intermediari tra fornitori e consumatori. Esempi noti sono Amazon, Uber e Airbnb. Le piattaforme mettono in contatto acquirenti e venditori e consentono scambio di prodotti, servizi o informazioni. Beneficiano di effetti di rete. L’economia delle piattaforme ha cambiato molti mercati e spesso ha soppiantato i modelli di business tradizionali. Inoltre, porta al fenomeno del“chi-vince-prende-tutto”. Effetti di rete: Più utenti ci sono su una piattaforma, più questa diventa interessante per gli altri utenti. 192 G lossario Fenomeno del“chi-vince-prende-tutto”: descrive una struttura di mercato in cui il fornitore di maggior successo riceve quasi l’intera quota di mercato, mentre la concorrenza ne beneficia appena. Spesso presente nei mercati digitali o negli effetti di rete(p. es. social media o piattaforme), porta il fornitore dominante ad accumulare vantaggi, come: una base di utenti più ampia, la consapevolezza del marchio e vantaggi di costo. Questo principio può rendere difficile l’ingresso di altri nel mercato e portare alla formazione di un monopolio. Governo dell’intelligenza artificiale: regole, processi e leggi per organizzare e utilizzare l’intelligenza artificiale in modo sicuro, etico e trasparente. L’obiettivo è ridurre al minimo rischi come la discriminazione e la violazione dei dati, ma anche promuovere l’innovazione. Ciò include linee guida sulla tracciabilità delle decisioni relative all’IA, standard etici, regolamenti sulla responsabilità, ma anche leggi come la Legge sull’IA dell’UE. Il governo dell’IA rafforza la fiducia nelle tecnologie dell’IA e mira a un utilizzo responsabile. GPU( Graphics Processing Unit): processore specializzato, originariamente sviluppato per calcolare e visualizzare la grafica. A differenza della CPU, la GPU è progettata per l’elaborazione di dati in parallelo, consentendo così di elaborare in modo efficiente grandi quantità di dati. Le GPU sono oggi utilizzate anche in settori come l’intelligenza artificiale e l’apprendimento automatico, in quanto sono in grado di eseguire calcoli complessi più velocemente delle CPU convenzionali. Guardiano( gatekeeper): entità che controlla l’accesso alle informazioni e decide quali contenuti gli utenti vedono. Piattaforme come i social network o i portali di notizie spesso assumono questo ruolo utilizzando algoritmi per filtrare e dare priorità ai contenuti. I guardiani influenzano quindi i contenuti che rimangono visibili o nascosti per gli utenti, il che può influenzare la formazione dell’opinione e la diversità delle informazioni. GUI( Graphical User Interface): interfaccia utente grafica che consente agli utenti di interagire con un computer o un programma attraverso elementi visivi come finestre, icone e menu, invece di inserire comandi. Rende il software più intuitivo e facile da usare. HCI( Human-Computer Interaction= Interazione Uomo Computer): analizza il modo in cui le persone interagiscono con i computer, al fine di rendere queste interazioni il più intuitive possibile. Si tratta di progettare interfacce utente e sistemi facili da capire e da usare. L’HCI combina informatica, psicologia e design. Un obiettivo è quello di sviluppare le tecnologie in modo che si adattino in modo ottimale alle esigenze dell’utente. HTML(Hypertext Markup Language): linguaggio standard per la strutturazione e la visualizzazione di contenuti sul web. Definisce la struttura di un sito web utilizzando i“tag”, che specificano come devono essere visualizzati i vari elementi (p.es. testo, immagini, link). L’HTML costituisce la struttura di base di ogni sito web e consente agli utenti di navigare nel web. HTTP(Hypertext Transfer Protocol): protocollo di rete che regola lo scambio di dati nel web e consente l’accesso ai siti web e ai loro contenuti. Viene utilizzato per inviare richieste da un client(come un browser) a un server e ricevere le risposte (come pagine HTML o altri dati). L’HTTP è la base della comunicazione sul web; la sua versione sicura è HTTPS(s= secure), che cripta il trasferimento dei dati. G lossario 193 IA(intelligenza artificiale): area dell’informatica dedicata allo sviluppo di sistemi in grado di eseguire compiti che normalmente richiedono l’intelligenza umana, come l’apprendimento, la risoluzione di problemi o la comprensione del linguaggio. Esempi possono essere gli assistenti vocali, il riconoscimento delle immagini e le auto a guida autonoma. L’obiettivo dell’IA è far sì che le macchine mostrino un comportamento che simuli il pensiero e l’azione umana. IA debole: forma di intelligenza artificiale progettata per un compito specifico o un’applicazione limitata. È specializzata nel risolvere problemi specifici, come l’assistenza linguistica, il riconoscimento delle immagini o il gioco degli scacchi, e non ha un’intelligenza generale o una coscienza. Le IA deboli possono fare solo ciò per cui sono state programmate. IA forte: vedi AGI. Indirizzi IP(Internet Protocol Address): ogni computer ha su internet un indirizzo IP unico, simile a un indirizzo postale. Questo indirizzo viene utilizzato per l’identificazione e consente alle informazioni di raggiungere il destinatario corretto. Informatizzazione: processo in cui sempre più aree della vita e del lavoro vengono supportate o automatizzate da tecnologie digitali e sistemi informatici. L’obiettivo è quello di rendere i processi più efficienti, più veloci e spesso più convenienti. Ciò riguarda quasi tutti i settori della nostra economia e società. L’informatizzazione sta cambiando il modo in cui le informazioni vengono raccolte, elaborate e utilizzate. Internet: rete globale di computer e server interconnessi. Consente alle persone di tutto il mondo di scambiare informazioni e comunicare tra loro. È costituita da un gran numero di reti collegate tra loro mediante protocolli standardizzati(vedi TCP/IP). Come si trasferiscono i dati da A a B? In primo luogo, i dati(e-mail, immagini...) vengono suddivisi in pacchetti, in modo che di ogni pacchetto si sappia da dove proviene, dove deve andare e in quale ordine i pacchetti devono essere messi insieme una volta arrivati a destinazione. Ogni pacchetto è instradato individualmente attraverso la rete, per cui ogni pacchetto può prendere un percorso diverso e reagire in modo flessibile alle interruzioni. Internet è quindi molto sicura e non può essere distrutta dall’interruzione di un nodo. Come in una grande rete stradale, esistono diversi percorsi per andare da A a B. Ciò indica che la progettazione di questa rete resiliente ha origini militari. Internet delle Cose( Internet of Things – IoT): collega a internet dispositivi fisici come elettrodomestici, automobili e macchine. Questi dispositivi raccolgono e scambiano dati per automatizzare e ottimizzare i processi. Ne sono un esempio le case smart(p.es. termostati e luci collegati in rete), gli impianti industriali che si monitorano da soli e i wearable nel settore sanitario. L’IoT consente analisi in tempo reale e facilita i processi quotidiani. Oltre ai vantaggi, però, l’IoT porta con sé anche delle sfide nell’ambito della protezione e della sicurezza dei dati. Manifesto di Vienna: un appello del 2019 emerso dal workshop sull’Umanesimo Digitale tenutosi a Vienna. Il manifesto chiede di realizzare una trasformazione digitale che sia umana e sostenibile, promuovendo la democrazia, la privacy e gli standard etici nello sviluppo della tecnologia. Microprocessore: È costituito da milioni di minuscoli transistor ed esegue 194 G lossario operazioni aritmetiche, logiche e di controllo di base, necessarie per il funzionamento di software e hardware. Un microprocessore è spesso la CPU di un computer. Non è solo un computer, ma può svolgere anche altri compiti, come il controllo di un dispositivo. I microprocessori non sono quindi presenti solo nei computer, ma anche in molti altri dispositivi come automobili, elettrodomestici o impianti industriali. Neurone: elemento di base di una rete neurale nell’apprendimento automatico, ispirato ai neuroni biologici nel cervello. È un’unità che riceve dati, li elabora e li trasmette ad altri neuroni. Il sistema “impara” adattandosi nel corso di molte iterazioni(= ripetizioni multiple) durante l’addestramento, al fine di ottenere il comportamento desiderato. Pensiero computazionale: approccio per la risoluzione dei problemi, tipico del modo di pensare di un informatico. Comporta la scomposizione di problemi complessi in problemi più piccoli, l’astrazione delle informazioni rilevanti e lo sviluppo di soluzioni eseguibili automaticamente(algoritmi). Il pensiero computazionale aiuta ad affrontare i compiti in modo sistematico ed efficiente e viene impiegato anche in altri settori oltre all’informatica. Pesi: numeri in una rete neurale che determinano la misura in cui gli ingressi di ciascun neurone vengono presi in considerazione nel calcolo dell’uscita. Vengono adattati durante l’addestramento di una rete. Profilazione comportamentale: strategia di marketing in cui la pubblicità è specificamente adattata al comportamento e agli interessi degli utenti. Viene creato un profilo dell’utente analizzando le attività online, come i siti web visitati, i clic, le ricerche sui siti e il tempo di permanenza sulle pagine. Su questa base, gli utenti ricevono pubblicità personalizzate che riflettono i loro interessi. Protocolli: regole o standard stabiliti che definiscono le modalità di trasferimento dei dati tra i dispositivi di una rete. Specificano come i dati vengono inviati, ricevuti e interpretati, in modo che dispositivi diversi possano comunicare tra loro, anche se provengono da produttori diversi o utilizzano sistemi diversi. Anche internet funziona attraverso una serie di protocolli di questo tipo, come il protocollo TCP/IP, che definisce le regole per la trasmissione e il controllo del flusso dei dati, o l’HTTP, utilizzato per la trasmissione di siti web. Rete neurale: un metodo dell’IA modellato sulla struttura del cervello umano. Una rete neurale è costituita da neuroni e sinapsi interconnessi che sono disposti in strati ed elaborano dati. Attraverso l’addestramento, la rete impara a riconoscere gli schemi nei dati. Le reti neurali vengono impiegate per compiti quali il riconoscimento delle immagini e del parlato. Sono fondamentali per molte applicazioni di apprendimento automatico. Router: computer dedicati che instradano i pacchetti di dati attraverso internet e si assicurano che trovino la destinazione. Scatola nera: sistema o processo il cui funzionamento interno non è visibile o comprensibile. Si possono solo vedere gli ingressi e le uscite, ma non si conoscono gli esatti processi intermedi. Il termine è usato nell’intelligenza artificiale perché sistemi complessi come le reti neurali prendono decisioni senza che l’esatto processo decisionale sia rintracciabile dall’uomo. G lossario 195 Server: A computer che fornisce dati, servizi o risorse attraverso una rete ad altri computer, i cosiddetti client. Può essere fisico(computer proprio) o virtuale(p.es. server cloud). Sinapsi: in una rete neuronale, la connessione tra due neuroni che trasmette dati e svolge un ruolo importante nel processo di apprendimento. Sistema esperto: sistema informatico che simula le competenze umane per aiutare a prendere decisioni o risolvere problemi in aree specifiche. È costituito da una base di conoscenza, che memorizza esplicitamente delle conoscenze specialistiche, e da un motore inferenziale. Questo è un programma che svolge deduzioni logiche a partire dai fatti presentati e tenendo presente la sua base di conoscenza. I sistemi esperti sono utilizzati in settori come la medicina o la finanza per aiutare ad analizzare situazioni e prendere decisioni. Possono gestire compiti complessi, ma sono limitati alla loro specifica area di competenza. TCP/IP(Transmission Control Protocol/ Internet Protocol): sistema di protocollo di base di internet. È costituito da due componenti principali: a) IP(Internet Protocol), responsabile dell’indirizzamento e dell’instradamento dei pacchetti di dati. Assicura che i pacchetti trovino la loro strada attraverso la rete e arrivino al destinatario. b) Il TCP(Transmission Control Protocol) assicura la trasmissione affidabile dei dati. Assicura che tutti i pacchetti arrivino completi e nella sequenza corretta, facendo nuova richiesta dei pacchetti andati perduti. Entrambi insieme consentono una comunicazione affidabile e organizzata su internet. Tecnologia informatica: indica tutte le tecnologie che vengono utilizzate per elaborare, memorizzare e trasmettere informazioni in formato digitale. Comprende hardware come computer e server, reti, software e sistemi di archiviazione. È presente in quasi tutti i settori della vita e costituisce la base della comunicazione moderna, dell’analisi dei dati e dell’automazione. Le aziende e le organizzazioni la utilizzano per rendere più efficienti i processi di lavoro, gestire i dati e consentire la creazione di reti globali. Transistor: minuscolo componente elettronico che serve da interruttore o amplificatore di segnali. Può controllare il flusso di corrente ed è quindi un elemento di base dell’elettronica moderna. I transistor sono solitamente realizzati in materiali semiconduttori come il silicio e sono in gran numero nei microprocessori e in altri circuiti che realizzano calcoli e controlli complessi. Umanesimo Digitale: un approccio che mette le persone al centro dello sviluppo tecnologico. Analizza la complessa interazione tra persone e tecnologia e cerca di influenzarla per una società sostenibile e migliore, tenendo conto dei diritti umani. URL(Uniform Resource Locator): un indirizzo web univoco che conduce a una risorsa specifica su internet, p.es. un sito web, un’immagine o un documento. Le URL consentono di accedere a contenuti e risorse tramite indirizzi standardizzati sul web. Virtualizzazione: descrive un processo in cui i compiti precedentemente svolti dai componenti hardware vengono trasferiti al software. Un esempio è l’automobile, dove i componenti software sono sempre più importanti. Programmi speciali creano un ambiente virtuale su 196 G lossario hardware fisico. Il software è più flessibile e più economico dell’hardware, e consente un utilizzo più efficiente delle risorse e una scalabilità flessibile.. Wearables: dispositivi elettronici portatili che vengono indossati sul corpo e svolgono varie funzioni. Ne sono un esempio gli smartwatch, i fitness tracker e gli occhiali smart. Registrano dati come i passi, le pulsazioni o il sonno e aiutano a monitorare la salute o a visualizzare notifiche. I wearables spesso si collegano con gli smartphone per sincronizzare i dati e fornire funzioni aggiuntive. WWW(World Wide Web) o Web: rete mondiale di siti web accessibili via internet. Si basa sulla tecnologia ipertestuale in cui le informazioni sono collegate da link che consentono agli utenti di navigare da una pagina all’altra. Testi, immagini, video e molto altro possono essere visualizzati con un browser web. Il web è stato sviluppato da Tim Berners-Lee nel 1989. Ha cambiato radicalmente il modo in cui cerchiamo informazioni, comunichiamo e lavoriamo. Il termine è spesso usato come sinonimo di internet. Gli elementi standardizzati del web sono HTML, URL e HTTP. XAI(eXplainable Artificial Intelligence):. tecnologia progettata per rendere tracciabili all’uomo i processi decisionali dell’IA ad apprendimento automatico. Questa IA spesso funziona come una scatola nera, prendendo decisioni senza che il processo esatto sia visibile. La XAI, invece, ha lo scopo di mostrare come e perché si ottengono determinati risultati. La XAI è una delle aree di ricerca più importanti nell’ambito dell’IA. G lossario 197 Curatori Anita Eichinger, direttrice della“Wienbibliothek im Rathaus”(la biblioteca del municipio di Vienna), affronta dal punto di vista teorico e pratico il tema delle biblioteche come istituzioni del sapere in tempi di trasformazione digitale. Di recente uscita: Anita Eichinger, Katharina Prager: We Are Needed More than Ever: Cultural Heritage, Libraries and Archives, in: Hannes Werthner et al.(eds.), Perspectives on Digital Humanism. Heidelberg: Springer, 2022, pp. 109–114. Peter Knees, professore associato e titolare della cattedra UNESCO per l’Umanesimo Digitale presso la Facoltà di Informatica della“TU Wien”(l’università tecnica di Vienna), conduce ricerche su temi quali l’intelligenza artificiale e i sistemi di raccomandazione con applicazioni nel campo della musica. Di recente uscita: P. Seshadri, S. Shashaani e P. Knees: Enhancing Sequential Music Recommendation with Negative Feedback-informed Contrastive Learning, in: Proc 18th ACM Conference on recommender Systems, 2024, ACM. Hannes Werthner, già professore di informatica alla“TU Wien” (l’università tecnica di Vienna) e in altre università, è specializzato in e-commerce e sistemi di raccomandazione. Nel 2019 ha organizzato il workshop sull’Umanesimo Digitale e ha dato vita al Manifesto di Vienna sull’Umanesimo Digitale. Di recente uscita: Hannes Werthner et al(eds.), Introduction to Digital Humanism. A Textbook. Cham: Springer, 2024. Curatore dell’edizione italiana Enrico Nardelli, professore ordinario di Informatica, Univ. di Roma“Tor Vergata”, direttore del Laboratorio Nazionale“Informatica e Scuola” del CINI e già presidente di Informatics Europe, conduce ricerche sulla didattica dell’informatica. È il coordinatore del progetto nazionale sull’informatica per le scuole“Programma il Futuro”, patrocinato dal Ministero dell’Istruzione. Di recente uscita: La rivoluzione informatica: conoscenza, consapevolezza e potere nella società digitale, Edizioni Themis, 2022. 198 C uratori Colophon Una pubblicazione della Wienbibliothek im Rathaus, della TU Wien e della Cattedra UNESCO di Umanesimo Digitale A cura di Anita Eichinger, Peter Knees e Hannes Werthner. Realizzazione didattica di Bettina K. Lechner Edizione italiana di Enrico Nardelli Progetto grafico: Lisa Ifsits Stampa: Digital Book srl, Città di Castello(PG), Italy ISBN: 978-88-96069- 82-0 2025 Edizioni Themis, Roma edizionithemis.it Edizione originale: Digitalisierung und wir. Lehrbuch zum Digitalen Humanismus mit praktischen Übungen, Residenz Verlag, 2024 Non è sempre stato possibile identificare o contattare i titolari dei diritti e i cessionari. La Wienbibliothek im Rathaus chiede di essere contattata in tutti i casi in cui vi siano prove di diritto d’autore. Licenza: CC BY https://creativecommons.org/licenses/ by/4.0/. Le eccezioni sono contrassegnate con©. Si prega di utilizzare il seguente riferimento alla fonte: CC BY Trasformazione digitale e valori umani. Libro di testo sull’Umanesimo Digitale con esercizi pratici, edizione italiana di Enrico Nardelli, Themis Edizioni 2025, dell’originale Digitalisierung und wir. Lehrbuch zum Digitalen Humanismus mit praktischen Übungen, a cura di Anita Eichinger, Peter Knees, Hannes Werthner. Il libro è disponibile in formato digitale all’indirizzo: https://edizionithemis.it/catalogo/libri-open-access/ download/3-libri-open-access/3-trasformazionedigitale-e-valori-umani 199