Come tutte le tecnologie moderne, le piattaforme digitali e l’intelligenza artificiale generativa ci offrono un patto mefistofelico. Come nel Faust, promettono poteri apparentemente irrinunciabili. Col tempo, tuttavia, il patto inizia a rivelare i suoi costi e ci rendiamo conto che è molto difficile rescinderlo. Le piattaforme sono difficili da rifiutare perché esaltano la libertà d’espressione, valore fondante del liberalismo moderno. Nel fornire un megafono a chiunque le voglia e le sappia utilizzare, le piattaforme amplificano le capacità espressive degli individui, riducendo al tempo stesso il potere di intermediari come i media, gli editori e i partiti politici. Le piattaforme sono però in grado di registrare le transazioni che intercorrono tra domanda e offerta, e anche tra gli utenti stessi, il che consente loro di quantificare, analizzare, modulare, prevedere e indurre una vasta gamma di comportamenti sociali. Già nel 2012 Facebook conduceva un esperimento di larga scala in cui manipolando il news feed di novecentomila utenti, osservava gli effetti che post associati ad emozioni positive e negative avevano sul coinvolgimento degli stessi. Negli anni, il miglioramento degli algoritmi di profilazione e personalizzazione dei contenuti ha ampliato la presenza dei social nelle nostre vite: oggi cinque miliardi di persone hanno un account social, che utilizzano in media per due ore e mezza al giorno, media che raggiunge le cinque ore tra gli adolescenti.

La popolarità dei social ha dato vita a un nuovo tipo di sfera pubblica globale. Tuttavia, anche in questo caso, il tempo ha rivelato gli effetti indesiderati legati alla sua architettura digitale. Tra questi, il microtargeting delle preferenze politiche degli utenti, venuto alla ribalta con lo scandalo di Cambridge Analytica del 2016, e la polarizzazione politica. Come è noto, uno degli effetti imprevisti della personalizzazione algoritmica sono le cosiddette bolle di filtraggio, le quali rafforzano le identità sociali con conseguente irrigidimento delle posizioni politiche. A partire dal 2010, gli scienziati politici hanno iniziato a osservare preoccupati un arretramento della democrazia liberale nel mondo. Noto come democratic backsliding, il fenomeno procede parallelamente all’ascesa dei social media. Anche se la natura proprietaria dei dati prodotti dai social non consente di produrre evidenze scientifiche sull’esistenza di un rapporto causale tra le informazioni veicolate dagli stessi e l’arretramento delle democrazie, diversi indizi vanno in questa direzione. Ad esempio, l’Africa è stato l’ultimo continente in cui la de-democratizzazione ha preso piede ed è anche il continente in cui i social media sono arrivati più tardi. Uno studio scientifico del 2018 ha dimostrato inoltre che le fake news hanno un tasso di replicazione sei volte superiore a quello delle notizie verificate. Essendo pensate per stimolare reazioni immediate in un pubblico già predisposto a recepirle, le fake news sono un sottoprodotto di una sfera pubblica fortemente soggettivizzata. Condividiamo innanzitutto ciò che conferma la nostra visione del mondo, e nel farlo ci facciamo portatori inconsapevoli di rappresentazioni verosimili ma non veritiere.

Questo tipo di evoluzione non si discosta dagli sviluppi recenti dell’intelligenza artificiale generativa. Nel dare forma concreta alle richieste e all’immaginazione degli utenti, l’Ia generativa è un modello di simulazione che non ha alcun nesso con la realtà, ma solo con i linguaggi, i codici, le tecniche, gli stili, e le narrazioni che gli esseri umani hanno utilizzato nel corso della loro storia per rappresentarla. Questo significa che l’Ia non dispone di un meccanismo di verifica delle informazioni, soprattutto se la verifica comporta una procedura innovativa o la produzione di dati non ancora esistenti. Addestrata su dati affidabili e inaffidabili, e priva di una capacità critica di discernimento, l’Ia si limita a ricombinare in modo meccanico conoscenze preesistenti. Analogamente alle bolle di filtraggio dei social l’Ia finisce così per produrre risposte che possono soddisfare alcuni bisogni individuali ma che non necessariamente beneficiano la società nel suo complesso. Non a caso, nel proporre un quadro di regolamentazione dell’Ia, la Commissione Europea ha individuato diversi livelli di rischio che ne subordinano l’adozione a una valutazione del suo impatto sociale. Anche se la regolamentazione è necessaria per prevenire possibili effetti indesiderati dell’Ia, come la possibilità di cyber-attacchi e truffe su vasta scala, in ultima analisi gli usi sociali effettivi saranno altrettanto fondamentali. Abbiamo impiegato secoli a renderci conto degli effetti indesiderati dei combustibili fossili, decenni per quelli del tabacco. Non abbiamo lo stesso tempo a disposizione per renderci conto degli effetti indesiderati delle piattaforme e dell’Ia sui processi democratici e i rapporti sociali.