exedre.org — archive

Human-in-the-loop, con responsabilità

2026-05-18T06:28:18+02:00

Il testo ricostruisce genealogicamente l’idea di Human-in-the-Loop (HITL) mostrando due traiettorie divergenti: quella militare, centrata sul mantenimento del controllo umano per garantire l’attribuzione di responsabilità nelle decisioni critiche, e quella cibernetico-informatica, che tende invece a “eclissare” la responsabilità mentre usa l’umano come anello di adattamento e validazione. Dalla cibernetica di Wiener e dai primi sistemi di apprendimento assistito (Rosenblatt, Samuel) si arriva ai modelli GPT e al ciclo RLHF, evidenziando che selezione dei corpora, annotazione, e moderazione introducono autorità epistemiche opache e bias difficili da tracciare. Nei contesti ad alto rischio (medicina, veicoli autonomi) l’articolo sostiene che la supervisione non basta senza trasparenza, criticabilità e un’interazione che renda visibili fonti e incertezze. Conclude proponendo un HITL “2.0”: non revisore finale o stampella del modello, ma co-designer di obiettivi, vincoli e metriche, capace di sostenere un dialogo epistemico responsabile.

Human-in-the-Loop (HITL) è un concetto militare. Non è strano. La maggior parte delle tecnologie informatiche nascono grazie a investimenti militari. HITL rappresenta la forte preferenza delle strutture militari di mantenere sotto controllo umano la parte rilevante delle azioni che vengono eseguite da sistemi meccanici.

Non è una scelta ideologica, c'è un motivo pratico. L'azione militare si sviluppa in aree di incertezza: la scelta di iniziare un'azione è importante, ma anche quella di terminarla o abortirla all'ultimo momento. Sono scelte che hanno costi alti, anche in termini di vite umane. Mantenere alto il controllo sull'esecuzione delle azioni, significa non affidarsi ad automatismi con un'inerzia difficile da gestire: sarebbe una scelta sbagliata sia dal punto di vista pratico che etico.

Il concetto HITL nasce quando tra la decisione di un'azione e la sua effettiva realizzazione si può interporre un sistema esecutivo non banale. Oltre un certo livello di complessità del meccanismo di esecuzione ci deve chiedere se la responsabilità dell'azione sia attribuibile a qualcuno o se è meramente automatica.

A partire dalle ultime fasi della seconda guerra mondiale, quando l'ingegneria militare raggiunse risultati rilevanti nell'automazione delle armi autonome, come per esempio i siluri ad inseguimento dell'obiettivo, i militari espressero con chiarezza l'esigenza di mantenere questo controllo in mani umane.

A quel tempo, uno dei protagonisti della creazione di queste armi, nonché principale promotore della teoria matematica sul controllo automatico fu Norber Wiener, che pochi anni dopo fondò una nuova branca scientifica, chiamata cibernetica.

Oggi Wiener è considerato il riferimento principale per il concetto di Human-in-the-loop. Ma le cose sono un po' più complesse. La sua opera voleva dotare le macchine di obiettivi autonomi. Wiener parlava di teleologia della meccanica. Dava l'impressione quindi di voler eliminare completamente lo Human-in-the-loop e affidare alla macchina la capacità di agire indisturbata fino al risultato finale una volta che fossero stati definiti gli obiettivi, che la macchina potesse anche scoprire da sé.

In Cybernetics; or, Control and Communication in the Animal and the Machine (MIT Press, 1948), Wiener propose l'idea che anche ogni sistema vivente per mantenere una condizione di equilibrio (omeostasi) realizzi sempre una autoregolazione tramite quello che può essere considerato come un circuito di retroazione (feedback); l'allontanamento da questa condizione di equilibrio, considerata come “errore” tra stato osservato e stato desiderato, porta l'organismo a correggersi in autonomia. Quindi, a livello basilare, la finalità, il telos, degli esseri viventi è quella di rimanere in vita e assecondare i meccanismi omeostatici.

Adottando questa logica, si potevano dotare anche i sistemi meccanici di una forma autonoma di finalismo (teleologia), in modo da indurli a perseguire obiettivi propri e agire con uno scopo insito. Per ricreare un meccanismo come quello dell'omeostasi si dovevano dotare i sistemi di circuiti ad anello chiuso con retroazione negativa, confrontando lo stato del sistema con quello previsto, estraendo un segnale d'errore da minimizzare. Si pensi al siluro che, dopo esser stato lanciato verso il bersaglio, lo insegua attraverso un meccanismo di valutazione della posizione dell'obiettivo usando un sistema sonar. Il telos del siluro è quello di colpire il bersaglio.

L'adozione di questo linguaggio teleologico era certamente improprio (come peraltro fecero notare filosofi del calibro di Jonas o Heidegger), ma l'adozione di metafore sovraestese era solo all'inizio.

La scienza dei sistemi autoregolati fu all'inizio una scienza che voleva escludere lo Human-in-the-loop, e in generale la decisionalità biologica, tentando di ricondurre tutti i comportamenti ad azioni meccaniche anche nei viventi. I primi studi cibernetici vertevano sui riflessi o sui meccanismi automatici non coscienti, come ad esempio il respiro; questi meccanismi sono correlati con l'omeostasi in cui l'essere biologico non interviene volontariamente o in modo cosciente. Prendevano inoltre in considerazione quelle situazioni patologiche che potevano evidenziare il meccanismo di feedback anche nei viventi.

Queste ricerche approfondirono lo studio delle condizioni in cui la presenza del fattore umano o biologico era importante, oltre il momento di selezione iniziale degli obiettivi. Comprendere dove l'umano era ancora importante poteva dare un significativo aiuto per costruire meccanismi che lo sostituissero.

Quindi, con una sorta di inversione dell'obiettivo scientifico iniziale, si esplorò anche il verso opposto dell'equazione posta da Wiener chiedendosi quando era possibile o desiderabile surrogare meccanicamente i processi biologici.

Infatti, se la decisionalità meccanica poteva escludere l'azione biologica, sembrò naturale spingere il modello meccanico dentro la biologia delle decisioni con un'equivalenza azzardata: poiché la macchina può eseguire decisioni senza l'intervento biologico, allora anche la parte decisionale biologica deve poter essere sostituita con quella meccanica. Azzardato, ma scientificamente affascinante.

D'altro canto quello era il periodo in cui si immaginava di poter modellare l'intera intelligenza umana semplicemente dal suo comportamento percepibile dall'esterno, come proponeva Turing nel suo celebre esperimento dell'imitazione (Turing, Mind, 1950).

Negli anni ’50, l’influenza del modello cibernetico si estese quindi agli esperimenti di mimesi dei sistemi percettivi biologici, per dimostrare come si potessero astrarre in forma matematica.

Il fisiologo Frank Rosenblatt, coautore di Wiener della prima presentazione della cibernetica, con The Perceptron – A Probabilistic Model for Information Storage and Organization in the Brain (Cornell Aeronautical Laboratory, 1958), propose un’architettura tecnica che generava una valutazione della probabilità di connessione tra i nodi di una rete matematica in base a esempi etichettati da un operatore umano. Fornendo molteplici esempi di uno stesso tipo, la rete tendeva a stabilizzare queste probabilità in modo che avrebbero riconosciuto come appartenenti al tipo anche elementi non passati come esempio.

Oltre a Rosenblatt anche Arthur Samuel, in Some Studies in Machine Learning Using the Game of Checkers (IBM Journal of Research and Development, 1959), per fare un altro esempio noto, si impegnò nello sviluppo un programma che si auto-migliorava giocando a dama dove le possibili mosse venivano etichettate da un operatore umano.

Quindi sia la proposta di percettrone di Rosenblatt, che il sistema della dama di Samuel, reintroducevano la figura dell'umano nel processo.

Anche in questo campo di studio proliferarono le metafore.

I nodi della rete matematica diventarono neuroni, la rete stessa fu quindi identificata come rete neurale, il semplice numero che indicava una probabilità di connessione, veniva piuttosto chiamata peso; l'operazione matematica, che attraverso opportune retroazioni definiva i pesi di connessione, diventò apprendimento, semplicemente perché avveniva in stadi successivi di propagazione all'indietro che stabilizzavano i pesi progressivamente.

Sappiamo benissimo, come sapeva Rosenblatt, che le reti neurali così costruite non modellano che minima parte di un reale sistema neurale biologico; che l'astrazione matematica del neurone non cattura che minima parte del suo vero comportamento; che i pesi non rappresentano un grave fisico; e che l'apprendimento di questi sistemi è solo una forma di ottimizzazione matematica e nulla ha a che fare con l'apprendimento della biologia. La metafora è povera, e vale solo per spiegare superficialmente il comportamento del modello matematico con un esempio del mondo reale. Ma queste metafore restano nel linguaggio comune e molti finiscono per vedere questa semplificazione, che dovrebbe servire solo a spiegare l'aspetto tecnico di un'invenzione, come la reale essenza dell'elemento fisico reale che si prende come paragone.

Quindi, se basta un po' di matematica e ottimizzazione per fare una rete neurale, e una rete neurale è tutto ciò su cui si basa il cervello, diviene lecito pensare che con un po' di matematica e ottimizzazione si può tranquillamente produrre un'intelligenza. Una intelligenza artificiale appunto.

Non è una deduzione molto scientifica questa: è una metafisica basata sulla distorsione del linguaggio non giustificata dai dati di fatto.

Le esperienze pionieristiche degli anni '50 segnarono anche la nascita dell'idea della macchina che non apprende in modo del autonomo, ma con un feedback da parte dell’umano per modulare i propri parametri e correggere gli errori di generalizzazione.

In realtà, è sbagliato pensare che la macchina apprenda: si limita ad adattare la propria configurazione interna ai segnali che provengono dall'esterno. Non apprende quindi, ma si adatta. Adattamento è un vocabolo che rende più chiaro l'aspetto meramente mimetico di questi sistemi.

1. Oltre HITL

L'introduzione del feedback nei primi sistemi cibernetici generò, benché ancora in termini embrionali, una nozione parallela e opposta a quella militare di Human-in-the-Loop. Questo secondo, e molto diverso, concetto di Human-in-the-loop prevede un'architettura in cui il ciclo di adattamento comprende non solo l’elaborazione dei dati, ma anche l’intervento attivo dell’operatore, che trasforma i dati in modo da renderli adatti al sistema. L'intervento umano guida, valida e raffina i modelli di adattamento. Senza questo anello umano, le reti neurali e gli algoritmi statistici resterebbero privi dei riferimenti necessari a distinguere i risultati, che sono numeri di cui solo un piccolo sottoinsieme rappresenta cose effettivamente utili o veritiere.

Lo Human-in-the-loop, in questi casi, quindi ha una natura molto differente, opposta a quello militare. L'uomo qui scompare dall'azione e si perde la diretta responsabilità dei risultati. Il sistema qui ha l'obiettivo di emanciparsi e fare a meno dell'uomo, come peraltro la metafora dell'apprendimento lascia intendere: dopo aver appreso, si diventa adulti e quindi autonomi. L'uomo, che per i militari è fondamentale, qui è un collaterale alla crescita del sistema, così questo modello forse, e neppure troppo per gioco, lo potremmo chiamare HITL-ER, Human In The Loop – Eclipsing Responsibility.

Già nella Guerra Fredda l’aviazione statunitense adottò sistemi di guida radar in cui il pilota interveniva per correggere o autorizzare automaticamente manovre di tiro; quest’approccio ibrido fra automazione e supervisione rese possibile lo sviluppo di armi guidate di precisione, conservando però la “scelta ultima” in capo all’operatore umano (Singer, 2009).

Con l'avanzamento della tecnologia, la bussola dell'esercito USA restò chiara. Ad esempio nel 2012 il Dipartimento della Difesa USA formalizzò questa preferenza con la Directive 3000.09, intitolata “Autonomy in Weapon Systems”: ogni sistema letale autonomo deve essere progettato in modo da garantire che un essere umano rimanga sempre in grado di intervenire, interrompere o autorizzare le sue azioni durante l’intero ciclo di impiego (Department of Defense, 2012).

Processi decisionali completamente automatici sarebbero consentiti solo in scenari dove la supervisione diretta non sia tecnicamente realizzabile o comporti rischi maggiori, ma anche in questi casi si richiede un “human over-watch” capace di assumersi la responsabilità legale e morale delle decisioni di ingaggio.

Negli anni più recenti questo modello è evoluto ancora con programmi di “human–machine teaming” di DARPA, come CODE (Collaborative Operations in Denied Environment), in cui squadre di veicoli aerei e terrestri autonomi (droni) operano in sinergia con operatori umani, ricevendo comandi di missione ad alto livello mentre mantengono la capacità di eseguire azioni tattiche in autonomia solo entro parametri strettamente definiti (DARPA, 2016). Qui la logica è evitare il sovraccarico cognitivo dell’operatore e contemporaneamente non affidarsi ciecamente alla macchina, realizzando un equilibrio fra velocità di reazione e controllo umano sulle decisioni critiche.

Questo modello HITL militare riflette soprattutto l’esigenza di responsabilità politica: un conflitto armato richiede che le decisioni di vita o di morte possano essere ricondotte a un atto di volontà umano. In mancanza si prevedono sanzioni penali, internazionali e crisi di legittimità. In tal senso, ancor oggi i grandi budget destinati a sistemi autonomi – dai droni Predator fino alle sperimentazioni di carri armati senza equipaggio – continuano a prevedere la supervisione umana, non solo per ragioni tecniche, ma per preservare un nesso giuridico e morale fra scelta e responsabilità.

I finanziamenti del modello HITL militare nella computer science hanno avuto ricadute civili importanti in quello specifico ambito tecnologico comunemente noto come Human-Computer Interfaces, o in quello più vasto denominato Intelligence Augumentation (IA, da non confondere con AI, Artificial Intelligence, derivata da quella che abbiamo chiamato HITL-ER).

Esempi di queste tecnologie di Intelligence Augumentation, in campo militare, furono gli HUD (Head-Up Display), come il celebre VTAS (Visual Target Acquisition System), che integravano il puntamento missilistico con il movimento della testa del pilota, in dotazione già dall'inizio degli anni '70 sugli F-4 Phantom e F-14 Tomcat della U.S. Navy, e in realtà sviluppati nel decennio precedente in Francia e disponibili sui caccia Mirage.

Sul versante civile, già negli anni Sessanta Douglas Engelbart concepì l'idea dell’Intelligence Augmentation nel suo oN-Line System (NLS). Alla celebre «Mother of All Demos» del 1968 presentò un software grafico interattivo con finestre sovrapponibili, un editor testuale con iper‐testo e anche quello che oggi è forse il più efficace esempio di quest'approccio: il mouse. Tutti questi strumenti introducono nuovi modi di manipolare, semplificare o conoscere la realtà per potenziare le capacità cognitive degli utenti, trasformando l’interfaccia computer-umano in un vero partner di pensiero. Engelbart non mirava a sostituire l’umano, bensì a elevare il quoziente intellettivo collettivo attraverso un ambiente interattivo in cui il feedback immediato costituiva il motore dell’apprendimento congiunto tra uomo e macchina.

2. ChatGPT e HITL-ER

L’avvento dei General Pre-Trained Transformer ha fornito il terreno ideale per codificare in modo strutturato all’interno di modelli di linguaggio su larga scala l'accezione cibernetica degli HITL (HITL-ER).

Va detto che anche in precedenza questo campo è stato molto battuto in tutta quell'area denominata Reinforcement Learning, in cui i sistemi stocastici venivano adattati attraverso l'input umano (il caso classico è quello dello spam in cui le capacità di riconoscimento, tra le altre cose, venivano migliorate analizzando opportunamente i messaggi che l'utente finale indicava come spam nel suo client di posta).

I sistemi GPT impongono la presenza dell'uomo, se non interagissero con l'uomo non saprebbero in effetti, cosa trasformare.

Sono tre i livelli principali in cui l’intervento umano aiuta un modello di linguaggio.

Innanzitutto, sono operatori umani che curano i corpora su cui il modello verrà addestrato. La selezione dei testi, la loro rappresentatività e la qualità delle annotazioni di base determinano l’orizzonte cognitivo entro cui il sistema si potrà muovere. Ogni scelta di inclusione o esclusione riflette criteri di rilevanza e di bilanciamento che, se anche intesi per migliorare accuratezza e completezza, rischiano sempre di imprimere un’impronta culturale o ideologica che il modello coglierà come “norma” del suo universo testuale (Settles, 2012).

Durante il funzionamento, il modello stesso individua produzioni che gli suscitano maggiore incertezza e sottopone agli operatori umani i casi ambigui su cui ha bisogno di un approfondimento d'indagine. Questa fase introduce dinamiche di annotazione e di adattamento attivo ai contenuti. Il feedback continuo consente un raffinamento delle capacità di generalizzazione, ma le decisioni di chi revisiona o crea nuove etichette sulla base di linee guida, esperienze pregresse o pregiudizi impliciti, definiscono i confini del sapere che il sistema apprende (Settles, 2012).

Infine, a valle del generatore di testi si colloca la moderazione dei contenuti dove filtri automatici o revisioni umane autorizzano, correggono o scartano le risposte prodotte. In questo stadio si traduce in operazioni concrete l’atto finale di responsabilità: decidere che cosa “può” o “non può” essere presentato all’utente. La visione soggettiva di chi modera, con i propri giudizi su cosa significherebbe il rispetto della verità, l'opportunità o la correttezza politica, condiziona il risultato finale. La moderazione diventa quindi una forma di autorità terminale, che assume valore epistemico.

Nel 2022, Ouyang et al. hanno dimostrato come un semplice raffinamento supervisionato sui dati etichettati dagli esseri umani non fosse sufficiente a garantire risposte realmente utili e allineate alle intenzioni dell’utente. Per migliorare il processo era necessario introdurre un ciclo formale in tre fasi: prima si addestra un modello base con dati umani (“supervised fine-tuning”), quindi si costruisce un modello premiale (“reward model”) che si adatta nello stimare la preferenza umana tra due risposte alternative, infine si applica un algoritmo di reinforcement learning per ottimizzare direttamente la generazione di testo secondo il segnale di ricompensa adattato.

Questa architettura, tecnicamente chiamata RLHF (Reinforcement Learning from Human Feedback), ha segnato la svolta per i GPT moderni: da modelli “statistici” limitati a massimizzare la verosimiglianza delle sequenze di token, si passa a sistemi capaci di incorporare direttamente nel processo di addestramento valutazioni qualitative e sfumature pragmatiche del giudizio umano come la coerenza ad tema, la percezione della correttezza fattuale di una risposta e il tono desiderato nell'interazione.

RLHF ha un gran valore per i GPT moderni, perché l'utente che dialoga in linguaggio naturale, è egli stesso in-the-loop, e può evitare di dover ingegnerizzare manualmente prompt sempre più sofisticati perché il modello interpreterà correttamente le esigenze dell'utente.

Mentre l'interazione dell'utente comune rimane nella memoria locale del proprio profilo e viene presto azzerata, esistono operatori privilegiati (e anche pagati) la cui interazione passa, in qualche forma, nella base di conoscenza dei modelli.

Gli interventi umani hanno un peso rilevante nella valutazione dei sistemi GPT: fino a che punto l’autorità conferita all’operatore garantisce la veridicità delle risposte? Chi sono gli operatori a cui è permesso adattare i modelli, chi corregge le produzioni del modello, chi censura le risposte? Anche su questo la trasparenza dei produttori, per ora, latita.

Emily Bender e Alexander Koller hanno mostrato come i bias culturali e linguistici presenti in questi sistemi linguistici emergano non solo dal materiale di addestramento, ma anche dalle pratiche di annotazione e moderazione, traducendosi in distorsioni strutturali molto difficili da smascherare (Bender & Koller, 2020). Quindi, pur inserendo l’uomo « a salvaguardia del processo », non si elimina mai la possibilità che il modello riproduca pregiudizi radicati.

Secondo i produttori dei sistemi di linguaggio, la presenza dell’anello umano introdurrebbe una forma implicita di garanzia etica poiché i feedback umani potrebbero scoraggiare contenuti inappropriati o fuorvianti ancor prima che vengano rilasciati in produzione, disegnando un nuovo equilibrio tra automazione e responsabilità condivisa.

Il modello HITL-ER prevede un collante tra tecnologia e supervisione critico-riflessiva, ma la sua efficacia epistemica dipende dalla consapevolezza e dalla trasparenza con cui vengono gestiti i bias umani lungo l’intero workflow, una trasparenza che ad oggi semplicemente non esiste.

3. Ad alto rischio e con nessuna responsabilità

Quali sono le sfide operative di HITL-ER nei contesti ad alto rischio, dove l’errore ha conseguenze concrete e talvolta irreversibili?

In molti campi in cui la vita umana è a rischio, il mero adattamento dei sistemi grazie alla supervisione umana dei modelli non è sufficiente a garantire interpretazioni sicure.

In campo medico, ad esempio, dove già oggi l'intelligenza artificiale supporta in modo sostanziale l'interpretazione di esami strumentali, come quelli radiologici o istologici, è noto che lo scostamento da situazioni di normalità, una normalità spesso calcolata su rilevazioni limitate a ben specifiche popolazioni di riferimento, non rappresenta compiutamente un vero stato patologico, e neppure un indizio di malattia. I medici consapevoli non sempre agiscono per riportare un conclamato stato patologico ad una ipotetica normalità costruita su valutazioni generiche con cure che hanno anche effetti collaterali se il paziente può convivere, con un'adeguata qualità di vita, la sua situazione di nuova normalità. La medicina diviene sempre più personalizzata, ritagliata addosso al singolo paziente, e solo una efficace integrazione tra le capacità degli strumenti tecnici e la decisionalità umana, che è in grado di evitare le trappole degli errori di valutazione automatici, può dare al paziente la migliore possibilità di cura.

Ma questa integrazione è possibile solo quando c'è la possibilità di agire quella che il filosofo Habermas chiama “situazione ideale di discorso” overo se ogni affermazione diagnostica può essere sottoposta a critica e giustificazione reciproca in un contesto libero da coercizioni, in modo che le asserzioni di verità siano validate attraverso un processo argomentativo che coinvolge non soltanto la macchina, ma anche il professionista e il paziente (Habermas, Teoria dell’agire comunicativo, Il Mulino, 2022). Ma se la macchina non può tracciare le fonti delle proprie assezioni, o se viene posta su un piano di privilegio rispetto all'operatore umano (« perché la tecnica non può sbagliare ») il rischio di ottenere decisioni inadeguate è molto alto.

Donald Norman, a cui si fanno risalire i primi e più importanti studi sullo 'User Centered Design', ha chiarito che l’interfaccia tra medico e algoritmo dovrebbe rendere immediatamente visibile lo stato del sistema, i livelli di confidenza delle segnalazioni e le fonti dati su cui si fonda ogni segnale di allarme, evitando che l’operatore medico si debba fidi ciecamente di una “black box” (Norman, La caffettiera del masochista, Mondadori, 2015).

In un altro campo ad alto rischio, quello dei veicoli autonomi, l'intervento dell'uomo è cruciale per gestire situazioni impreviste o ambigue tramite “take-over” da parte dell'operatore umano sul sistema automatico. La sicurezza della guida autonoma non dovrebbe pretendere ogni garanzia dalla correttezza degli algoritmi, senza la necessità che l’utente conduca un dialogo informato con il sistema, comprendendo limiti e presupposti delle decisioni prese dal software.

La sfida epistemica dell’HITL non è solo tecnica, ma politica e giuridica: garantire che le strutture di feedback umano non riproducano i limiti e i pregiudizi che dovrebbero piuttosto correggere richiede un design dell’interazione fondato sulla trasparenza, sulla possibilità di critica e sul rispetto del principio di una comunicazione libera e paritetica.

Oggi però, tra i limiti della tecnologia e veri e propri pregiudizi epistemici sul valore (e più spesso il disvalore) dell'HITL, tali obiettivi sembra essere molto distanti.

4. Un HITL futuro, possibile.

È possibile immaginare un paradigma Human-in-the-Loop 2.0 in cui la funzione umana non si limiti né alla posizione ancillare predicata dal modello HITL-ER, né solo a quella di mera assunzione di responsabilità finale come nel modello militare. Lo Human-in-the-loop dovrebbe essere un elemento costitutivo del processo di co-costruzione della conoscenza come esperto non solo “revisore” ma “co-designer” degli obiettivi e dei vincoli, modellando insieme alla macchina il contesto di applicazione e le metriche di successo.

Come Herbert A. Simon ricordava ne Le scienze dell’artificiale, progettare sistemi intelligenti significa soprattutto definire razionalmente vincoli e preferenze entro cui l’azione può dispiegarsi, riconoscendo la razionalità limitata dell’agente umano e l’importanza di un ambiente strutturato che sostenga il processo decisionale (Simon, 1973).

Dal lato pratico, questo comporta non solo l’introduzione di interfacce evolutive in grado di tradurre in tempo reale i feedback qualitativi dell’operatore in adattamenti del proprio modello personalizzato, ma anche la possibilità di rimodulare dinamicamente gli obiettivi della macchina alla luce di nuove conoscenze emergenti durante l’interazione, riconoscendo progressivamente l'accordo intersoggettivo che un dialogo con gli altri potrebbe comportare.

Non basta, insomma, che il sistema si limiti ad apprendere dai dati storici o a scandagliare la realtà conoscitiva circostante ma affronti anche un arricchimento di intuizioni e domande formulate dall’umano, dando vita a un dialogo epistemico in cui, con il supporto di un artefatto personalizzato l'uomo costruisce un dialogo efficace con i propri simili.

5. Riferimenti

Bender, E. M. e Koller, A. “Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data.” Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 2020.
DARPA. Collaborative Operations in Denied Environment (CODE) Program Announcement, 2016.
Department of Defense. Directive 3000.09: Autonomy in Weapon Systems. Washington, D.C., 21 novembre 2012.
Habermas, J. Teoria dell’agire comunicativo, Il Mulino (2022)
Norman, D.A. The Design of Everyday Things, Basic Books (1988) (ed. it. La caffettiera del masochista, Giunti, 2019)
Ouyang, L., Wu, J., Jiang, X. et al. Training language models to follow instructions with human feedback, arXiv:2203.02155 (2022)
Rosenblatt, Frank. The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. Cornell Aeronautical Laboratory, 1958.
Samuel, Arthur L. Some Studies in Machine Learning Using the Game of Checkers. IBM Journal of Research and Development, vol. 3, no. 3, 1959.
Settles, B. Active Learning in Synthesis Lectures on Artificial Intelligence and Machine Learning, Morgan & Claypool (2012)
Simon, H.A. Le scienze dell’artificiale, Giuffrè (1973)
Singer, P. W. Wired for War: The Robotics Revolution and Conflict in the 21st Century. Penguin, 2009.
Wiener, Norbert. Cybernetics; or, Control and Communication in the Animal and the Machine. MIT Press, 1948.

L'OltreGPT: Verità vo cercando! Come ChatGPT cerca la verità fuori da sé

2025-09-25T00:00:00+02:00

Nel tentativo di persuadere, fornendo risposte più adeguate alle domande, alcuni modelli di GPT ricercano evidenze all'esterno da sé. Il sistema base di trasformazione statistica dei testi non è in grado di produrre testi veritieri, ma solo ben formati. Per ovviare a questa limitazione si usano differenti tecniche come ad esempio modelli che seguono piani "razionali" di risposta parziale che però aiutano solo a migliorare le produzioni, provando a non discostarsi troppo dalle fonti, ma non aggiungono « valutazioni di verità » dei contenuti. Si adottano anche a strumenti di etica che, messi a valle della generazione dei testi, censurano ed escludono le produzioni non in linea con standard morali pre-supposti, ma anche in questo caso, i sistemi non producono qualcosa di vero, escludono solo quello che non piace ai loro creatori.

In definitiva, i GPT non conoscono cos'è la verità. Ma neppure noi umani sappiamo veramente cos'è la verità.

Per il genere umano, la verità è chiara e indubitabile solo se si ha fede in imposizioni di natura metafisica, come quelle della teologia o di qualche ideologia, compreso alcuni processi di determinazione delle evidenze scientifiche (su questo si consulti la recente ristampa di George Canguilhem, Ideologia e razionalità nelle scienze della vita. Mimesis. 2025). In definitiva, se si escludono alcuni specifici domini formali come la matematica, anche a noi sfugge ciò che è vero, a meno di non crederci.

Per « spiegare oggettivamente » la verità senza rifarci a forme di credenza, abbiamo dato luogo ad una grande quantità di teorie. Non siamo giunti ad un accordo sufficiente per decretare vera una di queste teorie sulla verità. Anche in campo scientifico, cioè l'ambito in cui sentiamo di poter trarre ciò che oggi è più vicino alla verità, ovvero la certezza, ci fidiamo più del processo di determinazione che non del risultato stesso, che sappiamo essere valido fino a prova del contrario.

Nel pensiero classico, Aristotele intendeva la verità come « adeguatio intellectus ad rem », cioè come concordanza fra la rappresentazione mentale e la realtà oggettiva (Aristotele, 2009). Quella visione “corrispondentista” aspira ad ottenere verità valide universalmente, ma poi fatica a tradursi in procedure operative quando il linguaggio si fa meno rigoroso.

Si sono moltiplicate così teorie filosofiche alternative – coerentismo, inflazionismo, deflazionismo – che offrono strumenti di analisi diversi e non necessariamente contraddittori rispetto all’idea di una verità ultima. Tuttavia, nessuna giunge a una conclusione universalmente accettata.

Ma se la verità "una e definitiva", valida per sempre e per tutto, sembra essere alquanto al di là della nostra portata, non possiamo trascurare quelle pratiche epistemiche che, pur fallibili, permettono di avvicinarci a ciò che chiamiamo “la verità”, almeno in specifici ambiti di applicabilità e con limiti stringenti.

Ad esempio, le teorie di verificazione come quella di Alfred Tarski non sono meri esercizi astratti privi di ricadute concrete, ma strumenti che hanno trovato applicazione pratica nella verifica dei sistemi formali, e in particolare per la correttezza dei programmi informatici. La loro efficacia dimostra che un approccio rigoroso, seppure circoscritto, può produrre risultati riproducibili e confrontabili (Tarski, 1983).

È proprio sulla base di questi « modelli di verità parziali » che si muovono i tentativi dei GPT di dare consistenza veritativa alle produzioni, affidandosi alla costruzione di quelle che possiamo chiamare « bolle di verità contestuali ». In realtà queste bolle, calano l'utente in un guazzabuglio di opinioni fornite come certezze assolute da cui deve trarsi in salvo da solo esercitando una cospicua dose di giudizio.

Secondo Jürgen Habermas la verità di un enunciato si stabilisce solo attraverso pratiche discorsive in cui gli interlocutori, liberi da coercizioni, giustificano e validano reciprocamente le loro pretese di validità (Habermas, 2022); Michael Lynch, invece, non esclude l'esistenza di una sola verità che si declini con modalità diverse a seconda dei contesti epistemici, distinguendo fra la manifestazione per corrispondenza alla realtà e quella per coerenza interna (Lynch, 2009). Insomma il metodo frammentario adottato dai GPT potrebbe avere basi filosofiche più solide di quello che sembra a prima vista.

1. « I fatti sono fatti. »

Se, forse, siamo pronti ad accettare un certo grado d'incertezza nella definizione di un concetto complesso come quello di verità, siamo invece mal disposti a non considerare assodati senza contestazioni i meri fatti da cui far discendere una verità.

I fatti dovrebbero essere definiti con precisione, inoppugnabili e disponibili in maniera tale da potervi costruire sopra il castello di carte di una possibile verità. "Piove" o "non piove" non sono fatti che possano essere aperti all'interpretazione personale.

Eppure anche i semplici fatti hanno i loro problemi.

Il sentimento di sicurezza che accompagna la nozione di fatto è illusorio: ciò che chiamiamo fatto non emerge mai in modo neutro, ma è sempre il risultato di pratiche di osservazione, misurazione e classificazione che presuppongono teorie o strumenti.

Norwood Hanson, sistematizzando le intuizioni di Kant e Duhem, ha mostrato come ogni nostra percezione sia in realtà « carica di teoria » (theory-laden): ciò che vediamo è già orientato ai presupposti con cui ci eravamo posti di fronte al fenomeno (Hanson, 1958). In questo senso, il dato non precede mai completamente il linguaggio o l’apparato concettuale con cui viene interpretato, e l’idea di fatti innocenti va messa in discussione fin dall’inizio.

Édouard Le Roy adotta il gioco di parole: « I fatti sono fatti », cioé fabbricati (Le Roy 1899, p 515) come peraltro spiega Gaston Bachelard che, analizzando la fisica, parlerà di « fenomenotecnica », ovvero di quella capacità della scienza di generare fatti artificiali, attraverso gli strumenti di misura, laddove i fatti naturali sono piuttosto irrilevanti (Bachelard, 2019). Insomma, scomodando un linguaggio kantiano, se il noumeno resta inconoscibile e il fenomeno (naturale, empirico) è incerto, si può solo confidare nella tecnica che produce il fenomeno sperimentale che è certo ma dipende da quello che vogliamo leggerci dentro.

Quindi sia modelli teorici che pratiche tecniche diverse producono fatti sperimentali differenti per la stessa realtà.

Il che, se possibile, rende ancora più lontana una verità una e definitiva e ancora più rilevanti le pratiche epistemiche per la generazione di verità locali.

Questo spiega perché lo stesso motore di trasformazione (GPT) potrebbe fornire, interrogato più volte sullo stesso argomento, risposte diamentralmente differenti e perché tenda a essere condiscente con l'utente e non contraddirlo: assume il suo « punto di vista » nella modellazione dei riferimenti attraverso le cui lenti raccogliere i fatti.

2. Fatti, tecnicamente parlando

I fatti possono essere raccolti in asserzioni in formato testuale rappresendoli tecnicamente come grafi di triple descritti nel Resource Description Framework (RDF). Ogni tripletta è composta da soggetto, predicato e oggetto e i valori di questi campi sono identificatori unici (IRI) mentre solo l’oggetto può anche essere un nodo anonimo (blank node) o un dato di base (numero, stringa, ecc), ad esempio (CHI-->FA-->COSA). Il grafo supera i limiti delle strutture tabellari tradizionali, perché è intrinsecamente direzionale e etichettato, consentendo di descrivere risorse e le loro relazioni in modo flessibile ed estendibile.

Un nuovo fatto aggiunto ad una base preesistente crea, attraverso gli identificatori che sono puntatori navigabili, delle relazioni implicite con le altre risorse presenti nella base di conoscenza.

Sulla base di queste fondamenta si definiscono concetti come classi (tutti gli elementi di uno stesso tipo), proprietà (le caratteristiche di un elemento o di una classe), vincoli di dominio e di intervallo (cosa si può o si deve fare con uno o più elementi o classi). Con questo si costruiscono vocabolari lessicali adatti a modellare ontologie (ovvero reti di conoscenze formalizzate).

È così possibile definire pezzi di mondo ma anche creare controlli di coerenza logica, correggere errori e fare ragionamenti logici per scoprire conoscenze non esplicitamente introdotte nelle triple iniziali (Fensel et al., 2020).

Un testo letto dai sistemi di analisi semantica non viene quindi capito nello stesso senso in cui lo capirebbe un uomo, ma viene piuttosto sminuzzato in token (che possiamo immaginare come astrazioni delle parole) e poi alcuni di questi token sono riconosciuti come Nomi, Entità (date, luoghi, concetti astratti, ecc.) o Relazioni (NER). La loro giustapposizione nelle frasi dà indizi (probabilistici) sulla presenza di un fatto (o anche di fatti alternativi tra loro). I blocchi (NER) sono quindi trasformati in fatti RDF.

L'algoritmo quindi non capisce il testo ma, dopo averlo trasformato in rete semantica, lo «mette a sistema», conservandolo nella memoria di lavoro.

Poiché tutto questo viene fatto senza supervisione umana, molte cose possono andare male in questo processo, (errori di riconoscimento delle entità, concetti trascurati, collegamenti tra concetti inesatti, ecc.) ma i possibili errori sono mediati dal fatto che si trasformano una grande quantità di testi che, riconosciuti correttamente o con errori differenti, finiscono per rinforzare i collegamenti veri e attutire quelli errati.

La certezza di queste relazioni, ammesso che siano state ben comprese dal processo di scoperta, si fa strada così anche nei modelli semantici più avanzati che possono quindi dire cose, se non veritiere, almeno coerenti a livello concettuale e non solo a livello di produzione linguistica, come i GPT di base puramente stocastici.

All’interno del motore GPT stocastico non esiste un grafo concettuale: la conoscenza è distribuita solo nei pesi del modello e nei tensori di attenzione. È necessario potenziare il GPT con un meccanismo semantico che, ad esempio, recuperi documenti esterni e li incorpori al prompt di generazione, oppure tramite chiamate a servizi esterni di knowledge graph.

In assenza di questi moduli semantici, l’algoritmo GPT non ha alcuna capacità di trattare entità o relazioni come concetti, ma li elabora unicamente sequenze statistiche di token.

3. La verità è fuori di sé

La capacità di produrre testi fluidi e coerenti dei grandi modelli basati su trasformatori viene a volte integrata con strumenti semantici che aumentano l’affidabilità dei dati strutturati. Ma come si fa tecnicamente?

Il metodo forse più potente, ma meno usato, è denominato K-BERT (Knowledge — Bidirectional Encoder Representations from Transformers) adotta un approccio simile a un’iniezione diretta di conoscenza. L'algoritmo non consulta documenti esterni, ma riconosce nel testo le entità chiave (persone, date, luoghi, concetti) e recupera per ciascuna entità un piccolo sotto-grafo tratto da una base di conoscenza già strutturata in formato RDF.

Per così dire, K-BERT integra il prompt con un contesto già semantico in cui calare la trasformazione.

Queste piccole porzioni di rete semantica vengono inserite direttamente nel flusso di elaborazione del trasformatore, mantenendo sotto controllo la complessità tramite una griglia che limita le connessioni fra token e frammenti di grafo.

Il risultato è un modello che elabora non solo i numeri presenti nelle probabilità di transizione tra le parole, ma anche su fatti organizzati e potenzialmente verificati, migliorando la precisione delle risposte a domande complesse (Liu et al., 2020).

Esiste però un metodo più comunemente usato per integrare i GPT puramente stocastici che è chiamato Retrieval-Augmented Generation (RAG). A differenza del precedente integra un vero e proprio “motore di ricerca” collegato a una biblioteca digitale di testi, accuratamente revisionati. Quando ad un sistema RAG l'utente pone una domanda, il sistema cerca in tempo reale i documenti più pertinenti e li fornisce al generatore di testo, che ne utilizza i contenuti per costruire risposte fondate su fonti concrete.

Si crea in questo modo un contesto esteso per la richiesta, che unisce al prompt anche documenti rilevanti, con la speranza di attenuare l'incidenza delle affermazioni errate o inventate perché la generazione è guidata da pezzi di testo già esistenti e verificati (Lewis et al., 2020).

Il contesto così esteso ha però limiti significativi sia nella fase di recupero delle informazioni sia in quella di generazione della risposta. La qualità delle risposte dipende in modo rilevante dalla pertinenza e dall’equilibrio del corpus che si interroga. L'interrogazione sulla preesistente base di conoscenza per la selezione dei testi rilevanti avviene attraverso una domanda generata dallo stesso sistema, così è probabile che sia formulata in modo non neutro, e includa pregiudizi verso una determinata tesi, o sia condiscendente con il punto di vista dell'utente. Quindi è possibile che i documenti selezionati vengano estratti in modo intrinsecamente sbilanciato. La richiesta può, all'opposto, fornire documenti solo parzialmente correlati, anche a causa delle preferenze dei produttori del modello, o confondere concetti tra loro assonanti ma differenti. A quel punto invece di aiutare la generazione, la contestualizzazione semantica svierà verso risposte distorte o parziali, o appiattite sui bias presenti nei testi di partenza.

Inoltre, da un lato un corpus già in partenza squilibrato, che esclude ad esempio in modo sistematico informazioni di un certo tipo, amplifica questi errori, dall'altro un sistema poco curato rischia di produrre «più rumore che segnale», rendendo la generazione eccessivamente generica.

A differenza di RAG, K-BERT, supera il divario fra testo e knowledge graph, ma introduce un problema differente, denominato “knowledge noise”: possono essere innestati pochi frammenti di grafo, e risultare ininfluenti, oppure può essere innestato nel flusso dei token un eccesso di frammenti di grafo e la richiesta originale può così addirittura cambiare significato. Il sistema non conosce in anticipo cosa è effettivamente rilevante per la domanda nel grafo di conoscenza. Non può fare una selezione ragionata. Se troppi fatti, pur veri, vengono introdotti, il significato stesso della richiesta viene modificata poiché non tutti i percorsi di inferenza sono realmente pertinenti al contesto specifico.

In un certo senso, calata in un mare troppo ampio, la richiesta rischia più facilmente di andare alla deriva abbacinata da troppi punti di riferimento che si rivelano essere in realtà miraggi.

Con l'uso di queste tecniche, comunque, ci si avvicina alla verità, quantomeno quella locale, ma si accresce la fragilità complessiva delle risposte: ogni passaggio con supporto semantico diventa un potenziale punto di fallimento che richiede strumenti dedicati per il monitoraggio.

L'aspetto forse peggiore è che, sebbene questi sistemi diano l'impressione di essere più veritieri di quelli puramente stocastici, l'interpretazione dei risultati è completamente opaca: è arduo e anzi spesso del tutto impossibile rintracciare il motivo per cui un fatto, un documento o un pezzo di rete semantica, sia stato recuperato o come un sotto-grafo abbia influenzato la generazione. Non è facile, ammesso che sia addirittura possibile, stabilire i processi di verifica o audit indipendente che sarebbero necessari in utilizzi .

Nel caso dei RAG è possibile indirizzare l'utente ai testi che, con una certa probabilità, sono stati più rilevanti nella generazione del testo. È il metodo che alcuni modelli usano per rappresentare link alle fonti. Il sistema, in verità, non saprebbe trovare un diretto riferimento tra le proprie affermazioni e il documento indicato come fonte, ma l'utente può farlo agevolmente (o quantomeno convicersi che una relazione esista). Questa rappresentazione di trasparenza aumenta la fiducia nel risultato, ma sotto un certo punto di vista è solo un'altro dei trucchi adottati da questi sistemi per sembrare adeguati e persuadere gli utenti di una veridicità dei contenuti che, però, nei fatti non possono garantire.

4. I rischi

L’integrazione di fonti esterne nei LLM si propone come soluzione per mitigare i limiti dei modelli puramente autoregressivi, ma presenta al contempo alcune criticità che meritano di essere esaminate con attenzione.

In primo luogo c'è il «bias di fonte»: se il corpus interrogato riflette distorsioni culturali, ideologiche o semplicemente squilibri di copertura, il generatore riprodurrà e amplificherà tali pregiudizi, come dimostrano diversi studi sulla proliferazione di stereotipi di genere e razziali nei sistemi NLP (Bender & Koller, 2020).

Tra i problemi dei sistemi semantici, in particolare RAG, c'è la dipendenza da un sistema di recupero dell'informazione e da un indice vettoriale di significatività. Questi elementi possono infatti sottostare a politiche di concessione dei dati, e introducono un altro problema rilevante: un errore, o anche solo una scelta, di ranking o di indisponibilità, voluta o causale, anche solo transiente, di uno o più documenti possono deformare in modo sostanziale la risposta, rendendo fragile l’intera catena di generazione.

Le basi documentali di riferimento vengono considerate ad alto livello di attendibilità quindi è possibile che visioni di parte, disinformazione voluta o anche solo semplici errori editoriali possano essere trattati come fatti acquisiti e inoppugnabili.

Ma il bias di fonte e le distorsioni sulle dipendenze esterne, potrebbero non essere considerate un problema o un errore: addirittura possono essere visti come una strategia per adeguarsi all'utente dopo aver profilato lui, o la sua comunità, o azienda. Ad esempio, un utente profilato come comunista potrebbe (voler) essere esposto ad analisi marxiste sulla realtà, che un utente liberale potrebbe voler escludere, e così via.

D'altro canto già oggi taluni produttori di sistemi puramente stocastici fanno vanto di prediligere un'accurata selezione dei testi dati in input per meglio rappresentare una data comunità di utilizzatori ed evitare la predominanza di stereotipi stranieri, il che in effetti significa prediligere stereotipi differenti, non l'assenza di stereotipi.

Gli utenti di questi sistemi vivrebbero (o già vivono adesso) in una bolla di conoscenze, di fatti appositamente fabbricati o di stereotipi. A lungo andare questa bolla puø diventare insuperabile diventando fonte di conflitto invece che strumento di condivisione, come una riedizione dell'approccio scientista che talvolta inquina le discussioni pretendendo di generalizzare risultati scientifici che sono, nella realtà, legati ad ipotesi ben precise.

I GPT si impiegnano molto per dare l'impressione di essere neutrali e trasparenti, ad esempio esponendo le proprie fonti. Anche questa illusione di trasparenza può diventare un’arma a doppio taglio: avere a disposizione in un testo un collegamento o un riferimento ad una fonte terza e quindi sapere da quale documento proviene un passaggio della produzione, non garantisce che quel testo sia privo di parzialità o corretto, e neppure che l'algoritmo lo stia usando correttamente e non ne stia travisando i contenuti. Questo impegna l'utente in un controllo ulteriore: oltre a controllare il testo generato dal GPT sulla base della fonte, sarà necessario controllare la veridicità della fonte, la non pazialità, la non manipolazione e, come purtroppo spesso accade, addirittura la sua effettiva esistenza.

Andrebbero affiancate al retrieval dei RAG, tecniche affidabili di validazione del contenuto come ad esempio classificatori di veridicità o metodi di consenso basati su aggregazione di fonti diverse, e promuovere un ruolo attivo dell’utente nel processo di verifica, anziché limitarsi a presentare un’unica “fonte di verità”, eventualmente addomesticata.

Senza procedure di verifica incrociata di fact-checking capace di mettere a confronto più fonti e strategie di “source tracing” che ne ricostruiscano la genealogia, un LLM può presentare informazioni errate con la stessa sicurezza e sicumera di quelle corrette, rendendo arduo discernere tra enunciati fondati e totali invenzioni (Paulheim, 2017). Esistono già alcune interessanti ricerche in questo campo.

5. Conclusioni: un aspetto ironico

L’adozione di meccanismi di retrieval e di knowledge graph per “rinvigorire” i GPT si pone, in chiave epistemologica, come un ironico paradosso: da un lato chi costruisce i GPT riconosce esplicitamente che la verità scientifica non è, e non può mai essere, una verità assoluta, un dato statico, un mero calcolo positivista, ma nasce da una costante successione di ricostruzioni critiche della base di dati e fatti calati in un contesto teorico o operativo; dall’altro, questi stessi produttori realizzano strumenti che tendono a cristallizzare in strutture discrete (indici vettoriali, triple RDF, ontologie) la fetta di sapere su cui operano, presentandola come se fosse un blocco stabile di fatti da non mettere in discussione ma solo da usare come riferimento in un mero calcolo dei contenuti.

Anche se molte implementazioni RAG e di knowledge graph adottano strategie di aggiornamento continuo (versioning, pipeline CI/CD, metadati temporali) i pre-giudizi presenti saranno sempre più complessi da superare con l'aggiunta di nuovi fatti dissonanti, ammesso che, come detto, inforcati gli occhiali semantici della rete di conoscenza quei fatti dissonanti potranno mai essere scoperti.

Riprendendo il lavoro di Gaston Bachelard, lo spirito scientifico (quindi la maggiore tensione alla verità fattuale che oggi conosciamo, pur con tutti i suoi limiti) progredisce attraverso successive « rotture epistemologiche », cioè momenti in cui le categorie concettuali consolidate non sono più in grado di spiegare i dati del mondo reale; vengono messe in crisi e poi sostituite con nuove formulazioni, nuove teorie, nuove pratiche operative, nuove visioni, capaci di liberare la ricerca da quegli « ostacoli epistemologici » imposti dal passato che impediscono il progresso scientifico stesso (Bachelard, 1995).

Anche se vengono messe in atto metodologie di monitoraggio epistemico e di diversificazione delle fonti (retrieval multi-corpus, pesi basati su metriche di affidabilità) e non necessariamente ci si affidi completamente a un singolo grafo della conoscenza; cogliere le discontinuità teoriche in atto, le rotture epistemologiche, dai dati stessi, appare essere ancora fuori dalla portata di questi sistemi a verità locale.

RAG e K-BERT innalzano un’infrastruttura che, seppure costantemente aggiornata, resta ancorata a fotografie statiche di documenti e grafi che riflettono esattamente gli schemi teorici che le hanno prodotte e spesso non hanno alcuna tensione critica.

Questi sistemi istituzionalizzano fatti che rimangono al riparo da possibili revisioni interne al modello, trasferendo la storicità del sapere dall’LLM (che l’ha appresa nei pesi) all’archivio esterno (che resta intoccabile fino all’aggiornamento successivo). Inoltre tendono a prediligere teorie stabili solo perché più diffuse, in luogo di quelle più moderne e radicali. Architetture di retrieval multi-source e di graph embedding multilivello consentirebbero di pesare le fonti non solo in base alla popolarità, ma anche alla loro centralità in una rete epistemica dinamica, favorendo il riconoscimento di teorie alternative o radicali quando acquisiscono consistenza empirica o condivisione intersoggettiva ma il riconoscimento di queste eccezioni resta collegato ad un intervento umano di selezione, sempre meno probabile.

L’ironia sta in questo: Bachelard ci invita a vedere il sapere come un continuo cantiere dove ogni generazione corregge e rilancia le fondamenta epistemiche del passato in un futuro aperto; le architetture RAG/K-BERT, da un lato imbracciano un'idea scientifica perfettamente coerente con l'approccio di epistemologia storica di Bachelard, traendo dai documenti storici la base per la valutazione della verità delle asserzioni, ma poi realizzano in sostanza un’ancoraggio anti-storico al passato che tende a cristallizzare quei fatti che dovrebbero essere storici e quindi superabili dalle novità.

Il modello viene così spinto a credere che i fatti esterni, una volta recuperati e inseriti, costituiscano un orizzonte definitivo, privato della tensione critica che li ha generati. In ultima analisi, si implanta un meccanismo che valorizza la storicità della conoscenza solo fino al punto in cui diventa comodo congelarla in triple e indici, delegando al curatore del grafo l’onere – e la responsabilità – di riconoscere e attuare le vere discontinuità epistemiche.

In un certo senso questi sistemi nascono odierni e anti-scientifici (almeno per chi si riconosce in un approccio storico alla scienza), e quindi saranno presto vecchi, tendendo a normalizzare le produzioni sulla base delle conoscenze cristallizzate e difficilmente mutabili. Da fonti del progresso normativo della scienza potrebbero trasformarsi in strumenti di normalizzazione sull'attualità scientifica.

6. Riferimenti bibliografici

Aristotele. Metafisica. Bompiani, 2009.
Bachelard, Gaston. La formazione dello spirito scientifico. Raffaello Cortina Editore, 1995.
Bachelard, Gaston Il nuovo spirito scientifico, a cura di Aurosa Alison, Mimesis, 2018
Bender, Emily M. e Koller Alexander, “Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data.” Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 2020, pp. 5185–5198.
Canguilhem, George, Ideologia e razionalità nelle scienze della vita. Mimesis. 2025.
Fensel, Dieter, et al. Knowledge Graphs: Methodology, Tools and Selected Use Cases. Springer Cham, 2020.
Habermas, Jürgen, Teoria dell’agire comunicativo vol. 1, Il Mulino, 2022
Hanson, Norwood Russell. Patterns of Discovery. Cambridge University Press, 1958.
Le Roy, Édouard “Science et Philosophie (Suite)”, Revue de Métaphysique et de Morale 7(5), 1899, p. 503-562.
Lewis, Patrick, et al. “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.” Advances in Neural Information Processing Systems, vol. 33, NeurIPS, 2020.
Lynch, Michael P. Truth as One and Many. Oxford University Press, 2009.
Paulheim, Heiko, “Knowledge Graph Refinement: A Survey of Approaches and Evaluation Methods.” Semantic Web, vol. 8, no. 3, 2017, pp. 489–508.
Tarski, Alfred. Logic, Semantics, Metamathematics. Hackett, 1983.
Weijie Liu, et al. “K-BERT: Enabling Language Representation with Knowledge Graph.” Proceedings of the AAAI Conference on Artificial Intelligence, vol. 34, no. 05, AAAI, 2020, pp. 2901–2908.

Ursula K. Le Guin - I reietti dell'altro pianeta

2025-09-15T00:00:00+02:00

Un'utopia ambigua, questo c'era nel titolo inglese The Dispossessed. An Ambiguous Utopia (1974), tradito dal titolo della versione italiana. Nel canone delle utopie/anti-utopie della fantascienza classica del secondo Novecento, Le Guin costruisce un laboratorio con molteplici livelli di lettura che tornano utili oggi che i nostri modelli di convivenza sono molto stressati dall'interno.

Anarres è una luna dove i seguaci della rivoluzionaria Odo sono trasferiti da Urras, come accordo politico che chiude la rivolta entro un esilio concordato. Gli anarresiani-odoniani danno vita a una società basata su principi anarchico-egualitari basati da un lato su una raffinata programmazione sociale e dall'altro su un profondo rispetto per la libertà individuale: una società, quindi, senza Stato, pressocché senza leggi in cui si i partecipanti sono guidati da un puro spirito di solidarietà e coordinamento volontario. Su Urras, invece fiorisce una società capitalistica, “proprietaristica”, predatoria e militarista nella nazione di A-Io, che sfrutta le risorse minerarie raccolte dagli anarresiani e altri più piccoli e tumultuosi insediamenti in perenne lotta tra loro. Urras e Anarres sono rigidamente separate, solo pochi navi mercantili fanno la spola dall'uno all'altra perché, in un certo qual modo, gli urrasiani temono il contagio ideologico degli odoniani.

Quasi due secoli dopo l'insediamento, Shevek, giovane fisico teorico di Anarres, elabora una geniale teoria generale del tempo e della simultaneità che potrebbe rendere possibile un avanzamento tecnologico altrimenti impossibile. Su Anarres però Shevek non riesce a completare e a divulgare la teoria perché si scontra con il “muro” delle consuetudini scientifiche e sociali che, nella sostanza se non nella forma, creano una struttura gerarchica ostile alle nuove idee. Grazie ad una pubblicazione semi-clandestina, vincerà un premio e verrà accolto su Urras, dove le autorità sperano di sottrarre la sua invenzione e poterci lucrare sopra.

La narrazione è un montaggio alternato di capitoli che funzionano come una struttura di comparazione, attraverso gli occhi del personaggio che da un lato racconta la sua evoluzione su Anarres, fino alla fuga su Urras, e dall'altro la sua permanenza su Urras fino a un esito inatteso.

Al lettore, ogni scelta di Shevek nei capitoli su Anarres può sembrare guidata dall'esperienza accumulata dai capitoli, futuri nel tempo, su Urras, e non solo viceversa – rendendo reale per il lettore l'ipotetica teoria fisica del tempo e della simultaneità. Un contrappunto straniante che racconta la sostanziale uniformità strutturale del potere, indipendentemente dalla sovrastruttura politica che viene imposta nel governo.

L'ambiguità nel romanzo è strutturale e non riguarda solo il superficiale confronto tra i modelli politici diametralmente opposti che finiscono per equivalersi. Il romanzo rifiuta però l’ingenua opposizione tra libertà e coercizione.

Tante, e utili al contesto attuale, le letture di quest'affresco leguiniano. Ad esempio, la vicenda accademica di Shevek è al tempo stesso una teoria del valore di ciò che oggi è Scienza e contemporaneamente un'acuta critica delle istituzioni accademiche moderne. Su Anarres il controllo del pensiero non passa da brevetti e denaro, ma da reputazione e “filtri” soft, impersonificati dal supervisore Sabul che incarna il potere di chi amministra canali e reti: non però un censore ideologico, ma un manutentore della scarsità cognitiva che egli stesso genera. Su Urras, il controllo passa da patronage, proprietà, diplomazia accademica, dal potere dei soldi e dello Stato. Con un efficace uso del chiaroscuro Le Guin dipinge, ad esempio, un affresco in cui per entrambe le società il vero sapere è catturato e reso inefficace da una sovrastruttura di potere con strumenti di cattura e e valvole di sfogo differenti. Amara la considerazione che traspare tra le righe che seppure è vero che la chiusura al sapere diventi sterilità, non basta una apertura, quale che sia cioé senza adeguate garanzie, per non far diventare questo sapere solo uno sfruttamento incivile, che l'autrice rappresenta come l'uso urrasiano della scienza a fini bellici e per la repressione civile.

Qui, l'ambiguità diventa un vincolo etico: obbliga a giudizi locali, a compromessi revocabili, a doveri di manutenzione; ma è un'ambiguità senza relativismo. Questa è la forza del libro oggi: insegna a resistere a protocolli morali binari ed esplorare criteri situati e pronti a essere continuamente riformati.

The Dispossessed è anche una storia sulla solitudine non tanto del genio, ma di tutti noi; sulla difficoltà di dosare opportunamente condivisione e privacy (un'esperienza tragicamente simile all'esposizione nelle reti sociali odierne). È anche una storia sulla diversità, sull'inclusione e sulla costruzione di strutture sociali intenzionali, cioé non obbligate dalla pressione sociale, o che a questa deliberatamente resistono, come i nuclei familiari o i gruppi d'interesse anarresiani.

In questi mondi, Urras e Anarres, dove tutto sembra possibile, per quanto in modi diametralmente opposti, il vivente resta sempre in balia della propria singolarità, della morsa del proprio corpo e, con un bell'esercizio di kantismo radicale, della morale che ha sviluppato dentro di sé.

Alla fine, nel libro non ci sono ricette, ma buone pratiche per la manutenzione istituzionale della libertà. La manutenzione diventa un lavoro invisibile che tiene in vita protocolli e istituzioni: liste, turni, riunioni, comunicazioni anche inattese, correzioni, scuse pubbliche, sanzioni leggere o meno leggere.

Il libro è un invito a considerare valide le consuetudini di protocolli continuamente riformabili, documentati, sottoposti a valutazione collettiva e accordo intersoggettivo. Questo è il cuore di una “lettura anarchica” dell'anarchismo Odoniano che non è assenza di regole, ma una loro artificialità vigilata. Un'artificialità seriamente egualitaria e orientata alla cura, radicate nell'eredità della fondatrice, Odo, che Le Guin dipinge con il suo tipico “tocco” di femminismo anarchico.

Forse c'è anche una morale valida oggi, in questi tempi di opulenza tecno-cognitiva: la materialità di Anarres, pianeta arido con risorse scarse e logistica difficile, crea quest'utopia odoniana praticabile solo per via dalla povertà condivisa e della durezza delle condizioni vitali. Anarres non è certo un paradiso. Invece, l'abbondanza urrasiana diventa continua fonte di guerra e disparità sociale. Nel panorama fantascientifico classico questo capovolge molte utopie tecnologiche. Se la scarsità è elevata a “virtù” teleologica, la critica dell’eccesso tecnologico scivola nel sospetto verso l’innovazione: se l’abbondanza, come è data oggi, diventa madre del “diritto di fare”, non saranno mai visibili i costi “ecologici” ed “egologici” dell’innovazione senza limiti.

Bonus track:

Le Guin, figlia di antropologi, in dialogo con l'ipotesi di relatività linguistica di Sapir-Worf, si dilunga nell'analisi del pravico, la lingua di Anarres, dove il possesso, anche solo grammaticale, è scoraggiato per ridurre lo spazio dell'“egoizzazione”. Il pravico, il cui lessico è la più evidente infrastruttura politica del romanzo, redistribuisce l’attenzione linguistica verso ciò che è condivisibile. Non è un dettaglio di colore, ma un aspetto al tempo stesso tecnologico e teologico di comportamento. Eppure questa lingua progettata per sminuire l'ego, finirà per irrigidirsi in un moralismo del “noi” e diverrà chiaro che la repressione dell’Io produce forme indirette di potere simbolico. Non casualmente per giungere al suo risultato, Shevek dovrà utilizzare lo iotico, ovvero la lingua di A-Io su Urras. L'impressione è che non avrebbe potuto riuscirci in pravico: significa che senza Io anche la cosa che ci sembra più condivisa, come la scienza, si blocca?

—

Ursula K. Le Guin – I reietti dell’altro pianeta

Pubblicato nel 1974, I reietti dell’altro pianeta (The Dispossessed. An Ambiguous Utopia) intreccia l’itinerario del fisico Shevek con il confronto fra due mondi gemelli: Anarres, colonia odoniana anarchica e scarsa di risorse, e Urras, opulento e gerarchico. La scoperta teorica di Shevek — che apre a un fondamentale avanzamento tecnico — diventa il banco di prova per interrogare proprietà del sapere, istituzioni, linguaggio e lavoro: due sistemi che si specchiano e si criticano, senza offrire comode assoluzioni. L’ambiguità qui è un metodo: Le Guin mette in scena come regole, consuetudini e protocolli producano realtà diverse, e come la libertà dipenda dalla capacità di riformarli. Per l’edizione italiana aggiornata si veda Oscar Mondadori; per l’inglese, l’edizione del 50° anniversario con la nuova prefazione di Karen Joy Fowler. (I reietti dell'altro pianeta - Ursula K. Le Guin)

Ursula K. Le Guin (1929–2018)

Scrittrice cardinale della narrativa del secondo Novecento, Le Guin ha costruito cicli diversi per ambizione e tono — dall’Ecumene/Hainish a Earthsea — unendo rigore antropologico, invenzione linguistica e un’attenzione politica mai didascalica. Pluripremiata (Hugo, Nebula, Locus), è fra le pochissime autrici ad aver rinnovato insieme l’utopia politica, il romanzo di formazione e il racconto di mondi “altri”, facendo della lingua e delle istituzioni gli strumenti veri della speculazione. (Ursula K. Le Guin - Scheda autore e Libri)

I reietti dell'altro pianeta - Ursula K. Le Guin - Mondadori: Collana Moderni ISBN: 9788804796718 432 pagine Prezzo: € 14,50 2025

Thomas Pynchon -- L'incanto del lotto 49

2025-09-06T00:00:00+02:00

Se la paranoia è una virtù, Pynchon è il suo profeta e “L’Incanto del lotto 49” il suo vangelo. Romanzo breve del 1966 in cui Pynchon focalizza la domanda oggi più nitida che mai: chi decide cosa conta come messaggio; come l’autorità impone un senso controllando il canale di comunicazione.

A sorpresa, Oedipa Maas viene nominata esecutrice testamentaria di un suo ex amante e precipita in un’indagine squinternata su un contro-sistema postale che forse esiste e forse no, forse è un elaborato mezzo postumo per prendersi gioco di lei. L’enigma funziona come dispositivo conoscitivo datato indietro di millenni. Una trama sgranata, impalpabile ma, una volta scoperta, inequivocabile, di segni in cui Pynchon abbozza una fenomenologia delle infrastrutture come costituenti del senso stesso: timbri modificati, francobolli con dettagli spuri, cassette della posta alternative, corni e postiglioni improbabili, palinsesti storiografici che diventano teatrali, mediatori onirici che danno corpo — evanescente — a protocolli rivali che sfidano lo standard postale ufficiale, fino a rimettere in discussione il monopolio sulla certificazione della realtà. Apostolo e anti-eroe del cospirazionismo, Pynchon fa tracimare un linguaggio insieme poetico, eccessivo, criptico, travolgente, dileguante, appassionante e, semplicemente, troppo; una tessitura di citazioni, rimandi, controcampi e chiaroscuri che balla tra la letteratura altissima e la più infima delle note pop.

Non c’è una licenza di complotto, ma una richiesta di sospensione dei privilegi dell’infrastruttura dominante, un anarchismo strutturale in understatement. Il romanzo mostra che ogni rete produce comunità interpretative, intenzionali e residuali: utenti che negoziano regole, inventano segni, riassemblano i flussi, propagano incostanze. La paranoia è il nome satirico di questa contro-ermeneutica: non delirio, ma percezione che i protocolli non sono neutri e che l’informazione è sempre mezzo di trasferimento del potere. Nel finale aperto, l’attesa dell’“incanto” sposta l’interesse dal “sapere la verità” al “chi può farla valere”, lasciando il lettore, solo e spaesato, davanti a un bivio metodologico più che a un colpo di scena conclusivo.

Ineludibile la correlazione con “il mezzo è il messaggio” di McLuhan (1964): il canale riplasma percezione e relazioni sociali più del contenuto che veicola. “L’Incanto del lotto 49” lo mette in scena: il medium non è contenitore neutro, è architettura che crea pubblico, esclusioni e possibilità di senso. La “cospirazione” stessa esiste solo se una rete alternativa fornisce regole d’uso e riconoscimento ai suoi utenti.

McLuhan però è mcluhaniano in modo ingenuo, cosa che Pynchon si guarda bene dall’essere. Se il primo tende al determinismo delle forme e alla regolarità del senso, il secondo insiste sulle ambiguità del rumore e dei contro-usi, cosicché il medium struttura il messaggio ma non lo decide da solo: sono le contro-istituzioni, i contro-poteri e le loro pratiche d’interpretazione e di costruzione degli “alternative facts” a filtrare i segni e costruire la contro-informazione. Il sistema postale clandestino offre, incluso nel prezzo, la paranoia; quella stessa paranoia che ci attanaglia sapendo quanto resti incerto il confine tra segnale veritiero e “allucinazioni”, cioè la pareidolia (e qui sfiora l’IA).

A Pynchon ora daranno il Nobel, poco ma certo. Si dice che l’abbia scampato da tempo e l’orizzonte storico odierno gli è favorevole. È anche lo scrittore americano più amato nei campus, dove piovono i corsi proprio su questo romanzo perché più breve e lineare degli altri. È anche il meno considerato nella sempre più centralista Europa.

Così Pynchon sposta l’asse dalla verità dei contenuti alla politica dei mezzi: non ci dice solo che il mezzo plasma (ma non è) il messaggio, ci mostra che la concorrenza tra mezzi produce mondi incompatibili di prova, fiducia e appartenenza. L’anarchia delle reti non elimina l’ordine: lo moltiplica, lo frammenta e costringe a interrogare chi controlla i protocolli e l’accesso. Una lezione di stretta attualità, oggi.

Riferimenti

Thomas Pynchon, The Crying of Lot 49, J. B. Lippincott & Co., 1966; ultima ristampa 2012, collane Penguin/PRH. Penguin Random House.
Thomas Pynchon, L’incanto del lotto 49, Einaudi, 2023. Einaudi.
Marshall McLuhan, Gli strumenti del comunicare, 2015. Il Saggiatore

L'OltreGPT Ricomincio da Socrate: se ChatGPT sa di non sapere

2025-07-28T00:00:00+02:00

Per anni, quella che chiamiamo intelligenza artificiale si è concentrata sull’individuazione di pattern come sequenze ricorrenti in immagini, oggetti e testi. Più che una mente artificiale, questo è un muscolo che spacca i dati ma che non ci avvicina di una virgola a «possedere conoscenza». Come fummo ammoniti duemila seicento anni fa da Socrate, la vera sapienza risiede nel riconoscimento dei propri limiti: cioè nel «sapere di non sapere» (Platone Apologia di Socrate, Einaudi, 2016). Senza saper scoprire se «non si possede» la conoscenza, non si potrà mai «possederla».

Lo scrittore francese George Perec in Pensare/classificare (1989) evidenziava come l’atto di catalogare elementi non si traduca automaticamente in pensiero critico capace di domandarsi il senso profondo di ciò che osserva mentre lo stesso anno Russell L. Ackoff in “From Data to Wisdom”, creava un framework decisionale passando dai dati grezzi, attraverso informazione e conoscenza, arrivando alla saggezza applicata soltanto come ultimo gradino di una scala progressiva di arricchimento del senso.

Al contrario di quanto oggi si ripete come un mantra, Gaston Bachelard ne La formation de l’esprit scientifique chiariva che, non conoscere ma «saper descrivere» è la base del potere: è nell’accuratezza della descrizione che si costruisce un’autentica comprensione della realtà. Ma descrivere significa innanzitutto stagliare una figura dal vuoto.

1. Dal pattern recognition puro al ragionamento simbolico

Quando prevedono la parola successiva in una frase o assegnando un’etichetta a un’immagine, i modelli di deep learning, come le reti neurali profonde o i grandi modelli di linguaggio, scelgono l’opzione con la probabilità più alta (vedi Goodfellow, Bengio & Courville, Deep Learning, MIT Press, 2016).

Milioni o addirittura miliardi di parametri e capacità di retropropagare il gradiente dei pesi calcolati caratterizzano le reti feedforward multilayer, i convolutional network, e soprattutto i transformer oggi adottati dagli LLM, ovvero i principale sistemi di deep learning.

Invece, i metodi classici di machine learning, come le macchine a vettori di supporto e gli alberi decisionali, operano su rappresentazioni di features predefinite e non sfruttano architetture neurali profonde: le loro prestazioni dipendono in larga misura dalla scelta delle funzioni kernel e dalla selezione manuale delle variabili.

Tutte queste macchine di classificazione sono estremamente efficaci nel riconoscimento di pattern però non dispongono di sistemi per la validazione di proposizioni logiche: cioè non possono affermare che una relazione scoperta sia “vera” o “falsa” ma solo che esista e, al più, valutare indici di coerenza statistica con i dati osservati. Come sottolinea Pedro Domingos, quello che oggi, con una certa sovraestensione della metafora, viene chiamato apprendimento automatico si basa sulla scoperta di strutture e correlazioni nei dati, ma non sulla prova di teoremi o sulla manipolazione di simboli secondo regole logiche fisse, insomma non ha a che fare con la verità di ciò di cui tratta (vedi Domingos, A Few Useful Things to Know About Machine Learning, CACM 2012).

Per colmare questo divario tra pattern recognition e ragionamento simbolico (e quindi verità), è nato tutto un filone di ricerca denominato Neural-Symbolic AI che integra reti neurali con rappresentazioni simboliche e logiche i cui sviluppi chiave seguono una traiettoria storica ben definita.

I primi tentativi di integrare conoscenza simbolica e reti neurali risalgono agli anni Novanta in ambienti connessionisti. Già nel 1990 all’AAAI, Towell, Shavlik e Noordewier introdussero un algoritmo (successivamente chiamato KBANN Knowledge-Based Artificial Neural Networks) e anticiparono l’idea di mappare regole proposizionali in architetture neurali multilayer (Towell et al., AAAI ’90). Con un articolo su Artificial Intelligence nel 1994 Towell e Shavlik formalizzarono KBANN come sistema ibrido capace di incorporare teorie di dominio in reti feedforward (KBANN, AI 70(1-2) 119-165, 1994).

Qualche anno dopo, nel 1999, Garcez e Zaverucha proposero il sistema CILP (Connectionist Inductive Learning and Logic Programming System), che traduceva programmi logici in reti neurali e supportava apprendimento deduttivo da una base collaterale di conoscenza, pur senza supportare le logiche del primo ordine (C-IL²P, Applied Intelligence 11(1) 59–77, 1999).

All’inizio del nuovo millennio d’Avila Garcez, Broda e Gabbay approfondirono l’estrazione simbolica da reti addestrate, proponendo una prima procedura che trasformasse i pesi di una rete neurale feedforward in un insieme di regole proposizionali logicamente coerenti, in modo da garantire che ciascuna regola riproduca esattamente il comportamento del modello addestrato, ottenendo così la proprietà di "soundness" (fondatezza, solidità formale) e completezza del modello (Symbolic knowledge extraction, AI 125(1) 155–207, 2001).

Nel 2002 fu poi pubblicato il volume Neural-Symbolic Learning Systems. curato da d’Avila Garcez, Broda e Gabbay, che offriva finalmente un quadro organico di tecniche per la gestione di estrazione, simulazione e propagazione dei vincoli pur non definendo un modello unificato di gestione di incoerenza e incompletezza. Sempre Bader, d’Avila Garcez e Hitzler presentarono nel 2005 una fondamentale rassegna che classificava le modalità di integrazione tra reti neurali e rappresentazioni simboliche che impiegavano tecniche di fusione logica e propagazione dei vincoli nella logica del primo ordine (Dimensions of Neural-symbolic Integration, arXiv 2005).

Infine, nel 2009, Lamb, d'Avila Garcez e Gabbay proposero il prototipo Neural-Symbolic Cognitive Reasoning come approccio unificato, estendendo i lavori precedenti con logiche modali e temporali integrate in reti neurali (NS-CR, Springer 2009). Questo lavoro proponeva modelli capaci di incorporare logiche modali e temporali, aprendo la strada a sistemi ibridi in grado di apprendere da esempi e ragionare su regole esplicite.

2. Il MIT e Neuro-Symbolic Concept Learner (NS-CL)

Anche se in quadro concettuale poteva essere considerato completo, ci vollero oltre 10 anni per arrivare ad un prototipo chiamato Neuro-Symbolic Concept Learner sviluppato al MIT da Jiayuan Mao, Gan, Kohli, Tenenbaum e Wu nel 2019 per rendere operativo quest'approccio ibrido che combina apprendimento profondo e ragionamento simbolico.

Questo approccio ibrido richiama SHRDLU di Winograd (1972), che già nel “mondo dei blocchi” combinava parsing sintattico-semantico e dominio simbolico per rispondere a comandi in linguaggio naturale, ma lo estende radicalmente rendendo data-driven sia l’analisi visiva sia la traduzione di query in programmi eseguibili. (Winograd, Understanding Natural Language, Cognitive Psychology, 1972)

L'NS-CL interpreta scene visive (ma non immagini reali) e risponde a interrogativi formulati in linguaggio naturale. Il modello apprende concetti visivi, simboli linguistici e parsing semantico senza supervisione esplicita, utilizzando per l’addestramento solo coppie immagine e domanda-risposta.

La componente di visione computazionale impiega una rete neurale per estrarre da ogni scena rappresentazioni basate su oggetti, e segmenta automaticamente gli elementi geometrici presenti. Il risultato è un array della scena costituita da nodi (oggetti) e archi (relazioni spaziali).

A quel punto, il sistema traduce la domanda in un programma simbolico costituito da operazioni logiche (filter, relate, query) che descrivono vincoli come “A sopra B” o “colore = rosso”. Questo parsing è costruito insieme alla percezione, grazie a tecniche di apprendimento che è come se creassero un vero e proprio curriculum di progressi che guida la composizione graduale di concetti sempre più complessi.

Una volta generato il programma, un modulo neuro-simbolico esegue le operazioni sul grafo della scena latente per verificare relazioni e proprietà in base a vincoli di verità interni piuttosto che a semplice coerenza statistica (vedi MIT-IBM Watson AI Lab).

Il punto importante è che se l’entità richiesta non è presente nella scena, il programma restituisce un insieme vuoto e viene segnalato in output “nessun oggetto”. Forse sembra poco, ma la novità del sistema è proprio in questa capacità di riconoscere l’assenza di un oggetto che introduce una forma controllata di ignoranza, cioè la capacità di riflettere su un vincolo di verità esplicito anziché avere un punteggio di probabilità.

3. Hintikka e la logica epistemica

Basandosi sui lavori seminali di von Wright che risalgono al 1951, all'inizio degli anni Sessanta Jaakko Hintikka gettò le basi di una logica formale della conoscenza. Con la pubblicazione nel 1962 di Knowledge and Belief: An Introduction to the Logic of the Two Notions introdusse per la prima volta l’operatore modale Kₐ p per rappresentare l’enunciato «A sa che p» e lo distinse dalle modalità aletiche come necessità (□) e possibilità (◇).

Nello sviluppo successivo, Hintikka dimostrò come la mera negazione ¬Kₐ p («A non sa che p») non basti a catturare la consapevolezza dei propri limiti. In Epistemic Logic and the Methods of Philosophical Analysis (1968) egli formalizzò l’idea che «A sa di non sapere q» sia rappresentabile con la formula Kₐ¬Kₐ q, evidenziando la natura stratificata della non-conoscenza come relazione modale tra diversi livelli di conoscenza.

Per realizzare un sistema capace di valutare proposizioni come vere o false e anche di modellare l’ignoranza controllata, è dunque necessario integrare un livello logico in grado di manipolare questi operatori epistemici. Solo in questo modo un agente artificiale può gestire relazioni di conoscenza e non-conoscenza con la precisione formale richiesta, superando l’approccio statistico dei modelli puramente neurali.

4. Estendere il paradigma neuro-simbolico ai modelli linguistici

Il Neuro-Symbolic Concept Learner del MIT ha dimostrato come sia possibile integrare una rete neurale di riconoscimento della visione con un motore simbolico per interpretare scene geometriche e rispondere a query logiche.

I normali modelli di linguaggio generativo predicono token sulla base della probabilità più alta ottenuta dalla fase di costruzione della rete dei pesi, senza distinguere zone di affidabilità, zone cioé i cui i collegamenti hanno un senso, da zone di puro “riempimento” statistico. Per colmare questo gap, diverse ricerche propongono tecniche di calibrazione e stima dell’incertezza, come la temperature scaling e il bayesian dropout.

Ad esempio Guo et al. in On Calibration of Modern Neural Networks (2017) analizzano come le reti neurali moderne – nonostante la loro elevata accuratezza – spesso sopravvalutino la propria confidenza nelle predizioni. Gli autori introducono tecniche di temperature scaling cioè un semplice meccanismo post-training che ricalibra la distribuzione delle probabilità in uscita, migliorando significativamente la corrispondenza tra confidenza e correttezza senza alterare le prestazioni complessive.

Nel lavoro di Gal & Ghahramani, Dropout as a Bayesian Approximation (2016) invece si dimostra che continuare a disattivare in modo casuale alcune connessioni interne della rete anche durante le previsioni produce non un singolo grado di confidenza, ma una serie di risposte differenti. Analizzando la variazione di queste risposte tra loro, si ricava una stima più realistica del livello di incertezza del modello. In questo modo la misura di fiducia non si basa più su un unico valore statistico, ma riflette le fluttuazioni del ragionamento della rete, avvicinandosi a un’autentica rappresentazione di ciò che si “sa” e di ciò che “non si sa”.

Temperature scaling e Dropout, sviluppate su compiti di classificazione di immagini, sono stati successivamente adattati alla calibrazione dei modelli linguistici.

Infine, pur essendo solo un sistema di prompt engineering, Wei et al. in Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (2022) hanno dimostrato che, fornendo ai grandi modelli di linguaggio esempi di ragionamento articolato passo dopo passo — le cosiddette “catene di pensiero” — questi imparano a suddividere problemi complessi in una sequenza di passaggi intermedi. Inserendo nel prompt non soltanto la domanda finale, ma anche i ragionamenti che vi conducono, il modello migliora in modo sostanziale la precisione nel risolvere quesiti di matematica, logica e comprensione testuale, rispetto all’approccio tradizionale basato su semplici istruzioni di domanda e risposta.

Estendere a un LLM la capacità di ammettere “non so” significherebbe dotarlo di un vero operatore epistemico K capace di riconoscere e segnalare le proprie lacune. Questo salto rappresenterebbe non solo un avanzamento tecnico, ma una pietra miliare verso agenti artificiali con metacognizione: un’indicazione di maturità logica paragonabile al celebre «so di non sapere» socratico.

Ma la proposta di integrare un operatore epistemico K in un modello di linguaggio di grande dimensione resta oggi puramente teorica, poiché non esistono implementazioni concrete di operatori di consapevolezza nei principali sistemi attuali. Un’alternativa pratica è offerta dagli approcci di generazione potenziata da recupero di informazioni esterne, che connettendo modelli parametrici a un indice documentale consentono di ancorare le risposte a fonti verificabili.

Un'altro approccio usa le Logic Tensor Networks in cui le formule della logica del primo ordine vengono mappate in vincoli differenziabili associando a ogni predicato una funzione continua che, data una tupla di vettori, restituisce un grado di verità compreso tra zero e uno. La semantica dei quantificatori universali ed esistenziali è semplificata rappresentandola attraverso operatori di aggregazione differenziabili, per cui ogni clausola logica genera un termine di perdita. Facendo un'operazione di ottimizzazione di questo termine insieme all’errore sui dati si spinge il modello a rispettare le regole simboliche, pur senza aver fatto operazioni simboliche. In questo modo la rete non solo riconosce pattern estratti dai dati, ma soddisfa vincoli formali espressi in una sintassi logica e garantisce una coerenza semantica nelle deduzioni.

5. Simulazione o comprensione?

Il Neuro-Symbolic Concept Learner (NS-CL) del MIT è servito come prova di principio: integrava percezione visiva, parsing simbolico e ragionamento logico per rispondere a query su scene geometriche, ma era pur sempre un sistema molto limitato.

Le vere sfide emergono quando si tenta di riprodurre quest'approccio sugli LLM, poiché il testo richiede non solo coerenza statistica ma anche verifica esplicita delle proposizioni.

Nei modelli di linguaggio generativo, ogni parola successiva è scelta in base alla probabilità predeterminata, ma mancano meccanismi intrinseci per distinguere tra risposte fondate e segmenti di “riempimento” puramente plausibile. La ricalibrazione post-training, detta temperature scaling, può correggere la tendenza delle reti a sovrastimare la propria confidenza mentre mantenere attivo il dropout in inferenza produce una stima bayesiana dell’incertezza, trasformando ogni forward pass in un’indagine sul grado di incertezza epistemica del modello.

L’idea di abbinare agli LLM un motore simbolico si è tradotta in sperimentazioni con chain-of-thought prompting (come i modelli oN di ChatGPT), dove il modello impara a articolare ragionamenti intermedi prima di fornire la risposta finale. Esporre gli LLM a esempi di ragionamenti passo-passo migliora sensibilmente la correttezza in compiti di logica e comprensione e questo risultato suggerisce che l’integrazione di moduli simbolici di verifica, simili a quelli del NS-CL, potrebbe fornire un controllo ancora più rigoroso sui vincoli di verità nel dominio linguistico.

Per dotare un modello linguistico della capacità di ammettere esplicitamente la propria ignoranza, è necessario sviluppare componenti metacognitivi in grado di valutare quando le conoscenze apprese non bastano a garantire una risposta affidabile. Solo così, invece di limitarsi a generare sequenze testuali fluide e persuasive anche in mancanza di una specifica conoscenza, bluffando sul risultato, il sistema potrebbe segnalare semplicemente con un “non so” quando la stima di confidenza scende al di sotto di una soglia predefinita. Riprendendo l’“operatore =K=” hintikkiano — che distingue ciò che un agente sa da ciò che sa di non sapere — si tratterebbe di implementare un’istanza formale di metacognizione, un segno imprescindibile di maturità logica anche per le macchine.

6. Conclusione

L’ampiezza dei dati e il numero di parametri degli LLM continuano a crescere. Questa espansione attrae capitali di rischio e spreca molta energia, ma non aggiunge alcuna forma di verifica logica: senza regole formali e vincoli epistemici, un sistema può soltanto generare coerenza apparente, e peggio discorsi perfettamente persuasivi ma senza alcun impegno verso la verità. Senza riuscire a validare proposizioni come vere o false gli LLM non potranno andare molto oltre la generazione di frasi in libertà, a dispetto di chi, con un buon esercizio di pensiero magico, immagina una qualche forma di «pensiero emergente» che possa venir fuori da reti molto grandi.

È necessaria integrare forme di rappresentazione simbolica per modellare il significato oltre i dati grezzi come è, ad esempio, ampiamente discusso in Knowledge Representation and Reasoning di Brachman e Levesque (Morgan Kaufmann, 2004).

La logica formale, illustrata in Reasoning About Knowledge di Fagin, Halpern, Moses e Vardi (MIT Press, 1995), mostra come la manipolazione di operatori epistemici — ad esempio distinguere ciò che un agente sa (Kₐ p) da ciò che riconosce di non sapere (Kₐ¬Kₐ q) — richieda strutture simboliche capaci di gestire relazioni di conoscenza e ignoranza. Senza un motore logico in grado di applicare regole e verificare vincoli, un’intelligenza artificiale rimane imprigionata in un’inferenza puramente statistica le cui produzioni sono eventualmente surrettiziamente truccate per apparire più persuasive.

Una brutta notizia però ci giunge dalla congettura, proposta da Luciano Floridi (2025), per cui esisterebbe un vincolo fondamentale tra la certezza formale e la capacità di gestire dati ad alta dimensionalità. Mentre le architetture simboliche tradizionali garantiscono correttezza, ma su domini ristretti, i modelli generativi estesi rinunciano a certezze assolute per coprire spazi semantici più ampi.

« […] se corretta, la congettura contribuirebbe a rimodellare gli standard di valutazione, i quadri di governance e la progettazione di sistemi ibridi. La conclusione sottolinea l'importanza di dimostrare o confutare la disuguaglianza per il futuro di un'IA affidabile. » (Floridi, 2025)

L'umiltà intellettuale del «So di non sapere» socratico ha segnato la vastità della saggezza umana.

Al contrario, nel dominio dell’informatica si è spesso coltivata la pretesa di controllare e dominare la complessità della conoscenza a suon di parametri e algoritmi, ignorando l’incertezza insita nei dati e nei modelli.

Oggi è chiaro: l'informatica deve imparare a «sapere di non sapere», una sfida che potrebbe essere insormontabile se affrontata con la solita presunzione.

Emmanuele F. Somma

Letture consigliate

Christopher M. Bishop, Pattern Recognition and Machine Learning (Springer, 2006)
Platone, Apologia di Socrate (Einaudi, 2016)
Georges Perec, Pensare/classificare (Quodlibet, 2024)
Gaston Bachelard, La formazione dello spirito scientifico (Cortina, 1995)
Ian Goodfellow, Yoshua Bengio & Aaron Courville, Deep Learning (MIT Press, 2016)
Artur d’Avila Garcez, Luís C. Broda & Dov M. Gabbay (a cura di), Neural-Symbolic Learning Systems (Springer, 2002)
Luís C. Lamb, Paul H. T. Garcez & Dov M. Gabbay, Neural-Symbolic Cognitive Reasoning (Springer, 2009)
Jaakko Hintikka, Knowledge and Belief: An Introduction to the Logic of the Two Notions (College Publications, 1962)
Ronald Fagin, Joseph Y. Halpern, Yoram Moses & Moshe Y. Vardi, Reasoning About Knowledge (MIT Press, 1995)
Ronald J. Brachman & Hector J. Levesque, Knowledge Representation and Reasoning (Morgan Kaufmann, 2004)

«Stronzate»

2024-11-22T10:27:00+01:00

(una lettura filosofica di Harry Frankfurt, On Bullshit)

Scrolliamo un social qualunque: opinioni perentorie su guerra, vaccini, economia globale, filosofia morale, algoritmi e intelligenza artificiale. Pochi secondi per comporre un post, ancora meno per condividerlo, quasi nessun tempo per chiedersi se ciò che stiamo affermando abbia un rapporto minimamente serio con i fatti. L’importante è esserci, dire la propria, mostrarsi “autentici”. È il trionfo di un genere discorsivo che non è semplice menzogna, ma qualcosa di più pervasivo e sfuggente. È questo il terreno in cui si colloca oggi il breve ma influente saggio di ieri, scritto da Harry Frankfurt, On Bullshit (1986; ed. it. Stronzate. Un saggio filosofico, 2005), che prova a fare esattamente ciò che il suo oggetto sembra rifiutare: una definizione rigorosa.

L’obiettivo di Frankfurt non è ironizzare sul linguaggio triviale, né limitarsi a una denuncia moralistica. Il suo intento è costruire, con gli strumenti della filosofia analitica, un profilo concettuale della “stronzata” che la distingua tanto dalla verità quanto dalla menzogna, mostrando perché essa rappresenti, per il nostro rapporto con la realtà, un pericolo peculiare e forse più insidioso della bugia stessa.

Un concetto elusivo: che cos’è una “stronzata”

Frankfurt parte da una constatazione: nella nostra cultura circola una quantità impressionante di stronzate, e tuttavia disponiamo di una definizione sorprendentemente vaga del fenomeno. Sappiamo riconoscerlo “a naso”, ma fatichiamo a definirne l’essenza. Da qui la scelta di un’analisi logico-descrittiva che provi a isolare un paradigma della stronzata.

Un primo tratto distintivo sembra la sua apparente approssimazione: “bullshit” in inglese contiene al proprio interno il riferimento all’escremento, qualcosa che, per definizione, non è un prodotto lavorato con cura. Chi dice stronzate sembra parlare senza attenzione ai dettagli, senza rispetto per criteri di rigore o coerenza.

Questa immagine, tuttavia, si incrina non appena guardiamo a contesti come la pubblicità, le pubbliche relazioni e la comunicazione politica. Proprio qui, sostiene Frankfurt, troviamo alcuni degli esempi più raffinati di bullshit: messaggi costruiti con grande attenzione al target, a ciò che funziona, a ciò che persuade. Dietro la “presa per il culo” (bullshitting) si nasconde un uso sistematico di indagini di mercato, dati statistici, strumenti psicologici. Non sarebbe quindi corretto rappresentare il bullshitter come un soggetto totalmente incurante dei fatti o dei dettagli. Quando serve, i dettagli sono accuratamente scelti e orchestrati.

Il punto, allora, non è la cura o l’assenza di cura. È la funzione che quella cura assolve e, soprattutto, il tipo di rapporto che l’emittente intrattiene con la verità.

La rottura con la verità: Wittgenstein e l’indifferenza ai fatti

Per chiarire questo scarto, Frankfurt richiama un episodio che coinvolge Wittgenstein. Una conoscente del filosofo afferma di sentirsi “come un cane che è stato investito”. La reazione di Wittgenstein è di disgusto, apparentemente sproporzionata rispetto a una metafora innocua. Assunta però come caso esemplare, la sua irritazione rivela qualcosa di importante: la donna sta affermando qualcosa riguardo a un’esperienza che non ha mai vissuto. Non solo, quindi, non può sapere se ciò che dice è vero; ma, soprattutto, non mostra di preoccuparsene.

Generalizzando, Frankfurt individua qui il nucleo della stronzata: una rottura costitutiva del legame con la verità e, più precisamente, una fondamentale indifferenza al problema se ciò che si dice corrisponda o meno ai fatti. Chi produce stronzate (ovvero stronzeggia) non si colloca sul continuum vero/falso; semplicemente gioca un altro gioco. Quel che conta è la riuscita della propria performance, il raggiungimento di un certo effetto, il “cavarsela” (to get away with something) agli occhi dell’interlocutore.

La differenza con la menzogna

Per mettere meglio a fuoco il concetto, Frankfurt insiste sul confronto con la menzogna. Mentire implica dire il falso, con riferimento a una verità presupposta. Il bugiardo conosce, o crede di conoscere, come stanno le cose e sceglie deliberatamente di rovesciarle, di presentarle al contrario o in modo distorto. Proprio per questo, la menzogna è concettualmente dipendente dalla verità: “onora” ancora la verità, nel senso che la assume come termine di riferimento da manipolare.

Il bullshitter, invece, non ha questo tipo di rapporto con i fatti. Può dire qualcosa che, di fatto, risulta vero, falso o indeterminato; ma per lui la questione non è rilevante. L’unico criterio è la funzionalità di ciò che dice rispetto ai propri scopi. In questo senso, il bullshit non è semplicemente “meno vero” o “più falso” di una bugia: è di un’altra specie.

Frankfurt cita un passo di Eric Ambler: “Non dire mai una bugia quando puoi cavartela dicendo stronzate (bullshit your way through)”. Il suggerimento presuppone che mentire sia più rischioso e complesso: occorre rispettare i vincoli logici imposti dalla verità che si cerca di aggirare. La stronzata offre invece un margine di libertà molto più ampio: non punta a sostituire alla verità un contro-fatto specifico, ma a ridisegnare l’intero contesto discorsivo, a sospendere la rilevanza stessa dei fatti.

In breve: il bugiardo dipende dalla verità che tradisce; chi dice stronzate la scavalca del tutto.

Una figura ibrida: tra performance e dissoluzione del criterio di verità

Da qui emerge la natura ambivalente del bullshitter (in italiano si potrebbe dire contaballe). Da un lato, egli rifiuta di stare al gioco della verità: mescola elementi veri, mezze verità, falsificazioni, omissioni, senza riconoscere la differenza come eticamente o cognitivamente rilevante. Dall’altro, è spesso attentissimo alla coerenza superficiale del proprio discorso, alla sua verosimiglianza sociale, alla sua efficacia performativa. È questa combinazione a renderlo particolarmente pericoloso.

Si potrebbe obiettare che l’analisi di Frankfurt trascuri i casi in cui qualcuno “dice stronzate” senza fini particolari, per semplice superficialità o chiacchiera da bar, oppure che presupponga una concezione di verità troppo semplice, intesa come mera “corrispondenza ai fatti”. Frankfurt è consapevole di questi limiti. Il suo scopo non è fornire una teoria generale della verità, ma mostrare come, in un contesto dove si assume almeno in parte un’idea di realtà fattuale condivisa, la stronzata consista nel rifiuto di riconoscere che il proprio discorso dovrebbe rispondere a quella realtà.

In questo quadro, il bullshitter è meno un ingenuo che sbaglia, e più qualcuno che rinuncia strutturalmente alla responsabilità verso il vero, pur mantenendo – e talvolta potenziando – l’abilità tecnica nel costruire messaggi credibili.

Obbligo di opinione e culto della sincerità

Perché però, nel tardo Novecento, la stronzata è diventata così pervasiva? Frankfurt collega il fenomeno a due dinamiche.

La prima riguarda un tratto caratteristico delle società democratiche contemporanee: l’aspettativa che ciascuno abbia un’opinione su quasi tutto. Nel dibattito pubblico, nella sfera mediatica, persino nelle conversazioni informali, è difficile ammettere “non lo so” senza percepirlo come una forma di marginalità o impotenza. Il risultato è prevedibile: ci troviamo spesso a parlare di temi di cui abbiamo conoscenze scarse o nulle, producendo enunciati che non sono propriamente menzogne ma neppure valutazioni informate. Sono, appunto, stronzate.

La seconda dinamica è legata all’onda lunga dello scetticismo novecentesco verso l’idea di una conoscenza scientifica certa e definitiva. Messa in crisi la fiducia in un accesso robusto alla realtà, si sposta l’accento sull’autenticità soggettiva: se non possiamo conoscere veramente il mondo, almeno possiamo essere “fedeli a noi stessi”. Da qui lo slogan implicito: “Be true to yourself, not to the facts”. È più importante essere sinceri rispetto ai propri sentimenti e punti di vista che attenti alla corrispondenza di ciò che diciamo ai fatti.

Frankfurt mostra però come anche questa “sincerità” rischi di essere, a sua volta, una forma di stronzata. Non abbiamo alcuna garanzia che l’individualità sia facilmente conoscibile e trasparente a se stessa; anzi, la psicologia e la filosofia della mente suggeriscono il contrario. Pretendere che basti “esprimere se stessi” per sottrarsi al problema della verità significa sostituire a un criterio epistemico (il rapporto con i fatti) un criterio puramente soggettivo, altrettanto opaco e problematico.

In questo senso, la sincerità elevata a valore assoluto rischia di diventare una variante sofisticata del bullshit: un discorso che si sottrae al controllo dei fatti rifugiandosi nella presunta autenticità interiore.

Stronzate, social network e post-verità

Il quadro tracciato da Frankfurt offre una chiave di lettura efficace per alcuni fenomeni tipici dell’ecosistema comunicativo contemporaneo.

I social network si fondano in larga misura sulla costruzione e diffusione di immagini di sé. Nella maggior parte dei casi, tali immagini sono selettive, edulcorate, distorte, spesso anche al di là delle intenzioni di chi le produce: chi vede solo foto e post, senza conoscere la persona, è inevitabilmente portato a costruirsi una rappresentazione approssimativa o del tutto fuorviante[2]. Il problema non è soltanto che tali rappresentazioni possano contenere affermazioni false, ma che il criterio della verità scivola in secondo piano rispetto alla pressione a essere visibili, interessanti, reattivi.

Le fake news, una volta smascherate, incarnano una forma estrema di stronzata: costruzioni discorsive che non mirano neppure a competere sul terreno della verità, ma a inquinare il rapporto fra opinione pubblica e informazione, alimentando sfiducia generalizzata, sospetto e polarizzazione. Il fatto che si sia imposto il termine “post-verità” segnala proprio questa mutazione di sfondo: non tanto la scomparsa del vero e del falso, quanto la loro irrilevanza pratica per ampi segmenti del discorso pubblico.

In un simile contesto, il rischio è che l’intero spazio comunicativo venga progressivamente plasmato dalla logica del bullshit: ciò che conta è l’effetto immediato, l’aderenza all’identità di gruppo, la capacità di “cavarsela” retoricamente, più che la responsabilità verso ciò che si dice.

Il compito del filosofo secondo Frankfurt

Di fronte a questa deriva, il saggio di Frankfurt svolge una duplice funzione. Da un lato, chiarisce concettualmente una forma di discorso che spesso riconosciamo intuitivamente ma non distinguiamo con precisione da altre, come la menzogna o la semplice superficialità. Dall’altro, richiama l’attenzione sulla centralità del rapporto con la verità – nelle sue forme fallibili, contestate, discutibili – per una vita personale e collettiva che voglia dirsi minimamente libera e degna.

Non si tratta di proporre un moralismo nostalgico o di negare le trasformazioni profonde del sapere scientifico e dei media. Si tratta di vedere che una cultura che banalizza sistematicamente il problema della verità, sostituendolo con la ricerca di efficacia, autenticità soggettiva o appartenenza tribale, spalanca uno spazio in cui la stronzata può prosperare indisturbata.

Frankfurt non offre ricette né programmi politici, ma svolge, in senso forte, il compito del filosofo: osservare i fenomeni del proprio tempo, analizzarli con rigore, mostrarne le implicazioni, mettere in guardia dai rischi che corrono concetti di base come verità, onestà, chiarezza, responsabilità verso i fatti. Se è vero che non possiamo eliminare le stronzate dal mondo, possiamo almeno smettere di confonderle con la semplice “opinione personale” o con l’innocua chiacchiera, riconoscendone la specifica forma di violenza epistemica.

Note

[1] Frankfurt precisa fin dall’inizio che la sua analisi è circoscritta alla lingua inglese e al termine “bullshit”, di cui non conosce l’equivalente preciso in altre lingue. In italiano, le traduzioni più vicine sono “stronzate” o “cazzate”, ma non disponiamo di un sostantivo altrettanto compatto per “bullshitter” (che qui rendiamo come “colui che dice stronzate”) né di un verbo pienamente analogo a “to bullshit”, che traduciamo a seconda dei contesti con “dire cazzate”, “prendere per il culo”, “cavarsela dicendo cazzate”. Nel testo si adotteranno di volta in volta le soluzioni meno ambigue.

[2] Questo accade spesso anche indipendentemente dalle intenzioni dell’utente. Chi osserva dall’esterno solo fotografie, brevi testi e reazioni parziali, senza conoscere la persona nella sua vita quotidiana, viene facilmente indotto a costruirsi un’immagine distorta, che può risultare tanto idealizzata quanto ingiustamente negativa.

Bibliografia

Harry Frankfurt, Stronzate. Un saggio filosofico, Milano, [1986] 2005. In Italia fu tradotto da Rizzoli con il titolo Stronzate – un saggio filosofico e successivamente con un più potabile Il piccolo libro sulla verità, oggi introvabili ambedue.

Non è l’IA ad avere un problema con il corpo delle donne

2022-12-20T14:14:41+01:00

Siamo tutti noi a non difendere i nostri corpi (da noi stessi più che dall’IA)

È recente la polemica su un’app che, dopo aver caricato pochi selfie, produrrebbe figure personali molto ben illustrate. Il problema contestato è che, mentre le figure maschili sarebbero rappresentate in modo consono dal trattamento automatico, riproducendo stereotipi prettamente positivi, quelle femminili sarebbero frequentemente iper-sessualizzate e modellate su stereotipi poco corretti. In differenti modi, e con differenti sensibilità, questo è stato denunciato da molti, ottenendo molto scalpore, qualche difesa d’ufficio e senza dubbio tanta pubblicità per l’app in questione. Ma è vero che il trattamento automatico ha un problema con il corpo delle donne?

Preliminare: non è intelligenza

Nell’introduzione di quest’articolo ho utilizzato l’espressione “trattamento automatico”, là dove praticamente chiunque altro avrebbe usato “intelligenza artificiale”. È un estremo e forse patetico tentativo di riportare la questione entro i binari di una razionalità che oggi pare perduta. Parlare di Intelligenza Artificiale (IA) significa arrendersi a una fanfara pubblicitaria che non ha alcun corrispettivo tecnico. L’istituto di autodisciplina pubblicitaria dovrebbe mettere al bando l’espressione Intelligenza Artificiale. Non c’è nulla di intelligente nell’IA.

Pur senza scomodare le definizioni di intelligenza prese da un dizionario, che parlano di facoltà psichiche, pensiero, modelli astratti, giudizio, autoconsapevolezza e via dicendo, cioè cose che non hanno chiaramente alcun gioco in questo campo della tecnica, quella che viene chiamata IA fa un pessimo lavoro anche nella limitatissima visione proveniente da quella scomposizione meccanicista della cognizione che può essere fatta risalire a Cartesio, e che è ampiamente sconfessata da ormai secolari approcci del pensiero che hanno trovato ampie giustificazioni in moderne ricerche scientifiche, psicometriche e neurobiologiche. Un lavoro così cattivo che persino uno dei più entusiasti protagonisti della intelligenza artificiale della prima ora, colui che ha talmente definito il campo da essere riconosciuto come uno dei padri dell'approccio moderno dell'IA, Douglas Hofstadter, ha sostenuto, in un incontro con gli ingegneri di Google, che la recente IA è solo una borsa di trucchi maldestri di illusionismo che non ci porterà mai un millimetro più vicino alla vera intelligenza artificiale generale, capace cioè di parlare alla pari con il genere umano.

Una borsa di trucchi di illusionismo, ecco cosa è oggi l’IA che viene propinata in giro. Chiunque ne conosca le fondamenta, abbia studiato i metodi o abbia anche solo dato una veloce scorsa ad AIMA di Russell e Norvig, a meno di non decadere in un atteggiamento anti-scientifico e fideistico, non può che concordare. Sono trucchi utilissimi, senza dubbio, che sicuramente migliorano l’azione umana in una grande quantità di compiti, possono superarla e addirittura sostituirla efficacemente, ma sono trucchi che,anche se potenzialmente anticipatori di grandi evoluzioni, sono ancora molto lontani dal poter minimamente competere non diciamo con l’intelligenza umana, ma neppure con l’istinto di un topo muschiato.

Intelligenza Artificiale è un nome di fantasia, che non ha la specificità di un nome commerciale, come potrebbe essere GoreTex o Amaro Medicinale Giuliani, né la chiarezza di una indicazione generica, come potrebbe essere l’acido acetilsalicilico o il sistema anti-bloccaggio (ABS). È puro vuoto semantico che va di moda, il blazer blue dell’informatica di questo periodo.

Trattamento umano

Ciò che non è vuoto, è invece il trattamento umano. È noto che l’umanità stia partecipando da almeno un paio di secoli ad un grande gioco di società, intessuto dalle forme del potere. Michel Foucault ha identificato una transizione da un modello di società, che possiamo chiamare disciplinare, ad una, più opprimente e pervasiva, denominata società del controllo. La società disciplinare, da collocare negli stati-nazione ottocenteschi e negli imperi coloniali, realizzava il trattamento antropologico per mezzo delle discipline, regole e tradizioni, espresse in norme e codici poi implementate per mano delle istituzioni disciplinari (come fabbriche, scuole, ospedali, carceri). L’uomo, imbrigliato da regole e ruoli, era in tal modo condotto sulla via comune di una rettitudine collettiva. La mutazione genetica della disciplina in controllo è avvenuta quando non sono più bastate le istituzioni, quindi norme e ruoli, a controllare l’andamento della normalità sociale, ma si è dovuta instillare nell’uomo stesso l’urgenza di controllare che ogni altro uomo si conducesse sulla via della normalità. Il passo dall’ipotetico homo hominis lupus hobbesiano, ad un realissimo homo hominis ovis ha chiarito la potenza della pressione delle masse sull’autocensura degli individui.

Sia detto per inciso, data questa documentata lettura, qualcuno dovrà invece convincerci che recentemente le grinfie del potere sulla società siano regredite dal controllo ad una più blanda sorveglianza. Come per Intelligenza Artificiale, anche l’espressione Società della Sorveglianza sembra piuttosto essere una promozione consolatoria che svia, piuttosto che centrare, il discorso. E l’espressione Capitalismo della Sorveglianza è un impegno ancor minore nella critica del potere, come abbiamo già avuto modo di vedere.

La tecnologia dell’informatica e delle telecomunicazioni, che si è presentata sulla scena negli anni ´80 e ´90 come strumento di liberazione, dopo un breve periodo di anarchia creativa e vitale, è stata riassorbita alle necessità di controllo sociale. Sistemi sempre meno aperti e giardini sempre più recintati sono l’esperienza comune che avvelena le fonti dell’autodeterminazione digitale dei cittadini. Ogni app, ogni social network, ogni piattaforma freemium, diventa un tassello di un trattamento antropologico che annulla la singolarità dell’uomo per spingerlo in un individualismo facilmente manipolato.

Quindi chi gioca con il corpo della donna, non è quell’app o quella IA, ma l’intero complesso, il tecno-sistema, di cui quell’app e IA sono parte, che gioca con tutti i corpi di tutta la vita, donne, uomini, animali.

Questione di tagging

Sul MIT Technology Review, lo scorso Aprile, è stato pubblicato un lungo reportage con la storia di Oskarina Fuentes Anaya, operatrice di una delle piattaforme di etichettatura dei dati per l´IA. Le imprese tecnologiche sfruttano le crisi economiche, in quel caso si parla della crisi venezuelana, per creare un «nuovo ordine mondiale coloniale dell’IA». Articolo interessante in sé, ma il punto è che l’IA, che non è intelligenza, è ben lungi anche dall’essere artificiale perché si basa in modo determinante sull’attività umana. È del tutto umano il tagging, ovvero identificazione delle feature, i tratti e le caratteristiche che, ad esempio nel riconoscimento visivo, stagliano le figure dal contesto per permetterne il riconoscimento, ad esempio un semaforo in una immagine cittadina, un pedone in una strada di campagna poco illuminata, o trovano regolarità all’interno di un flusso apparentemente caotico di informazioni. Le macchine non fanno che replicare pedissequamente non solo i processi algoritmici che le programmano, ma anche le decisioni di identificazione degli elementi prese da umani (a basso costo, si immagini la qualità). A dispetto di quello che si vuole far credere, gran parte della non-Intelligenza non-Artificiale oggi venduta come tale, è basata su moderne forme di colonialismo sostanzialmente schiavista.

Quindi, chi si lamenta che l’app tratti male la figura femminile, e ha sicuramente ragione, accetta senza contestare i termini di un discorso molto più grave di cui non è evidente la presenza. Nascondere nel discorso l’antecedente per far dare per scontato il conseguente è un vecchio trucco retorico. Non fu prima della logica stoica d egli indimostrabili di Crisippo che si comprese veramente come perfino i cristallini sillogismi aristotelici potessero essere manipolati (in una forma che, peraltro, è molto ben nota all’attuale modalità di diffusione delle fake news).

Il trattamento automatico dell’uomo ha un problema con il corpo in generale, perché non lo considera proprio, e ha un problema con l’intelligenza, perché non rappresenta minimamente il sé. Corpo e intelligenza, una delle traduzioni delle categorie cartesiane di res extensa e res cogitans, viaggiano nei modelli tecnologici attuali su binari distantissimi mentre nel mondo della vita sono indistricabili. L’industria tecnologica prova oggi ad automatizzare qualcosa che il pensiero dell’uomo ha superato già da un paio di secoli. Ad esempio, il genere umano pensa con il corpo e nel corpo, mentre i modelli tecnici rifuggono ogni pensiero della propria corporeità. Aver fatto diventare meccanico il cervello, come ha fatto Cartesio, non è sufficiente per fare un cervello meccanico, come pretenderebbe di fare l’IBM (qui mi riferisco a Watson, ma molti altri sono uniti in questo sforzo).

Se il problema dell’IA con il corpo, è sistemico non si può trascurare lo specifico riguardante la diversità dell’esperienza femminile da quella maschile. Per quanto alcune giornaliste sostengano di aver provato l’app in questione senza ottenere risultati particolarmente inopportuni, dando forse l’impressione di liquidare come un’inutile iper-sensibilità ultra-femminista la questione, il tema non dovrebbe essere sottovalutato.

Giustificazionismo umano

Uno degli aspetti ironici è che gli stessi accusatori dell’IA incriminata si sono affannati a trovare giustificazioni, che ovviamente eguagliano in irrazionalità le premesse del discorso.

L’articolo di Melissa Heikkilä sul MIT Technology Review ha fatto scoppiare il caso. Prima la giornalista attribuisce una motivazione determinata alla profusione di immagini sessualizzate che avrebbe ricevuto: il fatto di avere un retaggio asiatico. «La mia collega bianca ha ottenuto significativamente meno immagini sessualizzate, con solo un paio di nudi e accenni di scollatura.» Poi però riconosce che il sistema di trattamento automatizzato è addestrato con un data-set di immagini recuperate da Internet «e poiché Internet trabocca di immagini di donne nude o appena vestite e immagini che riflettono stereotipi sessisti e razzisti, anche il set di dati è distorto verso questo tipo di immagini.» Questa sembra una contraddizione che però risolve andando a scavare nel data-set e trovando che la categoria di immagini taggate come Asian restituisce quasi esclusivamente immagini pornografiche o fortemente sessualizzate, le altre categorie molto meno. Heikkilä infatti riceve ben 16 immagini in topless e altre 14 in abiti molto succinti su 100.

Ma ecco pronta una perfetta giustificazione. Il problema non starebbe in un quel qualcosa che non ha coscienza del proprio, come degli altrui corpi, tanto da non riconoscerli e pertanto non rispettarli (riconoscenza e rispetto è ciò che ci aspetteremmo dal comportamento intelligente di una persona, o quantomeno dal comportamento di una persona intelligente e sensibile). Il problema non è in tutta una società che sta mortificando l’intelligenza corporea, e cioè la cosa più distintamente umana. Il problema è che nello strumento tecnico (sottointeso: certamente perfetto, o almeno buono) non è stato versato il giusto combustibile. Intendiamoci, non c’è nulla di male nella denuncia di Heikkilä sulla mercificazione del corpo femminile nell’app in questione, ma non c’era affatto bisogno di tirare in ballo i lineamenti esotici dalla non-Intelligenza non-Artificiale: bastava sventolare una qualsiasi copia di rivista patinata in edicola o programma in TV. Non fai uno scoop sulla Technology Review se non parli di IA, però.

La scrittrice Olivia Snow, che si presenta come ricercatrice presso il Center for Critical Internet Inquiry dell'UCLA, dove studia il lavoro sessuale (aka prostituzione), la tecnologia e la politica, ma si autoidentifica anche come dominatrice la cui parola preferita è "no", rincara la dose giustificazionista su Wired. L’accento del titolo dell’articolo è sulle proprie foto infantili. Di nuovo il punto è «la tendenza algoritmica a sessualizzare i soggetti a un livello non solo sgradevole ma anche potenzialmente pericoloso» (e anche qui, sia chiaro, la tesi non si contesta minimamente).

Snow sembra condurre uno studio più sistematico facendo alcuni esperimenti con foto sadomaso, foto femminili ma sotto il genere maschile e infine selfie di conferenze accademiche. «Tutto ciò ha prodotto seni di dimensioni spettacolari e nudità completa». In che misura precisa però non è detto, ma anche una è una di troppo, siamo d’accordo. E ciò a maggior ragione nel successivo esperimento in cui, a dispetto della richiesta degli sviluppatori dell’app di non usare foto di bambini, Snow usa proprio le foto della propria infanzia come seme per ottenere i risultati che si possono immaginare. Snow non investiga il data-set sottostante.

Le descrizioni di Snow sono chiare e oneste. Fin qui il suo articolo non è una condanna preconcetta, non include né moralismo né perbenismo, ma poi proprio non ce la fa ad evitare anche lei una bella dose di giustificazione dell’IA, tirando in ballo Miley Cyrus.

«Molte [immagini] ricordavano in modo inquietante il servizio fotografico realizzato nel 2008 da Miley Cyrus con Annie Leibovitz per Vanity Fair, in cui la Cyrus quindicenne stringeva un lenzuolo di raso attorno al suo corpo nudo. All'epoca, l'aspetto inquietante dell'immagine era l'abbinamento del suo viso senza trucco, quasi da cherubino, con il corpo di una persona che, a quanto pare, aveva appena fatto sesso. È stata la reputazione della Cyrus a soffrirne, non quella della rivista o della fotografa Leibovitz, allora 58enne, quando Vanity Fair ha pubblicato il servizio fotografico. La sessualizzazione e lo sfruttamento dei bambini, e soprattutto delle bambine, è talmente insidiosa da essere naturalizzata. La difesa da parte della Cyrus del servizio fotografico, che nell'intervista ha definito "davvero artistico" e non "da sgualdrina", è risultata ancora più aberrante delle foto stesse.»

Nell’app, Snow trova «un eco» delle malefatte della fotografa/leggenda Annie Leibovitz e Vanity Fair. Anzi, è quasi quasi la Miley Cyrus sgualdrina, che fa diventare sgualdrine tutte. Per l’IA invece, attenuanti generiche e pronta assoluzione perché il fatto non sussiste. Lo strumento, incolpevole, non ha fatto altro che riproporre quelle foto improprie. «Questa storia dell'orrore - dice alla fine Snow - che ho appena narrato sembra troppo distopica per essere una minaccia reale.» A saper fare i conti della logica, la minaccia sociale sarebbero Miley, Leibovotz e Vanity Fair. Diciamolo meglio: teniamoci l'IA e censuriamo il porno!

Conclusioni

Molti altri articoli sono stati scritti e in nessuno manca, in una forma o nell’altra, una ciambella di salvataggio per la povera, operosa, macchina dell’IA, che in fondo non avrebbe fatto altro che il proprio dovere di calcolare, a dispetto delle informazioni inquinate ad essa fornite. Meglio poi se si può incolpare “Internet” di questo: un impersonale collettivo torna sempre utile.

La polemica sulle immagini sessualizzate e improprie prodotte dall’app è stata utile a farci riflettere sul fatto che questi sistemi di trattamento automatizzato sono ampiamente affetti dalla presenza di stereotipi distorti, pregiudizievoli e manipolatori; ci ha anche ricordato quanto le collezioni di immagini raccolte su Internet, un insieme che facilmente può essere considerato un campione per ogni altro tipo di conoscenza, siano il prodotto di una società squilibrata in senso maschilista, se parliamo di genere, o altrimenti sfavorevole a determinate razze, lingue, religioni, tendenze sessuali, opinioni politiche, ecc. Questo ci suggerisce che dovremmo fare molta maggiore attenzione nel considerare i risultati dell’applicazione dell’IA, non solo nella app cosmetiche che utilizziamo per migliorare la nostra immagine, ma anche in quelle che ormai sono diventate o stanno diventando pervasive nei gangli della società del controllo: le telecamere con riconoscimento facciale, i software di decisione automatizzata in campo giudiziario, nelle analisi fiscali, nelle concessioni di credito e così via. Una riflessione tutta buona e sottoscrivibile.

Ma se il maschilismo della società, ad ottima ragione, viene contestato, assente è invece ogni accenno ad un’altra contestazione, che è percepita come molto meno urgente e utile. Non si tratta di biasimare una tecnologia perché addestrata con i peggiori stereotipi tossici della società, né per l’incapacità dei programmatori di sollevarsi dai propri pregiudizi o, quel che è peggio, dalle condizioni commerciali che decretano l’appetibilità di un prodotto basato su Intelligenza Artificiale.

Si tratta di riconoscere che, in assenza di un proprio corpo, anzi di un pensiero del proprio corpo, nessuno strumento basato sulla inumana dualità tra corpo e cervello potrà mai considerare quello che non gli appartiene, ovvero il corpo stesso, per quanto possa essere indotto, ovvero programmato a considerarlo. Non potremmo mai dire che l’Intelligenza Artificiale abbia un problema con il corpo femminile, perché non è intelligente, non è artificiale e non ha un corpo.

Il problema lo abbiamo noi perché dimentichiamo troppo spesso il valore del nostro (e dell’altrui) corpo quando giustifichiamo la tecnologia, ne accettiamo le premesse infondate, o ne adottiamo con uno slancio fideistico le promesse, per quanto anti-storiche, anti-scientifiche o anti-razionali siano. Il problema lo abbiamo anche accettando il fatto che l’intelligenza, artificiale o umana, sia una cosa diversa dalla corporeità, cioè che intelligente-e-corpo non siano un tutt’uno.

Gli uomini, le donne, chiunque abbia corpo, possono uniti pretendere il rispetto di chiunque abbia corpo; non solo che questo sia rappresentato correttamente, ma che debba esser pensato correttamente.

La cultura, murata viva

2022-12-12T14:12:29+01:00

Walled Culture di Glynn Moody racconta la Guerra del Copyright, le tattiche e le azioni legali delle aziende dei contenuti e i processi che hanno portato alle legislazioni europee e americane sul copyright.

Per 30 anni il giornalista Glynn Moody, con i suoi articoli su Wired, The Guardian, Daily Telegraph, New Scientist, The Economist e Financial Times, ha seguito ciò che avveniva nel cuore della proprietà intellettuale. Il suo ultimo libro, Wallled Culture, è la sintesi, molto documentata, di quella che può essere chiamata Guerra del Copyright e può essere visto come una continuazione, nel campo dell’attualità, del volume degli economisti Michele Boldrin e David Levine, Against Intellectual Monopoly (Cambridge University Press, 2008, trad. It. Laterza 2012).

Se Boldrin e Levine, partendo da assunti sia storicamente che economicamente fondati, mostrano come il copyrightassolva più un valore censorio e anti-competitivo che di incentivo e supporto alla creatività, Moody traccia una minuziosa ricostruzione di tutte le azioni e le

tecniche anti-competitive attraverso le quali gli editori commerciali sono riusciti ad imprigionare la cultura. Registra inoltre le attività di lobbying più importanti che hanno portato alle recenti legislazioni sul campo, sia negli Stati Uniti che in Europa.

Il titolo Walled Culture, fa riferimento diretto alla modalità usata dalle piattaforme dei social network per imprigionare il contenuto prodotto dagli utenti. Si parla di Walled Garden perché, come in un giardino recintato, tutte le informazioni, per la massima parte create gratuitamente dagli stessi utenti, vengono protette e nascoste attraverso muri digitali che ne impediscono la fruibilità all’esterno della piattaforma stessa. Gran parte dei servizi di Google, Facebook, Instagram o TikTok funzionano in questo modo, in opposizione alla modalità classica di pubblicazione aperta diffusa, ad esempio tramite forum o blog, con i protocolli di Internet.

Il libro si apre con una retrospettiva storica che si concentra sulle attività della Internet Infrastructure Task Force (IITF) durante il mandato Clinton (1993) sotto la guida del senatore Bruce Lehman, in precedenza commissario dell’ufficio brevetti e che successivamente sarà uno dei più fondamentalisti sostenitori della proprietà intellettuale. Moody racconta come Lehman abbia prodotto una proposta di legislazione fortemente lesiva dell’equilibrio tra interessi commerciali e diritto dei cittadini alla cultura, un equilibrio che sarebbe invece determinante nel copyright. Di fronte all’impasse generata dalle feroci critiche ottenute dalla sbilanciata proposta IITF, accusata di essere un impedimento allo sviluppo di una new economy che al tempo appariva molto promettente, Lehmann avrebbe provato a manipolare il processo legislativo statunitense forzando le decisioni della conferenza diplomatica transnazionale del WIPO, usando una tecnica di policy laundering, uno stratagemma che «sarebbe stato usato molte altre volte in futuro». Se approvata come trattato WIPO, gli Stati Uniti sarebbero stati obbligati a ratificare la legislazione Lehman a dispetto delle critiche interne. Ma anche il trattato WIPO fu a sua volta limitato e le fasi finali a livello nazionali si persero nello strenuo tentativo di impedire ogni possibile esenzione al copyright. Alla fine, ne venne fuori la legislazione DMCA (Digital Millenium Copyright Act). L’ottimale per l’industria del copyright sarebbe stata la possibilità di poter perseguire chiunque non richiedesse una specifica licenza sul materiale eventualmente distribuito, anche per scopi leciti e rientranti ragionevolmente nelle previsioni del fair-use. Ottenuto questo, avrebbero potuto usare la grande potenza economica di cui disponevano per impedire ogni idea di pubblico dominio della cultura semplicemente intentando cause a ripetizione. Inoltre avrebbero potuto finanziare l’impresa imponendo alle nuove imprese tecnologiche il pagamento di pesanti loyalties a prescindere dal materiale effettivamente caricato dagli utenti. Il punto di equilibrio trovato dal DMCA giocò invece a sfavore dell’industria del copyright. I provider tecnologici furono tenuti indenni da responsabilità, con la definizione di safe harbour (porti sicuri) adottando opportuni accorgimenti per il trattamento delle richieste di eventuali violazioni.

Moody mostra molti esempi di come i principali editori abbiano comunque usato l’arma legale come forma di intimidazione per provare a ottenere pronunce spropositate rispetto agli effettivi danni lamentati. Per esempio Brewster Kahle, fondatore di Internet Archive, ha riportato di aver ricevuto una causa che pretenderebbe di impedire la divulgazione di una biblioteca digitale di 1,3 milioni di libri digitalizzati, la massima parte dei quali di pubblico dominio, sulla base della contestazione di una violazione riguardante solo 127 opere peraltro messe a disposizione in prestito senza limiti dalla Open Library, attraverso Internet Archive, durante il periodo del Covid-19 e sempre dando ai detentori dei diritti la possibilità di escludere i propri titoli dal programma.

Il tema del rapporto tra biblioteche e detentori dei diritti commerciali è rilevante. Il sistema di prestito controllato, come quello usato solitamente da Internet Archive, per cui una biblioteca in possesso di una copia cartacea di un libro potrebbe digitalizzarlo e darlo in prestito online come ebook, senza violare alcuna legge e senza neppure la necessità di speciali permessi, mette in crisi il modello di concessione di licenze limitate che i principali editori vogliono imporre.

Da un lato quindi ci sarebbe l’uso fair delle biblioteche, che acquisendo il volume avrebbero già remunerato l’editore, e mettendolo a disposizione in modo controllato, cioè senza eccedere l’effettivo posseduto, potrebbero aggiornare il proprio ruolo rendendolo in linea con le moderne tecnologie, dall’altro la pretesa dell’impresa commerciale di impedire del tutto queste forme di condivisione della cultura e monetizzare le proprie rendite di posizione. L’imposizione di questo sistema sarebbe molto svantaggioso per le biblioteche, che si troverebbero a non aver nulla di reale nei propri scaffali, a pagare perpetuamente per prodotti potenzialmente inutili e a vedersi svanire gli eBook in catalogo sulla base del completo arbitrio dell’editore: un patto leonino che molti considerano inaccettabile.

Boldrin e Levine hanno mostrato che anche senza il monopolio intellettuale esisterebbe un mercato dell’opera creativa eventualmente anche più efficace ed efficiente per il pubblico e sufficientemente remunerativo per autori ed editori. Moody dettaglia invece le principali iniziative dell’industria dei contenuti per rendere inefficaci o inoffensive queste possibili alternative, come le iniziative legali contro la Grande Biblioteca che a partire dagli anni 2000 Google avrebbe voluto costruire digitalizzando tutto il patrimonio librario, oppure contro Internet Archive che ne ha raccolto il testimone in tempi più recenti.

C’è un altro ambito in cui gli editori hanno impegnato considerevoli risorse per costruire muri che impediscano la condivisione: le pubblicazioni accademica. In un mercato che diventa sempre più concentrato nelle mani di pochissime imprese, e in un processo produttivo e distributivo in cui la presenza di intermediari diventa sempre meno giustificabile le iniziative volte ad impedire la costituzione di archivi totali della ricerca pubblicata o in via di pubblicazione (preprint) rasentano il paradosso.

Secondo Moody, per un ricercatore spesso pagato con soldi pubblici, è difficile oggi convivere serenamente con il dato di fatto che il suo principale prodotto venga venduto a costi molto alti alle stesse istituzioni che pagano per averlo prodotto. I ricercatori sono ostaggio di un sistema contorto che drena risorse dalla collettività verso gli editori senza che questi facciano alcunché di produttivo, se non difendere i propri utili con cause che, a loro volta, si basano su grandi spese di denaro dei contribuenti per sostenere la pubblica accusa su base penale. Moody non trascura tutta l’iper-attivismo degli intermediari del copyright per addomesticare il vasto movimento Open Access che sta riscuotendo sempre maggior successo, con una proposta, denominata Gold Open Access, che continuerebbe a perpetrare il loro ruolo di proprietari e distributori della conoscenza accademica, rispetto a quella più lineare e chiara, denominata Green Open Access, che permette agli autori un più completo controllo delle proprie produzioni e alle loro istituzioni paganti la possibilità di collezionare gli articoli nei propri repository da federare progressivamente in un archivio globale della ricerca mondiale.

Né l’attività dei ricercatori, né quelli del sistema di assicurazione della qualità (peer-reviewing) sono infatti remunerati dagli editori, né ormai il processo di disseminazione ha costi rilevanti, eppure il costo della letteratura accademica diventa sempre più oneroso. Moody mostra come le attività degli editori accademici hanno rappresentato un fondamentale impedimento alla costituzione, tecnicamente possibile, di un catalogo unico e omnicomprensivo della ricerca accademica parlando della fondazione di iniziative come PLOS, PubMed o BioMed e dell’attività di lobbyng contraria che hanno generato.

L’impegno delle istituzioni nella tutela del copyright, senza la necessaria considerazione del diritto alla conoscenza, sembra mettere al riparo i detentori dei diritti da pratiche commerciali che se fossero condotte da altre imprese provocherebbero, oltre che sdegno e riprovazione, l’immediata attenzione delle stesse autorità pubbliche, che invece affrontano questo campo con rara e certamente sospetta inerzia. Ad esempio, Moody racconta che in UK durante il periodo del Covid-19, con grande fanfara e congratulazioni da parte delle istituzioni, i principali editori accademici annunciarono che avrebbero aperto gratuitamente le proprie collezioni di ebook per le università. Una mossa che sembrò molto generosa, che però in grande silenzio fu rimangiata dopo qualche settimana imponendo alle università a sottoscrivere costosi abbonamenti boundled o licenze singole per gli ebook il cui costo superava il 500% l’equivalente cartaceo. «I più cinici potrebbero concludere che la generosa offerta iniziale non era altro che uno stratagemma per manipolare il mercato, costringendo le biblioteche, nel disperato tentativo di sostenere gli studenti in remoto, a sottoscrivere modelli di abbonamento agli ebook costosi e non sostenibili» (p. 37).

Il rapporto tra bibliotecari ed editori, specialmente in alcuni paesi come gli Stati Uniti, si è notevolmente incrinato negli ultimi anni quando questi ultimi hanno iniziato a praticare politiche di prezzo e di prodotto orientate a cancellare l’utilità sociale delle biblioteche e il loro ruolo di diffusione culturale specialmente verso i meno abbienti non in grado di spendere e quindi di nessuna utilità per gli editori. La mancata pubblicazione in volume cartaceo e la diffusione con licenze limitate temporalmente degli ebook rendono il ruolo di conservazione delle biblioteche impossibile, l’aumento spropositato dei costi senza alcuna giustificazione e le azioni legali per impedire la digitalizzazione e il prestito controllato rendono l’attività bibliotecaria sia insostenibile economicamente che pericolosa legalmente. Eppure, mai come in questo periodo l’aumento del costo d’accesso alla cultura sta tagliando fuori dalla produzione culturale e accademica intere aree della popolazione anche dei paesi più sviluppati, e intere popolazioni del mondo che non possono permettersi i costi del materiale accademico, pur essendo ben consapevoli che solo lo sviluppo del capitale sociale genera le più efficaci possibilità di benessere. Una considerazione che le istituzioni, così ben disposte a supportare le pretese dei sostenitori dello sfruttamento commerciale del copyright ormai stanno totalmente trascurando.

Esattamente come predetto nel volume di Boldrin e Levine, le tecniche intimidatorie del copyright si sono trasformate in vera e propria censura di comportamenti perfettamente leciti dei cittadini, senza che nessuna istituzione abbia inteso difendere quest’ambito del Bene Comune. L’abuso del DMCA, con l’adozione delle intimazioni comunemente chiamate Notice and Take Down, ovvero lettere con sostanziali minacce legali da parti di studi legali, spesso all’indirizzo di realtà non in grado di competere legalmente, ha dato luogo quello che è stato chiamato Chilling Effect con l’obiettivo di congelare appunto ogni forma di dissenso, o anche solo di opinione contraria. Queste previsioni normative prescrivono che gli intermediari, come i gestori di piattaforme o social network, possano limitarsi a veicolare le intimazioni agli eventuali responsabili della violazione. In sostanza non ci sono controindicazioni legali a spedire richieste di rimozione di materiale online, anche se sono completamente sbagliate, come quelle generate da programmi automatizzati che rovistano il web per estrarre collegamenti e poi costruiscono intimazioni senza alcuna verifica. Invece un’eventuale risposta, sebbene mostri inconfutabilmente la liceità del comportamento, identifica il rispondente che spesso non ha le competenze legale per scriverla opportunamente e non mette al sicuro da eventuali ritorsioni legali, ma anzi fornisce tutti i dati per iniziare una azione legale, con i relativi costi e rischi. Quello che succede, nei fatti, è che la pratica del notice-and-takedown, visto il suo sostanziale squilibrio a favore dell’aggressore è diventato una delle principali cause di “scomparsa” delle pagine o altro materiale su Internet. Si calcola però, ad esempio nel contesto delle immagini Google, che è il principale intermediario a ricevere queste note, che oltre il 70% di tali intimazioni siano invalide o questionabili. Chi riceve una lettera del genere però raramente ha tempo, voglia e soldi per gestirla e cancella il contenuto anche se è perfettamente lecito.

Nei rari casi in cui questo non avviene e gli studi legali vogliono ricorrere ad una causa, spesso falliscono nel dimostrare l’effettiva legittimazione nell’azione o che l’utilizzo non sia equo e accettabile. Il litigio è però comunque vantaggioso per gli aggressori e mai per gli aggrediti, al punto che il mercato dei litigi in questo è diventato molto fiorente e si è allargato anche alla reputazione online, a cui gli editori fanno sempre più ricorso per godere di un ambito d’azione molto più ampio per le proprie pretese di censura, eppure in questo caso nei giudizi finiscono per avere ancor meno ragione.

Nel resoconto di Moody un intero capitolo è dedicato all’Unione Europa e a quella che considera «la peggior legge sul copyright» basata sull’attiva sorveglianza dei cittadini attraverso i filtri di caricamento del materiale online. Mentre negli USA le società tecnologiche hanno progressivamente conquistato terreno sulla base dei propri migliori risultati di mercato, rintuzzando efficacemente l’aggressione delle imprese dei contenuti, in Europa la situazione è molto differente. In mancanza di un forte settore tecnologico, l’industria dei contenuti, agevolata dalla frammentazione di lingue e strutture legali, ha preteso un aggiornamento dell’Information Society Directive dell’EU del 2001, equivalente alla DMCA.

La nuova direttiva europea avrebbe dovuto anche agire stimolando una revisione, in senso restrittivo, negli Stati Uniti riproponendo quella strategia di policy laundering già vista in precedenza.

Così nel 2013 su iniziativa della Commissione Europea è iniziato un percorso di aggiornamento che prevedeva una vasta consultazione pubblica. La consultazione si è però chiusa con «due visioni completamente incompatibili. I cittadini comuni volevano massimizzare il potenziale di Internet, mentre l'industria del copyright cercava di controllarlo fino all'ultimo collegamento ipertestuale.» Questa divaricazione ha reso difficile il percorso alla nuova direttiva, mentre invece si dava per scontato il risultato a favore delle grandi imprese dei contenuti. I punti della proposta europea erano gli stessi della proposta Lehman, eliminazione delle vaste eccezioni ed esenzioni per motivi culturali e feroce controllo fino all’ultimo link del contenuto coperto dal diritto d’autore con l’obiettivo, neppure troppo velato, di razziare il mercato pubblicitario raccolto dalle imprese tecnologiche.

Per i successivi cinque anni la dialettica tra Parlamento Europeo (eletto dai cittadini e quindi più in linea con la visione di una cultura condivisa e pubblica, ed eventualmente più propenso a dare valore alle imprese tecnologiche) e Commissione (nominata dai Governi e più esposta alle lobby imprenditoriali europee) fu particolarmente aspra. La proposta non solo disconosceva il valore culturale della condivisione della conoscenza, ma era particolarmente deficitaria anche in tutto ciò che avrebbe potuto essere utile alle imprese per competere nel campo delle nuove tecnologie, come le analisi testuali e di data mining (TDM). Senza una chiara visione del futuro e guidata da interessi anacronistici, la proposta sul nuovo copyright europeo venne scritta e riscritta ma sempre e comunque consegnando nelle mani dell’industria dei contenuti ogni possibilità di controllo.

Moody registra i tentativi, invero anche un po’ comici, di alcuni editori europei nel tentativo di imporre, al motore di ricerca di Google, richieste di percentuali di ricavi per il mero utilizzo dei link o dei brevi ritagli, seguite dalla loro eliminazione dai risultati di ricerca, seguite dal tracollo della visibilità dei siti e quindi dalla frettolosa concessione gratuita a Google della licenza che solo poco prima veniva pretesa ad alto prezzo. Peggio di tutti ne uscì il settore editoriale spagnolo che prima esultò per l’imposizione di una legge che pretendeva da Google News una parte dei ricavi pubblicitari, e che ottenne invece la decisione di Google di chiudere completamente il servizio News in Spagna e da cui risultò il maggior declino di visitatori per i siti delle 18 principali testate nazionali che, evidentemente attraverso Google News scoprivano il contenuto che altrimenti non avrebbero proprio guardato.

Pur con evidenti e irrisolte fallacie, la direttiva andò avanti rifiutando di ammettere uno ad uno tutti i punti che sarebbero stati indigesti all’industria dei contenuti. A nulla valsero le mobilitazioni di accademici, professionisti e semplici cittadini. Il punto qualificante della proposta fu l’introduzione dei filtri di caricamento (upload filter), una misura tecnologica che, non si sa bene in che modo, dovrebbe discriminare ed escludere il contenuto caricato in un sito mediatore (social network o motore di ricerca, ma anche forum o chat) qualora coperto da una qualche licenza, non ricadente nelle eccezioni previste, né avere un permesso di distribuzione. Una missione impossibile che ha reso l’imposizione dei filtri di upload poco più che cosmetica per i siti di grandi dimensioni e la scusa per aggressioni arbitrarie a quelli medio-piccoli, il che a sua volta ha portato molti siti extraeuropei di filtrare gli utenti provenienti dall’Europa.

Ciò che però non è cosmetico è quanto fu subito paventato dagli attivisti dei diritti civili e per la privacy che predissero che i filtri di upload si sarebbero presto trasformati in macchine di sorveglianza e di censura preventiva dei cittadini. Neppure un anno dopo infatti iniziò la discussione su una nuova direttiva, denominata Chat Control, che assegnerebbe agli stessi operatori che già gestiscono i filtri di upload per il materiale protetto da copyright, il controllo e la denuncia automatizzata sulla base di analisi condotte dall’Intelligenza Artificiale (sic) di situazioni potenzialmente lesive dei diritti dei minori, come violenza e pedopornografia (ma si è già propensi ad estendere la cosa ad altri crimini). Intanto i filtri di upload già attivi su Google Mail hanno quasi fatto finire sotto inchiesta un genitore per aver spedito una foto del figlio affetto da una malattia ai genitali, al proprio pediatra. Un disguido risolto fortunatamente dalle forze dell’ordine che però, a prescindere da tutto, ha portato alla cancellazione totale e definitiva di tutta la vita digitale del povero genitore, tra cui tutte le email e i file e le foto su cloud.

Moody non manca di far notare come la direttiva sul copyright del 2019, e a maggior ragione, la recente proposta sul controllo delle chat, sono anche in evidente contrasto con la direttiva generale sulla protezione dei dati (GDPR), che all’Art. 22 dichiara che nessuno dovrebbe essere sottoposto a decisioni basate esclusivamente su automatismi. Una contraddizione che però il relatore per la proposta di direttiva sul copyright (Alex Voss) ha liquidato semplicemente negando quella che già allora era un’evidenza («Nessuno sta filtrando e nessuno filtrerà mai Internet!») e che oggi è invece una normalità. All’Unione Europea quindi non si applica la stessa norma che l’EU pretende di imporre a tutto il mondo.

Lungo, e anche deprimente, è l’elenco dei disguidi a cui andarono incontro i vari organismi dell’Unione nel tratto finale del percorso che portò alla contestata promulgazione della Direttiva. L’inadeguatezza della Direttiva si vede, secondo Moody, anche nella ampia diversificazione con cui è stata adottata dai vari stati europei: dall’implementazione ultra-realista francese, a quella molto lassista tedesca, fallendo quindi proprio in ciò che una direttiva europea dovrebbe servire: l’armonizzazione.

Conclusioni

Il libro di Moody è chiaramente schierato a favore dell’accesso libero alla conoscenza e per il diritto pubblico della cultura, ma certamente non è fondamentalista. Da questo punto di vista la proposta di Boldrin e Levine è di gran lunga più radicale.

Moody non contesta il copyright in quanto tale, ma il modo in cui è stato inteso ed esteso recentemente dalle imprese che pretendono di imprigionare il contenuto per il proprio esclusivo vantaggio e che, pur sventolando alcune super-star iper-pagate dello show-business, come attori, scrittori o cantanti di successo, mantengono ogni altro lavoratore della catena produttiva e distributiva ai limiti della sussistenza o nel semi-anonimato.

La risposta, dice Moody nel suo ultimo capitolo, è che solo i veri fan possono aiutare la cultura in generale e i creatori in particolare ad uscire dall’oppressione dei grandi manipolatori del contenuto. È una posizione mutuata da un’idea di Kevin Kelly, uno dei fondatori di Wired. Per Kelly basterebbero solo 1000 veri fan disposti a remunerare un creativo per permettergli una vita agiata e libera, e al contempo dargli la possibilità di divulgare gratuitamente le proprie creazioni. Queste conclusioni sono peraltro, in linea con uno studio richiesto proprio dalla Commissione Europea e che venne segretato in quanto rail risultati non erano congruenti con la linea pro-copyright della direttiva.

Da questo punto di vista il libro di Moody è poco efficace nell’affrontare il tema delle sempre crescenti disparità che anche il copyright sta contribuendo a creare tra chi ha e chi non ha. Trovare i limiti economici sotto cui mantenere il copyright perché risulti abbastanza remunerativo ma non limitante è comunque una prospettiva differente che abolire completamente i monopoli intellettuali per rivitalizzare dalle fondamenta l’economia dei contenuti.

Splende il sole sulle biblioteche ombra

2022-11-29T03:14:14+01:00

L’FBI ha decapitato Z-Lib, il sito pirata piú user-friendly per l’accesso illegale ai libri e alle pubblicazioni accademiche, mettendo i sigilli virtuali a tutti i suoi domini internet ma il successo non è durato neppure il momento del sequestro. Z-Lib è intatto. Verrà il momento di chiederci se questo guerra è veramente utile a tutti?

La battaglia pirata per la liberazione della conoscenza è più viva che mai. Passata in sordina per qualche anno con l’irrompere sulla scena della piattaforme video e musicali, come Netflix, Amazon Prime e Music o Spotify, che hanno trascinato verso il basso il costo d’accesso agli audiovisivi e quindi soddisfatto l’esigenza principale del pubblico, oggi la crescente limitazione della libertà di scelta dei consumatori e l’aumento generalizzato dei prezzi nonché la rivalità commerciale tra operatori, riporta in auge le pratiche di libera condivisione sul web e sulle chat.

Si rispolverano vecchi strumenti, come BitTorrent e Kad (eMule), e se ne adottano di nuovi, come Tor e IPFS. Antichi siti pirata come The Pirate Bay lucidano le proprie interfacce e nuovi contendenti appaiono sulle scene.

Una nuova frontiera

New entry nel panorama pirata, la liberazione della cultura accademica: monografie e articoli di riviste.

L'editoria accademica è sempre stata esposta alle critiche, anche rispetto a quella degli altri settori, perché raramente remunera gli autori eppure gli editori si trovavano nell'invidiabile condizione di essere pagati fino a quattro volte per il loro impegno: una prima volta dagli autori stessi che direttamente o indirettamente pagano la pubblicazione dei lavori di ricerca, spesso con fondi pubblici; una seconda volta dalle biblioteche pubbliche e private, che pagano lo stesso materiale talvolta a costi maggiorati, anche qui con fondi pubblici o ottenuti con la raccolta delle donazioni private ad esempio nel mondo anglosassone; la terza volta, dai clienti che acquistano attraverso il normale circuito di distribuzione dei libri o delle riviste e infine c’è da considerare una quarta forma indiretta di pagamento che impegna le istituzioni educative (quindi ancora una volta per lo più con i soldi dei contribuenti) per sostenere il lavoro del sistema di revisione e verifica paritaria degli articoli, di cui gli editori accademici solitamente godono senza remunerare. In più, da considerare ancora a loro favore, la progressiva riduzione dei costi di produzione e distribuzione dovuta alle innovazioni tecnologiche che non si è mai trasferita nei prezzi di vendita. Trovare una giustificazione a questa contorsione diventa sempre più arduo.

Però, quando nel 2012, Joe Karaganis pubblica «Media Piracy in Emerging Economies» per il Social Science Research Council (oggi disponibile gratuitamente online in 4 lingue), e inizia un progetto di ricerca sulle alternative non ufficiali alle risorse digitali, registra che i pirati si concentrano sui materiali più standardizzati e di largo consumo, come musica e film, e che stanno solo iniziando a raccogliere la produzione libraria narrativa o tecnica. Il campo della produzione accademica, come riviste, monografie o raccolte di articoli, in quel momento è invece ben poco affetto dalla pirateria. In meno di 10 anni la situazione invece è cambiata drasticamente e Karaganis lo espone in un nuovo volume del suo programma di ricerca «Shadow Libraries: Access to Knowledge in Global Higher Education» (MIT Press, 2018). Già da qualche anno infatti, sono fioriti organizzatissimi siti pirata per la distribuzione di materiale accademico che sono diventati velocemente anche il primario strumento per le ricerche bibliografiche e per l'accesso diretto ai materiali, e non solo nei paesi a basso e medio reddito in cui si è di recente maggiormente sviluppata la popolazione studentesca, come l'India, dove è quadruplicata, il Brasile, dove è triplicata, e Messico e Sud Africa dove è più che raddoppiata.

Il declino degli editori accademici

Le biblioteche ombra, basate sulla divulgazione illegale del materiale coperto da copyright, non sono certamente da considerare una «buona pratica» in campo accademico, ma è un dato di fatto che per la ricerca siano di gran lunga più efficaci delle alternative ufficiali e allo stesso tempo rappresentano l'unica possibilità realistica attuale di affrontare il problema, sempre più rilevante, del divario per l'accesso alla conoscenza tra i paesi ricchi e quelli poveri che non possono permettersi gli alti costi imposti dall'editoria accademica.

Per gli editori accademici i giochi sono cambiati a causa di alcuni fattori: 1) il disinvestimento pubblico nelle istituzioni educative che, facendo diminuire la qualità dei prodotti, ha reso complessivamente la loro opera molto meno efficace che in passato, anche per 2) la rapacità commerciale degli editori che hanno costantemente aumentato i prezzi per riviste e monografie dovendo sostenere costi in precedenza scaricati sulla collettività e garantire sempre più utili agli investitori, aiutati 3) dalla riduzione della concorrenza interna al settore dovuta alla continua concentrazione e acquisizione e contemporaneamente 4) dall'aumento della concorrenza esterna al campo editoriale, con le iniziative di pubblicazione libera online e di open access, verso le quali gli editori scientifici si sono dimostrati se non totalmente impermeabili, quantomeno guardinghi e infine 5) la rottura del patto con i ricercatori, in special modo i piú giovani, le cui condizioni di precarietà rendono difficile l’accesso alle risorse che altri ottengono gratuitamente dalle proprie istituzioni, eppure sempre a spese della collettività.

Viene da chiedersi se gli editori accademici abbiano ancora un ruolo dato che le comunità accademiche oggi possono gestire, collezionare, selezionare, pubblicare e diffondere, in autonomia i propri contenuti. Il mondo dell'Open Access e Open Science sta già dando una risposta in merito.

La risposta pirata è senza dubbio altrettanto grossolanamente inadeguata per la tutela dei diritti degli editori (mentre gli autori come detto non hanno remunerazione dalle proprie opere e anzi sono spesso ben contenti che i propri articoli circolino liberamente). L’offerta pirata serve di gran lunga meglio l'esigenza di accesso e condivisione, rende più visibile la ricerca con la possibilità di fare efficaci indici totali dell’intera produzione pubblicata: un aiuto senza paragoni per i ricercatori, che possono ottenere ricerche testuali significative sulla letteratura pregressa, invece che seguire il filo di Arianna delle citazioni bibliografiche (a loro volta affette ormai da numerosi problemi sistemici).

Le shadow library possono essere considerate la risposta autoorganizzata, cooperativa e sostanzialmente anarchica, ai forti disinvestimenti pubblici nel campo dell'istruzione e delle sue istituzioni, all'instabilità dei prodotti editoriali che, specialmente per quelli digitali, possono essere fatti sparire dagli editori, non solo nei propri cataloghi, ma addirittura dai dispositivi degli utenti. Ma queste raccolte, forse ancora di più, sono una risposta alla mancata difesa da parte del potere pubblico del diritto di accesso libero e poco costoso alla conoscenza, per favorire un modello rapace di proprietà intellettuale che concentra le risorse conoscitive in grandi conglomerati e rende ancora più sensibile il divario digitale tra gli abbienti e i meno abbienti.

Il libro di Karaganis riconosce molti difetti delle attuali biblioteche ombra, oltre quello ovvio della gestione del copyright. In particolar modo la carenza di assicurazione della qualità delle risorse, sia in termini tecnici (ad esempio, qualità e completezza delle scansioni), ma soprattutto l'assenza di ogni riferimento alla qualità accademica delle pubblicazioni distribuite che sono tutte trattate allo stesso modo, mettendo assieme ricerca peer-reviewed di alta qualità proveniente da fonti prestigiose e materiale molto discutibile. Queste carenze saranno eliminabili dal punto di vista tecnico con un'opera di selezione e categorizzazione realizzata in crowdsourcing o attraverso tecniche avanzate di intelligenza artificiale e machine learning, ma rimane il problema della sostenibilità di lungo periodo del modello che non prevede di remunerare direttamente le figure non inutili del processo di lavorazione dell'informazione accademica.

Tecnologia anti-censura

Pur efficaci, le biblioteche ombra sono quindi illegalima operano non senza un diritto ideale sottostante, anche se gli stati si impegnano in legislazioni sempre più punitive e spendono cifre ingenti per perseguire la violazione del copyright (anche se tecnicamente sarebbe solo la violazione di un contratto privato che dovrebbe essere lasciato al campo del diritto civile senza scomodare il penale). Da parte loro i pirati invece mettono in campo un’ingegnosità senza pari. I bibliotecari ombra di Z-Lib, LibGen, Nexus e Sci-Hub modellano i propri sistemi per essere virtualmente inattaccabili dal punto di vista tecnico e legale, basadosi anche sull'esempio delle reti anti-censura e samizdat in Russia. L'adozione di avanzate tecniche di dissimulazione, distribuzione e forking, nonché lo sviluppo di strumenti di indicizzazione e hosting virtuale permettono ai siti di offrire risultati anche quando interi server dovessero essere staccati dalla rete senza preavviso. L'impegno sarebbe ingiustificato per iniziative che raramente raccolgono introiti rilevanti, rinunciando spesso a quelli pubblicitari, per ottenere solo contribuzioni private di modica entità (tranne qualche vistosa eccezione). L'ipotesi quindi della mera remunerabilità illegale, come può essere quella ad esempio dei siti di streaming per gli eventi sportivi in diretta, appare molto spuntata rispetto a quella della presenza di una forte ideologia condivisiva.

Comunque, quali che siano le motivazioni, quello che è certo è che questi pirati, sono molto efficaci.

Quando l’FBI ha recentemente decapitato Z-Lib, il sito che più di tutti si è recentemente impegnato per rendere user-friendly l’accesso ai libri e alle pubblicazioni accademiche, mettendo i sigilli virtuali a tutti i suoi 200 e passa domini internet, il successo non è durato neppure il momento del sequestro. Il dominio di Z-Lib su Internet, che in Italia era già censurato a livello di DNS da tempo, è stato sequestrato e presenta in bella mostra di sé l’aquila americana del simbolo dell’FBI, ma i server del sito non hanno perduto un solo attimo di funzionamento e sono accessibili sulla rete Tor, vivi e vegeti come in precedenza, solo che per la particolare caratteristica della rete, mentre prima era possibile scaricare senza identificarsi, oggi è invece necessario.

L’azione dell’FBI non ha solo dirottato i domini Z-Lib su un proprio server, ma ha avuto come risultato immediato quello di incentivare l’uso di Tor da parte degli aficionados di Z-Lib, rendendo le prossime azioni anti-pirateria potenzialmente più complicate e costose.

Sono stati anche arrestati in Argentina, due presunti operatori di Z-Lib, Anton Napolsky e Valeriia Ermakova, accusati di infrazione del copyright, frode telematica e riciclaggio di denaro, l'ambasciata ha però fatto sapere che il governo argentino non avrebbe ricevuto neppure la richiesta di estradizione.

Sul sito di Z-Lib per giorni non si è vista alcuna reazione, poi un breve messaggio per chiedere perdono agli autori per i danni sofferti, ma anche per sottolineare che Z-Lib abbia sempre fatto del proprio meglio per rispondere ai reclami presentati, una formula rituale per richiamarsi all'infrastruttura legale del DMCA e un segnale che la battaglia giudiziaria è tutt'altro che scontata.

Ma su un altro fronte, l'azione dell'FBI ha anche avuto un effetto inatteso: lo nascita di un progetto pirata collettivo di conservazione globale di tutta conoscenza pubblicata. Poche settimane prima del raid, non si sa se con preveggenza o previdenza, i responsabili di Z-Lib avevano rilasciato pubblicamente tutto il proprio enorme database di pubblicazioni su BitTorrent. Un gruppo di archivisti ombra raccolti dietro lo pseudonimo di Anna e il titolo di PiLiMi (Pirate Library Mirror), ha raccolto il materiale e, prontamente sovvenzionati da piccole donazioni private e da una grande donazione da 10.000 dollari dello stesso finanziatore di Libgen, ha iniziato ad aggregare tutto il materiale e la conoscenza relativa alle pubblicazioni.

Come primo atto è stato realizzato un nuovo meta-motore di ricerca che indicizza tutto e indica con precisione su quale sito pirata l’elemento è contenuto. In questo momento vi campeggia in cima alla lista dei risultati il libro di Michele Boldrin e David K. Levine “Against intellectual monopoly” pubblicato nel 2008 per la Cambridge University Press, in pratica un manifesto intellettuale di una nuova economia della conoscenza fuori dal modello drogato dalla proprietà intellettuale.

La visione di Anna e del progetto PiLiMi è chiara, per quanto certamente velletaria: visto che nessuno lo fa, vogliono registrare e catalogare tutto il patrimonio di pubblicazioni prodotto dal genere umano, mettendolo liberamente e gratuitamente in condivisione con tutti. Come primo passo promettono di mettere progressivamente ordine nella proliferazione delle differenti manifestazioni digitali dei libri fisici scansionati o nati digitali, riconducendo a unità le edizioni con una operazione in gergo tecnico chiamata deduplicazione, che è senza dubbio l'inizio per una assicurazione di qualità del prodotto che attualmente nessuna biblioteca ombra può vantare.

Allo stato, PiLiMi ha collezionato 37 terabyte di materiale, che hanno subito rimesso a disposizione sulla rete BitTorrent chiedendo a tutti di mantenerlo in condivisione. Stanno procedendo speditamente alla realizzazione di indici globali per il motore di ricerca. Anna valuta che tutto questo sia però non più del 5% di tutto il patrimonio di pubblicazioni prodotto dal genere umano, e che attualmente nessuno sta collezionando e preservando. Saranno i pirati, con uno sforzo collettivo e illegale,a farlo?

Conoscenza: un futuro di limiti e profitti o di ampia condivisione?

Ancorché ammantate da una visione illuminista ed ecumenica, credere alle belle parole dei pirati, che fanno della propria attività illegale una pratica quotidiana e addirittura un vanto, non è facile e forse neppure ragionevole. Può essere romantico, ma se anche fossero capaci, la strada è ben irta di pericoli. Questa strada è lastricata di arresti con pene sostanziali (come appunto Anton Napolsky e Valeriia Ermakova ), clandestinità (come Alexandra Elbakyan, la programmatrice kazaka fondatrice di Sci-Hub) e persino il sucidio di Aaron Swartz su cui piombarono accuse gravissime e la minaccia di oltre 35 anni di detenzione per aver scaricato articoli di pubblico dominio precedenti al 1923 da JSTOR sulla rete universitaria del MIT. Altri martiri della libera conoscenza si profilano all’orizzonte? È chiaro che una soluzione legale è necessaria e probabilmente non una che piacerebbe agli editori (e forse neppure ai pirati più radicali), ma sufficiente a soddisfare l'ampia area di consenso a favore dei siti pirata. D’altronde aver imprigionato la conoscenza in norme sempre più draconiane e per una durata che ormai supera quella di una vita umana, dopo la morte dell’autore, inizia a sembrare ingiustificabile a molti.

È fin troppo facile constatare quanto poco stiano facendo, rispetto a quanto i pirati dimostrano che si possa fare, gli operatori del mercato del copyright per collezionare, preservare e mettere a disposizione di tutti, a costi accessibili e non discriminatori, la conoscenza, soprattutto a causa di rivalità commerciali, veti o semplice volontà di sfruttamento delle rendite di posizione senza proporre nulla di effettivamente utile per il bene collettivo.

A ciò va anche aggiunto quanto poco le istituzioni pubbliche, se si esclude una piccola pattuglia di agguerriti bibliotecari americani, stiano effettivamente sostenendo gli obiettivi culturali che sarebbero nella propria ragion d'essere, sottovalutando o mancando del tutto di considerare, a favore della cittadinanza generale, l'importanza della condivisione della conoscenza.

La base di consenso popolare che ha la pirateria in questo campo è ampissima perché forse in pochi altri campi è così evidente la divaricazione tra la faccia truce di una legge inadeguata che protegge solo i potenti e gli abbienti, contro le esigenze di un giusto diritto alla conoscenza di tutta l'umanità.

La legge sul copyright, interpretata senza il necessario equilibrio, disattende le basilari esigenze di solidarietà tra chi ha di più e chi non ha e tra chi vive in paesi ad alto reddito, e chi ha poco anche per il mero sostentamento; tra chi può permettersi di comprare per conoscere e studiare e chi è condannato all'ignoranza e alla subalternità, a maggior ragione con il riduzione degli investimenti sull'istruzione da parte degli stati nazionali.

Mentre lo stato, anche quello che più si ammanta di welfare, continua a ritrarsi dal proprio ruolo di promotore della cultura e della conoscenza, i pirati del nuovo millennio hanno stabilmente issato questa bandiera, interpretando nei modi più vari l’esigenza ormai ineludibile del diritto umano alla conoscenza.

In una società in cui questa conoscenza è sempre più importante, legarla all'arbitrio delle pretese economiche del copyright, non può far altro che accrescere diseguaglianze e disparità, minando lo stesso tessuto democratico della società.

Le biblioteche ombra, basandosi su una illegalità a buon diritto, stanno giocando diversamente la loro partita.

Così non schwa - Limiti ed eccessi del linguaggio inclusivo

2022-11-15T08:32:05+01:00

Titolo:  Così non schwa - Limiti ed eccessi del linguaggio inclusivo
Autore: Andrea De Benedetti
Editore: Giulio Einaudi Editore
ISBN: 9788806254285, 9788858439746
Data di pubblicazione: 2022

Nella contesa sull’introduzione o meno nella lingua italiana dello schwa (ə), il nuovo suono, neutro, e il relativo simbolo, neppure esistente sulle tastiere, si deve dar conto di questo brevissimo pamphlet polemico di Andrea De Benedetti, che ha insegnato Lingua e linguistica italiana all’Università di Granada, giornalista de Il manifesto e collaboratore dell’Academy della Scuola Holden, che si definisce come appartenente a quella schiera di «“progressisti” [...] “inclusivi”, che aborrono l’ipocrisia pelosa di chi, insieme al linguaggio inclusivo, vorrebbe liquidare anche i diritti delle categorie che lo reclamano, ma che al tempo stesso rimangono affezionati a un’idea democratica di lingua» e che «ritengono sproporzionata e fuori fuoco l’attenzione rivolta al linguaggio come principale fronte di conflitto e terreno di rivendicazioni» e che inoltre «sono un po’ stufi di sentirsi etichettare come vecchi conservatori attaccati ai loro privilegi di maschi bianchi eterosessuali (o come antifemministe o come femministe transfobiche quando l’«argumentum ad hominem» diventa «argumentum ad mulierem») per il solo fatto di ritenere impraticabili alcune soluzioni e talora pretestuosi i loro presupposti.»

Non tutte le innovazioni linguistiche sono utili o hanno senso, talvolta provengono «dall’alto» e sono molto bene accette perché semplificano e migliorano la lingua come «quella del tedesco del 1996, che ha ridotto le eccezioni ortografiche e sancito la libertà di decidere per gli scriventi su una serie di casi controversi; e quella dello spagnolo del 2010, che tra le altre cose ha eliminato gli accenti diacritici», altre volte (come l’obbligo del “voi” nel Ventennio) rappresentano solo un esercizio di potere, e su questo campo «l’Italia sconta una lunga tradizione di prescrittivismo linguistico, inaugurata nel Rinascimento e protrattasi fino all’epoca fascista». Talvolta invece le innovazioni vengono «dal basso», dalla semplificazione dell’uso comune della lingua orale, come «alcuni tempi verbali ormai virtualmente estinti (il trapassato remoto) o demansionati (il futuro semplice [...]), alcuni pronomi (gli) che tendono a fagocitarne altri (le, loro)» secondo un «principio di economia», ovvero «la propensione dei parlanti ad ottimizzare le risorse linguistiche in funzione delle proprie necessità». Altre volte le innovazioni sono proposte da gruppi elitari, spesso con notevoli contrasti all’interno della stessa bolla degli interessati, e poco o alcun effetto, se non controproducente, sulla lingua, si pensi a quando «in seguito a una delle periodiche derive autoparodistiche del politicamente corretto, entrò in uso la locuzione diversamente abile [...], che nelle intenzioni dei suoi inventori avrebbe dovuto proporre la condizione di disabilità in una luce positiva» ma che fu considerata «buonista e ipocrita» considerando che «locuzioni simili non fanno che nascondere “la condizione di discriminazione e mancanza di pari opportunità”.»

La forzosa introduzione dello schwa è un’idea «seducente [per] rimuovere dalla lingua gli ostacoli che limitano la piena espressione del sé, promuovere soluzioni che permettano a tutti i parlanti di sentirsi rappresentati, contrastare tutte le parole e le espressioni connotate come offensive e/o discriminatorie, concedere il diritto all’autodeterminazione linguistica – attiva e passiva – a chiunque senta estranee le etichette che la società gli appiccica addosso.» ma «il cammino verso il linguaggio inclusivo è lastricato di buone intenzioni. Ma non di rado conduce [...] all’inferno.»

Il punto di avvio della polemica riguarda l’«idea di fondo [...] che nelle lingue in generale, e nello specifico in quella italiana, si annida, subdolo e invisibile, il seme di una cultura patriarcale che infesta il discorso pubblico e compromette la piena parità tra i sessi.» Gli indizi «sono numerosi e spesso inoppugnabili»: l’utilizzo della parola uomo per intendere la generalità dei membri della nostra specie, la concordanza al maschile anche quando la maggioranza dei membri del gruppo elencato non è maschile, forme femminili inesistenti (fino a tempi recenti, come ministra o sindaca) o dotate di «strane protesi morfo-lessicali» (-essa, -rice) «per ricalcare il carattere quasi mostruoso e deforme di una femmina che indossa panni professionali tradizionalmente maschili», il «bisogno di distinguere una donna sposata da una non sposata», l’uso dell’articolo per i cognomi femminili e non i maschili, o l’abitudine di chiamare le donne, con maggiore confidenza per nome e non per cognome, come avviene più frequentemente per i maschi, sui mezzi d’informazione e nei luoghi di lavoro «(con la ragguardevole e luminosa eccezione di “Silvio”)» .

Tutto questo assodato nella «nobile tradizione di studi su lingua e genere riassunta, in Italia, dal volume-totem di Alma Sabatini Il sessismo nella lingua italiana» e deciso che «alla presa di consapevolezza [debba] seguire un’azione concreta», già la Sabatini «ne tracciava l’agenda in una serie molto dettagliata di Raccomandazioni per un uso non sessista della lingua italiana che chiudevano il volume». In tempi recenti però l’asticella si è spinta oltre con la pretesa di introdurre nella lingua il genere neutro, «rilancia[ndo] la proposta già adottata in alcuni ambienti LGBTQ+ di usare il simbolo fonetico dello «schwa» (ə), corrispondente a una vocale intermedia, per evitare il maschile «sovraesteso» e in generale per cancellare il cosiddetto «binarismo» linguistico, quel fenomeno in virtú del quale finiamo per ridurre la varietà delle identità di genere alle categorie grammaticali, e prima ancora antropologiche, di “maschile” e “femminile”.»

Dalla proposta però, secondo De Benedetti, provengono più danni che vantaggi. Lo schwa impone costi ben poco ripagati dagli ipotetici utili sociali.

Le ragioni linguistiche sono chiare: ripristinare un terzo genere in una lingua che ne prevede solo due significa andare controcorrente nell’evoluzione naturale (e quindi democratica) della lingua, con una imposizione prescrittivista poco tollerabile, specie per la storia nazionale. L’«equivoco piú grande» sta nell’idea di imporre un suono e un simbolo per complicare una lingua che evolve in senso di una maggiore semplificazione «nella convinzione che si possa riformare la morfologia di una lingua partendo dallo scritto» ma «le lingue nascono orali» e aggiungere un morfema flessionale, che permettere di distinguere una parola dall’altra e al tempo stesso di identificare il genere, cioè un pezzo fondamentale del pensiero stesso del parlante non è la stessa cosa che aggiungere uno smile, un’emoticon o una parola. «Fonemi e morfemi flessionali costituiscono dei repertori per lo piú chiusi: non se ne possono insomma aggiungere arbitrariamente degli altri senza che questo provochi uno smottamento importante nella struttura della lingua stessa.»

«Il paradosso è che, con la riesumazione del neutro, la lingua non va avanti, ma torna indietro di quasi due millenni, complicando i paradigmi e aggiungendo regole là dove i parlanti erano riusciti, con grande fatica, a semplificarle» a tutto detrimento delle «persone con gravi problemi di accesso alla lingua [...] dislessici, sordi e ciechi, [...] stranieri e persone provenienti da famiglie culturalmente svantaggiate, senza dimenticare gli anziani.» Infatti «l’acquisizione del genere grammaticale costituisce uno degli ostacoli piú impervi per chi si accinge a imparare l’italiano» e «[p]ersino tra gli italofoni piú giovani e meno istruiti possono riscontrarsi delle difficoltà ad acquisire compiutamente il genere grammaticale quando questo non corrisponda con il sesso o quando vengano violate certe aspettative di regolarità». Ma stranieri, anziani, giovani e meno istruiti, non sono forse una percentuale della popolazione abbastanza rilevante da poter essere presa in considerazione nel costo vivo di questa riforma? «Senza voler opporre retorica ad altra retorica e senza volerne fare un discorso puramente aritmetico, non suona quantomeno incoerente una soluzione che per includere una minoranza ne esclude un’altra non meno discriminata, e oltretutto molto piú numerosa? A meno, naturalmente, che nell’universo inclusivo alcune minoranze siano da considerare piú minoranze di altre, nel qual caso sarebbe inutile continuare a ragionare.»

Una modifica così rilevante nella lingua prevede un complesso di lavori collaterali, ma purtroppo i promotori si sono «limitati a progettare l’opera piú ingente senza avere un piano preciso, coerente e soprattutto condiviso di come» integrarla con il resto della lingua. Ad esempio il pronome soggetto di terza persona singolare (lui, lei) non risulta trattato, se non con una proposta impossibile, come ləi che è «inapplicabile però nell’orale, stante l’incompatibilità dello schwa con la posizione tonica», ma anche «articoli (determinativi e indeterminativi), pronomi atoni oggetto (lo/la, li/le) e complemento (gli/le), preposizioni articolate, nomi indipendenti (fratello/sorella,padre/madre), sui quali, per il momento, vige una certa anarchia».

Quest’anarchia è peraltro ben rappresentata anche dai prodotti commerciali dei vari sostenitori della schwa (De Benedetti cita esempi specifici di Michela Murgia, Vera Gheno o Serena Guidobaldi), dove la proposta che pretenderebbero di imporre agli altri (la schwa o l’asterisco, l’ulteriore grafismo inclusivo persino senza suono associato) viene in realtà usata poco o niente e, quando è adattato, raramente se ne rispettano coerentemente le prescrizioni tanto che Di Benedetti sostiene che «bisogna insomma dare ragione a Cristiana De Santis, a cui si devono alcuni degli interventi piú lucidi ed esaustivi del dibattito sullo schwa, quando osserva con amara ironia la disinvoltura con cui, in questa storia, «”chi si fa le regole da sé stabilisce per sé anche le eccezioni”.»

«Anche sui benefici, peraltro, ci sarebbe da ridire.» Lo schwa non cancella dalla lingua il privilegio maschile di marca patriarcale: «è tutto da dimostrare che la desinenza del maschile non marcato costituisca effettivamente una forma di privilegio [...] e se si tratta di [bonificare] la morfologia italiana in chiave non binaria [...] da tutti i sedimenti di sessismo [bisogna] cancellare il pronome loro (che viene da illorum, genitivo plurale maschile del pronome dimostrativo ille), e [...] sdoganare la forma gli (dal dativo illi), che essendo in latino uguale per maschile, femminile e neutro [può] candidarsi a pronome indiretto unisex sia per il singolare che per il plurale.» Inoltre «non è vero che lo schwa sia un morfema equiparabile al maschile e al femminile e che possa garantire alle persone non binarie parità di condizioni in termini di autorappresentazione», infatti la sola espressione di una propria auto-descrizione con la desinenza in schwa (quindi non amministratore delegato ma amministratorə delegatə), ad esempio in una riunione di lavoro, «rimarcando il tratto non binario della propria identità e mettendo in campo innanzitutto la propria appartenenza a una categoria definita in base al genere, [...] non pertinente al contesto» sposterebbe il fuoco del discorso da un contesto professionale a uno identitario, che probabilmente non è neppure nelle intenzioni del parlante voler rappresentare, oltre ad essere quantomeno irrituale da condividere in un contesto affatto pertinente.

Ma usare lo schwa «significa proprio questo: [...] dare dimensione pubblica alla propria identità di genere, [...] dire prima di ogni altra cosa «io non mi sento maschio né femmina», [...] scegliere di presentare, fra tutti i tratti che definiscono un’identità, proprio quello che verrebbe ritenuto giustamente offensivo se qualcun altro lo usasse come primo (e unico) parametro di classificazione.» Lo schwa, «proposto per neutralizzare le differenze di genere, [...] finisce invece per amplificarle, laddove sono proprio il maschile e il femminile, in virtú della loro non marcatezza, a disattivarle.»

Due ultimi aspetti vanno trattati. Il primo è dar conto della citazione di George Santayana che apre il libro: «Il fanatismo consiste nel raddoppiare gli sforzi quando hai dimenticato lo scopo ultimo del tuo impegno» (da The Life of Reason, 1905). De Benedetti riconosce che se da un lato il dibattito sullo schwa è limitato all’interno di una «microbolla di intellettuali e militanti che ha, per cosí dire, adottato la causa facendone una sorta di bandiera ideologica». Hanno così creato le condizioni per un conflitto identitario, per lo più svolto con infinite diatribe sui social network, in «una cornice che può essere sintetizzata nei seguenti punti: 1) il linguaggio inclusivo – qualunque cosa si intenda con tale formula – è una condizione necessaria per l’inclusione tout court; 2) tutte le minoranze hanno diritto a vedere rappresentata nella lingua la propria identità, eventualmente anche tramite marche morfologiche; 3) tutte le marche morfologiche che non corrispondano con il genere dell’individuo o degli individui rappresentati sono intrinsecamente discriminatorie; 4) se giustificato da istanze inclusive, ogni mutamento linguistico è buono a prescindere, anche se scardina la struttura portante di una lingua». Al di là del fanatismo e dell’irrazionalismo con cui questi punti sono promossi, nessuno però ha valore cogente. «Hai voglia a ricordare che in molti Paesi dove si parlano lingue prive di genere grammaticale, ad esempio in Turchia o in Iran, le donne se la passano abbastanza peggio rispetto alle omologhe nostrane (non parliamo poi degli omosessuali e dei transgender); che ritenere la lingua al servizio delle identità è un’idea piuttosto ingenua, oltre che potenzialmente pericolosa; che il concetto di discriminazione applicato a un morfema quasi del tutto desemantizzato appare parecchio sproporzionato [...]»

Succede che «chi non accetta, in tutto o in parte, questi postulati diventa automaticamente un conservatore, un privilegiato, un prevaricatore, un fascista.» Inevitabile, con simili premesse, che ogni forma di dialogo finisca per naufragare con grave danno della stessa battaglia (che pretenderebbe di convincere tutti a parlare assieme allo stesso modo) ma, e quel che è peggio, di tutte le battaglie, linguistiche ma soprattutto politiche, che vorrebbero il progresso della società verso forme di - non inclusione laddove l’inclusione di qualcuno impone necessariamente una esclusione di qualcun altro - ma di una maggiore coralità, dove ognuno e ciascuno, possa con la propria voce, esprimersi liberamente.

Il secondo aspetto è quindi l’aspetto più cogente dell’argomentazione di De Benedetti: « A che scopo sostituire le parole [...] se le intenzioni rimangono le stesse? È peggio un ottantenne che usa senza malizia e «per abitudine» la parola negro o un trentenne che dice «io li affonderei tutti», senza nemmeno il bisogno di sporcarsi le mani con un epiteto offensivo e delegando l’espressione della sua disumanità alla brutalità di un verbo e alla freddezza burocratica di un pronome? Soprattutto: c’è ancora spazio, nel campo progressista, per porsi queste domande, oppure dobbiamo accontentarci di esercitare una sterile egemonia sui significanti, avendo rinunciato da tempo a combattere – e prima ancora a condividere – le battaglie sui significati? Non sarà anzi che abbiamo perso molte battaglie sui significati proprio perché abbiamo puntato troppo sui significanti?»

Emmanuele Somma

Validate

Come controllare la nuvola, prima che lei controlli noi

2022-10-26T04:28:06+02:00

Titolo:  Cloud Empires: How Digital Platforms Are Overtaking the State and How We Can Regain Control
Autore: Vili Lehdonvirta
Editore: The MIT Press
DOI:  https://doi.org/10.7551/mitpress/14219.001.0001
ISBN: 9780262047227, 9780262371100
Data di pubblicazione: 2022

Un unico dato riesce a riassumere la potenza delle piattaforme online: eBay, il popolare sito di aste e scambi online, sostiene di aver definito, con soddisfazione delle parti, oltre 60 milioni di dispute in un solo anno. In quello stesso anno il sistema giudiziario inglese, cinese e statunitense ne hanno definite rispettivamente 4, 11 e 90 milioni. « In altre parole – sostiene Vili Lehdonvirta, autore di Cloud Empires – le piattaforme messe assieme risolvono probabilmente più dispute di tutte le corti giudiziarie del mondo ».

L'Economist si chiede « Microsoft è una nazione digitale e ha un ministro degli esteri?» The Atlantic commenta « Apple è sostanzialmente un piccolo stato. » The Guardian rincara « Chi avrebbe bisogno di un governo se Amazon facesse funzionare le cose? ». Sono comparazioni azzardate. Eppure si stima che nel solo 2020 quasi 500 miliardi di dollari di beni sono passati attraverso il solo marketplace di Amazon, cioè una cifra superiore al PIL di molte nazioni che ha permesso all'azienda di Bezos utili per 75 miliardi di dollari.

Le piattaforme applicano regole nazionali o ne creano di sovranazionali, gestiscono in autonomia la giustizia, hanno dimensioni economiche rilevanti, trattano alla pari con i governi e non nascondono la velleità di battere moneta; Danno ai cittadini servizi efficienti a costi ridotti, spesso addirittura gratis. Le piattafore ormai sono una realtà insostituibile della vita quotidiana.

Cloud Empires di Vili Lehdonvirta esamina l'ascesa di questi imperi digitali e ne considera la possibile evoluzione.

Secondo l'autore del libro, le piattaforme « sono diventate i nuovi stati virtuali, » per quanto siano differenti dalle « nazioni terrene ». È necessario, sostiene, « riprenderne il controllo ».

Il modulo scelto è quello di dedicare ogni capitolo alla storia di un imprenditore, personaggio o piattaforma iconici, da Jeff Bezos e Amazon a Pierre Omidyar e eBay.

Ogni storia introduce le principali figure che hanno plasmato l'economia digitale di oggi. Da questo punto di vista, sebbene il libro sia molto ben scritto, non rappresenta una novità. Questi imprenditori di successo sono stati raccontati molte altre volte e spesso anche con molto maggiore dettaglio. Ma esistono nel libro due contributi più originali e che da soli valgono la lettura.

Il primo riguarda la constatazione che le piattaforme digitali globali esercitano una nuova forma di potere sovrano su miliardi di utenti, come mai è stato possibile a nessun potere precedente, stabilendo le regole del gioco e risolvendo le dispute tra le parti. Il libro entra nei dettagli di come le potenti aziende tecnologiche siano diventate entità statali a tutti gli effetti quando si sono dovute confrontare con le difficili sfide della gestione della complessità sociale e dei conflitti politici all'interno dei loro domini digitali.

L'intenzione originaria dei pionieri di Internet era promuovere la trasparenza, la libertà individuale e la libera associazione: sbarazzarsi dei guardiani e delle sovrastrutture nazionali e governative. Alla fine però sono diventati essi stessi le autorità, infrastrutture, guardiani e governi di Internet. Le piattaforme inevitabilmente hanno dovuto assumere via via sempre più funzioni di solito riservate a stati e governi, produrre una propria regolamentazione e risolvere le controversie che si generavano, complementando e innovando i poteri dello stato.

Già Jathan Sadowski in « Too Smart: How Digital Capitalism is Extracting Data, Controlling Our Lives, and Taking Over the World » aveva analizzato come le aziende tecnologiche rivendichino il pieno controllo su determinati servizi pubblici man mano che le piattaforme si radicano nell'economia politica delle città, la visione di Lehdonvirta è ancor più radicale: gli stati nazionali possono solo giocare sulla difensiva quando lottano contro il regno digitale transnazionale. L'imperium, per Lehdonvirta, è ormai già passato alle piattaforme digitali e ciò che dà forza a questo confronto sono le funzioni economiche dello Stato, in cui gli stati territoriali diventano sempre più deboli.

Il libro ha forse il difetto (o il pregio) di considerare ciò che è "Stato" solo quello che è possibile descrivere attraverso una lente economica. Così l'arte di governo diventa solo l'insieme delle « diverse forme di elaborazione e comunicazione delle informazioni » o ciò che « favorisce uno scambio di mercato su larga scala ».

Disconoscendo completamente il valore storico delle comunità nazionali, Lehdonvirta ha la possibilità di esprimere l'affermazione centrale del libro: le piattaforme digitali hanno successo dove gli stati hanno fallito nel creare un'infrastruttura istituzionale transnazionale per facilitare un commercio transfrontaliero efficiente.

Il riconoscimento degli imperi della nuvola (Cloud Empires), come stati a tutti gli effetti, porta quindi alla domanda più fondamentale: in cosa Stati nazionali e questi Imperi differiscono?

Nel libro si sostiene una sola fondamentale differenza, da cui tutte le altre discendono: la giurisdizione fisica dello Stato "terreno" si confronta con il potere delle piattaforme, che è sulle persone, gli utenti. Le piattaforme sono imperi senza territorio, senza proprietà, cioè imperi nella nuvola (« empires in the cloud », da cui il titolo del libro).

Questo limite è, per l'autore, anche l'unica vera forza che rimane agli stati nazionali, il monopolio della violenza sui corpi dei cittadini, che non sono entità di pura informazione. Il punto qui è che, in un certo senso, Lehdonvirta già dà per scontato il sostanziale affrancamento, non fosse che per il corpo fisico, della persona (cittadino/utente) dal proprio stato di appartenenza.

Fatta questa premessa, però il libro non dedica poi una grande attenzione alla funzione politica delle piattaforme, come se non fosse loro interesse organizzare la sfera pubblica digitale o determinare i limiti effettivi del loro operato nelle questioni relative agli aspetti più esplicitamente democratici (libertà di parola, manipolazione delle elezioni, sorveglianza e tecnocontrollo). Lehdonvirta è preoccupato, ma lo pone quasi come dato di fatto quasi ineliminabile, per la mancanza di istituzioni in grado di richiamare le piattaforme alle proprie responsabilità.

Il secondo contributo altamente originale riguarda il confronto che le forze democratiche potrebbero avere con le piattaforme. In questo si chiama in causa il panorama delle criptovalute, le leggi antitrust, gli ambienti lavorativi cooperativi. Sulla base di questo Lehdonvirta propone una democratizzazione delle piattforme sulla base di nuove istituzioni politiche per il processo decisionale collettivo che contrastino il potere dei « patrizi digitali ».

Dovrebbe nascere una nuova classe borghese digitale. Né i sindacati che si formano nei magazzini di Amazon, né le organizzazioni di microlavoratori potranno essere in grado di sfidare il potere delle piattaforme, ma i « membri benestanti di una classe media digitale emergente che possiedono notevoli risorse e connessioni ».

In pratica si tratta degli « sviluppatori [indipendenti] di app, commercianti online, specialisti freelance, streamer, influencer, modelle OnlyFans e vari altri commercianti e artigiani dell'era digitale » che sono ricchi e collegati in rete.

Questa classe media digitale esercita su Lehdonvirta un fascino particolare perché, a differenza dei proletari dell'economia delle piattaforme (gli etichettatori di dati, i moderatori, i censori e gli assistenti di secondo livello agli assistenti virtuali), questo gruppo è istruito, organizzato e possiede già il potere e lo status per intraprendere immediatamente un'azione politica efficace contro i « patrizi digitali ». L'idea è che i loro forum, gruppi di social media e discussioni online potrebbero diventare la base per lo sviluppo di istituzioni democratiche più formali.

Con un'adeguata dote di scetticismo ci si potrebbe chiedere se quelli che stanno molto meglio nel sistema attuale, quelli che hanno ottenuto benessere e potere proprio dalle piattaforme, lotterebbero effettivamente per i diritti e gli interessi dei servi della gleba creati dalle piattaforme.

A parte queste preoccupazioni, c'è un intrigante principio etico al centro del libro che si pone come un invito a cambiamenti radicali nell'attuale organizzazione della sfera digitale. La democrazia della piattaforma sembra implicare il principio di un diritto morale all'autogoverno per gli individui che partecipano a istituzioni che prendono decisioni fondamentali che influiscono sulla loro vita. il politologo Robert Dahl Come ha affermato , « se la democrazia è giustificata nel governo dello stato, allora è giustificata anche nel governo delle imprese economiche ». Mentre trascorriamo una quantità crescente del nostro tempo online, molti hanno iniziato a chiedersi perché hanno così poco controllo sulle loro piattaforme e servizi digitali. In risposta, Lehdonvirta chiede una carta digitale dei diritti fondamentali per limitare il potere dei proprietari di piattaforme e fornire a tutti noi i diritti democratici nel regno digitale.

Questo libro, scritto in modo lucido e coinvolgente, offre una lettura avvincente per coloro che sono interessati a capire come l'attuale generazione di colossi della piattaforma ha stabilito le proprie regole e cosa si può fare per ritenerli più responsabili.

L'analogia storica potrebbe essere interessante, ma presenta quantomeno dei chiaroscuro: le classi medie europee emerse nelle città medievali non produssero riforme democratiche. Conquistato il potere, lo usarono piuttosto per difendere i propri interessi economici in modo corporativo. Le rivoluzioni borghesi (industriale, americana, francese) probabilmente non avrebbero raggiunto risultati efficaci senza l'irrompere sulla scena dei movimenti operai e l'azione dei partiti borghesi troppo spesso si è attestata su mediazioni non raramente antipopolari.

Un principio etico fondamentale e necessario campeggia in tutto lo svolgimento delle storie nel libro ed è tale da esercitare evidentemente sui personaggi dei capitoli e quindi sul lettore quel fascino indiscusso di cambiamenti radicali nell'attuale organizzazione della sfera digitale.

La democrazia delle piattaforme, l'imperium del Cloud, implica il principio di un diritto morale all'autogoverno e all'autodeterminazione per gli individui che partecipano a istituzioni che prendono decisioni fondamentali che influiscono sulla loro vita.

Leggendo Lehdonvirta è difficile non ascoltare l'eco di una teoria politica radicale che prescrive la democrazia tanto nel governo degli stati "terreni", quanto in quelli "nelle nuvole", tanto nelle nazioni quanto nelle imprese economiche, come sostiene il politologo americano Robert Dahl in A Preface to Economic Democracy.

Lehdonvirta sostiene la necessità di una carta digitale dei diritti fondamentali per limitare il potere dei proprietari di piattaforme e fornire a tutti noi i diritti democratici nel regno digitale. Una carta dei diritti su cui, una volta tanto noi italiani arriviamo in anticipo, visto che esiste almeno dal 2015, senza aver dato molti frutti.

In definitiva il libro è coinvolgente e offre una lettura lucida della realtà del commercio digitale su Internet. Chi è interessato a capire i fondamentali snodi che hanno portato all'evoluzione dell'attuale generazione di colossi delle piattaforme troverà nel libro tutte le informazioni necessarie. Interessanti anche le proposte per ritenerli più responsabili delle loro azioni, ma questo è certamente un campo troppo aperto per trovare in questo, come in qualsiasi altro libro, un responso definitivo.

Validate

Capitalismo della sorveglianza. Dalla padella alla brace?

2022-10-25T08:08:57+02:00

L'espressione « Capitalismo della sorveglianza » è una formula di successo ma nasconde più problemi di quanti non ne spieghi.

Molto più del libro di Soshana Zuboff, l'espressione « Capitalismo della Sorveglianza » ha conosciuto un successo planetario. Catalizza in una formula facile e ben spendibile, l'intera gamma dei timori anti-tecnologici di una popolazione che, ancora oggi a più di 30 anni di distanza dalla sua diffusione pubblica, vive Internet con paura e sospetto. Rappresenta anche una fortunata inversione di una formula altrettanto popolare e condivisa: « Sorveglianza del capitalismo ».

In verità, la tesi del capitalismo della sorveglianza ha una base teorica debole. Propone una narrazione affascinante ma non giustificata da dati, fatti e conoscenze, e se mette in luce un aspetto deleterio dell'attuale fase storica, l'abuso dei profili online, contribuisce a nascondere problemi più gravi e preoccupanti.

Una breve sintesi della teoria

Soshana Zuboff ha (non) sintetizzato nelle 700 e passa pagine di The Age of Surveillance Capitalism la sua nuova teoria critica adatta al mondo attuale. Anticipata da una serie di articoli sul Frankfurter Allgemeine Zeitung, questa teoria si fonda su una ennesima riproposizione del classico confronto tra i fattori della produzione industriale. Una molto approfondita analisi delle componenti di questa teoria si trova nel lungo articolo di Evgenyi Morozov su The Baffler, intitolato evocativamente « I vestiti nuovi del capitalismo ». In sostanza, a parte lo sfortunato incidente di aver riproposto una dizione proveniente dalla precedente analisi marxista con lo stesso nome sul Monthly Review (molto più radicale), la Zuboff sostiene che il capitalismo abbia cambiato pelle e dismesse completamente le forme, le leggi e gli obiettivi classici del sistema capitalista, sia entrato in una nuova fase in cui né lavoro, né capitale siano più al centro della scena, ma lo sono i dati e il loro sfruttamento.

La critica classica al capitalismo si è sempre basata sul fatto che, per via di qualche mai troppo ben identificato fattore, i capitalisti sarebbero stati in grado di convincere i lavoratori a offrire un surplus del proprio lavoro sulla base del quale verrebbe a costituirsi questo tanto contestato capitale con cui le classi borghesi dominerebbero indisturbati il mondo. A qualche centinaio di anni di distanza dalla definizione di questa teoria è quantomeno difficile liquidarla superficialmente anche se, dichiaratamente, non prende in considerazione una tanto grande varietà di fattori. Queste mancanze hanno dato modo ad una infinità di scuole o pensatori, a sostegno o contro, di esercitarsi intellettualmente (con non troppe ricadute pratica, va detto). Le tante incarnazioni delle teorie critiche al capitalismo si sono esercitate nel includere o escludere fattori o agenti, ragioni o patimenti.

Quella della Zuboff è una nuova incarnazione di teoria critica del capitalismo in cui però non c'è più bisogno del lavoro perché il surplus può essere estratto direttamente dai consumatori. In questo strano modello di capitalismo, i lavoratori svaniscono e i consumatori fanno tutto da sé: generano il valore e anche quel surplus che è estratto dalle aziende adattate a questo compito. Il surplus è generato con la creazione di dati, tanti dati, troppi dati: un surplus appunto. Le aziende accusate di essere capitaliste della sorveglianza non sono mai valutate in relazione al prodotto che offrono (il motore di ricerca per Google, il social network per Facebook, ecc) o ai lavoratori che impiegano (programmatori, progettisti, creativi, ecc.), tutto quello che importa è l'espropriazione dei dati.

Il modello è un po' sbilenco e non viene mai messo alla prova di una critica, in particolare viene trascurata ogni possibile logica alternativa, anche quelle ormai ben note nel campo. Il capitalismo della sorveglianza è pura invenzione narrativa, affascinante ma poco realistica. Morozov ha gioco abbastanza facile ad azzoppare ognuna delle tesi su cui si fonda.

Una non-critica del capitalismo

Due sono i principali punti d'attacco alla teoria del capitalismo della sorveglianza. Il primo è la contestazione del modello universalistico proposto dalla Zuboff, laddove sostiene una totale mutazione del capitalismo, e persino delle sue leggi fondamentali: il nuovo capitalismo è data-capitalism, o non é.

Questa critica, come detto, è molto ben svolta da Morozov. In sostanza si contesta che concentrandosi sul dettaglio dell'economia dei dati e della sorveglianza si perde di vista, ma soprattutto si finisce per giustificare, il corpo intero del modello capitalista di cui la connotazione "di sorveglianza" è invece solo una narrazione.

La posizione della Zuboff stessa è veramente ambigua sul tema quando, a differenza delle critiche più radicali del Monthly Review, e soprattutto in linea con il suo precedente libro The Support Economy appare essere affascinata da un capitalismo del patrocinio (advocacy capitalism), ovvero quello delle aziende che, proprio come quelle del capitalismo di sorveglianza, estraggono i dati dei consumatori, ma li usano solo per migliorare i propri servizi, dare suggerimenti ai clienti o indirizzarli verso nuovi prodotti. Insomma quelle che non forniscono prodotti di previsione (come si faccia questa suddivisione non è chiara, però). Così come Google è sulla graticola in The Age of Surveillance Capitalism, Apple era sul podio in The Support Economy.

Zuboff non ha una storia professionale da anti-capitalista e sebbene le sue tesi assorbano consistenza teorica da approcci storicamente critici con il capitalismo tout-court (come quelle di Toni Negri), non superano mai una soglia di verace opposizione al capitalismo.

Si potrebbe quindi dire che la teoria è molto più critica della "sorveglianza" che non del "capitalismo". Ma anche questo appare poco giustificato perché al capitalismo di patrocinio (anche citato come capitalismo di difesa, in opposizione a quello di sorveglianza che quindi sarebbe un capitalismo di attacco), apprezzato dalla Zuboff e quasi proposto come alternativa salvifica, sono permesse le stesse identiche pratiche del capitalisti della sorveglianza, né la privacy dei consumatori verrebbe tanto meglio tutelata, ma in questo caso, poiché non sarebbe la previsione l'unità di prodotto, allora tutto andrebbe (magicamente?) bene. Ma c'è di più.

Una non-critica della sorveglianza

Il secondo punto d'attacco alla teoria del capitalismo di sorveglianza è di natura strettamente politico. La teoria vanta una completa mutazione del capitalismo, tanto che tutti ne sarebbero affetti, eppure sostiene la Zuboff che un'evoluzione possibile starebbe nell'esacerbare la falsa dicotomia tra imprese di capitalismo-sorvegliante (cattive) e imprese di capitalismo-patrocinante (buone), per riportare le prime, in forza di azioni legali o tramite moral suasion, alle seconde.

La dicotomia però permette di fare catalogazioni arbitrarie a seconda del punto di vista e soprattutto apre uno spazio di arbitraggio sui comportamenti delle imprese per stabilire cosa è sorveglianza e cosa è mero patrocinio. I suggerimenti di Amazon sono sorveglianza o patrocinio? Gli elettrocardiogrammi dell'iWatch per stimolare una vita più sana, cosa sono? Gli avvisi di Google Maps su quale strada è meno trafficata sanno di Grande Fratello o no? Quale di questa è una feature pericolosa e dunque condannabile? Chi decide?

Questo ruolo di censore, sottratto alla scelta autonoma del consumatore, sempre paternalisticamente da tutelare, ricade sull'autorità pubblica che dovrà quindi esercitare una sorveglianza sul capitalismo di sorveglianza per discriminare i comportamenti adeguati da quelli inadeguati. Ma i comportamenti di chi?

Il capitalismo di sorveglianza è un capitalismo di sorveglianza-sui-cittadini/consumatori, quindi la paternalistica mano dell'autorità pubblica pronta a sorvegliare i capitalisti della sorveglianza, che ormai non hanno più né lavoratori, né mezzi di produzione, ma solo il surplus generato dai cittadini, non potrà fare altro che sorvegliare… i cittadini stessi, ovvero quello che c'è in fondo alla catena del valore.

La logica conclusione dell'intera teoria del capitalismo della sorveglianza sta nella costituzione di una necessaria sorveglianza sul comportamento dei cittadini oltre quella dei già sorveglianti capitalisti: quindi una sorveglianza al quadrato.

In definitiva, per tutelarsi dal regime narrativo del capitalismo della sorveglianza raccontato dalla Zuboff, sarà necessario offrirsi al regime burocratico statale e per sottrarsi dai poteri, ampi ma limitati, di un impero delle nuvole (secondo la definizione Vili Lehdonvirta nel suo Cloud Empires) bisogna consegnarsi ancora più completamente al potere degli Stati terreni. Una riprova eclatante può ritrovarsi nell'azione dell'Unione Europea in vena di riconquistare la propria sovranità digitale, per mezzo della residency dei dati. A questo punto, nessuno può pensare sia una casualità il fatto che tutta la propaganda europea si basi proprio sulle teorie del capitalismo della sorveglianza.

Al cittadino/consumatore, con buona pace dell'affermazione dei principi di autodeterminazione informativa, non resta che passare dalla padella della sorveglianza delle piattaforme alla brace della sorveglianza dei poteri pubblici.

Con una differenza, sotto la padella nessuna Zuboff ha dimostrato che ci sia un fuoco della sorveglianza acceso, quello che c'è potrebbe essere solo quello del solito capitalismo. Che la brace dei poteri pubblici scotti, con le agenzie di intelligence, i captatori giudiziari, le indagini fiscali e via dicemdo, è invece una certezza.

Le biblioteche ombra e la battaglia per l'accesso alla conoscenza scientifica

2022-10-25T04:35:22+02:00

Titolo: Shadow Libraries. Access to Knowledge in Global Higher Education
Edito da: Joe Karaganis
Editore: The MIT Press
DOI: https://doi.org/10.7551/mitpress/11339.001.0001
ISBN (f. elettr.): 9780262345699
ISBN (f. paperback): 9780262535014
Data di pubblicazione: 2018

Quando nel 2012, Joe Karaganis pubblicò «Media Piracy in Emerging Economies» per il Social Science Research Council (oggi disponibile gratuitamente online in 4 lingue), iniziando un progetto di ricerca sulle alternative non ufficiali alle risorse digitali, registrò che i pirati si concentravano sui materiali più standardizzati e di largo consumo, come musica e film, e che stavano iniziando a raccogliere la produzione libraria narrativa o tecnica, ma che il campo della produzione accademica, come riviste, monografie o raccolte di articoli, fosse ben poco affetto da queste pratiche.

Joe Karaganis, che è vicepresidente di The American Assembly, un istituto di politiche pubbliche presso la Columbia University, sapeva bene che il mercato dell'editoria accademica si trovava già in una posizione notevolmente più esposta alle critiche rispetto all'editoria degli altri settori, perché lo sviluppo delle pratiche di pubblicazione raramente remunerava direttamente gli autori e inoltre gli editori si trovavano nell'invidiabile condizione di essere pagati fino a tre volte per il loro impegno (parte del quale era scaricato poi a costo zero sulla comunità accademica stessa, come la selezione e la revisione). Venivano remunerati una volta dagli autori che spesso direttamente o indirettamente pagavano la pubblicazione dei loro volumi e dei lavori di ricerca spesso con fondi pubblici, una seconda volta dalle biblioteche pubbliche e private, che pagavano la seconda volta lo stesso materiale spesso a costi maggiorati e anche qui con fondi pubblici o ottenuti con la raccolta delle donazioni private ad esempio nel mondo anglosassone e infine, la terza volta, dai clienti che acquistavano il materiale attraverso il normale circuito di distribuzione.

Nonostante questo, il ricorso a pratiche di distribuzione alternativa era, secondo Karaganis, disincentivato da alcuni fattori come la frammentazione del sistema produttivo dell'informazione accademica, le pratiche commerciali degli editori molto benevole verso il mondo accademico, ampie esenzioni al copyright e il sostanziale buon funzionamento delle organizzazioni di distribuzione intermedia, come le biblioteche universitarie.

Dopo meno di 10 anni la situazione è drasticamente cambiata e Karaganis lo ha registrato in questo nuovo volume nel suo programma di ricerca «Shadow Libraries: Access to Knowledge in Global Higher Education» (MIT Press, 2018).

Non solo sono fioriti organizzatissimi siti pirata per la distribuzione di materiale accademico ma sono diventati velocemente anche il primario strumento per le ricerche bibliografiche e per l'accesso diretto ai materiali, e non solo nei paesi a basso e medio reddito in cui si è di recente maggiormente sviluppata la popolazione studentesca, come l'India, dove è quadruplicata, il Brasile, dove è triplicata, e Messico e Sud Africa dove è più che raddoppiata. Le pratiche di uso delle librerie ombra in questi paesi costituiscono i casi di studio presentati nei vari capitoli del libro.

Difficilmente queste pratiche possono essere etichettate come «buone pratiche» in campo accademico, ma certamente sono di gran lunga più efficaci delle alternative ufficiali e legali e spesso rappresentano l'unica possibilità per alcuni paesi che non possono permettersi gli alti costi imposti dall'editoria accademica di affrontare il problema, sempre più rilevante, del divario per l'accesso alla conoscenza tra paesi poveri e ricchi.

In questi anni infatti il campo dell'editoria accademica ha risentito di alcuni fattori rilevanti: 1) il disinvestimento nelle istituzioni educative ha reso la loro opera molto meno efficace che in passato, anche per 2) la rapacità commerciale degli editori che hanno costantemente aumentato i prezzi per riviste e monografie, aiutati 3) dalla riduzione della concorrenza dovuta alla continua concentrazione e acquisizione.

La presenza di questi siti però rende evidente come, complessivamente, il settore dell'editoria accademica risulti grossolanamente inadeguato alle esigenze moderne di accesso alla conoscenza scientifica di livello superiore, anche nei paesi a maggior reddito, e che, sebbene questa risposta pirata risulti essere altrettanto grossolanamente inadeguata per la tutela dei diritti degli editori (mentre gli autori spesso non hanno diritti economici), serve di gran lunga meglio l'esigenza di accesso e condivisione all'informazione accademica.

Karaganis riassume il tema portante del problema in un lungo ed efficace capitolo introduttivo in cui esplicita i fattori che portano all'uso di queste vaste collezioni ombra in particolare nei paesi meno abbienti: un mercato disfunzionale in cui i materiali finiscono per non essere proprio disponibili poiché scompaiono dai cataloghi, non vengono ristampati o offerti in versione digitale, e quando sono presenti vengono messi in commercio con prezzi troppo ed immotivatamente cari; una popolazione studentesca in rapido aumento, affamata di conoscenza di qualità; e un facile accesso alla tecnologia necessaria a copia e di condivisione.

I due migliori capitoli del libro sono quelli in cui Balázs Bodó presenta l'ingegnosità con cui i bibliotecari ombra di LibGen e Sci-Hub hanno modellato i sistemi per essere virtualmente inattaccabili dal punto di vista tecnico e legale, sulla base del modello delle reti anti-censura e samizdat in Russia. L'adozione di avanzate tecniche di dissimulazione, distribuzione e forking, nonché lo sviluppo di strumenti di indicizzazione e hosting virtuale permettono ai siti di offrire risultati anche quando interi server dovessero essere staccati dalla rete senza preavviso. Il punto forse più rilevante dell'intero studio è l'affermazione che l'aggregazione di materiali accademici è in tal modo diventata una comune pratica comunitaria per i ricercatori di ogni livello, che «la grande maggioranza degli studenti… si sono trasformati in bibliotecari ombra per necessità, se non per scelta» (p. 206).

La battaglia è ancora in corso, come testimoniano i sei capitoli sulle esperienze in Argentina, Sud Africa, Polonia, India, Brasile e Uruguay. Già partire dalla fine degli anni '90, gli editori di media tradizionali (specialmente di musica e film) si sono impegnati in una battaglia globale contro la distribuzione commerciale o gratuita dei loro prodotti senza al contempo fare alcunché per migliorare la propria fruibilità della propria offerta e per rendere i prezzi più adeguati alla situazione tecnologica. Hanno ottenuto di essere prima surclassati e poi sostanzialmente fagocitati da un nuovo tipo di operatori del mercato dei media, le piattaforme online basate sul modello peer-to-peer come Youtube, Netflix, Amazon Prime, Hulu ecc, discendenti diretti, come mentalità e tecnologia, delle reti pirata peer-to-peer.

L'autore suggerisce che il riflesso degli editori accademici non sembra oggi essere differente. Le azioni antipirateria erano iniziate addirittura un decennio prima, alla fine degli anni '80, quando la tecnologia fotostatica aveva dato un impulso alla copia illegale su carta. Poi avevano subito una stasi dovuta soprattutto alla pessima pubblicità che se ne ricavava, per poi essere riprese nell'ultimo decennio contro le collezioni distribuite su Internet.

Gli editori, piuttosto che rendere più efficiente e fruibile il mercato legale delle risorse, promuovendo una distribuzione meno frammentata, macchinosa e soprattutto costosa, si sono concentrati nel colpire lo scambio illegale facendo ricorso soprattutto alle risorse economiche pubbliche, grazie al fatto che, attraverso pesanti azioni di lobbying, sono riuscite a criminalizzare penalmente quello che, a tutti gli effetti è solo la rottura di un contratto privato.

Ma l'attacco frontale e globale alla pirateria e ai suoi pochi portavoce visibili, come ad esempio Alexandra Elbakyan, che ha fondato e dirige la più famosa biblioteca ombra di Internet, Sci-Hub, si è trasformato in una debacle non solo nel campo delle public relation, ma anche giuridica.

Molti paesi, specie quelli a basso e medio reddito, hanno esteso significativamente le eccezioni del copyright a favore dell'uso in campo educativo, oppure hanno imposto agli editori obblighi di identificazione molto stringenti nelle pretese di tutela del materiale coperto da privative di copia.

In definitiva l'approccio truce degli editori non ha neppure superficialmente scalfito il problema però è riuscita persino a fare vittime umane, come nel caso tragico del suicidio nel 2013 del giovane ricercatore «prodigio» Aaron Swartz, creatore tra l'altro della Open Library su Internet Archive, su cui, aggravate dalle autorità USA perché diventasse un caso definitivo e esemplare nel campo del copyright, piombarono accuse gravissime e la minaccia di oltre 35 anni di detenzione per aver scaricato articoli di pubblico dominio precedenti al 1923 da JSTOR sulla rete universitaria del MIT.

Il libro di Karaganis suggerisce che il modello pirata potrà essere soppiantato da un'offerta legale, quando questa proverrà da operatori differenti da quelli dell'attuale editoria, e sarà modellata sulle tecnologie molto efficienti delle shadow library e preveda costi minimi, addirittura alla portata del singolo studente, esattamente come le reti peer-to-peer per il materiale audiovisivo hanno modellato la strutturazione tecnologica delle nuove piattaforme legali di distribuzione di film e musica.

Questo modello crea una sfida non solo all'editoria accademica, che troppo tardi, con grandi ambiguità e troppo lentamente si sta avviando su quella strada alternativa che potrebbe essere l'open access, ma anche a tutto l'ambiente circostante, come quello delle biblioteche universitarie e non, il cui ruolo di mero depositario di pubblicazioni verrebbe ridimensionato, imponendo l'esigenza di drastiche innovazioni. Il costo del licensing dei prodotti editoriali sale vertiginosamente mentre i budget di queste istituzioni decresce, orientandosi sempre più spesso nell'acquisto di licenze limitate e periodiche per prodotti che facilmente svaniscono dai cataloghi o quando non si paga più o se il panorama tecnologico muta.

Il libro di Karaganis riconosce alcuni difetti delle attuali biblioteche ombra, oltre quello ovvio della gestione del copyright. In particolar modo la carenza di assicurazione della qualità delle risorse, sia in termini tecnici (ad esempio, qualità e completezza delle scansioni), ma soprattutto l'assenza di ogni riferimento alla qualità accademica delle pubblicazioni distribuite che sono tutte trattate allo stesso modo, mettendo assieme ricerca peer-reviewed di alta qualità proveniente da fonti prestigiose e materiale molto discutibile.

Queste carenze saranno eliminabili dal punto di vista tecnico con un'opera di selezione e categorizzazione realizzata in crowdsourcing o attraverso tecniche avanzate di intelligenza artificiale e machine learning, ma rimane il problema della sostenibilità di lungo periodo del modello che non prevede di remunerare direttamente le figure non inutili del processo di lavorazione dell'informazione accademica.

Alcuni difetti invece sono riscontrabili nell'edizione del libro, primo tra tutti l'uso di fonti non persistenti nelle citazioni (DOI, handle, ecc) e il riferimento a siti che sono ormai già spariti dal Web e mancano di archiviazione su Internet Archive o Perma.cc. Questo è un peccato perché mutila il valore di una ricerca che per altri versi è veramente molto ben condotta.

Al di là delle vuote affermazioni di principio, mantenere alti gli ostacoli materiali alla diffusione della conoscenza superiore può essere forse un interesse delle elite nei paesi più ricchi, ma, come chiaramente mostrano le ricerche delle realtà locali citate nel libro, non lo è certamente per i paesi democratici a basso e medio reddito dove l'istruzione rappresenta la principale fonte di crescita e mobilità sociale individuale.

Recentemente alcune blasonate istituzioni educative occidentali hanno iniziato, e vantano, estesi programmi transnazionali di diffusione dei loro programmi educativi, a bassissimo costo o addiritura gratuiti, come contributo alla diffusione delle cultura superiore anche in zone del mondo meno avvantaggiate, senza probabilmente accorgersi che i libri adottati, se si volessero comprare legalmente, spesso costerebbero cifre esorbitanti e totalmente fuori dalla portata dei potenziali studenti di questi paesi. Difficile immaginare che questi stessi corsi a basso costo non siano diventato il migliore spot pubblicitario possibile per l'esistenza e l'evoluzione delle shadow library.

Il libro «Shadow Libraries: Access to Knowledge in Global Higher Education» è disponibile per il prestito in biblioteca Paolo Baffi, online gratuitamente come Open Access e, ovviamente, nelle principali shadow libraries.

Perché dovresti conoscere meglio i dati che non puoi conoscere

2022-10-14T02:59:44+02:00

La conoscenza dell'inconoscibile migliora i risultati delle ricerche, e talvolta salva la vita.

Titolo:  Dark Data: Why What You Don’t Know Matters
Autore: David J. Hand
Editore: Princeton University Press
URL: https://darkdata.website/
ISBN: 0691198853, 9780691198859
Data di pubblicazione: 2020

« Ci sono incognite note, cioè sappiamo che ci sono cose che non conosciamo. Ma ci sono anche incognite sconosciute, quelle che non sappiamo di non sapere.». In una famosa conferenza stampa del 2002, l'allora segretario della difesa Donald Rumsfeld fece questa affermazione.¹ Fu ridicolizzato a lungo sulla stampa statunitense, ma le critiche erano ingiuste: Rumsfeld non aveva detto nulla di errato e, anzi, la sua era un'affermazione di grande buon senso.

Non è solo il sapere che determina i risultati di una buona ricerca ma, con una certa eco della filosofia socratica, anche il sapere di non sapere e addirittura sapere di non sapere ciò che in effetti non si sa.

Se di ciò che sappiamo, i dati e le informazioni che abbiamo a disposizione, si può farne un uso adeguato per ottenere dei buoni risultati, è fuor di dubbio che bisogna anche utilizzare adeguatamente la conoscenza di ciò che non si sa. Trascurare l'ignoto può portare ad errori grossolani e costosi e il libro Dark Data: Why What You Don’t Know Matters è dedicato a questo « non sapere » così importante nella ricerca.

Il titolo deve tutto alla fisica: nello studio della rotazione delle galassie si è notato che le stelle più lontane non si muovevano più lentamente di quelle più vicine al centro e ciò contraddiceva ciò che i fisici si sarebbero aspettati dalla legge di gravità. L'unico modo per risolvere quest'enigma è stato supporre la presenza di una « materia oscura » avente massa tale da incidere sulla rotazione delle galassie. La materia oscura è invisibile agli strumenti ma raggiunge ben il 27% di tutta la massa dell'universo. L'impatto della materia oscura è tanto rilevante che la nostra stessa galassia, la Via Lattea, dovrebbe piuttosto essere chiamata Via Oscura dato che la materia oscura è presente in una misura oltre dieci volte superiore a quella ordinaria.

« I dati oscuri e la materia oscura si comportano in modo analogo: non li vediamo, non sono registrati, eppure possono avere un effetto importante sulle nostre conclusioni, decisioni e azioni. E […] se non siamo consapevoli della possibilità che ci sia qualcosa di sconosciuto in agguato, le conseguenze possono essere disastrose, persino fatali. »

L'autore di Dark Data, David J. Hand, è professore emerito di matematica e ricercatore senior all'Imperial College di Londra, ex presidente della Royal Statistical Society e Fellow della British Academy. Tra i suoi libri precedenti ricordiamo The Improbability Principle, Measurement: A Very Short Introduction, Statistics: A Very Short Introduction, The Wellbeing of Nations e Principles of Data Mining.

La mancata conoscenza dei dati sconosciuti è il tallone d'Achille anche della ricerca meglio condotta. I dati che non ci sono, o di cui non si è a conoscenza neppure che dovrebbero esserci, possono infatti falsare in modo tanto drastico i risultati da renderli del tutto inutili, o addirittura controproducenti.

Il libro prende in esame alcuni casi molto noti in cui aver trascurato dei dati, apparentemente insignificanti, ha portato a catastrofi.

Quello emblematico fu la distruzione della navetta Challenger che portò alla morte dei sette astronauti, tra cui due civili. Responsabile fu la decisione di lanciare il vettore fuori dalle condizioni di temperatura previste, che generò l'espansione di una guarnizione di meno di cinquantasei millesimi di pollice per un tempo non superiore a sei decimi di secondo. La decisione venne dopo numerosi tentativi e ritardi, quindi sotto una forte pressione dell'opinione pubblica, e fu presa da un comitato a cui fu fornito un grafico dei lanci che avevano avuto problemi a questa guarnizione per valutare se operando fuori dalle specifiche di temperatura avrebbe potuto guastarsi. Dal grafico non risultava una chiara correlazione tra temperatura e problemi, anzi i problemi alla guarnizione si erano verificati anche a temperatura molto più alte. Il lancio fu così autorizzato. Se nel grafico fossero stati riportati anche i dati relativi a tutti i lanci senza problemi, cioè la maggioranza, sarebbe stato evidente che la temperatura aveva un ruolo determinante nella riuscita dei lanci poiché quelli senza problemi si addensavano tutti, senza esclusione, oltre una certa temperatura. I dati che rappresentavano il buon funzionamento,però, furono esclusi dal grafico perché ritenuti ininfluenti per valutare i malfunzionamenti. Con il senno di poi, invece erano essenziali.

Il caso del Challanger espone con chiarezza solo tre dei ben 15 tipi di Dark Data che Hand cataloga, il tipo DD-3 (la scelta di alcuni casi), ma anche DD-2 (dati che non sappiamo essere mancanti) e il tipo DD-15 (estrapolazioni oltre i dati disponibili).

L'intero elenco preso in considerazione da Hand (che però non lo considera esaustivo) è:

DD 1: Dati che sappiamo essere mancanti
DD 2: Dati che non sappiamo essere mancanti
DD 3: Scelta di alcuni casi
DD 4: Autoselezione
DD 5: Mancanza di dati importanti
DD 6: Dati che avrebbero potuto esserlo
DD 7: Cambiamenti nel tempo
DD 8: Definizioni di dati
DD 9: Sintesi dei dati
DD 10: Errore di misura e incertezza
DD 11: Feedback e azzardi
DD 12: Asimmetria informativa
DD 13: Dati intenzionalmente oscurati
DD 14: Dati inventati e sintetici
DD 15: Estrapolazione al di là dei propri dati

Per ognuno di questi tipi Hand fornisce esempi e indica i migliori strumenti di scoperta e strategie per il trattamento.

Chiunque faccia analisi dei dati in modo professionale si è certamente trovato di fronte a tutti queste situazioni e le ha dovute trattare, di volta in volta, con tecniche o strategie ad hoc, spesso senza neppure pensarci troppo. Alcune soluzioni a questi problemi sono talmente comuni da essere nel DNA di molti data-scientist e talvolta sono gestite direttamente nei metodi tecnici adottati nelle analisi.

Il lavoro di Hand è interessante perché a questi automatismi spesso non è collegata una adeguata consapevolezza delle conseguenze. Talvolta l'adozione di strategie differenti per trattare differenti tipi di dark data, usate in contemporanea, invece di migliorare, rovina irrimediabilmente, la qualità dei dati, e le ricerche sono fatalmente compromesse in modi non chiaramente verificabili.

La comprensione dei dati oscuri cresce lentamente e spesso le sfide sono tutt'altro che banali. Hand trae esempi dalla ricerca medica, l'industria farmaceutica, il governo e le politiche sociali, il settore finanziario, l'economia, la produzione e molti altri settori. « Nessun settore è esente dai rischi dei dati oscuri. » dice Hand che fa anche notare che la parola dato è diventato sinonimo di evidenza e l'evidenza è il cuore del progresso economico e dell'approccio illuminista che ha permesso alle economie e alle società avanzate di crescere negli ultimi secoli.

Ma i dati, oggi paragonati ai petrolio (data is the new oil si dice), promettono grandi fortune a chi li controlla e sa usarli ma, proprio come il petrolio, hanno la necessità di essere raffinati, puliti e preprocessati, in modo da renderli efficaci. Conoscere adeguatamente il rapporto che i dati disponibili hanno con quelli oscuri è un aspetto fondamentale di questo processo di raffinamento.

L'espressione « data is oil » però ha i suoi limiti. « A differenza del valore del petrolio, che può essere riscosso da chiunque, il valore dei dati dipende da ciò che si vuole sapere. Inoltre, sempre a differenza del petrolio, i dati possono essere venduti o ceduti senza che l'utente vi rinunci. Infatti, i dati possono essere copiati e riprodotti un numero illimitato di volte. E, naturalmente, i dati possono essere oscuri: i dati che non si hanno potrebbero rendere quelli che si hanno di valore molto limitato. Inoltre, ci sono questioni come la privacy e la riservatezza che semplicemente non hanno analogie nel mondo del petrolio. »

La comprensione dei dati oscuri può portare a innovazioni nella capacità di analisi, ma anche impedire l'accesso alla conoscenza sottostante. Un esempio esposto da Hart, diventato un classico nel genere, è l'estrazione dell'inflazione da un indice dei prezzi (il Billion Prices Project) estratti con lo scraping dal web. L'inflazione così calcolata è risultata, sia per livelli che per dinamica, compatibile coi trend ufficiali in alcuni paesi del Sud America, mentre in Venezuela, senza alcun motivo apparente, ha mostrato delle differenze così tanto inspiegabili da portare uno degli autori, Alberto Cavallo della Sloan School of Management, ad affermare che « i risultati dell'Argentina, invece, confermano il sospetto che il governo stia manipolando le serie ufficiali dell'inflazione. È l'unico Paese in cui l'inflazione online si discosta significativamente dalle stime ufficiali nel corso del tempo. »

In definitiva Dark Data si spinge ben oltre la ragionevole distinzione tra incognite note e incognite sconosciute. I dati oscuri possono essere questo, ma anche dati che non potevano esistere, che esistevano ma sono spariti o cambiati, o addirittura inventati. « La prospettiva dei dati oscuri inverte il normale modo di guardare le cose, portando a semplificazioni e a una comprensione più profonda quando i dati osservati vengono inseriti in un contesto più ampio che include i dati oscuri. »

Attraverso un numero molto ampio di situazioni esposte nel libro, è possibile rafforzare la propria consapevolezza sui rischi nelle analisi, comprendere cosa bisogna tenere in conto e quali metodi usare per identificare i dati oscuri, come correggerli e come, attraverso la conoscenza di ciò che non è conoscibile, riportare alla luce intere aree delle ricerche che rischierebbero di essere oscurate da semplificazioni comode, adottate talvolta con superficialità dai ricercatori.

Note a piè di pagina:

¹ D. Rumsfeld, Department of Defense News Briefing, 12 Febbraio 2002.

Ridotto il Bonus Cultura. Ragazzi, condividetelo!

2022-09-25T04:41:00+02:00

Il governo cinicamente intorbida le acque del bonus culturale ai diciottenni. I diciottenni sapranno dare una lezione di cultura agli adulti?

Il Bonus Cultura per i diciottenni sarà modificato da nuovo governo. Non toccherà più a tutti i diciottenni indistintamente, ma solo a quelli più poveri e a quelli più bravi. In tempi di ristrettezze sembra una limitazione ragionevole. La scelta snatura la logica del bonus e ci dà modo di fare una considerazione di metodo sulle prospettive della nostra società.

A caval donato...

Poiché il bonus è considerato un regalo sembra inopportuno contestarlo, ma in verità non era un regalo, non era un premio, non era il riconoscimento di un sacrificio né un’elemosina. Era, o almeno dovrebbe essere una misura politica di trasferimento economico dalla fiscalità generale alla disponibilità di alcuni, i diciottenni, per un motivo politico.

Il motivo per cui si offriva a questi giovani questa modesta somma da spendere era chiaro dalle limitazioni: incentivare le spesa culturale (non era certamente un caso se fosse il ministero della cultura ad offrirla). Anche se le maglie si erano nel tempo rilassate, il segnale dello stato era chiaro: ragazzi, investite in cultura! E infatti con il bonus sono stati acquistati non solo libri, anche “musica, teatro, danza, cinema, musei e parchi archeologici”, fa sapere l’ex-ministro della cultura.

Il segnale più forte era che tutti, ognuno, avrebbe partecipato alla distribuzione, buoni e cattivi, poveri e ricchi, primi della classe e asini. A tutti sarebbe spettata, in egual misura, la possibilità di scegliere un po’ di cultura, secondo il proprio interesse e sensibilità,

Questa uniformità indiscriminata è forse un aspetto che può essere considerato indigesto parlando in termini generali, ma nel limitato ambito della cultura non dovrebbe far accendere gli allarmi rossi sull’incipiente avanzata del comunismo, ammesso che questo fosse il problema.

Noi sentiamo intimamente che sarebbe ruolo della Repubblica permettere a tutti accesso alla cultura e alla conoscenza, stimolare l’istruzione, pagare i bisogni culturali minimi e se possibile anche ogni altra richiesta per migliorare nella scienza, nelle arti e nella cultura in generale. Noi sentiamo che volendo migliorare se stessi, i cittadini dovrebbero potersi rivolgere allo stato per ottenere il migliore dei trattamenti possibili per farlo. La città ideale potrebbe essere quella in cui, nelle pause di una occupazione che realizzi personalmente e aiuti socialmente, si possa partecipare o godere di tutto il bene conoscitivo e culturale disponibile.

Neppure la Costituzione

Purtroppo non è così. Neppure nella Costituzione c’è scritto che la Repubblica debba trattare con particolare benevolenza l’istruzione e la cultura (memore probabilmente del periodo in cui istruzione e cultura si erano facilmente trasformati in indottrinamento e propaganda). La parola più associata a istruzione è libertà e le uniche due volte in cui si cita la cultura lo si fa per impegnarsi, alquanto genericamente, ad un suo sviluppo o per garantire autonomia alle istituzioni culturali. Questa non è una critica, ma è solo il riconoscimento che anche una costituzione avanzata come la nostra è comunque figlia di un tempo che non è certamente quello della conoscenza.

D’altro canto nella realtà materiale della Repubblica, si è fatto molto per sostenere, e andare ben oltre, questi principi espressi in una forma che oggi possiamo considerare un po’ guardinga. Non solo con il finanziamento a moltissime attività culturali, con la concessione di premi e assegni per artisti che il mercato ha premiato meno, e anche tutelando con fondi pubblici le violazioni dei contratti privati del diritto d’autore e... appunto anche con il bonus cultura.

Misure buone o cattive, funzionali o disfunzionali, la Repubblica le ha provate un po’ tutte, con alterne fortune. Ad esempio qualcuno sostiene che il finanziamento pubblico al cinema lo abbia drogato e sia addirittura la causa della decadenza del cinema italiano, che ha fatto scuola quando il finanziamento non c’era. Per esempio, il Partito Pirata, sostiene che la drastica tutela penale del copyright sia un concreto vulnus alla equa diffusione della conoscenza e comporti costi diretti e indiretti per la collettività mentre avvantaggi solo i più grandi editori la cui cattiva volontà alla condivisione culturale è evidente. Altri sostengono che la scuola pubblica metta in ombra la libertà di quella privata, e altri ancora che quella privata si troppo benvoluta dal potere tradizionale. Quale che sia la realtà, questa è però una buona dialettica per uno stato democratico.

Quindi non dovrebbe neppure scandalizzare il fatto che dal Bonus Cultura generalizzato si voglia passare a due misure specializzate, una a valere sul reddito (che sembra si dovrebbe chiamare Carta Cultura) e l’altra sul merito (il cui nome, non molto fantasiosamente, dovrebbe essere Carta del Merito), complessivamente dovrebbero coprire, con un valore doppio a quello del precedente Bonus Cultura (cioè fino a 1000€), tra l’8 e il 10% dei diciottenni (a spanne, due per classe). È chiaro che sia una misura per restringere notevolmente l’esborso con un risparmio tra l’80 e il 90% quindi, cercando di non perdere il consenso dovuto al taglio. D’altro canto se avessero voluto mantenere la stessa platea si sarebbe notata con chiarezza la riduzione da 500 € a 50 €, con la conseguente evidente figuraccia.

Ogni governo dà l’impronta che crede alla propria politica. Chi commenta però deve sottolineare il fatto che la logica della misura è cambiata. Non più quindi un trasferimento “per la cultura” ma una forma di premio, per alcuni individui, e di elemosina, per altri. Qualcosa che si trasforma in un doppio simbolo di discriminazione, un visibile indice puntato su qualcuno e il fatto che la cultura non sia un merito di tutti. Non è un gran segnale, ammettiamolo.

Conclusioni

Come il reddito universale di base avrebbe alle spalle una prospettiva e idealità molto diversa da ciò che è stato il reddito di cittadinanza, che è una mera misura assistenzialistica (se non uno strumento di scambio elettorale), così le nuove carte finiranno per essere solo contentini a basso costo per tappare una potenziale falla di comunicazione politica.

Newton volle chiarire che ciascuno, anche il più grande, deve tutto a quelli che gli sono accanto, a chi è venuto prima di lui, e per quanti meriti si potessero attribuire ai suoi successi “siamo solo nani sulle spalle dei giganti°. Il poeta John Donne scrive quel “Nessun uomo è un’isola” che Hemingway adotta nell’epigrafe del suo libro più famoso. L’unico utilizzo saggio di questa “vincita” sarebbe intavolare con tutta la propria classe una discussione sul loro uso collettivo per acquistare, ad esempio, beni facilmente liberabili e condivisibili per tutti. Diventerebbe una occasione di consapevolezza culturale, un vero bonus culturale per tutti, e mostrerebbe l’indisponibilità a propagare questa logica mortifera di segregazione individualista che pende come uno spettro dietro la modifica di questa misura.

I primi della classe, ovvero gli studenti più maturi, e i meno abbienti dovrebbero avere tutta la sensibilità per dare questa lezione di condivisione ai propri compagni e anche ai nostri un po’ cinici governanti.

I dati aperti e la società della conoscenza

2022-05-13T06:06:00+02:00

Recensione (pubblicato su Biblionews n. 27 – maggio 2022)

Titolo: Open data and the knowledge society
Autori: Bridgette Wessels, Rachel L. Finn, Thordis Sveinsdottir e Kush Wadhwa
Pubblicazione: Amsterdam University Press, 2017

In Open data and the knowledge society si parla di ecosistemi di dati aperti per la trasformazione dell’attuale “società dell’informazione” in una compiuta “società della conoscenza”. Gli autori prendono in considerazione cinque casi di studio che fanno riflettere su differenti strategie per trattare i dati. Il libro non parla delle fasi di scoperta o pubblicazione di conoscenza, ma di quelle di produzione e consumo, che in questo periodo storico sono processi importanti perché “la crescita della conoscenza teorica e codificata, in tutte le sue varietà, è centrale per la società post-industriale”; viviamo infatti in un’epoca in cui i fatti giungono a noi attraverso mediazioni e registrazioni e non attraverso l’esperienza diretta e personale.

Open data and the knowledge society si chiede come preparare il mondo moderno al prossimo step di vita tecnologica: cioè come passare da una “società dell’informazione” a una “società della conoscenza”, quella in cui i dati – antichi e moderni, tecnici, culturali, digitali e scientifici – siano disponibili allo stesso modo in tutti i settori e per tutti gli utilizzatori.

Questa “società della conoscenza”, in cui la creazione di nuova conoscenza (definita come collezione cumulativa dei dati prodotti o scoperti) è centrale per il mantenimento della società, sembra sempre imporre un “passaggio verso il relativismo”, ovvero l’accettazione, all’interno di specifici paradigmi, di punti di vista autonomi o alternativi tali da minare la consolidata aderenza scientifica all’oggettività.

In realtà ci siamo già avviati verso questo relativismo e ciò rende tanto più importante il modo in cui la conoscenza sarà condivisa perché, sostengono gli autori, “in senso lato, una società della conoscenza è quella che genera, elabora, condivide e rende la conoscenza utilizzabile per migliorare la condizione umana”.

Quello che ci preoccupa in questo periodo è l’abuso dei dati e delle registrazioni sulla nostra vita, che dovrebbero essere privati, ma sempre più spesso non sono conservati in modo adeguatamente riservato. La chiave per una società produttiva è trovare un modo per permettere che queste registrazioni siano rese note in modo corretto, quando lo devono, siano comprensibili senza alterazioni, siano trasparenti, e si integrino correttamente in reti di dati su di noi e sugli altri in modo conforme.

L’attuale regime dell’informazione, in cui le “fake news” imperversano ci mette in guardia dal metterci in una posizione in cui non esista, by design, una gerarchia di produttori di conoscenza. Ma se ci viene “permesso” (ad esempio grazie all’ampia disponibilità di informazione su Internet) e ci viene scaricato addosso il compito di indagare la fonte di ogni affermazione, allora ci troveremmo nell’incomoda posizione di avere l’obbligo di farlo, così che a ogni individuo sia richiesto di diventare l’editore delle notizie che riceve. Un lavoro a tempo pieno!

Open data and the knowledge society è il prodotto di una ricerca chiamata RECODE (policy RECommendations for Open access to research Data in Europe), in cui sono stati seguiti cinque casi di studio – basati su: ricerca clinica e salute, archeologia, scienze ambientali e fisica delle particelle, bioingegneria – per vedere come dati tanto differenti tra loro avrebbero potuto essere trattati.

Sui dieci capitoli del libro, quattro affrontano i suddetti casi di studio in un’ottica più ampia, in modo da trattare anche preoccupazioni etiche. In definitiva, il libro non si occupa direttamente di questioni tecniche sui dati, ma affronta la visione generale della gestione dei dati. I successivi capitoli forniscono ampie introduzioni al tema con un livello di dettaglio adeguato a chi non ha familiarità con questi argomenti.

Sono definite tre categorie primarie di dati: dati della ricerca, che includono dati accademici e GLAM (gallerie, biblioteche, archivi e musei); dati governativi, che includono molte informazioni statistiche, ambientali e di censimento; big data raccolti da imprese private. All’interno di questi confini più ampi ci sono infinite sfumature possibili, ma le distinzioni generali sono utili per tenere traccia dei potenziali fattori legati alla motivazione della raccolta dei dati (ad esempio considerando se sono raccolti da una ONG, dallo Stato o da un’organizzazione a scopo di lucro).

I dati e le relative basi di conoscenza sono descritti come ambienti, ecosistemi o economie e non come ammassi statici di informazioni. Questi ecosistemi sono considerati come mondi vitali e gli esseri umani vivono anche all’interno di questi mondi, e la loro vita fisica è ostacolata o ritardata da quella nei mondi di dati, talvolta riescono a rimanere indifferenti perché vi si autoescludono (cioè esercitano, per quel particolare mondo, un’opzione di uscita, opt-out).

Una persona quindi vivrebbe sia nel mondo fisico, sia in tanti di questi mondi creati ciascuno da un gestore di dati aggregati, dove è presente come profilo (altrove viene evocato il concetto di gemello digitale).

Si potrebbe dire che le persone abbiano sempre vissuto in mondi di dati poiché abbiano sempre comunicato, ma il cambiamento attuale riguarda la quantità di informazioni raccolte da altri per determinare i movimenti odierni o le scelte di chi vive nel mondo reale.

Attualmente, l’esposizione a informazioni che provengono dalla mediazione informatica supera di gran lunga le proprie esperienze sensoriali. Quando percepiamo qualcosa, ormai è spesso frutto di mediazioni (di mediazioni di mediazioni ecc.) e la sorgente iniziale di quella percezione è spesso a molti livelli di distanza. Questo che stimola il movimento Open Data: solo se il percorso che parte dalle sorgenti fosse chiaro potremmo prendere decisioni più informate, giungendo a società migliori.

Anche se Socrate era scettico sullo scrivere i pensieri, e la stampa da Gutenberg ai giorni nostri ha sempre avuto i suoi avversari, il tempo va inesorabilmente avanti. È inutile immaginare che il nostro rapporto con la conoscenza possa essere statico, quindi il problema rimane come navigare in un mondo così saturo di dati.

Non ci sono soluzioni ideali, ma abbiamo un compito: “aiutare i ricercatori e il pubblico a trovare la loro strada attraverso la massa di informazioni scientifiche e i dati di ricerca per identificare il materiale che meglio si adatta al loro scopo”. Open data and the knowledge society individua diversi problemi tra cui quelli di “interoperabilità” dovute a “una eterogeneità significativa” a livello tecnologico e legale, così come questioni finanziarie. Alla fine “condivisione non significa accesso libero e illimitato a tutti i costi”. Per esempio restano sempre aperti i problemi di estensione del consenso, cioè la possibilità o meno di usare i dati per lunghi periodi o in nuovi contesti, sia in termini di riutilizzabilità pratica, quando cambiano le tecnologie, le protezioni e i metodi di conservazione dei dati.

Il libro espone anche molti esempi in cui risulta difficile mantenere l’accesso libero (o privato) a grandi quantità di informazioni, e ricorda al lettore che le informazioni sono difficili da gestire e talvolta impossibili da integrare. Rispetto all’idea comune che l’informazione sia “il nuovo petrolio” (in riferimento a Kroes, 2013) per il settore commerciale, gli autori affermano ottimisticamente che è piuttosto “simile a […] una fonte di energia rinnovabile che continuerà a fornire benefici a cascata”. Non manca il richiamo alla responsabilità verso i grandi raccoglitori di dati aziendali per la costituzione di una società della conoscenza basata realmente sull'”uso trasparente e affidabile dei dati” nelle imprese economiche.

La conclusione principale del libro rimanda a un’indagine più lunga e articolata, perché “l’idea di una società della conoscenza è ancora poco teorizzata e poco studiata”. Ci chiediamo sempre troppo poco “come la conoscenza è intesa nella società contemporanea, come può essere condivisa e quali valori dovrebbero essere alla base di una società della conoscenza”. Open data and the knowledge society è un buon modo di mettere sul tavolo queste domande, e mostra come la versione moderna, e forse più banale, della conoscenza in cui siamo radicati – la conoscenza non come esperienza vissuta ma come tecnologia condivisa, cioè conoscenza codificata o dati – modellerà il nostro futuro nel bene e nel male. È dovere di tutti prendere parte alla definizione del mondo che lasceremo in eredità. L’Open Data non è qualcosa che può essere semplicemente preferito; deve essere organizzato, motivato, integrato e gestito in una varietà di modi se si vuole che accada. Il progetto di ricerca dell’Unione Europea, nell’ambito del 7^o programma quadro, da cui ha tratto origine questo lavoro non è stato ulteriormente finanziato.

Bridgette Wessels Professoressa presso l’Università di Newcastle
Rachel Finn Senior Research Analyst presso il Trilateral Research & Consulting
Thordis Sveinsdottir Senior Research Data Specialist presso il Digital Curation Centre
Kush Wadhwa Senior Partner presso il Trilateral Research & Consulting

Archivi incerti e altre criticità per i big data

2022-04-11T06:23:00+02:00

Recensione (pubblicato in Biblionews n. n. 26 – aprile 2022)

Titolo: Uncertain archives. Critical keywords for big data
Curatori: Nanna Bonde Thylstrup, Daniela Agostinho, Annie Ring, Catherine D’Ignazio, Kristin Veel
Editore: ‎ The MIT Press
Pubblicazione: ‎ febbraio, 2021

La visione di Uncertain archives. Critical keywords for big data è ambiziosa. Il volume riunisce una serie di relazioni sulla conoscenza collettiva e mette in discussione concetti e terminologia del mondo dei “big data”. L´introduzione e i 61 contributi sono più di un semplice glossario sull’argomento. I curatori si propongono di offrire “dialoghi interdisciplinari tra studiosi, attivisti e artisti di una moltitudine di discipline”.

L’introduzione motiva il volume e descrive tutti i temi generali relativi a “incertezza” e “archivi” che si dipanano nei differenti contributi. I curatori sono particolarmente interessati ai modi in cui i big data promettono certezza mentre poi generano incertezza.

La realtà è diventata più prevedibile grazie alla raccolta e allo sfruttamento di nuovi modelli di dati. I sostenitori dei big data affermano di essere in grado di anticipare e controllare nelle loro previsioni ogni tipo di rischio in campo economico, ecologico, medico, legale, ecc. Tuttavia le tecnologie basate sui dati prosperano principalmente quando sfruttano opportunità insolite e altamente redditizie nelle situazioni di incertezza, ad esempio nel trading data-driven ad alta frequenza.

Nel volume si sostiene che l’incertezza è una “forma pervasiva di governance del liberismo” e i big data possono essere intesi come strumenti di produzione e distribuzione dell’incertezza all’interno di questo modello.

I big data non solo scoprono e rivelano, ma anche nascondono e aggirano. Organizzano la conoscenza e l’informazione per includere oggetti specifici in modo selettivo, parziale e strategico, negando sempre il loro valore materiale profondo.

Il volume ci invita a dare un senso a questi fenomeni come parte di storie archivistiche più ampie che mostrano quali ingiustizie e preoccupazioni si riflettono nelle pratiche contemporanee dei dati.

La digitalizzazione e altri sviluppi tecnologici incidono anche sul deterioramento dei sistemi di archiviazione. In quest’era di big data, ci è stato detto che il concetto di “archivio è cambiato: si va dal regime dell’informazione del passato al regime della previsione del futuro”. Questo comporta anche importanti cambiamenti nell’ambito e nella natura degli archivi.

I saggi del libro coprono un’ampia gamma di approcci tratti da una varietà di discipline, tra cui filosofia, teoria culturale, informatica, statistica, sociologia, geografia politica, design e studi sulla conoscenza.

Alcuni capitoli introducono concetti e approcci innovativi come il contributo di Sumita S. Chakravarty Migrationmapping, che offre una genealogia critica delle pratiche di mappatura nel caso della migrazione umana e propone di considerare come la creazione di queste fondamentali forme di rappresentazione influenza la nostra percezione del fenomeno.

Si toccano altri temi importanti, come Abuse di Sarah T. Roberts e Expertise di Caroline Bassett, o come l’impegnativo contributo filosofico di Luciana Parisi Instrumentality sulla strumentalità, oppure infine il capitolo di Louise Amoore su Ethics che affronta il tema usando gli argomenti della sua ultima monografia sull’etica dei sistemi Cloud.

La copertura interdisciplinare del libro è impressionante, ma proprio per questo risente di un difetto classico di questo tipo di opere: una dispersione tematica che non sempre lascia intendere con chiarezza il nucleo dell’argomentazione. Sebbene il libro nel suo insieme riguardi i dati, la maggior parte dei capitoli pone maggiore enfasi su tecnologie e sui software basati sui dati.

Nel contributo di Erik Ulman ‘Conversational Agents’, per esempio, si riconosce che “il loro [degli agenti conversazionali come Amazon Alexa, Apple Siri, Microsoft Cortana, ecc.] apprendimento dai big data non è affatto una rivoluzione, ma piuttosto solo un significativo progresso incrementale”. Alla fine rimane indefinito il problema se includere negli “archivi big data” tutto ciò che riguarda la società o una parte limitata rispettando forme più stringenti di privacy.

In definitiva Uncertain archives è una sfida, non semplice, alla definizione di un progetto collettivo che si limiti non solo a definire o mappare un campo, ma vuole costituire un'”alleanza impegnata” per portare una forma di pensiero critico, che appare necessario, nel campo troppo spesso astratto e alienante dei big data.

Daniela Agostinho
Postdoctoral Fellow presso l’Università di Copenaghen
Catherine D’Ignazio
Professoressa presso il MIT
Annie Ring
Lecturer presso l’University College London
Nanna Bonde Thylstrup
Professoressa presso la Copenhagen Business School
Kristin Veel
Professoressa presso l’Università di Copenaghen

Gli algoritmi non bastano a fare l’intelligenza artificiale

2022-03-07T05:56:00+01:00

Recensione (pubblicato in Biblionews n. 25 - marzo 2022)

Titolo: Algorithms Are Not Enough
Autori: Herbert L. Roitblat
Pubblicazione:The MIT Press, 2020

Nel suo libro Algorithms Are Not Enough, pubblicato da MIT Press, il data-scientist Herbert Roitblat offre uno sguardo approfondito ai diversi ambiti applicativi dell’intelligenza artificiale (IA) e tratta il motivo per cui nessuno di questi riesca a realizzare il sogno di creare un’intelligenza generale.L’intelligenza artificiale è basata su algoritmi che eseguono compiti specifici: non riesce a generalizzare le proprie capacità oltre il ristretto dominio di applicazione. Ciascuna delle attuali tecniche di intelligenza artificiale riesce a replicare solo alcuni aspetti di ciò che è noto dell’intelligenza umana, ma non tutto. Gli esseri umani invece possono scoprire problemi irrisolti e pensare a nuove soluzioni.Secondo Roitblat, il difetto comune a tutti gli algoritmi di intelligenza artificiale è la necessità di rappresentazioni predefinite. Una volta scoperto un problema, e pur essendo in grado di rappresentarlo in modo computabile, creiamo algoritmi di intelligenza artificiale per risolverlo in modi anche più efficienti degli stessi esseri umani. Tuttavia, le questioni sconosciute e non rappresentabili continuano a sfuggirci.

Nel corso della storia dell’intelligenza artificiale, gli scienziati hanno costantemente inventato nuovi modi per sfruttare i progressi dei computer nella risoluzione, sempre più ingegnosa, dei problemi.

L’IA simbolica richiede agli sviluppatori umani di specificare meticolosamente le regole, i fatti e le strutture che definiscono il comportamento di un programma per computer. Il problema è che la maggior parte dei compiti svolti da uomini e animali non possono essere rappresentati con regole chiare. Scrive Roitblat: “I compiti intellettuali, come il gioco degli scacchi, l’analisi della struttura chimica e il calcolo, sono relativamente facili da eseguire con un computer. Molto più difficili sono i tipi di attività che potrebbero svolgere anche un umano di un anno o un topo”[1].

Questo è chiamato il “paradosso Moravec”, dal nome dello scienziato Hans Moravec, il quale sosteneva che i computer, a differenza degli umani, possono eseguire compiti di ragionamento di alto livello con pochissimo sforzo, ma faticano su abilità semplici che umani e animali apprendono naturalmente. “Il cervello umano ha sviluppato nel corso di milioni di anni meccanismi che ci hanno permesso di svolgere funzioni sensomotorie di base. Prendiamo le palle a volo, riconosciamo i volti, giudichiamo la distanza, tutto apparentemente senza sforzo”, scrive Roitblat. “D’altra parte, le attività intellettuali sono uno sviluppo molto recente. Possiamo eseguire questi compiti con molto sforzo e spesso molto allenamento, ma dovremmo essere sospettosi se pensiamo che queste capacità siano ciò che rende possibile l’intelligenza, piuttosto è l’intelligenza a rendere possibili queste capacità.”

A differenza dell’IA simbolica, il Machine Learning (ML) offre un approccio diverso all’intelligenza artificiale. “I sistemi ML non solo possono fare ciò per cui erano specificamente programmati, ma possono estendere le loro capacità a eventi senza precedenti, almeno entro un certo intervallo”, scrive Roitblat.

La forma più popolare di ML è l’apprendimento supervisionato, in cui un modello viene addestrato su un insieme di dati di input (ad esempio, umidità e temperatura) e risultati previsti (ad esempio, probabilità di pioggia).

Il modello di apprendimento automatico utilizza queste informazioni per sintonizzare una serie di parametri che mappano gli input agli output. Quando viene presentato un input non visto in precedenza, un modello di apprendimento automatico ben addestrato può prevedere il risultato con notevole precisione. Non c’è bisogno di regole if-then esplicite. Ma l’apprendimento automatico supervisionato si basa ancora su rappresentazioni fornite dall’intelligenza umana, anche se più libere rispetto all’IA simbolica. Quindi, mentre l’apprendimento automatico supervisionato non è strettamente legato a regole come l’IA simbolica, c’è sempre bisogno di rappresentazioni rigorose create dall’intelligenza umana. Spetta ancora all’uomo definire il problema specifico, realizzare set di dati di allenamento ed etichettare i risultati prima di poter creare un modello di apprendimento automatico. È solo quando il problema è stato rappresentato rigorosamente che il modello può iniziare ad affinare i suoi parametri.

Un ramo dell’apprendimento automatico che è cresciuto in popolarità negli ultimi dieci anni è il deep learning, che viene spesso paragonato al cervello umano. Al centro del deep learning c’è una rete neurale profonda, che impila strati su strati di unità computazionali semplici per creare modelli di apprendimento automatico che eseguono compiti molto complessi come quelli di classificazione.

Uno sviluppatore dei sistemi di apprendimento automatico deve prima definire il problema che vuole risolvere, curare un grande set di dati di allenamento, e capire l’architettura di deep learning che deve risolvere quel problema. Durante l’addestramento, il modello di apprendimento profondo sintonizzerà milioni di parametri per collegare gli input agli output. Ma è necessario che siano gli sviluppatori a decidere il numero e il tipo di strati, il tasso di apprendimento, la funzione di ottimizzazione, la funzione di perdita, e altri aspetti che la rete neurale non può imparare da sola.

Scrive Roitblat: “Non è vero che le reti di deep learning siano capaci di apprendere le proprie rappresentazioni come viene spesso detto. La rappresentazione degli input e il processo di soluzione dei problemi è predeterminato per una rete di deep learning come per qualsiasi altro sistema di machine learning.”

L’apprendimento non supervisionato, ad esempio, non richiede esempi etichettati, ma esige sempre un obiettivo ben definito come il rilevamento delle anomalie nella sicurezza informatica o la segmentazione dei clienti nel marketing.

Il reinforcement learning (apprendimento per rinforzo), un altro ramo popolare dell’apprendimento automatico, è molto simile ad alcuni aspetti dell’intelligenza umana e animale. Attraverso tentativi ed errori, l’agente di reinforcement learning trova sequenze di azioni che producono maggiori ricompense. Il reinforcement learning può risolvere problemi complessi come giochi da tavolo, videogiochi e manipolazioni robotiche dove l’ambiente in cui il sistema è inserito può fornire un feedback, in forma di premio o punizione, alla scelta compiuta dall’agente. Ma gli ambienti di reinforcement learning sono tipicamente molto complessi da costruire, e il numero di azioni possibili che un agente può eseguire è molto grande. Pertanto, gli agenti di reinforcement learning necessitano di sostanziale supporto dall’intelligenza umana per determinare le ricompense adeguate, semplificare il problema e scegliere la giusta architettura.

La ricerca sull’intelligenza artificiale sta andando nella giusta direzione? Per Roitblat è l’IA ancora molto carente a causa del fatto che “gli attuali approcci all’intelligenza artificiale funzionano solo perché i loro progettisti hanno capito come strutturare e semplificare i problemi in modo che i computer e i processi esistenti possano affrontarli. Per avere un’intelligenza veramente generale, i computer avranno bisogno della capacità di definire e strutturare i propri problemi”. Abbiamo ancora molto da imparare da noi stessi e dal modo in cui applichiamo la nostra intelligenza al mondo. “L’intelligenza artificiale è ancora un lavoro in corso. I difetti dell’intelligenza artificiale tendono ad essere i difetti del suo creatore piuttosto che le proprietà inerenti al processo decisionale del computer.”

[1] Le traduzioni sono nostre.

Herbert L. Roitblat
Principal Data Scientist presso Mimecast