AI e editoria, imparzialità e conflitto

A settembre 2024 un annuncio è passato un po’ sotto traccia, ma apre un tema su cui è necessaria una riflessione: OpenAI ha chiuso un accordo con il gruppo GEDI, che quindi include La Repubblica e La Stampa. Perché è così importante questa notizia? Per rispondere è necessario comprendere come funziona ChatGPT, prodiga creatura di OpenAI.

È un Large Language Model (LLM, cerco di evitare gli acronimi ma questo per i professionisti ormai deve essere di famiglia) e funziona analizzando enormi quantità di testo per “imparare” modelli e relazioni tra parole, frasi e concetti. Non comprende quindi davvero il linguaggio come un essere umano, ma è addestrato a prevedere la parola o la frase successiva in una conversazione basandosi su ciò che ha già visto. È un sistema di previsione probabilistica.

Immaginate di leggere migliaia di libri e documenti: iniziate a notare schemi su come le frasi sono costruite e quali parole tendono a seguire altre. Allo stesso modo, un LLM usa questi schemi per generare risposte che “suonano” corrette o pertinenti, anche se non ha una vera comprensione del significato. Ed è esattamente qui che si cela il punto chiave: queste relazioni tra i termini contengono ben di più delle semplici parole, contengono la forma mentale, il pensiero di chi le ha scritte.

Supponiamo di avere dei testi che parlano di Putin. Se, in questi, viene associato più frequentemente il termine leader o carisma piuttosto che aggressore o guerra la mia macchina AI imparerà che i termini più corretti da correlare sono i primi. Nel testo, in modo profondo, è quindi connesso un punto di vista. Ed eccoci al tema nodale: l’accordo con GEDI consentirà a OpenAI di apprendere da tutti i loro articoli di La Repubblica e La Stampa ma di fatto condizionandone la visione, soprattutto sui temi prettamente italiani.

Da un certo punto di vista, quello della propagazione delle idee e dell’influenza, questa è una mossa molto efficace e che praticamente spiazza tutti. L’intelligenza artificiale si avvia ad avere sempre più una funzione di oracolo e il fatto che non possa essere imparziale dalle sue fondamenta apre una tematica enorme. OpenAI e i suoi fratelli lo sanno benissimo e stanno costruendo delle sovrastrutture per evitare le questioni pericolose. Ma questi purtroppo sono solo artifici. Francamente non so se questo problema di fondo sia completamente superabile, se ci pensiamo bene ad esempio tra occidente ed oriente non siamo nemmeno d’accordo su cosa sia un animale domestico e uno da cucinare (a Springfield poi sembra mangino gatti e cani).

Certamente è un rapporto complesso quello tra intelligenza artificiale ed editoria, da quando l’AI generativa è diventata di pubblico dominio, ovvero da quando OpenAI ha aperto le porte del suo ChatGPT a tutti, nel 2023, è stato chiaro fin da subito che il settore che avrebbe dovuto fare i conti nell’immediato con questa rivoluzione fosse proprio quello dell’editoria. Su tre fronti principali.

La rubrica completa del nostro fondatore e CEO, Andrea Barchiesi, questo mese su Prima Comunicazione.