ChatGPT e produzione narrativa: alcune considerazioni

La creatura ideata e commercializzata da OpenAI, società di ricerca operante nell'ambito dell'intelligenza artificiale che oggi (aprile 2023) ha un valore di mercato superiore ai 30 miliardi di dollari (update di novembre 2023: 90 miliardi), non è che un complesso modello matematico che cerca di rappresentare al meglio uno specifico fenomeno naturale: la generazione di testi. Spesso, non sempre per il momento - siamo solo all'inizio di un lungo viaggio di scoperta che non ha un meta finale ben definita - il testo prodotto da ChatGPT suona bene, ha senso, è plausibile.

Pensare che sono i miliardi di impulsi elettrici di un processore a partorire in un battito di ciglia complesse stringhe di testo e non un cervello umano, lascia sinceramente a bocca aperta. Come detto, siamo solo all'inizio. Attualmente, non possiamo che immaginare timidamente l'impatto concreto che potrebbe avere l'utilizzo smodato di questo tipo di tecnologia nel settore della produzione narrativa. Facciamo un brevissimo passo indietro. Nell'era pre-ChatGPT, quando acquistavamo un romanzo o una raccolta di racconti, i rischi a cui potevamo andare incontro erano essenzialmente due:

1) Imbattersi in un libro mediocre nei contenuti;

2) Avere tra le mani un volume scritto da un ghostwriter per conto di chi firma ufficialmente il libro.

In un futuro molto vicino, rischiamo di essere travolti da qualcosa che, personalmente, trovo ben più terribile: leggere una falsa storia. Falsa nel senso che ciò che avremo davanti potrebbe non essere il frutto dello sforzo creativo e dell'immaginazione di un essere umano. Beffa delle beffe, potremmo non accorgercene.

Pochi mesi dopo il rilascio dell'ultima, potente, versione di ChatGPT (novembre 2022) il fenomeno ci era già letteralmente esploso in mano. A febbraio 2023:

A) Amazon iniziava a ribollire di libri scritti da ChatGPT (per approfondire qui: https://buff.ly/41koVSR);

B) Cominciavano a circolare libri e manuali che spiegano come scrivere un romanzo utilizzando ChatGPT (per approfondire qui: https://buff.ly/3SEvj3z );

C) Spuntavano dal nulla pubblicità relative a corsi di formazione che promettevano di insegnare ad utilizzare l'intelligenza artificiale come supporto al processo di scrittura di un romanzo o di un racconto.

Insomma, la fiera dei venditori di sogni (narrativi) che rischia seriamente di innescare una mareggiata portatrice di pattume narrativo firmato da gente che non ha nessun vero talento.

In buona sostanza pare davvero che sul pianeta Terra sia recentemente sbarcato una sorta di Thanos capace di minacciare il futuro degli scrittori (e dei lettori). Ma davvero ChatGPT è capace di ragionare, immaginare e creare storie come ci lasciano intendere spesso i media e come ci suggerisce la stessa combinazione dei termini "intelligenza" + "artificiale"? La risposta è no e di seguito provo a spiegare il perché.

Da quando è comparsa online l'ingegneria alla base dell’ultima versione di ChatGPT, chi vuole ha a disposizione un potente strumento capace di generare un filo coerente di testo che in realtà viene forgiato strappando miratamente brandelli di parole da quello che definirei un corpus molto ampio di saggezza precaricata, ossia l’immensa mole di dati e testi creati dall’uomo e contenuti nel web, nei libri e in altre forme, che gli ingegneri di OpenAI hanno dato in pasto al loro pargolo digitale.

Quando un utente di ChatGPT inserisce un testo iniziale, il software non fa altro che scegliere le parole più appropriate da inserire nel contesto della frase pescando proprio da questo bacino di saggezza precaricata e lo fa utilizzando complessi metodi statistici. Quindi, dietro le quinte di ChatGPT, più che l’intelligenza come normalmente la intendiamo, si cela essenzialmente dell'evolutissima statistica.

In soldoni, ChatGPT si chiede più e più volte: "Dato il testo sin qui scritto, quale dovrebbe essere la parola successiva?". Ho provato a schematizzare il processo sulla base di una classica rappresentazione delle reti neurali artificiali proprio perché la tecnologia di ChatGPT si basa su una rete neurale composta da 175 miliardi di sinapsi artificiali. Che il Dio degli informatici mi perdoni per questa becera approssimazione.

Il ciclo si ripete n volte aggiungendo ogni volta una nuova parola alla sequenza testuale. L’aspetto più innovativo di ChatGPT è proprio l’utilizzo di un modello di costruzione del linguaggio che riesce a fare un ottimo lavoro in termini di stima e calcolo, al punto da dare al lettore l’impressione che il testo sia interessante, efficace e sufficientemente creativo, quindi presumibilmente di origine umana.

Ogni volta che gli chiediamo di generare un testo, ChatGPT cerca fondamentalmente di produrre una "ragionevole" continuazione del testo che abbiamo inserito all'inizio. Per "ragionevole" intendo qualcosa che ci si potrebbe aspettare che qualcuno scriva dopo aver letto/interiorizzato ciò che altri hanno scritto all’interno di una moltitudine di pagine web, libri, etc. Qualcosa che, come ho scritto all'inizio, suoni bene alle "orecchie" del cervello di chi legge. In definitiva, quando inseriamo in ChatGPT un testo da cui partire, il software:

1) Scansiona molto rapidamente miliardi di pagine di testo scritte dall’uomo che sono state in precedenza archiviate al suo interno;

2) Produce un ranking di parole che potrebbero seguire il testo scritto fino a quel punto, classificandole in termini di probabilità;

3) Sceglie una parola tra quelle presenti nell’elenco.

A questo punto si potrebbe pensare che ChatGPT scelga la parola con il punteggio più alto in termini di probabilità seguendo un approccio tipicamente deterministico (in natura nulla avviene per caso, ma tutto accade secondo rapporti di causa-effetto).

Per qualche oscura ed esoterica ragione opportunamente secretata da quei birboni di OpenAI, ChatGPT tende generalmente a scegliere parole con un punteggio più basso da un punto di vista probabilistico, ed è forse questa “magia”, certamente legata a complessi algoritmi statistici, a regalarci testi che stanno diventando via via sempre più interessanti e meno piatti. Ho scritto stanno diventando perché ChatGPT, è stata pensata e progettata per imparare dall'esperienza. Più si esercita, più la facciamo allenare e più tenderà a produrre testi interessanti e plausibili che potrebbero portare il lettore a non comprendere che l'origine dell'elaborato non è umana ma artificiale.

Questo è solo uno dei problemi. Ad esempio L'attuale modello più potente impara da una quantità gigantesca di dati e il set di dati cattura inevitabilmente difetti e pregiudizi imperfetti nel mondo reale.

Ma quella è un'altra storia su cui magari tornerò in un prossimo futuro. Per il momento concludo azzardando una previsione e un auspicio: come tutta questa "magia" impatterà effettivamente sui processi di elaborazione narrativa (inclusa la successiva distribuzione e commercializzazione della stessa), è un romanzo il cui incipit verrà certamente scritto nel biennio 2023/2024. La mia speranza è che alla scrittura di questo incipit partecipino tutti i principali protagonisti della filiera editoriale, supportati da opportuni interventi legislativi a tutela dei veri scrittori e, soprattutto, dei lettori. L'intelligenza artificiale non è di per sé il male se riusciremo a renderla antropocentrica e sostenibile.

"Voi, le vostre gioie e i vostri dolori, i vostri ricordi e le vostre ambizioni, il vostro senso di identità personale e il vostro libero arbitrio, non siete in realtà altro che il comportamento di un vasto insieme di cellule nervose e delle molecole ad esse associate.

Come avrebbe detto l'Alice di Lewis Carroll, "Non sei altro che un branco di neuroni".

Questa ipotesi è così estranea alle idee della maggior parte delle persone di oggi che può davvero essere definita sorprendente"

Francis Crick, neuroscienziato, biologo molecolare e premio Nobel per la Medicina nel 1962.

© Tutti i diritti riservati.

© All rights reserved.