Ci si interroga spesso se le Intelligenze Artificiali generano realmente nuovo sapere o riciclano, con grande abilità, idee già prodotte.
Partiamo da uno tra gli argomenti di discussione più controversi nell’ambito della IA: quello del diritto d’autore ed il riconoscimento della corretta paternità delle idee.
I modelli IA sono super matematici o copioni?
In un recente articolo di Joseph Howlett su Scientific American (disponibile in italiano su “Le Scienze” con il titolo “Le ultime scoperte matematiche di OpenAI potrebbero costituire un caso di cattiva condotta scientifica, che include il plagio”) si evidenzia come alcune soluzioni ed alcuni contributi, prodotti dai migliori modelli LLM (Large Language Model) di OpenAI nel campo della matematica, in realtà non fossero così innovative come presentate.
Il fulcro della questione è che per la soluzione dei problemi matematici da parte del modello LLM venivano usati, senza citarli adeguatamente, dei lavori già svolti da matematici negli ultimi anni. Inoltre si proclamava che il modello era andato oltre il limite raggiunto da studiosi umani, ma proprio questi lavori non citati dimostravano il contrario.
E’ chiaro che vi è della “strategia di marketing” nel presentare i risultati come straordinari, seguendo una narrazione che si inserisce nel filone “la IA ci supererà in tutti i campi”, però qui l’accusa principale consiste nel fatto che il modello ha usato con troppa spregiudicatezza i lavori svolti da altri autori. Ovviamente in questo caso sul teorico “banco degli imputati” non c’è il modello solamente, ma anche il team di OpenAI che ha presentato in maniera fuorviante i risultati.
Altri casi di plagio e appropriazione indebita
La cronaca, almeno quella di settore, ha riportato ultimamente altri casi clamorosi. Nel campo del copyright delle immagini la Disney ha citato Midjourney per aver utilizzato le proprie immagini per addestrare i modelli di generazione immagini, portandoli a creare immagini quasi identiche ai soggetti protetti.
Interessante è il caso dell’accusa è partita da Getty Images (proprietaria di uno dei principali database di immagini) nei confronti di Stability AI di aver infranto le leggi sul copyright; l’Alta Corte inglese ha respinto l’accusa perché non si trovano copie delle immagini nel modello. Ossia: il modello può essere stato addestrato con le immagini, ma le ha “assimilate” nella sua struttura matematica, non le ha archiviate come copie. Questo punto è interessante e lo analizzeremo dopo.
Proseguiamo con altri casi di accuse nei confronti dei LLM e dei loro sviluppatori.
Nell’ambito dei testi, libri o articoli, Anthropic è stata chiamata a rispondere dell’accusa di aver utilizzato libri “piratati” per addestrare i propri modelli; il giornale statunitense New York Times ha accusato Open AI, ritenendo che il loro modello ChatGPT utilizzasse interi brani dei loro articoli nelle risposte, senza citare e riconoscere la fonte. Il caso si è chiuso con la corte federale che ha approvato il 20 luglio 2026 un accordo da 1,5 miliardi di dollari, il più grande della storia del diritto d'autore statunitense, equivalente a circa 3.000 dollari per ognuno degli oltre 482.000 libri coinvolti.
Analogamente ci sono state cause separate, in Europa e Stati Uniti, nei confronti sia di Suno che di OpenAI per la generazione di musica basandosi su brani esistenti. In particolare, nel caso ChatGPT i giudici avevano unicamente sanzionato la riproduzione dei testi scritti, mentre con la pronuncia su Suno la tutela si è estesa alla componente musicale e sonora.
Nulla di nuovo sotto il sole: non è la IA ad aver inventato il plagio
Verrebbe, giustamente, da dire che non sono questioni nuove. Ed è vero. A partire dal settore musicale, dove le accuse di plagio da parte di un artista nei confronti di altri sono innumerevoli; alcune di queste accuse si sono rivelate vere, portando a risarcimenti anche cospicui, altre volte infondate o basate solo su una somiglianza.
Va tenuto presente che il diritto d’autore tutela l’opera specifica, non lo stile. Quindi se realizzo un quadro il stile Van Gogh o un brano musicale con lo stile dei Beatles, ma senza riprodurre anche solo parte dell’opera, non è plagio.
Tutto questo va ben al di là di questo articolo, ma lasciatemi fare una considerazione: nel campo del sapere, della cultura, dell’arte, c’è un sapere condiviso, universale, dove ogni opera e contributo si va ad unire e sommare agli altri. Noi assimiliamo studiando, osservando ed ascoltando, e ciò che produciamo è frutto di quanto noi abbiamo così interiorizzato; tutto questo sia come individui che come collettività. E’ naturale che il nostro modo di scrivere, produrre opere, pensare derivi da quanto abbiamo appreso nel nostro cammino di vita.
Altro discorso è prendere un’opera, o parte di essa, e riprodurla pari pari.
Non molto diverso è quanto accade per la IA. Abbiamo visto sopra, nel caso dell’accusa di Getty Images respinta, il fatto che un modello di linguaggio (LLM) abbia incorporato nelle proprie “pesature” le immagini, i suoni, le parole che ha ricevuto come addestramento non costituisce di per sé una violazione del diritto d’autore. (Note: la pesature sono i miliardi di parametri che costituiscono la rete neurale che simula l’apprendimento).
Vediamo qui che il tema proposto si scinde in due parti: la prima è sulla liceità dell’approvvigionamento delle fonti, la seconda sul produrre un risultato che è, del tutto o in parte, una copia di opere, idee, teorie già esistenti.
Differenza tra addestramento e generazione
Sono due fasi ben distinte, quindi analizziamole separatamente.
Durante l’addestramento vengono sottoposti al modello LLM in fase di sviluppo svariati testi, immagini, brani, ed altre tipologie di input.
Però in questo settore la questione del diritto d’autore è incentrata su come vengono acquisiti questi testi. L’esempio prima citato è semplice: scaricare testi piratati è evidentemente illegale. Ma il cuore della questione è più sottile: il testo da somministrare al modello, deve essere preventivamente digitalizzato, formattato e memorizzato nel server. Questo in pratica è una riproduzione non autorizzata dell’opera e non dovrebbe stupire: se acquisto un libro sono proprietario dell’oggetto, non del suo contenuto, posso leggerlo e memorizzarlo nella mia mente, ma non sono autorizzato a fotocopiarlo per intero.
Purtroppo per aggirare questo limite recentemente si è venuto a conoscenza di una pratica che da molti è stata ritenuta controversa. In sintesi i grandi sviluppatori di modelli IA acquistano enormi quantità di testi cartacei, anche antichi o rari, li digitalizzano e poi distruggono l’originale. Questo tecnicamente riduce i rischi di cause legali, perché non si duplica il testo ma, distruggendo l’originale, se ne cambia il formato. Si può capire perché è ritenuta controversa e perché sta generando molte polemiche: per addestrare modelli LLM si distruggono libri rari, privando la collettività di quella risorsa e trasformandola in qualcosa di effimero come un insieme di bytes. (Questo caso è stato documentato in una interessante inchiesta di 404 Media).
Gli sviluppatori si appellano principalmente al “fair use”, un legittimo utilizzo, sostenendo che se l’opera è pubblica e disponibile, allora è lecito utilizzarla per addestrare il modello. D’altro canto stanno iniziando a svilupparsi fronti di opposizione all’uso delle proprie opere intellettuali per addestramento di LLM.
Passiamo alla fase di generazione della risposta da parte del modello. Tutte queste informazioni, supponendo siano acquisite legalmente, confluiscono nella definizione dei pesi del modello a reti neurali; ossia vengono “apprese” dalla IA. Entrano in un “mare magnum” dove l’attribuzione esatta della fonte può essere difficile o impossibile, e che il modello utilizza per produrre risultati, come vedevamo prima nel caso di Getty Images. Ed è qui che si cela il secondo rischio di violazione del copyright: produrre qualcosa di già esistente e presentarlo come nuovo ed originale. In parte è l’accusa che i matematici hanno rivolto ad OpenAI nel caso presentato in apertura.
È reale progresso o riproduzione ciclica di idee già note?
Mi permetto qui di riportare direttamente le parole di Joseph Howlett, nell’articolo già citato: “il trucco dell’LLM sta nella sua pazienza sovrumana nell’assemblare i tasselli del puzzle, non nella capacità di compiere qualche profondo salto intellettuale.”
La fame dei modelli LLM (o meglio, dei loro sviluppatori) di informazioni provenienti da opere realizzate da esseri umani deriva dal fatto che i modelli IA prendono le teorie esistenti, le rielaborano e combinano, ma senza aggiungere nulla. L’inventiva e l’intuizione rimangono prerogative umane.
Vale la pena sottolineare che la ricerca di libri antichi, rari, o semplicemente antecedenti al 2022 ha un motivo preciso. Il 2022 può essere considerato l’anno spartiacque: prima di quella data non c’erano LLM in grado di produrre risultati significativi, quindi tutti i testi antecedenti sono opera umana. ChatGPT è uscito il 30 novembre 2022: da allora in poi l’intervento della IA nelle produzioni artistiche, letterarie, scientifiche è stato sempre più massiccio.
Questo è particolarmente evidente con i testi: i modelli LLM producono con uno stile ben definito, corretto e formale, ma lentamente si appiattiscono su quello stile. Continuando ad addestrarli con testi autoprodotti ben presto avverrà un’involuzione stilistica e di contenuto.
Troviamo qui una curiosa analogia con la necessità della biodiversità che si manifesta in natura, in particolare nella deriva genetica dei popolazioni isolate, o ancor più nella consanguineità.
Questo è stato definito con il termine di model collapse in uno studio pubblicato su Nature (AI models collapse when trained on recursively generated data, del 24 luglio 2024). Con il termine model collapse si intende un processo degenerativo in cui l’output dei modelli iniziali entra nei dati di addestramento di quelli successivi, inquinando questa base dati. Il risultato è la perdita di varietà e ampiezza del campo di conoscenza, i risultati divengono ripetitivi ed infine contengono allucinazioni. Quindi non solo i modelli non progrediscono, ma peggiorano nel tempo.
Se non prestiamo attenzione rischiamo di avere una esplosione di produttività, nel senso di tantissima produzione, ma un lento e inesorabile appiattimento del sapere collettivo.
Allora dobbiamo imparare ad usare questi modelli per quanto sanno fare, sfruttando questa “pazienza sovrumana nell’assemblare i tasselli del puzzle”, questa capacità di mettere ordine ordine in insiemi enormi e caotici di dati, di analogia e deduzione, ma rendendoci conto che l’innovazione e l’evoluzione stanno su un altro piano, al quale gli esseri umani accedono e le macchine da loro prodotte no.