"Milioni di persone in tutto il mondo considereranno presto i grandi modelli che aspirano tutto il loro lavoro come un furto sbalorditivo di proporzioni senza precedenti."
Questa frase non arriva da un critico esterno. Arriva dall'interno di Microsoft.
I documenti giudiziari resi pubblici questa settimana nella causa per violazione del copyright del New York Times contro OpenAI e Microsoft hanno sollevato il sipario su alcune scomode conversazioni interne. Gli atti rivelano che i dipendenti Microsoft ponevano domande spinose sulle pratiche di training dell'AI anni prima che il dibattito pubblico prendesse piede, inclusa la possibilità che l'intera operazione equivalesse al più grande furto di lavoro della storia umana.
Usa il codice TRYHARD33 al checkout per riscattare l'offerta prima della scadenza.
Ottieni 33% di sconto sull'abbonamento GAMES+
Cosa dicono realmente i documenti resi pubblici
Alla causa, avviata dal Times alla fine del 2023, si sono uniti da allora altri undici editori. Il giudice Sidney Stein del Distretto Sud di New York sta attualmente valutando le istanze di giudizio sommario e i documenti vengono resi pubblici come parte di tale processo.
Il memo che contiene il linguaggio più incisivo proviene da Brent Hecht, un direttore della scienza applicata di Microsoft che ha ricoperto anche una posizione presso la Northwestern University. In un documento interno del 2023, Hecht ha scritto che i grandi modelli AI "sono un prodotto che distrugge la propria catena di approvvigionamento" e ha avvertito che il pubblico avrebbe finito per vedere l'ingestione di massa del proprio lavoro come un furto su scala senza precedenti.
Microsoft si è affrettata a prendere le distanze da quelle parole. L'azienda afferma che Hecht era stato assunto specificamente per "presentare prospettive divergenti e asimmetriche" e non era un decision maker. I suoi memo, sostiene Microsoft, non rappresentano le opinioni dell'azienda.
Il punto, però, è questo: il fatto che qualcuno sia stato pagato per sollevare tali preoccupazioni, e che queste siano state documentate, è esattamente il tipo di prova che tende a fare la differenza in tribunale.
La testimonianza di Nadella e la questione del paywall
Satya Nadella, CEO di Microsoft, ha testimoniato che "tutto ciò che è dietro un paywall dovrebbe essere concesso in licenza da chiunque voglia utilizzarlo". Si è spinto oltre, affermando che se avesse saputo che OpenAI stava effettuando il training su contenuti protetti da paywall, avrebbe esercitato il diritto contrattuale di Microsoft di richiedere un nuovo training dei modelli. Un portavoce dell'azienda ha dichiarato in seguito che Nadella "ha parlato di principi generali" su come le persone trovano e consumano le informazioni, il che suona come una retromarcia piuttosto significativa.
Il divario tra ciò che Nadella ha detto sotto giuramento e ciò che il portavoce dell'azienda ha chiarito in seguito merita attenzione man mano che il caso procede.
Le conversazioni interne di OpenAI sono state altrettanto schiette
I documenti non lasciano scampo nemmeno a OpenAI. Un membro dello staff di OpenAI ha parlato al presidente Greg Brockman della creazione di una soluzione alternativa per aggirare il paywall del Times durante il training. La risposta di Brockman: "ah nice".
Nick Turley, che gestiva il team di prodotto di ChatGPT, ha scritto nel giugno 2023 che l'AI rappresentava una "minaccia esistenziale" per gli editori. Nel febbraio 2024, scriveva che i prodotti AI "diventeranno sempre più sostitutivi man mano che miglioreranno". Un ingegnere di OpenAI, scrivendo nel febbraio 2023, ha notato che "non importa quanto mostriamo i link in modo evidente, gli utenti non cliccheranno" sulle fonti, il che contraddice direttamente l'argomentazione secondo cui i chatbot generano traffico verso gli editori.
Ciò che la maggior parte dei player non coglie qui è che non si tratta di documenti trapelati da un whistleblower. Sono comunicazioni interne che OpenAI e Microsoft hanno creato, archiviato e che ora sono tenute a produrre in sede di contenzioso. Le aziende sapevano cosa stavano scrivendo all'epoca.
L'avvertimento sul "doom loop"
Oltre all'inquadramento come furto di lavoro, il memo del 2023 di Hecht ha sollevato una preoccupazione distinta che da allora è diventata un dibattito acceso nei circoli di ricerca sull'AI. La tesi è che il training su contenuti generati dall'AI crei un feedback loop che degrada la qualità del modello nel tempo, poiché gli output di una generazione di modelli diventano i dati di training per la successiva.
Non è una preoccupazione marginale. I ricercatori hanno studiato cosa succede agli output dei modelli quando i dati sintetici saturano il pool di training, e i risultati non sono incoraggianti. Il punto chiave qui è che qualcuno all'interno di Microsoft stava segnalando internamente questo rischio proprio mentre l'azienda era pubblicamente ottimista sul potenziale dell'AI.
L'argomentazione del fair use e cosa dicono gli editori
Sia Microsoft che OpenAI sostengono che il training su contenuti pubblicati costituisca fair use, trasformando gli articoli in qualcosa di nuovo invece di sostituire gli originali. Tale argomentazione non è ancora stata testata in tribunale.
Steven Lieberman, che rappresenta il New York Daily News e altri sette editori querelanti, ha riassunto chiaramente la lettura dei documenti resi pubblici da parte dei querelanti: "Il mondo può vedere cosa hanno pensato OpenAI e Microsoft fin dall'inizio riguardo alla correttezza del proprio comportamento".
Un memo del 2020 di Jack Clark, allora direttore delle politiche di OpenAI, avvertiva che l'azienda stava "creando sistemi che si sostituiscono al lavoro delle persone che definiscono la cultura della società" e che sarebbero "diventati il simbolo di come la Silicon Valley stia entrando sconsideratamente in altri ambiti della vita lasciando un disastro". Clark ha poi lasciato l'azienda per co-fondare Anthropic.
Il Times, in quanto querelante nella propria causa, ha rifiutato di commentare. OpenAI non ha risposto alle richieste di commento.
Cosa significa questo per l'ecosistema più ampio dell'AI e del gaming
Questo caso è importante ben oltre l'industria editoriale. Le stesse domande sui dati di training, sul consenso e sulla compensazione vengono poste in tutti i campi creativi, inclusi lo sviluppo di giochi, la concept art, il doppiaggio e la scrittura narrativa. Se i tribunali dovessero stabilire che lo scraping di massa dell'AI non costituisce fair use, le implicazioni su come gli strumenti AI vengono costruiti e concessi in licenza si ripercuoterebbero su ogni industria creativa.
Per i gamer e gli sviluppatori che osservano gli strumenti AI diventare parti standard delle pipeline di produzione, l'esito di questo caso potrebbe definire l'aspetto di tali strumenti e chi viene pagato quando vengono utilizzati. Vorrete tenere d'occhio la sentenza di giudizio sommario del giudice Stein, che segnalerà se la questione andrà a processo o verrà risolta prima che venga esaminato l'intero materiale probatorio.
Per ulteriori approfondimenti sulle storie dell'industria che influenzano il modo in cui vengono creati i giochi, date un'occhiata alle nostre gaming guides e continuate a seguirci mentre la causa procede nelle aule di tribunale.
