"Des millions de personnes à travers le monde considéreront bientôt l'aspiration massive de tout leur travail par de grands modèles comme un vol stupéfiant d'une ampleur sans précédent."
Cette phrase ne provient pas d'un critique extérieur. Elle vient de l'intérieur de Microsoft.
Les documents judiciaires rendus publics cette semaine dans le cadre du procès pour violation de droits d'auteur intenté par le New York Times contre OpenAI et Microsoft ont levé le voile sur des échanges internes embarrassants. Les dossiers révèlent que les employés de Microsoft soulevaient des questions délicates sur les pratiques d'entraînement de l'IA des années avant que le débat public ne s'en saisisse, se demandant notamment si l'ensemble de l'opération ne s'apparentait pas au plus grand vol de travail de l'histoire humaine.
Utilisez le code TRYHARD33 lors du paiement pour profiter de cette offre avant son expiration.
Profitez de 33% de réduction sur votre abonnement GAMES+
Ce que disent réellement les documents rendus publics
Le procès, lancé par le Times fin 2023, a depuis été rejoint par onze autres éditeurs. Le juge Sidney Stein du district sud de New York examine actuellement les motions en jugement sommaire, et des documents sont rendus publics dans le cadre de cette procédure.
La note ayant produit les termes les plus frappants provient de Brent Hecht, directeur des sciences appliquées chez Microsoft, qui occupait également un poste à la Northwestern University. Dans un document interne de 2023, Hecht écrivait que les grands modèles d'IA "sont un produit qui détruit sa propre chaîne d'approvisionnement", et avertissait que le public finirait par percevoir l'ingestion massive de son travail comme un vol à une échelle sans précédent.
Microsoft s'est empressé de prendre ses distances avec ces propos. L'entreprise affirme que Hecht était employé spécifiquement pour "présenter des perspectives divergentes et asymétriques" et qu'il n'était pas un décideur. Ses notes, soutient Microsoft, ne représentent pas les opinions de l'entreprise.
Cependant, le fait que quelqu'un ait été payé pour soulever ces préoccupations, et que celles-ci aient été documentées, constitue exactement le type de preuve qui tend à peser lourd devant un tribunal.
Le témoignage de Nadella et la question du paywall
Satya Nadella, PDG de Microsoft, a témoigné que "tout ce qui est derrière un paywall devrait faire l'objet d'une licence par quiconque souhaite l'utiliser". Il est allé plus loin, déclarant que s'il avait su qu'OpenAI s'entraînait sur du contenu payant, il aurait exercé le droit contractuel de Microsoft d'exiger un réentraînement des modèles. Un porte-parole de l'entreprise a déclaré plus tard que Nadella "s'exprimait sur des principes généraux" concernant la manière dont les gens trouvent et consomment l'information, ce qui ressemble à un rétropédalage assez significatif.
L'écart entre ce que Nadella a déclaré sous serment et ce que le porte-parole de l'entreprise a clarifié par la suite mérite une attention particulière à mesure que l'affaire progresse.
Les conversations internes d'OpenAI étaient tout aussi franches
Les documents n'épargnent pas non plus OpenAI. Un membre du personnel d'OpenAI a expliqué au président Greg Brockman comment créer une solution de contournement pour passer outre le paywall du Times lors de l'entraînement. La réponse de Brockman : "ah sympa".
Nick Turley, qui dirigeait l'équipe produit de ChatGPT, a écrit en juin 2023 que l'IA représentait une "menace existentielle" pour les éditeurs. En février 2024, il écrivait que les produits d'IA "deviendront de plus en plus substitutifs à mesure qu'ils s'amélioreront". Un ingénieur d'OpenAI, écrivant en février 2023, notait que "peu importe à quel point nous mettons les liens en évidence, les utilisateurs ne cliqueront pas" sur les sources, ce qui contredit directement l'argument selon lequel les chatbots génèrent du trafic vers les éditeurs.
Ce que la plupart des acteurs oublient ici, c'est qu'il ne s'agit pas de documents divulgués par un lanceur d'alerte. Ce sont des communications internes qu'OpenAI et Microsoft ont créées, stockées, et qui doivent maintenant être produites dans le cadre d'un litige. Les entreprises savaient ce qu'elles écrivaient à l'époque.
L'avertissement sur la "boucle infernale"
Au-delà du cadre du vol de travail, la note de 2023 de Hecht soulevait une préoccupation distincte qui est devenue depuis un débat brûlant dans les cercles de recherche en IA. L'argument était que l'entraînement sur du contenu généré par IA crée une boucle de rétroaction qui dégrade la qualité du modèle au fil du temps, car les résultats d'une génération de modèles deviennent les données d'entraînement de la suivante.
Ce n'est pas une préoccupation marginale. Les chercheurs étudient ce qui arrive aux résultats des modèles lorsque des données synthétiques saturent le pool d'entraînement, et les résultats ne sont pas encourageants. Le point clé ici est que quelqu'un chez Microsoft signalait ce risque en interne au moment même où l'entreprise se montrait publiquement très optimiste sur le potentiel de l'IA.
L'argument du fair use et ce que disent les éditeurs
Microsoft et OpenAI soutiennent tous deux que l'entraînement sur du contenu publié constitue un "fair use" (usage loyal), transformant les articles en quelque chose de nouveau plutôt que de se substituer aux originaux. Cet argument n'a pas encore été testé lors d'un procès.
Steven Lieberman, qui représente le New York Daily News et sept autres éditeurs plaignants, a résumé clairement la lecture des documents par les plaignants : "Le monde peut voir ce qu'OpenAI et Microsoft ont pensé tout du long de l'équité de leur propre comportement."
Une note de 2020 de Jack Clark, alors directeur de la politique chez OpenAI, avertissait que l'entreprise "créait des systèmes qui se substituent au travail des personnes qui définissent la culture de la société" et deviendrait "le symbole de la manière dont la Silicon Valley s'immisce imprudemment dans d'autres pans de la vie, laissant un désordre derrière elle". Clark a quitté l'entreprise plus tard pour cofonder Anthropic.
Le Times, en tant que plaignant dans sa propre affaire, a refusé de commenter. OpenAI n'a pas répondu aux demandes de commentaires.
Ce que cela signifie pour l'écosystème plus large de l'IA et du jeu vidéo
Cette affaire dépasse largement le secteur de l'édition. Les mêmes questions sur les données d'entraînement, le consentement et la rémunération sont posées dans tous les domaines créatifs, y compris le développement de jeux, le concept art, le doublage et l'écriture narrative. Si les tribunaux finissent par statuer que le scraping massif par IA ne constitue pas un "fair use", les implications sur la manière dont les outils d'IA sont construits et licenciés se répercuteraient sur toute l'industrie créative.
Pour les gamers et les développeurs qui voient les outils d'IA devenir des éléments standards des pipelines de production, l'issue de cette affaire pourrait façonner l'apparence de ces outils et déterminer qui est rémunéré lorsqu'ils sont utilisés. Vous voudrez garder un œil sur la décision de jugement sommaire du juge Stein, qui indiquera si l'affaire va jusqu'au procès ou si elle est résolue avant que l'ensemble des preuves ne soit examiné.
Pour plus de couverture sur les histoires de l'industrie qui affectent la façon dont les jeux sont créés, consultez nos guides de jeu et continuez à suivre cet espace à mesure que le procès progresse devant les tribunaux.
