"Millones de personas en todo el mundo pronto considerarán que el hecho de que los grandes modelos absorban todo su trabajo es un robo asombroso de proporciones sin precedentes".
Esa frase no provino de un crítico externo. Provino del interior de Microsoft.
Los documentos judiciales revelados esta semana en la demanda por derechos de autor del New York Times contra OpenAI y Microsoft han corrido el velo sobre algunas conversaciones internas incómodas. Los expedientes revelan que los empleados de Microsoft estaban planteando preguntas difíciles sobre las prácticas de entrenamiento de IA años antes de que el debate público se pusiera al día, incluyendo si toda la operación equivalía al mayor robo laboral en la historia de la humanidad.
Usa el código TRYHARD33 al finalizar la compra para canjear esta oferta antes de que caduque.
Obtén 33% de descuento en tu suscripción a GAMES+
Lo que dicen realmente los documentos revelados
A la demanda, que el Times presentó a finales de 2023, se han unido desde entonces otros once editores. El juez Sidney Stein del Distrito Sur de Nueva York está evaluando actualmente las mociones de juicio sumario, y los documentos se están revelando como parte de ese proceso.
El memorando que produjo el lenguaje más llamativo provino de Brent Hecht, un director de ciencia aplicada de Microsoft que también ocupaba un cargo en la Northwestern University. En un documento interno de 2023, Hecht escribió que los grandes modelos de IA "son un producto que destruye su propia cadena de suministro", y advirtió que el público eventualmente vería la ingesta masiva de su trabajo como un robo a una escala sin precedentes.
Microsoft se ha apresurado a distanciarse de esas palabras. La compañía dice que Hecht fue contratado específicamente para "presentar perspectivas divergentes y asimétricas" y que no era un tomador de decisiones. Sus memorandos, argumenta Microsoft, no representan las opiniones de la empresa.
Sin embargo, aquí está el punto: el hecho de que alguien recibiera un pago por plantear esas preocupaciones, y que esas preocupaciones quedaran documentadas, es exactamente el tipo de evidencia que tiende a importar en los tribunales.
El testimonio de Nadella y la cuestión del paywall
Satya Nadella, CEO de Microsoft, testificó que "cualquier cosa que esté detrás de un paywall debería ser licenciada por cualquiera que quiera usarla". Fue más allá, diciendo que si hubiera sabido que OpenAI estaba entrenando con contenido bajo paywall, habría ejercido el derecho contractual de Microsoft para exigir un reentrenamiento de los modelos. Un portavoz de la compañía dijo más tarde que Nadella "habló sobre principios generales" acerca de cómo la gente encuentra y consume información, lo cual se lee como una retractación bastante significativa.
La brecha entre lo que dijo Nadella bajo juramento y lo que el portavoz de la compañía aclaró después merece atención a medida que el caso avanza.
Las conversaciones internas de OpenAI fueron igual de sinceras
Los documentos tampoco dejan bien parada a OpenAI. Un miembro del personal de OpenAI le contó al presidente Greg Brockman sobre la creación de una solución para saltarse el paywall del Times durante el entrenamiento. La respuesta de Brockman: "ah, qué bien".
Nick Turley, quien dirigía el equipo de producto de ChatGPT, escribió en junio de 2023 que la IA representaba una "amenaza existencial" para los editores. Para febrero de 2024, escribía que los productos de IA "serán cada vez más sustitutivos a medida que mejoren". Un ingeniero de OpenAI, escribiendo en febrero de 2023, señaló que "no importa cuán prominentemente mostremos los enlaces, los usuarios no harán clic" en las fuentes, lo cual contradice directamente el argumento de que los chatbots dirigen tráfico de regreso a los editores.
Lo que la mayoría de los jugadores pasa por alto aquí es que estos no son documentos filtrados por un denunciante. Son comunicaciones internas que OpenAI y Microsoft crearon, almacenaron y que ahora están siendo obligadas a presentar en un litigio. Las empresas sabían lo que estaban escribiendo en ese momento.
La advertencia del "bucle de fatalidad"
Más allá del marco del robo laboral, el memorando de 2023 de Hecht planteó una preocupación separada que desde entonces se ha convertido en un debate vivo en los círculos de investigación de IA. El argumento era que entrenar con contenido generado por IA crea un bucle de retroalimentación que degrada la calidad del modelo con el tiempo, a medida que los resultados de una generación de modelos se convierten en los datos de entrenamiento para la siguiente.
Esta no es una preocupación marginal. Los investigadores han estado estudiando qué sucede con los resultados de los modelos cuando los datos sintéticos saturan el grupo de entrenamiento, y los resultados no son alentadores. La clave aquí es que alguien dentro de Microsoft estaba señalando este riesgo internamente al mismo tiempo que la compañía era públicamente optimista sobre el potencial de la IA.
El argumento del fair use y lo que dicen los editores
Tanto Microsoft como OpenAI argumentan que el entrenamiento con contenido publicado constituye fair use, transformando los artículos en algo nuevo en lugar de sustituir a los originales. Ese argumento aún no ha sido probado en un juicio.
Steven Lieberman, quien representa al New York Daily News y a otros siete editores demandantes, resumió claramente la lectura de los demandantes sobre los documentos revelados: "El mundo puede ver lo que OpenAI y Microsoft pensaron todo el tiempo sobre la equidad de su propio comportamiento".
Un memorando de 2020 de Jack Clark, entonces director de políticas de OpenAI, advirtió que la compañía estaba "creando sistemas que sustituyen la labor de las personas que definen la cultura de la sociedad" y que se convertirían en "el símbolo de cómo Silicon Valley se está entrometiendo irreflexivamente en otras partes de la vida y dejando un desastre en la alfombra". Clark dejó la empresa más tarde para cofundar Anthropic.
El Times, como demandante en su propio caso, declinó hacer comentarios. OpenAI no respondió a las solicitudes de comentarios.
Lo que esto significa para el ecosistema más amplio de la IA y los videojuegos
Este caso importa mucho más allá de la industria editorial. Las mismas preguntas sobre los datos de entrenamiento, el consentimiento y la compensación se están planteando en todos los campos creativos, incluyendo el desarrollo de videojuegos, el arte conceptual, la actuación de voz y la escritura narrativa. Si los tribunales dictaminan finalmente que el scraping masivo de IA no constituye fair use, las implicaciones sobre cómo se construyen y licencian las herramientas de IA repercutirían en toda la industria creativa.
Para los jugadores y desarrolladores que observan cómo las herramientas de IA se convierten en partes estándar de los procesos de producción, el resultado de este caso podría definir cómo se ven esas herramientas y quién recibe el pago cuando se utilizan. Querrás estar atento al fallo de juicio sumario del juez Stein, que indicará si esto va a juicio o se resuelve antes de que se pruebe el registro probatorio completo.
Para obtener más cobertura de las historias de la industria que afectan cómo se hace una partida o un videojuego, consulta nuestras guías de videojuegos y sigue atento a este espacio a medida que la demanda avance en los tribunales.
