"전 세계 수백만 명의 사람들이 머지않아 거대 모델들이 자신들의 모든 작업물을 긁어모으는 행위를 전례 없는 규모의 경악스러운 절도 행위로 간주하게 될 것입니다."
이 문구는 외부 비평가가 한 말이 아닙니다. 바로 Microsoft 내부에서 나온 이야기입니다.
이번 주 New York Times가 OpenAI와 Microsoft를 상대로 제기한 저작권 소송에서 공개된 법원 문건들은 그동안 베일에 가려져 있던 불편한 내부 논의들을 수면 위로 끌어올렸습니다. 해당 문건들에 따르면, Microsoft 직원들은 대중의 논란이 본격화되기 수년 전부터 AI 학습 관행에 대해 날카로운 질문을 던졌으며, 심지어 이 모든 운영 방식이 '역사상 최대의 노동 절도'에 해당하는 것이 아니냐는 의문을 제기했던 것으로 드러났습니다.
결제 시 코드 TRYHARD33을 입력하여 만료 전에 혜택을 받으세요.
GAMES+ 구독 33% 할인 혜택
공개된 문건의 실체
2023년 말 Times가 제기한 이 소송에는 이후 11개의 다른 출판사가 추가로 합류했습니다. 현재 뉴욕 남부지방법원의 Sidney Stein 판사가 약식 판결 신청을 검토 중이며, 그 과정에서 관련 문건들이 순차적으로 공개되고 있습니다.
가장 충격적인 표현이 담긴 메모의 주인공은 Microsoft의 응용 과학 디렉터이자 Northwestern University에서도 직책을 맡고 있는 Brent Hecht였습니다. 2023년 내부 문건에서 Hecht는 거대 AI 모델이 "공급망을 파괴하는 제품"이라고 지적하며, 대중들이 결국 자신들의 작업물을 대량으로 수집하는 행위를 전례 없는 규모의 절도로 인식하게 될 것이라고 경고했습니다.
Microsoft는 즉각 이러한 발언과 거리를 두었습니다. 회사 측은 Hecht가 "다양하고 비대칭적인 관점을 제시"하기 위해 고용된 인물일 뿐 의사 결정권자가 아니라고 해명했습니다. 또한 그의 메모는 회사의 공식 입장을 대변하지 않는다고 주장합니다.
하지만 중요한 점은, 누군가 이러한 우려를 제기하도록 급여를 받았고, 그 우려가 문서로 기록되었다는 사실 자체가 법정에서 결정적인 증거로 작용할 가능성이 크다는 것입니다.
Nadella의 증언과 페이월(paywall) 문제
Microsoft의 CEO인 Satya Nadella는 "페이월이 걸린 콘텐츠라면 누구든 사용하기 전에 라이선스를 취득해야 한다"고 증언했습니다. 그는 한발 더 나아가, 만약 OpenAI가 페이월 콘텐츠로 학습하고 있다는 사실을 알았더라면 Microsoft의 계약상 권리를 행사해 모델 재학습을 요구했을 것이라고 말했습니다. 이후 회사 대변인은 Nadella가 사람들이 정보를 찾고 소비하는 방식에 대한 "광범위한 원칙을 언급한 것"이라며 한발 물러서는 모습을 보였습니다.
Nadella가 선서 하에 한 발언과 이후 대변인이 해명한 내용 사이의 간극은 소송이 진행됨에 따라 주목해야 할 핵심 포인트입니다.
OpenAI의 솔직했던 내부 대화
OpenAI 역시 이 문건들로부터 자유롭지 못합니다. 한 OpenAI 직원은 Greg Brockman 회장에게 학습 과정에서 Times의 페이월을 우회하는 방법을 구축하고 있다고 보고했고, Brockman은 "아, 좋네"라고 답했습니다.
ChatGPT 제품 팀을 이끌었던 Nick Turley는 2023년 6월, AI가 출판업계에 "실존적 위협"이 된다고 적었습니다. 2024년 2월에는 AI 제품들이 "성능이 좋아질수록 점점 더 기존 콘텐츠를 대체하게 될 것"이라고 썼습니다. 2023년 2월 한 OpenAI 엔지니어는 "링크를 아무리 눈에 띄게 배치해도 유저들은 클릭하지 않을 것"이라고 언급했는데, 이는 챗봇이 출판사로 트래픽을 다시 유도한다는 논리를 정면으로 반박하는 내용입니다.
대부분의 게이머들이 놓치고 있는 점은, 이 문건들이 내부 고발자에 의해 유출된 것이 아니라는 사실입니다. 이는 OpenAI와 Microsoft가 직접 작성하고 보관해온 내부 소통 기록이며, 현재 소송 절차에 따라 제출이 강제된 자료들입니다. 즉, 작성 당시 그들은 자신들이 무엇을 쓰고 있는지 명확히 인지하고 있었습니다.
"둠 루프(doom loop)" 경고
노동 절도 프레임을 넘어, Hecht의 2023년 메모는 AI 연구계에서 현재 뜨거운 감자로 떠오른 또 다른 우려를 제기했습니다. AI가 생성한 콘텐츠로 다시 AI를 학습시키면 모델의 품질이 점차 저하되는 피드백 루프가 발생한다는 주장입니다. 한 세대 모델의 결과물이 다음 세대의 학습 데이터가 되면서 발생하는 현상입니다.
이는 결코 가벼운 우려가 아닙니다. 연구자들은 합성 데이터가 학습 풀을 잠식할 때 모델 결과물에 어떤 일이 벌어지는지 연구해 왔으며, 결과는 매우 부정적입니다. 핵심은 Microsoft 내부의 누군가가 회사가 공개적으로 AI의 잠재력을 홍보하던 시기에 이미 이러한 위험을 내부적으로 경고하고 있었다는 점입니다.
공정 이용(fair use) 논쟁과 출판사들의 입장
Microsoft와 OpenAI는 모두 출판된 콘텐츠를 학습하는 것이 원본을 대체하는 것이 아니라 새로운 것으로 변형하는 '공정 이용'에 해당한다고 주장합니다. 하지만 이 주장은 아직 재판에서 검증된 바 없습니다.
New York Daily News를 비롯한 8개 출판사를 대리하는 Steven Lieberman 변호사는 공개된 문건에 대해 이렇게 요약했습니다: "이제 전 세계는 OpenAI와 Microsoft가 자신들의 행위가 정당한지에 대해 처음부터 어떻게 생각하고 있었는지 알게 되었습니다."
당시 OpenAI의 정책 디렉터였던 Jack Clark이 2020년에 작성한 메모는, 회사가 "사회의 문화를 정의하는 사람들의 노동을 대체하는 시스템을 만들고 있다"며, 이것이 "실리콘밸리가 타인의 삶에 무분별하게 개입해 엉망진창으로 만드는 상징이 될 것"이라고 경고했습니다. Clark은 이후 Anthropic을 공동 창업하기 위해 회사를 떠났습니다.
원고 측인 Times는 별도의 입장을 밝히지 않았으며, OpenAI 역시 취재 요청에 응답하지 않았습니다.
AI 및 게임 생태계에 미치는 영향
이번 소송은 단순히 출판업계에만 국한된 문제가 아닙니다. 학습 데이터, 동의, 보상에 관한 동일한 질문들이 게임 개발, 콘셉트 아트, 성우 연기, 서사 작문 등 모든 창작 분야에서 제기되고 있습니다. 만약 법원이 대규모 AI 스크래핑이 공정 이용에 해당하지 않는다고 판결한다면, AI 도구가 구축되고 라이선스되는 방식은 모든 창작 산업에 엄청난 파장을 일으킬 것입니다.
AI 도구가 제작 파이프라인의 표준이 되는 것을 지켜보는 게이머와 개발자들에게 이번 소송의 결과는 향후 도구의 형태와 수익 배분 구조를 결정짓는 중요한 분기점이 될 것입니다. 이번 사건이 정식 재판으로 갈지, 아니면 증거 기록이 완전히 검증되기 전에 합의될지, Stein 판사의 약식 판결을 예의주시해야 합니다.
게임 제작 과정에 영향을 미치는 업계 소식에 대해 더 알고 싶다면 저희의 게임 공략을 확인하시고, 소송이 진행됨에 따라 업데이트되는 소식들을 계속 지켜봐 주시기 바랍니다.
