「世界中の何百万人もの人々が、自分たちの制作物を根こそぎ吸い上げる大規模モデルを、前代未聞の驚くべき盗用だと見なすようになるだろう」
この言葉は、外部の批評家によるものではない。Microsoftの内部から発せられたものだ。
今週公開されたNew York TimesによるOpenAIおよびMicrosoftへの著作権侵害訴訟の裁判資料は、これまで隠されていた不都合な内部対話の数々を明るみに出した。これらの資料から、Microsoftの社員たちがAIの学習手法について、世間での議論が活発化する何年も前から厳しい疑問を抱いていたことが明らかになった。中には、この一連の運用が「人類史上最大の労働搾取」にあたるのではないかという指摘さえ含まれていた。
チェックアウト時にコード「TRYHARD33」を入力して、有効期限内に特典をご利用ください。
GAMES+サブスクリプションが33% OFF
公開された裁判資料が示す事実
2023年後半にTimesが提訴したこの訴訟には、その後11の出版社が加わっている。現在、ニューヨーク州南部地区連邦地方裁判所のSidney Stein判事が略式判決の申し立てを検討しており、そのプロセスの一環として資料が順次公開されている。
最も衝撃的な表現が含まれていたのは、Microsoftで応用科学担当ディレクターを務め、Northwestern Universityでも教鞭をとるBrent Hecht氏のメモである。2023年の内部文書の中でHecht氏は、大規模AIモデルを「自らのサプライチェーンを破壊するプロダクト」と評し、大衆はやがて自分たちの制作物が大量に吸い上げられている現状を、前代未聞の規模の盗用だと見なすようになるだろうと警告していた。
Microsoftは、これらの発言から早急に距離を置こうとしている。同社は、Hecht氏が「多様かつ非対称的な視点を提示する」という特定の役割で雇用されていたに過ぎず、意思決定者ではないと主張している。Microsoftによれば、彼のメモは同社の見解を代表するものではないという。
しかし、重要なのはここだ。懸念を提起する役割として報酬が支払われていた人物がおり、その懸念が文書として記録されていたという事実は、まさに法廷で重視される類いの証拠である。
Nadella氏の証言とペイウォールの問題
MicrosoftのCEOであるSatya Nadella氏は、「ペイウォール（有料購読）の背後にあるコンテンツは、それを利用したいと考えるすべての者がライセンスを取得すべきである」と証言した。さらに同氏は、もしOpenAIがペイウォール内のコンテンツを学習に使用していると知っていたなら、Microsoftの契約上の権利を行使してモデルの再学習を要求していただろうとまで踏み込んだ。その後、同社の広報担当者はNadella氏が「情報を見つけ、消費する方法についての広範な原則について語った」と説明したが、これはかなり大幅な軌道修正と言える。
Nadella氏が宣誓供述した内容と、その後に会社側が説明した内容の乖離は、今後の裁判の行方を占う上で注視すべき点である。
OpenAIの内部対話も同様に率直だった
この資料はOpenAIにとっても逃げ場を失わせるものだ。あるOpenAIのスタッフは、学習中にTimesのペイウォールを回避するワークアラウンド（回避策）を構築することについて、社長のGreg Brockman氏に報告していた。それに対するBrockman氏の返答は「ah nice（ああ、いいね）」というものだった。
ChatGPTのプロダクトチームを率いていたNick Turley氏は、2023年6月にAIは出版社にとって「存続を脅かす存在」であると記した。2024年2月には、AIプロダクトは「性能が向上するにつれ、ますます代替性が高まるだろう」と綴っている。また、2023年2月にOpenAIのエンジニアは、「どれほど目立つようにリンクを表示しても、ユーザーはソースをクリックしない」と指摘しており、これは「チャットボットがパブリッシャーへのトラフィックを促進する」という主張を真っ向から否定するものとなっている。
多くのプレイヤーが見落としているのは、これらが内部告発者によるリーク文書ではないという点だ。これらはOpenAIとMicrosoftが自ら作成・保存し、現在訴訟の一環として提出を義務付けられている内部コミュニケーションである。両社は、当時自分たちが何を書き残していたのかを認識していたのだ。
「破滅のループ」への警告
労働搾取という枠組みを超えて、Hecht氏の2023年のメモは、AI研究者の間で現在進行形の議論となっている別の懸念を提起していた。それは、AIが生成したコンテンツを学習させることでフィードバックループが生まれ、モデルの出力が次の世代の学習データとなることで、時間の経過とともにモデルの品質が劣化するという主張である。
これは決してマイナーな懸念ではない。研究者たちは、合成データが学習プールを飽和させた場合にモデルの出力がどうなるかを調査しており、その結果は芳しいものではない。重要なのは、Microsoftが公の場でAIの可能性を強気にアピールしていたのと同時期に、社内の人間がこのリスクを内部で警告していたという事実である。
フェアユースの議論と出版社の主張
MicrosoftとOpenAIは、公開されたコンテンツを学習させることは「フェアユース（公正な利用）」にあたり、元のコンテンツを代替するのではなく、新しいものへと変換していると主張している。この主張は、まだ裁判では検証されていない。
New York Daily Newsをはじめとする8社の原告パブリッシャーを代理するSteven Lieberman氏は、公開された資料に対する原告側の見解を簡潔にこうまとめた。「世界は、OpenAIとMicrosoftが自分たちの行為の公正さについて、最初からどう考えていたのかを知ることができる」
当時OpenAIのポリシーディレクターだったJack Clark氏による2020年のメモには、同社が「社会の文化を定義する人々の労働を代替するシステムを作り出している」と警告し、それが「シリコンバレーがいかに無思慮に生活の他の領域に踏み込み、混乱を招いているかという象徴になるだろう」と記されていた。Clark氏はその後、Anthropicを共同設立するために退社している。
原告の一社であるTimesはコメントを控えた。OpenAIはコメントの要請に応じなかった。
AIおよびゲームエコシステムへの影響
この裁判は、出版業界をはるかに超える影響を持つ。学習データ、同意、報酬に関する同じ問いが、ゲーム開発、コンセプトアート、声優、ナラティブライティングを含むあらゆるクリエイティブ分野で投げかけられている。もし裁判所が、AIによる大規模なスクレイピングはフェアユースにあたらないと最終判断を下せば、AIツールの構築やライセンス供与の方法に対する影響は、あらゆるクリエイティブ産業に波及するだろう。
AIツールが制作パイプラインの標準的なパーツとなるのを目の当たりにしているゲーマーや開発者にとって、この裁判の結末は、それらのツールがどのようなものになり、誰に報酬が支払われるのかを決定づける可能性がある。Stein判事による略式判決の判断は、このまま裁判に持ち込まれるのか、あるいは証拠記録がすべて検証される前に解決されるのかを示すシグナルとなるため、注視しておく必要がある。
ゲーム制作に影響を与える業界のストーリーについては、当サイトのゲーミングガイドをチェックしてほしい。今後も裁判の進展に合わせてこの動向を追い続けていく。
