"Jutaan orang di seluruh dunia akan segera menganggap model besar yang menyedot semua hasil karya mereka sebagai pencurian yang mencengangkan dengan skala yang belum pernah terjadi sebelumnya."
Kalimat tersebut tidak datang dari kritikus luar. Kalimat itu datang dari dalam Microsoft.
Dokumen pengadilan yang dibuka minggu ini dalam gugatan hak cipta New York Times terhadap OpenAI dan Microsoft telah menyingkap beberapa percakapan internal yang tidak nyaman. Dokumen tersebut mengungkapkan bahwa staf Microsoft telah mengajukan pertanyaan sulit tentang praktik pelatihan AI bertahun-tahun sebelum debat publik dimulai, termasuk apakah seluruh operasi tersebut merupakan pencurian tenaga kerja terbesar dalam sejarah manusia.
Gunakan kode TRYHARD33 saat checkout untuk menukarkan penawaran ini sebelum kedaluwarsa.
Dapatkan Diskon 33% untuk Langganan GAMES+
Apa yang sebenarnya dikatakan dokumen yang dibuka tersebut
Gugatan yang diajukan Times pada akhir 2023 ini, kini telah diikuti oleh sebelas penerbit lainnya. Hakim Sidney Stein dari Distrik Selatan New York saat ini sedang mempertimbangkan mosi putusan sela, dan dokumen-dokumen sedang dibuka sebagai bagian dari proses tersebut.
Memo yang menghasilkan bahasa paling mencolok datang dari Brent Hecht, direktur ilmu terapan Microsoft yang juga memegang posisi di Northwestern University. Dalam dokumen internal tahun 2023, Hecht menulis bahwa model AI besar "adalah produk yang menghancurkan rantai pasokannya sendiri," dan memperingatkan bahwa publik pada akhirnya akan memandang penyerapan massal hasil karya mereka sebagai pencurian dalam skala yang belum pernah terjadi sebelumnya.
Microsoft dengan cepat menjauhkan diri dari pernyataan tersebut. Perusahaan mengatakan Hecht dipekerjakan secara khusus untuk "menyajikan perspektif yang berbeda dan asimetris" dan bukan seorang pengambil keputusan. Memo-memo miliknya, argumen Microsoft, tidak mewakili pandangan perusahaan.
Namun, faktanya adalah: seseorang dibayar untuk mengangkat kekhawatiran tersebut, dan kekhawatiran itu didokumentasikan, yang justru merupakan jenis bukti yang cenderung penting di pengadilan.
Kesaksian Nadella dan pertanyaan tentang paywall
Satya Nadella, CEO Microsoft, bersaksi bahwa "apa pun yang berada di balik paywall harus dilisensikan oleh siapa pun yang ingin menggunakannya." Ia melangkah lebih jauh, mengatakan bahwa seandainya ia tahu OpenAI melakukan pelatihan pada konten berbayar, ia akan menggunakan hak kontraktual Microsoft untuk meminta pelatihan ulang model tersebut. Juru bicara perusahaan kemudian mengatakan Nadella "berbicara mengenai prinsip-prinsip luas" tentang bagaimana orang menemukan dan mengonsumsi informasi, yang terbaca sebagai langkah mundur yang cukup signifikan.
Kesenjangan antara apa yang dikatakan Nadella di bawah sumpah dan apa yang diklarifikasi oleh juru bicara perusahaan setelahnya patut diperhatikan seiring berjalannya kasus ini.
Percakapan internal OpenAI sama jujurnya
Dokumen-dokumen tersebut juga tidak membiarkan OpenAI lepas dari tanggung jawab. Seorang staf OpenAI memberi tahu presiden Greg Brockman tentang cara membuat solusi untuk melewati paywall Times selama pelatihan. Tanggapan Brockman: "ah bagus."
Nick Turley, yang menjalankan tim produk ChatGPT, menulis pada Juni 2023 bahwa AI menimbulkan "ancaman eksistensial" bagi penerbit. Pada Februari 2024, ia menulis bahwa produk AI "akan menjadi semakin substitutif seiring dengan peningkatan kualitasnya." Seorang insinyur OpenAI, yang menulis pada Februari 2023, mencatat bahwa "tidak peduli seberapa menonjol kami menampilkan tautan, pengguna tidak akan mengeklik" sumber tersebut, yang secara langsung mematahkan argumen bahwa chatbot mendorong lalu lintas kembali ke penerbit.
Apa yang dilewatkan oleh sebagian besar pemain di sini adalah bahwa ini bukan dokumen bocoran dari pelapor pelanggaran (whistleblower). Ini adalah komunikasi internal yang dibuat, disimpan, dan kini harus diserahkan oleh OpenAI dan Microsoft dalam proses litigasi. Perusahaan-perusahaan tersebut tahu apa yang mereka tulis pada saat itu.
Peringatan "doom loop"
Di luar kerangka pencurian tenaga kerja, memo Hecht tahun 2023 mengangkat kekhawatiran terpisah yang sejak saat itu menjadi perdebatan hangat di kalangan riset AI. Argumennya adalah bahwa pelatihan pada konten yang dihasilkan AI menciptakan loop umpan balik yang menurunkan kualitas model dari waktu ke waktu, karena output dari satu generasi model menjadi data pelatihan untuk generasi berikutnya.
Ini bukan kekhawatiran pinggiran. Para peneliti telah mempelajari apa yang terjadi pada output model ketika data sintetis menjenuhkan kumpulan pelatihan, dan hasilnya tidak menggembirakan. Kuncinya di sini adalah seseorang di dalam Microsoft telah menandai risiko ini secara internal pada saat yang sama ketika perusahaan secara publik sangat optimis terhadap potensi AI.
Argumen penggunaan wajar (fair use) dan apa kata penerbit
Baik Microsoft maupun OpenAI berargumen bahwa pelatihan pada konten yang diterbitkan merupakan penggunaan wajar (fair use), mengubah artikel menjadi sesuatu yang baru alih-alih menggantikan yang asli. Argumen itu belum diuji di pengadilan.
Steven Lieberman, yang mewakili New York Daily News dan tujuh penerbit penggugat lainnya, merangkum pandangan para penggugat terhadap dokumen yang dibuka tersebut dengan jelas: "Dunia dapat melihat apa yang dipikirkan OpenAI dan Microsoft selama ini tentang kewajaran perilaku mereka sendiri."
Memo tahun 2020 dari Jack Clark, yang saat itu menjabat sebagai direktur kebijakan OpenAI, memperingatkan bahwa perusahaan tersebut "menciptakan sistem yang menggantikan tenaga kerja orang-orang yang mendefinisikan budaya masyarakat" dan akan "menjadi simbol bagaimana Silicon Valley secara gegabah melangkah ke bagian lain dari kehidupan dan meninggalkan kekacauan." Clark kemudian keluar untuk ikut mendirikan Anthropic.
Times, sebagai penggugat dalam kasusnya sendiri, menolak berkomentar. OpenAI tidak menanggapi permintaan komentar.
Apa artinya ini bagi ekosistem AI dan game yang lebih luas
Kasus ini penting jauh melampaui industri penerbitan. Pertanyaan yang sama tentang data pelatihan, persetujuan, dan kompensasi sedang diajukan di seluruh bidang kreatif, termasuk pengembangan game, seni konsep, pengisian suara, dan penulisan naratif. Jika pengadilan akhirnya memutuskan bahwa scraping AI massal bukan merupakan penggunaan wajar, implikasi bagi cara alat AI dibangun dan dilisensikan akan berdampak pada setiap industri kreatif.
Bagi para gamer dan pengembang yang menyaksikan alat AI menjadi bagian standar dari alur produksi, hasil dari kasus ini dapat membentuk seperti apa alat-alat tersebut nantinya dan siapa yang dibayar saat alat tersebut digunakan. Anda perlu memantau putusan sela Hakim Stein, yang akan memberi sinyal apakah kasus ini akan berlanjut ke persidangan atau diselesaikan sebelum catatan pembuktian lengkap diuji.
Untuk liputan lebih lanjut mengenai cerita industri yang memengaruhi cara game dibuat, lihat panduan game kami dan terus pantau perkembangan kasus ini di pengadilan.
