YouTube có một vũ khí mới trong cuộc chiến chống lại nội dung "rác" do AI tạo ra, và vũ khí đó chính là bạn.
Bắt đầu từ khoảng ngày 17 tháng 3, người dùng trên ứng dụng di động YouTube bắt đầu gặp phải một lời nhắc mới khi đánh giá video. Câu hỏi là: "Video này có giống như nội dung AI chất lượng thấp không?" hoặc "Video này có cảm giác như nội dung AI chất lượng thấp đến mức nào?" Các phản hồi dao động từ "Không chút nào" đến "Cực kỳ", cho phép người xem trực tiếp gắn cờ nội dung mà họ cho là do máy tạo ra và tốn ít công sức.
Quy mô vấn đề mà YouTube đang cố gắng giải quyết
Đây không phải là YouTube hoảng loạn vô cớ. Nền tảng này đã bị nhấn chìm bởi nội dung do AI tạo ra trong một thời gian, và các hệ thống xem xét tự động cũng như thủ công hiện có đã không theo kịp. Một nghiên cứu cho thấy khoảng 21% trong số 500 video được đề xuất đầu tiên được hiển thị cho một tài khoản YouTube hoàn toàn mới đã được xác định là nội dung AI rác, với thêm 33% rơi vào danh mục "brainrot" rộng hơn gồm các nội dung lặp đi lặp lại, thiếu chất lượng.
Vấn đề đặc biệt ảnh hưởng nặng nề đến khán giả trẻ. Một cuộc điều tra của tờ New York Times đã phát hiện ra hàng nghìn video nhắm vào trẻ em, tự nhận là mang tính giáo dục nhưng chủ yếu được tạo ra để thu hút sự chú ý với nỗ lực hoặc giá trị thực tế tối thiểu. Các chuyên gia đã cảnh báo đây là một mối quan ngại thực sự đối với sự phát triển của người xem trẻ tuổi.
Hiện tại, YouTube không cấm người sáng tạo sử dụng các công cụ AI và không có yêu cầu chung về việc tiết lộ nội dung do AI tạo ra. Rủi ro đối với người sáng tạo là mất khả năng kiếm tiền nếu nội dung của họ bị gắn cờ là chất lượng thấp, nhưng việc thực thi ít nhất là không nhất quán.
Thu thập ý kiến để phát hiện, với một số lưu ý lớn
Lời nhắc mới dành cho người xem bổ sung thêm một lớp thứ ba lên trên các hệ thống phát hiện hiện có của YouTube, về cơ bản là biến lượng lớn người dùng của mình thành một lực lượng kiểm duyệt không chính thức. Với hơn 2 tỷ người dùng đăng nhập truy cập nền tảng hàng tháng, đó là một lượng phản hồi tiềm năng khổng lồ.
Tuy nhiên, vấn đề là: YouTube chưa giải thích cách dữ liệu này sẽ thực sự được sử dụng. Công ty chưa làm rõ mức độ ảnh hưởng của đánh giá của người xem, liệu chúng có kích hoạt hành động tự động đối với nội dung bị gắn cờ hay không, hoặc hệ thống sẽ xử lý các trường hợp dương tính giả, nơi nội dung hợp pháp do con người tạo ra bị gắn nhãn sai như thế nào.
cảnh báo
Ít nhất một người dùng trên X đã nêu lên lo ngại rằng việc thu thập phản hồi này trên quy mô lớn có thể được sử dụng làm dữ liệu đào tạo cho các mô hình video AI, có khả năng giúp nội dung do AI tạo ra trong tương lai trông thuyết phục hơn và khó phát hiện hơn.
Đó không phải là một quan điểm hẹp. Nếu Google đưa dữ liệu "rác" do người xem gắn nhãn vào các mô hình tạo video Veo của mình, kết quả cuối cùng có thể là AI được đào tạo đặc biệt để tránh các mẫu mà con người gắn cờ là chất lượng thấp. Dù đó có phải là ý định hay không, YouTube vẫn chưa giải quyết.
Điều này có ý nghĩa gì đối với người sáng tạo và người xem
Đối với người sáng tạo, rủi ro đã trở nên rõ ràng hơn. Nếu tình cảm của người xem trực tiếp ảnh hưởng đến cách nội dung được xếp hạng hoặc kiếm tiền, ngay cả những người sáng tạo hợp pháp sử dụng công cụ AI như một phần quy trình làm việc của họ cũng có thể gặp phải đánh giá tiêu cực.
Đối với người xem, đây là một sự thay đổi thực sự thú vị trong cách thức hoạt động của việc kiểm duyệt nền tảng. Thay vì chỉ dựa vào thuật toán, YouTube đang đặt cược rằng những người thực sự xem có cảm nhận tốt hơn về những gì cảm thấy trống rỗng và do máy tạo ra.
Liệu sự đặt cược đó có thành công hay không hoàn toàn phụ thuộc vào cách YouTube sử dụng dữ liệu mà họ thu thập, điều mà hiện tại vẫn còn là một câu hỏi mở.Hãy nhớ kiểm tra thêm:
