ArXiv Khối AI-Generated Survey Papers Sau 'Lũ' Đơn Xin Kém Chất Lượng

Tóm tắt

• ArXiv đã thay đổi chính sách của mình sau khi các công cụ AI khiến việc tạo ra các bài khảo sát hàng loạt trở nên dễ dàng.
• Chỉ các bài báo đánh giá hoặc bài viết vị trí đã được đánh giá ngang hàng mới được chấp nhận trong danh mục Khoa học Máy tính.
• Các nhà nghiên cứu chia rẽ, với một số cảnh báo rằng quy định này gây bất lợi cho các tác giả mới vào nghề trong khi những người khác cho rằng nó là cần thiết để ngăn chặn spam AI.

Trung tâm Nghệ thuật, Thời trang và Giải trí của Decrypt.

Khám phá SCENE

<br>

ArXiv, một kho lưu trữ miễn phí được thành lập tại Đại học Cornell, đã trở thành trung tâm chính cho hàng nghìn nhà khoa học và công nghệ trên toàn cầu để công bố các tài liệu nghiên cứu sớm, sẽ không còn chấp nhận các bài viết đánh giá hoặc bài viết vị trí trong danh mục Khoa học Máy tính của nó trừ khi chúng đã được đánh giá đồng đẳng tại một tạp chí hoặc hội nghị.

Sự thay đổi chính sách, được công bố vào ngày 31 tháng 10, diễn ra sau một “cơn lũ” các bài khảo sát do AI tạo ra mà các người điều hành mô tả là “chỉ là những thư mục đã được chú thích.” Kho lưu trữ hiện nhận hàng trăm bài nộp này mỗi tháng, tăng từ một lượng nhỏ các đánh giá chất lượng cao được viết bởi các nhà nghiên cứu cấp cao trong lịch sử.

“Trong vài năm qua, arXiv đã bị tràn ngập bởi các bài báo,” một tuyên bố chính thức trên trang web giải thích. “Trí tuệ nhân tạo sinh tạo/mô hình ngôn ngữ lớn đã làm tăng thêm sự tràn ngập này bằng cách làm cho việc viết các bài báo—đặc biệt là các bài không giới thiệu kết quả nghiên cứu mới—trở nên nhanh chóng và dễ dàng.”

Phần Khoa học Máy tính của @arxiv hiện đang yêu cầu đánh giá đồng cấp trước cho các Bài khảo sát Tài liệu và Bài viết Vị trí. Chi tiết trong một bài đăng blog mới

— Thomas G. Dietterich (@tdietterich) Ngày 31 tháng 10 năm 2025

<br>

“Quyết định này được thúc đẩy bởi sự gia tăng lớn trong các bài báo khảo sát hỗ trợ LLM,” Thomas G. Dietterich, một người điều hành arXiv và cựu chủ tịch Hiệp hội Thúc đẩy Trí tuệ Nhân tạo, đã cho biết trên X. “Chúng tôi không có đủ nguồn lực của người điều hành để xem xét các bài nộp này và xác định các khảo sát tốt từ những khảo sát kém.”

Nghiên cứu được công bố trên Nature Human Behaviour cho thấy gần một phần tư tất cả các tóm tắt khoa học máy tính cho thấy bằng chứng về sự sửa đổi của mô hình ngôn ngữ lớn vào tháng 9 năm 2024. Một nghiên cứu riêng biệt trong Science Advances cho thấy việc sử dụng AI trong các bài báo nghiên cứu được công bố vào năm 2024 đã tăng vọt kể từ khi ChatGPT ra mắt. Nguồn: ArXiv

Các nhà điều hành tình nguyện của ArXiv luôn lọc các bài nộp dựa trên giá trị học thuật và tính liên quan đến chủ đề, nhưng họ không thực hiện việc đánh giá đồng cấp. Các bài viết tổng quan và các bài báo lập trường chưa bao giờ được coi là loại nội dung chính thức, mặc dù các nhà điều hành đã có những ngoại lệ cho các công trình từ các nhà nghiên cứu hoặc các xã hội khoa học có uy tín. Hệ thống tùy ý đó đã sụp đổ dưới áp lực của các bài nộp do AI tạo ra.

Nền tảng hiện đang xử lý một khối lượng đơn đăng ký đã tăng lên nhiều lần trong những năm gần đây, với việc AI tạo sinh làm cho việc sản xuất các bài khảo sát nông cạn trở nên dễ dàng.

Phản ứng từ cộng đồng nghiên cứu đã khá trái chiều. Stephen Casper, một nhà nghiên cứu về an toàn AI, đã bày tỏ lo ngại rằng chính sách này có thể ảnh hưởng không tương xứng đến những nhà nghiên cứu mới vào nghề và những người làm việc về các chủ đề đạo đức và quản trị.

“Các bài báo đánh giá/định vị thường được viết bởi những người trẻ tuổi, những người không có quyền truy cập vào nhiều máy tính, và những người không ở các tổ chức có nhiều kinh nghiệm xuất bản,” ông viết trong một bài phê bình.

Khác thì chỉ trích lập trường của ArXiv là sai ( và thậm chí là ngu ngốc ), trong khi những người khác thậm chí còn ủng hộ việc sử dụng AI để phát hiện các bài báo do AI tạo ra.

Thomas, có sự phản đối đáng kể đối với việc arxiv trở thành người gác cổng, nghiêng về việc xem xét đồng đẳng, và phớt lờ vấn đề cho đến khi nó trở nên tồi tệ hơn. Bạn đã xem xét bất kỳ đề xuất xây dựng nào được cộng đồng AI/ML đưa ra chưa?

1. Có một phần không được kiểm duyệt của ArXiv ( từ…

— Justin Angel (@JustinAngel) Ngày 2 tháng 11 năm 2025

<br>

Một vấn đề là các công cụ phát hiện AI đã chứng minh là không đáng tin cậy, với tỷ lệ dương tính giả cao có thể đánh dấu không công bằng các công việc hợp pháp. Mặt khác, một nghiên cứu gần đây cho thấy các nhà nghiên cứu đã không xác định được một phần ba các tóm tắt y tế được tạo ra bởi ChatGPT là do máy viết. Hiệp hội Nghiên cứu Ung thư Hoa Kỳ báo cáo rằng ít hơn 25% tác giả tiết lộ việc sử dụng AI mặc dù có các chính sách tiết lộ bắt buộc.

Yêu cầu mới có nghĩa là các tác giả phải nộp tài liệu chứng minh việc đánh giá đồng nghiệp thành công, bao gồm các tham khảo tạp chí và DOI. Các đánh giá hội thảo sẽ không đáp ứng tiêu chuẩn. ArXiv đã nhấn mạnh rằng sự thay đổi này chỉ ảnh hưởng đến danh mục Khoa học Máy tính vào thời điểm này, mặc dù các lĩnh vực khác có thể áp dụng các chính sách tương tự nếu họ gặp phải sự gia tăng tương tự trong các bài nộp được tạo ra bởi AI.

Bước đi này phản ánh một cuộc đánh giá rộng hơn trong xuất bản học thuật. Các hội nghị lớn như CVPR 2025 đã thực hiện các chính sách từ chối bài báo từ những người đánh giá bị đánh dấu vì hành vi thiếu trách nhiệm. Các nhà xuất bản đang đối mặt với những bài báo chứa đựng những dấu hiệu rõ ràng của AI, như một bài bắt đầu bằng câu, “Chắc chắn rồi, đây là một phần giới thiệu có thể cho chủ đề của bạn.”