Các hệ thống tổng hợp tin tức dựa trên AI hiện tại đặt ra những rủi ro nghiêm trọng không nên bỏ qua. Thách thức cơ bản nằm ở việc xác định độ tin cậy của nguồn và tính xác thực của các tuyên bố. Các chỉ số truyền thống không đủ để đánh giá—số lượng tương tác như lượt thích và lượt xem có thể dễ dàng bị thao túng, nhưng đây thường là những tín hiệu duy nhất mà hệ thống AI dựa vào khi tóm tắt thông tin. Hậu quả là thực tế: các trình tóm tắt AI thường xuyên gán nhầm tuyên bố hoặc xác định sai các nhân vật chính trong lĩnh vực tiền điện tử (việc gán danh tính sai xảy ra thường xuyên hơn bạn nghĩ). Nếu không có các cơ chế xác minh mạnh mẽ để phân biệt nguồn đáng tin cậy với nội dung giả mạo hoặc bị thổi phồng, việc tuyển chọn tin tức bằng AI trở thành một kênh tiềm năng để lan truyền thông tin sai lệch. Ngành công nghiệp cần các giải pháp tốt hơn để xác thực chất lượng thông tin trước khi các hệ thống này trở thành phổ biến.