Stanford tiết lộ rằng LAION-5B chứa "nội dung lạm dụng tình dục trẻ em" và Stable AI đã sử dụng bộ dữ liệu để đào tạo mô hình

Theo IT House, trích dẫn Bloomberg, Đại học Stanford gần đây đã tiến hành một nghiên cứu về bộ dữ liệu đào tạo mô hình nguồn mở LAION-5B và phát hiện ra rằng có 3.000 “nội dung nghi ngờ lạm dụng tình dục trẻ em” trong bộ dữ liệu, sau đó những người duy trì dự án LAION đã khẩn trương loại bỏ LAION-5B và tuyên bố đã xóa 1.008 “nội dung liên quan đến kết luận”. Theo báo cáo, bộ đào tạo LAION-5B có tổng cộng 5,85 tỷ mẩu thông tin hình ảnh và Stability AI đã sử dụng bộ dữ liệu LAION để đào tạo mô hình AI của riêng mình, nhằm cung cấp cho người dùng “Dịch vụ đồ thị Wensheng”.

Về vấn đề này, Stability AI đã nhanh chóng phản hồi với các phương tiện truyền thông nước ngoài, “Mặc dù mô hình khuếch tán ổn định được đào tạo với LAION-5B, nhưng nó sử dụng phiên bản ‘được lọc và tinh chỉnh’ của bộ đào tạo, vì vậy nó ‘không ảnh hưởng đến kết quả đầu ra của mô hình’”.