Stanford, LAION-5B'nin "çocuk cinsel istismarı içeriği" içerdiğini ve Stable AI'nın modeli eğitmek için veri kümesini kullandığını ortaya çıkardı

IT House’a göre, Bloomberg’e atıfta bulunarak, Stanford Üniversitesi kısa süre önce açık kaynaklı model eğitim veri seti LAION-5B üzerinde bir çalışma yaptı ve veri setinde 3.000 “şüpheli çocuk cinsel istismarı içeriği” olduğunu tespit etti, ardından LAION proje geliştiricileri LAION-5B’yi acilen kaldırdı ve 1.008 “kesin ilgili içeriği” kaldırdığını iddia etti. Rapora göre, LAION-5B eğitim seti toplam 5,85 milyar adet görüntü bilgisine sahip ve Stability AI, kullanıcılara bir “Wensheng Grafik Hizmeti” sağlamak için kendi AI modelini eğitmek için LAION veri setini kullandı.

Bu bağlamda, Stability AI yabancı medyaya hızlı bir şekilde yanıt verdi, “Kararlı Difüzyon modeli LAION-5B ile eğitilmiş olsa da, eğitim setinin ‘filtrelenmiş ve ince ayarlı’ bir versiyonunu kullanıyor, bu nedenle ‘model çıktı sonuçlarını etkilemiyor’”.