Стэнфорд показал, что LAION-5B содержал «контент о сексуальном насилии над детьми», и Stable AI использовал набор данных для обучения модели

Как сообщает IT House со ссылкой на Bloomberg, Стэнфордский университет недавно провел исследование обучающего набора данных модели с открытым исходным кодом LAION-5B и обнаружил, что в наборе данных было 3000 «предполагаемого контента о сексуальном насилии над детьми», после чего сопровождающие проекта LAION срочно удалили LAION-5B и заявили, что удалили 1008 «окончательно связанного контента». Согласно отчету, обучающий набор LAION-5B содержит в общей сложности 5,85 миллиарда единиц информации об изображениях, и Stability AI использовала набор данных LAION для обучения своей собственной модели ИИ, чтобы предоставить пользователям «графовый сервис Wensheng».

В связи с этим в Stability AI оперативно отреагировали зарубежным СМИ: «Хотя модель Stable Diffusion обучена с помощью LAION-5B, она использует «отфильтрованную и тонко настроенную» версию обучающей выборки, поэтому она «не влияет на выходные результаты модели».