ЮНІСЕФ оголошує глобальні дії з метою захисту дітей: заборона зображень у рекламних оголошеннях, створених за допомогою ШІ

Міжнародна організація очолює безпрецедентну ініціативу для урядів світу щодо рішучих юридичних заходів проти матеріалів сексуального насильства над дітьми, створених за допомогою штучного інтелекту. Дослідники попереджають, що зображення дитячої реклами та іншого контенту були маніпульовані та експлуатовані за допомогою технологій глибокого навчання, що піддає неповнолітніх безпрецедентним ризикам у цифровому середовищі.

Тривожне зростання маніпуляції дитячими образами

Згідно з дослідженнями, які цитує NS3.AI, більше ніж 1,2 мільйона дітей під час періоду аналізу їхні зображення маніпулювали у відверті дипфейки. Це відкриття виявило масштаби цифрової експлуатації дітей, включно з шкідливим створенням зображень із дитячої реклами, що використовувалася з шкідливими цілями.

Це явище не обмежується поодинокими випадками: регулятори в кількох країнах розпочали офіційні розслідування проти конкретних технологій ШІ. Серед найвідоміших випадків — Grok, чат-бот на основі штучного інтелекту, розроблений компанією X (раніше Twitter), якого звинувачували у створенні сексуалізованого контенту неповнолітніх. Ця ситуація викликала негайну реакцію в кількох юрисдикціях, уряди впровадили попередні заборони на ці інструменти.

Глобальна реакція: уряди криміналізують зловживаючий контент ШІ

ЮНІСЕФ просуває комплексні правові реформи, щоб матеріали, створені ШІ, прямо класифікували як сексуальне насильство над дітьми у національному законодавстві. Ця юридична класифікація є критично важливою для того, щоб системи правосуддя могли належним чином притягнути до відповідальності виробників і дистриб’юторів цього контенту.

Низка країн уже відповіла суворішими заборонами та регулюваннями, визнаючи, що традиційних заходів недостатньо враховувати швидкість технологічних інновацій. Регулятори розробляють правові рамки, які визначають конкретні правопорушення, пов’язані зі створенням зображень дитячої реклами та іншого експлуататорського контенту за допомогою штучного інтелекту.

Відповідальність розробника: термінові заходи безпеки

Окрім дій уряду, ЮНІСЕФ безпосередньо закликає розробників ШІ впроваджувати надійні технологічні захисти у своїх системах. Організація наголошує, що належна перевірка прав дітей має стати обов’язковим стандартом у індустрії ШІ.

Розробників заохочують проводити ретельні аудити безпеки, впроваджувати ефективні фільтри контенту та встановлювати протоколи звітування про підозрілу активність. Ці профілактичні заходи вважаються необхідними для запобігання використанню інструментів ШІ у створенні експлуататорських матеріалів дітей.

Глобальна ініціатива є переломним моментом у управлінні технологіями, визнаючи, що захист дітей від шахрайських рекламних зображень і сексуалізованого контенту вимагає координації між урядами, регуляторами та технологічною індустрією. Лише завдяки цим скоординованим зусиллям можна ефективно пом’якшити шкідливий вплив штучного інтелекту на дітей.