L'UNICEF lance des actions mondiales pour protéger les enfants : interdire les images de publicités inappropriées générées par IA

L’organisation internationale mène une initiative sans précédent pour que les gouvernements du monde entier prennent des mesures légales fermes contre le matériel d’abus sexuel infantile créé par intelligence artificielle. Les chercheurs avertissent que des images de publicités pour enfants et d’autres contenus ont été manipulées et exploitées via des technologies de deep learning, exposant les mineurs à des risques sans précédent dans le paysage numérique.

La croissance alarmante de la manipulation d’images infantiles

Selon des rapports d’enquête cités par NS3.AI, plus de 1,2 million d’enfants ont vu leurs images manipulées dans des deepfakes explicites durant la période d’analyse. Cette découverte a révélé l’ampleur massive de l’exploitation numérique des enfants, y compris la génération malveillante d’images de publicités pour enfants utilisées à des fins nuisibles.

Ce phénomène ne se limite pas à des cas isolés : des régulateurs de plusieurs pays ont lancé des enquêtes officielles contre des technologies spécifiques d’IA. Parmi les cas les plus notables figure celui de Grok, le chatbot d’intelligence artificielle développé par X (anciennement Twitter), qui a été accusé de produire du contenu sexualisé impliquant des mineurs. Cette situation a suscité des réponses immédiates dans plusieurs juridictions, avec des gouvernements mettant en place des interdictions préliminaires de ces outils.

Réponse mondiale : les gouvernements criminalisent le contenu abusif généré par l’IA

L’UNICEF promeut des réformes légales globales afin que le matériel généré par intelligence artificielle soit explicitement classé comme abus sexuel infantile dans les législations nationales. Cette classification juridique est essentielle pour que les systèmes judiciaires puissent poursuivre efficacement les producteurs et distributeurs de ce contenu.

Divers pays ont déjà répondu par des interdictions et des réglementations plus strictes, reconnaissant que les mesures traditionnelles sont insuffisantes face à la rapidité de l’innovation technologique. Les organismes régulateurs élaborent des cadres légaux précisant les infractions particulières liées à la génération d’images de publicités pour enfants et d’autres contenus exploiteurs via l’IA.

Responsabilité des développeurs : mesures de sécurité urgentes

Au-delà de l’action gouvernementale, l’UNICEF exhorte directement les entreprises de développement d’intelligence artificielle à mettre en œuvre des protections technologiques robustes dans leurs systèmes. L’organisation insiste sur le fait que la diligence raisonnable en matière de droits des enfants doit devenir une norme obligatoire dans toute l’industrie de l’IA.

Les développeurs sont encouragés à réaliser des audits de sécurité approfondis, à mettre en place des filtres de contenu efficaces et à établir des protocoles de signalement pour les activités suspectes. Ces mesures préventives sont considérées comme essentielles pour empêcher que des outils d’IA soient instrumentalisés dans la création de matériel exploitant des mineurs.

L’initiative mondiale marque un tournant dans la gouvernance de la technologie, reconnaissant que la protection des enfants contre les images de publicités générées frauduleusement et contenus sexualisés nécessite une coordination entre gouvernements, régulateurs et industrie technologique. Ce n’est qu’à travers cet effort concerté que l’on pourra efficacement atténuer les impacts néfastes de l’intelligence artificielle sur l’enfance.