Les principales plateformes de médias sociaux font face à une pression croissante concernant l'abus de contenu généré par IA. Suite à de nombreuses plaintes d'utilisateurs concernant des fonctionnalités de deepfake et de génération d'images non consensuelles, les plateformes sont contraintes de renforcer leurs contrôles. Une plateforme sociale majeure a annoncé qu'elle désactiverait la capacité de son outil d'IA générative à manipuler des photos de personnes réelles sans permission. Cette décision reflète une inquiétude croissante concernant la vie privée numérique, le consentement et le potentiel de mauvaise utilisation de la technologie de l'intelligence artificielle. Les régulateurs et les groupes de défense des droits civiques examinent de plus en plus la manière dont les plateformes gèrent ces capacités sensibles de l'IA, en particulier celles affectant l'imagerie personnelle et la protection de l'identité.