Le faux profil grossier existe encore. Il partage maintenant l’espace avec des comptes munis d’un visage généré, d’une biographie cohérente et de messages variés. L’IA n’a pas inventé le mensonge; elle réduit le coût de fabrication et augmente le volume que la modération doit absorber.

Je garde les termes précis. En fraude financière, une identité synthétique peut combiner des renseignements réels et fictifs pour obtenir du crédit ou contourner une vérification. Un personnage fabriqué sur un réseau social est souvent simplement un faux profil. Les contrôles ne sont pas les mêmes.

Une photo plausible n’est jamais une preuve d’identité. Une plateforme assemble plutôt plusieurs signaux : adresse et appareil, âge du compte, vérification de courriel ou téléphone, comportement, relations, paiements éventuels et historique de sanctions.

création -> contrôles de vitesse -> vérification minimale -> compte limité
        -> événements -> score de risque -> friction ou modération
        -> appels et corrections

Chercher le réseau, pas seulement le visage

Un générateur peut produire cent visages différents. L’opération laisse souvent d’autres ressemblances :

1. comptes créés dans une fenêtre courte;
2. appareils, réseaux ou fuseaux horaires communs;
3. mêmes cibles et ordre de publication;
4. liens raccourcis ou destinations répétées;
5. activité trop régulière jour et nuit;
6. groupes qui se suivent et se relaient artificiellement;
7. variantes de texte sémantiquement proches malgré des mots différents.

Un graphe relie comptes, appareils, adresses, contenus et destinations. La détection peut trouver des communautés ou des motifs inhabituels. Aucun signal ne suffit : une famille partage une connexion, un organisme crée plusieurs comptes le même jour et une campagne légitime publie le même lien. Le score doit conduire à une friction proportionnelle, pas automatiquement à une accusation.

Pour un compte peu fiable, la plateforme limite invitations, messages et portée, demande une preuve supplémentaire ou place le contenu en revue. Les limites de vitesse augmentent le coût de l’attaquant. Une preuve d’identité forte peut être réservée aux actions sensibles; la demander à tout le monde exclurait inutilement des utilisateurs légitimes et concentrerait davantage de données personnelles.

La provenance cryptographique aide lorsqu’une image possède une chaîne vérifiable depuis sa création. Son absence ne prouve rien, parce qu’une capture ou une plateforme peut retirer les métadonnées et que beaucoup de contenu légitime n’en a pas. Sa présence doit être validée jusqu’à une autorité connue; un badge dessiné dans l’image ne vaut pas une signature.

La modération a besoin d’une file priorisée par impact, pas seulement par score. Une campagne coordonnée visant une personne passe avant cent biographies douteuses inactives. Les analystes voient les raisons, peuvent fusionner des cas et documentent la décision. Les appels réinjectent les faux positifs dans l’évaluation sans permettre au modèle de s’entraîner automatiquement sur chaque jugement isolé.

Après une détection, la reprise inclut révocation de sessions, retrait coordonné, conservation des preuves nécessaires et avis aux personnes touchées. Supprimer un compte sans traiter ses liens laisse le réseau se reconstruire. À l’inverse, conserver toutes les données « au cas où » crée son propre risque de surveillance.

L’attaquant n’a pas besoin que chaque profil soit excellent; il veut saturer les contrôles et fabriquer une impression de consensus. La défense doit donc rendre la création coûteuse, analyser les comportements ensemble et garder un recours humain. Le visage est la partie visible; l’architecture de l’identité vit dans les événements et les relations.