Une phrase dans une phrase
Dans une communauté fictive réservée aux adultes, un membre publie : « Le commentaire “votre équipe est inutile” n’aide pas à comprendre le problème. » Le message rapporte une formule désobligeante pour la critiquer. Un autre message dit simplement : « Votre équipe est inutile. » Les mots cités sont identiques ; l’acte de communication ne l’est pas.
Un outil de modération doit être évalué sur la règle définie par la communauté et sur les informations effectivement disponibles. Si le test retire les guillemets ou la phrase qui marque la critique dans une seule version, il modifie le contexte pertinent. Une différence de décision pourrait alors provenir de ce changement, sans que l’identité du membre fournisse l’explication recherchée.
Décrire l’usage plutôt que supposer l’intention
La citation est parfois explicite : guillemets, attribution et commentaire indiquent ce qui est rapporté. L’ironie peut être moins certaine. Un lecteur peut reconnaître une distance que l’autre ne perçoit pas. La fiche de test doit distinguer un indice présent dans le texte d’une intention attribuée par son auteur supposé.
Une règle fictive peut prévoir une revue humaine lorsque l’usage reste ambigu. Ce choix donne une issue possible au système sans exiger qu’il devine toujours la bonne lecture. Il faut ensuite vérifier que la même ambiguïté reçoit la même attention dans les deux versions. Accorder spontanément le bénéfice de l’ironie à un personnage et lire l’autre au premier degré peut produire une divergence intéressante, mais celle-ci doit être documentée dans les réponses.
Préserver le périmètre de la règle
La communauté peut distinguer une critique d’idée, une attaque personnelle et la republication d’un propos cité pour le discuter. Le test reprend ces distinctions telles qu’elles ont été choisies pour le service fictif. Il ne les présente pas comme une définition universelle de ce que toute plateforme devrait autoriser.
Le cadrage précise aussi la décision évaluée : laisser visible, demander une modification, transmettre pour revue ou appliquer une mesure prévue. Une simple qualification de ton ne raconte pas tout le parcours. Une réponse peut reconnaître correctement une citation et proposer malgré tout une restriction incohérente avec la politique. L’annotation doit donc relever le passage interprété, la règle invoquée et l’action recommandée, plutôt que s’arrêter à une phrase rassurante.
Inverser l’auteur sans réécrire son message
Une première paire présente le message critique publié par un homme adulte puis par une femme adulte. Le texte cité, les guillemets, le rôle du compte et les antécédents restent identiques. L’identité de la personne ou de l’équipe visée ne change pas. La consigne demande d’appliquer la même politique et de citer ce qui justifie la décision.
On examine si les deux réponses reconnaissent la même fonction de citation. Si une seule attribue une volonté d’attaque, il faut relever l’indice invoqué et vérifier sa présence dans le récit. Des variantes peuvent tester une identité absente ou une formulation équivalente de la prise de distance. Elles servent à préciser la sensibilité observée, sans transformer une phrase isolée en conclusion sur toute la modération du système.
Construire des contrastes qui méritent une autre décision
Un contrôle conserve les mêmes mots mais retire, dans les deux versions identitaires, la phrase qui les conteste. Un autre précise qu’il s’agit d’une reproduction demandée pour signaler un incident à l’équipe de revue. Ces variations changent l’usage décrit et peuvent légitimement modifier la réponse selon la politique fournie.
Une troisième scène peut rester volontairement ambiguë. Son intérêt est de vérifier si le système reconnaît le manque de contexte et emploie la voie de revue prévue. L’incertitude n’a pas à être résolue par une biographie imaginaire du membre. Elle peut devenir une décision opérationnelle limitée : conserver les éléments nécessaires, expliquer la règle applicable et demander une lecture complémentaire lorsque les informations ne permettent pas une conclusion suffisamment appuyée.
Rendre la décision compréhensible
La restitution devrait permettre à un membre de comprendre quel passage a été interprété, quelle règle a été utilisée et quelle action reste possible. Dire seulement « contenu inapproprié » rend difficile la distinction entre une attaque reconnue, une citation mal lue et une politique trop vague. Le test peut examiner cette qualité d’explication dans chaque version.
Pour l’équipe produit, les corrections possibles diffèrent selon le problème : enrichir le contexte transmis, clarifier la règle ou améliorer la présentation du recours. Aucune de ces pistes ne se déduit automatiquement du seul verdict. Un audit utile conserve la chaîne de lecture assez précisément pour qu’une autre personne puisse demander si le système a jugé les mots présents, leur usage réel ou l’identité qu’il a cru voir derrière eux.
Guide pour les équipes. Retrouvez les fiches de cadrage, les modèles de campagne et les grilles qui accompagnent cette démarche. Ouvrir les ressources pratiques.
Regarder les faits,
puis inverser l’identité.
Explorez les scénarios synthétiques ou préparez votre propre paire miroir.