Qu'est-ce que la modération par IA, et Discord en a-t-il besoin ?

Les listes de mots-clés, la reconnaissance de motifs et les limites de débit permettent de détecter beaucoup de choses, mais elles sont conçues pour repérer ce qui a été anticipé. Un message ambigu, qui utilise une formulation que personne n’avait songé à bloquer, ou qui combine plusieurs petits signaux d’alerte qui, pris isolément, ne déclencheraient aucune alerte, peut passer entre les mailles d’un système reposant uniquement sur des règles.

La fonctionnalité AutoMod native de Discord évalue le contenu des messages directement par rapport aux règles que vous définissez : listes de mots-clés, filtre anti-spam prédéfini, limites relatives aux mentions abusives. Elle ne permet pas d'examiner un cas véritablement ambigu en tenant compte d'un contexte plus large ; un message correspond à une règle ou n'y correspond pas.

Les signaux déterministes sont traités en priorité — la modération par IA n'examine que les éléments déjà signalés comme méritant un examen plus approfondi : liens semblant frauduleux, expressions prédéfinies, spam, mentions en masse, pièces jointes suspectes ou activité sur des canaux considérés comme à haut risque.

• Couvre 14 catégories : violence et menaces ; escroqueries, fraudes et activités illégales ; abus sexuels ; sécurité des enfants ; extorsion ; conseils à fort impact ; atteinte à la vie privée ; piratage ; armes dangereuses ; haine ou harcèlement ; automutilation ; contenu à caractère sexuel ; désinformation électorale ; et logiciels malveillants ou cyberharcèlement.
• Choisissez l’option « Avertir le personnel uniquement » pour un processus de notification, ou « Supprimer les messages confirmés comme dangereux » pour une action destructive confirmée — avec une escalade facultative exigeant une confirmation plus rigoureuse en cas de résultats graves ou ambigus avant la suppression.
• Configurez un canal d'alerte privé, les rôles du personnel autorisés à utiliser les actions d'alerte, les expressions candidates, les canaux à haut risque, les canaux ou rôles ignorés, ainsi que les seuils de notation.
• Il n'interdit, n'exclut ni ne met jamais les membres en attente — une suppression nécessite toujours le processus de confirmation défini et l'autorisation Discord.

1. Vérifiez que Server Premium est activé — la modération par IA est une fonctionnalité optionnelle réservée aux abonnés Premium.
2. Ouvrez la section « Modération » dans le tableau de bord et activez la modération par IA.
3. Choisissez les catégories de sécurité qui concernent votre communauté — vous n'êtes pas obligé de les activer toutes les 14 en même temps.
4. Définissez les expressions candidates, les canaux à haut risque, ainsi que les canaux ou rôles à ignorer.
5. Sélectionnez d'abord l'option « Alerter uniquement le personnel », examinez les résultats réels pendant un certain temps, puis passez à l'option « Supprimer les messages confirmés comme dangereux » uniquement lorsque vous aurez confiance en la configuration.

• On s'attend à ce qu'il bannisse, expulse ou mette en pause — mais il ne le fait jamais ; associez-le à la commande /mod ou aux « points d'avertissement » en cas de comportement destructeur.
• Activez le mode « Suppression » dès le premier jour — commencez par avertir uniquement le personnel afin de pouvoir vérifier l'exactitude des données avant que quoi que ce soit ne soit supprimé automatiquement.
• Considérer un signalement comme avéré — les analyses de sécurité automatisées peuvent être erronées ou manquer de contexte ; veillez à ce que les procédures de révision par le personnel et de recours soient adaptées à votre communauté.
• Activer les 14 catégories sans tenir compte de celles qui correspondent réellement au profil de risque de votre communauté.