¿Qué es la moderación mediante IA y la necesita Discord?

Las listas de palabras clave, la comparación de patrones y los límites de frecuencia detectan muchas cosas, pero están diseñados para detectar lo que alguien ha previsto de antemano. Un mensaje que sea ambiguo, que utilice expresiones que a nadie se le haya ocurrido bloquear o que combine varias pequeñas señales de alerta que, por separado, no activarían ninguna alerta, puede pasar desapercibido en un sistema basado exclusivamente en reglas.

La función AutoMod nativa de Discord evalúa el contenido de los mensajes directamente en función de las reglas que definas: listas de palabras clave, un filtro de spam preconfigurado y límites de menciones spam. No tiene en cuenta la posibilidad de revisar un caso realmente ambiguo teniendo en cuenta un contexto más amplio; un mensaje o bien cumple una regla o bien no la cumple.

Las señales deterministas se procesan en primer lugar: la moderación mediante IA solo revisa aquellos casos que ya han sido señalados como dignos de una segunda revisión: enlaces que parecen estafas, frases predefinidas, spam, menciones masivas, archivos adjuntos sospechosos o actividad en canales designados como de alto riesgo.

• Abarca 14 categorías: violencia y amenazas; estafas, fraudes y actividades ilegales; abusos sexuales; seguridad infantil; extorsión; consejos de gran repercusión; violación de la privacidad; piratería; armas peligrosas; odio o acoso; autolesiones; contenido sexual; desinformación electoral; y malware o ciberacoso.
• Elige «Solo avisar al personal» para un flujo de trabajo de aviso, o «Eliminar mensajes confirmados como peligrosos» para una acción destructiva confirmada —con una escalación opcional que requiera una confirmación más rigurosa en caso de resultados graves o ambiguos antes de la eliminación.
• Configura un canal de alertas privado, los roles del personal autorizados a utilizar acciones de alerta, las frases candidatas, los canales de alto riesgo, los canales o roles ignorados y los umbrales de puntuación.
• Nunca bloquea, expulsa ni suspende temporalmente a los miembros; para eliminar a alguien sigue siendo necesario seguir el proceso de confirmación configurado y contar con el permiso de Discord.

1. Comprueba que Server Premium esté activo: la moderación mediante IA es opcional y solo está disponible en la versión Premium.
2. Abre la sección «Moderación» en el panel de control y activa la «Moderación por IA».
3. Elige las categorías de seguridad que sean relevantes para tu comunidad; no es necesario que actives las 14 a la vez.
4. Establece las frases candidatas, los canales de alto riesgo y cualquier canal o función que se vaya a ignorar.
5. Selecciona «Solo avisar al personal» para empezar, revisa los resultados reales durante un tiempo y pasa a la opción «Eliminar mensajes confirmados como peligrosos» solo cuando confíes en la configuración.

• Aunque esperes que lo bloquee, expulse o le aplique un tiempo de espera, nunca lo hace; combínalo con /mod o con «Puntos de advertencia» para las acciones destructivas.
• Activa el modo «Eliminar» desde el primer día: empieza solo con el personal de «Alert» para que puedas comprobar la exactitud antes de que se elimine nada automáticamente.
• No des por sentado que una señal es correcta: los análisis de seguridad automatizados pueden equivocarse o carecer de contexto; mantén procedimientos de revisión por parte del personal y de recurso adecuados a tu comunidad.
• Activar las 14 categorías sin tener en cuenta cuáles son realmente relevantes para el perfil de riesgo real de tu comunidad.