AI Moderation
Modere comentarios y contenido generado por el usuario con Workers AI y complementos propios de EmDash.
Extensión
AI Moderation
Modere comentarios y contenido generado por el usuario con Workers AI y complementos propios de EmDash.
AI Moderation demuestra que EmDash utiliza la infraestructura nativa de Cloudflare para un problema editorial práctico: mantener seguras las secciones de comentarios y el texto generado por el usuario sin subcontratar todas las decisiones a un proveedor de caja negra. Se describe que el paquete ascendente aprovecha las barandillas estilo Workers AI y Llama Guard; verifique el modelo exacto y las perillas de política en packages/plugins/ai-moderation para su lanzamiento.
Instalación
- Confirme que su implementación de EmDash se ejecute en una pila donde Workers AI (o el backend de AI documentado para este complemento) esté disponible y esté permitido por su plan de cuenta.
- Habilite el complemento de moderación de IA desde el administrador de EmDash o conéctelo desde monorepo durante el desarrollo.
- Establezca los secretos necesarios y las variables de entorno como se describe en el complemento README (normalmente tokens API o enlaces que no deben confirmarse en Git).
- Prueba de humo en un entorno que no es de producción: envíe texto benigno y extremo para confirmar las decisiones de moderación y que el registro se comporte como se esperaba.
Configuración
Normalmente sintonizarás:
- Configuraciones de sensibilidad o políticas: lo que cuenta como bloquear, marcar o permitir (las opciones exactas dependen de la integración enviada).
- Comportamiento alternativo: cuando el servicio de IA no esté disponible, falle en cerrar (esperar para revisión) o fallar en abrir (publicar con una advertencia), según su apetito por el riesgo.
- Visibilidad de la auditoría: si los moderadores ven puntuaciones, categorías o solo decisiones finales.
Ejemplo (conceptual): un blog comunitario podría publicar automáticamente comentarios con una puntuación inferior a un umbral de riesgo, poner en cola envíos dudosos para revisión manual y bloquear infracciones de políticas de alta confianza. Asigne esos umbrales utilizando los controles expuestos en los archivos de administración o configuración para su versión.
Escenarios de uso
- Publicaciones con comentarios: reduce la carga de moderación y mantiene a los humanos informados sobre casos ambiguos.
- Envíos generados por el usuario: texto breve adjunto a formularios o presentaciones donde la clasificación automatizada acelera la revisión editorial.
- Wikis internos o documentos con sugerencias: selección ligera antes de publicar el contenido.
Consejos operativos
- Revisar periódicamente los falsos positivos; ajuste los umbrales después de tener tráfico real, no solo pruebas sintéticas.
- Combine con Registro de auditoría si el cumplimiento requiere decisiones rastreables sobre contenido moderado.
- Supervise el uso y la latencia de la IA de los trabajadores para que la moderación se mantenga dentro del presupuesto y las expectativas de UX.
Estado del registro (verificado el 2026-10-21): esta entrada no aparecía en los resultados del registro público de EmDash consultados ese día. Se conserva la dirección de la página existente como referencia.