AI Moderation
使用 Workers AI 和第一方 EmDash 插件挂钩管理评论和用户生成的内容。
插件
AI Moderation
使用 Workers AI 和第一方 EmDash 插件挂钩管理评论和用户生成的内容。
AI Moderation 演示了 EmDash 使用 Cloudflare 原生基础设施解决实际的编辑问题：保持评论部分和用户生成文本的安全，而不将每个决策外包给黑盒供应商。上游软件包被描述为利用 Workers AI 和 Llama Guard 式护栏；验证 packages/plugins/ai-moderation 中您的版本的确切型号和策略旋钮。
安装
- 确认您的 EmDash 部署在 Workers AI（或该插件记录的 AI 后端）可用且您的帐户计划允许的堆栈上运行。
- 从 EmDash 管理员启用 AI 审核插件或在开发过程中从 monorepo 连接它。
- 按照插件自述文件中的说明设置所需的机密和环境变量 — 通常是不得提交给 Git 的 API 令牌或绑定。
- 在非生产环境中进行冒烟测试：提交良性和边缘情况文本以确认审核决策和日志记录的行为符合预期。
配置
您通常会调整：
- 敏感性或策略预设 — 什么算作阻止、标志、允许（确切的选项取决于所提供的集成）。
- 回退行为 — 当 AI 服务不可用时，根据您的风险偏好，关闭失败（等待审核）或打开失败（发布警告）。
- 审核可见性 - 主持人是否可以看到分数、类别或仅看到最终决定。
示例（概念）： 社区博客可能会自动发布得分低于风险阈值的评论，对边界提交进行排队以进行手动审核，并阻止高可信度的策略违规行为。使用您的版本的管理或配置文件中公开的控件来映射这些阈值。
使用场景
- 带有评论的出版物 - 减少审核负担，同时让人们了解不明确的情况。
- 用户生成的提交 - 附在表格或推介上的短文本，自动分类可加快编辑审查速度。
- 带有建议的内部维基或文档 - 在内容上线之前进行轻量级筛选。
操作技巧
- 定期审查误报；在获得实际流量后调整阈值，而不仅仅是综合测试。
- 如果合规性需要对审核内容做出可追踪的决策，请与审核日志结合使用。
- 监控工作人员人工智能的使用情况和延迟，以便审核保持在预算和用户体验预期之内。
注册表状态（核实于 2026-10-21）： 在当日检查的 EmDash 公开注册表结果中未找到此条目。保留原页面地址以供参考。