AI 审核

使用 Workers AI 与 EmDash 原生插件钩子，对评论与用户生成内容进行审核。

插件

AI 审核

使用 Workers AI 与 EmDash 原生插件钩子，对评论与用户生成内容进行审核。

分类: AI 智能
状态: 可用
版本: 测试版内置
价格: 测试版内置

在 Claude 中打开在 ChatGPT 中打开

分享到 X 分享到 LinkedIn 分享到 Reddit

产品详情

分类: AI 智能
状态: 可用
版本: 测试版内置

AI Moderation 展示 EmDash 如何借助 Cloudflare 原生基础设施解决实际的编辑问题：在保持评论区与用户文本安全的同时，不必把每一次决策都外包给黑盒厂商。上游包说明使用 Workers AI 与类 Llama Guard 的护栏；具体模型与策略旋钮请以对应版本的 packages/plugins/ai-moderation 为准。

安装

确认 EmDash 部署运行在可使用 Workers AI（或文档为该插件指定的 AI 后端）且账户套餐允许的栈上。
在 EmDash 管理后台启用 AI Moderation，或在开发时从 monorepo 接入。
按插件 README 设置所需的密钥与环境变量——通常是 API 令牌或绑定，切勿提交到 Git。
在非生产环境做冒烟测试：提交正常与边界文本，验证审核决策与日志。

配置

通常会调整：

敏感度或策略预设 — 何为拦截、标记或放行（以实际集成为准）。
降级行为 — AI 服务不可用时的策略：严格（待审）或宽松（带警告发布），取决于风险承受度。
审计可见性 — 审核员是否看到分数、类别或仅最终结论。

示例（概念）： 社区博客可自动发布低于风险阈值的评论，将边界案例排队人工审核，并拦截高置信度违规。

使用场景

带评论的站点 — 减轻审核负担，模糊案例仍由人工处理。
用户投稿 — 表单或 pitch 中的短文本自动分流。
带建议的内部 wiki 或文档 — 上线前轻量筛查。

运维提示

定期复查误报；在真实流量之后而非仅合成测试后再校准阈值。
若合规要求对审核决策可追溯，可与 Audit Log 联用。
监控 Workers AI 用量与延迟，使审核保持在预算与体验预期内。