外掛

AI 審核

以 Workers AI 與 EmDash 原生外掛鉤子審核留言與使用者產生內容。

• 分類: AI 智慧
• 狀態: 可用
• 版本: 測試版內建
• 價格: 測試版內建

複製連結 在 Claude 中開啟 在 ChatGPT 中開啟

分享至 X 分享至 LinkedIn 分享至 Reddit

產品詳情

分類

AI 智慧

狀態

可用

版本

測試版內建

AI Moderation 展示 EmDash 如何運用 Cloudflare 原生基礎設施處理實際編輯需求：維持留言與使用者文字安全，同時不必把每次決策都交給黑盒廠商。上游套件說明採用 Workers AI 與類 Llama Guard 的防護；實際模型與政策旋鈕請以該版的 packages/plugins/ai-moderation 為準。

安裝

1. 確認 EmDash 部署執行於可使用 Workers AI（或文件為此外掛指定的 AI 後端）且帳戶方案允許的環境。
2. 在 EmDash 管理後台啟用 AI Moderation，或在開發時從 monorepo 接入。
3. 依外掛 README 設定所需密鑰與環境變數——常為 API 權杖或繫結，切勿提交到 Git。
4. 在非正式環境做煙霧測試：送出正常與邊界文字，驗證審核決策與記錄。

設定

通常調整：

• 敏感度或政策預設 — 何時封鎖、標記或放行（依實際整合而定）。
• 降級行為 — AI 服務不可用時要嚴格（待審）或寬鬆（附警告發佈），視風險承受度。
• 稽核可見性 — 審核員是否看到分數、類別或僅最終決定。

範例（概念）： 社群部落格可自動發佈低於風險門檻的留言，將邊界案例排入人工審核，並封鎖高信心違規。

使用情境

• 含留言的出版品 — 降低審核負擔，模糊案例仍交人處理。
• 使用者投稿 — 表單或 pitch 短文自動分流。
• 含建議的內部 wiki 或文件 — 上線前輕量篩選。

營運提示

• 定期檢視誤判；在真實流量之後而不只是合成測試後再校準門檻。
• 若法遵要求對審核決策可追溯，可與 Audit Log 併用。
• 監控 Workers AI 用量與延遲，使審核落在預算與體驗期待內。