AI Moderation
Workers AI とファーストパーティの EmDash プラグイン フックを使用して、コメントとユーザー生成のコンテンツを管理します。
プラグイン
AI Moderation
Workers AI とファーストパーティの EmDash プラグイン フックを使用して、コメントとユーザー生成のコンテンツを管理します。
AI モデレーションは、編集上の実際的な問題に対して Cloudflare ネイティブのインフラストラクチャを使用して EmDash をデモンストレーションします。つまり、あらゆる決定をブラックボックス ベンダーにアウトソーシングすることなく、コメント セクションとユーザー作成のテキストを安全に保ちます。アップストリーム パッケージは、Workers AI と Llama Guard スタイルのガードレールを活用していると説明されています。ご使用のリリースの packages/plugins/ai-moderation で正確なモデルとポリシー ノブを確認してください。
インストール
- Workers AI (またはこのプラグインの文書化された AI バックエンド) が利用可能であり、アカウント プランで許可されているスタック上で EmDash デプロイメントが実行されていることを確認します。
- EmDash 管理者から AI モデレーション プラグインを有効にするか、開発中にモノリポジトリからプラグインを接続します。
- プラグインの README の説明に従って、必要なシークレットと環境変数を設定します。通常は、Git にコミットしてはいけない API トークンまたはバインディングです。
- 非運用環境でのスモークテスト: 良性および特殊なテキストを送信して、モデレーションの決定とロギングが期待どおりに動作することを確認します。
構成
通常は次のように調整します。
- 感度またはポリシーのプリセット — ブロック、フラグ、許可としてカウントされるもの (正確なオプションは出荷された統合によって異なります)。
- フォールバック動作 - AI サービスが利用できない場合は、リスク選好度に応じて、フェール クローズ (確認のために保留) またはフェール オープン (警告付きで投稿) を行います。
- 監査の可視性 — モデレータがスコア、カテゴリ、または最終決定のみを参照するかどうか。
例 (概念的): コミュニティ ブログでは、リスクしきい値を下回るスコアのコメントを自動公開し、境界線にある投稿を手動レビューのためにキューに入れ、信頼性の高いポリシー違反をブロックする場合があります。使用しているバージョンの管理ファイルまたは構成ファイルで公開されているコントロールを使用して、これらのしきい値をマップします。
使用シナリオ
- コメント付きの出版物 — 曖昧なケースについて人間が常に関与できるようにしながら、モデレーションの負荷を軽減します。
- ユーザー作成の投稿 — 自動トリアージにより編集レビューが迅速化される、フォームまたは提案に添付される短いテキスト。
- 提案を含む内部 wiki またはドキュメント — コンテンツが公開される前の軽量のスクリーニング。
運用上のヒント
- 誤検知を定期的に確認します。合成テストだけでなく、実際のトラフィックが発生した後でしきい値を調整します。
- コンプライアンスにモデレートされたコンテンツに関する追跡可能な決定が必要な場合は、監査ログと組み合わせます。
- Workers AI の使用状況と遅延を監視して、予算と UX の期待内で調整できるようにします。
レジストリの状態（2026-10-21 確認）： 当日に確認した EmDash 公開レジストリの結果にこの項目はありませんでした。参照用に既存ページの URL は維持しています。