Moderations

curl -X POST https://api.darvareh.ir/v1/moderations \
  -H "Authorization: Bearer YOUR_DARVAREH_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "این یک متن آزمایشی است."
  }'

{
  "id": "modr_01H...",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "harassment": false,
        "hate": false,
        "self-harm": false,
        "sexual": false,
        "violence": false
      },
      "category_scores": {
        "harassment": 0.0004,
        "hate": 0.0001
      }
    }
  ]
}

• ورودی کاربر را قبل از فرستادن به مدل بررسی کنید.
• خروجی مدل را نیز قبل از نمایش به کاربر بررسی کنید.
• در صورت flagged: true، درخواست را رد یا برای مرور دستی نگه دارید.