К основному содержанию
скилл CX Codex

guardrails-safety-filter-builder — скилл для Claude Code

Скилл guardrails-safety-filter-builder собирает защитный слой для LLM-приложения: маскирует персональные данные, ловит промпт-инъекции и отвечает отказом, когда тема вне политики.

MIT 299 установок ★ 64 обновлён 2026-01-12

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add patricio0312rev/skills --skill guardrails-safety-filter-builder -a claude-code
Открыть на GitHub

Что делает guardrails-safety-filter-builder

Скилл добавляет в LLM-приложение защитный слой: проверяет входящий запрос, маскирует персональные данные в ответе и подставляет шаблонный отказ, когда тема выходит за политику. Пригодится, когда бот уже отвечает живым пользователям.

Внутри готовые куски на Python. Редакция PII собрана на presidio_analyzer и presidio_anonymizer, ищутся сущности EMAIL_ADDRESS, PHONE_NUMBER, CREDIT_CARD, SSN. Инъекции ловит список регулярок вроде «ignore previous instructions», темы делятся на разрешённые и запрещённые, отказы лежат в REFUSAL_TEMPLATES. Функции llm и toxicity_classifier в примерах только вызываются: модель и классификатор токсичности подключаешь сам. Без пакетов presidio-analyzer и presidio-anonymizer пример редакции не запустится.

Пайплайн apply_guardrails проходит четыре шага и возвращает словарь с решением и текстом ответа. Логирование блокировок и тесты на обход фильтров вынесены в чек-лист отдельными пунктами, писать их руками.

Какие задачи решает

  • вырезать email и номера карт из ответа модели перед отправкой
  • отбить запрос с попыткой подменить системную инструкцию
  • удержать бота в разрешённых темах и ответить отказом по шаблону
  • проверить готовый ответ на запрещённые фразы и токсичность
  • свести проверки в один вызов с понятным результатом

Примеры запросов агенту

  • Настрой guardrails для чат-бота поддержки: маскируй email, телефоны и номера карт в ответах
  • Добавь детект промпт-инъекций и шаблоны отказа для медицинских и юридических вопросов
  • Проверь ответ модели перед выдачей: убери запрещённые фразы и посчитай токсичность

Как установить guardrails-safety-filter-builder

1Через Skills CLI (Vercel)

npx skills add patricio0312rev/skills --skill guardrails-safety-filter-builder -a claude-code

2Вручную: положить файлы

~/.claude/skills/guardrails-safety-filter-builder/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/guardrails-safety-filter-builder/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о guardrails-safety-filter-builder

Как установить guardrails-safety-filter-builder в Claude Code?

Выполни npx skills add patricio0312rev/skills --skill guardrails-safety-filter-builder -a claude-code. Скилл появится в ~/.claude/skills/guardrails-safety-filter-builder/SKILL.md.

Что делает guardrails-safety-filter-builder?

Собирает фильтры для LLM-приложения: маскировку PII, детект промпт-инъекций, ограничения по темам, шаблоны отказа и проверку готового ответа.

Что нужно, чтобы заработал пример с PII?

Python и пакеты presidio-analyzer и presidio-anonymizer: на них держатся AnalyzerEngine и AnonymizerEngine.

Исходный текст

SKILL.md · MIT
---
name: guardrails-safety-filter-builder
description: Implements content safety filters with PII redaction, policy constraints, prompt injection detection, and safe refusal templates. Use when adding "content moderation", "safety filters", "PII protection", or "guardrails".
---

# Guardrails & Safety Filter Builder

Build comprehensive safety systems for LLM applications.

## Safety Layers

1. **Input filtering**: Block malicious prompts
2. **Output filtering**: Redact sensitive data
3. **Topic constraints**: Policy-based refusals
4. **PII detection**: Mask personal information
5. **Prompt injection**: Detect manipulation attempts

## PII Detection & Redaction

```python
import re
from presidio_analyzer import AnalyzerEngine
from presidio_anonymizer import AnonymizerEngine

analyzer = AnalyzerEngine()
anonymizer = AnonymizerEngine()

def redact_pii(text: str) -> str:
    # Detect PII
    results = analyzer.analyze(
        text=text,
        language='en',
        entities=["EMAIL_ADDRESS", "PHONE_NUMBER", "CREDIT_CARD", "SSN"]
    )

    # Anonymize
    anonymized = anonymizer.anonymize(text, results)
    return anonymized.text

# Example: "My email is [email protected]" → "My email is <EMAIL_ADDRESS>"
```

## Prompt Injection Detection

```python
def detect_prompt_injection(user_input: str) -> bool:
    """Detect common prompt injection patterns"""
    patterns = [
        r'ignore (previous|above) instructions',
        r'disregard (all|any) (prior|previous)',
        r'you are now',
        r'new instructions',
        r'system:',
        r'override',
    ]

    for pattern in patterns:
        if re.search(pattern, user_input, re.IGNORECASE):
            return True

    return False

# Block if detected
if detect_prompt_injection(user_input):
    return "I cannot process that request."
```

## Topic Constraints

```python
# Define allowed/disallowed topics
POLICY = {
    "allowed_topics": [
        "product_features",
        "troubleshooting",
        "billing",
        "account_management"
    ],
    "disallowed_topics": [
        "medical_advice",
        "legal_advice",
        "financial_advice",
        "politics",
        "violence"
    ],
    "requires_disclaimer": [
        "security_practices",
        "data_privacy"
    ]
}

# Classify topic
def classify_topic(query: str) -> str:
    classification_prompt = f"""
    Classify this query into one of these topics:
    {', '.join(POLICY['allowed_topics'] + POLICY['disallowed_topics'])}

    Query: {query}

    Return only the topic name.
    """
    return llm(classification_prompt)

# Check policy
def check_policy(query: str) -> dict:
    topic = classify_topic(query)

    if topic in POLICY["disallowed_topics"]:
        return {
            "allowed": False,
            "reason": f"Cannot provide {topic}",
            "refusal": REFUSAL_TEMPLATES[topic]
        }

    return {"allowed": True, "topic": topic}
```

## Refusal Templates

```python
REFUSAL_TEMPLATES = {
    "medical_advice": """
        I cannot provide medical advice. Please consult with a healthcare
        professional for medical concerns.
    """,
    "legal_advice": """
        I cannot provide legal advice. For legal matters, please consult
        with a qualified attorney.
    """,
    "out_of_scope": """
        I'm designed to help with product documentation and support.
        This question is outside my area of expertise.
    """,
}

def refuse_safely(reason: str) -> str:
    return REFUSAL_TEMPLATES.get(reason, REFUSAL_TEMPLATES["out_of_scope"])
```

## Output Validation

```python
def validate_output(output: str) -> dict:
    """Check output before returning to user"""
    issues = []

    # Check for PII
    pii_results = analyzer.analyze(output, language='en')
    if pii_results:
        issues.append("Contains PII")
        output = redact_pii(output)

    # Check for banned phrases
    banned_phrases = ["password", "api key", "secret"]
    for phrase in banned_phrases:
        if phrase.lower() in output.lower():
            issues.append(f"Contains banned phrase: {phrase}")

    # Check toxicity
    toxicity_score = toxicity_classifier(output)
    if toxicity_score > 0.7:
        issues.append("High toxicity detected")

    return {
        "safe": len(issues) == 0,
        "issues": issues,
        "sanitized_output": output
    }
```

## Complete Guardrail Pipeline

```python
def apply_guardrails(user_input: str) -> dict:
    # 1. Input validation
    if detect_prompt_injection(user_input):
        return {
            "allowed": False,
            "response": "Invalid request detected."
        }

    # 2. Policy check
    policy_check = check_policy(user_input)
    if not policy_check["allowed"]:
        return {
            "allowed": False,
            "response": policy_check["refusal"]
        }

    # 3. Generate response
    response = llm(user_input)

    # 4. Output validation
    validation = validate_output(response)
    if not validation["safe"]:
        return {
            "allowed": True,
            "response": validation["sanitized_output"],
            "warnings": validation["issues"]
        }

    return {
        "allowed": True,
        "response": response
    }
```

## Best Practices

- Layer multiple defenses
- Log all blocked requests
- Provide helpful refusals
- Redact, don't reject when possible
- Regular pattern updates
- Human review of edge cases

## Output Checklist

- [ ] PII detection implemented
- [ ] Prompt injection detection
- [ ] Topic classification
- [ ] Policy constraints defined
- [ ] Refusal templates written
- [ ] Output validation
- [ ] Logging/monitoring
- [ ] Test cases for bypasses

© patricio0312rev · MIT · patricio0312rev/skills

Похожие скиллы

Все скиллы по теме «Безопасность» →
ai-security-hardening devops-skills Скилл ai-security-hardening защищает приложения на базе LLM от prompt injection, утечек данных и атак на цепочку поставок. Пригодится при выводе моделей в прод и подготовке к аудитам SOC2 или ISO 27001. CX Codex +1 362установок configuring-guardrails celigo Скилл configuring-guardrails для Claude Code: создаёт и редактирует guardrails в Celigo — проверки PII, модерацию контента и оценку записей через ИИ. Находит чувствительные данные в записях, идущих через интеграцию. CX Codex +1 4 000установок Aletheia Runtime Safety & Scope Creep Filter vikasny30 MCP-сервер Aletheia Runtime Safety & Scope Creep Filter перехватывает и отсекает опасные системные вызовы агента за доли миллисекунды. Защищает рабочие папки, переменные окружения и базы данных от несанкционированных изменений. CX Codex +1 ★ 12звёзд репо rail-score Responsible-AI-Labs Хостинговый MCP-сервер rail-score с оценкой контента по восьми измерениям RAIL, детекцией инъекций и проверкой на персональные данные по DPDP. CX Codex +1 openai-privacy-filter reason-machines Скилл openai-privacy-filter для Claude Code ставит в проект модель, которая находит и затирает персональные данные в тексте. Прогоняет логи и документы перед отправкой в LLM. CX Codex +1 376установок prompt-injection-defense devops-skills Скилл prompt-injection-defense помогает защитить LLM-приложения от прямых и непрямых инъекций промптов. Пригодится при настройке RAG-пайплайнов и субагентов с доступом к вызову инструментов. CX Codex +1 425установок

Из того же набора148

Весь набор →
curl-command-generator Скилл curl-command-generator собирает готовые cURL-команды по определениям маршрутов в Express, Next.js или Fastify: с методами, заголовками, токеном и телом запроса. CX Codex +1 311установок data-integrity-auditor Скилл data-integrity-auditor для Claude Code ищет нарушения целостности данных и предлагает исправления. Запускается по запросам об orphaned records, связях между таблицами и качестве данных. CX Codex +1 306установок queue-job-processor Скилл queue-job-processor настраивает фоновые очереди задач на базе BullMQ и Redis, включая воркеры, повторные попытки и отслеживание прогресса. CX Codex +1 300установок api-mock-server Скилл api-mock-server помогает развернуть мок-сервер API для тестов и локальной разработки с помощью MSW или json-server. CX Codex +1 300установок sql-query-optimizer Скилл sql-query-optimizer для Claude Code разбирает планы выполнения SQL, предлагает индексы и переписывает запросы. Находит причины медленных запросов. CX Codex +1 297установок dependency-vulnerability-triage Скилл dependency-vulnerability-triage для Claude Code, Codex, Cursor и других платформ преобразует результаты npm audit и Snyk в пошаговый план патчей с оценкой серьёзности, безопасными путями обновления и анализом ломающих изменений. CX Codex +1 296установок rfc-generator Скилл rfc-generator собирает RFC по техническому предложению: проблема, решение, альтернативы, риски и план внедрения по готовому шаблону, а не с чистого листа. CX Codex +1 294установок backup-restore-runbook-generator Скилл backup-restore-runbook-generator для Claude Code создаёт планы аварийного восстановления баз данных, скрипты бэкапа и проверки restore. Включает DR-планирование и подготовку процедур отката. CX Codex +1 294установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой