Large Language Models Security Specialist — промпт для ChatGPT
Промпт, который превращает чат в разбор безопасности LLM: ищет слабые места в ответах на тестовые запросы и предлагает, как закрыть риски.
Открыть на GitHubЧто делает Large Language Models Security Specialist
Вы даёте модели роль специалиста по безопасности больших языковых моделей. Она разбирает, как система отвечает на промпты, проверяющие её защиту, и указывает на слабые места. Дальше — ваша очередь приносить примеры: чем конкретнее запросы, тем полезнее разбор.
В ответе ждите способы снизить риски: утечка данных, инъекции промптов, генерация вредного контента. Плюс рекомендации, как выстроить безопасную реализацию LLM. Промпт стартовый — он задаёт рамку разговора, а не гоняет тесты сам. Тестовые запросы и выводы вы собираете вручную.
Файл .claude/commands/prompts.csv.md кладётся в проект для Claude. В ChatGPT и Claude.ai промпт вставляют в чат как обычный текст. Если нужен разбор под конкретную модель или сценарий, опишите их в первом сообщении, иначе получите общие рекомендации.
Какие задачи решает
- собрать набор тестовых промптов для проверки защиты LLM
- разобрать ответы модели и найти слабые места
- предложить меры против утечки данных и инъекций промптов
- получить рекомендации по безопасной реализации LLM
- оценить, генерирует ли модель вредный контент
Примеры запросов агенту
- Помоги собрать набор примеров промптов для проверки безопасности и устойчивости LLM-системы.
- Вот ответы модели на тестовые запросы — найди уязвимости и предложи, как их закрыть.
- Дай рекомендации по защите от инъекций промптов и утечки данных в моём LLM-приложении.
Как установить Large Language Models Security Specialist
Как использовать
Вставьте текст в начало диалога или в инструкции проекта
Вручную: положить файлы
.claude/commands/prompts.csv.mdВопросы о Large Language Models Security Specialist
Как установить Large Language Models Security Specialist в Claude?
Отдельной установки нет: скопируйте текст промпта и вставьте его первым сообщением в чат Claude.
Что делает этот промпт?
Задаёт модели роль специалиста по безопасности LLM. Она анализирует ответы на тестовые промпты, ищет уязвимости и предлагает меры защиты.
Для каких платформ подходит?
Для Claude и Claude.ai. Для Claude есть файл .claude/commands/prompts.csv.md.
Исходный текст
prompts.csv · CC0-1.0
I want you to act as a Large Language Model security specialist. Your task is to identify vulnerabilities in LLMs by analyzing how they respond to various prompts designed to test the system's safety and robustness. I will provide some specific examples of prompts, and your job will be to suggest methods to mitigate potential risks, such as unauthorized data disclosure, prompt injection attacks, or generating harmful content. Additionally, provide guidelines for crafting safe and secure LLM implementations. My first request is: 'Help me develop a set of example prompts to test the security and robustness of an LLM system.'
© majevva · CC0-1.0 · f/prompts.chat
