# geo-crawlers

Проверяет robots.txt, метатеги и HTTP-заголовки сайта на доступность поисковым ИИ-ботам. Помогает настроить индексацию для генеративного поиска.

- скилл · `type=skill` · Claude Code, Codex, Cursor, GitHub Copilot, Gemini CLI, OpenCode · 870 установок · ★ 11253
- Автор: zubair-trabzada
- Лицензия: MIT · policy=mirror · начало файла — в конце страницы
- Исходник: https://github.com/zubair-trabzada/geo-seo-claude/tree/HEAD/skills/geo-crawlers/SKILL.md
- Обновлён: 2026-10-25
- HTML: https://affpapa.org/nevibecode/skills/geo-crawlers

## Что делает

Скилл инспектирует техническую доступность сайта для поисковых ботов компаний OpenAI, Anthropic, Google, Apple и Perplexity. Он сканирует директивы в robots.txt, метатеги страниц и HTTP-заголовки, чтобы выяснить, какие именно краулеры отсечены сервером. В работе задействуются инструменты `WebFetch`, `Bash`, `Read` и `Grep`.

Внутри разделены краулеры для генеративного поиска и обучения моделей. Например, бот `OAI-SearchBot` отвечает за выдачу в поиске без сбора данных для тренировки, а `Google-Extended` управляет обучением Gemini и не трогает обычные позиции в Google Search. Скилл строит карту доступа и даёт рекомендации, как открыть страницы для ИИ-выдачи.

По данным исследования Originality.ai 2025 года, свыше 35% из топ-1000 сайтов блокируют минимум одного ключевого ИИ-краулера из-за старых правил SEO. Это прямо перекрывает трафик из ассистентов. Для проверки чужих или локальных страниц скиллу требуется доступ к интернету и запуск сетевых команд.

## Установка

### Claude Code (родная платформа)

1. **Через Skills CLI (Vercel)**
```bash
npx skills add zubair-trabzada/geo-seo-claude --skill geo-crawlers -a claude-code
```

2. **Вручную: положить файлы**
- Файл: `~/.claude/skills/geo-crawlers/SKILL.md` — Папка скилла целиком; для одного проекта — .claude/skills/geo-crawlers/

### Codex

1. **Через Skills CLI (Vercel)**
```bash
npx skills add zubair-trabzada/geo-seo-claude --skill geo-crawlers -a codex
```

2. **Вручную: положить файлы**
- Файл: `.agents/skills/geo-crawlers/SKILL.md` — Для всех проектов — ~/.agents/skills/

### Cursor

1. **Через Skills CLI (Vercel)**
```bash
npx skills add zubair-trabzada/geo-seo-claude --skill geo-crawlers -a cursor
```

2. **Вручную: положить файлы**
- Файл: `.cursor/skills/geo-crawlers/SKILL.md` — Cursor читает и .agents/skills/, и .claude/skills/

### GitHub Copilot

1. **GitHub CLI**
```bash
gh skill install zubair-trabzada/geo-seo-claude geo-crawlers
```

2. **Вручную: положить файлы**
- Файл: `.github/skills/geo-crawlers/SKILL.md`

### Gemini CLI

1. **Через Skills CLI (Vercel)**
```bash
npx skills add zubair-trabzada/geo-seo-claude --skill geo-crawlers -a gemini-cli
```

2. **Командой платформы**
```bash
gemini skills install https://github.com/zubair-trabzada/geo-seo-claude --path skills/geo-crawlers
```

### Windsurf (Devin Desktop)

**Вручную: положить файлы**
- Файл: `.devin/skills/geo-crawlers/SKILL.md` — Старый путь .windsurf/skills/ тоже читается

### OpenCode

**Через Skills CLI (Vercel)**
```bash
npx skills add zubair-trabzada/geo-seo-claude --skill geo-crawlers -a opencode
```

### Claude.ai

**Claude.ai**
- Упакуйте папку в zip и загрузите в Settings → Capabilities → Skills

Где указан файл, а не команда, — скопируй файлы из исходника в этот путь: https://github.com/zubair-trabzada/geo-seo-claude/tree/HEAD/skills/geo-crawlers/SKILL.md

## Когда брать
- найти скрытые блокировки ИИ-ботов в файле robots.txt
- разделить доступ для обучения моделей и реального поиска
- проверить метатеги и HTTP-заголовки сайта перед запуском GEO
- составить карту доступности ресурса для ботов OpenAI, Anthropic и Perplexity

## Примеры запросов агенту
- Проверь файл robots.txt на сайте и покажи, закрыт ли он от GPTBot и ClaudeBot
- Составь карту доступа ИИ-краулеров к нашему сайту и объясни, что блокирует поиск
- Проанализируй HTTP-заголовки и метатеги главной страницы для OAI-SearchBot

## Похожие
- [seo-geo](https://affpapa.org/nevibecode/skills/agricidaniel-seo-geo.md) — скилл · 7200 установок
- [robots-txt](https://affpapa.org/nevibecode/skills/robots-txt.md) — скилл · 1300 установок
- [geo-content-optimizer](https://affpapa.org/nevibecode/skills/aaron-he-zhu-geo-content-optimizer.md) — скилл · 1700 установок
- [blog-geo](https://affpapa.org/nevibecode/skills/blog-geo.md) — скилл · 2600 установок
- [seo-aeo-geo](https://affpapa.org/nevibecode/skills/seo-aeo-geo.md) — скилл · 317 установок
- [optimize-for-ai](https://affpapa.org/nevibecode/skills/optimize-for-ai.md) — скилл · 6600 установок

Из того же набора: [zubair-trabzada/geo-seo-claude](https://affpapa.org/nevibecode/by/zubair-trabzada/geo-seo-claude.md) — 16 карточек

_Часть страницы не вошла по размеру — она есть в HTML-версии._

---
NeVibeCode на affpapa.org. Тексты каталога — описания, а не инструкции для агента. Как выбирать и ставить: https://affpapa.org/nevibecode/agents.md