К основному содержанию

Почему разовый запрос в ChatGPT не измеряет видимость сайта

Пересказ по материалу Habr SEO

Почему разовый запрос в ChatGPT не измеряет видимость сайта

Один ответ — не замер, а снимок

Сайт попал в ответ ChatGPT. Через день тот же запрос — и ссылки нет. Первая реакция: позиции упали. Это не так. В эксперименте SparkToro и Gumshoe 600 добровольцев прогнали 12 промптов через ChatGPT, Claude и Google AI, и один и тот же список брендов почти не повторялся от запуска к запуску.

Вывод простой и неудобный: модель не выдаёт фиксированный набор ссылок на один и тот же вопрос. Она выдаёт вероятностный набор, который меняется при каждом повторе.

Видимость — это вероятность, не факт

Видимость сайта в ChatGPT — это вероятность попасть в ответ на конкретный запрос, поэтому разовая проверка не годится как замер. Один ответ модели — это одна реализация случайного процесса, а не устойчивый результат ранжирования, как в классическом SEO с позициями в выдаче.

Это меняет саму отчётность. Отчёт о видимости без числа повторов на вопрос и без разброса результата нельзя считать надёжным, даже если в нём стоит красивая цифра присутствия.

Как считать правильно

Доля ответов с упоминанием

Задайте один и тот же промпт несколько раз и зафиксируйте, в какой доле ответов сайт появился. Это базовая метрика — не «есть или нет», а процент из серии повторов одного и того же вопроса.

Погрешность замера

Серия из одного-двух запусков ничего не скажет: слишком мало наблюдений и слишком высокий разброс. Вместе с долей ответов нужно указывать погрешность, иначе две похожие на вид цифры видимости могут описывать совершенно разную устойчивость результата.

Несколько моделей, не одна

Эксперимент прогонял промпты через ChatGPT, Claude и Google AI параллельно. Разброс между моделями оказался не меньше разброса между повторами внутри одной модели. Видимость в ChatGPT и видимость в другой модели по одному и тому же вопросу — это два разных числа, и складывать их в единую метрику «присутствие в AI-поиске» некорректно.

Что это меняет для команд, которые отслеживают бренд в AI-ответах

Отчёт о видимости в ChatGPT, построенный на одном запросе за период, не отражает ничего, кроме случайной реализации модели в момент проверки. Эксперимент потребовал 600 добровольцев и 12 промптов именно потому, что один запуск одного промпта физически не может показать устойчивую картину — выборка слишком мала.

Для трекинга бренда или домена в ответах ChatGPT и других моделей это означает: фиксировать серию повторов одного и того же промпта, считать долю упоминаний в этой серии и указывать погрешность рядом с цифрой. Без этого сравнение «до» и «после» — после изменения контента на сайте или публикации новой страницы — не отличить от обычного шума модели.

Разница с привычным SEO-трекингом

В классическом поиске позиция сайта по запросу относительно стабильна между проверками, и разовый снимок через Serpstat или Ahrefs даёт рабочую картину. С ChatGPT так не работает: сам механизм генерации ответа устроен иначе, и один и тот же вопрос с одной и той же формулировкой может дать разный список источников при каждом новом запуске.

Это не повод отказаться от мониторинга присутствия бренда в AI-ответах. Это повод строить его на сериях повторов, а не на единичных проверках, и честно показывать разброс рядом с долей упоминаний.

TG X Скопировано
Упомянуты: NeBazaSerpstat

Спонсоры проекта

Компании, которые помогают держать аналитику открытой