distributed-training-ray-train — скилл для Claude Code

Что делает distributed-training-ray-train

Скилл объясняет, как запускать обучение через Ray Train: тренер принимает вашу функцию обучения, а координацию, распределение GPU, чекпоинты и сбор метрик берёт на себя Ray. Внутри — рабочие примеры для PyTorch (TorchTrainer), HuggingFace (TransformersTrainer) и подбора гиперпараметров через Ray Tune с планировщиком ASHA.

Отдельные разделы посвящены чекпоинтам и устойчивости к сбоям: обучение продолжается с сохранённого состояния, если узел упал. Есть пример подключения к кластеру через ray.init(address="auto").

Перед запуском нужны зависимости ray[train], torch и transformers, а сам Ray Train ставится командой pip install -U "ray[train]". Без установленного Ray код из примеров не выполнится.