К основному содержанию
скилл CX Codex

mpi — скилл для Claude Code: что делает и как установить

Помогает писать параллельные программы на MPI: настраивать вызовы процессов, неблокирующие операции, гибрид с OpenMP и запуск через mpirun.

MIT 354 установок ★ 298 обновлён 2026-06-27

Установить в Claude Code · Через Skills CLI (Vercel) Все способы и платформы ↓
npx skills add mohitmishra786/low-level-dev-skills --skill mpi -a claude-code
Открыть на GitHub

Что делает mpi

Скилл даёт ИИ-агенту контекст по Message Passing Interface для распределённых вычислений на Си. Внутри собраны шаблоны инициализации MPI_Init, парные передачи MPI_Send и MPI_Recv, коллективные операции MPI_Bcast, MPI_Scatter, MPI_Gather и MPI_Allreduce, а также разделение коммуникаторов через MPI_Comm_split.

Паттерны охватывают неблокирующий обмен MPI_Isend и MPI_Wait для перекрытия сетевых задержек расчётами, параллельную запись в файлы через MPI-IO и запуск через Slurm или hostfile. В гибридном режиме с OpenMP избыточное число потоков на ранг приведёт к оверподписке ядер, поэтому скилл подсказывает правильный расчёт OMP_NUM_THREADS и привязку --bind-to core.

В блок отладки включены разбор взаимных блокировок, несоответствия тегов сообщений, ошибка переполнения буфера MPI_ERR_TRUNCATE и профилирование с утилитой mpiP.

Какие задачи решает

  • написать распределённый обмен данными через неблокирующие вызовы MPI
  • настроить гибридную модель параллелизма MPI плюс OpenMP
  • подготовить скрипт запуска с mpirun или планировщиком Slurm
  • найти причину взаимной блокировки процессов или рассинхронизации тегов

Примеры запросов агенту

  • Напиши обмен матрицами между 4 узлами на MPI с неблокирующими вызовами MPI_Isend и MPI_Irecv
  • Собери гибридный код MPI и OpenMP с параллельным циклом и итоговым MPI_Allreduce
  • Помоги составить команду mpirun для кластера из двух узлов с привязкой потоков к ядрам

Как установить mpi

1Через Skills CLI (Vercel)

npx skills add mohitmishra786/low-level-dev-skills --skill mpi -a claude-code

2Вручную: положить файлы

~/.claude/skills/mpi/SKILL.md

Папка скилла целиком; для одного проекта — .claude/skills/mpi/

По шагам, с командами для каждой платформы: Как установить скилл в Claude Code: пять способов

Вопросы о mpi

Как установить mpi в Claude Code?

Выполните команду npx skills add mohitmishra786/low-level-dev-skills --skill mpi -a claude-code. Файл навыка загрузится в ~/.claude/skills/mpi/SKILL.md.

Что делает скилл mpi?

Он предоставляет агенту справочные паттерны и правила для разработки распределённых HPC-приложений на MPI, включая ввод-вывод MPI-IO и гибридный код с OpenMP.

Как скилл помогает находить дедлоки в MPI?

Он направляет проверку на поиск циклического ожидания, расхождение типов данных, несовпадение тегов отправителя и получателя, а также подсказывает запуск под отладчиком с флагом mpirun -gdb.

Исходный текст

SKILL.md · MIT
---
name: mpi
description: MPI skill for distributed-memory parallel programming. Use when writing MPI_Send/Recv programs, collective operations, non-blocking communication, MPI+OpenMP hybrid, or debugging with mpirun. Activates on queries about MPI_Init, MPI_Allreduce, MPI_Isend, mpirun, MPI-IO, or MPI performance.
---

# MPI

## Purpose

Guide agents through MPI (Message Passing Interface) programming: point-to-point and collective communication, non-blocking operations, subcommunicators, MPI+OpenMP hybrid patterns, process launching with `mpirun`, debugging techniques, MPI-IO, and common performance issues.

## When to Use

- Parallelizing across multiple nodes or sockets
- Implementing distributed algorithms (matrix decompose, FFT)
- Combining MPI process parallelism with OpenMP thread parallelism
- Running HPC jobs with Slurm/PBS + `mpirun`
- Debugging deadlocks and message mismatches
- Parallel file I/O with MPI-IO

## Workflow

### 1. Minimal MPI program

```c
#include <mpi.h>
#include <stdio.h>

int main(int argc, char **argv) {
    MPI_Init(&argc, &argv);

    int rank, size;
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);
    MPI_Comm_size(MPI_COMM_WORLD, &size);

    printf("Hello from rank %d of %d\n", rank, size);

    MPI_Finalize();
    return 0;
}
```

```bash
mpicc -o hello hello.c
mpirun -np 4 ./hello
# or
mpiexec -n 4 ./hello
```

### 2. Point-to-point

```c
if (rank == 0) {
    int data = 42;
    MPI_Send(&data, 1, MPI_INT, 1, 0, MPI_COMM_WORLD);
} else if (rank == 1) {
    int recv;
    MPI_Recv(&recv, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, MPI_STATUS_IGNORE);
    printf("rank 1 got %d\n", recv);
}
```

Tagged messages: match tag and source for `MPI_Recv`.

### 3. Collectives

```c
int local = rank + 1;
int global_sum;

MPI_Allreduce(&local, &global_sum, 1, MPI_INT, MPI_SUM, MPI_COMM_WORLD);

// Broadcast
if (rank == 0) data = 100;
MPI_Bcast(&data, 1, MPI_INT, 0, MPI_COMM_WORLD);

// Scatter/Gather
MPI_Scatter(sendbuf, sendcount, MPI_INT, recvbuf, recvcount, MPI_INT, 0, MPI_COMM_WORLD);
MPI_Gather(sendbuf, sendcount, MPI_INT, recvbuf, recvcount, MPI_INT, 0, MPI_COMM_WORLD);
```

| Collective | Purpose |
|------------|---------|
| `MPI_Bcast` | One-to-all |
| `MPI_Scatter` | Distribute chunks |
| `MPI_Gather` | Collect chunks |
| `MPI_Allreduce` | Reduce + broadcast result |
| `MPI_Barrier` | Synchronization |
| `MPI_Alltoall` | All-to-all exchange |

### 4. Non-blocking communication

```c
MPI_Request req;
MPI_Isend(buf, count, MPI_INT, dest, tag, MPI_COMM_WORLD, &req);
// overlap computation here
do_local_work();
MPI_Wait(&req, MPI_STATUS_IGNORE);

// Multiple requests
MPI_Request reqs[2];
MPI_Irecv(buf0, n, MPI_INT, 0, 0, comm, &reqs[0]);
MPI_Irecv(buf1, n, MPI_INT, 1, 0, comm, &reqs[1]);
MPI_Waitall(2, reqs, MPI_STATUSES_IGNORE);
```

Overlap communication with computation to hide latency.

### 5. Subcommunicators

```c
int color = rank / 4;  // groups of 4
MPI_Comm subcomm;
MPI_Comm_split(MPI_COMM_WORLD, color, rank, &subcomm);

int subrank, subsize;
MPI_Comm_rank(subcomm, &subrank);
MPI_Comm_size(subcomm, &subsize);

MPI_Comm_free(&subcomm);
```

### 6. MPI + OpenMP hybrid

```c
#pragma omp parallel
{
    int tid = omp_get_thread_num();
    // thread-local work on rank's data partition
}
MPI_Barrier(MPI_COMM_WORLD);
MPI_Allreduce(...);
```

```bash
export OMP_NUM_THREADS=4
mpirun -np 8 --bind-to core ./hybrid_app
# 8 ranks × 4 threads = 32 cores
```

Bind ranks to sockets with `--map-by ppr:2:socket`.

### 7. Launching with hostfile

```bash
# hostfile:
# node0 slots=4
# node1 slots=4

mpirun -np 8 --hostfile hosts.txt ./app

# Slurm integration
srun -n 64 ./app
# or
mpirun -np $SLURM_NTASKS ./app
```

```bash
# Debug: tag output by rank
mpirun -np 4 --tag-output ./app

# Sequential debug (one rank at a time)
mpirun -np 4 -gdb ./app
```

### 8. MPI-IO

```c
#include <mpi.h>

MPI_File fh;
MPI_File_open(MPI_COMM_WORLD, "output.dat",
    MPI_MODE_CREATE | MPI_MODE_WRONLY, MPI_INFO_NULL, &fh);

MPI_Offset offset = rank * chunk_size;
MPI_File_write_at(fh, offset, buf, count, MPI_DOUBLE, MPI_STATUS_IGNORE);

MPI_File_close(&fh);
```

Collective I/O for better performance:

```c
MPI_File_write_at_all(fh, offset, buf, count, MPI_DOUBLE, MPI_STATUS_IGNORE);
```

### 9. Performance issues

```
Common bottlenecks
├── Load imbalance → dynamic scheduling (OpenMP) or redistribute MPI chunks
├── Serialization at rank 0 → tree-based reduce, parallel I/O
├── Excessive sync → replace Barrier with point-to-point where possible
├── Small messages → aggregate; use MPI_Pack or larger blocks
└── Alltoall on large process counts → consider MPI neighborhood collectives
```

```bash
# MPI profiling
mpiP  # lightweight profiler
# or IPM, TAU MPI wrappers
```

## Common Problems

| Symptom | Cause | Fix |
|---------|-------|-----|
| Hang at MPI_Recv | Tag/source mismatch | Check Send/Recv pairing; use `MPI_ANY_TAG` debug |
| Deadlock | Circular wait | Reorder comm pattern; use non-blocking |
| Wrong result in Allreduce | Wrong datatype/count | Verify MPI_INT vs MPI_DOUBLE |
| Poor scaling | Rank 0 bottleneck | Distribute I/O and aggregation |
| `MPI_ERR_TRUNCATE` | Receive buffer too small | Match send/recv counts |
| Hybrid oversubscription | Too many threads×ranks | `OMP_NUM_THREADS = cores/ranks` |

## Related Skills

- `skills/hpc/openmp` — thread-level parallelism within MPI ranks
- `skills/hpc/rdma-verbs` — low-latency interconnect under MPI
- `skills/allocators/numa-programming` — bind ranks to NUMA nodes
- `skills/profilers/linux-perf` — profile MPI rank hotspots
- `skills/debuggers/gdb` — debug individual MPI processes
- `skills/compilers/gcc` — MPI compiler wrapper flags

© mohitmishra786 · MIT · mohitmishra786/low-level-dev-skills

Похожие скиллы

Все скиллы по теме «Наука и исследования» →
hpc-runtime-doctor HeshamFS Скилл hpc-runtime-doctor разбирает, почему уже отправленная задача на кластере упала, зависла или идёт медленно: раскладка MPI/OpenMP/GPU, модули, walltime, restart. CX Codex +1 ★ 95звёзд репо rocprofiler-systems-choosing-a-profiling-preset amd Скилл rocprofiler-systems-choosing-a-profiling-preset для Claude Code подбирает профиль запуска rocprofiler-systems под тип работы и цель измерения. Срабатывает на вопрос о выборе профиля или запуск без --preset. CX Codex +1 266установок performance-profiling HeshamFS Скилл performance-profiling находит узкие места в материаловедческих симуляциях: парсит логи времени выполнения, считает эффективность MPI-масштабирования и оценивает требования к памяти. CX Codex +1 ★ 95звёзд репо pacsomatic K-Dense-AI Скилл pacsomatic для Claude Code готовит и запускает геномный процесс nf-core/pacsomatic для пар опухоль–норма с PacBio HiFi. Он работает с исходными BAM и поддерживает локальный запуск или отправку в планировщик. CX Codex +1 1 700установок doca-urom NVIDIA Скилл помогает разобраться с хост-частью DOCA UROM: как вынести операции удалённой памяти MPI и UCX с CPU на BlueField DPU. CX Codex +1 ★ 4 106звёзд репо azure-cyclecloud MicrosoftDocs Справочник по Azure CycleCloud для агента: ошибки при старте кластера, шаблоны и nodearrays, Slurm, безопасность, автоматизация через API и Python SDK. CX Codex +1 172установок

Из того же набора140

Весь набор →
af-xdp Настраивает сокеты AF_XDP и память UMEM для скоростной обработки сетевых пакетов в userspace. Пригодится при написании фильтров трафика и балансировщиков. CX Codex +1 359установок triton-lang Скилл triton-lang учит агента писать GPU-ядра на Triton: @triton.jit, блочные tl.load/tl.store с масками, атомарные операции, автотюнинг и интеграцию в PyTorch. CX Codex +1 358установок containers-internals Скилл containers-internals для Claude Code по устройству Linux-контейнеров: намспейсы, cgroups v2, overlayfs, runc, seccomp и защита от escape. CX Codex +1 358установок rdma-verbs Скилл rdma-verbs для Claude Code — справочник по RDMA-программированию через libibverbs для InfiniBand и RoCE; в нём описаны настройка очередей, односторонняя запись и тесты perftest. CX Codex +1 356установок riscv-privileged Скилл riscv-privileged для разработки ядер и прошивок на RISC-V: работа с привилегированной архитектурой, режимами машины и супервизора, CSR регистрами, обработчиками ловушек, контроллерами PLIC и CLINT, OpenSBI. CX Codex +1 355установок verilog-basics-for-lowlevel Скилл verilog-basics-for-lowlevel учит читать RTL-код на Verilog: модули, тактирование, reset-логику, шинные протоколы. Нужен разработчикам драйверов и firmware, когда документация неясна, а поведение железа объясняет баги. CX Codex +1 345установок hare-lang Скилл hare-lang обучает агента разработке на системном языке Hare: сборке через hare build, ручной настройке hare.mod, C FFI через @extern и типизированной обработке ошибок. CX Codex +1 330установок carbon-lang Скилл carbon-lang для Claude Code разбирает синтаксис Carbon, его связь с C++ и сборку toolchain. Помогает оценить язык и прототипировать миграцию. CX Codex +1 329установок

Спонсоры проекта

Компании, которые помогают держать аналитику открытой