> ARCHIVED REPORT: host/account identifiers redacted for publication. Measurements are unchanged. This is a contemporaneous report, not a substitute for its referenced raw files.

# DGX Spark Sprint 3A — PASS

22 октября 2026. GB10 / DGX OS, SSH `DGX-Spark`, Ollama 0.40.8, gpt-oss:120b MXFP4. **Испытания завершены; исходная конфигурация восстановлена, контрольный ответ — `RESTORED`.** ОС, драйверы и сеть не менялись; API остался на 127.0.0.1:11434.

## Parallel inference

Временный override только в `/run/systemd/system/ollama.service.d/90-sprint3a.conf`. Исходный unit и Environment сохранены; после испытаний unit совпал побайтово, DropInPaths пуст, OLLAMA_NUM_PARALLEL отсутствует. Журналы подтверждают `n_seq_max=2` и затем `4`; после восстановления снова `1`.

Методика Sprint 2: 8K окно, разные синтетические входы 952–961 токен, temperature=0, seed=42, think=low, лимит 192 выходных токена, синхронный старт клиентов, потоковый HTTP на Spark. По **3 независимые пачки** на комбинацию (3/6/12 клиентских измерений). Перед каждой настройкой выполнен отдельный прогрев всех её слотов, исключённый из таблиц. Загрузка модели в измеряемых запросах не превышала **3.28 мс**.

| NUM_PARALLEL | Клиенты | Aggregate ток/с | TTFT каждого: диапазон, с | p95 E2E, с | Пик RAM, GiB |
|---:|---:|---:|---:|---:|---:|
| 2 | 1 | 38.24 | 0.603–0.621 | 5.028 | 68.12 |
| 2 | 2 | **50.10** | 1.231–1.277 | 7.628 | 68.32 |
| 2 | 4 | 50.87 | 1.236–8.786 | 15.057 | 68.95 |
| 4 | 1 | 38.27 | 0.571–0.644 | 5.048 | 68.91 |
| 4 | 2 | 40.54 | 1.230–1.345 | 10.464 | 69.17 |
| 4 | 4 | **63.62** | 2.552–2.722 | **12.146** | 69.68 |

| NUM_PARALLEL / клиенты | GPU среднее / пик, % | GPU power средняя / пик, Вт |
|---|---:|---:|
| 2 / 1 | 93.86 / 95 | 39.69 / 44.38 |
| 2 / 2 | 94.18 / 96 | 37.67 / 52.90 |
| 2 / 4 | 94.45 / 96 | 38.54 / 54.22 |
| 4 / 1 | 93.34 / 95 | 42.22 / 46.03 |
| 4 / 2 | 93.00 / 96 | 41.78 / 54.71 |
| 4 / 4 | 94.03 / 96 | 43.44 / 55.55 |

**Вывод:** два слота выгоднее для двух клиентов; четыре слота — для четырёх. При 4/4 throughput примерно на 66% выше прежнего 1-slot результата Sprint 2 (38.37 ток/с), но это сравнение отдельных прогонов, не статистически контролируемый эксперимент. Причина замедления 4-slot конфигурации при двух клиентах отдельно не установлена. Постоянная настройка не оставлена.

**OOM/ошибки:** все 42 измеряемых запроса завершились без API-ошибок. Срабатываний защиты и kernel OOM нет. Минимум доступной памяти в измеряемых сериях — **52.01 GiB**; swap не вырос (16 KiB). Защита останавливала бы Ollama при MemAvailable <12 GiB или росте swap >1 GiB; восстановление в finally и общий timeout 15 минут. Прогревы и восстановление хранятся отдельно.

## Ограничения

- Aggregate = сумма фактических eval_count / сумма длительностей пачек, включая prefill и ожидание; это не сумма индивидуальных decode скоростей. Точное число выходных токенов и stop/length каждого ответа сохранены.
- p95 — nearest-rank по 3/6/12 значениям; здесь он равен максимуму. Это слабая оценка хвоста, не production SLA.
- TTFT — первый непустой thinking/response-фрагмент; видимый TTFT отдельно в CSV/JSON. Время измерено на Spark, без задержки внешней сети.
- Одинаковые пары входов для настроек 2 и 4; внутри повторов разные seed. Короткий общий префикс мог кешироваться. Одинакового теплового состояния не добивались, порядок 2→4 фиксирован.
- RAM общесистемная UMA, не отдельная VRAM. GPU и мощность опрашивались примерно каждые 0.5 с; power.draw не означает потребление всего ПК от розетки.
- Проверен контекст 8K и короткие входы, а не параллельные 64K запросы. Вывод о запасе памяти нельзя переносить на большие контексты без нового теста.

## vLLM — read-only проверка завершена, запуск не подтверждён

Конкретный официальный NVIDIA playbook: NGC **26.05.post1-py3** с `openai/gpt-oss-120b` MXFP4. Registry подтверждает ARM64, config — CUDA **13.2.1.009** и vLLM **0.21.0+2325b6f0**. Документация NVIDIA перечисляет поддержку Spark/MXFP4. R580 проходит семейный минимум CUDA 13.x, но PTX/JIT и конкретные GB10 backend-ядра требуют отдельной runtime-проверки; полного PASS совместимости не заявляем.

Новый трафик при будущей установке: **8.94 GiB образ + 60.77 GiB индексированные HF-веса**. Ничего из этого не скачивалось; получены только manifests/config/индексы. Детали, digest, требования, оценки времени/диска и ссылки — в `sprint3a-vllm-audit.md`.

## Артефакты / воспроизведение

- `sprint3a-summary.json` — сводка и TTFT каждого клиента.
- `sprint3a-clients.csv` — 42 строки с TTFT, видимым TTFT, latency, prompt/decode скоростями и числом токенов.
- `sprint3a-raw/` — запросы, потоковые кадры, телеметрия, журналы, прогревы, исходная/восстановленная конфигурация и `completion.json`.
- `sprint3a-reproduce.ps1`, `sprint3a-run.py`, `sprint2-benchmark.py` — воспроизведение; `sprint3a-summarize.mjs` — расчёт сводки. Повторный запуск перезаписывает результаты; sudo запрашивается интерактивно, секретов нет.
- `sprint3a-inspect-recipe.ps1` — повторить только read-only проверку метаданных vLLM.

Дальнейшая нагрузка остановлена. Временный override удалён; штатная Ollama работает, модель выгрузится после keep_alive контрольного запроса.
