Три сценарії для твого обсягу: token API, локальне залізо (амортизація) та Ollama Cloud (flat). Показуємо найдешевший і точку окупності. Усі припущення явні.
Точка беззбитковості (API проти локально): 209 877 запитів/місяць (вище цього обсягу локальне обладнання випереджає токенне API.)
Вартість API / запит: 0,0072 PLN · Кожне припущення явне та редаговане. Орієнтовний результат.
| GPU | VRAM | BW (GB/s) | CAPEX | OPEX/m | Fit (FP8) |
|---|---|---|---|---|---|
| NVIDIA RTX 5090 32GB | 32 GB | 1792 | 24000 PLN | 450 PLN | 2x GPU |
| NVIDIA H200 NVL 141GB | 141 GB | 4800 | 165000 PLN | 2100 PLN | 1x GPU |
| AMD Instinct MI300X 192GB | 192 GB | 5300 | 145000 PLN | 2300 PLN | 1x GPU |