Trzy scenariusze dla Twojego wolumenu: API tokenowe, lokalny sprzęt (amortyzacja) i Ollama Cloud (flat). Pokazujemy, który jest najtańszy i gdzie jest punkt opłacalności. Wszystkie założenia są jawne i edytowalne.
Punkt opłacalności (API vs lokalnie): 209 877 zapytań/mies. (powyżej tego wolumenu lokalny sprzęt bije API tokenowe.)
Koszt API / zapytanie: 0,0072 zł · Wszystkie założenia jawne i edytowalne. Wynik orientacyjny.
| GPU | VRAM | BW (GB/s) | CAPEX | OPEX/m | Fit (FP8) |
|---|---|---|---|---|---|
| NVIDIA RTX 5090 32GB | 32 GB | 1792 | 24000 PLN | 450 PLN | 2x GPU |
| NVIDIA H200 NVL 141GB | 141 GB | 4800 | 165000 PLN | 2100 PLN | 1x GPU |
| AMD Instinct MI300X 192GB | 192 GB | 5300 | 145000 PLN | 2300 PLN | 1x GPU |