llm-benchmarks
githubdrose.io

Cloud LLM benchmarks

Models
283
Providers
9
Samples
79,843
Median tok/s
30
p90 tok/s
73
Max tok/s
298
Median spread
188%
Median TTFT
1.25s

Delivered throughput · tok/s

64 visible tokens ÷ time to the 64th

No Delivered TPS data yet

Throughput distribution · tok/s

By provider

ProviderModelsMedianp90BestSpreadTTFT
groq6177298298150%
cerebras1133133133418%1.03
bedrock225696117110%0.39
together215282107226%
openai38386284199%1.93
openai via OpenRouter637474771%0.92
fireworks22367499192%
together via OpenRouter1353535111%0.77
deepinfra1262550171211%
anthropic10252844159%1.47
deepinfra via OpenRouter19244255147%1.00
anthropic via OpenRouter622373769%1.70
google via OpenRouter133340%1.09
google42160160145%0.93

Throughput × spread · 283 models

100200300200400gpt-5.2-codex · openai · 50 tok/s · 77% spreado4 Mini · openai · 47 tok/s · 344% spreadGPT-5.4 · openai · 24 tok/s · 178% spreadGPT-5.1 · openai · 31 tok/s · 238% spreadGPT-5.5-pro · openai · 11 tok/s · 268% spreadGPT-5.2-chat-latest · openai · 38 tok/s · 134% spreadgpt-4 · openai · 22 tok/s · 231% spreadGPT-5.2 · openai · 23 tok/s · 139% spreadgpt-3.5-turbo · openai · 41 tok/s · 277% spreadGPT-5.3-codex · openai · 19 tok/s · 295% spreadgemini-2.5-flash-lite · google · 72 tok/s · 239% spreadclaude-haiku-4.5 · bedrock · 44 tok/s · 133% spreadClaude Opus 4.1 · bedrock · 8 tok/s · 173% spreadclaude-opus-4.5 · bedrock · 20 tok/s · 112% spreadclaude-opus-4.6 · bedrock · 21 tok/s · 102% spreadclaude-opus-4-7 · bedrock · 28 tok/s · 130% spreadclaude-sonnet-4.5 · bedrock · 22 tok/s · 130% spreadclaude-sonnet-4.6 · bedrock · 27 tok/s · 99% spreadllama-3-70b · bedrock · 36 tok/s · 111% spreadllama-3-8b · bedrock · 78 tok/s · 110% spreadllama-3.1-70b · bedrock · 58 tok/s · 108% spreadllama-3.1-8b · bedrock · 96 tok/s · 110% spreadllama-3.2-90b · bedrock · 46 tok/s · 21% spreadqwen-3-32b · groq · 177 tok/s · 87% spreadllama-4-maverick · bedrock · 107 tok/s · 105% spreadllama-4-scout · bedrock · 96 tok/s · 90% spreadmistral-7b · bedrock · 82 tok/s · 75% spreadmistral-large · bedrock · 42 tok/s · 97% spreadmistral-small · bedrock · 56 tok/s · 67% spreadmixtral-8x7b · bedrock · 73 tok/s · 84% spreadnova-lite · bedrock · 91 tok/s · 144% spreadnova-micro · bedrock · 117 tok/s · 137% spreadnova-pro · bedrock · 89 tok/s · 131% spreadGPT-5-codex · openai · 56 tok/s · 123% spreadllama-3.1-8b · groq · 214 tok/s · 189% spreadclaude-sonnet-4.6 · anthropic · 24 tok/s · 151% spreadGPT-5.1-chat-latest · openai · 50 tok/s · 127% spreadllama-3.3-70b · groq · 147 tok/s · 132% spreado3-pro · openai · 16 tok/s · 201% spreadGPT-5 · openai · 38 tok/s · 196% spreadKimi-K2.7-Code · together · 80 tok/s · 298% spreadGPT-5 Nano · openai · 83 tok/s · 181% spreadGPT-5.2-pro · openai · 14 tok/s · 118% spreadGPT-5.5 · openai · 22 tok/s · 149% spreadQwen3.6-27B · groq · 220 tok/s · 172% spreadGoogle: Nano Banana (Gemini 2.5 Flash Image) · google · 160 tok/s · 145% spreadMiniMax-M2.7 · fireworks · 61 tok/s · 307% spreadclaude-haiku-4.5 · anthropic · 44 tok/s · 159% spreadllama-4-scout · groq · 119 tok/s · 150% spreadGPT-5.1-codex-max · openai · 62 tok/s · 176% spreadGLM-5.2 · fireworks · 31 tok/s · 282% spreadKimi-K2.6 · fireworks · 36 tok/s · 177% spreadGPT-oss-120b · fireworks · 99 tok/s · 210% spreadGPT-5.4-mini · openai · 43 tok/s · 199% spreadGPT-5-chat-latest · openai · 61 tok/s · 101% spreadGPT-5.1-codex-mini · openai · 84 tok/s · 104% spreadgpt-4.1 · openai · 47 tok/s · 202% spreadGPT-5.1-codex · openai · 69 tok/s · 91% spreadgpt-4.1-nano · openai · 50 tok/s · 264% spreadGPT-oss-safeguard-20b · groq · 298 tok/s · 220% spreadglm-5p1 · fireworks · 29 tok/s · 188% spreadgpt-4.1-mini · openai · 36 tok/s · 219% spreadgpt-4o-mini · openai · 38 tok/s · 242% spreadgpt-4o · openai · 37 tok/s · 199% spreadllama-3.3-70b · bedrock · 85 tok/s · 141% spreadGPT-5.6-sol · openai · 17 tok/s · 176% spreadclaude-sonnet-5 · anthropic · 28 tok/s · 202% spreadLFM2.5-8B-A1B · together · 107 tok/s · 260% spreadGPT-5.6-luna · openai · 28 tok/s · 273% spreadGPT-5.6-terra · openai · 24 tok/s · 189% spreadInkling · together · 24 tok/s · 153% spreadclaude-opus-4-8 · anthropic · 28 tok/s · 161% spreadDeepSeek-V4-Pro · fireworks · 31 tok/s · 159% spreadgemma-4-31b · cerebras · 133 tok/s · 418% spreadNVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · deepinfra · 36 tok/s · 225% spreadclaude-opus-4.5 · anthropic · 25 tok/s · 135% spreadclaude-opus-4.6 · anthropic · 19 tok/s · 140% spreadclaude-opus-4-7 · anthropic · 25 tok/s · 164% spreadQwen3-VL-235B-A22B-Instruct · deepinfra · 13 tok/s · 294% spreadQwen3-VL-30B-A3B-Instruct · deepinfra · 25 tok/s · 155% spreadKimi-K2.7-Code · deepinfra · 37 tok/s · 359% spreadGLM-5.2 · deepinfra · 30 tok/s · 252% spreadInkling · deepinfra · 52 tok/s · 195% spreadgemma-4-E4B-it · deepinfra · 42 tok/s · 194% spreadHy3 · deepinfra · 30 tok/s · 206% spreadclaude-sonnet-5 · deepinfra · 31 tok/s · 63% spreadclaude-fable-5 · deepinfra · 18 tok/s · 124% spreadMiniMax-M3 · deepinfra · 16 tok/s · 505% spreadgemini-2.5-pro · google · 2 tok/s · 144% spreadclaude-fable-5 · anthropic · 21 tok/s · 217% spreadClaude Opus 4.1 · anthropic · 15 tok/s · 77% spreado3 Mini · openai · 58 tok/s · 320% spreado1 · openai · 54 tok/s · 256% spreadGPT-5 Mini · openai · 49 tok/s · 219% spreado3 · openai · 43 tok/s · 243% spreadgemini-3.5-flash · deepinfra · 29 tok/s · 274% spreadGPT-5.4-nano · openai · 48 tok/s · 285% spreadgemini-3.1-flash-lite · deepinfra · 36 tok/s · 410% spreadgpt-5.3-chat-latest · openai · 36 tok/s · 125% spreadqwen-2.5-7b · together · 70 tok/s · 146% spreadgemma-3n-e4b-it · together · 34 tok/s · 153% spreadllama-3.3-70b · together · 43 tok/s · 226% spreadQwen2.5-7B-Instruct-Turbo · together · 68 tok/s · 54% spreadgemini-2.5-flash · google · 2 tok/s · 233% spreadSeed-2.0-code · deepinfra · 1 tok/s · 571% spreadSeed-2.0-pro · deepinfra · 3 tok/s · 525% spreadqwen-3.5-9b · together · 66 tok/s · 157% spreadMiniMax-M2.1 · deepinfra · 33 tok/s · 52% spreadMiniMax-M2.5 · deepinfra · 23 tok/s · 33% spreadqwen-2.5-72b · deepinfra · 15 tok/s · 290% spreadQwen 2.5 Coder 32B · deepinfra · 42 tok/s · 132% spreadqwen-3-14b · deepinfra · 26 tok/s · 200% spreadqwen-2-1.5b-instruct · together · 99 tok/s · 253% spreadqwen-3-235b · deepinfra · 19 tok/s · 219% spreadQwen3-235B-A22B-Thinking-2507 · deepinfra · 8 tok/s · 336% spreadQwen3-30B-A3B · deepinfra · 58 tok/s · 129% spreadQwen3-32B · deepinfra · 41 tok/s · 150% spreadQwen3-Coder-480B-A35B-Instruct · deepinfra · 30 tok/s · 247% spreadQwen3-Coder-480B-A35B-Instruct-Turbo · deepinfra · 27 tok/s · 231% spreadQwen3-Max · deepinfra · 22 tok/s · 217% spreadQwen3-Max-Thinking · deepinfra · 19 tok/s · 220% spreadQwen3-Next-80B-A3B-Instruct · deepinfra · 47 tok/s · 221% spreadqwen-3.5-0.8b · deepinfra · 25 tok/s · 369% spreadDeepSeek-V4-Pro · together · 27 tok/s · 294% spreadqwen-3.5-122b-a10b · deepinfra · 58 tok/s · 211% spreadqwen-3.5-27b · deepinfra · 53 tok/s · 157% spreadqwen-3.5-2b · deepinfra · 27 tok/s · 304% spreadqwen-3.5-35b-a3b · deepinfra · 95 tok/s · 164% spreadqwen-3.5-397b-a17b · deepinfra · 44 tok/s · 168% spreadGPT-5.4-pro · openai · 4 tok/s · 205% spreadqwen-3.5-4b · deepinfra · 27 tok/s · 296% spreadQwen3.6-27B · deepinfra · 45 tok/s · 165% spreadLlama-Guard-4-12B · together · 3 tok/s · 116% spreadQwen3.7-Max · deepinfra · 2 tok/s · 26% spreadMiniMax-M3 · together · 29 tok/s · 292% spreadL3.3-70B-Euryale-v2.3 · deepinfra · 30 tok/s · 109% spreadMiMo-V2.5 · deepinfra · 23 tok/s · 232% spreadMiMo-V2.5-Pro · deepinfra · 62 tok/s · 210% spreadOlmo-3.1-32B-Instruct · deepinfra · 20 tok/s · 338% spreadclaude-3-7-sonnet-latest · deepinfra · 17 tok/s · 137% spreadclaude-4-opus · deepinfra · 31 tok/s · 76% spreadclaude-4-sonnet · deepinfra · 17 tok/s · 168% spreadclaude-haiku-4.5 · deepinfra · 30 tok/s · 167% spreadclaude-opus-4-7 · deepinfra · 31 tok/s · 58% spreadKimi-K2.6 · together · 70 tok/s · 248% spreadclaude-opus-4-8 · deepinfra · 28 tok/s · 73% spreadclaude-sonnet-4.6 · deepinfra · 17 tok/s · 159% spreadnemotron-3-ultra-550b-a55b · together · 59 tok/s · 238% spreadGPT-oss-120b · together · 58 tok/s · 228% spreadDeepSeek-R1-0528 · deepinfra · 20 tok/s · 210% spreadGPT-oss-20b · together · 52 tok/s · 315% spreadDeepSeek-V3 · deepinfra · 16 tok/s · 272% spreadDeepSeek-V3.1 · deepinfra · 10 tok/s · 290% spreadDeepSeek-V3.1-Terminus · deepinfra · 35 tok/s · 197% spreadDeepSeek-V4-Flash · deepinfra · 23 tok/s · 291% spreadDeepSeek-V4-Pro · deepinfra · 17 tok/s · 265% spreadgemini-2.5-flash · deepinfra · 36 tok/s · 298% spreadgemini-3.1-pro · deepinfra · 23 tok/s · 269% spreadgemma-3-12b-it · deepinfra · 31 tok/s · 117% spreadgemma-3-27b-it · deepinfra · 19 tok/s · 182% spreadgemma-3-4b-it · deepinfra · 27 tok/s · 181% spreadgemma-4-26B-A4B-it · deepinfra · 20 tok/s · 183% spreadgemma-4-31B-it · deepinfra · 17 tok/s · 481% spreadgemma-4-31B-it-turbo · deepinfra · 37 tok/s · 149% spreadGLM-5.2 · together · 82 tok/s · 233% spreadllama-2-70b · deepinfra · 25 tok/s · 169% spreadllama-3.2-11b · deepinfra · 21 tok/s · 374% spreadllama-3.2-1b · deepinfra · 19 tok/s · 415% spreadllama-3.2-3b · deepinfra · 19 tok/s · 376% spreadllama-3.2-90b · deepinfra · 48 tok/s · 231% spreadLlama-3.3-70B-Instruct-Turbo · deepinfra · 13 tok/s · 234% spreadllama-3.3-70b · deepinfra · 14 tok/s · 194% spreadllama-4-maverick · deepinfra · 47 tok/s · 225% spreadLlama-Guard-4-12B · deepinfra · 2 tok/s · 144% spreadllama-3-70b · deepinfra · 24 tok/s · 191% spreadllama-3-8b · deepinfra · 34 tok/s · 263% spreadllama-3.1-405b · deepinfra · 18 tok/s · 135% spreadllama-3.1-70b · deepinfra · 26 tok/s · 185% spreadllama-3.1-8b · deepinfra · 17 tok/s · 175% spreadphi-4 · deepinfra · 45 tok/s · 117% spreadMiniMax-M2.7-Turbo · deepinfra · 50 tok/s · 173% spreaddevstral-small · deepinfra · 24 tok/s · 266% spreadmistral-7b · deepinfra · 25 tok/s · 234% spreadMistral-Nemo-Instruct-2407 · deepinfra · 28 tok/s · 349% spreadMistral-Small-24B-Instruct-2501 · deepinfra · 37 tok/s · 164% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra · 25 tok/s · 305% spreadmixtral-8x7b · deepinfra · 38 tok/s · 173% spreadKimi-K2-Instruct-0905 · deepinfra · 18 tok/s · 458% spreadKimi-K2-Thinking · deepinfra · 17 tok/s · 517% spreadKimi-K2.5 · deepinfra · 20 tok/s · 416% spreadKimi-K2.5-Turbo · deepinfra · 17 tok/s · 365% spreadKimi-K2.6 · deepinfra · 13 tok/s · 314% spreadLlama-3.3-Nemotron-Super-49B-v1.5 · deepinfra · 38 tok/s · 188% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra · 36 tok/s · 199% spreadnemotron-3-ultra-550b-a55b · deepinfra · 37 tok/s · 185% spreadNVIDIA-Nemotron-Nano-12B-v2-VL · deepinfra · 37 tok/s · 208% spreadNVIDIA-Nemotron-Nano-9B-v2 · deepinfra · 58 tok/s · 259% spreadNemotron-3-Nano-30B-A3B · deepinfra · 59 tok/s · 294% spreadNemotron-3-Nano-Omni-30B-A3B-Reasoning · deepinfra · 39 tok/s · 191% spreadGPT-oss-120b · deepinfra · 17 tok/s · 319% spreadGPT-oss-120b-Turbo · deepinfra · 65 tok/s · 273% spreadGPT-oss-20b · deepinfra · 60 tok/s · 196% spreadGLM-4.6 · deepinfra · 30 tok/s · 212% spreadGLM-4.6V · deepinfra · 20 tok/s · 206% spreadGLM-4.7 · deepinfra · 27 tok/s · 186% spreadGLM-4.7-Flash · deepinfra · 49 tok/s · 258% spreadGLM-5 · deepinfra · 21 tok/s · 235% spreadGLM-5.1 · deepinfra · 22 tok/s · 227% spreadMiniMax-M2 · deepinfra · 25 tok/s · 25% spreadGPT-5-pro · openai · 8 tok/s · 85% spreadMiniMax-M2.7 · deepinfra · 15 tok/s · 173% spreaddeepseek-v3.2 · deepinfra · 15 tok/s · 407% spreadOrnith-1.0-35B · deepinfra · 35 tok/s · 249% spreadQwen3.6-35B-A3B · deepinfra · 34 tok/s · 288% spreadgemma-4-31B-it · together · 52 tok/s · 194% spreaddeepseek-ai/DeepSeek-R1-0528-Turbo · deepinfra · 20 tok/s · 191% spreadDeepSeek-V4-Flash-0731 · deepinfra · 27 tok/s · 167% spreadKimi-K3 · fireworks · 29 tok/s · 191% spreadDeepSeek-V4-Flash · fireworks · 32 tok/s · 185% spreadKimi-K3 · together · 38 tok/s · 182% spreadKimi-K2.7-Code · fireworks · 36 tok/s · 197% spreadclaude-opus-5 · anthropic · 26 tok/s · 216% spreadGPT-oss-20b · fireworks · 74 tok/s · 193% spreadMiniMax-M3 · fireworks · 54 tok/s · 198% spreadInkling-Small · deepinfra · 50 tok/s · 278% spreadQwen3.8-Max · deepinfra · 6 tok/s · 384% spreadclaude-opus-5 · deepinfra · 25 tok/s · 115% spreadDeepSeek-V4-Flash-0731 · fireworks · 29 tok/s · 248% spreadqwen3-reranker-8b · fireworks · 63 tok/s · 190% spreadnemotron-3-ultra-550b-a55b · fireworks · 60 tok/s · 232% spreadqwen3p7-plus · fireworks · 53 tok/s · 456% spreadglm-5p2-fast · fireworks · 53 tok/s · 299% spreadkimi-k2p6-turbo · fireworks · 49 tok/s · 184% spreadkimi-k3-fast · fireworks · 30 tok/s · 192% spreadkimi-k2p7-code-fast · fireworks · 56 tok/s · 90% spreadQwen/Qwen2.5-VL-32B-Instruct · deepinfra · 24 tok/s · 161% spreadmicrosoft/WizardLM-2-8x22B · deepinfra · 16 tok/s · 299% spreaddeepseek-ai/DeepSeek-OCR · deepinfra · 22 tok/s · 374% spreadPaddlePaddle/PaddleOCR-VL-0.9B · deepinfra · 20 tok/s · 235% spreadnvidia/Llama-3.1-Nemotron-70B-Instruct · deepinfra · 36 tok/s · 178% spreadallenai/olmOCR-2-7B-1025 · deepinfra · 20 tok/s · 261% spreaddeepseek-ai/DeepSeek-R1-Distill-Llama-70B · deepinfra · 22 tok/s · 168% spreadDeepSeek-V4-Flash-0731 · together · 48 tok/s · 226% spreadInkling · fireworks · 4 tok/s · 0% spreadKimi-K3 · deepinfra · 21 tok/s · 302% spreadNemotron-Lightning-3.5-30B-A3B · fireworks · 83 tok/s · 298% spreadgemini-2.5-flash-lite · google via OpenRouter · 3 tok/s · 40% spreadgemma-4-26B-A4B-it · deepinfra via OpenRouter · 20 tok/s · 186% spreadgpt-4.1-nano · openai via OpenRouter · 43 tok/s · 67% spreadphi-4 · deepinfra via OpenRouter · 23 tok/s · 198% spreadgpt-4o-mini · openai via OpenRouter · 38 tok/s · 71% spreadNemotron-3-Nano-30B-A3B · deepinfra via OpenRouter · 55 tok/s · 154% spreadMistral-Small-24B-Instruct-2501 · deepinfra via OpenRouter · 41 tok/s · 76% spreadqwen-2.5-72b · deepinfra via OpenRouter · 16 tok/s · 204% spreadgpt-3.5-turbo · openai via OpenRouter · 47 tok/s · 75% spreadclaude-opus-4-8 · anthropic via OpenRouter · 24 tok/s · 69% spreadgemma-3-4b-it · deepinfra via OpenRouter · 24 tok/s · 96% spreadgpt-4o · openai via OpenRouter · 37 tok/s · 83% spreadgpt-4.1-mini · openai via OpenRouter · 29 tok/s · 125% spreadgemma-3n-e4b-it · together via OpenRouter · 35 tok/s · 111% spreaddeepseek-v3.2 · deepinfra via OpenRouter · 12 tok/s · 164% spreadgpt-4 · openai via OpenRouter · 24 tok/s · 57% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra via OpenRouter · 27 tok/s · 81% spreadgemma-3-12b-it · deepinfra via OpenRouter · 28 tok/s · 108% spreadMistral-Nemo-Instruct-2407 · deepinfra via OpenRouter · 27 tok/s · 188% spreadDeepSeek-V3.1-Terminus · deepinfra via OpenRouter · 38 tok/s · 107% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra via OpenRouter · 22 tok/s · 162% spreadllama-3.1-8b · deepinfra via OpenRouter · 18 tok/s · 156% spreadDeepSeek-V3 · deepinfra via OpenRouter · 13 tok/s · 90% spreadclaude-haiku-4.5 · anthropic via OpenRouter · 37 tok/s · 84% spreadQwen3-VL-30B-A3B-Instruct · deepinfra via OpenRouter · 23 tok/s · 147% spreadQwen3-Next-80B-A3B-Instruct · deepinfra via OpenRouter · 42 tok/s · 139% spreadDeepSeek-V3.1 · deepinfra via OpenRouter · 11 tok/s · 158% spreadclaude-opus-4-7 · anthropic via OpenRouter · 22 tok/s · 77% spreadclaude-sonnet-4.6 · anthropic via OpenRouter · 22 tok/s · 102% spreadclaude-sonnet-5 · anthropic via OpenRouter · 23 tok/s · 68% spreadclaude-opus-4.6 · anthropic via OpenRouter · 19 tok/s · 47% spreadllama-3.1-70b · deepinfra via OpenRouter · 26 tok/s · 138% spreadDeepSeek-V4-Flash · deepinfra via OpenRouter · 34 tok/s · 120% spreadmeta-models/Muse-Glimmer-30B · together · 21 tok/s · 198% spreadaccounts/fireworks/models/muse-glimmer-30b · fireworks · 15 tok/s · 168% spreadmeta-models/Muse-Glimmer-30B · deepinfra · 25 tok/s · 122% spreadnvidia/NVIDIA-Nemotron-3.5-Lightning · deepinfra · 171 tok/s · 70% spread
mean tok/s →↑ spread %

Full results

283 of 283 models
State
min·mean·max
Trend

Throughput over time · shared scale

Method. A cron job calls each model's live API endpoint on a schedule and records what came back. Mean, min and max are over completed samples in the selected window, and n is how many there were. A missing value means the endpoint returned an error or the model was not yet in the catalogue.

Spread is (max − min) ÷ mean, so it measures run-to-run variation rather than absolute speed. TTFT is seconds to the first visible token; runs that emit only reasoning tokens are left out of that average. Mean counts visible output tokens where a provider reports them and falls back to generated throughput where it does not, which is why Gen is higher for models that think before answering.