llm-benchmarks
githubdrose.io

Cloud LLM benchmarks

Models
245
Providers
9
Samples
74,217
Median tok/s
31
p90 tok/s
74
Max tok/s
287
Median spread
161%
Median TTFT
1.41s

Throughput distribution · tok/s

050100150200250300350

Visible-token throughput, same basis as the table · curves normalised per model · 1 model's tail runs past the axis · 223 slower models not drawn, all 245 are in the table below

By provider

ProviderModelsMedianp90BestSpreadTTFT
groq6172287287134%
cerebras1131131131159%1.04
bedrock225596119110%0.37
together205478108189%
openai38386085155%1.88
fireworks20376398188%
deepinfra1242650105176%
anthropic10242843120%1.49
google42160160109%0.94

Throughput × spread · 245 models

100200300200400MiniMax-M2.7 · fireworks · 63 tok/s · 197% spreadGoogle: Nano Banana (Gemini 2.5 Flash Image) · google · 160 tok/s · 139% spreadGPT-oss-safeguard-20b · groq · 287 tok/s · 229% spreadQwen3.6-27B · groq · 219 tok/s · 144% spreadGPT-5 Nano · openai · 84 tok/s · 179% spreadclaude-haiku-4.5 · anthropic · 43 tok/s · 140% spreadgpt-4 · openai · 23 tok/s · 152% spreado4 Mini · openai · 47 tok/s · 344% spreadGPT-5.1-codex-max · openai · 60 tok/s · 191% spreadllama-4-scout · groq · 119 tok/s · 150% spreadGLM-5.2 · fireworks · 32 tok/s · 329% spreadGPT-5.5-pro · openai · 11 tok/s · 305% spreadclaude-haiku-4.5 · bedrock · 44 tok/s · 133% spreadClaude Opus 4.1 · bedrock · 8 tok/s · 173% spreadclaude-opus-4.5 · bedrock · 20 tok/s · 111% spreadclaude-opus-4.6 · bedrock · 21 tok/s · 101% spreadclaude-opus-4-7 · bedrock · 28 tok/s · 131% spreadclaude-sonnet-4.5 · bedrock · 22 tok/s · 129% spreadclaude-sonnet-4.6 · bedrock · 27 tok/s · 98% spreadllama-3-70b · bedrock · 36 tok/s · 111% spreadllama-3-8b · bedrock · 78 tok/s · 110% spreadllama-3.1-70b · bedrock · 55 tok/s · 113% spreadllama-3.1-8b · bedrock · 96 tok/s · 109% spreadllama-3.2-90b · bedrock · 47 tok/s · 28% spreadllama-3.3-70b · bedrock · 86 tok/s · 137% spreadllama-4-maverick · bedrock · 107 tok/s · 105% spreadllama-4-scout · bedrock · 96 tok/s · 91% spreadmistral-7b · bedrock · 82 tok/s · 75% spreadmistral-large · bedrock · 42 tok/s · 97% spreadmistral-small · bedrock · 56 tok/s · 67% spreadmixtral-8x7b · bedrock · 73 tok/s · 84% spreadnova-lite · bedrock · 91 tok/s · 144% spreadnova-micro · bedrock · 119 tok/s · 135% spreadnova-pro · bedrock · 90 tok/s · 135% spreadKimi-K2.6 · fireworks · 37 tok/s · 211% spreadGPT-5-chat-latest · openai · 60 tok/s · 104% spreadGPT-5.4-mini · openai · 43 tok/s · 166% spreadGPT-oss-120b · fireworks · 98 tok/s · 211% spreadGPT-5.1-codex-mini · openai · 85 tok/s · 104% spreadgpt-4.1 · openai · 48 tok/s · 154% spreadGPT-5.1-codex · openai · 69 tok/s · 92% spreadgpt-4.1-nano · openai · 50 tok/s · 155% spreadgpt-4.1-mini · openai · 36 tok/s · 160% spreadgpt-3.5-turbo · openai · 41 tok/s · 186% spreadglm-5p1 · fireworks · 29 tok/s · 211% spreadGPT-5.2-pro · openai · 15 tok/s · 118% spreadgpt-4o-mini · openai · 38 tok/s · 133% spreadgpt-4o · openai · 37 tok/s · 153% spreadgpt-5.2-codex · openai · 50 tok/s · 87% spreadGPT-5.1 · openai · 31 tok/s · 172% spreadGPT-5.4 · openai · 24 tok/s · 176% spreadGPT-5.2-chat-latest · openai · 38 tok/s · 134% spreadGPT-5.2 · openai · 23 tok/s · 124% spreado3-pro · openai · 17 tok/s · 197% spreadGPT-5.3-codex · openai · 18 tok/s · 191% spreadgemini-2.5-flash-lite · google · 72 tok/s · 109% spreadGPT-5 · openai · 38 tok/s · 193% spreadGPT-5-codex · openai · 56 tok/s · 122% spreadclaude-sonnet-4.6 · anthropic · 24 tok/s · 113% spreadGPT-5.1-chat-latest · openai · 50 tok/s · 129% spreadKimi-K2.7-Code · together · 78 tok/s · 251% spreadqwen-3-32b · groq · 172 tok/s · 101% spreadllama-3.1-8b · groq · 217 tok/s · 133% spreadGLM-5.2 · together · 72 tok/s · 263% spreadllama-3.3-70b · groq · 148 tok/s · 134% spreadGPT-5.5 · openai · 22 tok/s · 126% spreadGPT-5.6-sol · openai · 17 tok/s · 144% spreadclaude-sonnet-5 · anthropic · 28 tok/s · 130% spreadLFM2.5-8B-A1B · together · 108 tok/s · 114% spreadGPT-5.6-luna · openai · 27 tok/s · 161% spreadGPT-5.6-terra · openai · 24 tok/s · 144% spreadInkling · together · 24 tok/s · 153% spreadclaude-opus-4-8 · anthropic · 27 tok/s · 127% spreadDeepSeek-V4-Pro · fireworks · 31 tok/s · 156% spreadgemma-4-31b · cerebras · 131 tok/s · 159% spreadNVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · deepinfra · 38 tok/s · 216% spreadclaude-opus-4.5 · anthropic · 24 tok/s · 127% spreadclaude-opus-4.6 · anthropic · 19 tok/s · 96% spreadclaude-opus-4-7 · anthropic · 24 tok/s · 120% spreadQwen3-VL-235B-A22B-Instruct · deepinfra · 13 tok/s · 297% spreadQwen3-VL-30B-A3B-Instruct · deepinfra · 26 tok/s · 149% spreadKimi-K2.7-Code · deepinfra · 34 tok/s · 249% spreadGLM-5.2 · deepinfra · 34 tok/s · 212% spreadInkling · deepinfra · 54 tok/s · 178% spreadgemma-4-E4B-it · deepinfra · 43 tok/s · 149% spreadHy3 · deepinfra · 31 tok/s · 200% spreadclaude-sonnet-5 · deepinfra · 31 tok/s · 60% spreadclaude-fable-5 · deepinfra · 18 tok/s · 79% spreadMiniMax-M3 · deepinfra · 15 tok/s · 542% spreadgemini-2.5-pro · google · 2 tok/s · 102% spreadclaude-fable-5 · anthropic · 21 tok/s · 104% spreadClaude Opus 4.1 · anthropic · 15 tok/s · 77% spreado3 Mini · openai · 60 tok/s · 313% spreado1 · openai · 53 tok/s · 256% spreadGPT-5 Mini · openai · 49 tok/s · 218% spreado3 · openai · 44 tok/s · 240% spreadgemini-3.5-flash · deepinfra · 28 tok/s · 94% spreadGPT-5.4-nano · openai · 47 tok/s · 164% spreadgemini-3.1-flash-lite · deepinfra · 33 tok/s · 95% spreadgpt-5.3-chat-latest · openai · 36 tok/s · 125% spreadqwen-2.5-7b · together · 71 tok/s · 74% spreadgemma-3n-e4b-it · together · 32 tok/s · 132% spreadllama-3.3-70b · together · 45 tok/s · 209% spreadQwen2.5-7B-Instruct-Turbo · together · 68 tok/s · 54% spreadgemini-2.5-flash · google · 2 tok/s · 147% spreadSeed-2.0-code · deepinfra · 1 tok/s · 88% spreadSeed-2.0-pro · deepinfra · 2 tok/s · 64% spreadqwen-3.5-9b · together · 64 tok/s · 158% spreadMiniMax-M2.1 · deepinfra · 33 tok/s · 52% spreadMiniMax-M2.5 · deepinfra · 23 tok/s · 33% spreadqwen-2.5-72b · deepinfra · 14 tok/s · 221% spreadQwen 2.5 Coder 32B · deepinfra · 43 tok/s · 129% spreadqwen-3-14b · deepinfra · 25 tok/s · 216% spreadqwen-2-1.5b-instruct · together · 101 tok/s · 142% spreadqwen-3-235b · deepinfra · 18 tok/s · 200% spreadQwen3-235B-A22B-Thinking-2507 · deepinfra · 8 tok/s · 342% spreadQwen3-30B-A3B · deepinfra · 58 tok/s · 128% spreadQwen3-32B · deepinfra · 42 tok/s · 145% spreadQwen3-Coder-480B-A35B-Instruct · deepinfra · 30 tok/s · 187% spreadQwen3-Coder-480B-A35B-Instruct-Turbo · deepinfra · 28 tok/s · 200% spreadQwen3-Max · deepinfra · 22 tok/s · 121% spreadQwen3-Max-Thinking · deepinfra · 18 tok/s · 110% spreadQwen3-Next-80B-A3B-Instruct · deepinfra · 46 tok/s · 151% spreadqwen-3.5-0.8b · deepinfra · 27 tok/s · 343% spreadDeepSeek-V4-Pro · together · 25 tok/s · 303% spreadqwen-3.5-122b-a10b · deepinfra · 57 tok/s · 118% spreadqwen-3.5-27b · deepinfra · 53 tok/s · 142% spreadqwen-3.5-2b · deepinfra · 30 tok/s · 278% spreadqwen-3.5-35b-a3b · deepinfra · 105 tok/s · 142% spreadqwen-3.5-397b-a17b · deepinfra · 46 tok/s · 159% spreadGPT-5.4-pro · openai · 4 tok/s · 197% spreadqwen-3.5-4b · deepinfra · 29 tok/s · 276% spreadQwen3.6-27B · deepinfra · 46 tok/s · 158% spreadLlama-Guard-4-12B · together · 3 tok/s · 105% spreadQwen3.7-Max · deepinfra · 2 tok/s · 26% spreadMiniMax-M3 · together · 26 tok/s · 254% spreadL3.3-70B-Euryale-v2.3 · deepinfra · 30 tok/s · 73% spreadMiMo-V2.5 · deepinfra · 28 tok/s · 191% spreadMiMo-V2.5-Pro · deepinfra · 62 tok/s · 187% spreadOlmo-3.1-32B-Instruct · deepinfra · 22 tok/s · 310% spreadclaude-3-7-sonnet-latest · deepinfra · 17 tok/s · 80% spreadclaude-4-opus · deepinfra · 31 tok/s · 64% spreadclaude-4-sonnet · deepinfra · 17 tok/s · 120% spreadclaude-haiku-4.5 · deepinfra · 29 tok/s · 88% spreadclaude-opus-4-7 · deepinfra · 31 tok/s · 52% spreadKimi-K2.6 · together · 62 tok/s · 218% spreadclaude-opus-4-8 · deepinfra · 27 tok/s · 63% spreadclaude-sonnet-4.6 · deepinfra · 17 tok/s · 89% spreadnemotron-3-ultra-550b-a55b · together · 56 tok/s · 195% spreadGPT-oss-120b · together · 54 tok/s · 243% spreadDeepSeek-R1-0528 · deepinfra · 19 tok/s · 159% spreadGPT-oss-20b · together · 51 tok/s · 320% spreadDeepSeek-V3 · deepinfra · 18 tok/s · 250% spreadDeepSeek-V3.1 · deepinfra · 10 tok/s · 299% spreadDeepSeek-V3.1-Terminus · deepinfra · 35 tok/s · 194% spreadDeepSeek-V4-Flash · deepinfra · 21 tok/s · 195% spreadDeepSeek-V4-Pro · deepinfra · 17 tok/s · 237% spreadgemini-2.5-flash · deepinfra · 35 tok/s · 106% spreadgemini-3.1-pro · deepinfra · 22 tok/s · 73% spreadgemma-3-12b-it · deepinfra · 32 tok/s · 113% spreadgemma-3-27b-it · deepinfra · 20 tok/s · 168% spreadgemma-3-4b-it · deepinfra · 26 tok/s · 181% spreadgemma-4-26B-A4B-it · deepinfra · 20 tok/s · 182% spreadgemma-4-31B-it · deepinfra · 15 tok/s · 330% spreadgemma-4-31B-it-turbo · deepinfra · 37 tok/s · 144% spreadllama-2-70b · deepinfra · 25 tok/s · 170% spreadllama-3.2-11b · deepinfra · 21 tok/s · 284% spreadllama-3.2-1b · deepinfra · 19 tok/s · 298% spreadllama-3.2-3b · deepinfra · 16 tok/s · 294% spreadllama-3.2-90b · deepinfra · 45 tok/s · 146% spreadLlama-3.3-70B-Instruct-Turbo · deepinfra · 13 tok/s · 234% spreadllama-3.3-70b · deepinfra · 14 tok/s · 192% spreadllama-4-maverick · deepinfra · 44 tok/s · 144% spreadLlama-Guard-4-12B · deepinfra · 3 tok/s · 133% spreadllama-3-70b · deepinfra · 25 tok/s · 176% spreadllama-3-8b · deepinfra · 33 tok/s · 173% spreadllama-3.1-405b · deepinfra · 17 tok/s · 126% spreadllama-3.1-70b · deepinfra · 25 tok/s · 173% spreadllama-3.1-8b · deepinfra · 17 tok/s · 172% spreadphi-4 · deepinfra · 47 tok/s · 109% spreadMiniMax-M2.7-Turbo · deepinfra · 50 tok/s · 173% spreaddevstral-small · deepinfra · 24 tok/s · 260% spreadmistral-7b · deepinfra · 26 tok/s · 204% spreadMistral-Nemo-Instruct-2407 · deepinfra · 25 tok/s · 265% spreadMistral-Small-24B-Instruct-2501 · deepinfra · 37 tok/s · 106% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra · 25 tok/s · 255% spreadmixtral-8x7b · deepinfra · 38 tok/s · 106% spreadKimi-K2-Instruct-0905 · deepinfra · 16 tok/s · 500% spreadKimi-K2-Thinking · deepinfra · 16 tok/s · 375% spreadKimi-K2.5 · deepinfra · 20 tok/s · 414% spreadKimi-K2.5-Turbo · deepinfra · 18 tok/s · 353% spreadKimi-K2.6 · deepinfra · 11 tok/s · 301% spreadLlama-3.3-Nemotron-Super-49B-v1.5 · deepinfra · 41 tok/s · 169% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra · 39 tok/s · 169% spreadnemotron-3-ultra-550b-a55b · deepinfra · 39 tok/s · 176% spreadNVIDIA-Nemotron-Nano-12B-v2-VL · deepinfra · 39 tok/s · 197% spreadNVIDIA-Nemotron-Nano-9B-v2 · deepinfra · 57 tok/s · 176% spreadNemotron-3-Nano-30B-A3B · deepinfra · 56 tok/s · 165% spreadNemotron-3-Nano-Omni-30B-A3B-Reasoning · deepinfra · 41 tok/s · 180% spreadGPT-oss-120b · deepinfra · 19 tok/s · 285% spreadGPT-oss-120b-Turbo · deepinfra · 59 tok/s · 299% spreadGPT-oss-20b · deepinfra · 59 tok/s · 193% spreadGLM-4.6 · deepinfra · 29 tok/s · 213% spreadGLM-4.6V · deepinfra · 19 tok/s · 212% spreadGLM-4.7 · deepinfra · 28 tok/s · 181% spreadGLM-4.7-Flash · deepinfra · 52 tok/s · 246% spreadGLM-5 · deepinfra · 20 tok/s · 244% spreadGLM-5.1 · deepinfra · 23 tok/s · 186% spreadMiniMax-M2 · deepinfra · 25 tok/s · 25% spreadGPT-5-pro · openai · 10 tok/s · 39% spreadMiniMax-M2.7 · deepinfra · 15 tok/s · 173% spreaddeepseek-v3.2 · deepinfra · 15 tok/s · 404% spreadOrnith-1.0-35B · deepinfra · 38 tok/s · 229% spreadQwen3.6-35B-A3B · deepinfra · 40 tok/s · 242% spreadgemma-4-31B-it · together · 54 tok/s · 189% spreaddeepseek-ai/DeepSeek-R1-0528-Turbo · deepinfra · 19 tok/s · 186% spreadDeepSeek-V4-Flash-0731 · deepinfra · 27 tok/s · 164% spreadKimi-K3 · fireworks · 31 tok/s · 183% spreadDeepSeek-V4-Flash · fireworks · 33 tok/s · 171% spreadKimi-K3 · together · 38 tok/s · 182% spreadKimi-K2.7-Code · fireworks · 36 tok/s · 196% spreadclaude-opus-5 · anthropic · 25 tok/s · 120% spreadGPT-oss-20b · fireworks · 74 tok/s · 193% spreadMiniMax-M3 · fireworks · 56 tok/s · 188% spreadInkling-Small · deepinfra · 53 tok/s · 263% spreadQwen3.8-Max · deepinfra · 5 tok/s · 151% spreadclaude-opus-5 · deepinfra · 26 tok/s · 96% spreadDeepSeek-V4-Flash-0731 · fireworks · 29 tok/s · 248% spreadqwen3-reranker-8b · fireworks · 63 tok/s · 134% spreadnemotron-3-ultra-550b-a55b · fireworks · 61 tok/s · 229% spreadqwen3p7-plus · fireworks · 51 tok/s · 143% spreadglm-5p2-fast · fireworks · 52 tok/s · 192% spreadkimi-k2p6-turbo · fireworks · 50 tok/s · 169% spreadkimi-k3-fast · fireworks · 31 tok/s · 153% spreadkimi-k2p7-code-fast · fireworks · 56 tok/s · 90% spreadQwen/Qwen2.5-VL-32B-Instruct · deepinfra · 25 tok/s · 154% spreadmicrosoft/WizardLM-2-8x22B · deepinfra · 16 tok/s · 294% spreaddeepseek-ai/DeepSeek-OCR · deepinfra · 23 tok/s · 185% spreadPaddlePaddle/PaddleOCR-VL-0.9B · deepinfra · 20 tok/s · 195% spreadnvidia/Llama-3.1-Nemotron-70B-Instruct · deepinfra · 37 tok/s · 173% spreadallenai/olmOCR-2-7B-1025 · deepinfra · 20 tok/s · 248% spreaddeepseek-ai/DeepSeek-R1-Distill-Llama-70B · deepinfra · 22 tok/s · 126% spreadDeepSeek-V4-Flash-0731 · together · 46 tok/s · 235% spreadInkling · fireworks · 4 tok/s · 0% spreadKimi-K3 · deepinfra · 19 tok/s · 334% spread
mean tok/s →↑ spread %

Full results

245 of 245 models
State
min·mean·max
Trend

Throughput over time · shared scale

Method. A cron job calls each model's live API endpoint on a schedule and records what came back. Mean, min and max are over completed samples in the selected window, and n is how many there were. A missing value means the endpoint returned an error or the model was not yet in the catalogue.

Spread is (max − min) ÷ mean, so it measures run-to-run variation rather than absolute speed. TTFT is seconds to the first visible token; runs that emit only reasoning tokens are left out of that average. Mean counts visible output tokens where a provider reports them and falls back to generated throughput where it does not, which is why Gen is higher for models that think before answering.