llm-benchmarks
githubdrose.io

Cloud LLM benchmarks

Models
244
Providers
9
Samples
66,403
Median tok/s
32
p90 tok/s
74
Max tok/s
296
Median spread
141%
Median TTFT
1.46s

Throughput distribution · tok/s

050100150200250300350

Visible-token throughput, same basis as the table · curves normalised per model · 1 model's tail runs past the axis · 222 slower models not drawn, all 244 are in the table below

By provider

ProviderModelsMedianp90BestSpreadTTFT
groq6174296296145%
cerebras1151151151134%0.62
together205079110188%
bedrock235096122110%0.40
fireworks19407499155%
openai38386084153%1.86
deepinfra1232748110146%
anthropic10243043106%1.47
google42159159112%0.95

Throughput × spread · 244 models

100200300200400gpt-4 · openai · 23 tok/s · 147% spreadMiniMax-M2.7 · fireworks · 65 tok/s · 196% spreadclaude-haiku-4.5 · anthropic · 43 tok/s · 140% spreadGLM-5.2 · fireworks · 32 tok/s · 330% spreadclaude-haiku-4.5 · bedrock · 43 tok/s · 135% spreadClaude Opus 4.1 · bedrock · 8 tok/s · 173% spreadclaude-opus-4.5 · bedrock · 20 tok/s · 94% spreadclaude-opus-4.6 · bedrock · 21 tok/s · 102% spreadclaude-opus-4-7 · bedrock · 27 tok/s · 137% spreadclaude-sonnet-4.5 · bedrock · 22 tok/s · 129% spreadclaude-sonnet-4.6 · bedrock · 27 tok/s · 99% spreadllama-3-70b · bedrock · 36 tok/s · 111% spreadllama-3-8b · bedrock · 78 tok/s · 110% spreadllama-3.1-405b · bedrock · 17 tok/s · 59% spreadllama-3.1-70b · bedrock · 50 tok/s · 144% spreadllama-3.1-8b · bedrock · 96 tok/s · 110% spreadllama-3.2-90b · bedrock · 47 tok/s · 41% spreadllama-3.3-70b · bedrock · 84 tok/s · 138% spreadllama-4-maverick · bedrock · 107 tok/s · 105% spreadllama-4-scout · bedrock · 95 tok/s · 117% spreadmistral-7b · bedrock · 82 tok/s · 75% spreadmistral-large · bedrock · 42 tok/s · 97% spreadmistral-small · bedrock · 56 tok/s · 67% spreadmixtral-8x7b · bedrock · 73 tok/s · 84% spreadnova-lite · bedrock · 91 tok/s · 141% spreadnova-micro · bedrock · 122 tok/s · 118% spreadnova-pro · bedrock · 92 tok/s · 132% spreadGPT-5-chat-latest · openai · 60 tok/s · 104% spreadGPT-5.4-mini · openai · 43 tok/s · 163% spreadGPT-5.1-codex · openai · 69 tok/s · 109% spreadKimi-K2.6 · fireworks · 39 tok/s · 198% spreadGPT-oss-120b · fireworks · 99 tok/s · 207% spreadGPT-5.1-codex-mini · openai · 84 tok/s · 116% spreadgpt-4.1-mini · openai · 36 tok/s · 157% spreadQwen3.6-27B · groq · 217 tok/s · 145% spreadgemma-4-31b · cerebras · 151 tok/s · 134% spreadgpt-4.1 · openai · 50 tok/s · 149% spreadglm-5p1 · fireworks · 27 tok/s · 223% spreadgpt-4.1-nano · openai · 51 tok/s · 164% spreadGPT-5 · openai · 38 tok/s · 186% spreadgpt-3.5-turbo · openai · 42 tok/s · 171% spreadllama-4-scout · groq · 114 tok/s · 156% spreadgpt-4o · openai · 38 tok/s · 153% spreadgpt-4o-mini · openai · 38 tok/s · 134% spreadgpt-5.2-codex · openai · 51 tok/s · 87% spreadGPT-5.4 · openai · 25 tok/s · 170% spreadGPT-5.1 · openai · 31 tok/s · 178% spreadGPT-5.2-pro · openai · 15 tok/s · 121% spreadGPT-5.2-chat-latest · openai · 39 tok/s · 131% spreadgemini-2.5-flash-lite · google · 74 tok/s · 112% spreadGPT-5.2 · openai · 23 tok/s · 125% spreadGPT-5.3-codex · openai · 18 tok/s · 198% spreadGoogle: Nano Banana (Gemini 2.5 Flash Image) · google · 159 tok/s · 143% spreadclaude-sonnet-4.6 · anthropic · 24 tok/s · 113% spreadGPT-5-codex · openai · 57 tok/s · 137% spreadGPT-5.1-chat-latest · openai · 50 tok/s · 128% spreadGPT-5.5-pro · openai · 11 tok/s · 306% spreadGLM-5.2 · together · 68 tok/s · 231% spreadGPT-5.5 · openai · 22 tok/s · 128% spreadGPT-oss-safeguard-20b · groq · 296 tok/s · 222% spreadGPT-5.1-codex-max · openai · 60 tok/s · 193% spreado4 Mini · openai · 49 tok/s · 336% spreadKimi-K2.7-Code · together · 79 tok/s · 250% spreadqwen-3-32b · groq · 174 tok/s · 103% spreadllama-3.1-8b · groq · 223 tok/s · 129% spreado3-pro · openai · 17 tok/s · 195% spreadllama-3.3-70b · groq · 152 tok/s · 153% spreadGPT-5 Nano · openai · 84 tok/s · 168% spreadGPT-5.6-sol · openai · 17 tok/s · 141% spreadclaude-sonnet-5 · anthropic · 30 tok/s · 123% spreadLFM2.5-8B-A1B · together · 110 tok/s · 110% spreadGPT-5.6-luna · openai · 26 tok/s · 170% spreadGPT-5.6-terra · openai · 24 tok/s · 143% spreadInkling · together · 24 tok/s · 153% spreadclaude-opus-4-8 · anthropic · 26 tok/s · 118% spreadDeepSeek-V4-Pro · fireworks · 32 tok/s · 143% spreadNVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · deepinfra · 40 tok/s · 164% spreadclaude-opus-4.5 · anthropic · 24 tok/s · 116% spreadclaude-opus-4.6 · anthropic · 18 tok/s · 91% spreadclaude-opus-4-7 · anthropic · 25 tok/s · 96% spreadQwen3-VL-235B-A22B-Instruct · deepinfra · 13 tok/s · 299% spreadQwen3-VL-30B-A3B-Instruct · deepinfra · 23 tok/s · 150% spreadKimi-K2.7-Code · deepinfra · 34 tok/s · 235% spreadGLM-5.2 · deepinfra · 36 tok/s · 185% spreadInkling · deepinfra · 59 tok/s · 165% spreadgemma-4-E4B-it · deepinfra · 42 tok/s · 127% spreadHy3 · deepinfra · 33 tok/s · 188% spreadclaude-sonnet-5 · deepinfra · 31 tok/s · 58% spreadclaude-fable-5 · deepinfra · 18 tok/s · 69% spreadMiniMax-M3 · deepinfra · 9 tok/s · 353% spreadgemini-2.5-pro · google · 2 tok/s · 102% spreadclaude-fable-5 · anthropic · 20 tok/s · 106% spreadClaude Opus 4.1 · anthropic · 15 tok/s · 77% spreado3 Mini · openai · 47 tok/s · 351% spreado1 · openai · 51 tok/s · 265% spreadGPT-5 Mini · openai · 41 tok/s · 251% spreado3 · openai · 41 tok/s · 228% spreadgemini-3.5-flash · deepinfra · 28 tok/s · 89% spreadGPT-5.4-nano · openai · 45 tok/s · 169% spreadgemini-3.1-flash-lite · deepinfra · 33 tok/s · 94% spreadgpt-5.3-chat-latest · openai · 33 tok/s · 109% spreadqwen-2.5-7b · together · 72 tok/s · 54% spreadgemma-3n-e4b-it · together · 32 tok/s · 132% spreadllama-3.3-70b · together · 42 tok/s · 210% spreadQwen2.5-7B-Instruct-Turbo · together · 68 tok/s · 54% spreadgemini-2.5-flash · google · 2 tok/s · 147% spreadSeed-2.0-code · deepinfra · 1 tok/s · 44% spreadSeed-2.0-pro · deepinfra · 2 tok/s · 66% spreadqwen-3.5-9b · together · 66 tok/s · 153% spreadMiniMax-M2.1 · deepinfra · 33 tok/s · 52% spreadMiniMax-M2.5 · deepinfra · 23 tok/s · 33% spreadqwen-2.5-72b · deepinfra · 17 tok/s · 172% spreadQwen 2.5 Coder 32B · deepinfra · 43 tok/s · 100% spreadqwen-3-14b · deepinfra · 18 tok/s · 288% spreadqwen-2-1.5b-instruct · together · 109 tok/s · 130% spreadqwen-3-235b · deepinfra · 19 tok/s · 174% spreadQwen3-235B-A22B-Thinking-2507 · deepinfra · 8 tok/s · 342% spreadQwen3-30B-A3B · deepinfra · 65 tok/s · 110% spreadQwen3-32B · deepinfra · 41 tok/s · 124% spreadQwen3-Coder-480B-A35B-Instruct · deepinfra · 30 tok/s · 173% spreadQwen3-Coder-480B-A35B-Instruct-Turbo · deepinfra · 30 tok/s · 188% spreadQwen3-Max · deepinfra · 23 tok/s · 53% spreadQwen3-Max-Thinking · deepinfra · 19 tok/s · 63% spreadQwen3-Next-80B-A3B-Instruct · deepinfra · 45 tok/s · 149% spreadqwen-3.5-0.8b · deepinfra · 29 tok/s · 323% spreadDeepSeek-V4-Pro · together · 25 tok/s · 230% spreadqwen-3.5-122b-a10b · deepinfra · 62 tok/s · 75% spreadqwen-3.5-27b · deepinfra · 47 tok/s · 128% spreadqwen-3.5-2b · deepinfra · 36 tok/s · 231% spreadqwen-3.5-35b-a3b · deepinfra · 110 tok/s · 132% spreadqwen-3.5-397b-a17b · deepinfra · 47 tok/s · 150% spreadGPT-5.4-pro · openai · 4 tok/s · 134% spreadqwen-3.5-4b · deepinfra · 35 tok/s · 224% spreadQwen3.6-27B · deepinfra · 45 tok/s · 159% spreadLlama-Guard-4-12B · together · 3 tok/s · 95% spreadQwen3.7-Max · deepinfra · 2 tok/s · 26% spreadMiniMax-M3 · together · 26 tok/s · 249% spreadL3.3-70B-Euryale-v2.3 · deepinfra · 30 tok/s · 55% spreadMiMo-V2.5 · deepinfra · 29 tok/s · 168% spreadMiMo-V2.5-Pro · deepinfra · 60 tok/s · 193% spreadOlmo-3.1-32B-Instruct · deepinfra · 16 tok/s · 384% spreadclaude-3-7-sonnet-latest · deepinfra · 17 tok/s · 65% spreadclaude-4-opus · deepinfra · 32 tok/s · 37% spreadclaude-4-sonnet · deepinfra · 17 tok/s · 79% spreadclaude-haiku-4.5 · deepinfra · 30 tok/s · 80% spreadclaude-opus-4-7 · deepinfra · 31 tok/s · 39% spreadKimi-K2.6 · together · 66 tok/s · 204% spreadclaude-opus-4-8 · deepinfra · 28 tok/s · 61% spreadclaude-sonnet-4.6 · deepinfra · 17 tok/s · 83% spreadnemotron-3-ultra-550b-a55b · together · 59 tok/s · 188% spreadGPT-oss-120b · together · 49 tok/s · 217% spreadDeepSeek-R1-0528 · deepinfra · 17 tok/s · 121% spreadGPT-oss-20b · together · 51 tok/s · 320% spreadDeepSeek-V3 · deepinfra · 17 tok/s · 256% spreadDeepSeek-V3.1 · deepinfra · 9 tok/s · 174% spreadDeepSeek-V3.1-Terminus · deepinfra · 36 tok/s · 185% spreadDeepSeek-V4-Flash · deepinfra · 25 tok/s · 133% spreadDeepSeek-V4-Pro · deepinfra · 18 tok/s · 224% spreadgemini-2.5-flash · deepinfra · 35 tok/s · 68% spreadgemini-3.1-pro · deepinfra · 22 tok/s · 42% spreadgemma-3-12b-it · deepinfra · 33 tok/s · 105% spreadgemma-3-27b-it · deepinfra · 21 tok/s · 129% spreadgemma-3-4b-it · deepinfra · 25 tok/s · 163% spreadgemma-4-26B-A4B-it · deepinfra · 21 tok/s · 140% spreadgemma-4-31B-it · deepinfra · 12 tok/s · 408% spreadgemma-4-31B-it-turbo · deepinfra · 36 tok/s · 147% spreadllama-2-70b · deepinfra · 28 tok/s · 148% spreadllama-3.2-11b · deepinfra · 9 tok/s · 336% spreadllama-3.2-1b · deepinfra · 11 tok/s · 437% spreadllama-3.2-3b · deepinfra · 12 tok/s · 337% spreadllama-3.2-90b · deepinfra · 42 tok/s · 92% spreadLlama-3.3-70B-Instruct-Turbo · deepinfra · 13 tok/s · 180% spreadllama-3.3-70b · deepinfra · 13 tok/s · 180% spreadllama-4-maverick · deepinfra · 42 tok/s · 141% spreadLlama-Guard-4-12B · deepinfra · 3 tok/s · 121% spreadllama-3-70b · deepinfra · 30 tok/s · 141% spreadllama-3-8b · deepinfra · 36 tok/s · 143% spreadllama-3.1-405b · deepinfra · 17 tok/s · 126% spreadllama-3.1-70b · deepinfra · 30 tok/s · 141% spreadllama-3.1-8b · deepinfra · 17 tok/s · 117% spreadphi-4 · deepinfra · 45 tok/s · 109% spreadMiniMax-M2.7-Turbo · deepinfra · 50 tok/s · 173% spreaddevstral-small · deepinfra · 22 tok/s · 220% spreadmistral-7b · deepinfra · 22 tok/s · 233% spreadMistral-Nemo-Instruct-2407 · deepinfra · 21 tok/s · 313% spreadMistral-Small-24B-Instruct-2501 · deepinfra · 35 tok/s · 100% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra · 22 tok/s · 224% spreadmixtral-8x7b · deepinfra · 36 tok/s · 98% spreadKimi-K2-Instruct-0905 · deepinfra · 16 tok/s · 374% spreadKimi-K2-Thinking · deepinfra · 14 tok/s · 422% spreadKimi-K2.5 · deepinfra · 20 tok/s · 382% spreadKimi-K2.5-Turbo · deepinfra · 16 tok/s · 383% spreadKimi-K2.6 · deepinfra · 14 tok/s · 227% spreadLlama-3.3-Nemotron-Super-49B-v1.5 · deepinfra · 48 tok/s · 137% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra · 39 tok/s · 135% spreadnemotron-3-ultra-550b-a55b · deepinfra · 44 tok/s · 140% spreadNVIDIA-Nemotron-Nano-12B-v2-VL · deepinfra · 39 tok/s · 161% spreadNVIDIA-Nemotron-Nano-9B-v2 · deepinfra · 65 tok/s · 154% spreadNemotron-3-Nano-30B-A3B · deepinfra · 64 tok/s · 140% spreadNemotron-3-Nano-Omni-30B-A3B-Reasoning · deepinfra · 44 tok/s · 169% spreadGPT-oss-120b · deepinfra · 21 tok/s · 149% spreadGPT-oss-120b-Turbo · deepinfra · 66 tok/s · 266% spreadGPT-oss-20b · deepinfra · 58 tok/s · 163% spreadGLM-4.6 · deepinfra · 34 tok/s · 158% spreadGLM-4.6V · deepinfra · 19 tok/s · 197% spreadGLM-4.7 · deepinfra · 27 tok/s · 174% spreadGLM-4.7-Flash · deepinfra · 47 tok/s · 272% spreadGLM-5 · deepinfra · 20 tok/s · 221% spreadGLM-5.1 · deepinfra · 27 tok/s · 146% spreadMiniMax-M2 · deepinfra · 25 tok/s · 25% spreadGPT-5-pro · openai · 10 tok/s · 39% spreadMiniMax-M2.7 · deepinfra · 15 tok/s · 173% spreaddeepseek-v3.2 · deepinfra · 12 tok/s · 254% spreadOrnith-1.0-35B · deepinfra · 29 tok/s · 229% spreadQwen3.6-35B-A3B · deepinfra · 34 tok/s · 220% spreadgemma-4-31B-it · together · 50 tok/s · 204% spreaddeepseek-ai/DeepSeek-R1-0528-Turbo · deepinfra · 18 tok/s · 112% spreadDeepSeek-V4-Flash-0731 · deepinfra · 24 tok/s · 7% spreadKimi-K3 · fireworks · 25 tok/s · 146% spreadDeepSeek-V4-Flash · fireworks · 32 tok/s · 148% spreadKimi-K3 · together · 38 tok/s · 153% spreadKimi-K2.7-Code · fireworks · 36 tok/s · 138% spreadclaude-opus-5 · anthropic · 24 tok/s · 82% spreadGPT-oss-20b · fireworks · 74 tok/s · 194% spreadMiniMax-M3 · fireworks · 59 tok/s · 168% spreadInkling-Small · deepinfra · 52 tok/s · 52% spreadQwen3.8-Max · deepinfra · 5 tok/s · 87% spreadclaude-opus-5 · deepinfra · 30 tok/s · 5% spreadDeepSeek-V4-Flash-0731 · fireworks · 29 tok/s · 249% spreadqwen3-reranker-8b · fireworks · 62 tok/s · 36% spreadnemotron-3-ultra-550b-a55b · fireworks · 52 tok/s · 117% spreadqwen3p7-plus · fireworks · 50 tok/s · 87% spreadglm-5p2-fast · fireworks · 40 tok/s · 184% spreadkimi-k2p6-turbo · fireworks · 49 tok/s · 67% spreadkimi-k3-fast · fireworks · 31 tok/s · 155% spreadkimi-k2p7-code-fast · fireworks · 56 tok/s · 90% spreadQwen/Qwen2.5-VL-32B-Instruct · deepinfra · 27 tok/s · 26% spreadmicrosoft/WizardLM-2-8x22B · deepinfra · 12 tok/s · 105% spreaddeepseek-ai/DeepSeek-OCR · deepinfra · 7 tok/s · 80% spreadPaddlePaddle/PaddleOCR-VL-0.9B · deepinfra · 6 tok/s · 55% spreadnvidia/Llama-3.1-Nemotron-70B-Instruct · deepinfra · 50 tok/s · 17% spreadallenai/olmOCR-2-7B-1025 · deepinfra · 6 tok/s · 92% spreaddeepseek-ai/DeepSeek-R1-Distill-Llama-70B · deepinfra · 16 tok/s · 53% spreadDeepSeek-V4-Flash-0731 · together · 46 tok/s · 233% spread
mean tok/s →↑ spread %

Full results

244 of 244 models
State
min·mean·max
Trend

Throughput over time · shared scale

Method. A cron job calls each model's live API endpoint on a schedule and records what came back. Mean, min and max are over completed samples in the selected window, and n is how many there were. A missing value means the endpoint returned an error or the model was not yet in the catalogue.

Spread is (max − min) ÷ mean, so it measures run-to-run variation rather than absolute speed. TTFT is seconds to the first visible token; runs that emit only reasoning tokens are left out of that average. Mean counts visible output tokens where a provider reports them and falls back to generated throughput where it does not, which is why Gen is higher for models that think before answering.