llm-benchmarks
githubdrose.io

Cloud LLM benchmarks

Models
507
Providers
10
Samples
83,291
Median tok/s
30
p90 tok/s
61
Max tok/s
283
Median spread
133%
Median TTFT
1.36s

Delivered throughput · tok/s

64 visible tokens ÷ time to the 64th

No Delivered TPS data yet

Throughput distribution · tok/s

By provider

ProviderModelsMedianp90BestSpreadTTFT
groq6170283283136%
cerebras1136136136409%1.02
bedrock216196117110%0.41
together235981102232%
openai38396386202%1.97
fireworks25387899194%
openai via OpenRouter637474771%0.92
openrouter20930538770%1.35
deepinfra via OpenRouter19264155154%0.98
deepinfra1262550171211%
anthropic10252945163%1.45
anthropic via OpenRouter7223434101%1.54
fireworks via OpenRouter3164242139%2.28
together via OpenRouter6154848116%1.18
groq via OpenRouter21125250%0.99
google via OpenRouter133340%1.09
google43160160145%0.95

Throughput × spread · 507 models

100200200400llama-3.3-70b · groq · 146 tok/s · 136% spreadgemini-2.5-flash-lite · google · 73 tok/s · 246% spreadGPT-5.1-chat-latest · openai · 49 tok/s · 130% spreadclaude-sonnet-4.6 · anthropic · 24 tok/s · 149% spreado4 Mini · openai · 47 tok/s · 337% spreadQwen3.6-27B · groq · 225 tok/s · 190% spreadGPT-5.5-pro · openai · 11 tok/s · 275% spreadGPT-5.3-codex · openai · 20 tok/s · 303% spreadGPT-5.5 · openai · 23 tok/s · 177% spreadMiniMax-M2.7 · fireworks · 61 tok/s · 312% spreadGPT-5-codex · openai · 56 tok/s · 119% spreadclaude-haiku-4.5 · bedrock · 44 tok/s · 131% spreadClaude Opus 4.1 · bedrock · 8 tok/s · 172% spreadclaude-opus-4.5 · bedrock · 20 tok/s · 117% spreadclaude-opus-4.6 · bedrock · 21 tok/s · 101% spreadclaude-opus-4-7 · bedrock · 28 tok/s · 129% spreadclaude-sonnet-4.5 · bedrock · 22 tok/s · 131% spreadclaude-sonnet-4.6 · bedrock · 27 tok/s · 99% spreadllama-3-70b · bedrock · 36 tok/s · 103% spreadllama-3-8b · bedrock · 78 tok/s · 77% spreadllama-3.1-70b · bedrock · 61 tok/s · 103% spreadllama-3.1-8b · bedrock · 95 tok/s · 110% spreadllama-3.3-70b · bedrock · 84 tok/s · 143% spreadllama-4-maverick · bedrock · 107 tok/s · 72% spreadllama-4-scout · bedrock · 96 tok/s · 123% spreadmistral-7b · bedrock · 82 tok/s · 55% spreadmistral-large · bedrock · 43 tok/s · 78% spreadmistral-small · bedrock · 56 tok/s · 67% spreadmixtral-8x7b · bedrock · 74 tok/s · 83% spreadnova-lite · bedrock · 92 tok/s · 143% spreadnova-micro · bedrock · 117 tok/s · 137% spreadnova-pro · bedrock · 90 tok/s · 130% spreadllama-4-scout · groq · 137 tok/s · 102% spreadGoogle: Nano Banana (Gemini 2.5 Flash Image) · google · 160 tok/s · 145% spreadgpt-4 · openai · 23 tok/s · 229% spreadKimi-K2.7-Code · together · 81 tok/s · 310% spreadGPT-5 Nano · openai · 84 tok/s · 179% spreadGPT-5 · openai · 36 tok/s · 202% spreadGLM-5.2 · fireworks · 31 tok/s · 287% spreadGPT-5.1-codex-max · openai · 62 tok/s · 152% spreadKimi-K2.6 · fireworks · 36 tok/s · 164% spreadGPT-5-chat-latest · openai · 60 tok/s · 102% spreadGPT-oss-120b · fireworks · 99 tok/s · 209% spreadclaude-haiku-4.5 · anthropic · 45 tok/s · 165% spreadgpt-4.1-nano · openai · 49 tok/s · 258% spreadGPT-5.1-codex-mini · openai · 86 tok/s · 102% spreado3-pro · openai · 17 tok/s · 191% spreadgpt-4.1 · openai · 46 tok/s · 252% spreadGPT-5.4-mini · openai · 42 tok/s · 201% spreadGPT-5.1-codex · openai · 67 tok/s · 93% spreadgpt-3.5-turbo · openai · 40 tok/s · 281% spreadgpt-4.1-mini · openai · 36 tok/s · 279% spreadglm-5p1 · fireworks · 28 tok/s · 168% spreadgpt-4o-mini · openai · 39 tok/s · 255% spreadgpt-4o · openai · 38 tok/s · 290% spreadgpt-5.2-codex · openai · 50 tok/s · 77% spreadGPT-5.4 · openai · 24 tok/s · 182% spreadGPT-5.1 · openai · 31 tok/s · 231% spreadGPT-5.2-chat-latest · openai · 39 tok/s · 133% spreadGPT-5.2-pro · openai · 15 tok/s · 116% spreadGPT-5.2 · openai · 23 tok/s · 175% spreadqwen-3-32b · groq · 170 tok/s · 60% spreadllama-3.1-8b · groq · 213 tok/s · 236% spreadGPT-5.6-sol · openai · 17 tok/s · 179% spreadclaude-sonnet-5 · anthropic · 29 tok/s · 205% spreadLFM2.5-8B-A1B · together · 102 tok/s · 273% spreadGPT-5.6-luna · openai · 28 tok/s · 309% spreadGPT-5.6-terra · openai · 24 tok/s · 217% spreadInkling · together · 24 tok/s · 153% spreadclaude-opus-4-8 · anthropic · 29 tok/s · 163% spreadDeepSeek-V4-Pro · fireworks · 30 tok/s · 160% spreadgemma-4-31b · cerebras · 136 tok/s · 409% spreadNVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · deepinfra · 36 tok/s · 225% spreadclaude-opus-4.5 · anthropic · 25 tok/s · 132% spreadclaude-opus-4.6 · anthropic · 19 tok/s · 142% spreadclaude-opus-4-7 · anthropic · 26 tok/s · 164% spreadQwen3-VL-235B-A22B-Instruct · deepinfra · 13 tok/s · 294% spreadQwen3-VL-30B-A3B-Instruct · deepinfra · 25 tok/s · 155% spreadKimi-K2.7-Code · deepinfra · 37 tok/s · 359% spreadGLM-5.2 · deepinfra · 30 tok/s · 252% spreadInkling · deepinfra · 52 tok/s · 195% spreadgemma-4-E4B-it · deepinfra · 42 tok/s · 194% spreadHy3 · deepinfra · 30 tok/s · 206% spreadclaude-sonnet-5 · deepinfra · 31 tok/s · 63% spreadclaude-fable-5 · deepinfra · 18 tok/s · 124% spreadMiniMax-M3 · deepinfra · 16 tok/s · 505% spreadgemini-2.5-pro · google · 3 tok/s · 130% spreadclaude-fable-5 · anthropic · 23 tok/s · 231% spreadClaude Opus 4.1 · anthropic · 15 tok/s · 77% spreadGPT-oss-safeguard-20b · groq · 283 tok/s · 232% spreado3 Mini · openai · 63 tok/s · 296% spreado1 · openai · 53 tok/s · 264% spreadGPT-5 Mini · openai · 50 tok/s · 235% spreado3 · openai · 45 tok/s · 276% spreadgemini-3.5-flash · deepinfra · 29 tok/s · 274% spreadGPT-5.4-nano · openai · 49 tok/s · 278% spreadgemini-3.1-flash-lite · deepinfra · 36 tok/s · 410% spreadgpt-5.3-chat-latest · openai · 36 tok/s · 125% spreadqwen-2.5-7b · together · 68 tok/s · 159% spreadgemma-3n-e4b-it · together · 36 tok/s · 154% spreadllama-3.3-70b · together · 46 tok/s · 264% spreadQwen2.5-7B-Instruct-Turbo · together · 68 tok/s · 54% spreadgemini-2.5-flash · google · 2 tok/s · 193% spreadSeed-2.0-code · deepinfra · 1 tok/s · 571% spreadSeed-2.0-pro · deepinfra · 3 tok/s · 525% spreadqwen-3.5-9b · together · 68 tok/s · 166% spreadMiniMax-M2.1 · deepinfra · 33 tok/s · 52% spreadMiniMax-M2.5 · deepinfra · 23 tok/s · 33% spreadqwen-2.5-72b · deepinfra · 15 tok/s · 290% spreadQwen 2.5 Coder 32B · deepinfra · 42 tok/s · 132% spreadqwen-3-14b · deepinfra · 26 tok/s · 200% spreadqwen-2-1.5b-instruct · together · 99 tok/s · 253% spreadqwen-3-235b · deepinfra · 19 tok/s · 219% spreadQwen3-235B-A22B-Thinking-2507 · deepinfra · 8 tok/s · 336% spreadQwen3-30B-A3B · deepinfra · 58 tok/s · 129% spreadQwen3-32B · deepinfra · 41 tok/s · 150% spreadQwen3-Coder-480B-A35B-Instruct · deepinfra · 30 tok/s · 247% spreadQwen3-Coder-480B-A35B-Instruct-Turbo · deepinfra · 27 tok/s · 231% spreadQwen3-Max · deepinfra · 22 tok/s · 217% spreadQwen3-Max-Thinking · deepinfra · 19 tok/s · 220% spreadQwen3-Next-80B-A3B-Instruct · deepinfra · 47 tok/s · 221% spreadqwen-3.5-0.8b · deepinfra · 25 tok/s · 369% spreadDeepSeek-V4-Pro · together · 29 tok/s · 338% spreadqwen-3.5-122b-a10b · deepinfra · 58 tok/s · 211% spreadqwen-3.5-27b · deepinfra · 53 tok/s · 157% spreadqwen-3.5-2b · deepinfra · 27 tok/s · 304% spreadqwen-3.5-35b-a3b · deepinfra · 95 tok/s · 164% spreadqwen-3.5-397b-a17b · deepinfra · 44 tok/s · 168% spreadGPT-5.4-pro · openai · 4 tok/s · 204% spreadqwen-3.5-4b · deepinfra · 27 tok/s · 296% spreadQwen3.6-27B · deepinfra · 45 tok/s · 165% spreadLlama-Guard-4-12B · together · 3 tok/s · 138% spreadQwen3.7-Max · deepinfra · 2 tok/s · 26% spreadMiniMax-M3 · together · 33 tok/s · 391% spreadL3.3-70B-Euryale-v2.3 · deepinfra · 30 tok/s · 109% spreadMiMo-V2.5 · deepinfra · 23 tok/s · 232% spreadMiMo-V2.5-Pro · deepinfra · 62 tok/s · 210% spreadOlmo-3.1-32B-Instruct · deepinfra · 20 tok/s · 338% spreadclaude-3-7-sonnet-latest · deepinfra · 17 tok/s · 137% spreadclaude-4-opus · deepinfra · 31 tok/s · 76% spreadclaude-4-sonnet · deepinfra · 17 tok/s · 168% spreadclaude-haiku-4.5 · deepinfra · 30 tok/s · 167% spreadclaude-opus-4-7 · deepinfra · 31 tok/s · 58% spreadKimi-K2.6 · together · 80 tok/s · 255% spreadclaude-opus-4-8 · deepinfra · 28 tok/s · 73% spreadclaude-sonnet-4.6 · deepinfra · 17 tok/s · 159% spreadnemotron-3-ultra-550b-a55b · together · 60 tok/s · 234% spreadGPT-oss-120b · together · 62 tok/s · 232% spreadDeepSeek-R1-0528 · deepinfra · 20 tok/s · 210% spreadGPT-oss-20b · together · 52 tok/s · 315% spreadDeepSeek-V3 · deepinfra · 16 tok/s · 272% spreadDeepSeek-V3.1 · deepinfra · 10 tok/s · 290% spreadDeepSeek-V3.1-Terminus · deepinfra · 35 tok/s · 197% spreadDeepSeek-V4-Flash · deepinfra · 23 tok/s · 291% spreadDeepSeek-V4-Pro · deepinfra · 17 tok/s · 265% spreadgemini-2.5-flash · deepinfra · 36 tok/s · 298% spreadgemini-3.1-pro · deepinfra · 23 tok/s · 269% spreadgemma-3-12b-it · deepinfra · 31 tok/s · 117% spreadgemma-3-27b-it · deepinfra · 19 tok/s · 182% spreadgemma-3-4b-it · deepinfra · 27 tok/s · 181% spreadgemma-4-26B-A4B-it · deepinfra · 20 tok/s · 183% spreadgemma-4-31B-it · deepinfra · 17 tok/s · 481% spreadgemma-4-31B-it-turbo · deepinfra · 37 tok/s · 149% spreadGLM-5.2 · together · 81 tok/s · 235% spreadllama-2-70b · deepinfra · 25 tok/s · 169% spreadllama-3.2-11b · deepinfra · 21 tok/s · 374% spreadllama-3.2-1b · deepinfra · 19 tok/s · 415% spreadllama-3.2-3b · deepinfra · 19 tok/s · 376% spreadllama-3.2-90b · deepinfra · 48 tok/s · 231% spreadLlama-3.3-70B-Instruct-Turbo · deepinfra · 13 tok/s · 234% spreadllama-3.3-70b · deepinfra · 14 tok/s · 194% spreadllama-4-maverick · deepinfra · 47 tok/s · 225% spreadLlama-Guard-4-12B · deepinfra · 2 tok/s · 144% spreadllama-3-70b · deepinfra · 24 tok/s · 191% spreadllama-3-8b · deepinfra · 34 tok/s · 263% spreadllama-3.1-405b · deepinfra · 18 tok/s · 135% spreadllama-3.1-70b · deepinfra · 26 tok/s · 185% spreadllama-3.1-8b · deepinfra · 17 tok/s · 175% spreadphi-4 · deepinfra · 45 tok/s · 117% spreadMiniMax-M2.7-Turbo · deepinfra · 50 tok/s · 173% spreaddevstral-small · deepinfra · 24 tok/s · 266% spreadmistral-7b · deepinfra · 25 tok/s · 234% spreadMistral-Nemo-Instruct-2407 · deepinfra · 28 tok/s · 349% spreadMistral-Small-24B-Instruct-2501 · deepinfra · 37 tok/s · 164% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra · 25 tok/s · 305% spreadmixtral-8x7b · deepinfra · 38 tok/s · 173% spreadKimi-K2-Instruct-0905 · deepinfra · 18 tok/s · 458% spreadKimi-K2-Thinking · deepinfra · 17 tok/s · 517% spreadKimi-K2.5 · deepinfra · 20 tok/s · 416% spreadKimi-K2.5-Turbo · deepinfra · 17 tok/s · 365% spreadKimi-K2.6 · deepinfra · 13 tok/s · 314% spreadLlama-3.3-Nemotron-Super-49B-v1.5 · deepinfra · 38 tok/s · 188% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra · 36 tok/s · 199% spreadnemotron-3-ultra-550b-a55b · deepinfra · 37 tok/s · 185% spreadNVIDIA-Nemotron-Nano-12B-v2-VL · deepinfra · 37 tok/s · 208% spreadNVIDIA-Nemotron-Nano-9B-v2 · deepinfra · 58 tok/s · 259% spreadNemotron-3-Nano-30B-A3B · deepinfra · 59 tok/s · 294% spreadNemotron-3-Nano-Omni-30B-A3B-Reasoning · deepinfra · 39 tok/s · 191% spreadGPT-oss-120b · deepinfra · 17 tok/s · 319% spreadGPT-oss-120b-Turbo · deepinfra · 65 tok/s · 273% spreadGPT-oss-20b · deepinfra · 60 tok/s · 196% spreadGLM-4.6 · deepinfra · 30 tok/s · 212% spreadGLM-4.6V · deepinfra · 20 tok/s · 206% spreadGLM-4.7 · deepinfra · 27 tok/s · 186% spreadGLM-4.7-Flash · deepinfra · 49 tok/s · 258% spreadGLM-5 · deepinfra · 21 tok/s · 235% spreadGLM-5.1 · deepinfra · 22 tok/s · 227% spreadMiniMax-M2 · deepinfra · 25 tok/s · 25% spreadGPT-5-pro · openai · 8 tok/s · 145% spreadMiniMax-M2.7 · deepinfra · 15 tok/s · 173% spreaddeepseek-v3.2 · deepinfra · 15 tok/s · 407% spreadOrnith-1.0-35B · deepinfra · 35 tok/s · 249% spreadQwen3.6-35B-A3B · deepinfra · 34 tok/s · 288% spreadgemma-4-31B-it · together · 59 tok/s · 182% spreaddeepseek-ai/DeepSeek-R1-0528-Turbo · deepinfra · 20 tok/s · 191% spreadDeepSeek-V4-Flash-0731 · deepinfra · 27 tok/s · 167% spreadKimi-K3 · fireworks · 28 tok/s · 200% spreadDeepSeek-V4-Flash · fireworks · 31 tok/s · 191% spreadKimi-K3 · together · 38 tok/s · 182% spreadKimi-K2.7-Code · fireworks · 38 tok/s · 374% spreadclaude-opus-5 · anthropic · 28 tok/s · 217% spreadGPT-oss-20b · fireworks · 78 tok/s · 195% spreadMiniMax-M3 · fireworks · 53 tok/s · 202% spreadInkling-Small · deepinfra · 50 tok/s · 278% spreadQwen3.8-Max · deepinfra · 6 tok/s · 384% spreadclaude-opus-5 · deepinfra · 25 tok/s · 115% spreadDeepSeek-V4-Flash-0731 · fireworks · 29 tok/s · 252% spreadqwen3-reranker-8b · fireworks · 62 tok/s · 194% spreadnemotron-3-ultra-550b-a55b · fireworks · 59 tok/s · 234% spreadqwen3p7-plus · fireworks · 55 tok/s · 442% spreadglm-5p2-fast · fireworks · 53 tok/s · 299% spreadkimi-k2p6-turbo · fireworks · 49 tok/s · 184% spreadkimi-k3-fast · fireworks · 30 tok/s · 192% spreadkimi-k2p7-code-fast · fireworks · 56 tok/s · 90% spreadQwen/Qwen2.5-VL-32B-Instruct · deepinfra · 24 tok/s · 161% spreadmicrosoft/WizardLM-2-8x22B · deepinfra · 16 tok/s · 299% spreaddeepseek-ai/DeepSeek-OCR · deepinfra · 22 tok/s · 374% spreadPaddlePaddle/PaddleOCR-VL-0.9B · deepinfra · 20 tok/s · 235% spreadnvidia/Llama-3.1-Nemotron-70B-Instruct · deepinfra · 36 tok/s · 178% spreadallenai/olmOCR-2-7B-1025 · deepinfra · 20 tok/s · 261% spreaddeepseek-ai/DeepSeek-R1-Distill-Llama-70B · deepinfra · 22 tok/s · 168% spreadDeepSeek-V4-Flash-0731 · together · 47 tok/s · 325% spreadInkling · fireworks · 4 tok/s · 0% spreadKimi-K3 · deepinfra · 21 tok/s · 302% spreadNemotron-Lightning-3.5-30B-A3B · fireworks · 87 tok/s · 286% spreadgemini-2.5-flash-lite · google via OpenRouter · 3 tok/s · 40% spreadgemma-4-26B-A4B-it · deepinfra via OpenRouter · 20 tok/s · 191% spreadgpt-4.1-nano · openai via OpenRouter · 43 tok/s · 67% spreadphi-4 · deepinfra via OpenRouter · 24 tok/s · 196% spreadgpt-4o-mini · openai via OpenRouter · 38 tok/s · 71% spreadNemotron-3-Nano-30B-A3B · deepinfra via OpenRouter · 55 tok/s · 154% spreadMistral-Small-24B-Instruct-2501 · deepinfra via OpenRouter · 40 tok/s · 77% spreadqwen-2.5-72b · deepinfra via OpenRouter · 17 tok/s · 197% spreadgpt-3.5-turbo · openai via OpenRouter · 47 tok/s · 75% spreadclaude-opus-4-8 · anthropic via OpenRouter · 26 tok/s · 80% spreadgemma-3-4b-it · deepinfra via OpenRouter · 24 tok/s · 96% spreadgpt-4o · openai via OpenRouter · 37 tok/s · 83% spreadgpt-4.1-mini · openai via OpenRouter · 29 tok/s · 125% spreadgemma-3n-e4b-it · together via OpenRouter · 33 tok/s · 118% spreaddeepseek-v3.2 · deepinfra via OpenRouter · 12 tok/s · 161% spreadgpt-4 · openai via OpenRouter · 24 tok/s · 57% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra via OpenRouter · 27 tok/s · 81% spreadgemma-3-12b-it · deepinfra via OpenRouter · 28 tok/s · 107% spreadMistral-Nemo-Instruct-2407 · deepinfra via OpenRouter · 26 tok/s · 194% spreadDeepSeek-V3.1-Terminus · deepinfra via OpenRouter · 39 tok/s · 106% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra via OpenRouter · 22 tok/s · 162% spreadllama-3.1-8b · deepinfra via OpenRouter · 19 tok/s · 174% spreadDeepSeek-V3 · deepinfra via OpenRouter · 13 tok/s · 90% spreadclaude-haiku-4.5 · anthropic via OpenRouter · 34 tok/s · 101% spreadQwen3-VL-30B-A3B-Instruct · deepinfra via OpenRouter · 27 tok/s · 448% spreadQwen3-Next-80B-A3B-Instruct · deepinfra via OpenRouter · 41 tok/s · 140% spreadDeepSeek-V3.1 · deepinfra via OpenRouter · 11 tok/s · 160% spreadclaude-opus-4-7 · anthropic via OpenRouter · 22 tok/s · 106% spreadclaude-sonnet-4.6 · anthropic via OpenRouter · 22 tok/s · 105% spreadclaude-sonnet-5 · anthropic via OpenRouter · 25 tok/s · 95% spreadclaude-opus-4.6 · anthropic via OpenRouter · 19 tok/s · 104% spreadllama-3.1-70b · deepinfra via OpenRouter · 26 tok/s · 138% spreadDeepSeek-V4-Flash · deepinfra via OpenRouter · 34 tok/s · 120% spreadmeta-models/Muse-Glimmer-30B · together · 21 tok/s · 198% spreadaccounts/fireworks/models/muse-glimmer-30b · fireworks · 15 tok/s · 168% spreadmeta-models/Muse-Glimmer-30B · deepinfra · 25 tok/s · 122% spreadnvidia/NVIDIA-Nemotron-3.5-Lightning · deepinfra · 171 tok/s · 70% spreaddeepseek-v4-pro-0813 · fireworks · 15 tok/s · 0% spreadQwen3.8-Max · fireworks · 52 tok/s · 151% spreadQwen3.8-2.4T-A95B · fireworks · 32 tok/s · 76% spreadQwen3.8-2.4T-A95B · together · 79 tok/s · 167% spreadLlama-Guard-4-12B · together via OpenRouter · 4 tok/s · 92% spreadnemotron-3-ultra-550b-a55b · fireworks via OpenRouter · 42 tok/s · 98% spreadnemotron-3-ultra-550b-a55b · together via OpenRouter · 48 tok/s · 55% spreadclaude-opus-4.5 · anthropic via OpenRouter · 21 tok/s · 39% spreadKimi-K3 · fireworks via OpenRouter · 14 tok/s · 145% spreadGPT-oss-120b · fireworks via OpenRouter · 16 tok/s · 139% spreadGPT-oss-120b · together via OpenRouter · 15 tok/s · 176% spreadllama-3.3-70b · together via OpenRouter · 20 tok/s · 166% spreadGLM-5.2 · together via OpenRouter · 11 tok/s · 116% spreaddeepseek-ai/DeepSeek-V4-Pro-0813 · together · 11 tok/s · 84% spreadllama-3.3-70b · groq via OpenRouter · 11 tok/s · 31% spreaddeepseek/deepseek-chat-v3-0324 · openrouter · 20 tok/s · 36% spreadmistralai/mistral-medium-3 · openrouter · 31 tok/s · 77% spreaddeepseek/deepseek-chat-v3 · openrouter · 21 tok/s · 112% spreadmistralai/mistral-small-24b-instruct-2501 · openrouter · 34 tok/s · 40% spreadqwen/qwen2.5-vl-72b-instruct · openrouter · 28 tok/s · 34% spreadmeta-llama/llama-3.2-1b-instruct · openrouter · 57 tok/s · 59% spreadqwen/qwen-2.5-7b-instruct · openrouter · 44 tok/s · 31% spreadqwen/qwen-2.5-coder-32b-instruct · openrouter · 25 tok/s · 16% spreadmeta-llama/llama-3.2-3b-instruct · openrouter · 43 tok/s · 99% spreadqwen/qwen-2.5-72b-instruct · openrouter · 27 tok/s · 55% spreadnousresearch/hermes-3-llama-3.1-70b · openrouter · 26 tok/s · 37% spreadnousresearch/hermes-3-llama-3.1-405b · openrouter · 18 tok/s · 68% spreadopenai/gpt-4o-2024-08-06 · openrouter · 43 tok/s · 32% spreadmeta-llama/llama-3.1-8b-instruct · openrouter · 30 tok/s · 107% spreadmeta-llama/llama-3.1-70b-instruct · openrouter · 26 tok/s · 47% spreadmistralai/mistral-nemo · openrouter · 22 tok/s · 85% spreadopenai/gpt-4o-mini-2024-07-18 · openrouter · 41 tok/s · 63% spreadopenai/gpt-4o-mini · openrouter · 31 tok/s · 22% spreadopenai/gpt-4o-2024-11-20 · openrouter · 46 tok/s · 127% spreadmeta-llama/llama-3.3-70b-instruct · openrouter · 14 tok/s · 83% spreadmistralai/mistral-small-3.2-24b-instruct-2506 · openrouter · 22 tok/s · 124% spreadqwen/qwen3-8b-04-28 · openrouter · 11 tok/s · 13% spreadqwen/qwen3-235b-a22b-04-28 · openrouter · 12 tok/s · 138% spreadopenai/gpt-4.1-2025-04-14 · openrouter · 35 tok/s · 68% spreadopenai/gpt-4.1-mini-2025-04-14 · openrouter · 33 tok/s · 26% spreadopenai/gpt-4.1-nano-2025-04-14 · openrouter · 44 tok/s · 9% spreadmistralai/mistral-small-3.1-24b-instruct-2503 · openrouter · 22 tok/s · 74% spreadmistralai/mistral-saba-2502 · openrouter · 42 tok/s · 45% spreadtencent/hunyuan-a13b-instruct · openrouter · 30 tok/s · 23% spreadthedrummer/cydonia-24b-v4.1 · openrouter · 37 tok/s · 38% spreadthedrummer/rocinante-12b · openrouter · 34 tok/s · 46% spreadthedrummer/skyfall-36b-v2 · openrouter · 29 tok/s · 108% spreadthedrummer/unslopnemo-12b · openrouter · 48 tok/s · 40% spreadundi95/remm-slerp-l2-13b · openrouter · 37 tok/s · 56% spreadupstage/solar-pro-3 · openrouter · 35 tok/s · 45% spreadupstage/solar-pro4-20260810 · openrouter · 28 tok/s · 88% spreadwriter/palmyra-x5-20250428 · openrouter · 43 tok/s · 72% spreadx-ai/grok-4.20-20260309 · openrouter · 37 tok/s · 25% spreadx-ai/grok-4.3-20260430 · openrouter · 10 tok/s · 23% spreadx-ai/grok-4.20-multi-agent-20260309 · openrouter · 10 tok/s · 301% spreadx-ai/grok-4.5-20260708 · openrouter · 7 tok/s · 64% spreadx-ai/grok-4.6-20260810 · openrouter · 5 tok/s · 161% spreadx-ai/grok-build-0.1-20260520 · openrouter · 4 tok/s · 86% spreadz-ai/glm-4.5 · openrouter · 2 tok/s · 34% spreadz-ai/glm-5.1-20260406 · openrouter · 16 tok/s · 132% spreadz-ai/glm-5.2-20260616 · openrouter · 16 tok/s · 119% spread~anthropic/claude-haiku-latest · openrouter · 33 tok/s · 85% spread~openai/gpt-mini-latest · openrouter · 41 tok/s · 30% spread~x-ai/grok-latest · openrouter · 3 tok/s · 30% spreadopenai/gpt-3.5-turbo · openrouter · 50 tok/s · 77% spreadopenai/gpt-3.5-turbo-0613 · openrouter · 38 tok/s · 50% spreadopenai/gpt-5.4-20260305 · openrouter · 31 tok/s · 22% spreadopenai/gpt-5.4-mini-20260317 · openrouter · 44 tok/s · 32% spreadopenai/gpt-5.4-image-2-20260421 · openrouter · 27 tok/s · 43% spreadopenai/gpt-5.4-nano-20260317 · openrouter · 50 tok/s · 29% spreadopenai/gpt-5.5-20260423 · openrouter · 12 tok/s · 154% spreadopenai/gpt-5.6-luna-pro-20260709 · openrouter · 7 tok/s · 0% spreadopenai/gpt-chat-latest-20260505 · openrouter · 32 tok/s · 26% spreadopenai/gpt-5.6-terra-20260709 · openrouter · 13 tok/s · 148% spreadopenrouter/auto-beta · openrouter · 25 tok/s · 42% spreadperceptron/perceptron-mk1-20260512 · openrouter · 30 tok/s · 18% spreadopenrouter/pareto-code · openrouter · 11 tok/s · 146% spreadperplexity/sonar · openrouter · 20 tok/s · 53% spreadperplexity/sonar-pro · openrouter · 21 tok/s · 93% spreadperplexity/sonar-pro-search · openrouter · 34 tok/s · 20% spreadqwen/qwen3-30b-a3b-thinking-2507 · openrouter · 26 tok/s · 236% spreadqwen/qwen-plus-2025-07-28 · openrouter · 35 tok/s · 92% spreadqwen/qwen3-coder-480b-a35b-07-25 · openrouter · 40 tok/s · 91% spreadqwen/qwen3-coder-flash · openrouter · 50 tok/s · 154% spreadqwen/qwen3-coder-plus · openrouter · 24 tok/s · 29% spreadqwen/qwen3-max · openrouter · 21 tok/s · 18% spreadqwen/qwen3-vl-8b-thinking · openrouter · 39 tok/s · 256% spreadqwen/qwen3.5-27b-20260224 · openrouter · 4 tok/s · 86% spreadqwen/qwen3.5-plus-20260216 · openrouter · 13 tok/s · 148% spreadqwen/qwen3.5-flash-20260224 · openrouter · 37 tok/s · 87% spreadqwen/qwen3.6-max-preview-20260420 · openrouter · 2 tok/s · 10% spreadaion-labs/aion-2.0-20260223 · openrouter · 13 tok/s · 131% spreadaion-labs/aion-3.0-20260707 · openrouter · 16 tok/s · 132% spreadaion-labs/aion-rp-llama-3.1-8b · openrouter · 25 tok/s · 93% spreadaion-labs/aion-3.0-mini-20260707 · openrouter · 10 tok/s · 184% spreadamazon/nova-2-lite-v1 · openrouter · 62 tok/s · 136% spreadamazon/nova-lite-v1 · openrouter · 71 tok/s · 202% spreadamazon/nova-micro-v1 · openrouter · 76 tok/s · 160% spreadamazon/nova-premier-v1 · openrouter · 35 tok/s · 114% spreadamazon/nova-pro-v1 · openrouter · 48 tok/s · 118% spreadanthracite-org/magnum-v4-72b · openrouter · 15 tok/s · 32% spreadanthropic/claude-3-haiku · openrouter · 45 tok/s · 111% spreadanthropic/claude-4.5-haiku-20251001 · openrouter · 40 tok/s · 126% spreadanthropic/claude-4-opus-20250522 · openrouter · 16 tok/s · 97% spreadanthropic/claude-4.6-opus-20260205 · openrouter · 21 tok/s · 66% spreadanthropic/claude-4.5-opus-20251124 · openrouter · 23 tok/s · 83% spreadanthropic/claude-4.1-opus-20250805 · openrouter · 8 tok/s · 59% spreadanthropic/claude-4.7-opus-20260416 · openrouter · 25 tok/s · 74% spreadanthropic/claude-4.8-opus-20260528 · openrouter · 28 tok/s · 104% spreadanthropic/claude-4.8-opus-fast-20260528 · openrouter · 55 tok/s · 202% spreadanthropic/claude-4-sonnet-20250522 · openrouter · 36 tok/s · 109% spreadanthropic/claude-4.5-sonnet-20250929 · openrouter · 24 tok/s · 89% spreadanthropic/claude-4.6-sonnet-20260217 · openrouter · 26 tok/s · 53% spreadanthropic/claude-sonnet-5-20260630 · openrouter · 27 tok/s · 144% spreadbaidu/ernie-4.5-vl-424b-a47b · openrouter · 16 tok/s · 73% spreadbytedance/ui-tars-1.5-7b · openrouter · 43 tok/s · 136% spreadvenice/uncensored · openrouter · 46 tok/s · 120% spreadcohere/command-a-03-2025 · openrouter · 36 tok/s · 93% spreadcohere/command-r-08-2024 · openrouter · 17 tok/s · 135% spreadcohere/command-r-plus-08-2024 · openrouter · 4 tok/s · 143% spreadcohere/command-r7b-12-2024 · openrouter · 47 tok/s · 88% spreaddeepcogito/cogito-v2.1-671b-20251118 · openrouter · 53 tok/s · 90% spreaddeepseek/deepseek-v3.1-terminus · openrouter · 44 tok/s · 176% spreaddeepseek/deepseek-v3.2-20251201 · openrouter · 19 tok/s · 66% spreaddeepseek/deepseek-chat-v3.1 · openrouter · 8 tok/s · 90% spreaddeepseek/deepseek-v3.2-exp · openrouter · 20 tok/s · 42% spreadgoogle/gemini-2.5-flash · openrouter · 56 tok/s · 123% spreadgoogle/gemini-2.5-flash-image · openrouter · 87 tok/s · 208% spreadgoogle/gemini-2.5-flash-lite · openrouter · 75 tok/s · 164% spreadgoogle/gemini-2.5-pro · openrouter · 3 tok/s · 126% spreadgoogle/gemini-2.5-pro-preview-03-25 · openrouter · 5 tok/s · 117% spreadgoogle/gemini-3-flash-preview-20251217 · openrouter · 53 tok/s · 85% spreadgoogle/gemini-3.1-flash-image-20260528 · openrouter · 55 tok/s · 155% spreadgoogle/gemini-3.1-flash-image-preview-20260226 · openrouter · 56 tok/s · 141% spreadgoogle/gemini-3.1-flash-lite-20260507 · openrouter · 57 tok/s · 184% spreadgoogle/gemini-3.1-flash-lite-image-20260630 · openrouter · 60 tok/s · 33% spreadgoogle/gemini-3.1-flash-lite-preview-20260303 · openrouter · 52 tok/s · 47% spreadgoogle/gemini-3.1-pro-preview-customtools-20260219 · openrouter · 4 tok/s · 143% spreadgoogle/gemini-3.1-pro-preview-20260219 · openrouter · 4 tok/s · 110% spreadgoogle/gemini-3.5-flash-20260519 · openrouter · 5 tok/s · 84% spreadgoogle/gemini-3.5-flash-lite-20260721 · openrouter · 52 tok/s · 35% spreadgoogle/gemini-3.7-flash-20260813 · openrouter · 6 tok/s · 135% spreadgoogle/gemma-2-27b-it · openrouter · 29 tok/s · 28% spreadgoogle/gemma-3-12b-it · openrouter · 34 tok/s · 32% spreadgoogle/gemma-3-27b-it · openrouter · 26 tok/s · 73% spreadgoogle/gemma-3-4b-it · openrouter · 33 tok/s · 5% spreadgoogle/gemma-3n-e4b-it · openrouter · 34 tok/s · 12% spreadgoogle/gemma-4-26b-a4b-it-20260403 · openrouter · 23 tok/s · 53% spreadgoogle/gemma-4-31b-it-20260402 · openrouter · 19 tok/s · 145% spreadgryphe/mythomax-l2-13b · openrouter · 26 tok/s · 41% spreadibm-granite/granite-4.0-h-micro · openrouter · 26 tok/s · 29% spreadibm-granite/granite-4.1-8b-20260429 · openrouter · 60 tok/s · 34% spreadinclusionai/ling-2.6-1t-20260423 · openrouter · 35 tok/s · 30% spreadinclusionai/ling-2.6-flash-20260421 · openrouter · 27 tok/s · 44% spreadkwaipilot/kat-coder-air-v2.5-20260710 · openrouter · 30 tok/s · 102% spreadkwaipilot/kat-coder-pro-v2-20260327 · openrouter · 34 tok/s · 13% spreadmeta-llama/llama-4-maverick-17b-128e-instruct · openrouter · 33 tok/s · 113% spreadmeta-llama/llama-guard-4-12b · openrouter · 3 tok/s · 86% spreadmeta-llama/llama-4-scout-17b-16e-instruct · openrouter · 35 tok/s · 52% spreadmicrosoft/phi-4 · openrouter · 32 tok/s · 70% spreadminimax/minimax-01 · openrouter · 23 tok/s · 32% spreadmicrosoft/wizardlm-2-8x22b · openrouter · 13 tok/s · 81% spreadminimax/minimax-m2-her-20260123 · openrouter · 37 tok/s · 35% spreadmistralai/codestral-2508 · openrouter · 52 tok/s · 36% spreadmistralai/ministral-14b-2512 · openrouter · 50 tok/s · 29% spreadmistralai/ministral-3b-2512 · openrouter · 58 tok/s · 25% spreadmistralai/ministral-8b-2512 · openrouter · 54 tok/s · 31% spreadmistralai/mistral-large · openrouter · 32 tok/s · 18% spreadmistralai/mistral-large-2407 · openrouter · 31 tok/s · 83% spreadmistralai/mistral-large-2512 · openrouter · 25 tok/s · 83% spreadmistralai/mistral-medium-3.5-20260430 · openrouter · 56 tok/s · 25% spreadmistralai/mistral-medium-3.1 · openrouter · 45 tok/s · 19% spreadmistralai/mistral-small-2603 · openrouter · 40 tok/s · 63% spreadmistralai/mixtral-8x22b-instruct · openrouter · 40 tok/s · 23% spreadmistralai/voxtral-small-24b-2507 · openrouter · 57 tok/s · 41% spreadmoonshotai/kimi-k2.5-0127 · openrouter · 3 tok/s · 107% spreadmorph/morph-v3-fast · openrouter · 15 tok/s · 87% spreadmorph/morph-v3-large · openrouter · 34 tok/s · 96% spreadnousresearch/hermes-4-405b · openrouter · 25 tok/s · 69% spreadnousresearch/hermes-4-70b · openrouter · 39 tok/s · 37% spreadnvidia/nemotron-3-ultra-550b-a55b-20260604 · openrouter · 23 tok/s · 115% spreadopenai/gpt-3.5-turbo-16k · openrouter · 47 tok/s · 62% spreadopenai/gpt-3.5-turbo-instruct · openrouter · 41 tok/s · 70% spreadopenai/gpt-4 · openrouter · 19 tok/s · 28% spreadopenai/gpt-4-turbo · openrouter · 17 tok/s · 61% spreadopenai/gpt-4o · openrouter · 34 tok/s · 27% spreadopenai/gpt-4o-2024-05-13 · openrouter · 17 tok/s · 147% spreadopenai/gpt-5.1-20251113 · openrouter · 35 tok/s · 32% spreadopenai/gpt-5.1-codex-20251113 · openrouter · 28 tok/s · 88% spreadopenrouter/bodybuilder · openrouter · 8 tok/s · 16% spreadqwen/qwen-plus-2025-01-25 · openrouter · 36 tok/s · 70% spreadqwen/qwen3-235b-a22b-07-25 · openrouter · 15 tok/s · 109% spreadqwen/qwen3-30b-a3b-instruct-2507 · openrouter · 40 tok/s · 105% spreadqwen/qwen3-coder-30b-a3b-instruct · openrouter · 44 tok/s · 230% spreadqwen/qwen3-coder-next-2025-02-03 · openrouter · 45 tok/s · 19% spreadqwen/qwen3-max-thinking-20260123 · openrouter · 25 tok/s · 15% spreadqwen/qwen3-next-80b-a3b-instruct-2509 · openrouter · 41 tok/s · 138% spreadqwen/qwen3-vl-235b-a22b-instruct · openrouter · 31 tok/s · 25% spreadqwen/qwen3-vl-235b-a22b-thinking · openrouter · 15 tok/s · 281% spreadqwen/qwen3-vl-30b-a3b-instruct · openrouter · 66 tok/s · 112% spreadqwen/qwen3-vl-30b-a3b-thinking · openrouter · 34 tok/s · 274% spreadqwen/qwen3-vl-32b-instruct · openrouter · 41 tok/s · 92% spreadqwen/qwen3-vl-8b-instruct · openrouter · 66 tok/s · 164% spreadqwen/qwen3.5-122b-a10b-20260224 · openrouter · 30 tok/s · 170% spreadrekaai/reka-edge-2603 · openrouter · 35 tok/s · 30% spreadrelace/relace-search-20251208 · openrouter · 53 tok/s · 43% spreadsao10k/l3-lunaris-8b · openrouter · 44 tok/s · 17% spreadsao10k/l3.1-euryale-70b · openrouter · 34 tok/s · 34% spread~anthropic/claude-sonnet-latest · openrouter · 21 tok/s · 7% spreadllama-3.1-8b · groq via OpenRouter · 25 tok/s · 0% spread~google/gemini-flash-latest · openrouter · 6 tok/s · 110% spreadopenai/gpt-5.6-terra-pro-20260709 · openrouter · 33 tok/s · 131% spreadpoolside/laguna-s-2.1-20260720 · openrouter · 54 tok/s · 43% spreadgoogle/gemini-2.5-pro-preview-06-05 · openrouter · 3 tok/s · 141% spreadgoogle/gemini-3.6-flash-20260721 · openrouter · 6 tok/s · 133% spreadopenai/gpt-5.2-pro-20251211 · openrouter · 22 tok/s · 155% spreadgoogle/lyria-3-clip-preview-20260330 · openrouter · 40 tok/s · 65% spreadsao10k/l3.3-euryale-70b-v2.3 · openrouter · 12 tok/s · 117% spreadopenai/gpt-5.2-codex-20260114 · openrouter · 14 tok/s · 0% spreadperplexity/sonar-reasoning-pro · openrouter · 9 tok/s · 0% spreadgoogle/gemini-3-pro-image-preview-20251120 · openrouter · 6 tok/s · 23% spreadopenrouter/free · openrouter · 5 tok/s · 0% spreadgoogle/gemini-3-pro-image-20260528 · openrouter · 10 tok/s · 47% spreadinception/mercury-2-20260304 · openrouter · 28 tok/s · 0% spreadperplexity/sonar-deep-research · openrouter · 1 tok/s · 0% spread
mean tok/s →↑ spread %

Full results

507 of 507 models
State
min·mean·max
Trend

Throughput over time · shared scale

Method. A cron job calls each model's live API endpoint on a schedule and records what came back. Mean, min and max are over completed samples in the selected window, and n is how many there were. A missing value means the endpoint returned an error or the model was not yet in the catalogue.

Spread is (max − min) ÷ mean, so it measures run-to-run variation rather than absolute speed. TTFT is seconds to the first visible token; runs that emit only reasoning tokens are left out of that average. Mean counts visible output tokens where a provider reports them and falls back to generated throughput where it does not, which is why Gen is higher for models that think before answering.