llm-benchmarks
githubdrose.io

Cloud LLM benchmarks

Models
807
Providers
10
Samples
105,395
Median tok/s
26
p90 tok/s
53
Max tok/s
283
Median spread
131%
Median TTFT
1.62s

Throughput distribution · tok/s

legacy · not comparable

By provider

legacy · not comparable
ProviderModelsMedianp90BestSpreadTTFT
anthropic17253445132%1.54
bedrock216096117108%0.41
cerebras1136136136409%1.02
deepinfra1472549171197%0.98
fireworks28347897191%2.28
google53158158181%1.09
groq6145283283137%0.99
openai49385983197%1.74
openrouter5042347122101%1.69
together294781102182%1.18

Throughput × spread · 807 models

100200500kimi-k2p6 · fireworks · 34 tok/s · 156% spreadGPT-5-chat-latest · openai · 56 tok/s · 75% spreadgpt-4.1-nano · openai · 48 tok/s · 263% spreadGPT-5.1-codex-mini · openai · 83 tok/s · 77% spreadClaude Haiku 4.5 · anthropic · 45 tok/s · 161% spreadgpt-oss-120b · fireworks · 97 tok/s · 213% spreadgpt-4.1 · openai · 45 tok/s · 253% spreadGPT-5.4-mini · openai · 42 tok/s · 205% spreadgpt-3.5-turbo-instruct-0914 · openai · 43 tok/s · 247% spreadGPT-5.1-codex · openai · 69 tok/s · 76% spreadgpt-4.1-mini · openai · 36 tok/s · 281% spreadglm-5p1 · fireworks · 30 tok/s · 149% spreadgpt-3.5-turbo-1106 · openai · 38 tok/s · 201% spreadgpt-4o-mini · openai · 39 tok/s · 257% spreadgpt-4o · openai · 37 tok/s · 296% spreadClaude Haiku 4.5 · bedrock · 44 tok/s · 113% spreadClaude Opus 4.1 · bedrock · 8 tok/s · 173% spreadClaude Opus 4.5 · bedrock · 20 tok/s · 117% spreadClaude Opus 4.6 · bedrock · 21 tok/s · 102% spreadClaude Opus 4.7 · bedrock · 28 tok/s · 130% spreadClaude Sonnet 4.5 · bedrock · 21 tok/s · 133% spreadClaude Sonnet 4.6 · bedrock · 26 tok/s · 99% spreadllama-3-70b · bedrock · 36 tok/s · 104% spreadllama-3-8b · bedrock · 78 tok/s · 77% spreadLlama 3.1 70B Instruct · bedrock · 60 tok/s · 104% spreadLlama 3.1 8B Instruct · bedrock · 95 tok/s · 108% spreadLlama 3.3 70B Instruct · bedrock · 84 tok/s · 151% spreadLlama 4 Maverick · bedrock · 107 tok/s · 72% spreadLlama 4 Scout · bedrock · 96 tok/s · 123% spreadmistral-7b · bedrock · 82 tok/s · 55% spreadMistral Large · bedrock · 43 tok/s · 78% spreadmistral-small · bedrock · 56 tok/s · 67% spreadmixtral-8x7b · bedrock · 74 tok/s · 83% spreadNova Lite 1.0 · bedrock · 92 tok/s · 143% spreadNova Micro 1.0 · bedrock · 117 tok/s · 137% spreadNova Pro 1.0 · bedrock · 90 tok/s · 130% spreadgpt-4-0613 · openai · 23 tok/s · 195% spreadgpt-5.2-codex · openai · 48 tok/s · 70% spreado3-pro · openai · 16 tok/s · 197% spreadGPT-5.4 · openai · 24 tok/s · 190% spreadGPT-5.1 · openai · 31 tok/s · 232% spreadGPT-5.2-chat-latest · openai · 38 tok/s · 135% spreadgpt-4-turbo · openai · 22 tok/s · 234% spreadLlama 3.1 8B Instruct · groq · 211 tok/s · 238% spreadgpt-3.5-turbo · openai · 40 tok/s · 280% spreadGPT-5.2 · openai · 23 tok/s · 177% spreadGPT-5.5-pro · openai · 11 tok/s · 278% spreadLlama 3.3 70B Instruct · groq · 145 tok/s · 137% spreadGemini 2.5 Flash Lite · google · 73 tok/s · 246% spreadGPT-5.1-chat-latest · openai · 48 tok/s · 107% spreadClaude Sonnet 4.6 · anthropic · 24 tok/s · 149% spreadNano Banana (Gemini 2.5 Flash Image) · google · 158 tok/s · 147% spreado4 Mini · openai · 47 tok/s · 341% spreadGPT-5.2-pro · openai · 14 tok/s · 114% spreadQwen3.6-27B · groq · 227 tok/s · 188% spreadMiniMax M2.7 · fireworks · 59 tok/s · 318% spreadGPT-5.3-codex · openai · 20 tok/s · 303% spreadGPT-5.5 · openai · 23 tok/s · 177% spreadGPT-5-codex · openai · 52 tok/s · 116% spreadgpt-4 · openai · 23 tok/s · 200% spreadGPT-5 Nano · openai · 81 tok/s · 186% spreadKimi K2.7 Code · together · 81 tok/s · 309% spreadGPT-5.1-codex-max · openai · 59 tok/s · 152% spreadGLM-5.2 · fireworks · 31 tok/s · 285% spreadGPT-5 · openai · 36 tok/s · 260% spreadGPT-5.6-sol · openai · 17 tok/s · 179% spreadClaude Sonnet 5 · anthropic · 29 tok/s · 205% spreadLFM2.5-8B-A1B · together · 102 tok/s · 273% spreadGPT-5.6-luna · openai · 28 tok/s · 311% spreadGPT-5.6-terra · openai · 24 tok/s · 218% spreadInkling · together · 24 tok/s · 153% spreadClaude Opus 4.8 · anthropic · 29 tok/s · 163% spreadDeepSeek V4 Pro 0423 · fireworks · 30 tok/s · 160% spreadgemma-4-31b · cerebras · 136 tok/s · 409% spreadnvidia-nemotron-3-ultra-550b-a55b-bf16 · deepinfra · 36 tok/s · 225% spreadClaude Opus 4.5 · anthropic · 25 tok/s · 132% spreadClaude Opus 4.6 · anthropic · 19 tok/s · 142% spreadClaude Opus 4.7 · anthropic · 26 tok/s · 164% spreadqwen3-vl-235b-a22b-instruct (qwen qwen3-vl-235b-a22b-instruct) · deepinfra · 10 tok/s · 240% spreadqwen3-vl-30b-a3b-instruct (qwen qwen3-vl-30b-a3b-instruct) · deepinfra · 21 tok/s · 159% spreadKimi K2.7 Code · deepinfra · 37 tok/s · 359% spreadGLM-5.2 · deepinfra · 30 tok/s · 252% spreadInkling · deepinfra · 52 tok/s · 195% spreadgemma-4-E4B-it · deepinfra · 42 tok/s · 194% spreadHy3 · deepinfra · 30 tok/s · 206% spreadClaude Sonnet 5 · deepinfra · 31 tok/s · 63% spreadClaude Fable 5 · deepinfra · 18 tok/s · 124% spreadMiniMax M3 · deepinfra · 16 tok/s · 505% spreadGemini 2.5 Pro · google · 2 tok/s · 181% spreadClaude Fable 5 · anthropic · 23 tok/s · 231% spreadClaude Opus 4.1 · anthropic · 15 tok/s · 77% spreadgpt-oss-safeguard-20b · groq · 283 tok/s · 232% spreado3 Mini · openai · 62 tok/s · 304% spreado1 · openai · 53 tok/s · 265% spreadGPT-5 Mini · openai · 50 tok/s · 237% spreado3 · openai · 44 tok/s · 277% spreadGemini 3.5 Flash · deepinfra · 29 tok/s · 274% spreadGPT-5.4-nano · openai · 49 tok/s · 278% spreadGemini 3.1 Flash Lite · deepinfra · 36 tok/s · 410% spreadgpt-5.3-chat-latest · openai · 36 tok/s · 125% spreadQwen2.5 7B Instruct · together · 68 tok/s · 159% spreadGemma 3n 4B · together · 36 tok/s · 154% spreadLlama 3.3 70B Instruct · together · 46 tok/s · 264% spreadQwen2.5-7B-Instruct-Turbo · together · 68 tok/s · 54% spreadGemini 2.5 Flash · google · 2 tok/s · 199% spreadSeed-2.0-Code · deepinfra · 1 tok/s · 571% spreadSeed-2.0-pro · deepinfra · 3 tok/s · 525% spreadqwen-3.5-9b · together · 68 tok/s · 166% spreadMiniMax M2.1 · deepinfra · 33 tok/s · 52% spreadMiniMax M2.5 · deepinfra · 23 tok/s · 33% spreadQwen2.5 72B Instruct · deepinfra · 15 tok/s · 290% spreadQwen2.5 Coder 32B Instruct · deepinfra · 42 tok/s · 132% spreadQwen3 14B · deepinfra · 26 tok/s · 200% spreadqwen-2-1.5b-instruct · together · 99 tok/s · 253% spreadQwen3 235B A22B · deepinfra · 19 tok/s · 219% spreadQwen3 235B A22B Thinking 2507 · deepinfra · 8 tok/s · 336% spreadQwen3 30B A3B · deepinfra · 58 tok/s · 129% spreadQwen3 32B · deepinfra · 41 tok/s · 150% spreadQwen3-Coder-480B-A35B-Instruct · deepinfra · 30 tok/s · 247% spreadQwen3-Coder-480B-A35B-Instruct-Turbo · deepinfra · 27 tok/s · 231% spreadQwen3 Max · deepinfra · 22 tok/s · 217% spreadQwen3 Max Thinking · deepinfra · 19 tok/s · 220% spreadQwen3 Next 80B A3B Instruct · deepinfra · 47 tok/s · 221% spreadQwen3 VL 30B A3B Instruct · deepinfra · 26 tok/s · 152% spreadQwen3-VL-235B-A22B-Instruct · deepinfra · 14 tok/s · 288% spreadqwen-3.5-0.8b · deepinfra · 25 tok/s · 369% spreadDeepSeek V4 Pro 0423 · together · 29 tok/s · 338% spreadQwen3.5-122B-A10B · deepinfra · 58 tok/s · 211% spreadQwen3.5-27B · deepinfra · 53 tok/s · 157% spreadqwen-3.5-2b · deepinfra · 27 tok/s · 304% spreadqwen-3.5-35b-a3b · deepinfra · 95 tok/s · 164% spreadqwen-3.5-397b-a17b · deepinfra · 44 tok/s · 168% spreadGPT-5.4-pro · openai · 4 tok/s · 204% spreadqwen-3.5-4b · deepinfra · 27 tok/s · 296% spreadQwen3.6-27B · deepinfra · 45 tok/s · 165% spreadLlama Guard 4 12B · together · 3 tok/s · 138% spreadQwen3.7-Max · deepinfra · 2 tok/s · 26% spreadMiniMax M3 · together · 33 tok/s · 391% spreadL3.3-70B-Euryale-v2.3 · deepinfra · 30 tok/s · 109% spreadMiMo-V2.5 · deepinfra · 23 tok/s · 232% spreadMiMo-V2.5-Pro · deepinfra · 62 tok/s · 210% spreadOlmo-3.1-32B-Instruct · deepinfra · 20 tok/s · 338% spreadclaude-3-7-sonnet-latest · deepinfra · 17 tok/s · 137% spreadClaude Opus 4 · deepinfra · 31 tok/s · 76% spreadClaude Sonnet 4 · deepinfra · 17 tok/s · 168% spreadClaude Haiku 4.5 · deepinfra · 30 tok/s · 167% spreadClaude Opus 4.7 · deepinfra · 31 tok/s · 58% spreadKimi K2.6 · together · 80 tok/s · 255% spreadClaude Opus 4.8 · deepinfra · 28 tok/s · 73% spreadClaude Sonnet 4.6 · deepinfra · 17 tok/s · 159% spreadNemotron 3 Ultra · together · 60 tok/s · 234% spreadgpt-oss-120b · together · 62 tok/s · 232% spreadDeepSeek-R1-0528 · deepinfra · 20 tok/s · 210% spreadgpt-oss-20b · together · 52 tok/s · 315% spreadDeepSeek V3 · deepinfra · 16 tok/s · 272% spreadDeepSeek-V3.1 · deepinfra · 10 tok/s · 290% spreadDeepSeek-V3.1-Terminus · deepinfra · 35 tok/s · 197% spreadDeepSeek-V4-Flash · deepinfra · 23 tok/s · 291% spreadDeepSeek V4 Pro 0423 · deepinfra · 17 tok/s · 265% spreadGemini 2.5 Flash · deepinfra · 36 tok/s · 298% spreadgemini-3.1-pro · deepinfra · 23 tok/s · 269% spreadGemma 3 12B · deepinfra · 31 tok/s · 117% spreadGemma 3 27B · deepinfra · 19 tok/s · 182% spreadGemma 3 4B · deepinfra · 27 tok/s · 181% spreadGemma 4 26B A4B · deepinfra · 20 tok/s · 183% spreadgemma-4-31B-it · deepinfra · 17 tok/s · 481% spreadgemma-4-31B-it-turbo · deepinfra · 37 tok/s · 149% spreadGLM-5.2 · together · 81 tok/s · 235% spreadllama-2-70b · deepinfra · 25 tok/s · 169% spreadllama-3.2-11b · deepinfra · 21 tok/s · 374% spreadLlama 3.2 1B Instruct · deepinfra · 19 tok/s · 415% spreadLlama 3.2 3B Instruct · deepinfra · 19 tok/s · 376% spreadllama-3.2-90b · deepinfra · 48 tok/s · 231% spreadLlama-3.3-70B-Instruct-Turbo · deepinfra · 13 tok/s · 234% spreadLlama-3.3-70B-Instruct · deepinfra · 14 tok/s · 194% spreadLlama 4 Maverick · deepinfra · 47 tok/s · 225% spreadLlama Guard 4 12B · deepinfra · 2 tok/s · 144% spreadllama-3-70b · deepinfra · 24 tok/s · 191% spreadllama-3-8b · deepinfra · 34 tok/s · 263% spreadllama-3.1-405b · deepinfra · 18 tok/s · 135% spreadLlama 3.1 70B Instruct · deepinfra · 26 tok/s · 185% spreadLlama 3.1 8B Instruct · deepinfra · 17 tok/s · 175% spreadPhi 4 · deepinfra · 45 tok/s · 117% spreadminimax-m2.7-turbo · deepinfra · 50 tok/s · 173% spreaddevstral-small · deepinfra · 24 tok/s · 266% spreadmistral-7b · deepinfra · 25 tok/s · 234% spreadMistral Nemo · deepinfra · 28 tok/s · 349% spreadMistral Small 3 · deepinfra · 37 tok/s · 164% spreadMistral Small 3.2 24B · deepinfra · 25 tok/s · 305% spreadmixtral-8x7b · deepinfra · 38 tok/s · 173% spreadKimi K2 0905 · deepinfra · 18 tok/s · 458% spreadKimi K2 Thinking · deepinfra · 17 tok/s · 517% spreadKimi-K2.5 · deepinfra · 20 tok/s · 416% spreadKimi-K2.5-Turbo · deepinfra · 17 tok/s · 365% spreadKimi K2.6 · deepinfra · 13 tok/s · 314% spreadLlama-3.3-Nemotron-Super-49B-v1.5 · deepinfra · 38 tok/s · 188% spreadNemotron 3 Super · deepinfra · 36 tok/s · 199% spreadNVIDIA-Nemotron-3-Ultra-550B-A55B · deepinfra · 37 tok/s · 185% spreadNVIDIA-Nemotron-Nano-12B-v2-VL · deepinfra · 37 tok/s · 208% spreadNVIDIA-Nemotron-Nano-9B-v2 · deepinfra · 58 tok/s · 259% spreadNemotron 3 Nano 30B A3B · deepinfra · 59 tok/s · 294% spreadNemotron-3-Nano-Omni-30B-A3B-Reasoning · deepinfra · 39 tok/s · 191% spreadgpt-oss-120b · deepinfra · 17 tok/s · 319% spreadgpt-oss-120b-Turbo · deepinfra · 65 tok/s · 273% spreadgpt-oss-20b · deepinfra · 60 tok/s · 196% spreadGLM-4.6 · deepinfra · 30 tok/s · 212% spreadGLM-4.6V · deepinfra · 20 tok/s · 206% spreadGLM-4.7 · deepinfra · 27 tok/s · 186% spreadGLM-4.7-Flash · deepinfra · 49 tok/s · 258% spreadGLM-5 · deepinfra · 21 tok/s · 235% spreadGLM-5.1 · deepinfra · 22 tok/s · 227% spreadMiniMax M2 · deepinfra · 25 tok/s · 25% spreadGPT-5-pro · openai · 7 tok/s · 169% spreadMiniMax-M2.7 · deepinfra · 15 tok/s · 173% spreadDeepSeek V3.2 · deepinfra · 15 tok/s · 407% spreadOrnith-1.0-35B · deepinfra · 35 tok/s · 249% spreadQwen3.6-35B-A3B · deepinfra · 34 tok/s · 288% spreadGemma 4 31B · together · 59 tok/s · 182% spreadDeepSeek-R1-0528-Turbo · deepinfra · 20 tok/s · 191% spreadDeepSeek V4 Flash 0731 · deepinfra · 27 tok/s · 167% spreadkimi-k3 · fireworks · 28 tok/s · 200% spreadDeepSeek-V4-Flash · fireworks · 31 tok/s · 191% spreadKimi K3 · together · 38 tok/s · 182% spreadkimi-k2p7-code · fireworks · 38 tok/s · 374% spreadClaude Opus 5 · anthropic · 28 tok/s · 217% spreadgpt-oss-20b · fireworks · 78 tok/s · 195% spreadMiniMax M3 · fireworks · 53 tok/s · 202% spreadInkling-Small · deepinfra · 50 tok/s · 278% spreadQwen3.8-Max · deepinfra · 6 tok/s · 384% spreadClaude Opus 5 · deepinfra · 25 tok/s · 115% spreadDeepSeek V4 Flash 0731 · fireworks · 29 tok/s · 252% spreadqwen3-reranker-8b · fireworks · 62 tok/s · 194% spreadNemotron 3 Ultra · fireworks · 59 tok/s · 234% spreadqwen3p7-plus · fireworks · 55 tok/s · 442% spreadglm-5p2-fast · fireworks · 53 tok/s · 299% spreadkimi-k2p6-turbo · fireworks · 49 tok/s · 184% spreadkimi-k3-fast · fireworks · 30 tok/s · 192% spreadkimi-k2p7-code-fast · fireworks · 56 tok/s · 90% spreadQwen2.5-VL-32B-Instruct · deepinfra · 24 tok/s · 161% spreadWizardLM-2 8x22B · deepinfra · 16 tok/s · 299% spreadCogito v2.1 671B · deepinfra · 22 tok/s · 374% spreadPaddleOCR-VL-0.9B · deepinfra · 20 tok/s · 235% spreadLlama-3.1-Nemotron-70B-Instruct · deepinfra · 36 tok/s · 178% spreadolmOCR-2-7B-1025 · deepinfra · 20 tok/s · 261% spreadR1 Distill Llama 70B · deepinfra · 22 tok/s · 168% spreadDeepSeek V4 Flash 0731 · together · 47 tok/s · 325% spreadInkling · fireworks · 4 tok/s · 0% spreadKimi K3 · deepinfra · 21 tok/s · 302% spreadNemotron 3.5 Lightning · fireworks · 87 tok/s · 286% spreadGemini 2.5 Flash Lite · google · 3 tok/s · 40% spreadGemma 4 26B A4B · deepinfra · 20 tok/s · 191% spreadgpt-4.1-nano · openai · 43 tok/s · 67% spreadPhi 4 · deepinfra · 24 tok/s · 196% spreadgpt-4o-mini · openai · 38 tok/s · 71% spreadNemotron 3 Nano 30B A3B · deepinfra · 55 tok/s · 154% spreadMistral Small 3 · deepinfra · 40 tok/s · 77% spreadQwen2.5 72B Instruct · deepinfra · 17 tok/s · 197% spreadgpt-3.5-turbo · openai · 47 tok/s · 75% spreadClaude Opus 4.8 · anthropic · 26 tok/s · 80% spreadGemma 3 4B · deepinfra · 24 tok/s · 96% spreadgpt-4o · openai · 37 tok/s · 83% spreadgpt-4.1-mini · openai · 29 tok/s · 125% spreadGemma 3n 4B · together · 33 tok/s · 118% spreadDeepSeek V3.2 · deepinfra · 12 tok/s · 161% spreadgpt-4-turbo · openai · 22 tok/s · 29% spreadNemotron 3 Super · deepinfra · 27 tok/s · 81% spreadGemma 3 12B · deepinfra · 28 tok/s · 107% spreadMistral Nemo · deepinfra · 26 tok/s · 194% spreadDeepSeek-V3.1-Terminus · deepinfra · 39 tok/s · 106% spreadMistral Small 3.2 24B · deepinfra · 22 tok/s · 162% spreadLlama 3.1 8B Instruct · deepinfra · 19 tok/s · 174% spreadgpt-4 · openai · 25 tok/s · 54% spreadDeepSeek V3 · deepinfra · 13 tok/s · 90% spreadClaude Haiku 4.5 · anthropic · 34 tok/s · 101% spreadQwen3 VL 30B A3B Instruct · deepinfra · 27 tok/s · 448% spreadQwen3 Next 80B A3B Instruct · deepinfra · 41 tok/s · 140% spreadDeepSeek-V3.1 · deepinfra · 11 tok/s · 160% spreadClaude Opus 4.7 · anthropic · 22 tok/s · 106% spreadClaude Sonnet 4.6 · anthropic · 22 tok/s · 105% spreadClaude Sonnet 5 · anthropic · 25 tok/s · 95% spreadClaude Opus 4.6 · anthropic · 19 tok/s · 104% spreadLlama 3.1 70B Instruct · deepinfra · 26 tok/s · 138% spreadDeepSeek-V4-Flash · deepinfra · 34 tok/s · 120% spreadMuse Glimmer 30B · together · 21 tok/s · 198% spreadMuse Glimmer 30B · fireworks · 15 tok/s · 168% spreadMuse Glimmer 30B · deepinfra · 25 tok/s · 122% spreadNemotron 3.5 Lightning · deepinfra · 171 tok/s · 70% spreadDeepSeek V4 Pro 0813 · fireworks · 15 tok/s · 0% spreadQwen3.8-Max · fireworks · 52 tok/s · 151% spreadQwen3.8-2.4T-A95B · fireworks · 32 tok/s · 76% spreadQwen3.8-2.4T-A95B · together · 79 tok/s · 167% spreadLlama Guard 4 12B · together · 4 tok/s · 92% spreadNemotron 3 Ultra · fireworks · 42 tok/s · 98% spreadNemotron 3 Ultra · together · 48 tok/s · 55% spreadClaude Opus 4.5 · anthropic · 21 tok/s · 39% spreadkimi-k3 · fireworks · 14 tok/s · 145% spreadgpt-oss-120b · fireworks · 16 tok/s · 139% spreadgpt-oss-120b · together · 15 tok/s · 176% spreadLlama 3.3 70B Instruct · together · 20 tok/s · 166% spreadGLM-5.2 · together · 11 tok/s · 116% spreadDeepSeek-V4-Pro-0813 · together · 11 tok/s · 84% spreadLlama 3.3 70B Instruct · groq · 11 tok/s · 31% spreadDeepSeek V3 0324 · openrouter · 18 tok/s · 116% spreadMistral Medium 3 · openrouter · 29 tok/s · 109% spreadDeepSeek V3 · openrouter · 19 tok/s · 135% spreadMistral Small 3 · openrouter · 35 tok/s · 84% spreadQwen2.5 VL 72B Instruct · openrouter · 26 tok/s · 131% spreadLlama 3.2 1B Instruct · openrouter · 51 tok/s · 220% spreadQwen2.5 7B Instruct · openrouter · 47 tok/s · 73% spreadQwen2.5 Coder 32B Instruct · openrouter · 24 tok/s · 43% spreadLlama 3.2 3B Instruct · openrouter · 43 tok/s · 162% spreadQwen2.5 72B Instruct · openrouter · 22 tok/s · 159% spreadHermes 3 70B Instruct · openrouter · 24 tok/s · 71% spreadHermes 3 405B Instruct · openrouter · 17 tok/s · 130% spreadGPT-4o (2024-08-06) · openrouter · 36 tok/s · 98% spreadLlama 3.1 8B Instruct · openrouter · 20 tok/s · 209% spreadLlama 3.1 70B Instruct · openrouter · 27 tok/s · 123% spreadMistral Nemo · openrouter · 26 tok/s · 177% spreadGPT-4o-mini (2024-07-18) · openrouter · 38 tok/s · 68% spreadGPT-4o-mini · openrouter · 29 tok/s · 45% spreadGPT-4o (2024-11-20) · openrouter · 46 tok/s · 128% spreadLlama 3.3 70B Instruct · openrouter · 16 tok/s · 199% spreadMistral Small 3.2 24B · openrouter · 24 tok/s · 136% spreadQwen3 8B · openrouter · 10 tok/s · 42% spreadQwen3 235B A22B · openrouter · 6 tok/s · 307% spreadGPT-4.1 · openrouter · 37 tok/s · 76% spreadGPT-4.1 Mini · openrouter · 35 tok/s · 63% spreadGPT-4.1 Nano · openrouter · 41 tok/s · 70% spreadMistral Small 3.1 24B · openrouter · 29 tok/s · 121% spreadSaba · openrouter · 37 tok/s · 195% spreadHunyuan A13B Instruct · openrouter · 30 tok/s · 83% spreadCydonia 24B V4.1 · openrouter · 30 tok/s · 130% spreadRocinante 12B · openrouter · 35 tok/s · 150% spreadSkyfall 36B V2 · openrouter · 29 tok/s · 169% spreadUnslopNemo 12B · openrouter · 44 tok/s · 161% spreadReMM SLERP 13B · openrouter · 34 tok/s · 118% spreadSolar Pro 3 · openrouter · 33 tok/s · 88% spreadSolar Pro 4 · openrouter · 27 tok/s · 140% spreadPalmyra X5 · openrouter · 40 tok/s · 76% spreadGrok 4.20 · openrouter · 35 tok/s · 96% spreadGrok 4.3 · openrouter · 11 tok/s · 87% spreadGrok 4.20 Multi-Agent · openrouter · 4 tok/s · 777% spreadGrok 4.5 · openrouter · 8 tok/s · 116% spreadGrok 4.6 · openrouter · 3 tok/s · 249% spreadGrok Build 0.1 · openrouter · 4 tok/s · 133% spreadGLM 4.5 · openrouter · 2 tok/s · 126% spreadGLM 5.1 · openrouter · 20 tok/s · 163% spreadGLM 5.2 · openrouter · 28 tok/s · 331% spreadAnthropic Claude Haiku Latest · openrouter · 34 tok/s · 83% spreadOpenAI GPT Mini Latest · openrouter · 44 tok/s · 39% spreadGrok Latest · openrouter · 3 tok/s · 187% spreadGPT-3.5 Turbo · openrouter · 44 tok/s · 101% spreadGPT-3.5 Turbo (older v0613) · openrouter · 38 tok/s · 61% spreadGPT-5.4 · openrouter · 31 tok/s · 32% spreadGPT-5.4 Mini · openrouter · 47 tok/s · 34% spreadGPT-5.4 Image 2 · openrouter · 29 tok/s · 41% spreadGPT-5.4 Nano · openrouter · 50 tok/s · 44% spreadGPT-5.5 · openrouter · 16 tok/s · 116% spreadGPT-5.6 Luna Pro · openrouter · 7 tok/s · 0% spreadGPT Chat Latest · openrouter · 34 tok/s · 46% spreadGPT-5.6 Terra · openrouter · 18 tok/s · 129% spreadAuto Router (Beta) · openrouter · 24 tok/s · 150% spreadPerceptron Mk1 · openrouter · 30 tok/s · 43% spreadPareto Code Router · openrouter · 17 tok/s · 126% spreadSonar · openrouter · 23 tok/s · 107% spreadSonar Pro · openrouter · 25 tok/s · 110% spreadSonar Pro Search · openrouter · 35 tok/s · 103% spreadQwen3 30B A3B Thinking 2507 · openrouter · 14 tok/s · 464% spreadQwen Plus 0728 · openrouter · 31 tok/s · 126% spreadQwen3 Coder 480B A35B · openrouter · 39 tok/s · 159% spreadQwen3 Coder Flash · openrouter · 36 tok/s · 235% spreadQwen3 Coder Plus · openrouter · 23 tok/s · 76% spreadQwen3 Max · openrouter · 23 tok/s · 60% spreadQwen3 VL 8B Thinking · openrouter · 16 tok/s · 635% spreadQwen3.5-27B · openrouter · 4 tok/s · 99% spreadQwen3.5 Plus 2026-02-15 · openrouter · 5 tok/s · 405% spreadQwen3.5-Flash · openrouter · 41 tok/s · 175% spreadQwen3.6 Max Preview · openrouter · 2 tok/s · 75% spreadAion-2.0 · openrouter · 7 tok/s · 514% spreadAion-3.0 · openrouter · 10 tok/s · 288% spreadAion-RP 1.0 (8B) · openrouter · 29 tok/s · 78% spreadAion-3.0-Mini · openrouter · 5 tok/s · 496% spreadNova 2 Lite · openrouter · 42 tok/s · 245% spreadNova Lite 1.0 · openrouter · 49 tok/s · 325% spreadNova Micro 1.0 · openrouter · 46 tok/s · 358% spreadNova Premier 1.0 · openrouter · 23 tok/s · 194% spreadNova Pro 1.0 · openrouter · 35 tok/s · 194% spreadMagnum v4 72B · openrouter · 16 tok/s · 70% spreadClaude 3 Haiku · openrouter · 36 tok/s · 166% spreadClaude Haiku 4.5 · openrouter · 37 tok/s · 183% spreadClaude Opus 4 · openrouter · 13 tok/s · 138% spreadClaude Opus 4.6 · openrouter · 20 tok/s · 123% spreadClaude Opus 4.5 · openrouter · 22 tok/s · 133% spreadClaude Opus 4.1 · openrouter · 8 tok/s · 101% spreadClaude Opus 4.7 · openrouter · 23 tok/s · 156% spreadClaude Opus 4.8 · openrouter · 24 tok/s · 169% spreadClaude Opus 4.8 (Fast) · openrouter · 38 tok/s · 297% spreadClaude Sonnet 4 · openrouter · 30 tok/s · 152% spreadClaude Sonnet 4.5 · openrouter · 20 tok/s · 163% spreadClaude Sonnet 4.6 · openrouter · 25 tok/s · 127% spreadClaude Sonnet 5 · openrouter · 19 tok/s · 245% spreadERNIE 4.5 VL 424B A47B · openrouter · 16 tok/s · 113% spreadUI-TARS 7B · openrouter · 36 tok/s · 173% spreadUncensored · openrouter · 35 tok/s · 205% spreadCommand A · openrouter · 32 tok/s · 173% spreadCommand R (08-2024) · openrouter · 21 tok/s · 212% spreadCommand R+ (08-2024) · openrouter · 10 tok/s · 179% spreadCommand R7B (12-2024) · openrouter · 44 tok/s · 117% spreadCogito v2.1 671B · openrouter · 41 tok/s · 148% spreadDeepSeek V3.1 Terminus · openrouter · 33 tok/s · 256% spreadDeepSeek V3.2 · openrouter · 16 tok/s · 149% spreadDeepSeek V3.1 · openrouter · 9 tok/s · 177% spreadDeepSeek V3.2 Exp · openrouter · 17 tok/s · 68% spreadGemini 2.5 Flash · openrouter · 48 tok/s · 205% spreadNano Banana (Gemini 2.5 Flash Image) · openrouter · 41 tok/s · 466% spreadGemini 2.5 Flash Lite · openrouter · 63 tok/s · 196% spreadGemini 2.5 Pro · openrouter · 3 tok/s · 172% spreadGemini 2.5 Pro Preview 05-06 · openrouter · 3 tok/s · 159% spreadGemini 3 Flash Preview · openrouter · 39 tok/s · 144% spreadNano Banana 2 (Gemini 3.1 Flash Image) · openrouter · 43 tok/s · 271% spreadNano Banana 2 (Gemini 3.1 Flash Image Preview) · openrouter · 44 tok/s · 179% spreadGemini 3.1 Flash Lite · openrouter · 48 tok/s · 270% spreadNano Banana 2 Lite (Gemini 3.1 Flash Lite Image) · openrouter · 59 tok/s · 156% spreadGemini 3.1 Flash Lite Preview · openrouter · 55 tok/s · 163% spreadGemini 3.1 Pro Preview Custom Tools · openrouter · 4 tok/s · 160% spreadGemini 3.1 Pro Preview · openrouter · 4 tok/s · 162% spreadGemini 3.5 Flash · openrouter · 5 tok/s · 124% spreadGemini 3.5 Flash Lite · openrouter · 56 tok/s · 142% spreadGemini 3.7 Flash · openrouter · 7 tok/s · 141% spreadGemma 2 27B · openrouter · 30 tok/s · 76% spreadGemma 3 12B · openrouter · 25 tok/s · 215% spreadGemma 3 27B · openrouter · 20 tok/s · 219% spreadGemma 3 4B · openrouter · 28 tok/s · 114% spreadGemma 3n 4B · openrouter · 36 tok/s · 98% spreadGemma 4 26B A4B · openrouter · 25 tok/s · 183% spreadGemma 4 31B · openrouter · 33 tok/s · 298% spreadMythoMax 13B · openrouter · 26 tok/s · 91% spreadGranite 4.0 Micro · openrouter · 26 tok/s · 48% spreadGranite 4.1 8B · openrouter · 51 tok/s · 179% spreadLing-2.6-1T · openrouter · 28 tok/s · 129% spreadLing-2.6-flash · openrouter · 40 tok/s · 91% spreadKAT-Coder-Air V2.5 · openrouter · 34 tok/s · 106% spreadKAT-Coder-Pro V2 · openrouter · 37 tok/s · 70% spreadLlama 4 Maverick · openrouter · 30 tok/s · 206% spreadLlama Guard 4 12B · openrouter · 3 tok/s · 148% spreadLlama 4 Scout · openrouter · 35 tok/s · 119% spreadPhi 4 · openrouter · 31 tok/s · 139% spreadMiniMax-01 · openrouter · 23 tok/s · 91% spreadWizardLM-2 8x22B · openrouter · 10 tok/s · 133% spreadMiniMax M2-her · openrouter · 35 tok/s · 108% spreadCodestral 2508 · openrouter · 48 tok/s · 98% spreadMinistral 3 14B 2512 · openrouter · 41 tok/s · 164% spreadMinistral 3 3B 2512 · openrouter · 46 tok/s · 183% spreadMinistral 3 8B 2512 · openrouter · 44 tok/s · 146% spreadMistral Large · openrouter · 28 tok/s · 87% spreadMistral Large 2407 · openrouter · 27 tok/s · 125% spreadMistral Large 3 2512 · openrouter · 29 tok/s · 89% spreadMistral Medium 3.5 · openrouter · 43 tok/s · 123% spreadMistral Medium 3.1 · openrouter · 36 tok/s · 136% spreadMistral Small 4 · openrouter · 40 tok/s · 154% spreadMixtral 8x22B Instruct · openrouter · 40 tok/s · 164% spreadVoxtral Small 24B 2507 · openrouter · 51 tok/s · 158% spreadKimi K2.5 · openrouter · 5 tok/s · 197% spreadMorph V3 Fast · openrouter · 16 tok/s · 337% spreadMorph V3 Large · openrouter · 27 tok/s · 165% spreadHermes 4 405B · openrouter · 26 tok/s · 101% spreadHermes 4 70B · openrouter · 36 tok/s · 144% spreadNemotron 3 Ultra · openrouter · 21 tok/s · 211% spreadGPT-3.5 Turbo 16k · openrouter · 42 tok/s · 69% spreadGPT-3.5 Turbo Instruct · openrouter · 38 tok/s · 87% spreadGPT-4 · openrouter · 19 tok/s · 29% spreadGPT-4 Turbo · openrouter · 18 tok/s · 91% spreadGPT-4o · openrouter · 35 tok/s · 66% spreadGPT-4o (2024-05-13) · openrouter · 13 tok/s · 200% spreadGPT-5.1 · openrouter · 33 tok/s · 46% spreadGPT-5.1-Codex · openrouter · 27 tok/s · 140% spreadBody Builder (beta) · openrouter · 11 tok/s · 374% spreadQwen-Plus · openrouter · 30 tok/s · 114% spreadQwen3 235B A22B Instruct 2507 · openrouter · 21 tok/s · 119% spreadQwen3 30B A3B Instruct 2507 · openrouter · 33 tok/s · 150% spreadQwen3 Coder 30B A3B Instruct · openrouter · 36 tok/s · 292% spreadQwen3 Coder Next · openrouter · 47 tok/s · 110% spreadQwen3 Max Thinking · openrouter · 23 tok/s · 79% spreadQwen3 Next 80B A3B Instruct · openrouter · 38 tok/s · 149% spreadQwen3 VL 235B A22B Instruct · openrouter · 28 tok/s · 115% spreadQwen3 VL 235B A22B Thinking · openrouter · 7 tok/s · 654% spreadQwen3 VL 30B A3B Instruct · openrouter · 45 tok/s · 245% spreadQwen3 VL 30B A3B Thinking · openrouter · 15 tok/s · 642% spreadQwen3 VL 32B Instruct · openrouter · 36 tok/s · 165% spreadQwen3 VL 8B Instruct · openrouter · 50 tok/s · 228% spreadQwen3.5-122B-A10B · openrouter · 12 tok/s · 460% spreadReka Edge · openrouter · 31 tok/s · 119% spreadRelace Search · openrouter · 56 tok/s · 83% spreadLlama 3 8B Lunaris · openrouter · 41 tok/s · 72% spreadLlama 3.1 Euryale 70B v2.2 · openrouter · 34 tok/s · 122% spreadAnthropic Claude Sonnet Latest · openrouter · 20 tok/s · 56% spreadLlama 3.1 8B Instruct · groq · 25 tok/s · 0% spreadGoogle Gemini Flash Latest · openrouter · 7 tok/s · 142% spreadGPT-5.6 Terra Pro · openrouter · 50 tok/s · 106% spreadLaguna S 2.1 · openrouter · 37 tok/s · 166% spreadGemini 2.5 Pro Preview 06-05 · openrouter · 3 tok/s · 159% spreadGemini 3.6 Flash · openrouter · 9 tok/s · 134% spreadGPT-5.2 Pro · openrouter · 28 tok/s · 121% spreadLyria 3 Clip Preview · openrouter · 38 tok/s · 99% spreadLlama 3.3 Euryale 70B · openrouter · 12 tok/s · 175% spreadGPT-5.2-Codex · openrouter · 20 tok/s · 86% spreadSonar Reasoning Pro · openrouter · 8 tok/s · 121% spreadNano Banana Pro (Gemini 3 Pro Image Preview) · openrouter · 5 tok/s · 70% spreadFree Models Router · openrouter · 11 tok/s · 436% spreadNano Banana Pro (Gemini 3 Pro Image) · openrouter · 10 tok/s · 157% spreadMercury 2 · openrouter · 60 tok/s · 145% spreadSonar Deep Research · openrouter · 1 tok/s · 41% spreadClaude Haiku 4.5 · openrouter · 34 tok/s · 140% spreadClaude Opus 4.5 · openrouter · 20 tok/s · 128% spreadClaude Fable 5 · openrouter · 5 tok/s · 149% spreadClaude Opus 4.7 · openrouter · 20 tok/s · 107% spreadClaude Opus 4.6 · openrouter · 18 tok/s · 98% spreadClaude Opus 4.8 · openrouter · 21 tok/s · 121% spreadClaude Opus 4.8 (Fast) · openrouter · 40 tok/s · 162% spreadClaude Fable 5 · openrouter · 5 tok/s · 221% spreadClaude Sonnet 4.5 · openrouter · 21 tok/s · 115% spreadClaude Sonnet 4.6 · openrouter · 23 tok/s · 94% spreadClaude Sonnet 5 · openrouter · 21 tok/s · 97% spreadSeed 1.6 · openrouter · 2 tok/s · 4% spreadTrinity Large Thinking · openrouter · 37 tok/s · 108% spreadSeed 1.6 Flash · openrouter · 10 tok/s · 0% spreadCogito v2.1 671B · openrouter · 46 tok/s · 16% spreadDeepSeek V3 · openrouter · 23 tok/s · 111% spreadDeepSeek V3.1 · openrouter · 24 tok/s · 189% spreadR1 0528 · openrouter · 4 tok/s · 99% spreadR1 0528 · openrouter · 4 tok/s · 345% spreadR1 · openrouter · 3 tok/s · 0% spreadR1 Distill Llama 70B · openrouter · 3 tok/s · 0% spreadDeepSeek V4 Flash 0423 · openrouter · 8 tok/s · 119% spreadDeepSeek V4 Flash 0731 · openrouter · 9 tok/s · 282% spreadDeepSeek V4 Flash 0731 · openrouter · 9 tok/s · 493% spreadDeepSeek V4 Pro 0423 · openrouter · 3 tok/s · 94% spreadGemma 3n 4B · openrouter · 25 tok/s · 145% spreadGemma 3 4B · openrouter · 28 tok/s · 72% spreadGemma 4 31B · openrouter · 31 tok/s · 317% spreadLing-3.0-flash · openrouter · 23 tok/s · 160% spreadLing-3.0-flash · openrouter · 29 tok/s · 103% spreadRing-2.6-1T · openrouter · 29 tok/s · 0% spreadKAT-Coder-Pro V2.5 · openrouter · 5 tok/s · 0% spreadLlama 3.3 70B Instruct · openrouter · 41 tok/s · 212% spreadLongCat 2.0 · openrouter · 3 tok/s · 0% spreadLlama 3.1 8B Instruct · openrouter · 49 tok/s · 250% spreadLlama 4 Scout · openrouter · 40 tok/s · 139% spreadLlama Guard 4 12B · openrouter · 4 tok/s · 100% spreadMuse Glimmer 30B · openrouter · 11 tok/s · 108% spreadMuse Glimmer 30B · openrouter · 20 tok/s · 0% spreadPhi 4 · openrouter · 32 tok/s · 94% spreadMiniMax M2 · openrouter · 13 tok/s · 52% spreadMiniMax M1 · openrouter · 15 tok/s · 17% spreadMiniMax M2.5 · openrouter · 6 tok/s · 79% spreadMiniMax M2.1 · openrouter · 8 tok/s · 103% spreadMiniMax M2.7 · openrouter · 7 tok/s · 581% spreadMiniMax M2.7 · openrouter · 13 tok/s · 302% spreadMiniMax M3 · openrouter · 26 tok/s · 194% spreadMiniMax M3 · openrouter · 18 tok/s · 204% spreadMistral Small 3 · openrouter · 47 tok/s · 44% spreadKimi K2 0711 · openrouter · 32 tok/s · 0% spreadKimi K2.5 · openrouter · 5 tok/s · 252% spreadKimi K2.6 · openrouter · 3 tok/s · 180% spreadKimi K2.7 Code · openrouter · 15 tok/s · 230% spreadKimi K2.7 Code · openrouter · 14 tok/s · 461% spreadKimi K3 · openrouter · 3 tok/s · 77% spreadNex-N2-Mini · openrouter · 26 tok/s · 0% spreadNex-N2-Pro · openrouter · 17 tok/s · 39% spreadHermes 3 405B Instruct · openrouter · 16 tok/s · 50% spreadHermes 3 70B Instruct · openrouter · 25 tok/s · 29% spreadNemotron 3 Nano 30B A3B · openrouter · 89 tok/s · 7% spreadNemotron 3 Super · openrouter · 14 tok/s · 128% spreadNemotron 3.5 Lightning · openrouter · 122 tok/s · 14% spreadNemotron 3 Ultra · openrouter · 23 tok/s · 118% spreadgpt-oss-120b · openrouter · 33 tok/s · 300% spreadgpt-oss-120b · openrouter · 10 tok/s · 124% spreadgpt-oss-20b · openrouter · 12 tok/s · 270% spreadgpt-oss-20b · openrouter · 19 tok/s · 412% spreadgpt-oss-safeguard-20b · openrouter · 58 tok/s · 29% spreadLaguna XS 2.1 · openrouter · 11 tok/s · 0% spreadQwen2.5 72B Instruct · openrouter · 13 tok/s · 213% spreadQwen2.5 7B Instruct · openrouter · 54 tok/s · 38% spreadQwen3 14B · openrouter · 9 tok/s · 10% spreadQwen3 235B A22B Thinking 2507 · openrouter · 6 tok/s · 112% spreadQwen3 235B A22B Thinking 2507 · openrouter · 5 tok/s · 80% spreadQwen3 30B A3B · openrouter · 11 tok/s · 0% spreadQwen3 32B · openrouter · 9 tok/s · 300% spreadQwen3 32B · openrouter · 10 tok/s · 24% spreadQwen3 Coder 480B A35B · openrouter · 30 tok/s · 89% spreadQwen3 Next 80B A3B Thinking · openrouter · 11 tok/s · 2% spreadQwen3.5-122B-A10B · openrouter · 14 tok/s · 406% spreadQwen3.5-27B · openrouter · 3 tok/s · 129% spreadQwen3.5-35B-A3B · openrouter · 11 tok/s · 453% spreadQwen3.5-35B-A3B · openrouter · 9 tok/s · 124% spreadQwen3.5 397B A17B · openrouter · 4 tok/s · 136% spreadQwen3.5-9B · openrouter · 3 tok/s · 142% spreadQwen3.5-9B · openrouter · 4 tok/s · 180% spreadQwen3.5 Plus 2026-04-20 · openrouter · 2 tok/s · 0% spreadQwen3.6 35B A3B · openrouter · 7 tok/s · 95% spreadQwen3.6 Flash · openrouter · 5 tok/s · 0% spreadQwen3.6 Plus · openrouter · 3 tok/s · 0% spreadQwen3.7 Flash · openrouter · 5 tok/s · 3% spreadQwen3.7 Plus · openrouter · 2 tok/s · 0% spreadQwen3.8 2.4T A95B · openrouter · 19 tok/s · 101% spreadQwen3.8 2.4T A95B · openrouter · 13 tok/s · 177% spreadQwen3.8 27B · openrouter · 7 tok/s · 187% spreadQwen3.8 Max · openrouter · 12 tok/s · 0% spreadSakana Namazu · openrouter · 19 tok/s · 59% spreadLlama 3 8B Lunaris · openrouter · 47 tok/s · 91% spreadLlama 3.1 Euryale 70B v2.2 · openrouter · 36 tok/s · 71% spreadStep 3.5 Flash · openrouter · 15 tok/s · 0% spreadHy3 · openrouter · 3 tok/s · 54% spreadHy3 · openrouter · 2 tok/s · 63% spreadInkling · openrouter · 6 tok/s · 180% spreadInkling Small · openrouter · 15 tok/s · 119% spreadInkling · openrouter · 6 tok/s · 160% spreadMiMo-V2.5-Pro · openrouter · 13 tok/s · 68% spreadMiMo-V2.5-Pro · openrouter · 14 tok/s · 142% spreadMiMo-V2.5 · openrouter · 15 tok/s · 192% spreadMiMo-V2.5 · openrouter · 8 tok/s · 70% spreadGLM 4.5 Air · openrouter · 9 tok/s · 12% spreadGLM 4.5V · openrouter · 5 tok/s · 44% spreadGLM 4.6 · openrouter · 2 tok/s · 137% spreadGLM 4.6 · openrouter · 1 tok/s · 30% spreadGLM 4.7 · openrouter · 2 tok/s · 233% spreadGLM 4.7 · openrouter · 2 tok/s · 84% spreadGLM 4.7 Flash · openrouter · 4 tok/s · 33% spreadGLM 5 · openrouter · 4 tok/s · 36% spreadGLM 5 Turbo · openrouter · 14 tok/s · 0% spreadGLM 5.2 · openrouter · 23 tok/s · 285% spreadAion-3.0 · openrouter · 12 tok/s · 29% spreadAion-3.0-Mini · openrouter · 3 tok/s · 51% spreadAion-RP 1.0 (8B) · openrouter · 25 tok/s · 33% spreadMagnum v4 72B · openrouter · 14 tok/s · 15% spreadTrinity Large Thinking · openrouter · 33 tok/s · 25% spreadERNIE 4.5 VL 424B A47B · openrouter · 18 tok/s · 38% spreadSeed 1.6 Flash · openrouter · 9 tok/s · 49% spreadUncensored · openrouter · 42 tok/s · 44% spreadUI-TARS 7B · openrouter · 45 tok/s · 40% spreadCommand A · openrouter · 34 tok/s · 2% spreadCommand R7B (12-2024) · openrouter · 50 tok/s · 41% spreadCommand R (08-2024) · openrouter · 34 tok/s · 36% spreadCommand R+ (08-2024) · openrouter · 11 tok/s · 116% spreadDeepSeek V3 0324 · openrouter · 22 tok/s · 109% spreadR1 · openrouter · 3 tok/s · 116% spreadR1 Distill Llama 70B · openrouter · 3 tok/s · 109% spreadDeepSeek V3.1 Terminus · openrouter · 22 tok/s · 100% spreadDeepSeek V3.2 · openrouter · 17 tok/s · 252% spreadDeepSeek V3.2 Exp · openrouter · 19 tok/s · 65% spreadDeepSeek V4 Flash 0423 · openrouter · 14 tok/s · 277% spreadDeepSeek V4 Pro 0423 · openrouter · 13 tok/s · 331% spreadGemini 2.5 Flash · openrouter · 58 tok/s · 59% spreadNano Banana (Gemini 2.5 Flash Image) · openrouter · 48 tok/s · 118% spreadGemini 2.5 Flash Lite · openrouter · 77 tok/s · 49% spreadGemini 3 Flash Preview · openrouter · 49 tok/s · 31% spreadGemini 2.5 Pro Preview 05-06 · openrouter · 2 tok/s · 126% spreadNano Banana 2 (Gemini 3.1 Flash Image) · openrouter · 52 tok/s · 21% spreadNano Banana 2 (Gemini 3.1 Flash Image Preview) · openrouter · 48 tok/s · 24% spreadGemini 3.1 Flash Lite · openrouter · 63 tok/s · 25% spreadNano Banana 2 Lite (Gemini 3.1 Flash Lite Image) · openrouter · 95 tok/s · 14% spreadAion-2.0 · openrouter · 6 tok/s · 16% spreadGemini 3.1 Flash Lite Preview · openrouter · 62 tok/s · 41% spreadGemini 3.1 Pro Preview · openrouter · 3 tok/s · 51% spreadGemini 3.5 Flash · openrouter · 5 tok/s · 28% spreadGemini 3.1 Pro Preview Custom Tools · openrouter · 2 tok/s · 7% spreadGemini 3.5 Flash Lite · openrouter · 67 tok/s · 39% spreadGemini 3.6 Flash · openrouter · 7 tok/s · 50% spreadGemini 3.7 Flash · openrouter · 12 tok/s · 58% spreadGemma 2 27B · openrouter · 30 tok/s · 12% spreadGemma 4 26B A4B · openrouter · 24 tok/s · 189% spreadGemma 3 27B · openrouter · 19 tok/s · 174% spreadGemma 3 12B · openrouter · 24 tok/s · 73% spreadLyria 3 Clip Preview · openrouter · 34 tok/s · 19% spreadMythoMax 13B · openrouter · 35 tok/s · 128% spreadMercury 2 · openrouter · 48 tok/s · 66% spreadGranite 4.0 Micro · openrouter · 28 tok/s · 17% spreadGranite 4.1 8B · openrouter · 63 tok/s · 29% spreadLing-2.6-1T · openrouter · 36 tok/s · 9% spreadRing-2.6-1T · openrouter · 23 tok/s · 25% spreadKAT-Coder-Air V2.5 · openrouter · 37 tok/s · 43% spreadKAT-Coder-Pro V2 · openrouter · 37 tok/s · 34% spreadKAT-Coder-Pro V2.5 · openrouter · 11 tok/s · 64% spreadLlama 3.1 70B Instruct · openrouter · 40 tok/s · 55% spreadLongCat 2.0 · openrouter · 5 tok/s · 129% spreadLlama 3.2 1B Instruct · openrouter · 49 tok/s · 68% spreadLlama 3.2 3B Instruct · openrouter · 69 tok/s · 71% spreadLlama 4 Maverick · openrouter · 32 tok/s · 171% spreadSeed 1.6 · openrouter · 2 tok/s · 10% spreadMiniMax-01 · openrouter · 24 tok/s · 15% spreadMiniMax M1 · openrouter · 13 tok/s · 65% spreadMiniMax M2 · openrouter · 8 tok/s · 102% spreadMiniMax M2-her · openrouter · 33 tok/s · 58% spreadMiniMax M2.1 · openrouter · 7 tok/s · 151% spreadMiniMax M2.5 · openrouter · 7 tok/s · 388% spreadGemini 2.5 Pro · openrouter · 2 tok/s · 21% spreadGemini 2.5 Pro Preview 06-05 · openrouter · 2 tok/s · 47% spreadCodestral 2508 · openrouter · 52 tok/s · 35% spreadMinistral 3 14B 2512 · openrouter · 50 tok/s · 26% spreadMinistral 3 8B 2512 · openrouter · 55 tok/s · 53% spreadMinistral 3 3B 2512 · openrouter · 73 tok/s · 29% spreadMistral Large · openrouter · 32 tok/s · 33% spreadMistral Large 2407 · openrouter · 31 tok/s · 24% spreadMistral Large 3 2512 · openrouter · 29 tok/s · 48% spreadMistral Medium 3 · openrouter · 33 tok/s · 29% spreadMistral Medium 3.5 · openrouter · 45 tok/s · 36% spreadMistral Medium 3.1 · openrouter · 41 tok/s · 23% spreadMistral Small 4 · openrouter · 46 tok/s · 38% spreadSaba · openrouter · 49 tok/s · 31% spreadMistral Small 3.1 24B · openrouter · 25 tok/s · 26% spreadMixtral 8x22B Instruct · openrouter · 45 tok/s · 29% spreadMistral Small 3.2 24B · openrouter · 26 tok/s · 149% spreadVoxtral Small 24B 2507 · openrouter · 53 tok/s · 18% spreadKimi K2 0711 · openrouter · 24 tok/s · 13% spreadKimi K2.6 · openrouter · 6 tok/s · 595% spreadMistral Nemo · openrouter · 34 tok/s · 81% spreadMorph V3 Fast · openrouter · 25 tok/s · 15% spreadMorph V3 Large · openrouter · 26 tok/s · 82% spreadNex-N2-Mini · openrouter · 18 tok/s · 43% spreadNex-N2-Pro · openrouter · 17 tok/s · 63% spreadHermes 4 405B · openrouter · 27 tok/s · 17% spreadHermes 4 70B · openrouter · 56 tok/s · 4% spreadNemotron 3 Nano 30B A3B · openrouter · 56 tok/s · 99% spreadNemotron 3 Super · openrouter · 11 tok/s · 219% spreadNemotron 3.5 Lightning · openrouter · 32 tok/s · 208% spreadKimi K2 0905 · openrouter · 27 tok/s · 0% spreadPerceptron Mk1 · openrouter · 27 tok/s · 15% spreadSonar · openrouter · 24 tok/s · 42% spreadSonar Pro Search · openrouter · 35 tok/s · 19% spreadSonar Pro · openrouter · 27 tok/s · 27% spreadLaguna XS 2.1 · openrouter · 21 tok/s · 48% spreadSonar Reasoning Pro · openrouter · 7 tok/s · 40% spreadLaguna S 2.1 · openrouter · 39 tok/s · 143% spreadQwen-Plus · openrouter · 34 tok/s · 3% spreadQwen2.5 Coder 32B Instruct · openrouter · 25 tok/s · 10% spreadQwen Plus 0728 · openrouter · 36 tok/s · 2% spreadQwen2.5 VL 72B Instruct · openrouter · 26 tok/s · 118% spreadQwen3 14B · openrouter · 9 tok/s · 106% spreadQwen3 235B A22B · openrouter · 4 tok/s · 38% spreadQwen3 235B A22B Instruct 2507 · openrouter · 25 tok/s · 182% spreadQwen3 30B A3B · openrouter · 14 tok/s · 105% spreadQwen3 30B A3B Instruct 2507 · openrouter · 40 tok/s · 132% spreadQwen3 30B A3B Thinking 2507 · openrouter · 13 tok/s · 6% spreadQwen3 8B · openrouter · 10 tok/s · 27% spreadQwen3 Coder 30B A3B Instruct · openrouter · 38 tok/s · 161% spreadQwen3 Coder Next · openrouter · 39 tok/s · 108% spreadQwen3 Coder Flash · openrouter · 35 tok/s · 18% spreadQwen3 Coder Plus · openrouter · 24 tok/s · 19% spreadQwen3 Max Thinking · openrouter · 27 tok/s · 27% spreadQwen3 Next 80B A3B Instruct · openrouter · 44 tok/s · 70% spreadQwen3 Max · openrouter · 23 tok/s · 22% spreadQwen3 Next 80B A3B Thinking · openrouter · 8 tok/s · 83% spreadQwen3 VL 235B A22B Instruct · openrouter · 21 tok/s · 162% spreadQwen3 VL 235B A22B Thinking · openrouter · 4 tok/s · 115% spreadQwen3 VL 30B A3B Instruct · openrouter · 28 tok/s · 174% spreadQwen3 VL 30B A3B Thinking · openrouter · 11 tok/s · 55% spreadQwen3 VL 8B Instruct · openrouter · 41 tok/s · 117% spreadQwen3 VL 32B Instruct · openrouter · 40 tok/s · 11% spreadQwen3 VL 8B Thinking · openrouter · 14 tok/s · 25% spreadQwen3.5 397B A17B · openrouter · 4 tok/s · 287% spreadQwen3.5-Flash · openrouter · 46 tok/s · 14% spreadQwen3.5 Plus 2026-02-15 · openrouter · 3 tok/s · 43% spreadQwen3.5 Plus 2026-04-20 · openrouter · 2 tok/s · 5% spreadQwen3.6 35B A3B · openrouter · 5 tok/s · 186% spreadQwen3.6 Flash · openrouter · 4 tok/s · 25% spreadQwen3.6 Max Preview · openrouter · 2 tok/s · 42% spreadQwen3.6 Plus · openrouter · 3 tok/s · 25% spreadQwen3.7 Flash · openrouter · 4 tok/s · 38% spreadQwen3.7 Plus · openrouter · 2 tok/s · 7% spreadQwen3.8 Max · openrouter · 8 tok/s · 61% spreadQwen3.8 27B · openrouter · 5 tok/s · 141% spreadReka Edge · openrouter · 36 tok/s · 12% spreadRelace Search · openrouter · 58 tok/s · 33% spreadHunyuan A13B Instruct · openrouter · 36 tok/s · 11% spreadLlama 3.3 Euryale 70B · openrouter · 15 tok/s · 62% spreadStep 3.5 Flash · openrouter · 12 tok/s · 31% spreadCydonia 24B V4.1 · openrouter · 27 tok/s · 130% spreadRocinante 12B · openrouter · 35 tok/s · 30% spreadSkyfall 36B V2 · openrouter · 41 tok/s · 34% spreadUnslopNemo 12B · openrouter · 42 tok/s · 94% spreadReMM SLERP 13B · openrouter · 30 tok/s · 97% spreadSolar Pro 3 · openrouter · 33 tok/s · 38% spreadSolar Pro 4 · openrouter · 16 tok/s · 75% spreadGrok 4.20 · openrouter · 34 tok/s · 48% spreadGrok 4.3 · openrouter · 11 tok/s · 37% spreadGrok 4.5 · openrouter · 6 tok/s · 85% spreadGrok 4.6 · openrouter · 3 tok/s · 109% spreadGrok Build 0.1 · openrouter · 3 tok/s · 71% spreadGLM 4.5 · openrouter · 2 tok/s · 47% spreadGLM 4.5 Air · openrouter · 12 tok/s · 186% spreadGLM 4.5V · openrouter · 4 tok/s · 70% spreadGLM 5 · openrouter · 5 tok/s · 434% spreadGLM 4.7 Flash · openrouter · 3 tok/s · 121% spreadGLM 5 Turbo · openrouter · 7 tok/s · 179% spreadGLM 5.1 · openrouter · 6 tok/s · 391% spreadGLM 5V Turbo · openrouter · 3 tok/s · 87% spreadGrok 4.20 Multi-Agent · openrouter · 3 tok/s · 106% spreadLing-2.6-flash · openrouter · 39 tok/s · 19% spreadKimi K2 0905 · openrouter · 25 tok/s · 20% spreadWizardLM-2 8x22B · openrouter · 10 tok/s · 0% spreadDeepSeek V4 Pro 0813 · openrouter · 4 tok/s · 109% spreadDeepSeek V4 Pro 0813 · openrouter · 3 tok/s · 0% spreadFugu Ultra · openrouter · 6 tok/s · 0% spreadQwen3.6 27B · openrouter · 2 tok/s · 22% spreadKimi K2 Thinking · openrouter · 4 tok/s · 20% spreadGLM 4.6V · openrouter · 2 tok/s · 100% spreadgpt-oss-safeguard-20b · openrouter · 86 tok/s · 0% spread
mean tok/s →↑ spread %

Full results

legacy · not comparable807 of 807 models
State
min·mean·max
Trend

Throughput over time · shared scale

legacy · not comparable

Method. A cron job calls each model's live API endpoint on a schedule and records what came back. Mean, min and max are over completed samples in the selected window, and n is how many there were. A missing value means the endpoint returned an error or the model was not yet in the catalogue.

Spread is (max − min) ÷ mean, so it measures run-to-run variation rather than absolute speed. TTFT is seconds to the first visible token; runs that emit only reasoning tokens are left out of that average. Mean counts visible output tokens where a provider reports them and falls back to generated throughput where it does not, which is why Gen is higher for models that think before answering.