llm-benchmarks
githubdrose.io

Cloud LLM benchmarks

Models
802
Providers
10
Samples
99,668
Median tok/s
26
p90 tok/s
55
Max tok/s
283
Median spread
125%
Median TTFT
1.59s

Throughput distribution · tok/s

legacy · not comparable

By provider

legacy · not comparable
ProviderModelsMedianp90BestSpreadTTFT
anthropic17253445132%1.54
bedrock216096117111%0.41
cerebras1136136136409%1.02
deepinfra1472549171197%0.98
fireworks28347898191%2.28
google53159159180%1.09
groq6146283283136%0.99
openai49386183195%1.72
openrouter499234612276%1.69
together294781102182%1.18

Throughput × spread · 802 models

100200500GPT-5.5-pro · openai · 11 tok/s · 278% spreadClaude Haiku 4.5 · bedrock · 44 tok/s · 132% spreadClaude Opus 4.1 · bedrock · 8 tok/s · 172% spreadClaude Opus 4.5 · bedrock · 20 tok/s · 117% spreadClaude Opus 4.6 · bedrock · 21 tok/s · 102% spreadClaude Opus 4.7 · bedrock · 28 tok/s · 129% spreadClaude Sonnet 4.5 · bedrock · 21 tok/s · 132% spreadClaude Sonnet 4.6 · bedrock · 27 tok/s · 99% spreadllama-3-70b · bedrock · 36 tok/s · 104% spreadllama-3-8b · bedrock · 78 tok/s · 77% spreadllama-3.1-70b · bedrock · 60 tok/s · 104% spreadllama-3.1-8b · bedrock · 95 tok/s · 111% spreadllama-3.3-70b · bedrock · 84 tok/s · 151% spreadllama-4-maverick · bedrock · 107 tok/s · 72% spreadllama-4-scout · bedrock · 96 tok/s · 123% spreadmistral-7b · bedrock · 82 tok/s · 55% spreadmistral-large · bedrock · 43 tok/s · 78% spreadmistral-small · bedrock · 56 tok/s · 67% spreadmixtral-8x7b · bedrock · 74 tok/s · 83% spreadNova Lite 1.0 · bedrock · 92 tok/s · 142% spreadNova Micro 1.0 · bedrock · 117 tok/s · 137% spreadNova Pro 1.0 · bedrock · 90 tok/s · 130% spreadgpt-4 · openai · 23 tok/s · 199% spreadGPT-5 Nano · openai · 82 tok/s · 183% spreadKimi-K2.7-Code · together · 81 tok/s · 308% spreadGPT-5 · openai · 36 tok/s · 258% spreadGLM-5.2 · fireworks · 31 tok/s · 285% spreadGPT-5.1-codex-max · openai · 61 tok/s · 150% spreadKimi-K2.6 · fireworks · 34 tok/s · 170% spreadGPT-5-chat-latest · openai · 58 tok/s · 86% spreadClaude Haiku 4.5 · anthropic · 45 tok/s · 166% spreadGPT-5.1-codex-mini · openai · 83 tok/s · 97% spreadgpt-4.1-nano · openai · 49 tok/s · 262% spreadGPT-oss-120b · fireworks · 98 tok/s · 212% spreadgpt-4.1 · openai · 45 tok/s · 251% spreadGPT-5.4-mini · openai · 42 tok/s · 204% spreadGPT-5.1-codex · openai · 68 tok/s · 83% spreadgpt-3.5-turbo-instruct-0914 · openai · 43 tok/s · 248% spreadglm-5p1 · fireworks · 28 tok/s · 160% spreadgpt-3.5-turbo-1106 · openai · 38 tok/s · 200% spreadgpt-4.1-mini · openai · 36 tok/s · 281% spreadgpt-4o-mini · openai · 39 tok/s · 257% spreadgpt-4o · openai · 37 tok/s · 294% spreadgpt-4-0613 · openai · 23 tok/s · 195% spreado3-pro · openai · 17 tok/s · 194% spreadNano Banana (Gemini 2.5 Flash Image) · google · 159 tok/s · 146% spreadgpt-5.2-codex · openai · 51 tok/s · 71% spreadGPT-5.4 · openai · 24 tok/s · 189% spreadGPT-5.1 · openai · 31 tok/s · 231% spreadGPT-5.2-chat-latest · openai · 38 tok/s · 134% spreadgpt-4-turbo · openai · 22 tok/s · 234% spreadllama-3.1-8b · groq · 212 tok/s · 237% spreadgpt-3.5-turbo · openai · 40 tok/s · 280% spreadGPT-5.2 · openai · 23 tok/s · 176% spreadllama-3.3-70b · groq · 146 tok/s · 136% spreadGPT-5.2-pro · openai · 15 tok/s · 113% spreadGemini 2.5 Flash Lite · google · 73 tok/s · 246% spreadGPT-5.1-chat-latest · openai · 49 tok/s · 127% spreadClaude Sonnet 4.6 · anthropic · 24 tok/s · 149% spreado4 Mini · openai · 47 tok/s · 339% spreadQwen3.6-27B · groq · 226 tok/s · 189% spreadGPT-5.3-codex · openai · 20 tok/s · 302% spreadMiniMax-M2.7 · fireworks · 60 tok/s · 314% spreadGPT-5.5 · openai · 23 tok/s · 177% spreadGPT-5-codex · openai · 56 tok/s · 113% spreadGPT-5.6-sol · openai · 17 tok/s · 179% spreadClaude Sonnet 5 · anthropic · 29 tok/s · 205% spreadLFM2.5-8B-A1B · together · 102 tok/s · 273% spreadGPT-5.6-luna · openai · 28 tok/s · 311% spreadGPT-5.6-terra · openai · 24 tok/s · 218% spreadInkling · together · 24 tok/s · 153% spreadClaude Opus 4.8 · anthropic · 29 tok/s · 163% spreadDeepSeek V4 Pro 0423 · fireworks · 30 tok/s · 160% spreadgemma-4-31b · cerebras · 136 tok/s · 409% spreadNVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · deepinfra · 36 tok/s · 225% spreadClaude Opus 4.5 · anthropic · 25 tok/s · 132% spreadClaude Opus 4.6 · anthropic · 19 tok/s · 142% spreadClaude Opus 4.7 · anthropic · 26 tok/s · 164% spreadqwen3-vl-235b-a22b-instruct (qwen qwen3-vl-235b-a22b-instruct) · deepinfra · 10 tok/s · 240% spreadqwen3-vl-30b-a3b-instruct (qwen qwen3-vl-30b-a3b-instruct) · deepinfra · 21 tok/s · 159% spreadKimi-K2.7-Code · deepinfra · 37 tok/s · 359% spreadGLM-5.2 · deepinfra · 30 tok/s · 252% spreadInkling · deepinfra · 52 tok/s · 195% spreadgemma-4-E4B-it · deepinfra · 42 tok/s · 194% spreadHy3 · deepinfra · 30 tok/s · 206% spreadClaude Sonnet 5 · deepinfra · 31 tok/s · 63% spreadClaude Fable 5 · deepinfra · 18 tok/s · 124% spreadMiniMax-M3 · deepinfra · 16 tok/s · 505% spreadGemini 2.5 Pro · google · 2 tok/s · 180% spreadClaude Fable 5 · anthropic · 23 tok/s · 231% spreadClaude Opus 4.1 · anthropic · 15 tok/s · 77% spreadGPT-oss-safeguard-20b · groq · 283 tok/s · 232% spreado3 Mini · openai · 62 tok/s · 303% spreado1 · openai · 53 tok/s · 265% spreadGPT-5 Mini · openai · 50 tok/s · 237% spreado3 · openai · 44 tok/s · 277% spreadGemini 3.5 Flash · deepinfra · 29 tok/s · 274% spreadGPT-5.4-nano · openai · 49 tok/s · 278% spreadGemini 3.1 Flash Lite · deepinfra · 36 tok/s · 410% spreadgpt-5.3-chat-latest · openai · 36 tok/s · 125% spreadqwen-2.5-7b · together · 68 tok/s · 159% spreadGemma 3n 4B · together · 36 tok/s · 154% spreadllama-3.3-70b · together · 46 tok/s · 264% spreadQwen2.5-7B-Instruct-Turbo · together · 68 tok/s · 54% spreadGemini 2.5 Flash · google · 2 tok/s · 198% spreadSeed-2.0-Code · deepinfra · 1 tok/s · 571% spreadSeed-2.0-pro · deepinfra · 3 tok/s · 525% spreadqwen-3.5-9b · together · 68 tok/s · 166% spreadMiniMax-M2.1 · deepinfra · 33 tok/s · 52% spreadMiniMax-M2.5 · deepinfra · 23 tok/s · 33% spreadqwen-2.5-72b · deepinfra · 15 tok/s · 290% spreadQwen 2.5 Coder 32B · deepinfra · 42 tok/s · 132% spreadqwen-3-14b · deepinfra · 26 tok/s · 200% spreadqwen-2-1.5b-instruct · together · 99 tok/s · 253% spreadqwen-3-235b · deepinfra · 19 tok/s · 219% spreadQwen3-235B-A22B-Thinking-2507 · deepinfra · 8 tok/s · 336% spreadQwen3-30B-A3B · deepinfra · 58 tok/s · 129% spreadQwen3-32B · deepinfra · 41 tok/s · 150% spreadQwen3-Coder-480B-A35B-Instruct · deepinfra · 30 tok/s · 247% spreadQwen3-Coder-480B-A35B-Instruct-Turbo · deepinfra · 27 tok/s · 231% spreadQwen3-Max · deepinfra · 22 tok/s · 217% spreadQwen3-Max-Thinking · deepinfra · 19 tok/s · 220% spreadQwen3-Next-80B-A3B-Instruct · deepinfra · 47 tok/s · 221% spreadQwen3-VL-30B-A3B-Instruct · deepinfra · 26 tok/s · 152% spreadQwen3-VL-235B-A22B-Instruct · deepinfra · 14 tok/s · 288% spreadqwen-3.5-0.8b · deepinfra · 25 tok/s · 369% spreadDeepSeek V4 Pro 0423 · together · 29 tok/s · 338% spreadqwen-3.5-122b-a10b · deepinfra · 58 tok/s · 211% spreadqwen-3.5-27b · deepinfra · 53 tok/s · 157% spreadqwen-3.5-2b · deepinfra · 27 tok/s · 304% spreadqwen-3.5-35b-a3b · deepinfra · 95 tok/s · 164% spreadqwen-3.5-397b-a17b · deepinfra · 44 tok/s · 168% spreadGPT-5.4-pro · openai · 4 tok/s · 204% spreadqwen-3.5-4b · deepinfra · 27 tok/s · 296% spreadQwen3.6-27B · deepinfra · 45 tok/s · 165% spreadLlama-Guard-4-12B · together · 3 tok/s · 138% spreadQwen3.7-Max · deepinfra · 2 tok/s · 26% spreadMiniMax-M3 · together · 33 tok/s · 391% spreadL3.3-70B-Euryale-v2.3 · deepinfra · 30 tok/s · 109% spreadMiMo-V2.5 · deepinfra · 23 tok/s · 232% spreadMiMo-V2.5-Pro · deepinfra · 62 tok/s · 210% spreadOlmo-3.1-32B-Instruct · deepinfra · 20 tok/s · 338% spreadclaude-3-7-sonnet-latest · deepinfra · 17 tok/s · 137% spreadClaude Opus 4 · deepinfra · 31 tok/s · 76% spreadClaude Sonnet 4 · deepinfra · 17 tok/s · 168% spreadClaude Haiku 4.5 · deepinfra · 30 tok/s · 167% spreadClaude Opus 4.7 · deepinfra · 31 tok/s · 58% spreadKimi-K2.6 · together · 80 tok/s · 255% spreadClaude Opus 4.8 · deepinfra · 28 tok/s · 73% spreadClaude Sonnet 4.6 · deepinfra · 17 tok/s · 159% spreadnemotron-3-ultra-550b-a55b · together · 60 tok/s · 234% spreadGPT-oss-120b · together · 62 tok/s · 232% spreadDeepSeek-R1-0528 · deepinfra · 20 tok/s · 210% spreadGPT-oss-20b · together · 52 tok/s · 315% spreadDeepSeek V3 · deepinfra · 16 tok/s · 272% spreadDeepSeek-V3.1 · deepinfra · 10 tok/s · 290% spreadDeepSeek-V3.1-Terminus · deepinfra · 35 tok/s · 197% spreadDeepSeek-V4-Flash · deepinfra · 23 tok/s · 291% spreadDeepSeek V4 Pro 0423 · deepinfra · 17 tok/s · 265% spreadGemini 2.5 Flash · deepinfra · 36 tok/s · 298% spreadgemini-3.1-pro · deepinfra · 23 tok/s · 269% spreadGemma 3 12B · deepinfra · 31 tok/s · 117% spreadGemma 3 27B · deepinfra · 19 tok/s · 182% spreadGemma 3 4B · deepinfra · 27 tok/s · 181% spreadGemma 4 26B A4B · deepinfra · 20 tok/s · 183% spreadgemma-4-31B-it · deepinfra · 17 tok/s · 481% spreadgemma-4-31B-it-turbo · deepinfra · 37 tok/s · 149% spreadGLM-5.2 · together · 81 tok/s · 235% spreadllama-2-70b · deepinfra · 25 tok/s · 169% spreadllama-3.2-11b · deepinfra · 21 tok/s · 374% spreadllama-3.2-1b · deepinfra · 19 tok/s · 415% spreadllama-3.2-3b · deepinfra · 19 tok/s · 376% spreadllama-3.2-90b · deepinfra · 48 tok/s · 231% spreadLlama-3.3-70B-Instruct-Turbo · deepinfra · 13 tok/s · 234% spreadllama-3.3-70b · deepinfra · 14 tok/s · 194% spreadllama-4-maverick · deepinfra · 47 tok/s · 225% spreadLlama-Guard-4-12B · deepinfra · 2 tok/s · 144% spreadllama-3-70b · deepinfra · 24 tok/s · 191% spreadllama-3-8b · deepinfra · 34 tok/s · 263% spreadllama-3.1-405b · deepinfra · 18 tok/s · 135% spreadllama-3.1-70b · deepinfra · 26 tok/s · 185% spreadllama-3.1-8b · deepinfra · 17 tok/s · 175% spreadphi-4 · deepinfra · 45 tok/s · 117% spreadMiniMax-M2.7-Turbo · deepinfra · 50 tok/s · 173% spreaddevstral-small · deepinfra · 24 tok/s · 266% spreadmistral-7b · deepinfra · 25 tok/s · 234% spreadMistral-Nemo-Instruct-2407 · deepinfra · 28 tok/s · 349% spreadMistral-Small-24B-Instruct-2501 · deepinfra · 37 tok/s · 164% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra · 25 tok/s · 305% spreadmixtral-8x7b · deepinfra · 38 tok/s · 173% spreadKimi-K2-Instruct-0905 · deepinfra · 18 tok/s · 458% spreadKimi-K2-Thinking · deepinfra · 17 tok/s · 517% spreadKimi-K2.5 · deepinfra · 20 tok/s · 416% spreadKimi-K2.5-Turbo · deepinfra · 17 tok/s · 365% spreadKimi-K2.6 · deepinfra · 13 tok/s · 314% spreadLlama-3.3-Nemotron-Super-49B-v1.5 · deepinfra · 38 tok/s · 188% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra · 36 tok/s · 199% spreadnemotron-3-ultra-550b-a55b · deepinfra · 37 tok/s · 185% spreadNVIDIA-Nemotron-Nano-12B-v2-VL · deepinfra · 37 tok/s · 208% spreadNVIDIA-Nemotron-Nano-9B-v2 · deepinfra · 58 tok/s · 259% spreadNemotron-3-Nano-30B-A3B · deepinfra · 59 tok/s · 294% spreadNemotron-3-Nano-Omni-30B-A3B-Reasoning · deepinfra · 39 tok/s · 191% spreadGPT-oss-120b · deepinfra · 17 tok/s · 319% spreadGPT-oss-120b-Turbo · deepinfra · 65 tok/s · 273% spreadGPT-oss-20b · deepinfra · 60 tok/s · 196% spreadGLM-4.6 · deepinfra · 30 tok/s · 212% spreadGLM-4.6V · deepinfra · 20 tok/s · 206% spreadGLM-4.7 · deepinfra · 27 tok/s · 186% spreadGLM-4.7-Flash · deepinfra · 49 tok/s · 258% spreadGLM-5 · deepinfra · 21 tok/s · 235% spreadGLM-5.1 · deepinfra · 22 tok/s · 227% spreadMiniMax-M2 · deepinfra · 25 tok/s · 25% spreadGPT-5-pro · openai · 7 tok/s · 169% spreadMiniMax-M2.7 · deepinfra · 15 tok/s · 173% spreadDeepSeek V3.2 · deepinfra · 15 tok/s · 407% spreadOrnith-1.0-35B · deepinfra · 35 tok/s · 249% spreadQwen3.6-35B-A3B · deepinfra · 34 tok/s · 288% spreadGemma 4 31B · together · 59 tok/s · 182% spreadDeepSeek-R1-0528-Turbo · deepinfra · 20 tok/s · 191% spreadDeepSeek V4 Flash 0731 · deepinfra · 27 tok/s · 167% spreadKimi-K3 · fireworks · 28 tok/s · 200% spreadDeepSeek-V4-Flash · fireworks · 31 tok/s · 191% spreadkimi-k3 · together · 38 tok/s · 182% spreadKimi-K2.7-Code · fireworks · 38 tok/s · 374% spreadClaude Opus 5 · anthropic · 28 tok/s · 217% spreadGPT-oss-20b · fireworks · 78 tok/s · 195% spreadMiniMax-M3 · fireworks · 53 tok/s · 202% spreadInkling-Small · deepinfra · 50 tok/s · 278% spreadQwen3.8-Max · deepinfra · 6 tok/s · 384% spreadClaude Opus 5 · deepinfra · 25 tok/s · 115% spreadDeepSeek V4 Flash 0731 · fireworks · 29 tok/s · 252% spreadqwen3-reranker-8b · fireworks · 62 tok/s · 194% spreadnemotron-3-ultra-550b-a55b · fireworks · 59 tok/s · 234% spreadqwen3p7-plus · fireworks · 55 tok/s · 442% spreadglm-5p2-fast · fireworks · 53 tok/s · 299% spreadkimi-k2p6-turbo · fireworks · 49 tok/s · 184% spreadkimi-k3-fast · fireworks · 30 tok/s · 192% spreadkimi-k2p7-code-fast · fireworks · 56 tok/s · 90% spreadQwen2.5-VL-32B-Instruct · deepinfra · 24 tok/s · 161% spreadWizardLM-2-8x22B · deepinfra · 16 tok/s · 299% spreadCogito v2.1 671B · deepinfra · 22 tok/s · 374% spreadPaddleOCR-VL-0.9B · deepinfra · 20 tok/s · 235% spreadLlama-3.1-Nemotron-70B-Instruct · deepinfra · 36 tok/s · 178% spreadolmOCR-2-7B-1025 · deepinfra · 20 tok/s · 261% spreadR1 Distill Llama 70B · deepinfra · 22 tok/s · 168% spreadDeepSeek V4 Flash 0731 · together · 47 tok/s · 325% spreadInkling · fireworks · 4 tok/s · 0% spreadKimi-K3 · deepinfra · 21 tok/s · 302% spreadNemotron-Lightning-3.5-30B-A3B · fireworks · 87 tok/s · 286% spreadGemini 2.5 Flash Lite · google · 3 tok/s · 40% spreadGemma 4 26B A4B · deepinfra · 20 tok/s · 191% spreadgpt-4.1-nano · openai · 43 tok/s · 67% spreadphi-4 · deepinfra · 24 tok/s · 196% spreadgpt-4o-mini · openai · 38 tok/s · 71% spreadNemotron-3-Nano-30B-A3B · deepinfra · 55 tok/s · 154% spreadMistral-Small-24B-Instruct-2501 · deepinfra · 40 tok/s · 77% spreadqwen-2.5-72b · deepinfra · 17 tok/s · 197% spreadgpt-3.5-turbo · openai · 47 tok/s · 75% spreadClaude Opus 4.8 · anthropic · 26 tok/s · 80% spreadGemma 3 4B · deepinfra · 24 tok/s · 96% spreadgpt-4o · openai · 37 tok/s · 83% spreadgpt-4.1-mini · openai · 29 tok/s · 125% spreadGemma 3n 4B · together · 33 tok/s · 118% spreadDeepSeek V3.2 · deepinfra · 12 tok/s · 161% spreadgpt-4-turbo · openai · 22 tok/s · 29% spreadNVIDIA-Nemotron-3-Super-120B-A12B · deepinfra · 27 tok/s · 81% spreadGemma 3 12B · deepinfra · 28 tok/s · 107% spreadMistral-Nemo-Instruct-2407 · deepinfra · 26 tok/s · 194% spreadDeepSeek-V3.1-Terminus · deepinfra · 39 tok/s · 106% spreadMistral-Small-3.2-24B-Instruct-2506 · deepinfra · 22 tok/s · 162% spreadllama-3.1-8b · deepinfra · 19 tok/s · 174% spreadgpt-4 · openai · 25 tok/s · 54% spreadDeepSeek V3 · deepinfra · 13 tok/s · 90% spreadClaude Haiku 4.5 · anthropic · 34 tok/s · 101% spreadQwen3-VL-30B-A3B-Instruct · deepinfra · 27 tok/s · 448% spreadQwen3-Next-80B-A3B-Instruct · deepinfra · 41 tok/s · 140% spreadDeepSeek-V3.1 · deepinfra · 11 tok/s · 160% spreadClaude Opus 4.7 · anthropic · 22 tok/s · 106% spreadClaude Sonnet 4.6 · anthropic · 22 tok/s · 105% spreadClaude Sonnet 5 · anthropic · 25 tok/s · 95% spreadClaude Opus 4.6 · anthropic · 19 tok/s · 104% spreadllama-3.1-70b · deepinfra · 26 tok/s · 138% spreadDeepSeek-V4-Flash · deepinfra · 34 tok/s · 120% spreadMuse-Glimmer-30B · together · 21 tok/s · 198% spreadmuse-glimmer-30b · fireworks · 15 tok/s · 168% spreadMuse-Glimmer-30B · deepinfra · 25 tok/s · 122% spreadNVIDIA-Nemotron-3.5-Lightning · deepinfra · 171 tok/s · 70% spreadDeepSeek V4 Pro 0813 · fireworks · 15 tok/s · 0% spreadQwen3.8-Max · fireworks · 52 tok/s · 151% spreadQwen3.8-2.4T-A95B · fireworks · 32 tok/s · 76% spreadQwen3.8-2.4T-A95B · together · 79 tok/s · 167% spreadLlama-Guard-4-12B · together · 4 tok/s · 92% spreadnemotron-3-ultra-550b-a55b · fireworks · 42 tok/s · 98% spreadnemotron-3-ultra-550b-a55b · together · 48 tok/s · 55% spreadClaude Opus 4.5 · anthropic · 21 tok/s · 39% spreadKimi-K3 · fireworks · 14 tok/s · 145% spreadGPT-oss-120b · fireworks · 16 tok/s · 139% spreadGPT-oss-120b · together · 15 tok/s · 176% spreadllama-3.3-70b · together · 20 tok/s · 166% spreadGLM-5.2 · together · 11 tok/s · 116% spreadDeepSeek-V4-Pro-0813 · together · 11 tok/s · 84% spreadllama-3.3-70b · groq · 11 tok/s · 31% spreadDeepSeek V3 0324 · openrouter · 18 tok/s · 115% spreadMistral Medium 3 · openrouter · 30 tok/s · 109% spreadDeepSeek V3 · openrouter · 19 tok/s · 133% spreadMistral Small 3 · openrouter · 34 tok/s · 84% spreadQwen2.5 VL 72B Instruct · openrouter · 27 tok/s · 129% spreadLlama 3.2 1B Instruct · openrouter · 51 tok/s · 219% spreadQwen2.5 7B Instruct · openrouter · 46 tok/s · 73% spreadQwen2.5 Coder 32B Instruct · openrouter · 24 tok/s · 43% spreadLlama 3.2 3B Instruct · openrouter · 42 tok/s · 163% spreadQwen2.5 72B Instruct · openrouter · 22 tok/s · 159% spreadHermes 3 70B Instruct · openrouter · 24 tok/s · 71% spreadHermes 3 405B Instruct · openrouter · 17 tok/s · 130% spreadGPT-4o (2024-08-06) · openrouter · 36 tok/s · 98% spreadLlama 3.1 8B Instruct · openrouter · 20 tok/s · 209% spreadLlama 3.1 70B Instruct · openrouter · 26 tok/s · 125% spreadMistral Nemo · openrouter · 27 tok/s · 172% spreadGPT-4o-mini (2024-07-18) · openrouter · 38 tok/s · 68% spreadGPT-4o-mini · openrouter · 29 tok/s · 45% spreadGPT-4o (2024-11-20) · openrouter · 46 tok/s · 128% spreadLlama 3.3 70B Instruct · openrouter · 16 tok/s · 194% spreadMistral Small 3.2 24B · openrouter · 24 tok/s · 138% spreadQwen3 8B · openrouter · 10 tok/s · 42% spreadQwen3 235B A22B · openrouter · 6 tok/s · 306% spreadGPT-4.1 · openrouter · 37 tok/s · 76% spreadGPT-4.1 Mini · openrouter · 35 tok/s · 63% spreadGPT-4.1 Nano · openrouter · 41 tok/s · 70% spreadMistral Small 3.1 24B · openrouter · 29 tok/s · 120% spreadSaba · openrouter · 37 tok/s · 195% spreadHunyuan A13B Instruct · openrouter · 30 tok/s · 70% spreadCydonia 24B V4.1 · openrouter · 32 tok/s · 125% spreadRocinante 12B · openrouter · 34 tok/s · 152% spreadSkyfall 36B V2 · openrouter · 29 tok/s · 171% spreadUnslopNemo 12B · openrouter · 44 tok/s · 160% spreadReMM SLERP 13B · openrouter · 34 tok/s · 119% spreadSolar Pro 3 · openrouter · 33 tok/s · 88% spreadSolar Pro 4 · openrouter · 27 tok/s · 141% spreadPalmyra X5 · openrouter · 41 tok/s · 75% spreadGrok 4.20 · openrouter · 35 tok/s · 96% spreadGrok 4.3 · openrouter · 11 tok/s · 87% spreadGrok 4.20 Multi-Agent · openrouter · 4 tok/s · 766% spreadGrok 4.5 · openrouter · 8 tok/s · 116% spreadGrok 4.6 · openrouter · 3 tok/s · 246% spreadGrok Build 0.1 · openrouter · 4 tok/s · 133% spreadGLM 4.5 · openrouter · 2 tok/s · 125% spreadGLM 5.1 · openrouter · 18 tok/s · 178% spreadGLM 5.2 · openrouter · 31 tok/s · 296% spreadAnthropic Claude Haiku Latest · openrouter · 34 tok/s · 83% spreadOpenAI GPT Mini Latest · openrouter · 44 tok/s · 39% spreadGrok Latest · openrouter · 3 tok/s · 185% spreadGPT-3.5 Turbo · openrouter · 44 tok/s · 101% spreadGPT-3.5 Turbo (older v0613) · openrouter · 38 tok/s · 61% spreadGPT-5.4 · openrouter · 31 tok/s · 32% spreadGPT-5.4 Mini · openrouter · 47 tok/s · 34% spreadGPT-5.4 Image 2 · openrouter · 29 tok/s · 41% spreadGPT-5.4 Nano · openrouter · 50 tok/s · 44% spreadGPT-5.5 · openrouter · 16 tok/s · 116% spreadGPT-5.6 Luna Pro · openrouter · 7 tok/s · 0% spreadGPT Chat Latest · openrouter · 34 tok/s · 46% spreadGPT-5.6 Terra · openrouter · 18 tok/s · 129% spreadAuto Router (Beta) · openrouter · 24 tok/s · 150% spreadPerceptron Mk1 · openrouter · 30 tok/s · 43% spreadPareto Code Router · openrouter · 17 tok/s · 126% spreadSonar · openrouter · 23 tok/s · 107% spreadSonar Pro · openrouter · 25 tok/s · 111% spreadSonar Pro Search · openrouter · 35 tok/s · 102% spreadQwen3 30B A3B Thinking 2507 · openrouter · 14 tok/s · 460% spreadQwen Plus 0728 · openrouter · 31 tok/s · 126% spreadQwen3 Coder 480B A35B · openrouter · 39 tok/s · 161% spreadQwen3 Coder Flash · openrouter · 36 tok/s · 235% spreadQwen3 Coder Plus · openrouter · 24 tok/s · 76% spreadQwen3 Max · openrouter · 23 tok/s · 60% spreadQwen3 VL 8B Thinking · openrouter · 16 tok/s · 631% spreadQwen3.5-27B · openrouter · 4 tok/s · 100% spreadQwen3.5 Plus 2026-02-15 · openrouter · 5 tok/s · 402% spreadQwen3.5-Flash · openrouter · 41 tok/s · 174% spreadQwen3.6 Max Preview · openrouter · 2 tok/s · 75% spreadAion-2.0 · openrouter · 7 tok/s · 514% spreadAion-3.0 · openrouter · 10 tok/s · 288% spreadAion-RP 1.0 (8B) · openrouter · 29 tok/s · 78% spreadAion-3.0-Mini · openrouter · 5 tok/s · 496% spreadNova 2 Lite · openrouter · 42 tok/s · 243% spreadNova Lite 1.0 · openrouter · 50 tok/s · 324% spreadNova Micro 1.0 · openrouter · 47 tok/s · 352% spreadNova Premier 1.0 · openrouter · 23 tok/s · 193% spreadNova Pro 1.0 · openrouter · 35 tok/s · 194% spreadMagnum v4 72B · openrouter · 16 tok/s · 70% spreadClaude 3 Haiku · openrouter · 36 tok/s · 166% spreadClaude Haiku 4.5 · openrouter · 37 tok/s · 182% spreadClaude Opus 4 · openrouter · 13 tok/s · 138% spreadClaude Opus 4.6 · openrouter · 20 tok/s · 118% spreadClaude Opus 4.5 · openrouter · 23 tok/s · 130% spreadClaude Opus 4.1 · openrouter · 8 tok/s · 101% spreadClaude Opus 4.7 · openrouter · 23 tok/s · 136% spreadClaude Opus 4.8 · openrouter · 24 tok/s · 162% spreadClaude Opus 4.8 (Fast) · openrouter · 38 tok/s · 294% spreadClaude Sonnet 4 · openrouter · 30 tok/s · 152% spreadClaude Sonnet 4.5 · openrouter · 21 tok/s · 161% spreadClaude Sonnet 4.6 · openrouter · 23 tok/s · 122% spreadClaude Sonnet 5 · openrouter · 19 tok/s · 245% spreadERNIE 4.5 VL 424B A47B · openrouter · 16 tok/s · 114% spreadUI-TARS 7B · openrouter · 36 tok/s · 174% spreadUncensored · openrouter · 34 tok/s · 208% spreadCommand A · openrouter · 31 tok/s · 175% spreadCommand R (08-2024) · openrouter · 21 tok/s · 213% spreadCommand R+ (08-2024) · openrouter · 10 tok/s · 153% spreadCommand R7B (12-2024) · openrouter · 44 tok/s · 118% spreadCogito v2.1 671B · openrouter · 41 tok/s · 149% spreadDeepSeek V3.1 Terminus · openrouter · 34 tok/s · 253% spreadDeepSeek V3.2 · openrouter · 17 tok/s · 138% spreadDeepSeek V3.1 · openrouter · 9 tok/s · 177% spreadDeepSeek V3.2 Exp · openrouter · 17 tok/s · 68% spreadGemini 2.5 Flash · openrouter · 48 tok/s · 205% spreadNano Banana (Gemini 2.5 Flash Image) · openrouter · 40 tok/s · 470% spreadGemini 2.5 Flash Lite · openrouter · 63 tok/s · 197% spreadGemini 2.5 Pro · openrouter · 3 tok/s · 168% spreadGemini 2.5 Pro Preview 05-06 · openrouter · 4 tok/s · 151% spreadGemini 3 Flash Preview · openrouter · 39 tok/s · 143% spreadNano Banana 2 (Gemini 3.1 Flash Image) · openrouter · 44 tok/s · 269% spreadNano Banana 2 (Gemini 3.1 Flash Image Preview) · openrouter · 44 tok/s · 181% spreadGemini 3.1 Flash Lite · openrouter · 48 tok/s · 270% spreadNano Banana 2 Lite (Gemini 3.1 Flash Lite Image) · openrouter · 59 tok/s · 156% spreadGemini 3.1 Flash Lite Preview · openrouter · 56 tok/s · 162% spreadGemini 3.1 Pro Preview Custom Tools · openrouter · 4 tok/s · 159% spreadGemini 3.1 Pro Preview · openrouter · 4 tok/s · 161% spreadGemini 3.5 Flash · openrouter · 5 tok/s · 123% spreadGemini 3.5 Flash Lite · openrouter · 56 tok/s · 141% spreadGemini 3.7 Flash · openrouter · 7 tok/s · 140% spreadGemma 2 27B · openrouter · 30 tok/s · 75% spreadGemma 3 12B · openrouter · 26 tok/s · 211% spreadGemma 3 27B · openrouter · 22 tok/s · 202% spreadGemma 3 4B · openrouter · 28 tok/s · 113% spreadGemma 3n 4B · openrouter · 36 tok/s · 98% spreadGemma 4 26B A4B · openrouter · 23 tok/s · 195% spreadGemma 4 31B · openrouter · 31 tok/s · 313% spreadMythoMax 13B · openrouter · 26 tok/s · 91% spreadGranite 4.0 Micro · openrouter · 25 tok/s · 48% spreadGranite 4.1 8B · openrouter · 51 tok/s · 179% spreadLing-2.6-1T · openrouter · 28 tok/s · 130% spreadLing-2.6-flash · openrouter · 41 tok/s · 90% spreadKAT-Coder-Air V2.5 · openrouter · 34 tok/s · 107% spreadKAT-Coder-Pro V2 · openrouter · 37 tok/s · 70% spreadLlama 4 Maverick · openrouter · 30 tok/s · 207% spreadLlama Guard 4 12B · openrouter · 3 tok/s · 133% spreadLlama 4 Scout · openrouter · 35 tok/s · 118% spreadPhi 4 · openrouter · 31 tok/s · 140% spreadMiniMax-01 · openrouter · 23 tok/s · 91% spreadWizardLM-2 8x22B · openrouter · 11 tok/s · 118% spreadMiniMax M2-her · openrouter · 35 tok/s · 108% spreadCodestral 2508 · openrouter · 48 tok/s · 98% spreadMinistral 3 14B 2512 · openrouter · 41 tok/s · 165% spreadMinistral 3 3B 2512 · openrouter · 47 tok/s · 182% spreadMinistral 3 8B 2512 · openrouter · 43 tok/s · 148% spreadMistral Large · openrouter · 28 tok/s · 88% spreadMistral Large 2407 · openrouter · 27 tok/s · 125% spreadMistral Large 3 2512 · openrouter · 29 tok/s · 90% spreadMistral Medium 3.5 · openrouter · 43 tok/s · 122% spreadMistral Medium 3.1 · openrouter · 36 tok/s · 138% spreadMistral Small 4 · openrouter · 40 tok/s · 153% spreadMixtral 8x22B Instruct · openrouter · 40 tok/s · 164% spreadVoxtral Small 24B 2507 · openrouter · 50 tok/s · 158% spreadKimi K2.5 · openrouter · 5 tok/s · 195% spreadMorph V3 Fast · openrouter · 16 tok/s · 337% spreadMorph V3 Large · openrouter · 26 tok/s · 168% spreadHermes 4 405B · openrouter · 26 tok/s · 101% spreadHermes 4 70B · openrouter · 37 tok/s · 142% spreadNemotron 3 Ultra · openrouter · 22 tok/s · 209% spreadGPT-3.5 Turbo 16k · openrouter · 42 tok/s · 69% spreadGPT-3.5 Turbo Instruct · openrouter · 38 tok/s · 87% spreadGPT-4 · openrouter · 19 tok/s · 29% spreadGPT-4 Turbo · openrouter · 18 tok/s · 91% spreadGPT-4o · openrouter · 35 tok/s · 66% spreadGPT-4o (2024-05-13) · openrouter · 13 tok/s · 200% spreadGPT-5.1 · openrouter · 33 tok/s · 46% spreadGPT-5.1-Codex · openrouter · 27 tok/s · 140% spreadBody Builder (beta) · openrouter · 11 tok/s · 374% spreadQwen-Plus · openrouter · 30 tok/s · 114% spreadQwen3 235B A22B Instruct 2507 · openrouter · 21 tok/s · 119% spreadQwen3 30B A3B Instruct 2507 · openrouter · 34 tok/s · 147% spreadQwen3 Coder 30B A3B Instruct · openrouter · 25 tok/s · 416% spreadQwen3 Coder Next · openrouter · 47 tok/s · 110% spreadQwen3 Max Thinking · openrouter · 23 tok/s · 79% spreadQwen3 Next 80B A3B Instruct · openrouter · 38 tok/s · 148% spreadQwen3 VL 235B A22B Instruct · openrouter · 28 tok/s · 115% spreadQwen3 VL 235B A22B Thinking · openrouter · 7 tok/s · 657% spreadQwen3 VL 30B A3B Instruct · openrouter · 45 tok/s · 243% spreadQwen3 VL 30B A3B Thinking · openrouter · 15 tok/s · 642% spreadQwen3 VL 32B Instruct · openrouter · 35 tok/s · 167% spreadQwen3 VL 8B Instruct · openrouter · 49 tok/s · 233% spreadQwen3.5-122B-A10B · openrouter · 14 tok/s · 407% spreadReka Edge · openrouter · 31 tok/s · 120% spreadRelace Search · openrouter · 57 tok/s · 82% spreadLlama 3 8B Lunaris · openrouter · 41 tok/s · 72% spreadLlama 3.1 Euryale 70B v2.2 · openrouter · 34 tok/s · 123% spreadAnthropic Claude Sonnet Latest · openrouter · 20 tok/s · 56% spreadllama-3.1-8b · groq · 25 tok/s · 0% spreadGoogle Gemini Flash Latest · openrouter · 7 tok/s · 142% spreadGPT-5.6 Terra Pro · openrouter · 50 tok/s · 106% spreadLaguna S 2.1 · openrouter · 37 tok/s · 167% spreadGemini 2.5 Pro Preview 06-05 · openrouter · 3 tok/s · 158% spreadGemini 3.6 Flash · openrouter · 9 tok/s · 132% spreadGPT-5.2 Pro · openrouter · 28 tok/s · 121% spreadLyria 3 Clip Preview · openrouter · 38 tok/s · 98% spreadLlama 3.3 Euryale 70B · openrouter · 12 tok/s · 178% spreadGPT-5.2-Codex · openrouter · 20 tok/s · 86% spreadSonar Reasoning Pro · openrouter · 8 tok/s · 122% spreadNano Banana Pro (Gemini 3 Pro Image Preview) · openrouter · 5 tok/s · 70% spreadFree Models Router · openrouter · 11 tok/s · 436% spreadgemini-3-pro-image · openrouter · 10 tok/s · 157% spreadMercury 2 · openrouter · 60 tok/s · 145% spreadSonar Deep Research · openrouter · 1 tok/s · 41% spreadClaude Haiku 4.5 · openrouter · 34 tok/s · 141% spreadClaude Opus 4.5 · openrouter · 20 tok/s · 128% spreadClaude Fable 5 · openrouter · 4 tok/s · 118% spreadClaude Opus 4.7 · openrouter · 20 tok/s · 107% spreadClaude Opus 4.6 · openrouter · 18 tok/s · 92% spreadClaude Opus 4.8 · openrouter · 21 tok/s · 121% spreadClaude Opus 4.8 (Fast) · openrouter · 40 tok/s · 162% spreadClaude Fable 5 · openrouter · 5 tok/s · 216% spreadClaude Sonnet 4.5 · openrouter · 21 tok/s · 109% spreadClaude Sonnet 4.6 · openrouter · 23 tok/s · 94% spreadClaude Sonnet 5 · openrouter · 18 tok/s · 108% spreadSeed 1.6 · openrouter · 2 tok/s · 4% spreadTrinity Large Thinking · openrouter · 31 tok/s · 10% spreadSeed 1.6 Flash · openrouter · 10 tok/s · 0% spreadCogito v2.1 671B · openrouter · 42 tok/s · 0% spreadDeepSeek V3 · openrouter · 23 tok/s · 26% spreadDeepSeek V3.1 · openrouter · 29 tok/s · 150% spreadR1 0528 · openrouter · 4 tok/s · 74% spreadR1 0528 · openrouter · 4 tok/s · 347% spreadR1 · openrouter · 3 tok/s · 0% spreadR1 Distill Llama 70B · openrouter · 3 tok/s · 0% spreadDeepSeek V4 Flash 0423 · openrouter · 9 tok/s · 87% spreadDeepSeek V4 Flash 0731 · openrouter · 10 tok/s · 242% spreadDeepSeek V4 Flash 0731 · openrouter · 8 tok/s · 331% spreadDeepSeek V4 Pro 0423 · openrouter · 3 tok/s · 52% spreadGemma 3n 4B · openrouter · 44 tok/s · 0% spreadGemma 3 4B · openrouter · 38 tok/s · 0% spreadGemma 4 31B · openrouter · 31 tok/s · 280% spreadLing-3.0-flash · openrouter · 46 tok/s · 0% spreadLing-3.0-flash · openrouter · 42 tok/s · 3% spreadRing-2.6-1T · openrouter · 29 tok/s · 0% spreadKAT-Coder-Pro V2.5 · openrouter · 5 tok/s · 0% spreadLlama 3.3 70B Instruct · openrouter · 38 tok/s · 164% spreadLongCat 2.0 · openrouter · 3 tok/s · 0% spreadLlama 3.1 8B Instruct · openrouter · 45 tok/s · 162% spreadLlama 4 Scout · openrouter · 60 tok/s · 58% spreadLlama Guard 4 12B · openrouter · 4 tok/s · 29% spreadMuse Glimmer 30B · openrouter · 11 tok/s · 76% spreadMuse Glimmer 30B · openrouter · 20 tok/s · 0% spreadPhi 4 · openrouter · 16 tok/s · 0% spreadMiniMax M2 · openrouter · 13 tok/s · 52% spreadMiniMax M1 · openrouter · 15 tok/s · 17% spreadMiniMax M2.5 · openrouter · 6 tok/s · 79% spreadMiniMax M2.1 · openrouter · 8 tok/s · 103% spreadMiniMax M2.7 · openrouter · 7 tok/s · 581% spreadMiniMax M2.7 · openrouter · 11 tok/s · 224% spreadMiniMax M3 · openrouter · 28 tok/s · 158% spreadMiniMax M3 · openrouter · 21 tok/s · 175% spreadMistral Small 3 · openrouter · 56 tok/s · 0% spreadKimi K2 0711 · openrouter · 32 tok/s · 0% spreadKimi K2.5 · openrouter · 5 tok/s · 223% spreadKimi K2.6 · openrouter · 3 tok/s · 178% spreadKimi K2.7 Code · openrouter · 15 tok/s · 231% spreadKimi K2.7 Code · openrouter · 19 tok/s · 314% spreadKimi K3 · openrouter · 3 tok/s · 77% spreadNex-N2-Mini · openrouter · 26 tok/s · 0% spreadNex-N2-Pro · openrouter · 20 tok/s · 2% spreadHermes 3 405B Instruct · openrouter · 19 tok/s · 0% spreadHermes 3 70B Instruct · openrouter · 28 tok/s · 0% spreadNemotron 3 Nano 30B A3B · openrouter · 89 tok/s · 7% spreadNemotron 3 Super · openrouter · 14 tok/s · 128% spreadNemotron 3.5 Lightning · openrouter · 122 tok/s · 14% spreadNemotron 3 Ultra · openrouter · 15 tok/s · 61% spreadgpt-oss-120b · openrouter · 33 tok/s · 297% spreadgpt-oss-120b · openrouter · 10 tok/s · 120% spreadgpt-oss-20b · openrouter · 13 tok/s · 240% spreadgpt-oss-20b · openrouter · 17 tok/s · 309% spreadgpt-oss-safeguard-20b · openrouter · 49 tok/s · 0% spreadLaguna XS 2.1 · openrouter · 11 tok/s · 0% spreadQwen2.5 72B Instruct · openrouter · 2 tok/s · 0% spreadQwen2.5 7B Instruct · openrouter · 59 tok/s · 5% spreadQwen3 14B · openrouter · 9 tok/s · 10% spreadQwen3 235B A22B Thinking 2507 · openrouter · 5 tok/s · 101% spreadQwen3 235B A22B Thinking 2507 · openrouter · 4 tok/s · 46% spreadQwen3 30B A3B · openrouter · 11 tok/s · 0% spreadQwen3 32B · openrouter · 11 tok/s · 255% spreadQwen3 32B · openrouter · 10 tok/s · 24% spreadQwen3 Coder 480B A35B · openrouter · 25 tok/s · 48% spreadQwen3 Next 80B A3B Thinking · openrouter · 11 tok/s · 2% spreadQwen3.5-122B-A10B · openrouter · 14 tok/s · 311% spreadQwen3.5-27B · openrouter · 3 tok/s · 105% spreadQwen3.5-35B-A3B · openrouter · 13 tok/s · 284% spreadQwen3.5-35B-A3B · openrouter · 8 tok/s · 58% spreadQwen3.5 397B A17B · openrouter · 4 tok/s · 122% spreadQwen3.5-9B · openrouter · 3 tok/s · 133% spreadQwen3.5-9B · openrouter · 4 tok/s · 129% spreadQwen3.5 Plus 2026-04-20 · openrouter · 2 tok/s · 0% spreadQwen3.6 35B A3B · openrouter · 8 tok/s · 32% spreadQwen3.6 Flash · openrouter · 5 tok/s · 0% spreadQwen3.6 Plus · openrouter · 3 tok/s · 0% spreadQwen3.7 Flash · openrouter · 5 tok/s · 0% spreadQwen3.7 Plus · openrouter · 2 tok/s · 0% spreadQwen3.8 2.4T A95B · openrouter · 18 tok/s · 104% spreadQwen3.8 2.4T A95B · openrouter · 13 tok/s · 176% spreadQwen3.8 27B · openrouter · 3 tok/s · 120% spreadQwen3.8 Max · openrouter · 12 tok/s · 0% spreadSakana Namazu · openrouter · 19 tok/s · 59% spreadLlama 3 8B Lunaris · openrouter · 45 tok/s · 33% spreadLlama 3.1 Euryale 70B v2.2 · openrouter · 37 tok/s · 8% spreadStep 3.5 Flash · openrouter · 15 tok/s · 0% spreadHy3 · openrouter · 2 tok/s · 20% spreadHy3 · openrouter · 2 tok/s · 29% spreadInkling · openrouter · 8 tok/s · 147% spreadInkling Small · openrouter · 18 tok/s · 76% spreadInkling · openrouter · 6 tok/s · 148% spreadMiMo-V2.5-Pro · openrouter · 13 tok/s · 68% spreadMiMo-V2.5-Pro · openrouter · 14 tok/s · 55% spreadMiMo-V2.5 · openrouter · 17 tok/s · 87% spreadMiMo-V2.5 · openrouter · 9 tok/s · 61% spreadGLM 4.5 Air · openrouter · 9 tok/s · 12% spreadGLM 4.5V · openrouter · 5 tok/s · 46% spreadGLM 4.6 · openrouter · 2 tok/s · 76% spreadGLM 4.6 · openrouter · 1 tok/s · 23% spreadGLM 4.7 · openrouter · 3 tok/s · 111% spreadGLM 4.7 · openrouter · 2 tok/s · 17% spreadGLM 4.7 Flash · openrouter · 4 tok/s · 33% spreadGLM 5 · openrouter · 4 tok/s · 36% spreadGLM 5 Turbo · openrouter · 14 tok/s · 0% spreadGLM 5.2 · openrouter · 21 tok/s · 230% spreadAion-3.0 · openrouter · 13 tok/s · 0% spreadAion-3.0-Mini · openrouter · 3 tok/s · 0% spreadAion-RP 1.0 (8B) · openrouter · 25 tok/s · 0% spreadMagnum v4 72B · openrouter · 15 tok/s · 0% spreadTrinity Large Thinking · openrouter · 31 tok/s · 16% spreadERNIE 4.5 VL 424B A47B · openrouter · 17 tok/s · 0% spreadSeed 1.6 Flash · openrouter · 6 tok/s · 0% spreadUncensored · openrouter · 34 tok/s · 0% spreadUI-TARS 7B · openrouter · 38 tok/s · 0% spreadCommand A · openrouter · 34 tok/s · 0% spreadCommand R7B (12-2024) · openrouter · 40 tok/s · 0% spreadCommand R (08-2024) · openrouter · 39 tok/s · 0% spreadCommand R+ (08-2024) · openrouter · 7 tok/s · 0% spreadDeepSeek V3 0324 · openrouter · 15 tok/s · 34% spreadR1 · openrouter · 1 tok/s · 0% spreadR1 Distill Llama 70B · openrouter · 2 tok/s · 0% spreadDeepSeek V3.1 Terminus · openrouter · 22 tok/s · 67% spreadDeepSeek V3.2 · openrouter · 20 tok/s · 216% spreadDeepSeek V3.2 Exp · openrouter · 19 tok/s · 44% spreadDeepSeek V4 Flash 0423 · openrouter · 14 tok/s · 250% spreadDeepSeek V4 Pro 0423 · openrouter · 17 tok/s · 238% spreadGemini 2.5 Flash · openrouter · 60 tok/s · 38% spreadNano Banana (Gemini 2.5 Flash Image) · openrouter · 32 tok/s · 127% spreadGemini 2.5 Flash Lite · openrouter · 80 tok/s · 26% spreadGemini 3 Flash Preview · openrouter · 52 tok/s · 8% spreadGemini 2.5 Pro Preview 05-06 · openrouter · 1 tok/s · 145% spreadNano Banana 2 (Gemini 3.1 Flash Image) · openrouter · 50 tok/s · 0% spreadNano Banana 2 (Gemini 3.1 Flash Image Preview) · openrouter · 55 tok/s · 0% spreadGemini 3.1 Flash Lite · openrouter · 65 tok/s · 15% spreadNano Banana 2 Lite (Gemini 3.1 Flash Lite Image) · openrouter · 102 tok/s · 0% spreadAion-2.0 · openrouter · 6 tok/s · 0% spreadGemini 3.1 Flash Lite Preview · openrouter · 54 tok/s · 26% spreadGemini 3.1 Pro Preview · openrouter · 3 tok/s · 19% spreadGemini 3.5 Flash · openrouter · 5 tok/s · 12% spreadGemini 3.1 Pro Preview Custom Tools · openrouter · 2 tok/s · 0% spreadGemini 3.5 Flash Lite · openrouter · 64 tok/s · 22% spreadGemini 3.6 Flash · openrouter · 7 tok/s · 16% spreadGemini 3.7 Flash · openrouter · 13 tok/s · 19% spreadGemma 2 27B · openrouter · 32 tok/s · 0% spreadGemma 4 26B A4B · openrouter · 25 tok/s · 158% spreadGemma 3 27B · openrouter · 27 tok/s · 88% spreadGemma 3 12B · openrouter · 18 tok/s · 0% spreadLyria 3 Clip Preview · openrouter · 36 tok/s · 0% spreadMythoMax 13B · openrouter · 32 tok/s · 31% spreadMercury 2 · openrouter · 35 tok/s · 0% spreadGranite 4.0 Micro · openrouter · 25 tok/s · 0% spreadGranite 4.1 8B · openrouter · 58 tok/s · 0% spreadLing-2.6-1T · openrouter · 34 tok/s · 0% spreadRing-2.6-1T · openrouter · 26 tok/s · 0% spreadKAT-Coder-Air V2.5 · openrouter · 26 tok/s · 0% spreadKAT-Coder-Pro V2 · openrouter · 31 tok/s · 7% spreadKAT-Coder-Pro V2.5 · openrouter · 13 tok/s · 0% spreadLlama 3.1 70B Instruct · openrouter · 38 tok/s · 5% spreadLongCat 2.0 · openrouter · 2 tok/s · 0% spreadLlama 3.2 1B Instruct · openrouter · 53 tok/s · 0% spreadLlama 3.2 3B Instruct · openrouter · 58 tok/s · 44% spreadLlama 4 Maverick · openrouter · 29 tok/s · 155% spreadSeed 1.6 · openrouter · 2 tok/s · 0% spreadMiniMax-01 · openrouter · 26 tok/s · 0% spreadMiniMax M1 · openrouter · 11 tok/s · 17% spreadMiniMax M2 · openrouter · 8 tok/s · 7% spreadMiniMax M2-her · openrouter · 38 tok/s · 0% spreadMiniMax M2.1 · openrouter · 9 tok/s · 80% spreadMiniMax M2.5 · openrouter · 8 tok/s · 341% spreadGemini 2.5 Pro · openrouter · 2 tok/s · 11% spreadGemini 2.5 Pro Preview 06-05 · openrouter · 2 tok/s · 24% spreadCodestral 2508 · openrouter · 61 tok/s · 0% spreadMinistral 3 14B 2512 · openrouter · 57 tok/s · 0% spreadMinistral 3 8B 2512 · openrouter · 37 tok/s · 0% spreadMinistral 3 3B 2512 · openrouter · 64 tok/s · 0% spreadMistral Large · openrouter · 35 tok/s · 0% spreadMistral Large 2407 · openrouter · 29 tok/s · 0% spreadMistral Large 3 2512 · openrouter · 21 tok/s · 0% spreadMistral Medium 3 · openrouter · 28 tok/s · 0% spreadMistral Medium 3.5 · openrouter · 35 tok/s · 0% spreadMistral Medium 3.1 · openrouter · 36 tok/s · 0% spreadMistral Small 4 · openrouter · 49 tok/s · 3% spreadSaba · openrouter · 39 tok/s · 0% spreadMistral Small 3.1 24B · openrouter · 22 tok/s · 0% spreadMixtral 8x22B Instruct · openrouter · 43 tok/s · 0% spreadMistral Small 3.2 24B · openrouter · 31 tok/s · 120% spreadVoxtral Small 24B 2507 · openrouter · 58 tok/s · 0% spreadKimi K2 0711 · openrouter · 23 tok/s · 0% spreadKimi K2.6 · openrouter · 4 tok/s · 155% spreadMistral Nemo · openrouter · 36 tok/s · 71% spreadMorph V3 Fast · openrouter · 23 tok/s · 0% spreadMorph V3 Large · openrouter · 20 tok/s · 0% spreadNex-N2-Mini · openrouter · 21 tok/s · 0% spreadNex-N2-Pro · openrouter · 16 tok/s · 3% spreadHermes 4 405B · openrouter · 28 tok/s · 0% spreadHermes 4 70B · openrouter · 55 tok/s · 0% spreadNemotron 3 Nano 30B A3B · openrouter · 62 tok/s · 59% spreadNemotron 3 Super · openrouter · 13 tok/s · 172% spreadNemotron 3.5 Lightning · openrouter · 33 tok/s · 138% spreadKimi K2 0905 · openrouter · 27 tok/s · 0% spreadPerceptron Mk1 · openrouter · 25 tok/s · 0% spreadSonar · openrouter · 28 tok/s · 0% spreadSonar Pro Search · openrouter · 38 tok/s · 0% spreadSonar Pro · openrouter · 27 tok/s · 0% spreadLaguna XS 2.1 · openrouter · 18 tok/s · 0% spreadSonar Reasoning Pro · openrouter · 7 tok/s · 0% spreadLaguna S 2.1 · openrouter · 25 tok/s · 166% spreadQwen-Plus · openrouter · 34 tok/s · 0% spreadQwen2.5 Coder 32B Instruct · openrouter · 26 tok/s · 0% spreadQwen Plus 0728 · openrouter · 35 tok/s · 0% spreadQwen2.5 VL 72B Instruct · openrouter · 36 tok/s · 22% spreadQwen3 14B · openrouter · 9 tok/s · 11% spreadQwen3 235B A22B · openrouter · 5 tok/s · 0% spreadQwen3 235B A22B Instruct 2507 · openrouter · 26 tok/s · 150% spreadQwen3 30B A3B · openrouter · 18 tok/s · 26% spreadQwen3 30B A3B Instruct 2507 · openrouter · 42 tok/s · 73% spreadQwen3 30B A3B Thinking 2507 · openrouter · 13 tok/s · 0% spreadQwen3 8B · openrouter · 10 tok/s · 0% spreadQwen3 Coder 30B A3B Instruct · openrouter · 45 tok/s · 105% spreadQwen3 Coder Next · openrouter · 40 tok/s · 56% spreadQwen3 Coder Flash · openrouter · 33 tok/s · 0% spreadQwen3 Coder Plus · openrouter · 21 tok/s · 0% spreadQwen3 Max Thinking · openrouter · 24 tok/s · 0% spreadQwen3 Next 80B A3B Instruct · openrouter · 37 tok/s · 73% spreadQwen3 Max · openrouter · 19 tok/s · 0% spreadQwen3 Next 80B A3B Thinking · openrouter · 8 tok/s · 13% spreadQwen3 VL 235B A22B Instruct · openrouter · 21 tok/s · 157% spreadQwen3 VL 235B A22B Thinking · openrouter · 5 tok/s · 30% spreadQwen3 VL 30B A3B Instruct · openrouter · 32 tok/s · 81% spreadQwen3 VL 30B A3B Thinking · openrouter · 9 tok/s · 35% spreadQwen3 VL 8B Instruct · openrouter · 46 tok/s · 42% spreadQwen3 VL 32B Instruct · openrouter · 38 tok/s · 0% spreadQwen3 VL 8B Thinking · openrouter · 15 tok/s · 0% spreadQwen3.5 397B A17B · openrouter · 4 tok/s · 276% spreadQwen3.5-Flash · openrouter · 44 tok/s · 0% spreadQwen3.5 Plus 2026-02-15 · openrouter · 4 tok/s · 0% spreadQwen3.5 Plus 2026-04-20 · openrouter · 2 tok/s · 0% spreadQwen3.6 35B A3B · openrouter · 6 tok/s · 160% spreadQwen3.6 Flash · openrouter · 5 tok/s · 0% spreadQwen3.6 Max Preview · openrouter · 1 tok/s · 0% spreadQwen3.6 Plus · openrouter · 3 tok/s · 0% spreadQwen3.7 Flash · openrouter · 5 tok/s · 0% spreadQwen3.7 Plus · openrouter · 2 tok/s · 0% spreadQwen3.8 Max · openrouter · 11 tok/s · 0% spreadQwen3.8 27B · openrouter · 5 tok/s · 141% spreadReka Edge · openrouter · 33 tok/s · 0% spreadRelace Search · openrouter · 54 tok/s · 0% spreadHunyuan A13B Instruct · openrouter · 38 tok/s · 0% spreadLlama 3.3 Euryale 70B · openrouter · 20 tok/s · 0% spreadStep 3.5 Flash · openrouter · 11 tok/s · 0% spreadCydonia 24B V4.1 · openrouter · 44 tok/s · 0% spreadRocinante 12B · openrouter · 40 tok/s · 0% spreadSkyfall 36B V2 · openrouter · 47 tok/s · 0% spreadUnslopNemo 12B · openrouter · 50 tok/s · 17% spreadReMM SLERP 13B · openrouter · 32 tok/s · 79% spreadSolar Pro 3 · openrouter · 40 tok/s · 0% spreadSolar Pro 4 · openrouter · 9 tok/s · 0% spreadGrok 4.20 · openrouter · 40 tok/s · 13% spreadGrok 4.3 · openrouter · 12 tok/s · 26% spreadGrok 4.5 · openrouter · 6 tok/s · 74% spreadGrok 4.6 · openrouter · 3 tok/s · 75% spreadGrok Build 0.1 · openrouter · 4 tok/s · 39% spreadGLM 4.5 · openrouter · 2 tok/s · 0% spreadGLM 4.5 Air · openrouter · 10 tok/s · 46% spreadGLM 4.5V · openrouter · 4 tok/s · 37% spreadGLM 5 · openrouter · 3 tok/s · 118% spreadGLM 4.7 Flash · openrouter · 3 tok/s · 50% spreadGLM 5 Turbo · openrouter · 14 tok/s · 0% spreadGLM 5.1 · openrouter · 6 tok/s · 342% spreadGLM 5V Turbo · openrouter · 2 tok/s · 0% spreadGrok 4.20 Multi-Agent · openrouter · 4 tok/s · 42% spreadLing-2.6-flash · openrouter · 42 tok/s · 0% spreadKimi K2 0905 · openrouter · 23 tok/s · 0% spreadWizardLM-2 8x22B · openrouter · 10 tok/s · 0% spreadDeepSeek V4 Pro 0813 · openrouter · 3 tok/s · 65% spreadDeepSeek V4 Pro 0813 · openrouter · 3 tok/s · 0% spread
mean tok/s →↑ spread %

Full results

legacy · not comparable802 of 802 models
State
min·mean·max
Trend

Throughput over time · shared scale

legacy · not comparable

Method. A cron job calls each model's live API endpoint on a schedule and records what came back. Mean, min and max are over completed samples in the selected window, and n is how many there were. A missing value means the endpoint returned an error or the model was not yet in the catalogue.

Spread is (max − min) ÷ mean, so it measures run-to-run variation rather than absolute speed. TTFT is seconds to the first visible token; runs that emit only reasoning tokens are left out of that average. Mean counts visible output tokens where a provider reports them and falls back to generated throughput where it does not, which is why Gen is higher for models that think before answering.