De nombreux candidats à trois profils : Qwen3.8-27B avec MTP et DFlash2

De nombreux candidats à trois profils : Qwen3.8-27B avec MTP et DFlash2

31 août 2026local LLMQwenllama.cppbenchmarkAI agents

Le décodeur le plus rapide n'est pas automatiquement devenu le meilleur profil quotidien. Sur la même machine, avec la même famille cible Qwen3.8-27B et la même quantification, les configurations MTP et DFlash2 ont été éliminées en plusieurs étapes : sélection large, historique identique, migration vers le runtime officiel, 40 démarrages isolés, entrée image, puis revue read-only d'un dépôt de production.

Le parcours des premiers candidats jusqu'aux trois profils quotidiens

Système et base modèle

ComposantConfiguration
OSWindows 11 Pro, build 26200
CPUAMD Ryzen 9 7950X, 16 cœurs / 32 threads
GPUNVIDIA RTX 4090, 24 564 MiB de VRAM déclarée
Mémoire128 Go DDR5, quatre modules, 3 600 MT/s
Modèle cibleQwen3.8-27B, UD-Q4_K_XL GGUF
Cache KVQ8 clé / Q8 valeur
Runtimellama.cpp officiel b10658, commit b10f9ca58

L'effort de raisonnement n'était pas une variable contrôlée. Il n'a pas été balayé ni isolé ; aucune différence n'est donc expliquée par ce réglage.

Du faux gagnant au runtime officiel

Le premier écran comprenait P0, M3, M3K, D5 et D5K. M3K et D5K ont avancé ; KN n'a pas franchi le seuil de +3 %, et K1/K2 ont régressé. Un premier résultat donnait D5K 12,4 % devant M3K, mais l'audit a révélé des historiques différents. Avec un historique identique, M3K a terminé en 53,614 s, D5K en 119,756 s.

DFlash2 a ensuite été migré vers llama.cpp b10658. N=7 est passé de 114,02 à 118,12 tok/s effectifs sur le pont chaud à neuf tours. N=6 s'est effondré à grand contexte et a été éliminé. Le chemin image DFlash2 n'a pas produit de contenu utilisable ; DFlash2 est donc resté text-only.

Migration DFlash2 vers le runtime officiel

Deux charges, deux gagnants

Sur le prompt rempli de 56 093 tokens, D7K décodait à 124,13 tok/s, mais M3K terminait la requête entière plus tôt. L'évaluation du prompt dominait cette charge.

Temps total du prompt 56K

Sur l'historique agent à neuf tours, D7K-90K a gagné avec 44,064 s.

Historique agent à neuf tours

Les 40 démarrages isolés se sont tous terminés naturellement, sans OOM, réponse vide, troncature ou échec de requête. Tous les profils ont réussi la récupération near-cap et cinq tests de code fonctionnel.

ProfilContexteMur 56KMur neuf toursVRAM libre min.
M3K-128K131 07234,659 s52,576 s345 MiB
M3K-120K122 88034,479 s52,471 s699 MiB
D5K-100K102 40036,445 s47,255 s423 MiB
D7K-90K90 00036,714 s44,064 s582 MiB
VRAM libre minimale

Les trois profils retenus

  • Qwen3.8-27B-120K-Q8-M3K-Text : profil local par défaut à grand contexte.
  • Qwen3.8-27B-90K-Q8-D7K-Official-TextOnly : spécialiste texte soutenu.
  • Qwen3.8-27B-90K-Q8-M3K-VisionVRAM : profil texte + image vérifié.

Le profil vision a réussi trois exécutions image indépendantes et un smoke test routé. Sa moyenne était de 2,034 s, avec 858 ms de TTFT et 924 MiB de VRAM libre minimale.

Revue réelle du dépôt

Les deux coordinateurs Qwen ont utilisé des assistants Luna ; le run direct gpt-5.6-luna n'en a utilisé aucun. Il s'agit donc d'un comparatif de workflow, pas d'un pur comparatif de modèles.

RunTemps actif LLM+outilDecode TPS localTTFT moyenCacheCompaction
Qwen D7K-90K13:51,70562,6832,902 s88,64 %1
Qwen M3K-120K13:36,61662,3252,098 s94,01 %0
gpt-5.6-luna directnon exposénon exposénon exposé93,125 %non enregistré
Résultat des assistants Luna

M3K-120K a terminé ses quatre assistants. D7K n'en a terminé que deux ; quatre ont atteint la limite d'usage et Qwen a dû reprendre leur travail. Luna direct a pris 44:33,227 de temps mural et a fourni la meilleure priorisation des chemins critiques. Ses 35,174 tokens de sortie par seconde murale ne sont pas un decode TPS comparable.

Le workflow recommandé est M3K-120K avec assistants Luna pour la couverture large, Luna direct pour l'arbitrage critique, D7K-90K pour le texte local soutenu, et M3K-90K pour l'image.

Limites et sources

Les résultats dépendent du système, du build, de la quantification, des contextes et des charges testées. Les comptes de findings n'établissent pas seuls leur exactitude. Le raisonnement n'était pas une variable contrôlée.

D'autres articles

← Tous les articlesLab →