Strix Halo est le nom de code de la série Ryzen AI Max d’AMD, la première puce pour PC dotée d’assez de mémoire unifiée pour charger des modèles qui exigeaient jusque-là une armoire de cartes graphiques. Notre machine est un Framework Desktop : 16 cœurs, une Radeon 8060S intégrée et 128 Go de LPDDR5X partagés entre le processeur et la partie graphique. C’est une configuration courante, un peu plus de 2 000 euros, et la question qu’on se pose à son sujet est toujours la même : qu’est-ce qu’elle fait tourner, et à quelle vitesse ?

Nous pouvons répondre par des mesures plutôt que par des estimations, parce que le Baromètre lui-même y a généré des milliers de textes. Le tableau donne, pour chaque fichier testé, la médiane des tokens par seconde sur les réponses valides générées sur cette machine, tokens de raisonnement compris, à côté de la taille du fichier, de la mémoire nécessaire avec un contexte de 128 000 tokens rempli, et du score d’écriture du modèle dans le classement de cette édition.

Vitesse des LLM sur Strix Halo
ModèleTok/s médianFichier (Go)+128K (Go)ParamètresScoreRéponses
Gemma 4 26B A4B Q8_0 💡 on* 🏠39,828,131,026,0 B (4,0 B actifs)50,5465
Gemma 4 E2B Q4_K_M 💡 on* 🏠39,43,45,35,1 B6,8224
Gemma 4 E4B Q8_0 💡 on* 🏠35,98,011,98,0 B15,3542
Gemma 4 E2B Q6_K 💡 on* 🏠33,23,95,85,1 B12,9216
Ling 3.0 Flash Q4_K_M 💡 high 🏠31,677,078,2124,0 B (5,1 B actifs)53,0277
Ling 3.0 Flash Q4_K_M ↯ 🏠30,577,078,2124,0 B (5,1 B actifs)17,8240
Gemma 4 E2B Q8_0 💡 on* 🏠29,25,06,95,1 B8,5224
Gemma 4 26B A4B QAT-Q4_0 💡 on* 🏠27,915,618,626,0 B (4,0 B actifs)50,1118
Qwen3.6 35B A3B Q4_K_M 💡 on* 🏠26,622,124,835,0 B (3,0 B actifs)30,6347
Nemotron 3 Nano Omni 30B A3B Q4_K_M 💡 on* 🏠25,126,127,030,0 B (3,0 B actifs)5,8960
Gemma 4 E4B Q4_K_M 💡 on* 🏠22,46,310,28,0 B5,7221
Qwen3.6 35B A3B Q8_0 💡 on* 🏠22,137,840,635,0 B (3,0 B actifs)36,9312
Nemotron 3 Nano Omni 30B A3B Q8_0 💡 on* 🏠21,235,236,130,0 B (3,0 B actifs)3,0391
Nemotron 3 Super 120B A12B Q4_K_M 💡 full 🏠21,186,187,5120,0 B (12,0 B actifs)32,0413
Gemma 4 26B A4B Q6_K 💡 on* 🏠20,223,826,826,0 B (4,0 B actifs)44,1539
Gemma 4 E4B Q6_K 💡 on* 🏠18,66,210,18,0 B10,7218
Granite 4.2 8B Q4_K_M 💡 full 🏠16,95,326,88,0 B0,936
Gemma 4 12B Q8_0 💡 on* 🏠14,612,715,312,0 B43,6124
Gemma 4 12B QAT-Q4_0 💡 on* 🏠11,07,29,812,0 B47,5752
Gemma 4 31B QAT-Q4_0 💡 on* 🏠10,017,729,631,0 B49,6548
Gemma 4 12B Q6_K 💡 on* 🏠9,09,812,412,0 B24,0216
Qwen3.8 27B Q4_K_M 💡 xhigh** 🏠8,917,726,527,0 B72,5546
Muse Glimmer 30B K-Quant 17GB 💡 high 🏠8,818,220,029,6 B71,5394
Qwen3.8 27B Q8_0 💡 xhigh** 🏠8,430,038,727,0 B69,7498
Muse Glimmer 30B K-Quant Dynamic 💡 high 🏠8,021,122,929,6 B63,5397
Granite 4.2 30B Q4_K_M 💡 full 🏠7,617,752,130,0 B3,0423
Qwen3.6 27B Q8_0 💡 on* 🏠7,528,637,327,0 B53,6190
Qwen3.8 27B Q6_K 💡 xhigh** 🏠7,023,432,127,0 B58,0504
Granite 4.2 30B Q6_K 💡 full 🏠6,624,058,430,0 B9,6397
Gemma 4 31B Q6_K 💡 on* 🏠5,826,438,431,0 B59,7527
Qwen3.6 27B Q4_K_M 💡 on* 🏠5,216,525,327,0 B45,9588
Granite 4.2 30B Q8_0 💡 full 🏠4,931,165,530,0 B7,2447
Gemma 4 31B Q8_0 💡 on* 🏠4,833,845,831,0 B42,3316

Médiane des tokens par seconde sur les réponses valides du benchmark générées sur cette machine, tokens de raisonnement compris ; fichier et mémoire comme sur la page IA locale ; score du classement principal de cette édition. Voir aussi : les mesures publiées par la communauté pour le Ryzen AI Max+ 395.

La règle : la bande passante, pas le calcul

Quand un modèle génère du texte, chaque token exige de lire une fois tous les poids actifs. Sur Strix Halo, la mémoire débite environ 256 Go par seconde : un modèle dense stocké dans 30 Go (Qwen3.8 27B en Q8_0) ne peut pas dépasser 8,5 tokens par seconde environ, et nous mesurons 8,4. Gemma 4 31B Q8_0, 33,8 Go, tombe à 4,8. Diviser le fichier par deux avec une quantification Q4 double à peu près la vitesse, au prix documenté dans notre analyse des quantifications.

Les modèles à mélange d’experts échappent à la règle : ils stockent beaucoup de paramètres mais en activent peu par token. Gemma 4 26B A4B lit 4 milliards de paramètres par token et atteint 40 tokens par seconde en Q8_0 ; Qwen3.6 35B A3B atteint 22 ; Ling 3.0 Flash, un fichier de 77 Go, produit encore 30 tokens par seconde parce que seuls 5 milliards de paramètres travaillent à la fois. Sur ce matériel, le bon compromis pour écrire est un modèle à experts en Q8, pas un modèle dense en Q4.

Ce que les 128 Go achètent vraiment

De la mémoire, pas de la vitesse. Nemotron 3 Super 120B en Q4_K_M est un fichier de 86 Go qu’aucune carte graphique grand public ne peut contenir ; ici il tourne à 21 tokens par seconde. Ling 3.0 Flash, 77 Go, se charge avec de la marge pour un long contexte. Un modèle dense de 70 milliards de paramètres en Q4 tient aussi, mais à 5 tokens par seconde environ, c’est un outil pour rédacteur patient. Les benchmarks communautaires donnent au M4 Max d’Apple environ deux fois la vitesse de Strix Halo sur ces modèles denses de 70B, pour 1 800 à 2 200 dollars de plus ; sur les modèles à experts, l’écart est bien plus faible.

Comment les chiffres ont été mesurés

Le moteur llama.cpp de LM Studio, réglages par défaut, les mêmes 240 consignes par langue que le reste du Baromètre, raisonnement activé quand le modèle le permet. La médiane porte sur des réponses complètes : elle inclut donc la phase de raisonnement et le traitement de la consigne ; une consigne courte suivie d’un long raisonnement tire le chiffre vers le bas, ce qui correspond à ce qu’un rédacteur vit réellement. Les vitesses varient avec la longueur du contexte, le backend (Vulkan ou ROCm) et les versions de pilotes : lisez-les comme un classement des modèles entre eux sur une machine, pas comme une promesse absolue. La qualité vient du classement des IA locales, qui utilise les mêmes fichiers.

Sources et lectures