Soixante gigaoctets de RAM suffisent pour charger DeepSeek V4 Flash sur un PC Windows, à une condition : accepter la quantification la plus brutale. Les builds communautaires en 1 bit pèsent entre 57 et 62 Go selon les dépôts, 61,5 Go pour l’un, environ 57 GiB pour l’autre. Le chiffre du titre est donc exact, mais il décrit un fichier.
Il ne dit rien de la machine nécessaire pour le faire tourner.
Unsloth recommande son build 3 bits de 103 Go, et conseille d’avoir au moins 110 Go de RAM, car la taille du fichier n’inclut ni le cache KV ni l’allocation du contexte. Les quantifications 1 bit restent des démonstrations de faisabilité : le dépôt à 61,5 Go se présente comme adapté à des usages de recherche et de développement. Avec 64 Go de RAM seuls, la marge est nulle dès que Windows et le contexte réclament leur part.
- Les builds 1 bit pèsent entre 57 et 62 Go sur disque.
- Unsloth recommande au moins 110 Go de RAM pour son build 3 bits.
- Un 2 bits tourne autour de 6 tokens par seconde sur une puce GB10.
284 milliards de paramètres, 13 milliards actifs : le piège du MoE
Sur V4 Flash, 13 milliards de paramètres s’activent par token, mais les 284 milliards de poids doivent tenir en mémoire. L’architecture Mixture-of-Experts allège le calcul, pas l’occupation de la RAM.
Le fichier officiel pèse 166,9 Go, parce que le modèle n’est pas un bloc uniforme en 4 bits. Les experts, qui représentent 96 % du modèle, sont stockés nativement en MXFP4, le reste en FP8 ou BF16. Descendre sous 4 bits revient donc à rogner des poids déjà comprimés. Les conversions en 2 bits affichent environ 78 % d’accord sur le premier token par rapport au modèle d’origine, ce qui se traduit par des réponses plus fragiles. À l’autre bout, le Q8 sans perte ne dépasse le Q4 que de 7 Go.
Le contexte d’un million de jetons, lui, gonfle encore le cache KV.
Du 60 Go au 169 Go : les paliers réels
Le 1 bit se situe vers 57-62 Go. Le 2 bits grimpe à 87 Go de fichier, avec un plancher de 92 à 102 Go de mémoire. Le 3 bits recommandé, à 103 Go, vise les machines de 128 Go.
Le Q4 natif pèse 155,1 Go, soit l’équivalent de 192 Go de RAM système. Le Q8 d’origine, à 162 Go, demande au moins 169 Go disponibles.
Reste la vitesse, et c’est là que les attentes retombent. Un 2 bits tourne autour de 6 tokens par seconde sur une puce GB10, quand un Mac Studio M3 Ultra de 192 Go atteint environ 25 tokens par seconde selon des mesures de juin. Soit entre un débit de lecture lente et celui d’un lecteur pressé. Sur un PC dont la mémoire est répartie entre RAM et GPU, mieux vaut viser la fourchette basse.
Sur Windows : RAM, VRAM et facture
Llama.cpp en version principale gère DeepSeek V4 Flash depuis juillet 2026, sans fork, et Unsloth a publié des builds calibrés le 7 juillet. Le modèle se lance aussi depuis Unsloth Desktop, ce qui évite la compilation en ligne de commande. Pour un utilisateur Windows, le chemin est enfin balisé.
Le calcul de mémoire change selon la machine, car les tableaux d’Unsloth comptent la mémoire totale, RAM plus VRAM, ou la mémoire unifiée. Une RTX 5090 ne peut pas loger le plus petit GGUF 0731, de 82,5 Go, dans ses 32 Go de VRAM, mais elle fonctionne avec les experts déportés sur 64 à 128 Go de RAM système. Une configuration de 64 Go de RAM et 32 Go de VRAM totalise 96 Go, ce qui place le 2 bits dans sa fourchette. Windows et les applications ouvertes consomment eux aussi plusieurs gigaoctets, qu’il faut retrancher du budget.
Début juillet, 128 Go de DDR5 se vendaient autour de 1 834 dollars.
Tom’s Hardware relevait alors des kits de 32 Go à environ 369 dollars au minimum. Windows 11 Édition Familiale plafonne par ailleurs à 128 Go de RAM, ce qui ferme la porte au Q4 sans passer à l’édition Pro. Et l’argument principal pour héberger soi-même reste la confidentialité des données, pas le coût, car l’API de V4 Flash est assez bon marché pour que la location de GPU gagne rarement.
Pour gagner en vitesse sans changer de matériel, Unsloth active la décodage spéculatif DSpark sur ses GGUF, avec un gain annoncé jusqu’à 2 fois sur la vitesse de décodage. Il demande en contrepartie de charger un second petit modèle, dont l’option de ligne de commande figure dans le guide d’Unsloth.
Sources : unsloth.ai | kingy.ai | medium.com
