4 · MODÈLES
DeepSeek : le moteur d'inférence DeepInfer passe en open source
Mercredi 21 octobre 2026 · 4 sources · 13 min de lecture
2
familles de puces : Nvidia SM100, Huawei Ascend
3
composants non inclus dans la publication
1 M
tokens de contexte du modèle V4.1-Flash
CE QUI S'EST PASSÉ
Le 20 octobre, DeepSeek a publié sur GitHub, sous licence Apache 2.0, DeepInfer, un moteur d'inférence que son fichier de présentation dit utilisé pour ses services à grande échelle. Il ne prend en charge que le modèle DeepSeek-V4.1-Flash, et fonctionne sur les cartes Nvidia SM100 et les puces Huawei Ascend 950. Il offre notamment plusieurs modes de calcul en parallèle, un décodage spéculatif (qui devine plusieurs mots à l'avance puis les vérifie) et des sorties structurées. Trois éléments nécessaires à un service complet manquent : un système de cache de mémoire (KV cache), la séparation des phases de lecture de la demande et de génération, et la répartition de charge entre répliques. Le projet est construit en grande partie sur vLLM, un moteur d'inférence libre. Les poids du modèle sont sous licence MIT, avec un contexte allant jusqu'à un million de tokens, selon sa fiche Hugging Face. Les courbes de performance sont fournies par DeepSeek ; aucune évaluation indépendante n'est citée.
Que change la publication d'un moteur d'inférence ?
Un modèle est un fichier de nombres appris à l'entraînement ; le moteur d'inférence est le logiciel qui le fait tourner et répondre aux demandes, vite et à moindre coût. Publier les poids permet de faire tourner un modèle ; publier le moteur permet de voir et de reprendre les optimisations qui rendent son exploitation efficace. Ici le dépôt est incomplet : DeepSeek précise lui-même ce qui n'est pas inclus. Ce qui est établi : le contenu du dépôt, consultable par tous. Ce qui relève de l'annonce : les performances, mesurées par DeepSeek sur ses propres cartes ; aucune mesure sur les puces Huawei n'est publiée, selon DEV Community.
LES POINTS DE VUE
CE QUE ÇA CHANGE
Pour un utilisateur, rien ne change : DeepInfer s'adresse aux équipes techniques. Pour une entreprise qui héberge elle-même des modèles, une version libre du moteur de DeepSeek est disponible, avec les limites listées plus haut et sans mesure indépendante.
ET APRÈS ?
- 1
DeepSeek ne donne pas de calendrier pour les éléments manquants dans les sources consultées
