Base de données des modèles LLM locaux

Un LLM à poids ouverts (grand modèle de langage) est un modèle d’IA dont les poids entraînés (les paramètres numériques qui encodent ses connaissances) sont publiés et téléchargeables publiquement. Contrairement aux modèles fermés comme GPT-4 ou Claude — accessibles uniquement au moyen d’API détenues par leurs développeurs — les modèles à poids ouverts peuvent s’exécuter sur votre propre matériel sans aucun appel d’API, abonnement ou transmission de données vers un serveur tiers. « À poids ouverts » se distingue d’« à code source ouvert » : les poids sont libres de téléchargement, mais le code d’entraînement et les données d’entraînement peuvent être publiés ou non. OLMo 2 (Allen AI) est actuellement la famille la plus complètement ouverte, publiant les poids, les données d’entraînement, le code d’entraînement et les points de contrôle intermédiaires sous licence Apache 2.0.

Le CLOUD (Clarifying Lawful Overseas Use of Data) Act américain de 2018 permet aux autorités américaines de contraindre les entreprises technologiques dont le siège social est aux États-Unis à remettre des données stockées sur des serveurs n’importe où dans le monde, y compris au Canada. Lorsque des organisations canadiennes utilisent des API d’IA hébergées par des entreprises américaines (OpenAI, Anthropic, Google, Microsoft Azure), leurs requêtes et les réponses générées peuvent être assujetties à cette obligation. Exécuter un modèle à poids ouverts sur votre propre matériel sous contrôle canadien signifie qu’aucune entreprise américaine n’a la garde de vos données, ce qui élimine cette exposition. Cela est particulièrement pertinent pour les cabinets d’avocats, les organisations de santé, les institutions financières et les organismes gouvernementaux qui traitent des renseignements sensibles. Remarque : ceci est fourni à titre informatif et ne constitue pas un avis juridique — consultez un avocat spécialisé en protection de la vie privée pour votre contexte réglementaire précis.

La quantification réduit la précision (largeur en bits) utilisée pour stocker chaque paramètre du modèle, en échangeant une faible perte de qualité contre des besoins en mémoire nettement réduits. Le FP16 (virgule flottante 16 bits) est en pleine précision — le plus exact, mais il exige le plus de VRAM (environ 2 GB par milliard de paramètres). Le Q8 (quantification entière 8 bits) réduit de moitié la mémoire, à environ 1 GB par milliard de paramètres, avec une perte de qualité minime. Le Q4_K_M (quantification 4 bits avec traitement en précision mixte) la réduit encore de moitié, à environ 0.5–0.6 GB par milliard de paramètres, avec une réduction de qualité faible mais mesurable sur les tâches exigeantes. Pour la plupart des tâches de conversation, de rédaction et de programmation, le Q4_K_M est en pratique indiscernable du FP16. Ollama applique le Q4_K_M par défaut lorsque vous exécutez ollama pull <model> sans étiquette de quantification.

Ollama est un outil à code source ouvert (licence MIT) qui rend l’exécution de LLM à poids ouverts sur macOS, Linux et Windows aussi simple qu’une seule commande. Il gère le téléchargement des modèles, le choix de la quantification, le déchargement GPU/CPU et expose une API REST locale compatible avec le format de l’API OpenAI. Pour exécuter un modèle : installez Ollama à partir d’ollama.com, puis exécutez ollama run llama3.1:8b (par exemple) dans un terminal. La colonne Étiquette Ollama de ce jeu de données vous donne la chaîne exacte à transmettre à ollama pull ou ollama run. Ollama n’est pas la seule façon d’exécuter ces modèles — llama.cpp, LM Studio, vLLM et text-generation-webui sont des solutions de rechange populaires.

La réponse dépend de votre matériel et de votre cas d’usage. Pour un GPU de 6–8 GB : Phi-3.5 mini 3.8B (2.2 GB Q4, MIT, contexte 128K) ou Mistral Nemo 12B (7.1 GB Q4, Apache 2.0, contexte 128K) sont d’excellents points de départ. Pour un GPU de 24 GB : Qwen2.5 32B ou Qwen3 30B-A3B (MoE, vitesse d’inférence d’un modèle 3B). Pour un modèle de classe 70B sur plusieurs GPU ou une carte de 48 GB : Llama 3.3 70B ou DeepSeek-R1-Distill-Llama-70B pour les tâches à forte charge de raisonnement. Pour une liberté de licence commerciale maximale : les modèles Apache 2.0 (Qwen3, Gemma 4, OLMo 2, les modèles de Mistral AI) comportent le moins de restrictions. Pour une configuration entièrement auto-hébergée de minage de Bitcoin / souveraineté de l’IA, la Consultation en souveraineté de l’IA de D-Central peut vous aider à concevoir la bonne pile.

Un modèle à mélange d’experts (MoE) partitionne ses paramètres en « experts » — des sous-réseaux spécialisés pour différentes entrées. Pour chaque jeton, un routeur ne sélectionne qu’un petit sous-ensemble d’experts à activer (p. ex. 2 sur 8). Cela signifie que le modèle peut avoir bien plus de paramètres au total qu’un modèle dense standard tout en utilisant autant de calcul par jeton qu’un modèle plus petit. Le hic : tous les poids des experts doivent être chargés simultanément dans la VRAM, même si la plupart sont inactifs à un moment donné. Ainsi, Mixtral 8x7B (46.7B de paramètres au total, 12.9B actifs) infère à la vitesse d’un modèle 13B, mais nécessite ~26 GB de VRAM en Q4. De même, Qwen3 30B-A3B nécessite ~19 GB de VRAM, mais infère aussi vite qu’un modèle 3B. Les modèles MoE sont excellents pour les déploiements sensibles à la latence où vous disposez de suffisamment de VRAM.

Non — Command R (35B) et Command R+ (104B) de Cohere sont publiés sous CC-BY-NC-4.0, qui interdit l’usage commercial sans licence distincte de Cohere. Les deux sont marqués d’un ✗ dans la colonne « Commercial » de ce jeu de données. Si vous avez besoin d’un modèle sous licence commerciale dans la gamme 35B+, envisagez Qwen2.5 32B (Apache 2.0), Qwen3 32B (Apache 2.0) ou Llama 3.1 70B (Llama Community License, usage commercial permis). Lisez toujours le texte complet de la licence avant tout déploiement en production. Ce jeu de données est informatif et ne constitue pas un avis juridique.

Le jeu de données est constitué et vérifié manuellement par rapport aux fiches de modèles de Hugging Face et à la bibliothèque Ollama. La version actuelle couvre les modèles à jour en juin 2026. Le domaine des LLM à poids ouverts évolue rapidement — de nouvelles familles de modèles, des versions mises à jour et des changements de licence apparaissent fréquemment. Nous mettons à jour cette base de données lors de sorties majeures. L’API REST à /wp-json/dc/v1/local-llm-models reflète toujours la version actuelle. Si vous repérez une erreur ou une omission, le jeu de données est disponible sous CC BY 4.0 — citez D-Central et proposez des corrections. Dernière vérification : juin 2026.