Base de données GPU pour l’IA et l’inférence locale

La base de données GPU IA de D-Central est une référence gratuite et citable regroupant 30 fiches de GPU et d’accélérateurs — les chiffres qui comptent réellement pour exécuter un grand modèle de langage en local : VRAM en GB, bande passante mémoire, TFLOPS FP16, TOPS INT8, TDP et un palier d’inférence en langage clair. Les données proviennent directement des pages produit et fiches techniques officielles de NVIDIA, AMD, Apple et Intel, recoupées avec la TechPowerUp GPU Database. Publiée sous licence CC BY 4.0 ; vérifiez à la source avant toute décision d’achat.

À retenir pour l’IA locale : Pour la génération de tokens d’un LLM en flux unique, la bande passante mémoire est le goulot d’étranglement dominant — et non les TFLOPS de calcul. Une carte offrant plus de GB/s générera des tokens plus rapidement même si sa valeur FP16 paraît plus faible. La quantité de VRAM détermine quels modèles tiennent sans délestage vers le CPU. Les TFLOPS FP16/INT8 comptent surtout pour l’inférence par lots et la vitesse de traitement des invites.

Spécifications des GPU et accélérateurs

ⓘ = valeur estimée (non confirmée directement à partir de la page de spécifications officielle). ‡ = réserve Apple Silicon applicable (mémoire unifiée / Neural Engine / TDP non publié par puce). Consultez les notes par ligne et la page Méthodologie. Pour un accès lisible par machine, utilisez l’API REST.

Foire aux questions

Quel GPU est le meilleur pour exécuter des LLM locaux à la maison ?

Pour la plupart des utilisateurs à domicile, la NVIDIA GeForce RTX 4090 (24 GB, 1 008 GB/s) est le meilleur choix en carte unique — elle dispose de la VRAM pour exécuter des modèles 34B en FP16 et de la bande passante pour générer des tokens rapidement. Si le budget est la contrainte, la RTX 3090 offre presque autant de VRAM et de bande passante à un prix d’occasion bien inférieur. Apple Silicon (le M4 Max avec 128 GB de mémoire unifiée) est la seule plateforme capable d’exécuter des modèles 70B en pleine précision FP16 sans un GPU dédié coûtant plus cher qu’une voiture.

Pourquoi la bande passante mémoire compte-t-elle plus que les TFLOPS de calcul pour l’IA locale ?

L’inférence LLM moderne en mode flux unique est limitée par la bande passante mémoire, et non par la puissance de calcul. Le GPU doit transférer l’intégralité des poids du modèle depuis la VRAM pour chaque token généré. Une carte offrant plus de GB/s générera des tokens plus rapidement même si sa valeur FP16 paraît plus faible. Les TFLOPS de calcul comptent davantage pour le traitement des invites à long contexte (préremplissage) et l’inférence par lots, où l’intensité arithmétique augmente.

Puis-je utiliser un GPU AMD pour l’IA locale ?

Oui. Les GPU AMD RDNA 3 fonctionnent avec ROCm sous Linux pour des cadriciels comme PyTorch et llama.cpp (dorsale ROCm/HIP). Sous Windows, les dorsales Vulkan et DirectML sont accessibles via llama.cpp et Ollama. La RX 7900 XTX (24 GB) et la RX 7900 XT (20 GB) rivalisent avec les options NVIDIA en débit d’inférence, avec les mêmes performances matricielles FP16/INT8 de l’AI Accelerator. L’outillage ROCm s’améliore, mais n’est pas encore aussi fluide que le CUDA de NVIDIA.

Qu’en est-il des GPU Intel Arc ?

Les GPU Intel Arc (A770 16 GB, B580 12 GB) constituent une option économique viable, en particulier l’A770 16 GB. Ils utilisent les moteurs matriciels XMX d’Intel pour l’accélération FP16/INT8 et sont pris en charge via IPEX-LLM, OpenVINO et la dorsale SYCL de llama.cpp. CUDA n’est pas disponible. La maturité de l’écosystème est inférieure à celle de NVIDIA ou d’AMD ROCm.

Que signifie « TOPS INT8 » et pourquoi cette valeur manque-t-elle pour de nombreuses cartes ?

Les TOPS INT8 (téra-opérations par seconde en précision entière 8 bits) mesurent la vitesse à laquelle un GPU peut exécuter l’inférence d’un modèle quantifié. NVIDIA ne publie pas les TOPS INT8 pour les cartes grand public GeForce (ils n’apparaissent que sur les fiches techniques pro/centre de données). Lorsqu’ils sont affichés pour des cartes NVIDIA grand public, la valeur est estimée. AMD publie bel et bien les TOPS INT8 de l’AI Accelerator sur ses pages produit pour RDNA 3 — notamment, RDNA 3 offre le même débit pour les opérations matricielles FP16 et INT8.

Qu’est-ce que la mémoire unifiée (Apple) et comment se compare-t-elle à la VRAM d’un GPU ?

Apple Silicon utilise une architecture de mémoire unifiée où le même bloc de mémoire physique est partagé entre le CPU, le GPU et le Neural Engine, sans surcharge de transfert sur le bus. La colonne « VRAM GB » pour les entrées Apple de ce tableau reflète la configuration de mémoire unifiée maximale, et non un bloc de VRAM dédié. Autrement dit, un M4 Max doté de 128 GB peut consacrer la totalité des 128 GB aux poids du modèle au besoin — ce qu’aucun GPU discret grand public n’offre. En contrepartie, la bande passante mémoire (546 GB/s pour le M4 Max contre 1 008 GB/s pour la RTX 4090) est plus faible, de sorte que la génération de tokens sur un même modèle est un peu plus lente par watt.

Quel est le plus petit GPU capable d’exécuter un modèle 13B ?

Un modèle de 13B paramètres en FP16 requiert environ 26 GB de VRAM (13B × 2 octets). En quantification Q4 (~0.5 octet/paramètre), le 13B tient dans environ 7 GB. Ainsi : une carte de 8 GB de VRAM (RTX 4060, RX 7600) peut exécuter un modèle 13B en quantification Q4, mais pas en FP16. Une carte de 16 GB (RTX 4080, RX 7900 XTX) gère le 13B en FP16 sans difficulté. Une carte de 24 GB gère le 13B en FP16 avec de la marge.

À quelle fréquence ce jeu de données est-il mis à jour ?

Le jeu de données a été vérifié pour la dernière fois en juin 2026 par rapport aux pages de spécifications officielles des fabricants. Les spécifications d’un GPU sont stables une fois la carte lancée, mais de nouveaux modèles sortent régulièrement. Nous visons à ajouter de nouvelles entrées et à corriger tout écart dès qu’il est repéré. Consultez last_verified dans le CSV/JSON et vérifiez les spécifications clés à la source du fabricant avant tout achat.