Votre code est-il limité par le processeur ou par la mémoire ? Le modèle roofline répond avec deux nombres : la performance crête et la bande passante mémoire. Le calculateur du modèle roofline donne la performance atteignable d’un noyau à partir de son intensité arithmétique, dit s’il est limité par le calcul ou par la mémoire et estime le temps d’exécution.
Comment se fait le calcul
- Saisissez la performance de calcul crête (GFLOPS) et la bande passante mémoire (Go/s) du processeur ou du GPU. Elles figurent dans la fiche technique ou dans un benchmark.
- Saisissez l’intensité arithmétique de votre noyau : le nombre d’opérations à virgule flottante par octet déplacé depuis ou vers la mémoire principale.
- Le calculateur applique le modèle du toit (roofline) : performance = min(crête, bande passante × intensité).
- Le résultat est la performance atteignable, le point de crête (crête / bande passante), la part de la crête et le temps d’exécution pour le travail saisi.
Exemple
Un GPU a une crête de 3500 GFLOPS et une bande passante de 700 Go/s, donc son point de crête est de 5 FLOP/octet. Un noyau d’intensité 8 atteint min(3500, 700 × 8) = 3500 GFLOPS, soit 100 % de la crête. Il est limité par le calcul : 1750 GFLOP de travail prennent 500 ms, et plus de bande passante n’y changerait rien.
Pourquoi c’est utile
Le calculateur aide les programmeurs, les étudiants et les ingénieurs du calcul haute performance et de l’apprentissage automatique à décider où optimiser, à comparer des machines avec le même code et à comprendre pourquoi un processeur plus rapide n’accélère pas un programme limité par la mémoire.
À savoir
Le roofline simple a un toit mémoire et un toit de calcul. Les vraies machines ont plusieurs toits (caches, unités vectorielles, différentes précisions), et les vrais noyaux sont limités par la latence, par le mélange d’instructions ou par la communication. Les valeurs crête des fiches techniques sont rarement atteintes, et une bande passante mesurée (par exemple avec le benchmark STREAM) est plus fiable. Le résultat est une borne haute de la performance.
Outils liés
Le calculateur de puissance dynamique d’un processeur estime la puissance consommée, celui de VRAM pour un LLM dimensionne la mémoire d’un modèle, celui de la loi d’Amdahl traite l’accélération du code parallèle, et celui de temps d’image par FPS convertit les images par seconde en durées.