Aller au contenu
Omnikalc

Calculateur du modèle roofline : performance atteignable selon les FLOPS crête, la bande passante et l’intensité arithmétique

Saisissez la performance crête, la bande passante mémoire et l’intensité arithmétique d’un noyau pour voir s’il est limité par le calcul ou par la mémoire, et obtenir la performance atteignable et le temps d’exécution.

Mis à jour le
Vos paramètres
GFLOPS

Valeur hors limites

Go/s

Valeur hors limites

Valeur hors limites

GFLOP

Valeur hors limites

Résultats

Performance atteignable

3 500,0 GFLOPS

Point de crête de la machine
5,00 FLOP/o
Part de la crête atteinte
100,0 %
Limité par le calcul : plus de bande passante n’aiderait pas
Temps d’exécution du noyau
500,0 ms

Votre code est-il limité par le processeur ou par la mémoire ? Le modèle roofline répond avec deux nombres : la performance crête et la bande passante mémoire. Le calculateur du modèle roofline donne la performance atteignable d’un noyau à partir de son intensité arithmétique, dit s’il est limité par le calcul ou par la mémoire et estime le temps d’exécution.

Comment se fait le calcul

  • Saisissez la performance de calcul crête (GFLOPS) et la bande passante mémoire (Go/s) du processeur ou du GPU. Elles figurent dans la fiche technique ou dans un benchmark.
  • Saisissez l’intensité arithmétique de votre noyau : le nombre d’opérations à virgule flottante par octet déplacé depuis ou vers la mémoire principale.
  • Le calculateur applique le modèle du toit (roofline) : performance = min(crête, bande passante × intensité).
  • Le résultat est la performance atteignable, le point de crête (crête / bande passante), la part de la crête et le temps d’exécution pour le travail saisi.

Exemple

Un GPU a une crête de 3500 GFLOPS et une bande passante de 700 Go/s, donc son point de crête est de 5 FLOP/octet. Un noyau d’intensité 8 atteint min(3500, 700 × 8) = 3500 GFLOPS, soit 100 % de la crête. Il est limité par le calcul : 1750 GFLOP de travail prennent 500 ms, et plus de bande passante n’y changerait rien.

Pourquoi c’est utile

Le calculateur aide les programmeurs, les étudiants et les ingénieurs du calcul haute performance et de l’apprentissage automatique à décider où optimiser, à comparer des machines avec le même code et à comprendre pourquoi un processeur plus rapide n’accélère pas un programme limité par la mémoire.

À savoir

Le roofline simple a un toit mémoire et un toit de calcul. Les vraies machines ont plusieurs toits (caches, unités vectorielles, différentes précisions), et les vrais noyaux sont limités par la latence, par le mélange d’instructions ou par la communication. Les valeurs crête des fiches techniques sont rarement atteintes, et une bande passante mesurée (par exemple avec le benchmark STREAM) est plus fiable. Le résultat est une borne haute de la performance.

Outils liés

Le calculateur de puissance dynamique d’un processeur estime la puissance consommée, celui de VRAM pour un LLM dimensionne la mémoire d’un modèle, celui de la loi d’Amdahl traite l’accélération du code parallèle, et celui de temps d’image par FPS convertit les images par seconde en durées.

Questions fréquentes

Qu’est-ce que le modèle roofline ?

Introduit par Williams, Waterman et Patterson en 2009, le modèle roofline trace la performance d’un noyau en fonction de son intensité arithmétique. Le toit a deux parties : une droite inclinée aux faibles intensités, où la bande passante mémoire limite la vitesse (performance = bande passante × intensité), et une droite plate aux fortes intensités, où la crête du processeur la limite. Le coin entre les deux est le point de crête.

Qu’est-ce que l’intensité arithmétique ?

C’est le rapport entre les opérations à virgule flottante et les octets déplacés entre le processeur et la mémoire principale. L’addition de deux vecteurs a une intensité de 1/12 FLOP/octet en double précision et est profondément limitée par la mémoire. Une grosse multiplication de matrices a une intensité qui croît avec la taille des blocs, et peut être limitée par le calcul. Le cache et le découpage en blocs augmentent l’intensité en réutilisant les données.

Comment améliorer un noyau limité par la mémoire ?

Augmentez l’intensité arithmétique : réutilisez les données dans les caches ou les registres, fusionnez les boucles pour que les données soient lues une fois, utilisez une précision plus faible (moitié moins d’octets par nombre) et compressez les données. Si l’intensité ne peut pas changer, seule une bande passante plus grande (une mémoire plus rapide, ou un autre appareil) aidera. Ne perdez pas de temps en vectorisation ou en cœurs supplémentaires pour un noyau limité par la mémoire.

Quelles sont les valeurs typiques du point de crête ?

Un serveur CPU a un point de crête proche de 5 à 15 FLOP/octet en double précision. Un GPU moderne a une crête plus haute et aussi une bande passante plus haute, avec un point de crête proche de 10 à 30 FLOP/octet, et les cœurs tensoriels en basse précision l’augmentent bien plus. De nombreux codes scientifiques ont une intensité inférieure à 1 et sont donc limités par la mémoire, alors que l’algèbre linéaire dense et les couches de réseaux de neurones sont souvent limitées par le calcul.

Ce calculateur vous a-t-il été utile ?

Merci pour votre avis !

Résultats indicatifs fournis à titre d'information. Ils ne remplacent pas l'avis d'un professionnel.