Allocations and compute scheduling/fr: Difference between revisions

Il se pourrait qu’au cours d’un mois ou d’une année vous puissiez accomplir plus de travail que votre allocation ne semblerait le permettre, mais ce scénario est peu probable puisque la demande est plus élevée que la quantité de ressources dont nous disposons.

=Unités GPU de référence (UGR)=

{{Note|Cette nouvelle unité sera utilisée à partir du concours pour l'allocation de ressources de 2024.}}

Comme vous le savez peut-être, la performance des GPU a considérablement augmenté ces dernières années et devrait continuer sa progression avec la prochaine génération. Par le passé et jusqu'au concours de 2023, nous traitions tous les GPU comme étant équivalents les uns aux autres, tant au moment de l'allocation que dans le calcul du nombre de ressources consommées par le groupe. Ceci diminuait la complexité de nos outils de gestion des ressources, mais créait des problèmes d'équité, à la fois dans le processus d'attribution et lors de l'exécution des tâches. Nous ne pouvons donc plus continuer à traiter tous les types de GPU de la même manière.

Afin de résoudre le problème d'équité, nous avons créé l'<i>unité GPU de référence</i> (ou <i>UGR</i>) qui nous permet de classer les différents modèles de GPU en production sur la base de leur performance nominale. Parce qu'environ la moitié des tâches utilisent principalement des opérations à virgule flottante simple précision ([https://en.wikipedia.org/wiki/Single-precision_floating-point_format FP32]) et que les autres utilisent des opérations à virgule flottante demi-précision ([https://en.wikipedia.org/wiki/Half-precision_floating-point_format FP16]), et que la plupart des utilisateurs se soucient de la mémoire sur du GPU lui-même, nous avons établi les critères d'évaluation suivants avec leur poids correspondant :

{| class="wikitable" style="margin: auto;"

|-

| 20% * 4 = 0.8

|}

Pour plus de commodité, les pondérations sont basées sur des pourcentages augmentés d'un facteur de 4 UGR. Ensuite, en utilisant le <b>A100-40gb</b> comme modèle de référence, nous obtenons les scores suivants pour chaque modèle&nbsp;:

{| class="wikitable" style="margin: auto; text-align: center;"

|-

! 4.8

|}

==Choisir des modèles de GPU pour votre projet==

* Si vos applications font surtout des opérations FP16 (ce qui est le cas en intelligence artificielle et avec les opérations à précision mixte ou utilisant [https://en.wikipedia.org/wiki/Bfloat16_floating-point_format d'autres formats à virgule flottante]), l'utilisation d'un A100-40gb sera calculée comme utilisant quatre fois les ressources d'un P100-12gb, mais pourra faire ~30 fois plus de calculs dans la même période, ce qui vous permettrait d'exécuter ~7.5 fois plus de calculs.

==À compter du concours de 2024==

* Pour le concours d'allocation de ressources de 2024, votre demande de GPU doit indiquer le modèle de GPU que vous préférez. Le nombre d’UGR sera automatiquement calculé sur la base des GPU-années par année du projet et enregistré dans le formulaire électronique dans CCDB.

** Par exemple, si vous sélectionnez la ressource <i>narval-gpu</i> et demandez 13 GPU-années du modèle A100-40gb, le nombre d’UGR sera 13&nbsp;*&nbsp;4.0&nbsp;=&nbsp;52. Le comité d’administration du concours vous allouerait un maximum de 52&nbsp;UGR, dépendant de la note attribuée à votre demande. Dans le cas où votre allocation serait déplacée sur Cedar, le comité vous allouerait jusqu’à 20&nbsp;GPU-années, puisque chaque GPU V100-32gb vaut 2.6&nbsp;UGR (et 52&nbsp;/&nbsp;2.6&nbsp;=&nbsp;20).

=Effet détaillé de l'utilisation des ressources sur la priorité=