Narval: Difference between revisions
No edit summary |
No edit summary |
||
| Line 14: | Line 14: | ||
<!--T:2--> | <!--T:2--> | ||
Narval est une grappe hétérogène et polyvalente conçue pour une grande variété de calculs scientifiques de petite et moyenne taille. Narval est | Narval est une grappe hétérogène et polyvalente conçue pour une grande variété de calculs scientifiques de petite et moyenne taille. Narval est située à l'[http://www.etsmtl.ca/ École de technologie supérieure]. Son nom rappelle le [https://fr.wikipedia.org/wiki/Narval narval], un mammifère marin qui a parfois été observé dans les eaux du fleuve Saint-Laurent. | ||
=Particularités= <!--T:3--> | =Particularités= <!--T:3--> | ||
| Line 20: | Line 20: | ||
<!--T:4--> | <!--T:4--> | ||
Chaque tâche devrait être d'une durée d’au moins une heure (au moins cinq minutes pour les tâches de test) et | Chaque tâche devrait être d'une durée d’au moins une heure (au moins cinq minutes pour les tâches de test) et vous ne pouvez avoir avoir plus de 1000 tâches (en exécution et en attente) à la fois. La durée maximale d'une tâche est de 7 jours (168 heures). | ||
=Stockage= <!--T:5--> | =Stockage= <!--T:5--> | ||
| Line 31: | Line 31: | ||
<!--T:7--> | <!--T:7--> | ||
* Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace <code>project</code> pour les grands besoins en stockage. | * Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace <code>project</code> pour les grands besoins en stockage. | ||
* 50 Go d’espace et 500K fichiers par utilisateur | * 50 Go d’espace et 500K fichiers par utilisateur | ||
* Il y a une sauvegarde automatique une fois par jour. | * Il y a une sauvegarde automatique une fois par jour. | ||
| Line 40: | Line 40: | ||
<!--T:9--> | <!--T:9--> | ||
* Grand espace pour stocker les fichiers temporaires pendant les calculs. | * Grand espace pour stocker les fichiers temporaires pendant les calculs. | ||
* Pas de système de sauvegarde automatique | * Pas de système de sauvegarde automatique | ||
* 20 To d’espace et 1M fichiers par utilisateur | * 20 To d’espace et 1M fichiers par utilisateur | ||
* Il y a une [[Scratch_purging_policy/fr | purge automatique]] des vieux fichiers de cet espace. | * Il y a une [[Scratch_purging_policy/fr | purge automatique]] des vieux fichiers de cet espace. | ||
| Line 50: | Line 50: | ||
<!--T:11--> | <!--T:11--> | ||
* Cet espace est conçu pour le partage de données entre membres d'un groupe et pour le stockage de beaucoup de données. | * Cet espace est conçu pour le partage de données entre membres d'un groupe et pour le stockage de beaucoup de données. | ||
* 1 To d’espace et 500K fichiers par groupe | * 1 To d’espace et 500K fichiers par groupe | ||
* Il y a une sauvegarde automatique une fois par jour. | * Il y a une sauvegarde automatique une fois par jour. | ||
|} | |} | ||
<!--T:12--> | <!--T:12--> | ||
Au tout début de la présente page, un tableau indique plusieurs adresses de connexion. Pour les transferts de données par [[Globus]], il faut utiliser le ''Point de chute Globus''. Par contre, pour les outils comme [[Transferring_data#Rsync|rsync]] et [[Transferring_data#SCP|scp]], il faut utiliser l'adresse du ''Nœud de copie''. | Au tout début de la présente page, un tableau indique plusieurs adresses de connexion. Pour les transferts de données par [[Globus]], il faut utiliser le '''Point de chute Globus'''. Par contre, pour les outils comme [[Transferring_data#Rsync|rsync]] et [[Transferring_data#SCP|scp]], il faut utiliser l'adresse du '''Nœud de copie'''. | ||
=Réseautique haute performance= <!--T:13--> | =Réseautique haute performance= <!--T:13--> | ||
Revision as of 17:05, 18 August 2021
| Disponibilité : septembre 2021 |
| Nœud frontal : narval.calculcanada.ca |
| Point de chute Globus : computecanada#narval-dtn |
| Nœud de copie (rsync, scp, sftp,...) : narval.calculcanada.ca |
Narval est une grappe hétérogène et polyvalente conçue pour une grande variété de calculs scientifiques de petite et moyenne taille. Narval est située à l'École de technologie supérieure. Son nom rappelle le narval, un mammifère marin qui a parfois été observé dans les eaux du fleuve Saint-Laurent.
Particularités[edit]
Notre politique veut que les nœuds de calcul de Narval n'aient pas accès à l'internet. Pour y faire exception, veuillez joindre le soutien technique en expliquant ce dont vous avez besoin et pourquoi. Notez que l'outil crontab n'est pas offert.
Chaque tâche devrait être d'une durée d’au moins une heure (au moins cinq minutes pour les tâches de test) et vous ne pouvez avoir avoir plus de 1000 tâches (en exécution et en attente) à la fois. La durée maximale d'une tâche est de 7 jours (168 heures).
Stockage[edit]
| HOME Système de fichiers Lustre, ~100 To d’espace au total |
|
| SCRATCH Système de fichiers Lustre, ~5 Po d’espace au total |
|
| PROJECT Système de fichiers Lustre, ~15 Po d’espace au total |
|
Au tout début de la présente page, un tableau indique plusieurs adresses de connexion. Pour les transferts de données par Globus, il faut utiliser le Point de chute Globus. Par contre, pour les outils comme rsync et scp, il faut utiliser l'adresse du Nœud de copie.
Réseautique haute performance[edit]
Le réseau InfiniBand HDR de Mellanox relie tous les nœuds de la grappe. Chaque commutateur de 40 ports HDR (200 Gb/s) permet de connecter ensemble jusqu'à 66 nœuds en HDR100 (100 Gb/s) avec 33 liens HDR divisés en deux (2) par des câbles spéciaux. Les sept (7) liens HDR restants servent à connecter le commutateur d'un cabinet à chacun des sept (7) commutateurs HDR du réseau InfiniBand central. Les îlots de nœuds sont donc connectés avec un facteur de blocage maximum de 33:7 (4.7:1). Par contre, les serveurs de stockage sont branchés avec une interconnexion non bloquante.
En pratique, les cabinets de Narval contiennent des îlots de 48 ou 56 nœuds CPU réguliers. Il est donc possible d'exécuter des tâches parallèles utilisant jusqu’à 3584 cœurs et une réseautique non bloquante. Pour des tâches plus imposantes ou plus fragmentées sur le réseau, le facteur de blocage est de 4.7:1. L’interconnexion reste malgré tout de haute performance.
Caractéristiques des nœuds[edit]
| nœuds | cœurs | mémoire disponible | CPU | stockage | GPU |
|---|---|---|---|---|---|
| 1109 | 64 | ~256000M | 2 x AMD Rome 7532 @ 2.40 GHz 256M cache L3 | 1 x SSD de 960G | - |
| 33 | ~2048000M | ||||
| 158 | 48 | ~512000M | 2 x AMD Milan 7413 @ 2.65 GHz 128M cache L3 | 1 x SSD de 3.84T | 4 x NVidia A100 (mémoire 40G) |