Béluga

This article is a draft

This is not a complete article: This is a draft, a work in progress that is intended to be published into an article, which may or may not be ready for inclusion in the main wiki. It should not necessarily be considered factual or authoritative.

Disponibilité : mars 2019

Nœud frontal : beluga.calculcanada.ca

Point de chute Globus : computecanada#beluga-dtn

Nœud de copie (rsync, scp, sftp,...) : beluga.calculcanada.ca

Béluga est une grappe hétérogène et polyvalente conçue pour les calculs ordinaires; elle est située à l'École de technologie supérieure. Son nom rappelle la baleine béluga, un mammifère marin vivant dans les eaux du fleuve Saint-Laurent.

Particularités

Notre politique veut que les nœuds de calcul de Béluga n'aient pas accès à l'internet. Pour y faire exception, contactez le soutien technique en expliquant ce dont vous avez besoin et pourquoi. Notez que l'outil crontab n'est pas offert.

Chaque tâche devrait être d'une durée d’au moins une heure et un utilisateur ne peut avoir plus de 1000 tâches (en exécution et en attente) à la fois.

Stockage

HOME Système de fichiers Lustre, 105 To d’espace en total	Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace projet pour les grands besoins en stockage. 50 Go d’espace et 500K de fichiers par usager. Il y a une sauvegarde automatique une fois par jour.
SCRATCH Système de fichiers Lustre, 2.6 Po d’espace en total	Un grand espace pour stocker les fichiers temporaires pendant les calculs qui n’a pas de système de sauvegarde automatique. 20 To d’espace et 1M de fichiers par usager. Il y a une purge automatique des vieux fichiers de cet espace, décrite ici.
PROJECT Système de fichiers Lustre, 8.9 Po d’espace en total	Cet espace est conçu pour le partage de données entre un groupe et le stockage de beaucoup de données. 1 To d’espace et 500K de fichiers par groupe. Il y a une sauvegarde automatique une fois par jour.

Pour les transferts de données par Globus, on devrait utiliser le point de chute computecanada#beluga-dtn, alors que pour les outils comme rsync et scp, on peut utiliser un nœud de login de Béluga.

Réseautique haute performance

Le réseau entre les nœuds est Infiniband EDR (100 Gb/s) de Mellanox, liant ensemble tous les nœuds de la grappe. Il y a un commutateur central de 324 ports qui rassemble les connexions des îlots avec un facteur de blocage de maximum 56:1. Les serveurs de stockage sont branchés avec une interconnexion non-bloquante. L’architecture de Béluga est conçue pour permettre de multiples tâches parallèles jusqu’à 640 cœurs (voire plus) grâce à une réseautique non-bloquante. Pour les tâches plus imposantes, le facteur de blocage est de 56:1; même pour les tâches exécutées sur plusieurs îlots, l’interconnexion est de haute performance.

Types et caractéristiques des nœuds

Nombre	Type	Cœurs	Mémoire	Détails matériaux
172	small 96G	40	93G ou 96000M	deux Intel Gold 6148 “Skylake” à 2.4 GHz; SSD de 480Go à 6Gbps
516	base 192G	40	187G ou 192000M	Mêmes que "small"
12	large 768G	40	750G ou 768000M	Mémes que "small"
172	GPU	40	187G ou 192000M	Mémes que "small" mais quatre GPU NVIDIA V100 Volta (SXM2, mémoire de 16 Go HBM2), SSD NVMe de 1.6 To

Globus is a file transfer service