Béluga: Difference between revisions

From Alliance Doc
Jump to navigation Jump to search
No edit summary
(Marked this version for translation)
 
(39 intermediate revisions by 8 users not shown)
Line 1: Line 1:
 
<languages />
<translate>
<!--T:1-->
{| class="wikitable"
{| class="wikitable"
|-
|-
| Disponibilité : mars 2019
| Disponibilité : mars 2019
|-
|-
| Nœud frontal : '''beluga.calculcanada.ca'''
| Nœud frontal : '''beluga.alliancecan.ca'''
|-
|-
| Point de chute Globus : '''computecanada#beluga-dtn'''
| Point de chute Globus : '''[https://app.globus.org/file-manager?origin_id=278b9bfe-24da-11e9-9fa2-0a06afd4a22e computecanada#beluga-dtn]'''
|-
|-
| Nœud de copie (rsync, scp, sftp,...) : '''beluga.calculcanada.ca'''
| Nœud de copie (rsync, scp, sftp,...) : '''beluga.alliancecan.ca'''
|-
| Portail : https://portail.beluga.calculquebec.ca/
|}
|}


<!--T:2-->
Béluga est une grappe hétérogène et polyvalente conçue pour les calculs ordinaires; elle est située à l'[http://www.etsmtl.ca/ École de technologie supérieure]. Son nom rappelle la  [https://fr.wikipedia.org/wiki/B%C3%A9luga_(c%C3%A9tac%C3%A9) baleine béluga], un mammifère marin vivant dans les eaux du fleuve Saint-Laurent.
Béluga est une grappe hétérogène et polyvalente conçue pour les calculs ordinaires; elle est située à l'[http://www.etsmtl.ca/ École de technologie supérieure]. Son nom rappelle la  [https://fr.wikipedia.org/wiki/B%C3%A9luga_(c%C3%A9tac%C3%A9) baleine béluga], un mammifère marin vivant dans les eaux du fleuve Saint-Laurent.


=Particularités=
==Particularités== <!--T:3-->
Notre politique veut que les nœuds de calcul de Béluga n'aient pas accès à l'internet. Pour y faire exception, contactez le [[Technical_support/fr|soutien technique]] en expliquant ce dont vous avez besoin et pourquoi. Notez que l'outil <code>crontab</code> n'est pas offert.
Notre politique veut que les nœuds de calcul de Béluga n'aient pas accès à l'internet. Pour y faire exception, contactez le [[Technical_support/fr|soutien technique]] en expliquant ce dont vous avez besoin et pourquoi. Notez que l'outil <code>crontab</code> n'est pas offert.


Chaque tâche devrait être d'une durée d’au moins une heure et un utilisateur ne peut avoir plus de 1000 tâches (en exécution et en attente) à la fois.
<!--T:4-->
Chaque tâche devrait être d'une durée d’au moins une heure (au moins cinq minutes pour les tâches de test) et un utilisateur ne peut avoir plus de 1000 tâches (en exécution et en attente) à la fois. La durée maximale d'une tâche est 7 jours (168 heures).


=Stockage=
==Stockage== <!--T:5-->


<!--T:6-->
{| class="wikitable sortable"
{| class="wikitable sortable"
|-
|-
| HOME <br> Système de fichiers Lustre, 105 To d’espace en total ||  
| HOME <br> Système de fichiers Lustre, 105 To d’espace au total ||  
*Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace projet pour les grands besoins en stockage.
*Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace <code>project</code> pour les grands besoins en stockage.


*50 Go d’espace et 500K de fichiers par usager.
<!--T:7-->
*Petits [[Storage and file management/fr#Quotas_et_politiques|quotas]] fixes par utilisateur


<!--T:8-->
*Il y a une sauvegarde automatique une fois par jour.
*Il y a une sauvegarde automatique une fois par jour.
|-
|-
| SCRATCH <br> Système de fichiers Lustre, 2.6 Po d’espace en total ||
| SCRATCH <br> Système de fichiers Lustre, 2.6 Po d’espace au total ||


*Un grand espace pour stocker les fichiers temporaires pendant les calculs qui n’a pas de système de sauvegarde automatique.  
<!--T:9-->
*Grand espace pour stocker les fichiers temporaires pendant les calculs.
* Pas de système de sauvegarde automatique.  


*20 To d’espace et 1M de fichiers par usager.
<!--T:10-->
*Grands [[Storage and file management/fr#Quotas_et_politiques|quotas]] fixes par utilisateur


*Il y a une purge automatique des vieux fichiers de cet espace, décrite ici.
<!--T:11-->
*Il y a une [[Scratch_purging_policy/fr | purge automatique]] des vieux fichiers de cet espace.
|-
|-
| PROJECT <br> Système de fichiers Lustre, 8.9 Po d’espace en total ||
| PROJECT <br> Système de fichiers Lustre, 25 Po d’espace au total ||


*Cet espace est conçu pour le partage de données entre un groupe et le stockage de beaucoup de données.  
<!--T:12-->
*Cet espace est conçu pour le partage de données entre membres d'un groupe et pour le stockage de beaucoup de données.  


*1 To d’espace et 500K de fichiers par groupe.
<!--T:13-->
*Grands [[Storage and file management/fr#Quotas_et_politiques|quotas]] ajustables par projet


<!--T:14-->
*Il y a une sauvegarde automatique une fois par jour.
*Il y a une sauvegarde automatique une fois par jour.
|}
|}


Pour les transferts de données par Globus, on devrait utiliser le point de chute computecanada#beluga-dtn, alors que pour les outils comme rsync et scp, on peut utiliser un nœud  
<!--T:15-->
de login de Béluga.
Pour les transferts de données par Globus, on devrait utiliser le point de chute <code>computecanada#beluga-dtn</code>, alors que pour les outils comme rsync et scp, on peut utiliser un nœud  
de connexion.


=Réseautique haute performance=
==Réseautique haute performance== <!--T:16-->


Le réseau entre les nœuds est Infiniband EDR (100 Gb/s) de Mellanox, liant ensemble tous les nœuds de la grappe. Il y a un commutateur central de 324 ports qui rassemble les connexions des îlots avec un facteur de blocage de maximum 56:1. Les serveurs de stockage sont branchés avec une interconnexion non-bloquante. L’architecture de Béluga est conçue pour permettre de multiples tâches parallèles jusqu’à 640 cœurs (voire plus) grâce à une réseautique non-bloquante. Pour les tâches plus imposantes, le facteur de blocage est de 56:1; même pour les tâches exécutées sur plusieurs îlots, l’interconnexion est de haute performance.
<!--T:17-->
 
Le réseau Infiniband EDR (100 Gb/s) de Mellanox relie tous les nœuds de la grappe. Un commutateur central de 324 ports rassemble les connexions des îlots avec un facteur de blocage maximum de 5:1. Les serveurs de stockage sont branchés avec une interconnexion non bloquante. L’architecture permet de multiples tâches parallèles avec jusqu’à 640 cœurs (voire plus) grâce à une réseautique non bloquante. Pour les tâches plus imposantes, le facteur de blocage est de 5:1; même pour les tâches exécutées sur plusieurs îlots, l’interconnexion est de haute performance.
=Types et caractéristiques des nœuds=


==Caractéristiques des nœuds== <!--T:19-->
Le mode Turbo est maintenant activé sur tous les noeuds de Béluga.
{| class="wikitable sortable"
{| class="wikitable sortable"
! Nombre !! Type !! Cœurs !! Mémoire !! Détails matériaux
! nœuds !! cœurs !! mémoire disponible !! CPU !! stockage !! GPU
|-
| 160 || 40 ||  92G ou  95000M || 2 x Intel Gold 6148 Skylake @ 2.4 GHz || 1 x SSD de 480G || -
|-
| 579 || rowspan="2"|40 || rowspan="2"|186G ou 191000M || rowspan="2"|2 x Intel Gold 6148 Skylake @ 2.4 GHz || 1 x SSD de 480G || rowspan="2"|-
|-
|-
| 172 || small 96G || 40 || 93G ou 96000M || deux Intel Gold 6148 “Skylake” à 2.4 GHz; SSD de 480Go à 6Gbps
| 10 || 6 x SSD de 480G
|-
|-
| 516 || base 192G || 40 || 187G ou 192000M || Mêmes que "small"
| 51 || rowspan="2"|40 || rowspan="2"|752G ou 771000M || rowspan="2"|2 x Intel Gold 6148 Skylake @ 2.4 GHz || 1 x SSD de 480G || rowspan="2"|-
|-
|-
| 12 || large 768G || 40 || 750G ou 768000M || Mémes que "small"
|   2 || 6 x SSD de 480G
|-
|-
| 172 || GPU || 40 || 187G ou 192000M || Mémes que "small" mais quatre GPU NVIDIA V100 Volta (SXM2, mémoire de 16 Go HBM2), SSD NVMe de 1.6 To
| 172 || 40 || 186G ou 191000M || 2 x Intel Gold 6148 Skylake @ 2.4 GHz || 1 x SSD NVMe de 1.6T || 4 x NVidia V100SXM2 (mémoire 16G), connectés via NVLink
|}
|}
<!--T:20-->
* Pour obtenir un plus grand espace <code>$SLURM_TMPDIR</code>, il faut demander <code>--tmp=xG</code>, où <code>x</code> est une valeur entre 350 et 2490.
==Suivi de vos tâches== <!--T:21-->
Depuis le [https://portail.beluga.calculquebec.ca/ portail], vous pouvez suivre vos tâches de calculs CPU comme GPU en temps "réel" ou celles passées afin de maximiser l'utilisation des ressources et diminuer vos temps d'attentes dans la file.
<!--T:22-->
Vous pourrez notamment visualiser pour une tâche :
* l'utilisation des cœurs de calcul;
* la mémoire utilisée;
* l'utilisation de GPUs;
<!--T:23-->
Il est important d'utiliser les ressources allouées et de rectifier vos demandes lorsque les ressources de calculs sont peu ou pas utilisés.
Par exemple, si vous demander quatre cœurs (cpus) mais n'en utilisez qu'un seul, vous devez ajuster votre fichier de soumission en conséquence.
</translate>

Latest revision as of 16:21, 19 July 2024

Other languages:
Disponibilité : mars 2019
Nœud frontal : beluga.alliancecan.ca
Point de chute Globus : computecanada#beluga-dtn
Nœud de copie (rsync, scp, sftp,...) : beluga.alliancecan.ca
Portail : https://portail.beluga.calculquebec.ca/

Béluga est une grappe hétérogène et polyvalente conçue pour les calculs ordinaires; elle est située à l'École de technologie supérieure. Son nom rappelle la baleine béluga, un mammifère marin vivant dans les eaux du fleuve Saint-Laurent.

Particularités[edit]

Notre politique veut que les nœuds de calcul de Béluga n'aient pas accès à l'internet. Pour y faire exception, contactez le soutien technique en expliquant ce dont vous avez besoin et pourquoi. Notez que l'outil crontab n'est pas offert.

Chaque tâche devrait être d'une durée d’au moins une heure (au moins cinq minutes pour les tâches de test) et un utilisateur ne peut avoir plus de 1000 tâches (en exécution et en attente) à la fois. La durée maximale d'une tâche est 7 jours (168 heures).

Stockage[edit]

HOME
Système de fichiers Lustre, 105 To d’espace au total
  • Cet espace est petit et ne peut pas être agrandi : vous devrez utiliser votre espace project pour les grands besoins en stockage.
  • Petits quotas fixes par utilisateur
  • Il y a une sauvegarde automatique une fois par jour.
SCRATCH
Système de fichiers Lustre, 2.6 Po d’espace au total
  • Grand espace pour stocker les fichiers temporaires pendant les calculs.
  • Pas de système de sauvegarde automatique.
  • Grands quotas fixes par utilisateur
PROJECT
Système de fichiers Lustre, 25 Po d’espace au total
  • Cet espace est conçu pour le partage de données entre membres d'un groupe et pour le stockage de beaucoup de données.
  • Grands quotas ajustables par projet
  • Il y a une sauvegarde automatique une fois par jour.

Pour les transferts de données par Globus, on devrait utiliser le point de chute computecanada#beluga-dtn, alors que pour les outils comme rsync et scp, on peut utiliser un nœud de connexion.

Réseautique haute performance[edit]

Le réseau Infiniband EDR (100 Gb/s) de Mellanox relie tous les nœuds de la grappe. Un commutateur central de 324 ports rassemble les connexions des îlots avec un facteur de blocage maximum de 5:1. Les serveurs de stockage sont branchés avec une interconnexion non bloquante. L’architecture permet de multiples tâches parallèles avec jusqu’à 640 cœurs (voire plus) grâce à une réseautique non bloquante. Pour les tâches plus imposantes, le facteur de blocage est de 5:1; même pour les tâches exécutées sur plusieurs îlots, l’interconnexion est de haute performance.

Caractéristiques des nœuds[edit]

Le mode Turbo est maintenant activé sur tous les noeuds de Béluga.

nœuds cœurs mémoire disponible CPU stockage GPU
160 40 92G ou 95000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD de 480G -
579 40 186G ou 191000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD de 480G -
10 6 x SSD de 480G
51 40 752G ou 771000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD de 480G -
2 6 x SSD de 480G
172 40 186G ou 191000M 2 x Intel Gold 6148 Skylake @ 2.4 GHz 1 x SSD NVMe de 1.6T 4 x NVidia V100SXM2 (mémoire 16G), connectés via NVLink
  • Pour obtenir un plus grand espace $SLURM_TMPDIR, il faut demander --tmp=xG, où x est une valeur entre 350 et 2490.

Suivi de vos tâches[edit]

Depuis le portail, vous pouvez suivre vos tâches de calculs CPU comme GPU en temps "réel" ou celles passées afin de maximiser l'utilisation des ressources et diminuer vos temps d'attentes dans la file.

Vous pourrez notamment visualiser pour une tâche :

  • l'utilisation des cœurs de calcul;
  • la mémoire utilisée;
  • l'utilisation de GPUs;

Il est important d'utiliser les ressources allouées et de rectifier vos demandes lorsque les ressources de calculs sont peu ou pas utilisés. Par exemple, si vous demander quatre cœurs (cpus) mais n'en utilisez qu'un seul, vous devez ajuster votre fichier de soumission en conséquence.

Globus is a file transfer service

Retrieved from "https://docs.alliancecan.ca/mediawiki/index.php?title=Béluga&oldid=157911"