Utiliser des modules
Nos serveurs peuvent exécuter la totalité des logiciels fonctionnant sous Linux. Dans le cas le plus simple, le logiciel dont vous avez besoin sera déjà installé sur l'un des serveurs de calcul. Il sera alors accessible sous la forme d'un module. Si ce n'est pas le cas, vous pouvez soit demander à notre équipe de l'installer pour vous, soit le faire vous-même.
Les modules sont des fichiers de configuration qui contiennent des instructions pour modifier votre environnement logiciel. Cette architecture modulaire permet d'avoir plusieurs versions d'une même application installées sans que celles-ci entrent en conflit. Pour les nouveaux serveurs, les modules sont gérés par l'outil Lmod développé au TACC. Cet outil remplace Environment Modules qui est utilisé sur la plupart des anciens serveurs. Si vous le connaissez, vous ne devriez pas être trop dépaysé, car Lmod a été conçu pour être très similaire à Environment Modules. Référez-vous à la section Lmod vs Environment Modules ci-dessous pour connaître les différences principales.
Un fichier module (modulefile) contient les informations nécessaires pour rendre disponible une application ou une bibliothèque dans la session de l'usager. Typiquement, un fichier module contient des instructions qui modifient ou initialisent les variables d'environnement comme PATH et LD_LIBRARY_PATH pour utiliser les différents logiciels installés. Notez que le simple fait de charger un module n'exécute pas le logiciel dont il est question. Pour connaître le nom du fichier binaire et la syntaxe de son usage, il faut lire la documentation du logiciel et avec la commande module, vous n'avez normalement pas besoin de connaître le chemin du logiciel ou de la bibliothèque. Vous pouvez voir des détails pour le module en tapant la commande module show <nom de module>.
Principales commandes de module
La commande module a plusieurs sous-commandes. La syntaxe normale est
[nom@serveur ~]$ module commande [autres options]
Pour connaître la liste des sous-commandes disponibles, utilisez
[nom@serveur ~]$ module help
Sous-commande spider
La sous-commande spider fait afficher tous les modules qui se trouvent dans l'environnement logiciel standard courant.
[nom@serveur ~]$ module spider
Si vous spécifiez le nom d'une application, par exemple avec
[nom@serveur ~]$ module spider openmpi
cela affichera la liste de toutes les versions disponibles.
Si vous spécifiez le nom de l'application avec son numéro de version, par exemple avec
[nom@serveur ~]$ module spider openmpi/4.0.3
cela affichera la liste des options de module à charger afin d'accéder à cette version.
Sous-commande avail
Pour lister les modules que vous pouvez charger, utilisez
[nom@serveur ~]$ module avail
Vous pouvez obtenir une liste de modules disponibles pour une bibliothèque ou un outil particulier avec
[nom@serveur ~]$ module avail openmpi
Notez que la commande module avail peut ne pas lister certains modules qui sont incompatibles avec les modules que vous avez chargés. Pour voir la liste des modules autres que ceux qui sont chargés et qui vous sont disponibles, utilisez la sous-commande spider documentée ci-dessus.
Sous-commande list
La sous-commande list affiche les modules qui sont présentement chargés dans votre environnement.
[nom@serveur ~]$ module list
Sous-commande load
La sous-commande load permet de charger un module donné. Par exemple
[nom@serveur ~]$ module load gcc/9.3
pourrait charger le module du compilateur GCC version 9.3.
Vous pouvez charger plus d'un module avec une même commande. Par exemple
[nom@serveur ~]$ module load gcc/9.3 openmpi/4.0
chargerait à la fois le compilateur GCC 9.3 et la bibliothèque OpenMPI 4.0 compilée pour GCC.
Si vous chargez un module qui est incompatible avec un module déjà chargé, Lmod vous indiquera qu'il a remplacé l'ancien module par le nouveau. Ceci peut se produire en particulier pour des compilateurs et des implémentations MPI.
Sous-commande unload
Au contraire de la sous-commande load, unload enlève un module de votre environnement. Par exemple
[nom@serveur ~]$ module unload gcc/9.3
enlèverait le compilateur GCC 9.3 de votre environnement.
Si certains modules dépendaient de ce compilateur, Lmod vous indiquera qu'ils ont été désactivés.
Sous-commande purge
La sous-commande purge permet d'enlever d'un seul coup tous les modules que vous avez chargés.
[nom@serveur ~]$ module purge
Certains modules peuvent être marqués comme sticky (permanents) par les administrateurs de système et ne seront pas enlevés.
Sous-commandes show, help et whatis
Les sous-commandes show, help et whatis permettent d'avoir de l'information supplémentaire sur un module donné. La sous-commande show affiche l'intégralité du module, la commande help affiche un message d'aide, et la commande whatis montre une description du module.
[nom@serveur ~]$ module help gcc/9.3
Sous-commande apropos ou keyword
Les sous-commandes apropos ou keyword permettent de chercher un mot-clé dans l'ensemble des modules. Si vous ne savez pas quel module est approprié pour réaliser votre calcul, vous pouvez ainsi chercher dans les descriptions.
Chargement automatique des modules
Nous vous déconseillons de charger des modules automatiquement dans votre .bashrc. Nous vous recommandons plutôt de charger les modules nécessaires au besoin, par exemple dans vos scripts de tâches. Afin de faciliter le chargement d'un grand nombre de modules, il est préférable d'utiliser une collection de modules.
Collection de modules
Lmod vous permet de créer une collection de modules. Pour ce faire, chargez d'abord les modules requis avec, par exemple
[nom@serveur ~]$ module load gcc/9.3 openmpi/4.0.3 mkl
Utilisez ensuite la commande save pour sauvegarder cette collection.
[nom@serveur ~]$ module save mes_modules
L'argument mes_modules est un nom que vous donnez à la collection.
Vous pouvez ensuite, dans une session ultérieure ou dans une tâche, restaurer cette collection avec la commande
[nom@serveur ~]$ module restore mes_modules
Modules cachés
Certains modules sont cachés. Vous pouvez les ignorer. Il s'agit généralement de modules que vous n'avez pas à charger manuellement. Ils sont chargés automatiquement selon les besoins.
Lmod vs Environment Modules
Les principales différences entre l'environnement mis à votre disposition sur les nouveaux serveurs et les serveurs que vous avez utilisés par le passé sont les suivantes.
Hiérarchie de modules
La majorité des systèmes utilisent une structure de modules plate avec tous les modules au même niveau. Ceci devient problématique lorsqu'un grand nombre de combinaisons de versions de différents modules sont disponibles. Par exemple, si vous avez à utiliser la bibliothèque FFTW, et que le module fftw est disponible en plusieurs versions, dont une version compilée avec le compilateur gcc version 4.8 et openmpi 1.6, vous avez peut-être déjà vu des modules nommés openmpi/1.6_gcc4.8 et fftw/3.3_gcc4.8_openmpi1.6. Ceci n'est ni élégant ni pratique. Pour résoudre ce problème, nous utilisons une hiérarchie de modules. Plutôt que d'utiliser la commande
[nom@serveur ~]$ module load gcc/4.8 openmpi/1.6_gcc4.8 fftw/3.3_gcc4.8_openmpi1.6
vous utiliserez la commande
[nom@serveur ~]$ module load gcc/4.8 openmpi/1.6 fftw/3.3
Ceci est rendu possible avec une hiérarchie de modules. Le module fftw/3.3 qui est chargé ne sera pas le même si vous avez chargé au préalable le compilateur Intel ou le compilateur GCC.
L'inconvénient d'utiliser une hiérarchie de modules est que, puisque des modules peuvent avoir le même nom, seuls les modules compatibles avec les modules parents sont affichés par la commande module avail. Charger un parent est donc un prérequis afin d'avoir accès à certains modules. Pour avoir l'information complète, Lmod rend disponible la commande module spider. Celle-ci parcourt la hiérarchie complète et affiche tous les modules. En spécifiant un module et une version particulière, il est alors possible de savoir quels chemins de la hiérarchie permettent de charger le module désiré.
Collections de modules
Les collections de modules sont l'une des fonctionnalités additionnelles fournies par Lmod. Voir cette section pour plus de détails.
Une seule version chargée à la fois
Lmod refusera de charger deux versions d'un même module en même temps. Par exemple, vous ne pourrez pas charger les versions 4.8 et 5.4 du compilateur GCC en même temps.
Un seul module d'une même famille chargé à la fois
Il est possible pour les administrateurs de spécifier que deux modules portant des noms différents sont de la même famille; Lmod refusera alors de les charger. Des exemples typiques seraient les modules de compilateurs (gcc, intel), les modules MPI (openmpi, mvapich2), ou les modules de la bibliothèque BLAS (mkl, openblas).
Remplacement automatique de modules
Lorsque Lmod détecte deux modules de la même famille, ou deux versions du même module, la commande module load remplacera automatiquement le module original par celui qui doit être chargé. Dans le cas où le module remplacé est un nœud de la hiérarchie de modules, les modules dépendants seront chargés de nouveau s'il existe une version compatible, ou désactivés dans le cas contraire.
Modules permanents
Lmod permet aux administrateurs de définir un module comme étant permanent (sticky). Un tel module ne sera pas enlevé par la commande module purge.
Créer des modules
Pour des instructions sur comment créer des modules, veuillez vous référer à la documentation officielle.
Utiliser des modules avec ZSH et KSH
Si vous voulez utiliser des modules avec les shells ZSH ou KSH, exécutez les commandes suivantes :
[name@server ~]$ source $LMOD_PKG/init/zsh
[name@server ~]$ source $LMOD_PKG/init/ksh