Aller au contenu principal

Décès de Janine Connes

IDRIS
IDRIS
Computing center

Janine Connes, fondatrice du Centre inter-régional de calcul électronique (CIRCÉ) du CNRS en 1969 et sa directrice jusqu’en 1982, est décédée le 28 novembre 2024 à l’âge de 98 ans. Elle formait avec son mari Pierre Connes un binôme scientifique de haut vol, Pierre étant l’expérimentateur et Janine traitant et analysant numériquement les résultats. Ce duo a mis en place la méthode de spectroscopie infrarouge par transformée de Fourier, d'une importance majeure dans cette discipline. La page du site de l’University of California Los Angeles qui est consacrée à madame Connes en atteste. Elle a également exercé un rôle crucial dans le développement de la simulation numérique en France, permettant au CNRS de se doter des moyens nécessaires au service de toutes les communautés scientifiques. Elle fait le récit détaillé de cette épopée dans son livre De l'IBM 360/75 au superordinateur Jean Zay, écrit avec la participation de Françoise Perriquet et publié en 2022[^1]. Nous n’en rappellerons ici brièvement que les prémisses et les grandes étapes.

Flash Info n°2024-29

IDRIS
IDRIS
Computing center

Adaptation aux nouveaux termes de la licence Anaconda

[English version below]

Bonjour,

Depuis l'été 2024, l'utilisation des dépôts Anaconda est soumise à tarification (https://legal.anaconda.com/policies/). Comme l'IDRIS ne prévoit pas d'acheter de licence, quelques mesures ont été mises en place sur Jean Zay pour limiter au maximum les requêtes vers les dépôts payants.

1/ Les nouveaux environnements conda installés pour vous par l'assistance IDRIS seront proposés via Miniforge et non plus via Anaconda. Les anciens environnements basés sur Anaconda resteront disponibles et pourront toujours être enrichis sur demande. L'assistance prendra soin de viser des dépôts ouverts comme conda-forge.

2/ Le comportement de tout environnement conda existant sur Jean Zay a été modifié grâce au déploiement d'un fichier de configuration /etc/conda/.condarc sur l'ensemble des noeuds ayant un accès à internet (noeuds de connexion, prepost, compil, archive, visu). Grâce à lui, toutes les installations effectuées par conda visent maintenant en priorité le dépôt ouvert conda-forge.

3/ Malgré le déploiement du nouveau fichier de configuration, certaines requêtes vers les dépôts Anaconda peuvent persister si vous utilisez Anaconda ou Miniconda. Nous vous demandons d'être attentives et attentifs lors de vos installations. Finalement, nous vous invitons fortement à travailler avec Miniforge à partir de maintenant pour éviter ce problème. Un module "miniforge/24.9.0" est déjà disponible et de nouvelles versions seront régulièrement installées. Au contraire, nous ne prévoyons plus de maintenir les modules Anaconda à l'avenir.

N'hésitez pas à contacter assist@idris.fr si vous avez des questions à ce sujet.

Bien cordialement, L'équipe assistance IDRIS


Hello,

Since summer 2024, the use of Anaconda repositories has been subject to pricing (https://legal.anaconda.com/policies/). As IDRIS does not plan to purchase a license, a few measures have been put in place on Jean Zay to limit requests to paid repositories as much as possible.

1/ The new conda environments installed for you by IDRIS support will be provided using Miniforge and no longer using Anaconda. Older Anaconda-based environments will remain available and can still be completed on request. Support will take care to target open repositories such as conda-forge.

2/ The behavior of any existing conda environment on Jean Zay has been modified by deploying a configuration file /etc/conda/.condarc on all nodes with internet access (connection nodes, prepost, compil, archive, visu). As a result, all installations performed by conda now target the open repository conda-forge as a priority.

3/ Despite the deployment of the new configuration file, some requests to Anaconda repositories may persist if you are using Anaconda or Miniconda. We ask you to be attentive during your installations. Finally, we strongly advise you to work with Miniforge from now on to avoid this problem. A “miniforge/24.9.0” module is already available, and new versions will be installed regularly. On the contrary, we no longer plan to maintain Anaconda modules in the future.

Please do not hesitate to contact assist@idris.fr if you have any question on this subject.

Best regards, The IDRIS Support Team


Restrictions de licence pour l'utilisation d'Alphafold3 sur Jean Zay

IDRIS
IDRIS
Computing center

Deepmind a ouvert le code d'Alphafold 3 et l'a rendu disponible sur Github. Cependant les poids du modèle sont eux soumis à une licence qui fait qu'il ne sera pas possible de les rendre disponibles à tous les utilisateurs de l'IDRIS.

https://github.com/google-deepmind/alphafold3/blob/main/WEIGHTS_TERMS_OF_USE.md

En effet, un certain nombre personnes utilisant les ressources de l'IDRIS ne font pas partie du monde académique.

Nous allons contacter Deepmind pour voir s'il est possible dans notre situation de partager les poids. En attendant une réponse, nous allons appliquer la procédure suivante :

  • L'IDRIS fait l'installation du code de façon à ce qu'il soit accessible à tous les utilisateurs.
  • Chaque personne souhaitant utiliser Alphafold 3 devra obtenir l'autorisation auprès de Deepmind via le formulaire suivant https://forms.gle/svvpY4u2jsHEwWYS6 . Il est à noter que la réponse peut prendre jusque 2 semaines.
  • Les poids devront être installés localement sur le compte de chaque personne souhaitant utiliser Alphafold3.

Nous avons fait la demande des poids du modèle pour pouvoir faire des tests en interne.

Une fois ces tests fait, nous publierons une documentation sur le site avec toutes les étapes pour faire fonctionner Alphafold 3.

Flash Info n°2024-28

IDRIS
IDRIS
Computing center

Sommaire :

  • Panoram'IA : rendez-vous vendredi 15/11 à 10h
  • DSDIR non accessible depuis la partition H100
  • Arrêt de l'ancien espace STORE fin novembre 2024
  • Formations IDRIS

  • Panoram'IA : rendez-vous vendredi 15/11 à 10h

L'assistance de l'IDRIS vous propose ce vendredi matin 15/11 à 10h, "Panoram'IA" : le magazine vidéo mensuel et en direct qui aborde l'actualité scientifique et technique de l'IA. Au programme de cette session : les brèves de l'IA, une intervention d'experts : "QROA : L’art et la science de jailbreaker des LLMs" et notre sélection de papiers avec Papers Storm. Le direct ainsi que les rediffusions sont disponibles sur notre chaîne Youtube "Un oeil sur l'IDRIS" : https://www.youtube.com/@idriscnrs.

  • DSDIR non accessible depuis la partition H100

Nous vous rappelons que l'espace DSDIR sur lequel nous stockons les jeux de données et modèles publics utiles à la communauté (http://www.idris.fr/jean-zay/gpu/jean-zay-gpu-dataset.html) n'est pour l'instant pas accessible depuis la nouvelle partition H100 de Jean Zay. Du matériel est actuellement en cours d'installation afin de permettre sa migration vers un nouveau système de stockage utilisant Lustre qui sera accessible depuis toutes les partitions. Ce nouvel espace devrait être opérationnel d'ici à la fin de l'année 2024. En attendant, si vous avez besoin d'utiliser un jeu de données ou un modèle disponible dans le DSDIR depuis un nœud H100, nous vous recommandons de le copier dans votre SCRATCH.

  • Arrêt de l'ancien espace STORE fin novembre 2024

Suite à la migration de l'espace STORE vers un nouveau système de stockage Lustre durant l'été, l'ancien espace STORE restait accessible en lecture seule en utilisant la variable d'environnement "$OLDSTORE" (http://www.idris.fr/jean-zay/modifications-extension-jean-zay-h100.html#cas_particulier_du_store). L'arrêt définitif de cet espace aura lieu à la fin du mois de novembre 2024.

  • Formations IDRIS

Pensez à vous inscrire dès maintenant aux formations IDRIS planifiées pour le restant de l'année et début 2025 :

  • Débogage HPC, le 22 novembre
  • Vectorisation SIMD, le 26 novembre
  • Deep Learning Optimisé sur Jean Zay, les 14, 15, 16 et 17 janvier
  • MPI, les 18, 19, 20 et 21 mars
  • OpenMP, les 26, 27 et 28 mars

Pour plus d'informations sur le catalogue des formations de l'IDRIS et les modalités d'inscription : http://www.idris.fr/formations/catalogue.html.


Flash Info n°2024-27

IDRIS
IDRIS
Computing center

Changements importants : QoS, JupyterHub, H100

[English version below]

Bonjour,

Suite à la maintenance d'aujourd'hui (mardi 1er octobre), plusieurs changements pourront vous impacter.

  • Changement de noms des QoS pour la partition A100

Afin de pouvoir gérer plus finement le partage des ressources sur la machine, des QoS spécifiques ont été définies pour la partition A100. Si vous utilisiez explicitement les QoS "qos_gpu-t3" ou "qos_gpu-dev" dans vos soumissions de travaux ciblant cette partition, vous devrez utiliser à la place "qos_gpu_a100-t3" ou "qos_gpu_a100-dev". La QoS "qos_gpu_a100-t3" est utilisée par défaut et peut être omise.

Les partitions CPU et V100 ne sont pas touchées par ce changement.

La documentation a été mise à jour en conséquence : http://www.idris.fr/jean-zay/gpu/jean-zay-gpu-exec_partition_slurm.html#les_qos_disponibles.

  • Usage des QoS via JupyterHub

Si vous souhaitez spécifier une QoS lorsque vous utilisez le lanceur Slurm sur JupyterHub, il faudra maintenant la spécifier manuellement dans le champ "Extra #SBATCH directives".

  • Changement de l'adresse IP de JupyterHub

L'adresse IP de notre instance JupyterHub a été modifiée. Il s'agit maintenant de 130.84.132.56. Ce changement peut vous impacter si votre organisme applique un filtrage par adresse IP des connexions sortantes. Si vous rencontrez des difficultés de connexion à JupyterHub, nous vous suggérons de prendre contact avec votre service informatique en leur signalement ce changement.

Pour rappel, la plage des adresses IP utilisées pour les machines et les services de l'IDRIS est la suivante : 130.84.132.0/23. Nous recommandons d'autoriser la plage complète plutôt que des adresses IP spécifiques afin de ne pas être affecté par de futurs changements internes à notre infrastructure.

  • Ouverture de la partition H100

Les utilisateurs ayant déjà obtenu des heures H100 peuvent désormais les utiliser. Vous pouvez vous inspirer de l'exemple ci-dessous :

#!/bin/bash
#SBATCH --job-name=mon_travail # nom du job
#SBATCH -A xyz@h100 # comptabilite a utiliser, avec xyz le trigramme de votre projet
#SBATCH -C h100 # pour cibler les noeuds H100
# Ici, reservation de 3x24=72 CPU (pour 3 taches) et de 3 GPU (1 GPU par tache) sur un seul noeud :
#SBATCH --nodes=1 # nombre de noeud
#SBATCH --ntasks-per-node=3 # nombre de tache MPI par noeud (= ici nombre de GPU par noeud)
#SBATCH --gres=gpu:3 # nombre de GPU par noeud (max 4 pour les noeuds H100)
# Sachant qu'ici on ne reserve qu'un seul GPU par tache (soit 1/4 des GPUs),
# l'ideal est de reserver 1/4 des CPU du noeud pour chaque tache:
#SBATCH --cpus-per-task=24 # nombre de CPU par tache (1/4 des CPUs ici)
# /!\ Attention, "multithread" fait reference a l'hyperthreading dans la terminologie Slurm
#SBATCH --hint=nomultithread # hyperthreading desactive

Notez que les modules par défaut ne sont pas compatibles avec la partition H100. Afin de retrouver l'environnement logiciel spécifique à cette partition, vous devez charger le module "arch/h100" : http://www.idris.fr/jean-zay/cpu/jean-zay-cpu-doc_module.html#modules_compatibles_avec_la_partition_gpu_p6. Cela doit être fait dans vos scripts de soumission mais aussi dans votre terminal si vous avez besoin de compiler des codes.

Si vous n'avez pas encore d'heures H100, le responsable du projet peut faire une demande au fil de l'eau sur le portail eDARI si nécessaire.

N'hésitez pas à contacter assist@idris.fr en cas de besoin.

Cordialement, L'équipe support de l'IDRIS


Dear Jean Zay user,

Several changes might affect you after today's maintenance operations (Tuesday October 1st):

  • Qos name changes for the A100 partition

In order to more precisely manage the ressource sharing of the machine, specific QoS have been defined for the A100 partition. If you used to explicitely specify "qos_gpu-t3" or "qos_gpu-dev" in your Slurm jobs targeting the A100 partition, you now have to use "qos_gpu_a100-t3" or "qos_gpu_a100-dev" instead. Note that the "qos_gpu_a100-t3" QoS is used by default and may be omitted.

The CPU and V100 partitions are not affected by these changes.

The on-line documentation has been updated: http://www.idris.fr/eng/jean-zay/gpu/jean-zay-gpu-exec_partition_slurm-eng.html#available_qos

  • Use of QoS through JupyterHub

If you wish to specify a QoS when using Slurm on JupyterHub, you now have to do it manually in the "Extra #SBATCH directives" field.

  • JupyterHub IP address change

The IP address of our JupyterHub instance has been modified. It is now 130.84.132.56. This change might impact you if your institution applies an IP address filtering of outgoing connections. If you run into difficulties when connectng to JupyterHub, we invite you to contact your local administrator to mention this change.

As a reminder, the set of IP addresses used for the IDRIS machines and services is the following: 130.84.132.0/23. We recommend to authorize the complete set rather than specific IP addresses so as not to be affected by potential future internal changes of our infrastructure.

  • Opening of the H100 partition

Users who were already granted H100 computing hours may now use them. An example submission script is as follows:

#!/bin/bash
#SBATCH --job-name=my_job # job name
#SBATCH -A xyz@h100 # account to use, with xyz the 3 letter code of your project
#SBATCH -C h100 # to target H100 nodes
# Example reservation of 3x24=72 CPU (for 3 tasks) and 3 GPU (1 GPU per task) on one node:
#SBATCH --nodes=1 # number of nodes
#SBATCH --ntasks-per-node=3 # number of MPI tasks per node (= number of GPU requested per node here)
#SBATCH --gres=gpu:3 # number of GPU requested per node (max. 4 for H100 nodes)
# Since here only one GPU per task is requested (i.e., 1/4 of the available GPUs)
# the best way to proceed is to book 1/4 of the node's CPU for each task:
#SBATCH --cpus-per-task=24 # number of CPU per task (1/4 of the CPUs here)
# /!\ Caution, "multithread" in Slurm vocabulary refers to hyperthreading.
#SBATCH --hint=nomultithread # hyperthreading deactived

Note that the default modules are not compatible with the H100 partition. In order to use the software environment dedicated to this partition, you need to load the "arch/h100" module: http://www.idris.fr/eng/jean-zay/cpu/jean-zay-cpu-doc_module-eng.html#modules_compatible_with_gpu_p6_partition. This is needed for your submission scripts but also in your shell when compiling codes.

If you do not have H100 computing hours yet, your project manager may ask for supplementary hours ("au fil de l'eau") on the eDARI portal if necessary.

Do not hesitate to contact assist@idris.fr if needed.

Best regards, The IDRIS support team

Flash Info n°2024-26

IDRIS
IDRIS
Computing center

Arrêt électrique : mardi 8 et mercredi 9 octobre 2024

[English version below]

Bonjour,

Une maintenance de l'infrastructure technique de l'IDRIS nécessitera la mise à l'arrêt du centre mardi 8 et mercredi 9 octobre prochains. La machine Jean Zay sera indisponible du mardi 8 octobre à 6h jusqu'au jeudi 10 octobre à 12h. L'espace STORE sera indisponible dès l'après-midi du lundi 7 octobre.

Le service de support aux utilisateurs sera fermé pendant ces deux jours. Le site web restera accessible et vous pourrez suivre la disponibilité des machines sur la page habituelle : http://www.idris.fr/statut.html.

Nous sommes désolés pour la gêne que cette opération pourrait occasionner.

Cordialement, L'équipe support de l'IDRIS


Hello,

A maintenance operation on the technical infrastructure of IDRIS will require the center to be shut down completely on Tuesday October 8th and Wednesday October 9th. The Jean Zay machine will be unavailable from Tuesday October 8th at 6am until Thursday October 10th at noon. The STORE disk space will be unavailable starting from Monday October 7th in the afternoon.

User support will be closed for these two days. The website will remain accessible and you will be able to check the machine availability on the usual page: http://www.idris.fr/status.html.

We are sorry for any inconvenience this maintenance operation might cause.

Best regards, The IDRIS User Support Team

Flash Info n°2024-25

IDRIS
IDRIS
Computing center

Sommaire :

  • Panoram'IA : rendez-vous vendredi 27/09 à 10h
  • Formations IDRIS

  • Panoram'IA : rendez-vous vendredi 27/09 à 10h

L'assistance de l'IDRIS vous propose ce vendredi matin 27/09 à 10h, "Panoram'IA" : le magazine vidéo mensuel et en direct qui aborde l'actualité scientifique et technique de l'IA. Au programme de cette session : les brèves de l'IA, les TransformerEngine, l'HyperCloning et notre sélection de papiers avec Papers Storm. Le direct ainsi que les rediffusions sont disponibles sur notre chaîne Youtube "Un oeil sur l'IDRIS" : https://www.youtube.com/@idriscnrs. Les sessions suivantes auront lieu les 18 octobre 🎃, 15 novembre et 6 décembre 🎅.

  • Formations IDRIS

Pensez à vous inscrire dès maintenant aux formations IDRIS planifiées pour le restant de l'année :

  • OpenMP, du 16 au 18 octobre
  • Introduction pratique au Deep Learning, les 4 et 5 novembre
  • Architectures du Deep Learning, les 6 et 7 novembre
  • Atelier de lancement en Deep Learning, le 8 novembre
  • Débogage HPC, le 22 novembre
  • Vectorisation SIMD, le 26 novembre
  • Introduction à la bibliothèque PETSc, les 5 et 6 décembre

Pour plus d'informations sur le catalogue 2024 des formations de l'IDRIS et les modalités d'inscription : http://www.idris.fr/formations/catalogue.html.


Flash Info n°2024-24

IDRIS
IDRIS
Computing center

Opération sur le gestionnaire de travaux Slurm le 1er octobre

[English version below]

Bonjour,

Dans le cadre de l'intégration de la nouvelle partition H100 à la machine Jean Zay, une opération est prévue sur le gestionnaire de travaux Slurm le mardi 1er octobre 2024 de 8h à 13h. La machine sera indisponible pendant cette période.

Contrairement aux opérations de maintenance habituelles, les travaux en attente qui n'auront pas pu s'exécuter avant la maintenance seront perdus. Il vous faudra les soumettre à nouveau au redémarrage de la machine.

De plus, la base de données contenant l'historique des travaux Slurm sera réinitialisée. Vous n'aurez donc plus accès aux informations concernant les travaux antérieurs à la maintenance via la commande "sacct". Néanmoins cela n'impactera pas la comptabilité des heures consommées visible via la commande "idracct".

Nous sommes désolés pour la gêne que cette opération pourrait occasionner.

Cordialement, L'équipe support de l'IDRIS


Hello,

As part of the integration of the new H100 partition to the Jean Zay machine, an operation is planned on the job scheduler Slurm on Tuesday, October 1st 2024 from 8am to 1pm. The machine will be unavailable during that time.

Unlike the usual maintenance operations, the pending jobs that could not run before the maintenance operation will be lost. You will have to resubmit them after the machine is back online.

Moreover, the database which stores the Slurm jobs history will be reset. This means you will not have access anymore to the information about past jobs using the "sacct" command. However, there will be no impact on the accounting of your computing hours visible using the "idracct" command.

We are sorry for any inconvenience this maintenance operation might cause.

Best regards, The IDRIS User Support Team

Flash Info n°2024-23

IDRIS
IDRIS
Computing center

Sommaire :

  • Prochaine réunion du CU de l'IDRIS : jeudi 26 septembre 2024
  • L'IDRIS participe à la Fête de la Science les 11 et 12 octobre 2024
  • Formations IDRIS

  • Prochaine réunion du CU de l'IDRIS : jeudi 26 septembre 2024

La prochaine réunion du Comité des utilisateurs (CU) de l'IDRIS aura lieu le 26 septembre 2024 dans les locaux de l'IDRIS. N'hésitez pas à transmettre vos demandes à l'adresse : cu-elus at idris.fr. Plus d'information : http://www.idris.fr/cu.html

  • L'IDRIS participe à la Fête de la Science les 11 et 12 octobre 2024

Suite au succès rencontré les années précédentes, l'IDRIS renouvelle l'expérience et participe à nouveau aux Visites !nsolites du CNRS organisées dans le cadre de la Fête de la Science. Les inscriptions sont ouvertes du 2 au 22 septembre 2024 ! Pour plus d'information : http://www.idris.fr/annonces/idris-fete-de-la-science.html.

  • Formations IDRIS

Pensez à vous inscrire dès maintenant aux formations IDRIS planifiées pour le restant de l'année :

  • MPI, du 24 au 27 septembre
  • Workshop Jean Zay, les 3 et 4 octobre
  • OpenMP, du 16 au 18 octobre
  • Deep Learning Optimisé sur Jean Zay, du 22 au 25 octobre
  • Introduction pratique au Deep Learning, les 4 et 5 novembre
  • Architectures du Deep Learning, les 6 et 7 novembre
  • Atelier de lancement en Deep Learning, le 8 novembre
  • Débogage HPC, le 22 novembre
  • Vectorisation SIMD, le 26 novembre
  • Introduction à OpenACC et OpenMP GPU, du 27 au 29 novembre
  • Introduction à la bibliothèque PETSc, les 5 et 6 décembre

Pour plus d'information sur le catalogue 2024 des formations de l'IDRIS et les modalités d'inscription : http://www.idris.fr/formations/catalogue.html.


Flash Info n°2024-22

IDRIS
IDRIS
Computing center

Arrêt du SCRATCH actuel le 3 septembre 2024

[English version below]

Bonjour,

Dans le cadre du renouvellement des espaces de stockage accompagnant l'extension H100 de Jean Zay, l'actuel espace SCRATCH sera définitivement arrêté le mardi 3 septembre 2024.

Comme annoncé précédemment, il n'y aura pas de recopie automatique du contenu actuel du SCRATCH vers le nouvel espace.

Afin d'anticiper cet arrêt, nous vous invitons donc à recopier dès maintenant les données que vous souhaitez conserver vers le nouvel espace déjà accessible via la variable d'environnement $NEWSCRATCH (ou $ALL_CCFRNEWSCRATCH pour l'espace commun au projet) et à l'utiliser dans vos travaux en modifiant vos scripts de soumission en conséquence.

Les transferts peuvent être effectués via un ou plusieurs travaux sur la partition "archive" ou en interactif depuis les frontales si le volume à transférer est limité : http://www.idris.fr/jean-zay/modifications-extension-jean-zay-h100.html#recopies_scratch_et_all_scratch.

Afin d'éviter les confusions entre les différents espaces et pour faciliter le suivi des migrations, nous vous recommandons de supprimer les données dont vous n'avez plus besoin et celles transférées avec succès.

N'oubliez pas que ce nouvel espace SCRATCH reste lui aussi soumis à la suppression automatique des données non utilisées pendant 30 jours.

Cordialement, L'équipe assistance de l'IDRIS


Dear Jean Zay user,

As part of the renewal of the storage spaces accompanying the H100 extension of Jean Zay, the current SCRATCH disk space will be permanently shutdown on Tuesday, September 3rd, 2024.

As previously announced, there will be no automatic copy of the current SCRATCH space to the new one.

To anticipate this shutdown, we invite you to migrate as soon as possible the data you wish to keep to the new space already accessible through the $NEWSCRATCH (or $ALL_CCFRNEWSCRATCH for the common project spaces) and to use that disk space in your jobs by modifying your submission scripts accordingly.

The data transfers can done using one or more jobs on the "archive" partition, or interactively from the login nodes if the volume to be transferred is limited: http://www.idris.fr/eng/jean-zay/modifications-extension-jean-zay-h100-eng.html#scratch_et_all_scratch_copies.

In order to avoid confusions between the different disk spaces and facilitate the monitoring of the migration operation, we suggest that you remove any data that you will not need anymore or that you have already successfully migrated.

Please be aware that the new SCRATCH space is also subject to the 30 day deletion policy of the unused data.

Best regards, The IDRIS support team