Présentation

Article

1 - CADRE MATHÉMATIQUE D’ÉTUDE

  • 1.1 - Analyse par des techniques de contraction
  • 1.2 - Analyse en utilisant le principe du maximum discret
  • 1.3 - Une approche globale : analyse par les ensembles emboités

2 - TERMINAISON DES ALGORITHMES ITÉRATIFS PARALLÈLES ASYNCHRONES

3 - IMPLÉMENTATION DES ALGORITHMES ITÉRATIFS PARALLÈLES ASYNCHRONES

4 - CONCLUSION

Article de référence | Réf : AF1386 v1

Implémentation des algorithmes itératifs parallèles asynchrones
Algorithmes parallèles asynchrones II - Implémentation

Auteur(s) : Pierre SPITERI, Jean-Claude MIELLOU

Date de publication : 10 oct. 2021

Pour explorer cet article
Télécharger l'extrait gratuit

Vous êtes déjà abonné ?Connectez-vous !

Sommaire

Présentation

Version en anglais English

RÉSUMÉ

L’implémentation des algorithmes itératifs parallèles asynchrones est l'objet du présent article. On abordera d’abord l’implémentation des tests d’arrêt des itérations à la fois à partir d’une approche informatique et d’une approche analyse numérique utilisant, dans ce dernier cas, soit la propriété de contraction, soit celle de convergence en ordre partiel et enfin également les ensembles emboités. Après avoir rappelé un certain nombre de notions concernant l’architecture des machines multiprocesseurs, on abordera le principe d’implémentation de ces méthodes itératives parallèles asynchrones en particulier pour les méthode de sous-domaines ; l’équilibrage de charge de ces algorithmes sera également discuté.

Lire cet article issu d'une ressource documentaire complète, actualisée et validée par des comités scientifiques.

Lire l’article

Auteur(s)

  • Pierre SPITERI : Professeur émérite - Université de Toulouse, INP-ENSEEIHT – IRIT, Toulouse, France

  • Jean-Claude MIELLOU : Professeur honoraire - Université de Bourgogne Franche-Comté, Département de Mathématiques, Besançon, France

INTRODUCTION

Dans un premier article [AF 1 385] on a considéré la résolution de deux types de problème pseudo-linéaire. Le premier problème est un problème univoque du type

AU*+Φ(U*)=G ( 1 )

A est une matrice de dimension M , ensemble des entiers naturels, G et U sont des vecteurs de dimension M et

UΦ(U)estuneapplicationcontinuecroissante ( 2 )

Le second type de problème est multivoque car sa solution U est soumise à des contraintes inégalité du type

UminU*oubienUminU*UmaxoubienU*Umax ( 3 )

dans ce cas on est amené à résoudre le problème multivoque suivant

AU*+Ψ(U*)G0, ( 4 )

UΨ(U) est la fonction indicatrice de l’ensemble convexe K définissant les contraintes, ∂Ψ(U) est le sous-différentiel de cette fonction indicatrice et vérifie la propriété importante d’être diagonal monotone.

La matrice A étant de grande dimension, dans chaque cas, la détermination de la solution consiste à résoudre un système algébrique de grande taille. On associe alors à chacun de ces systèmes non linéaires une équation de point fixe définie formellement par

U*=F(U*) ( 5 )

cette dernière étant résolue par un algorithme parallèle asynchrone. Soit α un nombre entier naturel ; décomposons le vecteur VEM et l’application de point fixe VF(V) en α blocs de la façon suivante :

V=(V1,,Vα),F(V)=(F1(V,,Fα(V)), ( 6 )

où l’on note VIEI , le bloc-composante de V pour I{1,,α} , avec E=I=1αEI , où EI=mI , avec I=1αmI=M , est un sous-espace de E . Soient ||I les normes définies dans EI , l = 1, … , α.

Pour résoudre le problème de point fixe (5), on utilise les itérations parallèles asynchrones définies comme suit : soit U0E donné ; alors, pour tout r , U r+1 est défini récursivement par :

Ujr+1={FI(U1K1(r),,UkKk(r),,UαKα(r))siIs(r),UIrsiIs(r), ( 7 )

{r,s(r){1,,α}ets(r)0,I{1,,α},{r|Is(r)}estdénombrable, ( 8 )

et k{1,,α} ,

{r,Kk(r),0Kk(r)r,Kk(r)=rsiks(r)etlimrKk(r)=+ ( 9 )

Dans ce modèle mathématique de l’algorithme parallèle asynchrone, le parallélisme entre les processeurs est bien décrit par l’ensemble s(r) qui contient le numéro des composantes relaxées par chaque processeur de manière parallèle. De plus l’utilisation dans (7) de composantes retardées UkKk(r) provenant de relaxations disponibles au début du calcul, avec Kk(r) satisfaisant (9), permet de modéliser un comportement non déterministe et n’implique pas d’inefficacité du schéma de calcul distribué considéré. Sur le plan pratique, et pour que ces méthodes soient le plus efficace possible, on effectue des relaxations en prenant les valeurs d’interaction UkKk(r) les plus récentes disponibles calculées par les autres processeurs ; en fait ce choix s’effectue naturellement lorsque l’algorithme s’exécute sans que le programmeur n’ait à coder quoi que ce soit.

Pour analyser la convergence de ces méthodes itératives, on dispose de trois possibilités liées à des propriétés formellement distinctes

  • une propriété de contraction de l’application de point fixe F soit par rapport à une norme vectorielle soit par rapport à une norme uniforme avec poids ;

  • une propriété de convergence monotone qui est vérifiée uniquement pour le problème (1) puisque l’opérateur VA(V)=AV+Φ(V)G est une M-fonction continue surjective, c’est-à-dire hors diagonale décroissante et A(V) inverse monotone, i.e. A(V)A(U) entraîne V ≤ U, et de plus A(V) est supposée continue et surjective ;

  • les itérés successifs Ur appartiennent à des ensembles emboités Er centrés en U* .

Dans la mesure où dans la suite, on aura à utiliser l’un de ces résultats, on rappelle les critères présentés précédemment dans le premier article [AF 1 385] dans la section 1 suivante.

Cet article est réservé aux abonnés.
Il vous reste 95% à découvrir.

Pour explorer cet article
Téléchargez l'extrait gratuit

Vous êtes déjà abonné ?Connectez-vous !


L'expertise technique et scientifique de référence

La plus importante ressource documentaire technique et scientifique en langue française, avec + de 1 200 auteurs et 100 conseillers scientifiques.
+ de 10 000 articles et 1 000 fiches pratiques opérationnelles, + de 800 articles nouveaux ou mis à jours chaque année.
De la conception au prototypage, jusqu'à l'industrialisation, la référence pour sécuriser le développement de vos projets industriels.

DOI (Digital Object Identifier)

https://doi.org/10.51257/a-v1-af1386


Cet article fait partie de l’offre

Mathématiques

(167 articles en ce moment)

Cette offre vous donne accès à :

Une base complète d’articles

Actualisée et enrichie d’articles validés par nos comités scientifiques

Des services

Un ensemble d'outils exclusifs en complément des ressources

Un Parcours Pratique

Opérationnel et didactique, pour garantir l'acquisition des compétences transverses

Doc & Quiz

Des articles interactifs avec des quiz, pour une lecture constructive

ABONNEZ-VOUS

Lecture en cours
Présentation
Version en anglais English

3. Implémentation des algorithmes itératifs parallèles asynchrones

Les scientifiques qui ont étudié théoriquement les méthodes parallèles asynchrones ont évidemment été très intéressés à l’idée de pouvoir expérimenter ces méthodes en grandeur réelle. Cependant, au moment où ces études ont été lancées, il n’y avait pratiquement pas de machines multiprocesseurs.

Les premières expériences ont donc été réalisées en simulant des exécutions parallèles sur des machines monoprocesseurs. Les premières simulations ont été réalisées en 1967 par J.L. Rosenfeld au centre IBM Watson. D’autres simulations d’exécutions parallèles asynchrones ont été réalisées à la fin des années 1970 par P. Spiteri et al.  ; ces auteurs ont simulé le fonctionnement réel d’exécutions parallèles asynchrones sur une machine monoprocesseur. Dans le même temps, G. Baudet a pu tester ces méthodes sur la machine CMMP à l’Institut Carnegie Mellon ...

Cet article est réservé aux abonnés.
Il vous reste 95% à découvrir.

Pour explorer cet article
Téléchargez l'extrait gratuit

Vous êtes déjà abonné ?Connectez-vous !


L'expertise technique et scientifique de référence

La plus importante ressource documentaire technique et scientifique en langue française, avec + de 1 200 auteurs et 100 conseillers scientifiques.
+ de 10 000 articles et 1 000 fiches pratiques opérationnelles, + de 800 articles nouveaux ou mis à jours chaque année.
De la conception au prototypage, jusqu'à l'industrialisation, la référence pour sécuriser le développement de vos projets industriels.

Cet article fait partie de l’offre

Mathématiques

(167 articles en ce moment)

Cette offre vous donne accès à :

Une base complète d’articles

Actualisée et enrichie d’articles validés par nos comités scientifiques

Des services

Un ensemble d'outils exclusifs en complément des ressources

Un Parcours Pratique

Opérationnel et didactique, pour garantir l'acquisition des compétences transverses

Doc & Quiz

Des articles interactifs avec des quiz, pour une lecture constructive

ABONNEZ-VOUS

Lecture en cours
Implémentation des algorithmes itératifs parallèles asynchrones
Sommaire
Sommaire

BIBLIOGRAPHIE

  • (1) - ORTEGA (J.M.), RHEINBOLDT (W.C.) -   Iterative Solution of Nonlinear Equations in Several Variables.  -  Computer Science and Applied Mathematics. New-York: Academic Press (1970).

  • (2) - BERTSEKAS (D.) -   Distributed asynchronous computation of fixed points.  -  In: Math. Programming 27, p. 107-120 (1983).

  • (3) - SPITERI (P.), MIELLOU (J.-C.), EL BAZ (D.) -   Perturbation of parallel asynchronous linear iterations by floating point errors.  -  In: ETNA Electronic Transaction on Numerical Analysis 13, p. 38-55 (2002).

  • (4) - EL TARAZI (M.N.) -   Some Convergence Results for Asynchronous Algorithms.  -  In: Numerische Mathematik 39, p. 325-340 (1982).

  • (5) - MIELLOU (J.-C.), EL BAZ (D.), SPITERI (P.) -   A New Class of Asynchronous Iterative Algorithms with Order Intervals.  -  In: Mathematics of Computation 67, p. 237-255 (1998).

  • ...

1 Sites Internet

Grid’5000: https://www.grid5000.fr

Cloud Computing: https://www.wikipedia.org/wiki/cloud-computing

National Institute of Standards and Technology (NIST):

https://www.nist.gov

HAUT DE PAGE

Cet article est réservé aux abonnés.
Il vous reste 92% à découvrir.

Pour explorer cet article
Téléchargez l'extrait gratuit

Vous êtes déjà abonné ?Connectez-vous !


L'expertise technique et scientifique de référence

La plus importante ressource documentaire technique et scientifique en langue française, avec + de 1 200 auteurs et 100 conseillers scientifiques.
+ de 10 000 articles et 1 000 fiches pratiques opérationnelles, + de 800 articles nouveaux ou mis à jours chaque année.
De la conception au prototypage, jusqu'à l'industrialisation, la référence pour sécuriser le développement de vos projets industriels.

Cet article fait partie de l’offre

Mathématiques

(167 articles en ce moment)

Cette offre vous donne accès à :

Une base complète d’articles

Actualisée et enrichie d’articles validés par nos comités scientifiques

Des services

Un ensemble d'outils exclusifs en complément des ressources

Un Parcours Pratique

Opérationnel et didactique, pour garantir l'acquisition des compétences transverses

Doc & Quiz

Des articles interactifs avec des quiz, pour une lecture constructive

ABONNEZ-VOUS