Ubuntu-fr

Miroslav

Cluster de calcul

Bonjour,

je cherche des indications sur le mode de fonctionement des clusters de calculs qui restent assez flou malgré mes recherches. Le réseau serait le suivant, un serveur / 4... clusters le tout en local. Je travails dans la 3D, il existe des solution de calcul en réseau mais elle sont un peu trop onéreuses pour moi.

1) Les clusters ont-ils besoin d'avoir les programmes du maitre pour contribuer au calcul ou mettent-ils simplement leur puissance à contribution comme s'il s'agissait d'un seul Pc dispaché, composé de plusieurs processeurs.

2) La ram de chaque clusters s'accumule-elle? je sais qu'ubuntu en gère 64Go, c'est tentant mmais j'ai pas besoin d'autant tout de même

d'avance merci

coethium

Re : Cluster de calcul

Salut, je n'ai jamais fait de tests grandeur nature, mais j'avais fait quelques tests en émulateur avec Kerrighed.
C'est une modification du noyau pour transformer un réseau de machine en une machine SMP virtuelle. Autrement dit t'as un cluster qui est représenté virtuellement par une machine multiprocesseur, ce qui correspond bien à ton besoin de calcul 3D.
Le système de fichier doit être le même pour toute les machines (NFS) ; et oui la RAM s'accumule.

Miroslav

Re : Cluster de calcul

Merci, ça sent bon la ferme de calcul ça...
L'offre Kerrighed correspond exactement à ce que je recherche, mais home made. Je vais recentrer mes recherches. Si certains ont d'autres pistes je reste preneur

boutor

Re : Cluster de calcul

As-tu plusieurs PC pour faire ta baie de calcul?

jibe

Re : Cluster de calcul

Salut,

Je tombe là-dessus un peu par hasard, et c'est justement un truc que je me voudrais étudier. Jamais bien eu le temps pour le moment...

La machine SMP virtuelle est tout à fait ce que je recherche : cela permet que, dans un petit réseau, les bécanes puissent mettre en commun leur puissance de calcul, ce qui peut être très utile lorsque l'une a de gros besoins (calculs 3D, rippage de DVD etc.) alors que les autres n'ont besoin que de très peu (bureautique...).

Une question à étudier : comment cela se passe-t-il lorsque le nombre de bécanes en service n'est pas constant, y compris pendant le partage de ressources : pendant un gros calcul 3D, que se passe-t-il si quelqu'un qui a fini de se servir de sa bécane l'arrête, et si un autre en met une en route ?

Bon, ce post m'aura au moins donné une piste de recherche et redonné l'envie de me pencher sur le sujet. Reste plus qu'à trouver le temps ! On se tient au courant...

---

Il y a deux manières de paraitre supérieur : en montrant sa valeur ou en dévalorisant les autres.

jibe

Re : Cluster de calcul

As-tu plusieurs PC pour faire ta baie de calcul?

Non, il voulait faire un cluster d'un seul PC

Excuse-moi de le prendre un peu à l'ironie, mais je ne comprends pas le sens de ta question ?

---

Il y a deux manières de paraitre supérieur : en montrant sa valeur ou en dévalorisant les autres.

francoisp31

Re : Cluster de calcul

je ne sais pas si ca se passe tjrs comme ça mais à l'époque sous open-mosix
seuls les threads se deplacait de machines en machines et donc les perfs étaient pas terrible de l'ordre de 4 host pour avoir 2* plus de perfs, 8 hosts pour 4* etc... à machines identiques...

toutes les machines doivent monter la meme baie de disque (ou le meme disque partagé) ce qui revient au meme,
et il faut bien sur un switch specifiquement pour le cluster et donc 2 cartes reseaux par hosts
1 pour le clustering
1 pour les accès aux ressources communes (comme les disques de données).

et il fallait les memes softs partout bien sur...

l'avantage qu'avait mosix c'est que les hosts sont auto-detectants et donc si un est allumé  ou éteint ca gene pas les autres !!

Je n'ai jamais utilisé de techno de clustering plus modernes.... je serai curieux de le faire par contre

---

Que les puces d'un millier de chiens galleux infeste le cul de celui qui osera vous gacher ne serai ce
qu'une seule journée de votre vie et que les bras lui soient trop court pour qu'il puisse se le gratter.

boutor

Re : Cluster de calcul

As-tu plusieurs PC pour faire ta baie de calcul?

Non, il voulait faire un cluster d'un seul PC

Excuse-moi de le prendre un peu à l'ironie, mais je ne comprends pas le sens de ta question ?

Avec Kherriged, ils émulent un cluster sur une seule machine multicore. Donc ma question était posé par rapport à cet utilitaire pour voir si c'est déployable aussi sur plusieurs pour émuler une plus grande baie.

C'est vrai que ma question seule sonnait un peu bizarre...

boutor

Re : Cluster de calcul

Une question à étudier : comment cela se passe-t-il lorsque le nombre de bécanes en service n'est pas constant, y compris pendant le partage de ressources : pendant un gros calcul 3D, que se passe-t-il si quelqu'un qui a fini de se servir de sa bécane l'arrête, et si un autre en met une en route ?

Avec Sun Grid Engine, si tu n'as pas de calculs parallèles lors de l'arrêt de la machine, ça se passe bien. Sinon, ton calcul parallèle tourne sans fin sur les nœuds toujours actifs, qui attendent.

Et tu peux allumer et éteindre à volonté tes nœuds, SGE se débrouille s'ils 'ont que des jobs séquentiels ou rin(mieux d'avoir rien). Mais je ne vois pas trop l'intérêt. Moi il s'arrêtent quand j'ai un problème matériel, en général.

jibe

Re : Cluster de calcul

Salut,

As-tu plusieurs PC pour faire ta baie de calcul?

Non, il voulait faire un cluster d'un seul PC

Excuse-moi de le prendre un peu à l'ironie, mais je ne comprends pas le sens de ta question ?

Avec Kherriged, ils émulent un cluster sur une seule machine multicore. Donc ma question était posé par rapport à cet utilitaire pour voir si c'est déployable aussi sur plusieurs pour émuler une plus grande baie.

C'est vrai que ma question seule sonnait un peu bizarre...

Je comprends mieux en effet !

Mais... N'y a-t-il pas confusion ? D'après ce que j'ai compris, Kerrighed permet de considérer un parc de bécanes en réseau comme une seule machine SMP ou multicore. Je ne vois pas trop l'intérêt de mettre en place Kerrighed sur un seul PC multicore pour en faire... un multicore !?!

Avec Sun Grid Engine, si tu n'as pas de calculs parallèles lors de l'arrêt de la machine, ça se passe bien. Sinon, ton calcul parallèle tourne sans fin sur les nœuds toujours actifs, qui attendent.

Ok, intéressant ! Surtout que je n'avais jamais entendu parler de Sun Grid Engine : une piste de plus à étudier

Mais je ne vois pas trop l'intérêt. Moi il s'arrêtent quand j'ai un problème matériel, en général.

Sans être un fan des économies d'énergie, comme certains qui traquent et cherchent à éteindre la moindre LED allumée, je pense qu'il est des cas où c'est bien de pouvoir éteindre certains noeuds. Par exemple, j'envisage entre autres la mise en place d'un tel cluster dans mon réseau familial, pour booster un peu certaines vieilles bécanes, accélérer le ripage de DVD etc. Et je pense important d'apprendre à mes enfants de ne pas laisser en marche une bécane qui ne sert pas : ce n'est pas tant pour la conso que pour l'habitude... Si on laisse en route son PC quand on va manger, pensera-t-on à éteindre le chauffage d'appoint lorsqu'on part en week-end ?

J'ai cru comprendre qu'OpenSSI savait transférer automatiquement les process d'un noeud avant son arrêt vers un autre noeud actif. J'ai lu que Kherriged ne savait pas le faire, mais sur un document datant de 2004...

J'ai trouvé quelques liens, pour ceux que ça intéresse :
https://wiki.ubuntu.com/EasyUbuntuClustering/UbuntuKerrighedClusterGuide
http://blog.gaetan-grigis.eu/systeme/monter-un-cluster-avec-kerrighed-sur-son-reseau/
http://fr.wikipedia.org/wiki/Kerrighed

---

Il y a deux manières de paraitre supérieur : en montrant sa valeur ou en dévalorisant les autres.

boutor

Re : Cluster de calcul

AH! J'avais tout compris à l'envers pour kherriged... Merci pour les précisions.

Si tu fais un réseau de cette sorte, pourras tu faire un tutoriel. J'aimerais bien faire pareil chez moi, pour délester mon PC principal.

Avec quoi parallélises-tu le ripage de DVD?

Merci.

jibe

Re : Cluster de calcul

Salut,

Si tu fais un réseau de cette sorte, pourras tu faire un tutoriel. J'aimerais bien faire pareil chez moi, pour délester mon PC principal.

Un tuto ? Oui, il est probable que j'en ferai un... Si je ne fais pas ça à la va-vite en oubliant de prendre des notes... et en étant totalement incapable deux mois après de rajouter un nouveau PC dans le cluster (ça m'arrive...)
Bon, j'essaierai de faire un effort sur ce coup !

Mais pour le moment, tout cela n'est qu'un rève : je manque de temps et j'ai d'autres trucs plus urgents. Ce ne sera en tous cas pas avant plusieurs mois. Ce serait mieux qu'un autre fasse le tuto, et que je n'aie plus qu'à le suivre

Avec quoi parallélises-tu le ripage de DVD?

En fait, pour ça, il n'y a même pas besoin de cluster : un simple réseau ordinaire suffit. Dvdrip est prévu pour cela et contient la gestion du cluster, seuls NFS et SSH sont éventuellement à rajouter aux PCs du réseau. Tout est expliqué dans ce document.

Dernière modification par jibe (Le 22/01/2010, à 21:07)

---

Il y a deux manières de paraitre supérieur : en montrant sa valeur ou en dévalorisant les autres.

phildart007

Re : Cluster de calcul

Quelqu'un a t-il dèja réaliser un cluster avec ubuntu ?
es ce qu'il y a des tuto ?

boutor

Re : Cluster de calcul

Transtec met Debian sur ses clusters.

Donc avec Ubuntu, ça ne doit pas être très différent. Par contre trouver un tuto?

phildart007

Re : Cluster de calcul

MERci ...
Je cherche à réaliser par moi -même le clusteur.
je ne peux pas m'adresse à une boite.

boutor

Re : Cluster de calcul

Bien sûr! Surtout que Transtec, ça douille...
C'était juste pour te donner l'information, que ça a été fait (plus ou moins).

Est-ce que tu veux des nœuds sans interface graphique?

phildart007

Re : Cluster de calcul

oui, je préférais une interface graphique..

boutor

Re : Cluster de calcul

Parce que tu peux avoir l'interface graphique que sur le ou les maîtres. Et ainsi rendre tes calculs plus rapides sur les noeuds.

Tu peux aussi partager les disques durs en montage NTFS, etc... Mais je ne suis pas un spécialiste.

phildart007

Re : Cluster de calcul

Je fais des recherches sur Internet sur le sujet...
Pour le moment, je n'ai pas trouve de tuto pour réaliser une grappe de calcul.
J'utilise un code de CFD "code_saturne" qui est parallèlise avec OpenMPI. Pour le moment, je le fais tourner sur une HP xw 6600 qui a huit coeurs. J'ai plusieurs machine de ce type. Et je vous faire tourne le code sur deux machines sur 16 coeurs.

boutor

Re : Cluster de calcul

Je te conseille vraiment d'avoir des calculateurs sans interface graphique avec un noyau minimaliste. Les gains sont sensibles.

Je fais aussi de la CFD sur grappe de calcul et les gains sont impressionnants quand on met une interface graphique que sur le maître.

As-tu le matériel nécessaire pour les échanges réseau? Sinon tu vas ralentir les calculs.

phildart007

Re : Cluster de calcul

Je vais faire une connexion direct (pour deux PC), ou utiliser un hub pour une baie.  Pas besoin de gestionnaire de job, il y aura qu'un seul utilisateur ! Oui, Si interface graphique que sur le maitre...

caphad

Re : Cluster de calcul

J'ai cru comprendre qu'OpenSSI savait transférer automatiquement les process d'un noeud avant son arrêt vers un autre noeud actif. J'ai lu que Kherriged ne savait pas le faire, mais sur un document datant de 2004...

J'ai trouvé quelques liens, pour ceux que ça intéresse :
https://wiki.ubuntu.com/EasyUbuntuClust … usterGuide
http://blog.gaetan-grigis.eu/systeme/mo … on-reseau/
http://fr.wikipedia.org/wiki/Kerrighed

J'ai trouvé ça sur Wikipédia:

Les fonctionnalités de Kerrighed comportent :

    gestion globale des processus ;
        identifiant de processus unique sur le cluster,
        migration de processus, avec fichiers ouverts, pipes, sockets, segments de mémoire partagée, etc.
        ordonnanceur global de processus, « à la MOSIX »,
        interfaces UNIX de gestions de processus pour l'ensemble du cluster,
        ordonnanceur distribué adaptable,
    gestion globale de la mémoire;
        prise en compte des segments de mémoires distribués système V,
        injection en mémoire (expérimental)
    redémarrage / contrôle ;
        de processus uniques,
        d'applications (expérimental)
    Architecture ;
        support de SMP / machines multicoeurs
        support des architectures x86_64

Je ne sais plus où j'ai lu ceci mais le texte disait que l'on pouvait retiré des clusters  "a chaud". Et mosix est plus agé donc plus de fonctions. Et en même temps, Kerrighed a "prit de l'âge" depuis 2004.

jibe

Re : Cluster de calcul

Salut,

Heu... Si tu cites, il ne faudrait pas oublier de mettre l'auteur ou au moins le cadre de citation. La première partie de ton post est une copie de ce que j'avais dit dans celui-là ! Ce serait sympa de rendre à César ce qui est à César et à moi ce qui est à moi !

---

Il y a deux manières de paraitre supérieur : en montrant sa valeur ou en dévalorisant les autres.

caphad

Re : Cluster de calcul

Désole. J'ai lu rapidement.
Mais par contre, comment cela ce fait t'il que les liens n'ont pas été intégré dans ton message. Il y a une nouvelle version entre temps? Je n'ai personnellement pas eu de problème avec ça.

caphad

Re : Cluster de calcul

Sinon il y a aussi:
http://www.xtreemos.eu/
Je pense que c'est basé sur Kerrighed. Ou en tous cas, il y a un rapport car ce PDF trouvé sur google pointe vers ce site:
http://www.xtreemos.eu/project/xtreemos … lavour.pdf