URL: https://linuxfr.org/forums/general-cherche-materiel/posts/remplacer-un-petit-cluster-pour-consommer-bcp-moins-tout-en-gardant-de-la-puissance Title: Remplacer un (petit) cluster pour consommer bcp moins tout en gardant de la puissance Authors: laurent wandrebeck Date: 2014年10月26日T10:43:55+01:00 License: CC By-SA Tags: moosefs, cluster, centos, système_de_fichiers_distribué, debian, ubuntu et calcul_parallèle Score: 18 Salut, je dois, pour des raisons de consommation, remplacer le (petit) cluster du boulot. Pour information, nous faisons du traitement scientifique d’images satellites. Nous avons besoin de puissance de calcul et d’I/O (aussi rapide que possible). Actuellement, on a 6 nœuds + un maître. 46 cœurs, 2 à 3.5go par cœur, 72 disques (12 à 24 disques par machine), pour un espace total de 140to (70 réellement utilisables avec la solution actuelle). Logiciellement parlant, on a: [HTCondor](http://research.cs.wisc.edu/htcondor/) pour la répartition des tâches. [MooseFS](http://www.moosefs.org/) pour le FS réparti (dont la version 1 n’est plus maintenue, la 2 n’est plus libre). [Ganglia](http://ganglia.info/) surveille le tout. RienTM ne se charge de la configuration des machines sinon mes petits doigts. Le tout sur une plate-forme [CentOS 6](http://centos.org/) x86_64. Je dois, si possible avoir mieux, tout en consommant (bcp) moins, le tout sans éclater le petit budget d’environ 20k€ HT. J’ai trouvé 3 solutions matérielles qui semblent correspondre (je mets les liens vers là où on achète nos bécanes habituellement, si vous connaissez mieux, ça m’intéresse, nous ne sommes liés en rien à la boite en question). 1. [Une grosse babasse gavée de CPU et de disques.](http://www.actualis.biz/pro/acheter/power-store-4u/actualis-power-store-r4htp8xx24/FicheConfiguration/SACTCFG_R4HTP8XX-24) 1800W, 4U. 18k€. 48 cœurs opteron 6xxx, 256 go (max) de ram (5.3go/cœur), 24 disques 6to. Le gros inconvénient, si la machine lâche, on a plus aucun moyen de production, ni d’accès aux données. 2. [Un Power Cloud R3PCA12-24](http://www.actualis.biz/pro/acheter/3u-micro-cloud/actualis-power-cloud-r3pca1224/FicheConfiguration/SACTCFG_R3PCA12-24), 1620W, 3U, 20k€. 96 cœurs opteron 3380 en 12 servers, 32 go (max) soit 4go/cœur, 2 disques par serveur soit 24 total (6to toujours). Beaucoup de CPU même si ce ne sont pas les plus rapides du monde, un déséquilibre cpu/disques qui me fait craindre un côté I/O surchargé et donc lent. Par contre, si une machine tombe, on ne perd que deux disques ce qui risque d’être peu problématique côté système de fichier réparti pour la disponibilité des données. Machines « maxées » (impossible d’ajouter plus de cpu ou de ram). 3. [Un FatTwin 12 disquse](http://www.actualis.biz/pro/acheter/actualis-fattwin-4u/actualis-fattwin-r4ftx12-hadoop/FicheConfiguration/SACTCFG_R4FTX-12). 1620W, 4U, 23k€. 48 cœurs physiques/96 HT (intel xeon E5 2620v2) en 4 serveurs, 64 go (5.3 go/cœur), 256 max, 12 disques par serveur, 48 disques total. J’aime l’équilibre un disque/un cœur. J’aime beaucoup moins la chute d’une machine qui fait forcément que le FS réparti tombe avec (je ne connais pas de solution qui supporte à coût décent qu’un quart du volume disparaisse). La machine (à grands renforts de brouzoufs, intel n’y va **vraiment** pas avec le dos de la cuillère) peut évoluer en nombre de cpu (96 cœurs physiques max total) et en ram. Côté logiciel: 1. On garderait HTCondor qui fait bien son travail. 2. MooseFS est remplacé par une solution utilisant l’[Erasure Code](http://en.wikipedia.org/wiki/Erasure_code). Contrairement à MooseFS dont le coût est de 2 (réplicas) pour assurer un minimum de sécurité des données, cette technique permet un coût de 1.5 (je simplifie, pas la même de tergiverser). Je pense utiliser [RozoFS](http://rozofs.com/), mais rien n’est gravé dans le marbre. 3. Ganglia pourrait bien rester, HTCondor s’y intégrant bien (en théorie, j’ai pas eu le temps de faire la conf). 4. J’hésite à mettre en place une solution type Ansible/Salt/Chef/Puppet bien que je les trouve assez overkill pour si peu de machines. J’aimerais trouver plus simple/plus rapide à déployer. et tant qu’à faire y intégrer les desktops utilisateurs (CentOS) ainsi que notre malheureux serveur web/bdd. soit 7 machines utilisateur (dont un windows), les serveurs au nombre de x + la gateway + le serveur web/bdd + le failover. Je passerais, dans la foulée, les machines utilisateurs/serveurs à CentOS 7. Voilà pour le topo. Merci pour vos lumières, je reste terriblement indécis. Le FatTwin me fait de l’œil, mais niveau HA c’est pas génial. Le microcloud me fait de l’œil, mais niveau I/O, c’est pas génial. Quelqu’un connaitrait-il une solution entre les deux ? Pour le côté résistance, j’aime bien AMD...et quand je vois les prix Intel...bref. Merci d’avance pour vos conseils et propositions. (inutile d’essayer de me « vendre » du debian ou ubuntu ou suse ou que sais-je. l’OS utilisé n’est pas en cause, merci :))

AltStyle によって変換されたページ (->オリジナル) /