Supercomputer (cluster)

Pozdravljeni!
Zanima me samo kateri sistem se poganja na supercomputerjih oziroma clusterjih?

Če npr nardim Hyper v cluster iz 3 računalnikov.
In gor bi laufal 2 virtualke in vsi 3 računalnike bi hkrati dajali resurse ali 1 za prvo virtualko 2. za drugo in tretji bi bil v rezervi če prva ali druga tega nemore opravit?>

Prvotno vprašanje nima sploh veze s tem kar želiš. Malo si mogoče naivno predstavljaš vse skupaj.

Za Windows nimam izkusenj.

Na GNU/Linux je relativno enostavno. Namestis operacijski sistem na glavni racunalnik in vozlisca, namestis job scheduler (SGE, SLURM, ...), se malo poigras z nastavitvami in stvar dela ko Singerca.

Samo vseeno - tisto, kar se poganja v superračunalniških clustrih ni 'off the shelf software', temveč programi, ki so bili že v sami osnovi pisani za poganjanje v multiprocesorskih okoljih.

Drugače pa zadeva postane zanimiva, če greš gledat na 'low end' stran 'superračunalnikov'. Na Youtube najdeš kup videov, kjer so povezovali Raspberry PI-je v 'cluster' - vse od dveh, pa tja do 64 RPI-jev so povezali v 'superračunalnik'. To stvar dejansko približuje v cenovni doseg, ki si ga lahko privošči tudi kakšen zagret študent, da se lahko uči konceptov programiranja za takšna okolja, kasneje pa kodo in izkušnje prenese na nek pravi superračunalnik.

pegasus je 18. jun 2015 ob 21:53 izjavil:

Načinov je veliko, katerega uporabit, je najbolj odvisno od problema, ki ga rešuješ.
Obstaja windows hpc, a je po mnenju večine zgolj slaba šala.
Si prepričan, da ločiš pojma računske gruče in visoke razpoložljivosti? Čeprav so oboji "clustri", so to zelo različni clustri.

Ne ločim, priznam, to prvič slišim.
Moje vprašanje se je navezovalo konkretno na cpu rendering, pri čemer obstajajo namenski managerji, ki razporedijo taske med računalnike, vendar je zoprno vzdrževanje,zamudne nadgradnje vseh računalnikov, stalno kake komplikacije in tudi drage licence programov...
Ne poznam teh rešitev in ker nisem prepričan, da kakšna obstaja, se nisem več poglabljal. Vsaka informacija pa je seveda dobrodošla.

Moje vprašanje se je navezovalo konkretno na cpu rendering, pri čemer obstajajo namenski managerji, ki razporedijo taske med računalnike, vendar je zoprno vzdrževanje,zamudne nadgradnje vseh računalnikov, stalno kake komplikacije in tudi drage licence programov...

Na GNU/Linuxu je vzdrzevanja gruce racunalnikov precej enostavno. Dodatno si ga lahko poenostavis, ce operacijski sistem na racunski vozlih (t.i. node-ih) zaganjas preko mreze. O kaksnih komplikacijah in dragih licencah govoris? GNU/Linux je zastonj, prav tako SGE in SLURM, ki se uporabljata za zaganjanje jobov na clustru. Enako velja za programsko opremo, ki jo uporabljam.

Kar nekaj let sem administriral stiri Linux clustre, pa nisem imel nekih problemov s programsko opremo. Trenutno se spilam s clustrom virtualnih masin (headnode + 4 racunski vozli) in nekih "stalnih komplikacij" bas nimam. Head node dodatno uporabljam za hrambo podatkov in kot proxy.

Ima kdo kaj znanja iz tega? Imam mašino, ki ima 4 grafične s po 192 cuda proci. Kaj vse je potrebno naredit, pa kje, da bi to recimo delovalo.

Linux: scheduler na obeh masinah + OpenMPI (ali neko knjiznico z MPI implementacijo) + CUDA na tej masini + ustrezen SW za rendranje/racunanje

remoteFX je za virtualiziranje GPU-jev. In to mi deluje sedaj na hyperV-ju na eni mašini brez problemov, tako da lahko iz virtualke dostopam direktno do cuda procov.

Sicer sem sprobal samo na Z400 mašini z dvema quadrotoma 2000, ampak tam preverjeno deluje.

mtech7 je 18. jun 2015 ob 23:42 izjavil:

Moje vprašanje se je navezovalo konkretno na cpu rendering, pri čemer obstajajo namenski managerji, ki razporedijo taske med računalnike, vendar je zoprno vzdrževanje,zamudne nadgradnje vseh računalnikov, stalno kake komplikacije in tudi drage licence programov...
Ne poznam teh rešitev in ker nisem prepričan, da kakšna obstaja, se nisem več poglabljal. Vsaka informacija pa je seveda dobrodošla.

Vsi problemi z vzdrževanjem, nadgradnjami ipd so že zdavnaj rešeni. Temu se v današnjem IT svetu reče "configuration management". Licence so problem poslovnih modelov, ki se aktivno rešuje in razvija na vseh nivojih, posebej sedaj pri prehodu na pay-as-you-go cloud modele ... načeloma gre tu za dogovor s softver vendorjem ali pa končaš z odprtokodno rešitvijo. Kar je sedaj že kar resna izbira, slišal sem da je zadnji blendrov renderer čisto uporaben tudi v profi okoljih.

Povej malo kaj bi rad počel, kakšni so tvoji interesi in finančne zmogljivosti, pa bomo videli, kam lahko pridemo. Lahko se tudi oglasiš pri nas in se pogovorimo konkretno.

SeMiNeSanja je 18. jun 2015 ob 12:41 izjavil:

Samo vseeno - tisto, kar se poganja v superračunalniških clustrih ni 'off the shelf software', temveč programi, ki so bili že v sami osnovi pisani za poganjanje v multiprocesorskih okoljih.

Drugače pa zadeva postane zanimiva, če greš gledat na 'low end' stran 'superračunalnikov'. Na Youtube najdeš kup videov, kjer so povezovali Raspberry PI-je v 'cluster' - vse od dveh, pa tja do 64 RPI-jev so povezali v 'superračunalnik'. To stvar dejansko približuje v cenovni doseg, ki si ga lahko privošči tudi kakšen zagret študent, da se lahko uči konceptov programiranja za takšna okolja, kasneje pa kodo in izkušnje prenese na nek pravi superračunalnik.

Kaj pa http://www.parallella.org/?

Pred kratkim sem se navdušil nad cluster. Imam nekaj računalnikov enake strojne kofiguracije, pa sem se odločil da probam (vem da to ni pogoj). Prosil bi če lahko kdo pojasni kako se to uporablja, kater software lahko zaženem na cluster. Z linuxom znam delat (sproti se še učim). Polno je vodičev kako namestiti cluster computer in dodajati node. Zanima me edino katere programe se lahko poganja potem gor. Kaj potegnem dol source z githuba in skompajlam na vseh ali kako in uporablja vse cpuje oziroma gpuje? Hvala.

Probal bom beowulf prvo. Zanima me samo kako potem namestim program. probal bi s tem https://github.com/pooler/cpuminer . vem da ne bom nč zaslužu, rad bi pa probal kako deluje.

Fantje zakaj tok radi odgovarjete v smislu, ti ne rabiš to, ti rabiš to, ne splača se ti, predrago te bo prišlo,....

Jaz bi samo rad vedel če se da to zalufat in kako. to je vse. Hvala

LP,
sam sem delal na enem takšnem HPC. Glavna + 36 enot.

Glavna enota: 2x Intel Xenon E5520, 4 HDD povezane v RAID 10, 24GB RAM, 2x1Gbps Ethernet
Ostale: 1x Intel Xenon E5520, 1 HDD, 6GB RAM, 8x1Gbps Ethernet
Ostala oprama: UPS, 8x1Gbps switch

SW:
Glavna enota:
OS: GNU/Linux - Ubuntu server.

Ostale enote: poljubno.

Sistem sem si zastavil tako, da se zagon izvrši preko PXE boota, kar pomeni da so vsi OS/podatki shranjeni na glavni enoti (disk na ostalih enotah je za tmp/swap). Trenutno na pod enotah teče Ubuntu-server (ni bilo povpraševanja za druge distribucije).

Sistem je zasnovan tako, da se ga lahko za določeno stranko čim hitreje priredi npr.: želiš imeti svoj sistem z root dostopom na 10 enotah, ni panike ga dobiš v 5 minutah. Ko končaš delo se lahko to ugasne in se gor zažene druga konfiguracija.

Kar se tiče programov je odvisno od želje uporabnika. Eni furajo GROMACS (mulekularna dinamika), NAPOM (vreme), svoje programe pod OpenMPI ali MPICH2. Zato je pač sistem sestavljen tako, da se lahko vsakemu priredi OS, ki ga lahko potem poganja na N mašinah.

Sam se nisem osredotočal kaj lahko gor teče, zame je važno, da je sistem kot celota. Inštaliraš na enem mestu in je povsod, spremeniš na enem mestu in se spremeni datoteka povsod. Hočeš konfiguracijo hyper-cube pa ti SW avtomatsko postavi route, da promet leti na različne Eth kartice. Če izpade elektrika in je baterije v UPSju malo, naj se začnejo enote izklapljat itd.
V glavnem malo morje skriptanja.