» »

Osem tisočakov za 67 terabajtov

Osem tisočakov za 67 terabajtov

Slo-Tech - Backblaze je komercialna spletna stran, ki uporabnikom za pet dolarjev mesečno ponuja neomejeno količino prostora na svojih strežnikih, ki ga lahko uporabijo za shranjevanje varnostnih kopij. Ker to pomeni na tone podatkov, so morali iznajti način, kako vse silne petabajte podatkov poceni uskladiščiti. Predpripravljene rešitve so se izkazale za pregrešno drage, zato so fantje sedli skupaj in sestavili svoje - Linuxove strežnike velikosti 4U rack, ki za 7.867 dolarjev nudijo 67 terabajtov prostora.

In iz česa sestojijo? Gre za običajne komponente, ki jih najdemo tudi v domačih računalnikih. Na eno Intelovo matično ploščo priključijo štiri kartice SATA. Skupno je tako na tak sistem povezanih 45 diskov, kar porabi precej električne energije. Diski trošijo energijo s petvoltno napetostjo, medtem ko so napajalniki bolje pripravljeni na velike tokove na dvanajstvoltnih priključkih, zato so uporabili dva navadna ATX-napajalnika. Drugi problem so vibracije, ki jih takšna armada diskov povzroča, zaradi česar so jih posadili v gumijaste rokave, celotno stranico nad diski pa obdali s peno.

Še beseda o programski opremi. Ta je odprtokodna, saj je prva misel skrbnikov Backblaza nižanje stroškov. Poganja ga Debian 4 Linux, diski pa uporabljajo datotečni sistem JFS. Za varnost podatkov je poskrbljeno z aplikacijo mdadm, ki uvaja RAID6, tako da morajo hkrati odpovedati trije diski od petnajstih, da bi prišlo do izgube podatkov. Dostop do podatkov poteka izključno prek HTTPS.

Tako pripravljene kište podatkov so le osnovni sestavni deli, iz katerih je potem zgrajeno celotno skladišče podatkov. Programska oprema na višjem nivoju skrbi za enkripcijo podatkov, podvajanje, indeksiranje, ukvarjanje z odpovedmi strežnikov (ki se redundanci RAID6 navkljub dogajajo) itn.

51 komentarjev

«
1
2

Pyr0Beast ::

Kar 2x ? :0
Some nanoparticles are more equal than others

Good work: Any notion of sanity and critical thought is off-topic in this place

LordPero ::

Neat.

Edit: What, whoa?? On/Off Switch $30.00 -really? Saj res da so to zelo lepe tipke, sam to je biznis. Pa tudi PSUji so mal dragi, kr majo sam konektorčke zamenjane (in nasploh se bi na komponentah še dalo kej prišparat, predvsem z izbiro). Pa tudi noben se pri sestavi tega niti malo ni sekiral glede učinkovitosti porabe energije.
Še vedno pa zelo ql Blackblaze, itaq je 2/3 denarja sam za HDDje (ampak lahko bi blo 4/5 :)).
LordPero

Zgodovina sprememb…

  • spremenil: LordPero ()

axee ::

Me zanima koliko se tole zagreje! :D

karagoth ::

To mi je všeč, home made rešitve :D

Kolk se greje.., če sta dva navadna recimo 500W napajalnika pa da morta delat pri polni moči, kar verjetno ne, ampak rečmo za hec, je to še vseeno samo 1000W. Kar niti en zmern kalorifer ni :P

steev ::

Sej 500W napajlnik ne pokuri tolko štroma
:|

darkolord ::

1TB disk ima porabo približno od 2.8W (idle) do 5.4W (read/write). Če bi VSI hkrati delali na polno, bi to bilo 240W za diske...

galu ::

1TB disk ima porabo približno od 2.8W (idle) do 5.4W (read/write). Če bi VSI hkrati delali na polno, bi to bilo 240W za diske...


Tolko ena dobra grafa pokuri, tak da to sploh ni tolk veliko...
Tako to gre.

axee ::

Ne zanima me kakšno temperaturo dosežejo diski. Kot vidm samo trije ventilatorji skrbijo za celotno ventiilacijo tko da se morjo kr matrat...

Zakaj pa jih skrbijo vibracije? Sj najbrž je taka ropotuljica nekje na samem, kjer nobenega ne moti.

e-marko ::

Ne skrbi jih zvok zaradi vibracij ampak crkot diskov zaradi vibracij.

LP
...somebody, somewhere...

black ice ::


Zakaj pa jih skrbijo vibracije? Sj najbrž je taka ropotuljica nekje na samem, kjer nobenega ne moti.

Kaj pa medsebojne motnje med diski samimi? 45 diskov ni tako malo...

JurijTurnsek ::

no torej, rečimo še kako besedo o zaupanju tej firmi? bi jihm vi zaupali svoje podatke? 5$ je zelo ugodna cena, če imaš recimo video ali foto arhiv...
http://www.slatnaskejta.com

Icematxyz ::

...



No treba je še dodati da tega imajo polno sobo.

...



Še bolj podrobno cena razdelana.

...



In pa primerjava z alternativami glede na stroške.

Če bo zadeva delovala zanesljivo potem so moram reči se resnično znašli in osmešili konkurenco.

Zgodovina sprememb…

  • zavarovalo slike: gzibret ()

Mr.B ::

1300 € Ohišje za 24 diskov : http://www.supermicro.com/products/chas...
900 € Ohišje za 24 diskov - napajalniki (200€ na kos) : http://www.supermicro.com/products/chas...
* paziti le na utrezni backplain za diske, tako da ne potrebuješ skupaj 48 kablov, v taki in drugačni varianti
* 48 diskov
* možnost še dva diska v vsakem ohišju skupaj 50 diskov
280 EUR Matična plošča : http://www.supermicro.com/products/moth...
190 EUR INTEL Xeon E3110 3.00/1333 : http://www.intel.com/p/en_US/products/s...
160 EUR 3x2GB PC10600 DDR3 ECC
************************************
2830 EUR samo ohišja plata in napajalniki

Krmilnik :
* Odvisno od backplaine, oziroma navaden HBA + expander pride poceni, samo se mi ne da iskti, torej manj kot 1000EUR, če pa krmilnik pa recimo
2500 EUR 2x 3WARE ESCALADE 9650SE-24M8
* če uporabiš samo HBA in expenderje verjetno nekje tam na 500EUR + SW Raid

Diski :
3840 EUR (48x 80 EUR) 1 TB SATA disk. Realno pri takih količinah tam 50EUR torej vsaj 1000 EUR manj....
***************
9170 EUR


Dejansko če bi recimo rekel 50 takih škatelj, je ?, če nbi cena bila 50 %, ali pa še manj, če bi šel direktno do proizvajalcev.
Kar pa je potrebno računati je to da je potrebno računati prostor, ki ga zavzame ta konfiguracija. Zunaj prostor stane, pri nas je bolj poceni.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

Zgodovina sprememb…

  • spremenil: Mr.B ()

Mr.B ::

Kar se tiče zanesljivosti servisa itd…
Lepo piše da na raid lahko crknejo trije diski. Drugo je to da je replikacija podatkov na n ostalih podobnih sistemov, tako da je če pade ena zadeva dol, skoraj nepomembno, ker obstaja vsaj še ena živa kopija, če še ne več…
Dejansko ne vidite problema, neka backup knižnica za 100x 1 PB podatkov je tam miljonček. Fantje pa govorijo da računajo v PB. Torej en celi server room na drugi lokaciji z replikacijo podatkov .

Zanesljivost pa je ponovno nepomembna, dokler imaš 2N +1 kopije. V informacijo en brand name strežniški Hot Plug disk SATA 1 TB stane tam 480€ + DDV, sedaj pa računajte 45x480 € = 21.000€ , za ta denar samo iz diskov postavim dve škatli. Da ne omenim, kakšno SAN varianto kjer pride tak disk 1.000 €. Torej raje ogromna količina takih škatel, pa se ne sekiraš za izpad diskov, ker imaš verjetno eno omaro rezervnih diskov. Enako lahko še prišparaš s klimo. Namesto 20°C za hlajenje, si nastaviš samo sušenje zraka da ne pride do kondenzacije, pa enostavno prepih od zunaj. Za hlajenje poskrbiš samo za kritične dele, ki so v ločenem strežniškem prostoru…

Primer s 24 diski je tudi dober za kakšno Vmware mašino , Xen, Hiper-v… ali pa iSCSI box. V tako škatlo daš notri 4x 6core AMD ali intel procesorje , s 128 GB spomina dva SAS RAID krmilnika, en ali dve 10Gbps mrežni za iSCSi, in podobno…
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

misek ::

Kot vidm samo trije ventilatorji skrbijo za celotno ventiilacijo tko da se morjo kr matrat...
Ventilatorjev je 6 - trije so še na sredini škatle.

pegasus ::

Tele škatle so sicer kul, ampak v praksi neuporabne za večino potreb. Če sem prav razumel, ta firma fura "backup in the cloud" štorijo, kar pomeni, da mora biti njihov storage velik gazilion PB, write once, read maybe.
Škatla ima toliko bottleneckov, da dvomim, da dobijo kakršenkoli uporaben performance iz nje. Poglejmo: 5 diskov na en sata port prek multiplier boarda. Raid6, kar pomeni read iz vseh diskov za modify enega samega bloka (treba novo pariteto zračunat) in potem write na tri diske (dva parity + modified blok). Yay. In na koncu še JFS, ki ga je IBM sportal na linux samo za migracijo njihovih OS/2 strank in se ne ponaša z nekimi performancami, ponaša pa se z najmanjšim cpu usageom in disk space overheadom, ki je tudi med najmanjšimi, se pa ne spomnim trenutno, če je res tudi najmanjši. In iz tega se vidi, kje je njihov fokus.

Pozabite dečki, tole bi bilo pogojno uporabno samo za domači movie server ...

karagoth ::

Sej si si pa pravzaprav sam odgovoril na komentar. Velik placa, write once, read maybe... za tako zadevo ne rabiš devat skup SCSI pa najbolši in najmočnejši hardware da to podpira in premelje. To so stvari za visoko obremenjene strežnike ane.
Tak so pa vzeli običajne desktop komponente, dobijo maksimalno placa za minimalno dnarja in stvar služi točno svojemu namenu. In res verjetno ne presega nobenega domačega mlinčka ki ma raid.

Js bi to definitivno hoto met, pol bi si pa internet dol potegno :P

bosko1982 ::

mi bo keri kupil/podaril enega?:D pivo mu plačam8-)

Icematxyz ::

Za pivo nekje lahko mesec dni uporabljaš njihovega.

gazibo ::

correct me if im wrong ampak kokr sm jst razumel je tole tko:

imam recimo 5TB disk polhn HDBitsovih encodeov, plačam 5$ mesečno Backblaze service-u da mi dela backup vseh teh 5TB ? in teh 5TB podatkovja lahko kadar čem potegnit spet dol v primeru da mi škripnejo diski ? ( pa odštejmo da bi se 5TB cel ovečnost UL/DL )

mi ni jasno kako nek dropbox preživi ob taki konkurenci :-/

Pyr0Beast ::

Vrjetno še kaj plačaš za DL/UL.
Some nanoparticles are more equal than others

Good work: Any notion of sanity and critical thought is off-topic in this place

filip007 ::

Jaz mam za backup 8GB Corsair flash cena 30€, 5let garancije, pa še z vodo ga lahko polivam.
Palačinka z Ajvarjem in stopljenim sirom v mikrovalovki.

JurijTurnsek ::

Jaz mam za backup 8GB Corsair flash cena 30€, 5let garancije, pa še z vodo ga lahko polivam.


in meniš, da imamo tudi drugi samo 8gb back-up vrednih podatkov? sicer pa, lahko tebi :)
http://www.slatnaskejta.com

Mr.B ::

Za domačega uporabnika je 8 GB podatkov vrh glave, z vključno s slikami. S slikami zato ker verjamem da imate 100GB domačih slik in posnetkov, toda sklepam da imate nekaj takih ki ste jih pripravili in tako in drugče razvili za album, tako da teh najlepših in te so uni best , brez katerih bi se podru svet. Sklepam pa da ima vsak kdo kak star disk, kamor kopira vse podatke, in ne samo tistih 8 GB. DVD ni backup medij za trajni backup :))
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

Gregor P ::

Napačno sklepaš8-)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

MrStein ::

Vrjetno še kaj plačaš za DL/UL.

Pol bi že pisalo na ceniku. Ali na opisu v wikipediji. Pa piše le : 5$/mesec
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

filip007 ::

Ne delam backup filmov in igric za slike pa se res ne rabi toliko.

Kaj pa vi shranjujete na TB diske ali imate že vsi svoje privatne trackerje.
Palačinka z Ajvarjem in stopljenim sirom v mikrovalovki.

Zgodovina sprememb…

  • spremenil: filip007 ()

gazibo ::

Vrjetno še kaj plačaš za DL/UL.


zakaj bi pa za UL plačeval ? čemu pol tistih 5$ mesečno ?

bluefish ::

5$/mesec in to je vse.
Za tiste, ki razmišljate o nalaganju svoje HD p0rn zbirke pa je velikost posameznih datotek omejena na 4GB.

misek ::

Kaj pa vi shranjujete na TB diske
Odvisno od uporabnika. Jaz imam kompletne slike diskov (image), da lahko v primeru odpovedi diska takoj le-tega zamenjam, naložim image in delam naprej. Še najdlje traja administracija, da mi poštempljajo vse papirje za nakup. Filmov pa res ne backupiram...

Jernej L ::

"Kište"? ok, v pogovornem slengu že.. ampak v članku?? Sedi, ena.

r0ker ::

"in meniš, da imamo tudi drugi samo 8gb back-up vrednih podatkov?"
gehehehe wannabe.

Mr.B ::

r0ker = definiraj za domačega uporabnika, kritične podatke :)
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

urosh ::

Ali pa za home use vzameš kaj podobnega temu: http://www.amis.net/web2/zasebni.php?pa...

:)

filip007 ::

https://www.getdropbox.com/ ima 2GB zastonj samo registriraš se pa je in avtomatično naredi backup iz mape na disku.
Palačinka z Ajvarjem in stopljenim sirom v mikrovalovki.

urosh ::

To je res. Kaj pa če želiš shraniti recimo svojih 40 Gb slik ;(( ? Ali pa česa drugega? Potem pa je 2Gb malo malo...

Tarzan ::

Če shranjuješ fotografije v arhiv, si lahko USB ključek, pa četudi večji od 8GB lepo v rit vtakneš po parih mesecih. Da ne govorim o shranjevanju surovih video posnetkov v fullHD resoluciji, tu si tak ključek lahko nekam zatakneš po nekaj minutah. ;)

Mr.B ::

Da samo 40 GB slik je relativni pojem. Od teh 40 GB je verjetno le nekaj takih vrednih da se ne smejo zgubiti. Doma imam krepko čez 40 GB fotk. Samo takih za gušt, pa je bore malo. Dokumenti pa boste videli, ko rečeš zip, postanejo 5% velikosti...
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

Mr.B ::

fullHD posnetke, pa shranjuješ na dva zunanja in ločena 1 TB diska. Ponavadi je to 16 GB vsak.
RAW HD posnetek pa ?, to ravno ni ti. domači uporabnik, ki bi to vedel..

PS: ? kaj sploh ve da mora domači uporabnik shraniti.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

Mr.B ::

Ugotovil sem zakaj rabijo dva napajalnika. Imajo ti. Industrijsko elektriko, pa plačujejo na MAX porabo. Če bi bil en napajalnik, in to še pomnožiš z N takih škatel, bi ob hladnem zagonu brez konkretno dragega managmenta zagona posameznih škatel, plačevali ta MAX da bi bolelo.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

steev ::

Daj to malo bolj razloži, ker jaz te ne razumem najbolje.
:|

Mr.B ::

Če imaš industijsko elektriko. Imaš števec, ki beleži peek power, in lega ta je ravno pri vklopu 10x. Torej plačuješ 10x več po tarifi.

Enostavno so tudi rešili replikacijo, oziroma backup na te strežnike, tako da nimajo problema, če kakšen node pade, pa podatkov ne morejo backupirati, ali restavrirati...

Pa ceno kišt so dali relativno visoko, zato da lahko dajo višje cene storitev, kot tudi malo zavajajo. cena diskov 14x45, pa tudi ne more biti visoka. 14 = štirinajst vidnih omar.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

MrStein ::

In zakaj bi bil peek power nižji, če imaš 2x več napajalnikov?
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

black ice ::

Če imaš industijsko elektriko. Imaš števec, ki beleži peek power, in lega ta je ravno pri vklopu 10x. Torej plačuješ 10x več po tarifi.

Torej plačujejo "peak" tarifo čeravno ne porabijo toliko?

Mr.B ::

MrStein, če bi bral originalno novico napiše : so if you power up both PSUs at the same time, it can draw a large (14 amp) spike of 120V power from the socket................Fully booted, the entire pod will draw approximately 4.8 amps idle and up to 5.6 amps under heavy load.

Števec ti obrne 14A, in to tarifo plačuješ Elektru.

Drugo je sicer poceni serverski napajalnik...
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

steev ::

Drugo je sicer to da ne prižgeš vse naenkrat.
:|

MrStein ::

Torej vklopijo najprej en PSU, pol pa drugega? Kot tretje pa dejansko plato/diske?
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

Pyr0Beast ::

Če imaš 1000 takih serverjev jih ne boš vklapljal vse hkrati :)
Če pa vklapljaš enega za enim pa se 'peak' poraba ob zagonu praktično ne pozna.
Some nanoparticles are more equal than others

Good work: Any notion of sanity and critical thought is off-topic in this place

Mr.B ::

1000 serverjev x 1 minuta je 1000 minut je to 17 ur. Zresni se. Ena minuta je čas, ko se zadeva stabilizira, da vklopiš naslednjega...
Za en datacenter je že 5 minut izpada katastrofa.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold
«
1
2


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Domači server (strani: 1 2 )

Oddelek: Omrežja in internet
6911639 (7902) MrStein
»

Strojna oprema za poganjanje več VM (strani: 1 2 )

Oddelek: Operacijski sistemi
527285 (5936) Ales
»

RAID - Katere diske kupiti?

Oddelek: Kaj kupiti
241636 (1336) Jin
»

Osem tisočakov za 67 terabajtov (strani: 1 2 )

Oddelek: Novice / Diski
519347 (5598) Pyr0Beast
»

Zmogljivejši NAS RAID server

Oddelek: Kaj kupiti
142129 (1796) Brane2

Več podobnih tem