PDA

View Full Version : Configurazione RAID 48 dischi da 1tb


s3s3
08-06-2011, 09:31
Ciao a tutti.

Volevo chiedervi un consiglio.
Ho un server con cui devo gestire uno storage composto da 48 dischi da 1tb ciascuno (divisi in 4 telai, quindi ogni telaio 12 dischi).
Al cliente piacerebbe un'unica partizione per semplicità d'uso con i suoi software(non è previsto l'uso di più partizioni), se non fosse stato così avevo pensato ad un raid 5 per ogni telaio e buona notte!
Dovendo però mettere in raid 48 dischi, come è meglio procedere secondo voi? Io avevo pensato ad un raid 6 con 2 dischi di spare, così facendo il sistema potrebbe far fronte a 4 dischi guasti; o raid 5 + 2 spare con tolleranza a 3 dischi.
Avevo pensato anche a dividere i raid per ogni telaio e fare un spanning con windows, solo che nel caso si guastino 2 dischi in un raid 5 avrei perso comunque l'intera partizione: per cui opzione scartata...

Vi ringrazio anticipatamente.

Ciao.

Stefano.

luciux
08-06-2011, 10:26
Se non ti interessa perdere tanta capacita' potresti considerare anche i raid 1+0 oppure 0+1.

Comunque secondo me devi anche vedere il tuo controller quali livelli di raid supporta e quanti dischi puo' supportare il controller per ogni array.

jerry74
08-06-2011, 10:32
Inizia a mettere due punti fermi: lo spazio minimo necessario e il livello di tolleranza ai guasti. Dopo aver definito queste caratteristiche si può scegliere il tipo di configurazione da adottare.

s3s3
08-06-2011, 10:49
Se non ti interessa perdere tanta capacita' potresti considerare anche i raid 1+0 oppure 0+1.

Comunque secondo me devi anche vedere il tuo controller quali livelli di raid supporta e quanti dischi puo' supportare il controller per ogni array.

Inizia a mettere due punti fermi: lo spazio minimo necessario e il livello di tolleranza ai guasti. Dopo aver definito queste caratteristiche si può scegliere il tipo di configurazione da adottare.

Non ho dei veri e propri vincoli di spazio, però non posso di certo pensare ad un 0+1 o 1+0, troppo spazio non usabile(so per certo che il cliente rifiuterebbe).
Il controller ha l'opzione di 0+1,5,6 + gli spare.
Ho provato a fare un raid5 unico e li supporta tutti e 48 senza problemi. Ma questa configurazione è troppo rischiosa.

Per dare dei vincoli diciamo che posso "far perdere" fino a 5 dischi al sistema per la tolleranza.

Grazie.

Ciao.

Stefano.

luciux
08-06-2011, 10:58
Allora ti conviene fare un raid 5 per ogni telaio e poi con windows fai lo spanning con windows.
La probabilita' che ti si rompano due dischi contemporaneamente all'interno dello stesso raid e' molto bassa se non praticamente nulla.

D1o
08-06-2011, 11:24
zfs?

edit: qui il link wikipedia http://en.wikipedia.org/wiki/ZFS

fondamentalmente avresti la rindondanza di un raid 5 usando il raidz ( raid 6 con raidz2) a livello hardware, mentre a livello logico potrebbe essere visto come una sola unità. ocio che ci vuole tanta ram per farlo andare bene.

s3s3
08-06-2011, 11:27
Dimenticavo, gestisce anche il 5+0, potrebbe essere una idea? 4 raid5 inseriti un raid 0? Cosi evito di farlo fare a win ma delego al controller quindi hardware...

Dici che è preferibile dividere i raid piuttosto di fare un raid unico (magari 6) con gli spare?

Ti ringrazio.

Ciao.

Stefano.

s3s3
08-06-2011, 11:29
zfs?

Il cliente vuole windows, ma per curiosità perché lo hai tirato in ballo? Per i pool?

Ciao.

Stefano.

EDIT: mi hai risposto con l'edit, immaginavo fosse per quello.

D1o
08-06-2011, 11:46
si, esatto. inoltre "dovrebbe" essere un po' piu stabile e tollerante di altre soluzioni

ma non si può montare usando samba? usare un raid 0, anche se sopra tre raid 5, vuol dire che se qualcosa va storto c'è da ricostruire un array mica da nulla...

edit: full disclosure: non sono assolutamente un esperto quindi prendi le mie parole con una tonnellata e mezzo di sale grosso :P

luciux
08-06-2011, 12:01
Per curiosita' che tipo di controller e' montato sul server ?

s3s3
08-06-2011, 12:02
http://h18000.www1.hp.com/products/servers/proliantstorage/arraycontrollers/smartarrayp411/index.html

Ciao.

Stefano.

luciux
08-06-2011, 12:18
Se hai la possibilita' fai una prova creando un raid50 , gli metti su un po' di dati e poi simuli il crash di due dischi in due raid 5 diversi (puoi semplicemente fare lo swap dei due dischi) per vedere quanto ci mette a ricostruire l'intero array e qual'e' l'impatto sull'utilizzo dei dischi mentre ricostruisce.
Sicuramente il raid 50 e' da preferire allo spanning di windows, resta solo da considerare l'impatto sull'usabilita' del server (intendo accesso ai dati) mentre fa la ricostruzione.

s3s3
08-06-2011, 12:41
si, esatto. inoltre "dovrebbe" essere un po' piu stabile e tollerante di altre soluzioni

ma non si può montare usando samba? usare un raid 0, anche se sopra tre raid 5, vuol dire che se qualcosa va storto c'è da ricostruire un array mica da nulla...

edit: full disclosure: non sono assolutamente un esperto quindi prendi le mie parole con una tonnellata e mezzo di sale grosso :P

Scusa non avevo letto la tua risposta...E' vero, c'é il rischio, però conta che deve cadere un raid5, quindi 2 dischi sullo stesso raid(per tamponare in parte poi, ci sono i dischi di spare che diminuiscono il tempo di "rischio"). La sicurezza ASSOLUTA è impossibile da avere, però si cerca di ottenere il massimo, con quello che si ha e con le richieste che si hanno.

Se hai la possibilita' fai una prova creando un raid50 , gli metti su un po' di dati e poi simuli il crash di due dischi in due raid 5 diversi (puoi semplicemente fare lo swap dei due dischi) per vedere quanto ci mette a ricostruire l'intero array e qual'e' l'impatto sull'utilizzo dei dischi mentre ricostruisce.
Sicuramente il raid 50 e' da preferire allo spanning di windows, resta solo da considerare l'impatto sull'usabilita' del server (intendo accesso ai dati) mentre fa la ricostruzione.

Vedrò di fare due prove con un serve gemello che ho ora sotto mano, ti ringrazio!
Se ci sono altre idee, scrivete pure! ;)

Ciao.

Stefano.

jerry74
08-06-2011, 13:01
Visto che il controller lo supporta io userei un raid 60 (che tollera fino a due hd guasti simultaneamente) con uno o due dischi di spare. Perderesti da 3 a 4 TB di spazio a telaio ma ne guadagneresti in fault tolerance

D1o
08-06-2011, 13:27
Scusa non avevo letto la tua risposta...E' vero, c'é il rischio, però conta che deve cadere un raid5, quindi 2 dischi sullo stesso raid(per tamponare in parte poi, ci sono i dischi di spare che diminuiscono il tempo di "rischio"). La sicurezza ASSOLUTA è impossibile da avere, però si cerca di ottenere il massimo, con quello che si ha e con le richieste che si hanno.



Vedrò di fare due prove con un serve gemello che ho ora sotto mano, ti ringrazio!
Se ci sono altre idee, scrivete pure! ;)

Ciao.

Stefano.

come ho detto non sono assolutamente un esperto, solo che ci sto sbattendo un po la testa anche io recentemente (anche se con numeri di dischi differenti...)

la mia domanda è se uno dei raid 5, per qualsivoglia motivo (due dischi ko) cade, ti cade anche il raid 0 che c'è sopra. a quel punto come lo recuperi? non ti si "bruciano" tutti i dati dei 48 dischi? oppure se per qualsivolgia motivo il server viene spento "male" il raid0 regge? pensavo allo zfs perche dovrebbe permettere la ricostruzione del pool in maniera trasparente all'utente senza downtime.

luciux
08-06-2011, 13:33
come ho detto non sono assolutamente un esperto, solo che ci sto sbattendo un po la testa anche io recentemente (anche se con numeri di dischi differenti...)

la mia domanda è se uno dei raid 5, per qualsivoglia motivo (due dischi ko) cade, ti cade anche il raid 0 che c'è sopra. a quel punto come lo recuperi? non ti si "bruciano" tutti i dati dei 48 dischi?

Se si rompono due dischi dello stesso raid , non accedi piu' a nessun dato in quanto l'intero raid non e' piu' accessibile.

Come dice jerry74 si puo' usare il raid 6 che generando la parita' dei dati su due dischi permette di mantenere il raid integro anche nel caso si guastino due dischi all'interno dello stesso raid.

http://it.wikipedia.org/wiki/RAID#RAID_6

jerry74
08-06-2011, 14:09
si può discutere quanto si vuole sulla configurazione del raid, sulla sua sicurezza, sulla velocità, etc.; resta il fatto che senza una buona politica di backup il rischio di perdere i dati rimane comunque.

Se poi vogliamo spostare il limite di sicurezza un po' più in là secondo me non si può prescindere dall'implementazione di cluster di failover (magari con server dislocati in sedi diverse) con tutte le conseguenze gestionali ed economiche che tali soluzioni comportano.

Tasslehoff
08-06-2011, 17:46
Non per fare il menagramo, ma imho attaccare tutti quei dischi in raid5 o 6 ad un controllerino da 300 euro scarse imho significa ritrovarsi con dello storage "seduto".
Se le performance non risultassero degradate dal carico computazionale causato da tutte quelle parità lo sarebbero a causa della banda passante.

Riguardo alla tipologia di array devi valutare ben bene il tipo di carico a cui sarà sottoposto.
Se prevedi che vengano fatte parecchie scritture sarebbe il caso di evitare gli array RAID5 o 6.

Salendo a livello di unità logica solitamente IBM consiglia come pura best practice di non creare mai lun più grandi di 300 GB, io ti consiglierei di rimanere entro quei limiti.

Salendo a livello di gestione dello storage da parte dell'OS io consiglio di utilizzare LVM, su un kernel 2.6 a 64bit il limite per logical volume è di 8Exabyte, mentre rimando sui 32bit saresti limitato a 16TB.

Come filesystem invece fai attenzione, ext3 se ricordo bene ha un limite di 32TB per volume, ext4 ha esteso di parecchio questo limite.

Cmq se devi gestire tutto questo storage io trovo che sia un azzardo non da poco usare un singolo server, sia in termini di continuità di servizio che di performance, che di gestione.
Imho dovresti adottare una san con dei controller adeguati a sopportare il carico di una architettura simile.

jerry74
08-06-2011, 19:30
Non per fare il menagramo, ma imho attaccare tutti quei dischi in raid5 o 6 ad un controllerino da 300 euro scarse imho significa ritrovarsi con dello storage "seduto".
Se le performance non risultassero degradate dal carico computazionale causato da tutte quelle parità lo sarebbero a causa della banda passante.


Credo che ormai abbiano acquisito gli apparati e deve sfruttare quello che ha; inoltre il cliente sembra prediligere una sola mega partizione e siccome è lui che ci mette il denaro... :rolleyes:

A questo punto sarebbe interessante conoscere come è configurato il server e di che tipo sono le unità di storage.

Tasslehoff
08-06-2011, 20:59
Credo che ormai abbiano acquisito gli apparati e deve sfruttare quello che ha; inoltre il cliente sembra prediligere una sola mega partizione e siccome è lui che ci mette il denaro... :rolleyes:

A questo punto sarebbe interessante conoscere come è configurato il server e di che tipo sono le unità di storage.Allora prevedo pianto e stridore di denti :asd:

Cmq quello che ho descritto può benissimo tradursi in un'unica mega partizione, quello è l'ultimo dei problemi.
Se però uno prevede di avere un carico del genere deve per lo meno distribuirlo su più controller, più HBA, più switch, ridondare i path, e questo non per avere la soluzione più elegante o costosa del mondo, ma per poter garantire una adeguata continuità di servizio.

jerry74
08-06-2011, 21:23
Le cose così iniziano a complicarsi, serve una conoscenza approfondita del contesto in cui il server di storage va a collocarsi, la pianificazione degli interventi da eseguire per adeguare gli apparati pre-esistenti, la scelta delle tecnologie da implementare.

Credo che s3s3 abbia scelto la strada che per lui è la più semplice da seguire assecondando anche quelle che sono le richieste fatte dal cliente. Sono comunque curioso di conoscere quali componenti sono stati usati nella configurazione del server.

s3s3
09-06-2011, 09:52
Ciao a tutti.

Grazie per le risposte intanto: vi do un po' di modelli della roba installata:

telaio dischi 12tb (http://h10010.www1.hp.com/wwpc/us/en/sm/WF06b/12169-304616-3930445-3930445-3930445-3302295-3883009-3883010.html?jumpid=oc_R1002_USENC-001_HP%20StorageWorks%20MSA60%20Dual%20Domain%20%20(12 ) 1TB 3.5-inch DP SAS MDL HDD 12TB Bundle&lang=en&cc=us)

Server HP dl380 g6 (http://h20000.www2.hp.com/bizsupport/TechSupport/Document.jsp?lang=en&cc=us&objectID=c01714639&jumpid=reg_R1002_USEN) con XEON E5530, 4gb RAM, SO 2k8 storage Server.

I telai sono collegati in questo modo: canale 1 controller ---->telaio 1 ---->telaio 2 in cascata.
canale 2 controller ----> telaio3 ----> telaio4 in cascata.

Vi ringrazio.

Ciao.

Stefano.

EDIT: in verità il cliente sta pensando (dopo un nostro suggerimento) ad un sistema identico a questo ma collocato in un'altra sala. Non l'avevo detto perché attualemente non c'é e 2 volevo che comunque anche il solo server potesse far fronte a + situazioni possibile.

jerry74
09-06-2011, 12:11
Sinceramente vedo il singolo server sottodimensionato rispetto al sistema di storage, inoltre il server lo utilizzereste solo per gestire lo storage oppure avrà anche altre funzionalità?

s3s3
09-06-2011, 12:24
Solo storage, perché dici sia sottodimensionato?

Ciao.

Stefano.

jerry74
09-06-2011, 13:28
Hp, nelle configurazioni del DL380 G5 insieme al MSA60 utilizza come controller SAS il più performante P800, inoltre, vista la notevole quantità di storage da gestire un secondo processore ed almeno il raddoppio della ram darebbero al server una riserva di potenza da gestire nei momenti di maggior utilizzo.
Ma lo storage server per cosa lo usi? database, repository di file, virtualizzazione?

s3s3
09-06-2011, 13:37
Hp, nelle configurazioni del DL380 G5 insieme al MSA60 utilizza come controller SAS il più performante P800, inoltre, vista la notevole quantità di storage da gestire un secondo processore ed almeno il raddoppio della ram darebbero al server una riserva di potenza da gestire nei momenti di maggior utilizzo.
Ma lo storage server per cosa lo usi? database, repository di file, virtualizzazione?

Magari se prende il secondo lo potrei fare presente, o almeno parlare con il fornitore...

In questo attuale come potrei capire se in utilizzo è preso per il collo o meno? Guardando il task manager non sembrava molto stressata come macchina...

Lo storage viene usato per salvataggio di file nell'ordine di 30-50mb ciascuno, tieni conto che 40tb durano 15 giorni e poi inizia a cancellare quelli vecchi per far stare quelli nuovi.

Ciao.

Stefano.

luciux
09-06-2011, 14:17
Utilizza l'utility Performance (non so come si chiama nella versione italiana di Windows 2003) e guarda i parametri monitorati di default (memoria processore e disco).
Magari poi posta uno screenshot del grafico cosi vediamo se ci sono colli di bottiglia.(ovviamente devi simulare un po' di attivita' sui dischi per avere dei dati reali).

jerry74
09-06-2011, 14:18
ma lo usi per backup? surveillance? qualcosa di simile?

s3s3
09-06-2011, 15:05
Perdonami ma preferirei evitare il contenuto tecnico di questi file...non vorrei creare problemi con il cliente, non si sa mai.

Ciao.

Stefano.

alphacygni
04-07-2011, 13:25
Credo che ormai abbiano acquisito gli apparati e deve sfruttare quello che ha; inoltre il cliente sembra prediligere una sola mega partizione e siccome è lui che ci mette il denaro... :rolleyes:


E' la famosa "consulenza a meta'": anziche' chiedere la soluzione di un problema, se ne crea (pagando) un altro per poi pagare comunque qualcuno per risolverlo :muro: :muro: :muro: