NAS neu aufbauen und erweitern

NKL · Post by **NKL** » 23 Dec 2013 16:29

[2x EDIT -> siehe Markierungen im Text]
Moin,
Weihnachten und die einigermaßen freie Zeit naht, da bastelt man natürlich an seinem NAS herum.

Ich habe vor mein N4F-Nas komplett neu aufzubauen. Bisher ist folgende Hardware verbaut (Links siehe ganz unten):

x64-full auf Intel(R) Pentium(R) CPU G2120 @ 2x 3.10GHz
ASRock Z68 Extreme4 Gen3 Bios: P2.30 06/29/2012
4x 4GB Corsair XMS3 DDR3-1600 DIMM CL9
500 Watt be quiet! Straight Power E9 Non-Modular 80+ Gold
Fantec Festplattenwechselrahmen für 2x 2,5"(6,35 cm) für die SSD
Inter-Tech IPC Wechselrahmen ST-3051 SAS 5x 3,5"(8,89 cm) für die Datenplatten
MS-Tech CA-0270GR Xerxes green fan Midi Tower ohne Netzteil schwarz
64GB Samsung 830 Basic Series 2.5" fürs NAS4Free System
5x 2000GB Seagate Barracuda 7200.14 ST2000DM001 für Daten
- mit 2x SoftwareRaid aus jeweils 2 Platten

als Software Version läuft:
9.1.0.1 - Sandstorm (Revision 457)
FreeBSD 9.1-RC3 (reldate 901000)

Noch ein paar Worte zu meiner jetzigen Konfiguration:
Auf der SSD läuft das Nas4Free System als FULL Installation. Auf den 5 Datenplatten liegen in einem SoftwareRaid aus zwei Platten Filme, Musik, Bilder, etc... Das andere Raid ist als Backupplatte deklariert auf der ich Backups verschiedener Geräte (Smartphone, Laptop, Desktop-PC, ...) lagere. Die 5te Platte dient als Temp und ist für jeden im Netzwerk frei zugänglich solange der Server läuft. Der Server läuft nur wenige Minuten/Stunden pro Tag, es wird nur eingeschaltet wenn ich es benötige.

Was ich vor habe:
Ich möchte, da zumindest die Medienplatte voll ist, meine Kapazität erweitern und in dem Zuge auch direkt auf ZFS umsteigen.

Wie ich das geplant habe:
Ich wollte mir zwei externe Festplatten von einem Kollegen ausleihen und die Daten über meinen Laptop auf die externen überspielen. Dann das NAS umbauen und neu einrichten und die Daten zurückladen. Es ist mir bekannt, dass das nicht die beste Alternative ist, ich habe jedoch nicht die Hardware für ein zweites "Backup"-NAS da. Anschaffen wollte ich mir auch erst einmal keines.

Fragen:
Geplant war ziemlich große Aufrüstung damit ich in Zukunft Ruhe habe.
Kaufen wollte ich dafür:
- noch einen 5er Wechselrahmen (http://www.mindfactory.de/product_info. ... 06731.html)
- einen 3er Wechselrahmen (http://www.inter-tech.de/index.php?opti ... 81&lang=de)
- 2x 4er Sata Controller oder ein 8er Controller, da alle Mainboard Plätze belegt sind.
- 8 Festplatten (zum Beispiel: WD RED 2TB: http://www.mindfactory.de/product_info. ... 06168.html)

Das dürfte doch eigentlich so machbar sein oder? Gehäuse auf, Sata Controller an die PCI Anschlüsse, Kabel zu den neu verbauten Wechselrahmen, Strom dran, Gehäuse wieder zu und von außen die Platten reinschieben?
Da kommt auch direkt meine Frage: Die 5 momentan verbauten Seagate Platten wurden alle zur selben Zeit gekauft (das heißt die selbe Charge). Ich habe gelesen, dass damit die Ausfallwahrscheinlichkeit mehrerer Platten zur gleichen Zeit deutlich zunimmt. Ist das richtig? Wenn ja, wie kann ich die jetzt trotzdem noch effektiv nutzen?
Meine Idee war, dass man zum Beispiel die WDRED Platten kauft und das irgendwie als ZFS Raid konfiguriert, dass die Daten sowohl auf einer Seagate als auch auf einer WD Platte liegen. Ist das überhaupt möglich?

Hier ist auch wieder die Frage nach der Kapazität. Sollte man wieder nur 2TB Platten kaufen? 3TB sind ja nicht mehr soviel teurer. Aber kann ich die 2TB Platten mit den 3TB zusammen in einem ZFS Raid verwurschteln ohne dass mir 1 TB von den 3TB Platten abhanden kommt?

EDIT: Wie ich in Princos Post in einem anderen Thread gelesen habe, wäre es vermutlich wirklich besser 3TB Platten zu nehmen. Wenn dieselbe Charge der Seagate Platten kein Problem ist, würde ich vermutlich sagen, dass man aus den 4-5 Seagate Platten dann die Datenpartition für die Backups machen könnte und die neugekauften Platten dann das Medienlaufwerk sind. /EDIT

Die bestehende Aufteilung soll in etwa so beibehalten werden. Es sollte ein Medien-, sowie ein Backuplaufwerk geben. Medien kann gerne größer als Backup sein.
Hinterher hätte ich maximal 8+5=13 Platten verbaut. Eine Platte wird wieder als Temp genutzt, also bleiben 12 übrig. Diese müssten irgendwie aufgeteilt und in ein möglichst sinnvolles ZFS Raid verknüpft werden. Z.B. möglich wäre 4 Platten (=8TB) für Backups, 8 Platten (=16TB) für Medien.

Kennen tue ich vom Software Raid 1 jetzt nur die Spiegelung. Ich habe zwei Platten und habe die Kapazität von einer Platte, dafür kann eine Platte ausfallen.
Ist das bei ZFS genau so? Mir würde eine Spiegelungs-Möglichkeit reichen, d.h. von den 8 Platten (=16TB) könnte ich 8 effektiv nutzen. So bin ich es gewöhnt, damit könnte ich mich abfinden. Hier im Forum habe ich schon diverse Threads gelesen, dass es da noch andere Möglichkeiten als nur die Spiegelung gibt und diese evtl. besser geeignet sind.

Hat noch jemand gute Vorschläge zu out-of-the-box laufenden SataControllern unter N4F?

EDIT Wieso möchte ich direkt so viel aufrüsten? Das ist relativ einfach gesagt. Einem Kollegen von mir sind letztens von einem Tag auf den anderen zwei externe Festplatten ausgefallen. Ich habe auch noch ca. 4 TB Daten (hauptsächlich Fotos - Hobbyfotograf) auf externen Festplatten liegen. Diese möchte ich jetzt auch mit in das N4F System integrieren. Und somit von einer erhöhten Ausfallsicherheit und ZFS profitieren. Und damit ich dann nicht in den nächsten Jahren immer wieder umbauen und umkonfigurieren muss, investiere ich jetzt lieber ein bischen mehr Geld und habs damit fertig

Ein Backup-NAS ist momentan nicht vorgesehen. Ich weiß, ihr schwört darauf und z.B. gegen Feuer/Spannungspitzen/Diebstahl/Wasserschaden/abgerauchtes Netzteil/... bin ich nicht abgesichert, aber immerhin kann dann eine kaputte Festplatte keinen kompletten Datenverlust mehr herbeiführen.
Vielleicht kommt das in den nächsten Jahren noch, im Moment werde ich so klarkommen. /EDIT

Ich hoffe ihr versteht was ich meine, ist wahrscheinlich alles ein bischen konfus formuliert...

Ich wünsche schöne Feiertage und einen guten Rutsch

NKL · Post by **NKL** » 31 Dec 2013 10:43

*PUSH*

Post by **apollo567** » 31 Dec 2013 14:10

NKL wrote: Ich hoffe ihr versteht was ich meine, ist wahrscheinlich alles ein bischen konfus formuliert...

Ehrlich gesagt ja, es liest sich etwas unstrukturiert.
Ich versuche mal ein paar Fragen zu beantworten.

Aus Gründen der Performance würde ich einen Raid-Verbund / ZFS Pool nur Platten der gleichen Größe verwenden.
Falls du Bedenken hast über ansteigende Ausfallraten, dann greife gleich zu einem RAIDZ2 Verbund. Kostet zwar zusätzliche Platten, es dürfen aber auch mehr gleichzeitig ausfallen ohne Datenverlust. Aber du hast immer noch deutlich mehr Plattenplatz als bei einem Spiegel ! Mit deinem vielen RAM hast du gut Voraussetzungen für ZFS !
Grundsätzlich ist eine gute Idee NAS-Platten zu verwenden (WD Red oder Seagate NAS Platten), bei deinem beschriebenen Nutzungsprofil könnten günstige Desktop Platten aber reichen. Ggw. würde ich vermutlich auch zu den 3TB Varianten greifen.

Gibt es einen speziellen Grund weshalb du die Full-Version benutzt ? Ansonsten reicht ein USB-Stick als Bootplatte für die Embedded Variante. Diese ist auch sehr einfach zu aktualisieren.

An Controllern, das ist etwas schwierig, generell solltest du aufpassen dass Festplatten über 2TB vom Controller unterstützt werden. Viele 4-Fach Sata Controller mit PCIe 1x oder 4x sind mit Marvell Chips bestückt. Diese nicht richtig gut supportet unter FreeBSD, schau aber evtl. nochmal auch der Kompatibilitässeite von FreeBSD 9.1.
Ab 8-fach oder mehr SATA Anschlüsse kommst du recht schnell in eher professionelle Hardware, diese sind dann auch PCIe 8x. LSI und Adaptec Controller sind ganz brauchbar unterstützt. Ich selbst habe einen Dell Perc H310 (LSI 9240-8i), gebraucht gekauft auf ebay. Es gibt auch Controller die 12 oder 16 Sata-Platten unterstützen. Bei diesen Hardware Raid-Controller kommts aber nur auf die Anzahl der Anschlüsse an, weniger auf die Raidchips. Leider gibt es keine einfachen Controller mit so zahlreichen Anschlüssen.
Und da diese Controller auch ein eigenes Bios haben, muss man ggf. auch darauf achten, dass das Mainboard INT19-Support hat (auch Option Bios genannt), sonst kommt man nicht in der Controller Bios hinein. Dies ist notwendig, falls der Controller nicht auf JBOD Betrieb konfiguriert ist. Ist es bereits der Fall braucht man das nicht, dann verhalten sich zumindest de LSI Controller die ich kenne, wie ein normaler SATA Controller mit vielen Anschlüssen.

Darüber hinaus, in der aktuellen CT 2/2014 sind mehrere Artikel über Selbstbau Server enthalten, evtl. nicht schädlich mal zu lesen. Wenn du Lust hast, kannst du dir auch die Entwicklung meines eigenen NAS durchlesen (siehe Signatur).

Gruß
apollo

NKL · Post by **NKL** » 01 Jan 2014 23:55

Moin,
schonmal danke fürs Beantworten. Bei mir ist das auch eher gefährliches Halbwissen, kenne mich mit dem Kram nicht soo gut aus. Daher ließe sich bestimmt einiges einfacher formulieren.

In einem Raid/ZFS Pool nur gleich große Platten zu verwenden dachte ich mir.
Die (meiner Meinung nach) ansteigenden Ausfallraten sind so begründet, dass die Platten aus einer Charge kommen. Ich meine mal irgendwo gelesen zu haben, dass das schädlich sein konnte, wenn die Maschine z.B. an dem Tag n bisl rabiater mit den Platten umgegangen ist. So haben alle Festplatten was abbekommen und können so eher dicht hintereinander ausfallen. Aber wie gesagt, ich weiß nicht ob man das so sehen kann und ob das wirklich so ist. Das war ja meine Frage ;P

OK ich glaube, ich habe das mit den verschiedenen Raid Varianten noch nicht so ganz verstanden. Ich habe mir das immer vereinfacht so erklärt, dass bei einem Spiegel (Raid1) die Dateien gedoppelt sind und somit eine ausfallen kann, weil die Daten ja noch auf der anderen liegen. Bei Raid2 wären das dann 2 mögliche ausfallende Platten weil die Daten jeweils auf allen der drei einzeln liegen. Bei Raid3 dann 3, ...
Das scheint ja aber wohl nicht der Fall zu sein.
Wieviel Speicherplatz hätte ich denn frei, wenn ich aus 4 Festplatten (jeweils 2TB) einen RaidZ1,Z2,Z3,Z4,... Verbund machen würde? Wie wäre da die Ausfallsicherheit?
Nach meiner Rechnung wäre das dann: RaidZ1 - 4TB nutzbar (1 Platte darf ausfallen), RaidZ2 - 2,6TB nutzbar (2 Platten dürfen ausfallen), RaidZ3 - 2TB nutzbar (3 Platten dürfen ausfallen), RaidZ4 mit 4 Festplatten nicht möglich.

Für meine Medien, also die Platten die jetzt neu angeschafft werden, hatte ich auch die WD Red vorgesehen. Kenne einige Leute die diese mit Erfolg seit Jahren einsetzen.

Die Full Version habe ich am Anfang aufgespielt, weil ich dachte, dass ich durch meine eingebaute SSD einen kleinen Geschwindigkeitsschub erhalte. Ich habe nun schon oft gelesen, dass das nicht der Fall ist, aber nagut. Wäre beim Neuaufsetzen bestimmt eine Idee auch direkt auf Embedded umzusteigen. Da wäre dann die SSD zwar überflüssig aber egal ;-P

Als Controller wäre ein 8-fach perfekt geeignet. Mehr Platten kann ich eh nicht mehr einbauen, dafür wäre dann das Gehäuse zu klein.
Muss man denn bei professionelleren Controllern noch viel einstellen? Habe da halt absolut keine Ahnung von und bin immer ein Fan von Plug and Play (ich weiß, klingt dämlich). Danke für die genauen Bezeichnungen und Infos zu den Chips. Ich werd mich da mal ein bischen schlau machen.

Danke für den Tipp, werd mal in die CT reinschauen. Deinen Selbstbau hatte ich mir vor einiger Zeit schonmal angeschaut. Auf jeden Fall Klasse dokumentiert!

Frohes neues Jahr und so weiter, viele Grüße
NKL

Post by **apollo567** » 02 Jan 2014 10:06

NKL wrote: Das scheint ja aber wohl nicht der Fall zu sein.

Raid1 ist eine Spiegel, die anderen Raidversionen arbeiten mit Prüfsummen. Der nutzbare Plattenplatz bei Raid5/RaidZ1 ist Anzahl der Festplatten - 1 abzüglich dem Platzbedarf für das Dateisystem (glaube das liegt so ca. bei 8% bei ZFS).

NKL wrote: Für meine Medien, also die Platten die jetzt neu angeschafft werden, hatte ich auch die WD Red vorgesehen. Kenne einige Leute die diese mit Erfolg seit Jahren einsetzen.

Gibt die WD Red schon solange, dachte die gibt es erst seit 2012.

NKL wrote: Als Controller wäre ein 8-fach perfekt geeignet. Mehr Platten kann ich eh nicht mehr einbauen, dafür wäre dann das Gehäuse zu klein.
Muss man denn bei professionelleren Controllern noch viel einstellen? Habe da halt absolut keine Ahnung von und bin immer ein Fan von Plug and Play (ich weiß, klingt dämlich). Danke für die genauen Bezeichnungen und Infos zu den Chips. Ich werd mich da mal ein bischen schlau machen.

hab dir ja Beispiele genannt.

NKL · Post by **NKL** » 02 Jan 2014 11:55

apollo567 wrote: Raid1 ist eine Spiegel, die anderen Raidversionen arbeiten mit Prüfsummen. Der nutzbare Plattenplatz bei Raid5/RaidZ1 ist Anzahl der Festplatten - 1 abzüglich dem Platzbedarf für das Dateisystem (glaube das liegt so ca. bei 8% bei ZFS).

Das heißt bei RaidZ1 mit 4x 2TB Festplatten hätte ich 6TB nutzbare Kapazität minus die 8%? Wie funktioniert das denn, wenn eine Festplatte dann ausfällt? Über die Prüfsummen weiß das System ja nur ob eine Datei defekt ist oder nicht.

apollo567 wrote: Gibt die WD Red schon solange, dachte die gibt es erst seit 2012.

Unter dem Namen gibts die nocht nicht so lange da hast du Recht. Das Vorgängermodell wurde jedoch technisch gesehen beibehalten und einfach nur umbennant, wenn ich den WD Artikel richtig in Erinnerung habe.

apollo567 wrote: hab dir ja Beispiele genannt.

Und die funktionieren out of the box? Habe hier einige Controller in den Signaturen gesehen, wo dann erst noch eine andere Firmware draufgespielt werden musste oder auf Nachfrage noch so konfiguriert werden mussten.

Schöne Grüße,
NKL

Post by **apollo567** » 02 Jan 2014 13:55

NKL wrote: Das heißt bei RaidZ1 mit 4x 2TB Festplatten hätte ich 6TB nutzbare Kapazität minus die 8%? Wie funktioniert das denn, wenn eine Festplatte dann ausfällt? Über die Prüfsummen weiß das System ja nur ob eine Datei defekt ist oder nicht.

Aus den noch verfügbaren Daten wird der Inhalt der defekte Festplatte errechnet. 'Resilvering' genannt. Bei mir bleiben bei 4x2 TB ca. 5,3 TB nutzbarer Speicher übrig unter RaidZ1.

NKL wrote: Unter dem Namen gibts die nocht nicht so lange da hast du Recht. Das Vorgängermodell wurde jedoch technisch gesehen beibehalten und einfach nur umbennant, wenn ich den WD Artikel richtig in Erinnerung habe.

Das würde mich im Detail interessieren.

NKL wrote: Und die funktionieren out of the box? Habe hier einige Controller in den Signaturen gesehen, wo dann erst noch eine andere Firmware draufgespielt werden musste oder auf Nachfrage noch so konfiguriert werden mussten.

Bei den von mir verwendeten Controllern ja, da ich selbst nicht in das BIOS des Controllers komme, kann ich dir nichts dazu sagen, ob es an deren Konfiguration hängt.

NKL · Post by **NKL** » 03 Jan 2014 00:12

apollo567 wrote: Aus den noch verfügbaren Daten wird der Inhalt der defekte Festplatte errechnet. 'Resilvering' genannt. Bei mir bleiben bei 4x2 TB ca. 5,3 TB nutzbarer Speicher übrig unter RaidZ1.

Wow, das hätte ich jetzt nicht gedacht. Weißt du wie das "errechnen" genau funktioniert?

apollo567 wrote: Das würde mich im Detail interessieren.

Ich habe den Artikel jetzt nicht mehr wiedergefunden, wenn mich nicht alles täuscht war das aber diese Platte: Western Digital WD2003FYYS.
Zumindest haben zwei Kollegen die und einer mehrere RED Platten. Die hatte ich damals verglichen.

apollo567 wrote: Bei den von mir verwendeten Controllern ja, da ich selbst nicht in das BIOS des Controllers komme, kann ich dir nichts dazu sagen, ob es an deren Konfiguration hängt.

Alles Klar. Da werde ich mal weiterforschen

Post by **apollo567** » 03 Jan 2014 01:21

NKL wrote: Wow, das hätte ich jetzt nicht gedacht. Weißt du wie das "errechnen" genau funktioniert?

Meines Wissens Rückwärtsrechnen über den Prüfsummenalgorithmus der bei der Speicherung verwendet wurde. Über Grundlagen und Details von RAIDverbünden/ZFS solltest du dich einlesen, wenn du dazu mehr wissen möchtest.

NKL wrote: Ich habe den Artikel jetzt nicht mehr wiedergefunden, wenn mich nicht alles täuscht war das aber diese Platte: Western Digital WD2003FYYS.
Zumindest haben zwei Kollegen die und einer mehrere RED Platten. Die hatte ich damals verglichen.

Auf den ersten Anschein passen diese Modelle aus der Enterprise serie nicht ohne weiteres zur WD Red Serie.... , da würde ich wirklich gerne den Artikel lesen, weil mir das adhoc nicht ganz plausibel scheint...

Post by **Princo** » 03 Jan 2014 03:56

Darf ich auch?

Bevor sich der NKL mit Dutzenden von Platten eindeckt, schlage ich vor, zuerst einmal sein geplantes Konzept auf den Prüfstand zu stellen, denn da knirscht es meiner Meinung nach etwas.

Zuerst sollte man den tatsächlichen Platzbedarf ermitteln.
Da hätten wir:

4 TB Fotos (derzeit auf externen Platten)
2 TB Medien (voll)
2 TB Freigegeben (wobei der Füllstand unbekannt ist
2 TB Backup (wobei der Füllstand unbekannt ist)

Das macht zwar insg. 10 TB aus, aber da sind zwei unbekannte Angaben drin, nämlich die freigegebene Platte, und Backup. Ich würde daher pauschal 1 TB für die freigegebene Platte abziehen.
Außerdem würde ich Fotos, Medien, und freigegeben zusammenfassen, und Backup gesondert betrachten.
Damit komme ich auf einen Mindest-Bedarf von 7 TB für die zusammengefassten Daten.

Für Backup rechne ich normalerweise mit der Faustformel "Gesamtmenge der zu sichernden Daten" x 2,5
Wobei damit wirklich Backups i.S. von System-Images o.ä. gemeint sind.
Da die 2 TB derzeit anscheinend ausreichen, und der Wert plausibel klingt, nehme ich den als Grundlage für die weitere Rechnung.

Damit komme ich auf 7 TB + 2 TB als Mindestbedarf.

Nun betrachte ich, was bereits vorhanden ist.
5 x 2 TB = 10 TB insgesamt, wobei die nötigen Redundanzen noch nicht berücksichtigt sind.

Daraus könnte man jetzt Folgendes machen:

3 x 2 TB als RaidZ1 für Daten und 2 x 2 TB als ZFS-Mirror für Backup ergibt 4 TB + 2 TB nutzbare Kapazität, mit voller Redundanz. Das wäre erst mal die gleiche Kapazität, wie sie ursprünglich zur Verfügung stand, mit dem Unterschied, daß jetzt auch der Platz für die "freie Platte" gegen Ausfall abgesichert wäre.
Allerdings wird damit der Mindestbedarf nicht erreicht, da noch 3 TB für die zusammengefassen Daten fehlen.

Also andere Rechnung:
Die 5 x 2 TB in ein RaidZ1 verwandeln. Damit erhalten wir 8 TB Plattenplatz am Stück.
Damit reicht der Platz zwar immer noch nicht, aber es sieht schon mal für den zusammengefassten Datenbereich recht gut aus.

Auf was ich hinaus will
Die alte, derzeit bestehende Konfiguration ist unglücklich gewählt gewesen, da massiv Platz verschenkt wurde, und die "freie Platte" keine Redundanz hatte.
Ein Grund dafür ist dieses "in Platten denken" (diese Platte macht dies, die beiden anderen Platten machen jenes, usw.).
Wenn man einen Plattenverbund mit ZFS einrichtet, gibt es diese Limitierungen nicht mehr.
Man kann allerdings durchaus Bereiche definieren, welche nur eine bestimmte Größe erreichen dürfen. Das Schlüsselwort lautet "Quotas".
Damit kann man z.B. die "freie Platte" nachbilden, wenn man verhindern möchte, daß dort das ganze System bis zum Anschlag vollgemüllt wird

Noch etwas, was mir aufgefallen ist:

als Software Version läuft:
9.1.0.1 - Sandstorm (Revision 457)
...
Und damit ich dann nicht in den nächsten Jahren immer wieder umbauen und umkonfigurieren muss, investiere ich jetzt lieber ein bischen mehr Geld und habs damit fertig

Die genannte Software Version ist 14 (vierzehn!) Releases hinter dem aktuellen Stand.
Das klingt mir alles nach dem Spruch "never touch a running system".

Wer in der IT-Branche tätig ist, und mit Technik zu tun hat, der weiß, daß das eine verdammt gefährliche Einstellung ist.

Ich kann durchaus verstehen, daß nicht permanent rumbasteln möchte, aber man sollte auch aufpassen, nicht über das Ziel hinauszuschießen.

Ich rechne jetzt noch die geplanten neuen Platten dazu:

8 x 3 TB als RaidZ1 = 21 TB nutzbar
Da die Anzahl der Platten >6 ist, sollte man hier schon über RaidZ2 nachdenken.
also
8 x 3 TB als RaidZ2 = 18 TB nutzbar

kurzer Zwischenstand:
8 TB RaidZ1 (bereits vorhanden)
18 TB RaidZ2 (neu)
ergibt
26 TB Gesamtkapazität

Gebraucht werden aber am Anfang nur 7 TB + 2 TB
Das ist krass überdimensioniert.
Und ohne Backup im Konzept, ist das sogar der helle Wahnsinn.

Warum?
Nun, du musst dafür Plattenkapazität anschaffen, welche nicht wirklich genutzt wird, und dabei dennoch aus der Gewährleistung laufen wird.
RaidZ ist ein wirklich robustes Dateisystem, aber ein Raid ist kein Backup.
Auch externe Festplatten sind kein Backup.
So, wie das derzeit geplant ist, wird es schief gehen.

Wie dann?
Auch wenn du die Option ausgeschlossen hast: du brauchst ein zweites NAS.

Minimal-Musterkonfiguration (ich betrachte hier auch nur die Plattenkapazitäten):
Variante A
Dein Haupt-NAS (vorhandenes System)
5 x 2 TB als Raidz1 = 8 TB für Daten
2 x 3 TB als ZFS-Mirror = 3 TB für Backup deiner Rechner

Zweites NAS
4 x 3 TB als RaidZ1 = 9 TB

Variante B
Dein Haupt-NAS (vorhandenes System)
4 x 3 TB als RaidZ1 = 9 TB für Daten
3 x 2 TB als RaidZ1 = 4 TB für Backup deiner Rechner
+ 2 x 2 TB im Schrank, als Ersatz für Backup

Zweites NAS
wie Variante A

Weiter oben schrieb ich, daß dieses "Denken in Platten" eher ungünstig ist, und man doch besser mit Plattenverbünden arbeiten sollte.
In der Planung habe ich jedoch für "Daten" und "Backup" tatsächlich getrennte Bereiche vorgesehen (also zwei verschiedene Plattenverbünde).
Der Grund dafür ist, daß man tatsächlich nur "Daten" auf das zweite NAS replizieren muß.
Für "Backup" ist dies nicht nötig, weil dort die Daten ja auf den dadurch abgesicherten Systemen ein zweites mal vorhanden sind.

Meine Vorschläge sind nur eine grobe Blaupause.
Wichtig finde ich, zuerst eine echte Bestandsaufnahme zu machen, und eine sinnvolle Planung für die Zukunft aufzustellen.
Es ist durchaus sinnvoll, die Mainboards, das RAM, Netzteil und Gehäuse, für den zukünftigen Maximalausbau auszulegen. Beim RAM muß man nicht gleich voll aufrüsten, aber eben auch nicht mit kleinen Riegeln die Slots verstopfen.
Die Festplatten sollte man aber nur nach dem tatsächlichen Bedarf + Reserve entsprechend konfigurieren.
Der Grund dafür ist, daß man sich so auch immer dem technischen Fortschritt anpassen kann.

Ein zweites NAS kostet ~200€ zzgl. Festplatten. Damit hat man aber nicht nur eine immensen Sicherheitsgewinn (auch/besonders für eigene Fehler), sondern man ist dadurch in der Zukunft auch wesentlich flexibler.

Was ist, wenn demnächst die 4 TB Platten stark im Preis fallen? Dann ist derjenige im Vorteil, der vorher knapp gerechnet hat.

Noch etwas: die von mir errechneten 7 TB sind bereits eine gigantische Datenmenge. Beim Erstabgleich zwischen den beiden NAS kann man locker von 4-5 Tagen ausgehen. Mit externen Festplatten als Backup ist das nicht mehr zu bewältigen.

Ist mal wieder ein Monster-Posting geworden.
Wenn irgend etwas unklar ist, einfach nachfragen.

Grüße
Princo

Post by **apollo567** » 03 Jan 2014 10:08

Princo wrote:Darf ich auch?

Bevor sich der NKL mit Dutzenden von Platten eindeckt, schlage ich vor, zuerst einmal sein geplantes Konzept auf den Prüfstand zu stellen, denn da knirscht es meiner Meinung nach etwas.
Ist mal wieder ein Monster-Posting geworden.

natürlich darfs du, sehr schön analysiert.
So tief bin ich nicht eingestiegen, weil NKL meinem Eindruck nach das Ganze mit wenig Aufwand einrichten wollte und auch wohl noch nicht so tief in die Materie eingestiegen ist.....

NKL · Post by **NKL** » 03 Jan 2014 23:21

Wow, vielen Dank an euch Beide nochmal.
Ich muss mir da am Wochenende nochmal nen paar Gedanken drüber machen und melde mich die Tage nochmal.
Danke!!!!

NKL · Post by **NKL** » 05 Jan 2014 22:50

apollo567 wrote:Auf den ersten Anschein passen diese Modelle aus der Enterprise serie nicht ohne weiteres zur WD Red Serie.... , da würde ich wirklich gerne den Artikel lesen, weil mir das adhoc nicht ganz plausibel scheint...

Wie gesagt, den Artikel habe ich nicht wiedergefunden, genausogut kann ich mich geirrt haben. Ist schon zu lange her, als dass ich das mit absoluter Sicherheit sagen könnte, wie genau das war.
------------------------------------------------------------------------------------------------

Princo wrote:Bevor sich der NKL mit Dutzenden von Platten eindeckt, schlage ich vor, zuerst einmal sein geplantes Konzept auf den Prüfstand zu stellen, denn da knirscht es meiner Meinung nach etwas.

Sofort eingedeckt hätte ich mich sowieso nicht. Dafür ist es noch viel zu früh und das Konzept steht ja noch lange nicht

Princo wrote:Zuerst sollte man den tatsächlichen Platzbedarf ermitteln.
...
Das macht zwar insg. 10 TB aus, aber da sind zwei unbekannte Angaben drin, nämlich die freigegebene Platte, und Backup. Ich würde daher pauschal 1 TB für die freigegebene Platte abziehen.
Außerdem würde ich Fotos, Medien, und freigegeben zusammenfassen, und Backup gesondert betrachten.
Damit komme ich auf einen Mindest-Bedarf von 7 TB für die zusammengefassten Daten.

Auf der Backupplatte lagern im Moment 1,6TB, also noch etwas über 200GB frei.
Die freigegebene Platte ist im Moment eine alte 250GB aus einem alten PC (momentan sind da so 50GB drauf). Die 5te 2TB Seagate Platte die ich oben beschrieb, liegt momentan bei mir im Kleiderschrank

Auf der habe ich ein altes Backup des kompletten Servers, als die Daten noch nicht so viel waren. Die 2TB kann ich eigentlich (wie du schon schriebst) als freigegeben im Moment nicht gebrauchen (zumindest wenn der Nutzen gleichbleibt). Nur wusste ich ehrlich gesagt nicht wohin mit dieser 5ten Platte. Als Backup wird sie nicht mehr dienen und in den Medienverbund mit den neuen Platten würde ich sie auch nicht unbedingt einbauen. Und noch zusätzlich passt sie (nach meinem obigen Konzept) auch nicht mehr in die Wechselrahmen die ich zur Verfügung habe. Daher dachte ich mir, ich kann die kleine Platte dadurch ersetzen und evtl. den Einsatzzweck noch variieren. So bleibt die am Ende nicht über.

Princo wrote:Für Backup rechne ich normalerweise mit der Faustformel "Gesamtmenge der zu sichernden Daten" x 2,5
Wobei damit wirklich Backups i.S. von System-Images o.ä. gemeint sind.
Da die 2 TB derzeit anscheinend ausreichen, und der Wert plausibel klingt, nehme ich den als Grundlage für die weitere Rechnung.

Ich ziehe immer sowohl ein Image, als auch ein reines Datenbackup. So kann ich schnell einzelne Daten wiederherstellen, als auch den PC komplett wiederherstellen falls das mal wirklich nötig ist.
Die 2TB reichen im Moment das ist richtig. Ich weiß aber nicht ob ich evtl. direkt hier noch um 2TB aufrüsten möchte, dann könnte ich 2-3 alte Backups aufheben und wär nicht immer auf ein altes beschränkt.

Princo wrote:Damit komme ich auf 7 TB + 2 TB als Mindestbedarf.
Nun betrachte ich, was bereits vorhanden ist.
5 x 2 TB = 10 TB insgesamt, wobei die nötigen Redundanzen noch nicht berücksichtigt sind.

Daraus könnte man jetzt Folgendes machen:
...
Auf was ich hinaus will
Die alte, derzeit bestehende Konfiguration ist unglücklich gewählt gewesen, da massiv Platz verschenkt wurde, und die "freie Platte" keine Redundanz hatte.
Ein Grund dafür ist dieses "in Platten denken" (diese Platte macht dies, die beiden anderen Platten machen jenes, usw.).
Wenn man einen Plattenverbund mit ZFS einrichtet, gibt es diese Limitierungen nicht mehr.
Man kann allerdings durchaus Bereiche definieren, welche nur eine bestimmte Größe erreichen dürfen. Das Schlüsselwort lautet "Quotas".
Damit kann man z.B. die "freie Platte" nachbilden, wenn man verhindern möchte, daß dort das ganze System bis zum Anschlag vollgemüllt wird.

Ja sicher, war das damals, schon allein wegen dem SoftwareRAID, nicht die Beste Lösung. Aber man fängt ja klein an

Die freie Platte braucht aber wirklich keine Redundanz. Dort werden nur Daten zwischengespeichert (die von Kollegen kommen, o.Ä.) oder eben von mir gezielt draufgeschoben, dass alle Zugriff darauf haben ohne direkt in meine Urlaubsfotos gucken zu können (z.B. auf LANs). Die Daten sind also überall nochmal vorhanden, ein Ausfall wäre nicht tragisch.
Dass man bei ZFS auch "Partitionen" anlegen kann, habe ich beim Lesen über dieses Thema schon mitbekommen, nur konnte ich mir dafür noch keinen richtigen Einsatzzweck vorstellen (eben weil ich trotzdem noch in Platten gedacht habe).

Princo wrote:Noch etwas, was mir aufgefallen ist:
als Software Version läuft:
9.1.0.1 - Sandstorm (Revision 457)
...
Und damit ich dann nicht in den nächsten Jahren immer wieder umbauen und umkonfigurieren muss, investiere ich jetzt lieber ein bisschen mehr Geld und habs damit fertig
Die genannte Software Version ist 14 (vierzehn!) Releases hinter dem aktuellen Stand.
Das klingt mir alles nach dem Spruch "never touch a running system".
Wer in der IT-Branche tätig ist, und mit Technik zu tun hat, der weiß, daß das eine verdammt gefährliche Einstellung ist.
Ich kann durchaus verstehen, daß nicht permanent rumbasteln möchte, aber man sollte auch aufpassen, nicht über das Ziel hinauszuschießen.

Damit hast du vollkommen Recht, daher ist es vllt. auch gar keine schlechte Idee (wie apollo schon schrieb) auf die Embedded umzusteigen. So würde ich das System sicherlich auch mal updaten.
Mit deinem Spruch hast du selbstverständlich Recht. Nur wollte ich ja wirklich alle Daten vom NAS ziehen, neu aufsetzen und wieder draufspielen. Zum Datenkopieren ist die Revision doch völlig egal, das funktioniert ja.

Princo wrote: Ich rechne jetzt noch die geplanten neuen Platten dazu:
8 x 3 TB als RaidZ1 = 21 TB nutzbar
Da die Anzahl der Platten >6 ist, sollte man hier schon über RaidZ2 nachdenken.
also 8 x 3 TB als RaidZ2 = 18 TB nutzbar

kurzer Zwischenstand:
8 TB RaidZ1 (bereits vorhanden)
18 TB RaidZ2 (neu)
ergibt
26 TB Gesamtkapazität

Gebraucht werden aber am Anfang nur 7 TB + 2 TB
Das ist krass überdimensioniert.

Da gebe ich dir absolut Recht. Ich war ja anfangs auf dem Dampfer, dass man für eine sichere Lagerung immer 2 Platten für die einfache Plattenkapazität braucht. Bei ZFS ist das ja nicht der Fall, da hat man ja noch deutlich mehr zur Verfügung. Somit stimmt meine Rechnung von oben natürlich nicht mehr.
Und hatte ich die 3TB Platten anfangs auch eher als Option gedacht, du rechnest jetzt fest mit denen. Mit den 2TB Platten käme man auf ~+12TB. Das wäre zwar immernoch zuviel aber gut^^
Im Nachhinein ist es vllt. wirklich schlauer die 3TB Platten zu nehmen. Da bekommt man mehr Speicher für weniger Geld. Soweit hatte ich am Anfang gar nicht gerechnet.

Princo wrote: Und ohne Backup im Konzept, ist das sogar der helle Wahnsinn.

Warum?
Nun, du musst dafür Plattenkapazität anschaffen, welche nicht wirklich genutzt wird, und dabei dennoch aus der Gewährleistung laufen wird.
RaidZ ist ein wirklich robustes Dateisystem, aber ein Raid ist kein Backup.
Auch externe Festplatten sind kein Backup.
So, wie das derzeit geplant ist, wird es schief gehen.

Das ist richtig. Soviel unnötigen Speicher anzuschaffen wäre Blödsinn.
Raid ist kein Backup. Naja. Das sehe ich ein wenig anders. Ich bin jahrelang nur mit externen Festplatten gefahren und hatte keinen Ausfall (und die sind ja noch unsicherer als die Daten auf dem NAS). Auf dem NAS kann ja sogar mal eine kaputtgehen und die Daten sind nicht verloren. Das sehe ich schon als eine Art Backup an. Wie würdest du das sonst nennen?

Du schreibst, dass es so schiefgehen wird. Was kann denn so wirklich schiefgehen? Das Kopieren der Daten? Schwer vorstellbar für mich. Wär schön wenn du das nochmal genauer beschreiben könntest.

Princo wrote:Wie dann?
Auch wenn du die Option ausgeschlossen hast: du brauchst ein zweites NAS.
Minimal-Musterkonfiguration (ich betrachte hier auch nur die Plattenkapazitäten):
Variante A
...
Variante B
...

Das Ding ist, wieso ich das zweite NAS ausgeschlossen hatte, dass ich keinen Platz dafür habe. Mein Server steht in meiner Wohnung mit im Wohn-/Arbeitszimmer. LAN-Kabel gibt es nur in diesem Raum. Und Platz für ein zweites NAS habe ich hier beim besten Willen im Moment nicht. Und auch das hinschleppen, anstöpseln, Backup ziehen, abstöpseln und wieder in den Abstellraum tragen ist finde ich keine gute Alternative. Außerdem müsste ich ja, wie du unten noch schreibst, noch mehr Platten anschaffen, nur um alle Daten dann nochmal einfach darauf speichern zu können (und auch da dann wieder die Redundanz zu haben). Nagelt mich jetzt bitte nicht darauf fest, dass ich doch viel viel mehr anschaffen wollte als für Backup+HauptNAS jetzt benötigt werden. Mir war halt nicht klar, dass man mehr Platz hat als bei einem Mirror.

Princo wrote:Weiter oben schrieb ich, daß dieses "Denken in Platten" eher ungünstig ist, und man doch besser mit Plattenverbünden arbeiten sollte.In der Planung habe ich jedoch für "Daten" und "Backup" tatsächlich getrennte Bereiche vorgesehen (also zwei verschiedene Plattenverbünde).
Der Grund dafür ist, daß man tatsächlich nur "Daten" auf das zweite NAS replizieren muß.
Für "Backup" ist dies nicht nötig, weil dort die Daten ja auf den dadurch abgesicherten Systemen ein zweites mal vorhanden sind.

Das ist nicht ganz richtig. Ich habe auf der Backupplatte im Moment nicht nur Backups von laufenden PCs sondern auch von Alten, die ich tatsächlich hin und wieder mal bemühe. Genauso lagern dort auch SD Karten Images mit fertigen Betriebssystemen für meinen Raspberry und anderer Kleinkram der nicht unbedingt nochmal genau so vorliegt. Der Großteil ja, der ist nochmal vorhanden aber halt nicht alles. Bei dir würde man das dann noch zu den Daten zählen.

Princo wrote:... Bestandsaufnahme zu machen und eine sinnvolle Planung für die Zukunft aufzustellen.
Es ist durchaus sinnvoll, die Mainboards, das RAM, Netzteil und Gehäuse, für den zukünftigen Maximalausbau auszulegen. Beim RAM muß man nicht gleich voll aufrüsten, aber eben auch nicht mit kleinen Riegeln die Slots verstopfen.
Die Festplatten sollte man aber nur nach dem tatsächlichen Bedarf + Reserve entsprechend konfigurieren.
Der Grund dafür ist, daß man sich so auch immer dem technischen Fortschritt anpassen kann.

Ich habe ja oben gepostet welche Teile im Moment verbaut sind. Siehst du da auf Anhieb noch etwas, was nicht funktionieren wird? RAM ist im Moment mit 4x4GB voll bestückt, die 16 GB dürften für meinen Speicherbedarf in ZFS notwendig sein aber reichen.
Ich gebe gerne zu, dass ich nicht gerne an PCs herumbastle. Bin immer froh wenn hardwaremäßig alles läuft und ich da nicht großartig an laufenden(!) Systemen herumfingern muss. Daher wollte ich das hardwaremäßige für die nächsten 2-3 Jahre abgehackt haben.
Die Daten werden ja im Laufe der Jahre nicht weniger, sondern mehr. Deshalb der geplante relativ große Ausbau.

Princo wrote:Ein zweites NAS kostet ~200€ zzgl. Festplatten. Damit hat man aber nicht nur eine immensen Sicherheitsgewinn (auch/besonders für eigene Fehler), sondern man ist dadurch in der Zukunft auch wesentlich flexibler.
Was ist, wenn demnächst die 4 TB Platten stark im Preis fallen? Dann ist derjenige im Vorteil, der vorher knapp gerechnet hat.
Noch etwas: die von mir errechneten 7 TB sind bereits eine gigantische Datenmenge. Beim Erstabgleich zwischen den beiden NAS kann man locker von 4-5 Tagen ausgehen. Mit externen Festplatten als Backup ist das nicht mehr zu bewältigen.

Siehst du. 200€ + Festplatten. Wenn man noch die 4x3TB von oben hinzurechnet ist man bei gut 600€. (Außerdem ist mir nicht ganz klar, wie du einen kompletten PC [Mainboard, Netzteil, RAM, Gehäuse, Lüfter, ...] für 200€ zusammenkriegen willst^^).
Die Flexibilität stimmt natürlich. Das wäre eine deutliche Verbesserung.
Ich bastle nicht an meinem Server herum. Soviel kann ich schonmal sagen. Daher sind die eigenen Fehler vermutlich nicht so herausstechend. Ein Problem habe ich bei höherer Gewalt. Überspannungen, Feuer, Wasser, Einbruch, ... zerstören mir im schlimmsten Fall all meine Daten. Ohne Backup ist alles weg. Gegen Festplattenausfälle bin ich nur das RAID geschützt.
Die Zeit werde ich in Kauf nehmen müssen, das ist klar. Und du meinst ohne externe Festplatten geht das nicht? Bei USB3.0 Platten kann man schon mit praktischen 60MB/s rechnen. Damit käme ich auf 10h Übertragungszeit für 2TB.

Als eine weitere Überlegung wäre, 4x3TB anzuschaffen. Damit käme ich (wenn ich das richtig abschätze) auf 10TB Plattenplatz, die ich für meine Daten(Medien) nutzen würde. 7TB kriege ich davon auf Anhieb voll. Blieben noch 3TB über, die ich für die nächsten Jahre hätte. Dann habe ich noch die 4x2TB -> ~ 6TB nutzbar (eigentlich zu viel, aber sonst keine Verwendung für die 2TB-Platten) für Backups und Kleinkram. Dann könnte ich theoretisch meine virtuellen Maschinen vom Desktop-PC auf den Server verlagern und so auch mal vom Laptop draufzugreifen. Da würde bestimmt auch nochmal nen TB für draufgehen.
Die letzte 2TB Platte dann für das freigegebene und eventuell noch einen anderen Nutzen. Mal sehen.
Als Backuplösung könnte man dann noch die 4 freien SataPlätze und Wechselrahmen-Schächte nutzen. Platten rein, Backup ziehen, Platten wieder rausziehen und ab in den Schrank.
Eine optimale Lösung ist das noch nicht, weil auf dem "Backup" eigentlich viel zu viel freier Speicher lagert. Nur glaube ich, dass 5x2TB -> 8TB nutzbar zu wenig werden für meine Mediengeschichten.

Wenn ich mich mit 8TB anfreunden kann (muss ich nochmal durchrechnen) könnte man es ja auch so machen: Noch 2x 3TB anschaffen -> 3TB für Backups, die 250GB Platte bleibt weiterhin die freigegebene und ich hätte noch 5 Schächte, sowie 5 Sata Plätze frei.
Das wäre wahrscheinlich die ökonomischste Variante.
Bleibt dann noch die Frage nach dem Backup. Auch hier würde ich dann wieder das Prinzip von oben anwenden und dementsprechend vermutlich 3x3TB noch besorgen. Damit hätte man 9TB NAS-Backup. Genug für alle Medien und ein Teil vom Backup.

Das wären jetzt noch so meine Gedanken. Was sagt ihr dazu?
Nochmal vielen Dank Princo für deine sehr ausführliche Antwort. Das hat mich echt nochmal zum Nachdenken gebracht.

Grüße,
NKL

EDIT: Autsch, dass ich so gesprächig sein kann wusste ich gar nicht. Mega Posting

shakky4711 · Post by **shakky4711** » 06 Jan 2014 13:00

Hallo,

wow, eindrucksvoller Thread, einmal komplett durchgelesen und jetzt raucht der Kopf

Nur mal kurz eingeworfen, ZFS ist ja richtig geil und es gibt zwei grundsätzliche Erweiterungsmöglichkeiten:

a) In den bestehenden Pool neue VDEV hinzugeben. Es gibt Formeln für optimale Platten Zahlen in einem VDEV, bei einem Raid-z1 sind das 3, 5, 9,... Quelle https://sites.google.com/site/eonstorage/zpool_notes
Das Problem ist aber dass man sich damit die Platten Menge immer weiter hochdreht und man ein VDEV (noch) nicht mehr aus einem Pool entfernen kann. Jede neue Platte bedeutet wieder potentielle zusätliche Fehlerquellen, zusätzliche Wärme und Vibrationen.

b) Die Platten in einem Pool Stück für Stück gegen größere austauschen, resilver und mit der nächsten Platte weitermachen. Im Normalfall sollte nach dem Resilver der letzten Platte der Pool die neue Gesamtkapazität aufweisen, wenn nicht braucht es einen kleinen Stups und dann klappt es.

Insofern würde ich hier eigentlich mit 5 Platten a 3TB anfangen. Wenn der Speichrbedarf in 5 Jahren dann größer ist einfach gegen die zukünftigen "WD-Fireblade 20TB" Platten austauschen und sich über 75TB Speicher freuen

Zweites NAS als Backup NAS und die externen Platten für Transfer und zusätzliche Backuops verwenden.

Gruß
Shakky

Post by **Princo** » 07 Jan 2014 02:18

Willkommen im Club der Monster-Poster

Erstmal vielen Dank, daß du dir das so genau durchgelesen hast.

Ich weiß nicht, ob ich es schaffe, alles in einem Rutsch zu beantworten, aber ich fange einfach mit dem an, was ich derzeit für den größten Knackpunkt halte.

Raid ist kein Backup. Naja. Das sehe ich ein wenig anders. Ich bin jahrelang nur mit externen Festplatten gefahren und hatte keinen Ausfall (und die sind ja noch unsicherer als die Daten auf dem NAS). Auf dem NAS kann ja sogar mal eine kaputtgehen und die Daten sind nicht verloren. Das sehe ich schon als eine Art Backup an. Wie würdest du das sonst nennen?

Durch ein RAID/RaidZ wird “nur” die Verfügbarkeit der Daten erhöht, aber nicht die Sicherheit der Daten.
Das hat nichts mit Backup, sondern eher mit rein physikalischer Datensicherheit zu tun.
Wenn du auf dem NAS aus Versehen ein paar GB Daten löschst, dann sind sie tatsächlich weg, wenn du kein Backup hast.
Soweit ist das noch alles trivial.

Warum ist das mit den externen Festplatten als Backup keine "gute" Idee?

Da du photographierst, nehme ich das als Beispiel für eine typische Übertragungskette her:
Deine Kamera nimmt die Bilder auf eine SD-Karte auf.
Die SD-Karte kann kaputt gehen, und fehlerhafte Daten speichern.
Du steckst die Karte in deinen USB-Card-Reader um sie auf den PC zu übertragen.
USB ist aber ein ziemlich unsicheres Datenübertragungsmedium, dabei können Daten verfälscht werden.
Du hast die Bilder dann auf deinem PC, sortierst und veränderst sie.
Natürlich können auch dabei Daten ungewollt verändert werden (dein PC wird ja wahrscheinlich kein ZFS-Dateisystem haben).
Nun überträgst du die Daten über das Netz auf dein ZFS-NAS.
Diese Übertragung ist vergleichsweise sicher, da das TCP-IP Protokoll dafür sorgt, daß die Daten unverändert übertragen werden, und das ZFS für die redundante Speicherung sorgt.

Sobald die Daten auf dem NAS sind, sind sie "erst mal" sicher.
In diesem "erst mal" steckt aber ein kleiner Teufel

Nehmen wir mal an, im NAS steckt ein RaidZ1 mit drei Platten, und wir speichern ein einzelnes Bild darauf.
Das ZFS "zerschneidet" nun die Bilddatei in kleinere Teile und speichert diese einzelnen Teile ausgeklügelt auf die drei Platten, zzgl. Zusatzinformationen.
Sämtliche Raid-Systeme (auch RaidZ) prüfen aber nicht, ob die Daten tatsächlich richtig auf die Platten geschrieben wurden (sog. read-after-write-verify), weil das viel zu viel an Performance kosten würde.

Dabei wird darauf vertraut, daß die internen Plattenkorrektursysteme sauber funktionieren.
Was ist aber, wenn z.B. die zweite Platte genau an dieser Stelle einen Badblock hat?
Kein Problem, wenn die Datei gelesen wird, kann sie von Platte eins und drei korrekt zusammengesetzt werden.
Was ist aber, wenn Platte drei ausfällt? Dann ist die Datei verloren. Es sei denn, man hat ein Backup.
Um dieses Problem zu entschärfen, gibt es bei ZFS den "scrub"-Befehl.
Mit diesem Befehl kann man seine ZFS-Pool überprüfen lassen, ob für sämtliche Dateiteile Redundanz besteht.
Im Klartext heißt das, daß dabei das defekte Dateisegment auf der zweiten Festplatte erkannt wird, der Bereich als defekt markiert wird, und die Datei auf funktionierende Bereiche umgespeichert wird. Dann ist diese Datei wieder auf allen drei Platten ordentlich abgelegt, und gegen den Ausfall einer beliebigen Platte geschützt. Diese Funktionalität bietet meines Wissens nur ZFS.
Dieser Befehl sollte regelmäßig (z.B. monatlich), oder vor Systemarbeiten (z.B. geplante Aufrüstung) abgesetzt werden.

ZFS funktioniert sogar mit teilweise fehlerhaften Platten (Badblocks), wenn entsprechende Redundanz vorhanden ist. ZFS federt also nicht nur den Totalausfall von Festplatten ab.

Was soll dieser ganze Theoriekram? Ich will doch nur viel Speicher. Komm zum Punkt!
Jaja, ich mach ja schon

Der Aspekt, auf den ich hinaus will, sind die statistischen Fehlerraten bei der Datenübertragung.
Bei USB gibt es eine vergleichsweise hohe Fehlerrate. Bei der Übertragung von Bildern der SD-Karte ist das gerade noch tolerierbar und leider auch alternativlos. Allerdings hat man eine gewisse Chance, eine fehlerhafte Übertragung zu erkennen (kaputtes Bild => noch mal kopieren, anderen Slot versuchen, o.ä.)
Anders sieht es allerdings bei Transfers im TB-Bereich aus. Da kann man sich schnell große Datenmengen schreddern, ohne daß man es bemerkt. Das liegt zum Einen daran, daß USB ursprünglich für den Anschluß von Tastaturen und Mäusen entwickelt wurde (bis USB 2.0) und zum Anderen daran, daß gerade bei den internen USB-Chips jeder Hersteller sein eigenes Süppchen kocht.
Wenn man jetzt denkt, daß diese Probleme mit USB 3 ausgemerzt sind, erliegt man leider einem Irrtum.
Ich habe das hier mit diversen USB 3 Platten und unterschiedlicher Hardware ausprobiert, und werde in Zukunft die Finger davon lassen.
Entweder wurde die Geschwindigkeit nicht erreicht, oder die Schnittstellen hängten sich nach einigen Stunden einfach auf (in der Regel geschah beides). Brauchbar ist das bei diesen Größenordnungen nicht.

Eine sichere Datenübertragung erreicht man derzeit nur mit SATA oder über das Netz, nicht mit USB.

Das ist aber nur der Aspekt der Übertragung. Da wären aber noch die Festplatten selbst.

Dazu möchte ich auf diesen Wikipedia-Text verweisen: http://de.wikipedia.org/wiki/RAID#Stati ... estplatten
(durchaus 2 x lesen, das ist richtig heftig, was da steht, auch wenn es zuerst nicht so aussieht)

Kurz zusammengefasst: bei großen Festplatten steigt die Möglichkeit einer fehlerhaften Speicherung stark an.
Deswegen werden in Rechenzentren eher kleine (~700 GB) Festplatten in großen Raid-Verbünden eingesetzt.

Nun haben wir aber im Heimbereich eine Entwicklung zu sehr hohen Speicherkapazitäten. Viel Platz auf wenig Raum => große Festplatten.
Wir machen hier (notgedrungen) etwas, was die Profis nach Möglichkeit vermeiden.

Ein Beispiel, um das zu verdeutlichen:
Ich habe vor einiger Zeit mein RaidZ1 um eine günstige 3 TB Platte erweitert (keine WD-Red).
Ich habe die Platte vorher getestet, indem ich sie als einzelne ZFS-Platte (also ohne Redundanz!) mit Daten gefüllt habe.
Nun ist es bei ZFS so, daß keine echte Formatierung (Prüfung auf Badblocks) stattfindet.
Ergebnis war, daß mir ZFS hinterher ziemlich viele kaputte Dateien gemeldet hat. Im RaidZ-Verbund funktioniert die Platte aber problemlos. Warum das so ist: siehe oben.
Ich habe dann das ZFS für diese einzelne Platte so konfiguriert, daß jede Datei darauf doppelt gespeichert wird (das geht nicht über die WEB-GUI), habe damit also Redundanz erzeugt. Als Ergebnis konnte ich die Platte fehlerfrei befüllen, hatte aber nur die halbe Kapazität zur Verfügung.

KOMM ZUM PUNKT, ALTER!!

USB ist doof.
SATA und Netz ist gut.
Festplatten können doof sein.
ZFS mit Redundanz ist gut.

Wenn man externe Festplatten als Backup benutzen möchte, dann dürfen sie nicht per USB angeschlossen sein, und müssen entweder vollständig durchformatiert (z.B. mit NTFS-Fullformat) oder mit Redundanz versehen sein. Außerdem muß das Backup hinterher vollständig verifiziert werden. Jedenfalls, wenn man an seinen Daten hängt.

Wenn man sich hinsetzt, und den gesamten Zeit- und Geldaufwand gegeneinander aufrechnet (auch wenn man "eigene Zeit" als nicht so relevant ansieht), dann wird man am Ende merken, daß ein zweites NAS am Ende tatsächlich günstiger kommt, als hier mit externen Platten zu jonglieren.

Für jemanden, der nur seine raubmordkopierten

Videos und MP3s abspeichern möchte, mag das "oversized" klingen. Wenn es aber tatsächlich um unersetzliche Daten wie eigene Fotos geht, ist der vermeintliche "Aufwand" sehr sinnvoll.

Ich schreibe das hier nicht, weil ich irgend etwas verkaufen möchte. Ich habe in der Vergangenheit hunderte CDs und DVDs gebrannt, mich mit zig externen Platten herumgeschlagen, alles mögliche ausprobiert. Erst mit dem ZFS hatte ich tatsächlich das Gefühl, mein "digitales Erbe" auf eine vernünftige Weise hinterlassen zu können

Hach, so sentimental wolle ich gar nicht werden

Spaß beiseite. Habe jetzt nur diesen einen Punkt abhandeln können, aber der ist halt extrem wichtig, und vieles andere baut darauf auf. Das zweite NAS als Backup sorgt für eine solide Basis, auf der man sehr viel aufbauen kann.
Zu den anderen Punkten werde ich auch noch etwas schreiben. Besonders, was deine Sorge zum Platzbedarf und den Kosten betrifft, werde ich dir einige Möglichkeiten aufzeigen, an die du jetzt wahrscheinlich noch gar nicht gedacht hast.

Zum Thema PC-Backup habe ich hier auch noch einiges auf Lager, was für dich interessant sein könnte.

Nach vier Stunden Tipperei schicke ich das jetzt einfach mal ab, und gehe ins Bett

Grüße
Princo

NKL · Post by **NKL** » 07 Jan 2014 20:56

shakky4711 wrote:...
Insofern würde ich hier eigentlich mit 5 Platten a 3TB anfangen. Wenn der Speichrbedarf in 5 Jahren dann größer ist einfach gegen die zukünftigen "WD-Fireblade 20TB" Platten austauschen und sich über 75TB Speicher freuen
Zweites NAS als Backup NAS und die externen Platten für Transfer und zusätzliche Backups verwenden.

Danke für deine Einschätzung. So habe ich auch gedacht (anfangs). Aber dann hätte ich gut 12TB freien Speicher + noch 5x2TB Platten. Ich glaub damit bin ich für die nächsten 5 Jahre bedient^^ Mal hören was Princo noch für Ideen hat

----------------------------------------------------------------------------------------------------------

Princo wrote:...Wenn du auf dem NAS aus Versehen ein paar GB Daten löschst, dann sind sie tatsächlich weg, wenn du kein Backup hast. ...

Naja gut. Aber ich starte keine großen Löscheskapaden wenn ich mir nicht 100%ig sicher bin, dass die Daten wegkönnen. Das ist meiner Meinung nach ein Anwenderfehler und dürfte eigentlich nicht vorkommen. Das ist nicht Sinn eines Backups für mich

Princo wrote:Da du photographierst, nehme ich das als Beispiel für eine typische Übertragungskette her:
...

Schön analysiert und noch einige interessante Aspekte. Die ungewollte Veränderung ist für mich dabei eigentlich das "Hauptproblem", obwohl ich da noch nie sichtbare Fehler hatte. Kennst du da Prozentzahlen? Weil wenn unter 10000 Dateien eine nicht mehr lesbar ist oder unter 100GB, 100 Megabyte nicht mehr funktionieren ist das meiner Meinung nach nicht schlimm. Klar vllt. ein bischen blöd wenn daraufhin ein Film hin ist oder ein Lieblingsbild weg ist, aber nur dafür noch so viel Aufwand für ein Backup-NAS? Ich weiß ja nicht. Außerdem wie merke ich denn, dass eine Datei kaputt ist und ich sie vom Backup ersetzen sollte. Zeigt mir das Scrub an? Ich gucke nicht einmal pro Monat all meine Bilder durch und schaue obs Fehler gab. Außerdem wüsste ich nicht ob ich mir wirklich wegen nen paar Fotos, die (wie auch immer rausgefunden) nicht mehr funktionieren, die Mühe machen würde dann das Backup-NAS ranzuschleppen und anzustöpseln und die Dateien per Hand wieder rüberzukopieren.

Princo wrote:...Dabei wird darauf vertraut, daß die internen Plattenkorrektursysteme sauber funktionieren.
Was ist aber, wenn z.B. die zweite Platte genau an dieser Stelle einen Badblock hat?
Kein Problem, wenn die Datei gelesen wird, kann sie von Platte eins und drei korrekt zusammengesetzt werden.
Was ist aber, wenn Platte drei ausfällt? Dann ist die Datei verloren. Es sei denn, man hat ein Backup.
Um dieses Problem zu entschärfen, gibt es bei ZFS den "scrub"-Befehl.Mit diesem Befehl ... Dieser Befehl sollte ...
ZFS funktioniert sogar mit teilweise fehlerhaften Platten (Badblocks), wenn entsprechende Redundanz vorhanden ist. ZFS federt also nicht nur den Totalausfall von Festplatten ab.

Über scrub habe ich schon einiges gelesen und da gibt es ja auch Skripte für den cron-job um das regelmäßig durchzuführen. Aber danke, dass du das Vorgehen da nochmal so genau erklärt hast. Da wird mir zum Prinzip von ZFS noch einiges klarer.
Was genau gibt mir denn der scrub Befehl zurück? Nur ein alles fertig oder auch ob welche kaputt waren (evtl. welche?) und ob überhaupt alle wieder hergestellt wurden?
Ah das ist auch wieder was Neues. Super wenn auch Teilausfälle abgefangen werden. Gibt mir das System denn dann irgendwann eine Meldung wenn es Zeit sein sollte die Platte auszuwechseln? Oder schrumpft dann einfach nur der freie Speicher?

Princo wrote:...Der Aspekt, auf den ich hinaus will, sind die statistischen Fehlerraten bei der Datenübertragung.
Bei USB gibt es eine vergleichsweise hohe Fehlerrate. Bei der Übertragung von Bildern der SD-Karte ist das gerade noch tolerierbar und leider auch alternativlos.

Mal an die anderen Hobbyfotografen. Schaut ihr euch nach der Übertragung der Bilder sofort nochmal alle Bilder durch ob sie fehlerfrei übertragen wurden? Also bei mir lagern die teilweise noch zwei/drei Bildersessions auf der Platte rum bis ich sie durchschaue, nachbearbeite, einsortiere, etc... Immer je nachdem wie Zeit ist.

Princo wrote:.... Da kann man sich schnell große Datenmengen schreddern, ohne daß man es bemerkt.....Wenn man jetzt denkt, daß diese Probleme mit USB 3 ausgemerzt sind, erliegt man leider einem Irrtum. Ich habe das hier mit diversen USB 3 Platten und unterschiedlicher Hardware ausprobiert, und werde in Zukunft die Finger davon lassen. Entweder ...
Eine sichere Datenübertragung erreicht man derzeit nur mit SATA oder über das Netz, nicht mit USB.

Ok, das verstehe ich. Auch wenn ich bisher noch keine größeren Probleme mit USB gehabt habe, kann ich nachvollziehen, dass da einiges kaputt gehen kann was natürlich ärgerlich wäre. Deshalb hatte ich ja auch bisher immer die Sata Platte die ich eingehängt, ein Backup drauf gezogen und sie dann wieder im Schrank verstaut habe. Das könnte ich mir auch für die Zukunft vorstellen, nur eben mit mehr Platten dann. So hätte man eine sichere Übertragung per SATA und zusätzlich ein Backup in einem anderen Raum. Dabei dann zwar nicht auf ZFS aber immerhin. So könnte man immer noch Daten ersetzen, wenn wirklich mal was schiefgeht (vllt. nicht 100%ig, aber immerhin 99% wenn man die "Übertragungs- und Abspeicherungsfehler" abzieht).

Princo wrote:Das ist aber nur der Aspekt der Übertragung. Da wären aber noch die Festplatten selbst.
Dazu möchte ich auf diesen Wikipedia-Text verweisen: ...
Kurz zusammengefasst: bei großen Festplatten steigt die Möglichkeit einer fehlerhaften Speicherung stark an.
Deswegen werden in Rechenzentren eher kleine (~700 GB) Festplatten in großen Raid-Verbünden eingesetzt.

Wow, doch so viele Fehler. Da hat man ja als Consumer echt Probleme mit den größeren Festplatten. Hätte ich echt nicht gedacht, dass da "nur so geringe" Gewährleistung drauf ist.

Princo wrote:USB ist doof. SATA und Netz ist gut. Festplatten können doof sein. ZFS mit Redundanz ist gut.

Herrlich, danke! Super zusammengefasst und direkt noch für Belustigung gesorgt.

Princo wrote:...Außerdem muß das Backup hinterher vollständig verifiziert werden. Jedenfalls, wenn man an seinen Daten hängt.

Wie genau könnte so eine "vollständige Verifikation" aussehen? Hast du das Vorstellungen?

Princo wrote:Für jemanden, der nur seine raubmordkopierten Videos und MP3s abspeichern möchte, mag das "oversized" klingen. Wenn es aber tatsächlich um unersetzliche Daten wie eigene Fotos geht, ist der vermeintliche "Aufwand" sehr sinnvoll.

Naja, ich habe jetzt meinen Festplattenrekorder so weit, dass ich auch meine Videosammlung erweitern kann. Also werden auch einige Filme noch hinzukommen. Und die 2TB auf der Medienplatte sind im Moment zu 80% Filme (legal!

) und der Rest Musik Und Bilder. Die Fotos sind wirklich unersetzlich. Wirklich relevant ist es aber für mich nur bei größeren Datenmengen. Wenn wirklich mal 1-2 Bilder defekt sind kann ich da durchaus mit leben.

Princo wrote:Das zweite NAS als Backup sorgt für eine solide Basis, auf der man sehr viel aufbauen kann.

Wie beurteilst du meinen Vorschlag mit dem Einbau der Platten in den Server und die anschließende Auslagerung? Du wirst vermutlich wieder mit dem nichtvorhandenen ZFS argumentieren, sodass man nicht verifizieren kann ob das Backup überhaupt funktioniert hat, oder?

Princo wrote:Zu den anderen Punkten werde ich auch noch etwas schreiben. Besonders, was deine Sorge zum Platzbedarf und den Kosten betrifft, werde ich dir einige Möglichkeiten aufzeigen, an die du jetzt wahrscheinlich noch gar nicht gedacht hast. Zum Thema PC-Backup habe ich hier auch noch einiges auf Lager, was für dich interessant sein könnte.

Wow, da bin ich ja mal gespannt.

Princo wrote:Nach vier Stunden Tipperei schicke ich das jetzt einfach mal ab, und gehe ins Bett

Vielen, vielen, vielen Dank, dass du dir hier so eine Mühe machst. Du, wie auch die anderen in dieser Community, sind echt eine Bereicherung. Danke!

Lg, NKL

Post by **Princo** » 08 Jan 2014 03:03

Hi,
ich greife erst mal die Fragen zu Übertragungskette, speziell USB auf.
Wenn die Übertragung von der SD-Card fehlerhaft ist, können verschiedene Situationen auftreten.
1. Man bemerkt es nicht.
2. Die Übertragung der Daten dauert ungewöhnlich lange (statt 10 Minuten, rödelt der Rechner eine Stunde vor sich hin)
3. Man bekommt vom Betriebssystem eine Fehlermeldung "IO-Error" oder ähnliches.
4. Das System verhält sich plötzlich sehr ungewöhnlich. Friert z.B. einfach komplett ein.

Die Punkte 2-4 sind alles Hinweise darauf, daß irgendwas nicht stimmt.

Dagegen ist auch kein Kraut gewachsen. So etwas passiert einfach. Dann muß man seine Hardware checken, und ggfs. reparieren.

Wenn die Daten aber auf dem NAS gelandet sind, sollte das nicht vorkommen.

Nun zum zweiten NAS, und warum ich es für zwingend notwendig halte: Du hast einfach eine sehr große Datenmenge, und darunter befinden sich unersetzliche Dateien. Wenn immer Redundanz vorhanden ist, und alles prima funktioniert, ist das alles kein Problem.

Jetzt greife ich mal den Vorschlag von shakky4711 auf (hier.

Er beschreibt in Punkt b) eine Methode, mit der man einen Pool durch schrittweises Austauschen gegen größere Festplatten erweitern kann.
Die Methode funktioniert tatsächlich.

ABER!!!

Diese Methode ist ein absoluter Notbehelf. Während dieser Aktion (die sich über mehrere Tage erstreckt) hat man keine Redundanz.
Und wenn dabei irgend etwas schief geht, dann sind alle Daten weg.
Deshalb habe ich die immense Wichtigkeit der Redundanz im vorherigen Posting so haarklein erklärt.

Das 200€ NAS:
Ich weiß, daß dir eigentlich völlig klar ist, daß du ein Backup brauchst. Die Platten dafür würdest du dir schon beschaffen, und du zuckst eigentlich nur bei der zusätzliche Hardware.

Du hast als Haupt-NAS schon ein ziemlich potentes System, mit dem viele tolle Sachen mit dem NAS veranstalten kannst.
Dein Backup-NAS muß aber nicht zwingend in der gleichen Liga spielen.

Es gibt z.B. das ASRock E350M1 Board, derzeit für 60€.
Das hat den Prozessor Onboard, sowie 4 + 1 SATA Schnittstellen, sowie einem PCI-Slot.
Dazu noch ein Netzteil, RAM und Gehäuse, da sind die 200€ nicht ganz illusorisch.
Für den Anfang würde das voll ausreichen, und mit dem PCI-Slot kannst du (später) noch einen SATA-Controller dazu packen.

Es gibt aber auch noch andere Boards.

Ich habe solche Boards übrigens in meinem Haupt- und Backup-NAS im Einsatz.

Um das nochmal zu betonen: Das zweite NAS dient nicht nur zur Absicherung, falls ich mal versehentlich etwas gelöscht habe, sondern es ermöglicht es mir, total unkompliziert, jederzeit meine Plattenkapazität aufzurüsten, ohne daß ich mit unsicheren externen Festplatten hantieren muß. Es spart Zeit, Nerven und im Endeffekt sogar richtig Geld, wenn man das so einrichtet.
Es ist schwierig, dies in einem Posting umfassend darzulegen, aber ich male hier keine fiktiven Horrorszenarien an die Wand.
Früher habe ich durchaus Tage und Wochen geschwitzt, und versucht, meine Daten von einem defekten System wiederzuerlangen.
Darauf hatte ich irgendwann keinen Bock mehr. Solche Situationen will ich einfach nicht mehr erleben.
Natürlich will ich mein Geld dabei nicht sinnlos zum Fenster rauswerfen, aber ich will eine vernünftige Lösung. Und nach sehr sorgfältiger Abwägung (und vielen, vielen Tests), bin ich bei der Kombination ZFS + 2tes NAS gelandet.

Um dir "meine Denke" zu verdeutlichen, mache ich jetzt mal einen kleinen Schlenker in Richtung Backup der PCs.
Du machst ja sowohl Imaging, als auch File -by-File-Backup.
Wow, das ist ungewöhhlich.
Ich dachte schon, daß ich der Einzige bin, der so etwas macht

Ich gehe davon aus, daß du dich mit dem Thema genauer befasst hast, sonst würdest du es ja nicht machen.
Aber evtl. schaffe ich es ja, daß dir gleich die Kinnlade runterklappt

Bei mir werden diverse Desktops, Laptops, ein HTPC, und anderes Zeug mit gemischten Windows- und Linux-Installationen auf mein Backup-NAS gesichert (das ist bei mir ein eigener Rechner, bei dir wäre es der Backup-Teil im Haupt-NAS).
Und zwar sowohl als Image, als auch File-by-File.
Und dies sogar, wenn sich die Systeme im Hybernate (Suspend-to-Disk) Status befinden.
Dabei erreiche ich die höchstmögliche Geschwindigkeit und Effizienz (geringer Speicherverbrauch auf dem NAS).
Dafür muß ich keine Software auf den Systemen installieren.
Bei den Systemen, bei denen nur Imaging möglich ist, kann ich die Images sogar als Freigabe auf dem NAS mounten, und auf die Dateien im Image zugreifen.
Das Ganze natürlich mit der Möglichkeit, auch alte Zustände wieder herzustellen. Jeder Rechner fährt nach einem Restore exakt im dem gleichen Zustand wieder hoch, wie er zum Zeitpunkts des Backup war.

Mich hat gestört, daß man Images normalerweise nur auf exakt die gleiche Hardware zurück spielen kann. Daher wollte ich ein System haben, welches einerseits idiotensicher zu bedienen ist, und mir andererseits sämtliche Optionen offen läßt (z.B. Restore auf völlig andere Hardware). Das ist eigentlich der Normalfall, wenn etwas passiert, aber die sonst übliche Backup-Software versagt an dieser Stelle einfach, und dann hat man viel Arbeit vor sich.

Dabei nutze ich eine Vielzahl der Möglichkeiten von NAS4Free und etwas zusätzliche freie Software.
Die Backups finden täglich statt, d.h. maximale Sicherheit mit extrem wenig (eigentlich keinem) Aufwand.

Das nur als Appetithappen, was so alles möglich ist

Grüße
Princo

NKL · Post by **NKL** » 09 Jan 2014 08:19

Princo wrote:...Die Punkte 2-4 sind alles Hinweise darauf, daß irgendwas nicht stimmt.
Dagegen ist auch kein Kraut gewachsen. So etwas passiert einfach. Dann muß man seine Hardware checken, und ggfs. reparieren.

Muss ich erhlich sagen, ist mir noch nie bewusst aufgefallen. Dann wirds wohl eher Punkt 1 gewesen sein, wenn überhaupt

Princo wrote:...Während dieser Aktion (die sich über mehrere Tage erstreckt) hat man keine Redundanz.Und wenn dabei irgend etwas schief geht, dann sind alle Daten weg.
Deshalb habe ich die immense Wichtigkeit der Redundanz im vorherigen Posting so haarklein erklärt.

Wie du im nächsten Satz schreibst, mir ist vollkommen klar, dass ein Backup vorhanden sein sollte. Nur bin ich immer noch nicht 100%ig davon überzeugt, dass ich dafür noch ein NAS brauche. Noch eine Frage dazu: Sollte in dem Backup-NAS dann wieder ein RaidZ1 System genutzt werden? Also wird da dann wieder eine zusätzliche Platte benötigt? Nach deinen Vorstellungen bestimmt, um vor einem Zurückspielen der Daten zu überprüfen ob die Daten intakt sind. Richtig? Oder kann man das auch irgendwie anders feststellen? Ohne Raid kann man sie vllt. nicht wiederherstellen aber man könnte ja nach jedem Backup ein Scrub laufen lassen um zu sehen ob alles fehlerfrei übertragen wurde. Können den großartig Daten korrupt werden wenn das NAS nie läuft?

Princo wrote:Dein Backup-NAS muß aber nicht zwingend in der gleichen Liga spielen.
Es gibt z.B. das ASRock E350M1 Board, derzeit für 60€.
Das hat den Prozessor Onboard, sowie 4 + 1 SATA Schnittstellen, sowie einem PCI-Slot.
Dazu noch ein Netzteil, RAM und Gehäuse, da sind die 200€ nicht ganz illusorisch.
Für den Anfang würde das voll ausreichen, und mit dem PCI-Slot kannst du (später) noch einen SATA-Controller dazu packen...

Wow ok, das war mir nicht klar, dass es Mainboards mit integrierter CPU für den Preis schon gibt. Interessant!
Wenn ich mal rechne: 5 Sata = z.B. 5x3TB = 15TB -> mit RaidZ1 -> 12TB. So gigantisch weit kommt man damit dann aber auch nicht, wie mir grade mal so auffällt.

Princo wrote:Um das nochmal zu betonen: Das zweite NAS dient nicht nur zur Absicherung, falls ich mal versehentlich etwas gelöscht habe, sondern es ermöglicht es mir, total unkompliziert, jederzeit meine Plattenkapazität aufzurüsten, ohne daß ich mit unsicheren externen Festplatten hantieren muß. Es spart Zeit, Nerven und im Endeffekt sogar richtig Geld, wenn man das so einrichtet.

Genau dafür wollte ich ja direkt richtig aufrüsten, damit ich dann erst in 3-5 Jahren oder so wieder mit sowas anfange. Dann vermutlich aber ganz neu, auch mit neuer Systemhardware, weil die bis dahin auch schon knapp 7-10 Jahre alt ist dann. Klar auch so ist es ganz praktisch ein (zur Not sofort lauffähiges) Backup zu haben, aber ich weiß ja nicht..

Princo wrote:Du machst ja sowohl Imaging, als auch File -by-File-Backup. Wow, das ist ungewöhhlich. Ich dachte schon, daß ich der Einzige bin, der so etwas macht. Ich gehe davon aus, daß du dich mit dem Thema genauer befasst hast, sonst würdest du es ja nicht machen.

Ja, ich habe beides schon zu schätzen gewusst. Früher habe ich nur File-by-File Backups gezogen. Nachdem mir aber zwei PCs ziemlich direkt hintereinander verreckt sind, kam ich mit dem Neuaufsetzen gar nicht hinterher. Alles wieder neuinstallieren, einrichten etc... Und es ging ja wirklich um denselben PC, da funktioniert ein iso erfahrungsgemäß super. Seitdem ziehe ich jeweils beides. File-by-File über PersonalBackup und Image über ne bootfähige CD names RedoBackup&Restore. Das Image auch, weil ich mein paralleles Ubuntu aufm Laptop nicht richtig per FilebyFile sichere. Da ziehe ich immer nur den home-Ordner.
Das File-by-File noch zusätzlich zum Image weil ich noch kein Tool gefunden habe, was mir aus den isos die mir Redo erstellt wirklich effektiv Dateien rausziehen kann. Vielleicht kannst du da ja noch helfen.

Princo wrote:...Und dies sogar, wenn sich die Systeme im Hybernate (Suspend-to-Disk) Status befinden. Dabei erreiche ich die höchstmögliche Geschwindigkeit und Effizienz (geringer Speicherverbrauch auf dem NAS). Dafür muß ich keine Software auf den Systemen installieren.
Bei den Systemen, bei denen nur Imaging möglich ist, kann ich die Images sogar als Freigabe auf dem NAS mounten, und auf die Dateien im Image zugreifen.
Das Ganze natürlich mit der Möglichkeit, auch alte Zustände wieder herzustellen. Jeder Rechner fährt nach einem Restore exakt im dem gleichen Zustand wieder hoch, wie er zum Zeitpunkts des Backup war.
... und mir andererseits sämtliche Optionen offen läßt (z.B. Restore auf völlig andere Hardware)

Im Ruhezustand Backups ziehen, keine zusätzliche Software, Images als Freigabe mounten, Restore auf völlig andere Hardware... Na jetzt greifste aber in die Zauberkiste. Ist ja freaky was da alles möglich ist

. Da müssen wir später auf jeden Fall noch drüber sprechen!

Princo wrote:Die Backups finden täglich statt, d.h. maximale Sicherheit mit extrem wenig (eigentlich keinem) Aufwand.

Backupst du da immer die komplette Datenmenge oder nur das was sich geändert hat? Das würde sonst bei mir glaub ich ewig dauern nachts

File-by-File dauert bei mir schon so 8-9 Stunden für ~90GB. Image hingegen ca. 40mins.

Ich glaube echt du solltest ein Tutorial schreiben. "Wie baue ich ein NAS schlau auf, bin backuptechnisch abgesichert und sichere noch alle anderen Rechner mit ab!". Ich gehe davon aus, dass du in der Branche arbeitest oder?

Nochmal vielen Dank für deine Mühe, bin gespannt was als Nächstes kommt

Lg, NKL

Post by **apollo567** » 09 Jan 2014 10:14

NKL wrote: Wow ok, das war mir nicht klar, dass es Mainboards mit integrierter CPU für den Preis schon gibt. Interessant!.

Mal ein kleiner Einwurf, ich hole mir manche Inspiration was Hardware und deren Kosten betrifft ganz gerne auf "www.geizhals.at" .
Deren Datenbank ist ganz gut strukturiert zur Auswahl nach Produkteigenschaften.

NKL · Post by **NKL** » 09 Jan 2014 13:36

apollo567 wrote:Mal ein kleiner Einwurf, ich hole mir manche Inspiration was Hardware und deren Kosten betrifft ganz gerne auf "www.geizhals.at" .
Deren Datenbank ist ganz gut strukturiert zur Auswahl nach Produkteigenschaften.

Danke für den Tipp. Ich hab dafür immer mindfactory.de genutzt, da hat man aber natürlich nur einen Anbieter. Geizhals ist ja direkt ne Preissuchmaschine.

Post by **Princo** » 11 Jan 2014 21:47

NKL hat geschrieben:
Nur bin ich immer noch nicht 100%ig davon überzeugt, dass ich dafür noch ein NAS brauche. Noch eine Frage dazu: Sollte in dem Backup-NAS dann wieder ein RaidZ1 System genutzt werden? Also wird da dann wieder eine zusätzliche Platte benötigt? Nach deinen Vorstellungen bestimmt, um vor einem Zurückspielen der Daten zu überprüfen ob die Daten intakt sind. Richtig? Oder kann man das auch irgendwie anders feststellen?

Der Vorteil eines 2ten NAS liegt darin, daß man es innerhalb weniger Minuten zum Haupt-NAS machen kann.
Du musst also nicht erst dein Haupt-NAS reparieren und restoren, um weiter auf deine Daten zugreißen zu können.
Auch für die physikalische Datensicherheit gelten die gleichen Gesetze wie für das Haupt-NAS, also auch der Einsatz von Redundanz.

Schau mal, was Google zu dem Begriff "ein Raid ist kein Backup" auswirft: Link

NKL hat geschrieben:
So gigantisch weit kommt man damit dann aber auch nicht, wie mir grade mal so auffällt.

Da kann man noch eine Schippe drauflegen: http://www.asrockrack.com/general/produ ... l=C2750D4I
8-fach Prozessor, bis 64GB-RAM, und hat ZWÖLF SATA-Ports.
Kann allerdings sein, daß es nicht gleich auf Anhieb mit N4F läuft, wird aber sicher noch kommen.
Das Board kostet aber auch 350€
Wenn ich ein so großes NAS aufbauen würde, wie du es vorhast, dann würde ich dieses Board ernsthaft in Erwägung ziehen.
Damit wäre das Thema mit zusätzlichen Controllern auch vorerst vom Tisch.

NKL hat geschrieben:
bootfähige CD names RedoBackup&Restore
...
File-by-File dauert bei mir schon so 8-9 Stunden für ~90GB. Image hingegen ca. 40mins
..
Ich glaube echt du solltest ein Tutorial schreiben

Das mit dem Tutorial habe ich mir auch schon überlegt. Ich warte aber erstmal, bis die neue N4F herauskommt, weil sich da viele Komponenten ändern werden (u.a. eine andere ZFS-Version).

RedoBackup&Restore habe ich getestet, und danach mit spitzen Fingern wieder hingelegt. Ich weiß jetzt nicht mehr, was es alles im Detail war, aber es taugte nicht als verlässliche Backup-Lösung. Es war für mich auch der letzte Versuch mit fertigen Backup-Lösungen.
"Selber machen" und vor allem "besser machen" war angesagt.

Danke, daß du mir mal deine Werte genannt hast.
Ich habe das mal mit einem Rechner nachgestellt.
Eine Linux-Mint Installation (Ubuntu-Derivat), darauf habe ich lauter kleine Foto-Dateien rauf kopiert, bis 100GB voll waren.
Damit habe ich dann ein sowohl ein Image- als auch File-by-File Backup und Restore gefahren.
Die Werte findest du unten in der Tabelle.
Dann habe ich ein Verzeichnis mit 36GB Daten umbenannt, um eine Veränderung zu simulieren.
Auch diese Werte stehen in der Tabelle.

Code: Select all

100GB                                Backup | Restore
--------------------------------------------+--------
File-by-File (full)                  35min  | 28min
Image                                48min  | 26min
--------------------------------------------+--------
36GB geändert, 5.200 Dateien                |
--------------------------------------------+--------
Quick File-By-File (inkr.)           12min  | 26min
Quick+Compare File-by-File (inkr.)   42min  | 40min
--------------------------------------------+--------
Image+Quick+Compare                         | 1h 6min

Dazu muß ich erwähnen, daß die Platte des Rechners nur im IDE-Modus (statt AHCI) läuft, und daß die Datenzusammenstellung eher ungünstig gewählt ist. Die Zeiten wären besser, wenn die Datenmenge aus großen Video-Dateien bestehen würde.
Warum in der Tabelle diese Kombinationen aus Image/Quick/Compare aufgeführt sind, erläutere ich später (nur soviel: Compare hat nur am Rande etwas mit Überprüfung zu tun).
Praxisrelevant ist die Zeile "Quick+Compare File-by-File (inkr.)".

Grüße
Princo

NKL · Post by **NKL** » 13 Jan 2014 09:21

Princo wrote:Der Vorteil eines 2ten NAS liegt darin, daß man es innerhalb weniger Minuten zum Haupt-NAS machen kann.
Auch für die physikalische Datensicherheit gelten die gleichen Gesetze wie für das Haupt-NAS, also auch der Einsatz von Redundanz..

Auf meinem NAS liegen doch aber keine Überlebensnotwendigen Daten auf die ich in jeder Minute zugreifen muss. Ob ich jetzt mal zwei Wochen nicht auf meine Fotos zugreifen kann bis die neue Platte da ist, ist für mich jetzt nicht tragisch. Es sei denn genau in der Zeit gibt auch noch ein anderer PC den Geist auf. Dann wäre in der Tat Eile gefordert^^

Princo wrote:Schau mal, was Google zu dem Begriff "ein Raid ist kein Backup" auswirft: Link

Dass ich ein Backup brauche stelle ich auch nicht in Frage. Selbstverständlich werden die Daten außerhalb des NAS nochmal gespeichert. Nur versteh ich die Vorteile eines zweiten NAS für meine Bedürfnisse immer noch nicht. Bisher habe ich halt ein Backup auf interne Platten gezogen und sie dann ausgebaut und in den Schrank gelegt. Geht bei mir durch die externen Wechselrahmen ganz einfach. Ist echt schwierig. Ich glaube dir voll und ganz, dass ein zweites NAS nur Vorteile bringt, trotzdem habe ich mich mit dem Gedanken noch nicht ganz angefreundet. Da ja aber auch noch nicht geklärt ist wie die Datenverteilung in meinem Haupt-NAS jetzt angelegt wird, habe ich auch noch Zeit. Kommt bestimmt noch

Princo wrote:8-fach Prozessor, bis 64GB-RAM, und hat ZWÖLF SATA-Ports. Das Board kostet aber auch 350€
Wenn ich ein so großes NAS aufbauen würde, wie du es vorhast, dann würde ich dieses Board ernsthaft in Erwägung ziehen.
Damit wäre das Thema mit zusätzlichen Controllern auch vorerst vom Tisch.

Das sieht echt heftig aus! Dagegen würde ja mein jetziges NAS schon verdammt alt aussehen

Du bringst hier Ideen, das ist echt unglaublich. Als ich den ersten Post geschrieben habe, dachte ich vllt. noch ein paar Infos zu ZFS zu bekommen, zur Konfiguration, ... Dass das so ausarten würde und ich jetzt statt 99% nur noch zu 10% an meine angedachte Strategie glaube hätte ich nicht gedacht. Aber weiter so, du haust mich jedes Mal wieder vom Hocker^^

Princo wrote:RedoBackup&Restore habe ich getestet, und danach mit spitzen Fingern wieder hingelegt. Ich weiß jetzt nicht mehr, was es alles im Detail war, aber es taugte nicht als verlässliche Backup-Lösung. Es war für mich auch der letzte Versuch mit fertigen Backup-Lösungen. "Selber machen" und vor allem "besser machen" war angesagt.

Zur Wiederherstellung habe ich es ehrlich gesagt auch noch nicht verwendet. Die Rezensionen und Bewertungen schauten aber sehr gut aus. Ist natürlich interessant, dass du das auch kennst und anscheinend negative Erfahrungen gemacht hast.

Princo wrote:
Code: Select all
Quick+Compare File-by-File (inkr.)   42min  | 40min
Dazu muß ich erwähnen, daß die Platte des Rechners nur im IDE-Modus (statt AHCI) läuft, und daß die Datenzusammenstellung eher ungünstig gewählt ist. Die Zeiten wären besser, wenn die Datenmenge aus großen Video-Dateien bestehen würde.

Noch besser?!

Damit lastest du ja dauerhaft zu ca. 80% die GBit Geschwindigkeit aus. Wie schaffst du das selbst mit kleinen Dateien?! Respekt!
Ich merk schon, jetzt wo ich das hier von dir höre will ich nie wieder was anderes haben... Danke dir

Ich werd mich die Tage mal nochmal hinsetzen und den Thread mal ein klein wenig zusammenfassen und offengebliebene Fragen nochmal formulieren. Das da oben liest sich ja keiner mehr durch^^

Und natürlich nicht zu vergessen: Glückwunsch zum Moderatorposten Princo! Mit dir und appollo (und natürlich auch all den anderen netten Helfern hier) ist das hier die beste Community die ich bisher erlebt habe. Vielen Dank!

Grüße,
NKL

Post by **apollo567** » 13 Jan 2014 10:26

NKL wrote: Dass ich ein Backup brauche stelle ich auch nicht in Frage. Selbstverständlich werden die Daten außerhalb des NAS nochmal gespeichert. Nur versteh ich die Vorteile eines zweiten NAS für meine Bedürfnisse immer noch nicht. Bisher habe ich halt ein Backup auf interne Platten gezogen und sie dann ausgebaut und in den Schrank gelegt. Geht bei mir durch die externen Wechselrahmen ganz einfach. Ist echt schwierig. Ich glaube dir voll und ganz, dass ein zweites NAS nur Vorteile bringt, trotzdem habe ich mich mit dem Gedanken noch nicht ganz angefreundet. Da ja aber auch noch nicht geklärt ist wie die Datenverteilung in meinem Haupt-NAS jetzt angelegt wird, habe ich auch noch Zeit. Kommt bestimmt noch ]

Besorg dir mal diesen Artikel zum Thema 'Bitfäule': http://www.heise.de/ct/inhalt/2013/21/176/
Den Vorteil im 2. NAS würde ich darin sehen, dass das die Datenkohärenz auch im Backup durch die Funktionalitäten des Dateisystems ZFS besser abgesichert ist, als bei einer einfachen Festplatte. von den anderen genannten Vorteilen abgesehen.

NKL wrote:
Princo wrote:8-fach Prozessor, bis 64GB-RAM, und hat ZWÖLF SATA-Ports. Das Board kostet aber auch 350€
Wenn ich ein so großes NAS aufbauen würde, wie du es vorhast, dann würde ich dieses Board ernsthaft in Erwägung ziehen.
Damit wäre das Thema mit zusätzlichen Controllern auch vorerst vom Tisch.
Das sieht echt heftig aus! Dagegen würde ja mein jetziges NAS schon verdammt alt aussehen
Du bringst hier Ideen, das ist echt unglaublich. Als ich den ersten Post geschrieben habe, dachte ich vllt. noch ein paar Infos zu ZFS zu bekommen, zur Konfiguration, ... Dass das so ausarten würde und ich jetzt statt 99% nur noch zu 10% an meine angedachte Strategie glaube hätte ich nicht gedacht. Aber weiter so, du haust mich jedes Mal wieder vom Hocker^^

Nochmal der Hinweis, das Board ist so neu, das dürfte mit der aktuellen Version noch nicht funktionieren, vor einem Kauf ist ein genauer Abgleich mit der Hardwarekompatibilitätsliste von FreeBSD 9.2 erforderlich !

NKL · Post by **NKL** » 13 Jan 2014 22:07

apollo567 wrote:Besorg dir mal diesen Artikel zum Thema 'Bitfäule': http://www.heise.de/ct/inhalt/2013/21/176/
Den Vorteil im 2. NAS würde ich darin sehen, dass das die Datenkohärenz auch im Backup durch die Funktionalitäten des Dateisystems ZFS besser abgesichert ist, als bei einer einfachen Festplatte. von den anderen genannten Vorteilen abgesehen.

Mache ich am Wochenende. Da hab ich Zugriff auf die Ct's des letzten Jahres. Du meinst also, dass man auf dem Backup auch noch scrubben kann. Das dürfte ja aber auch machbar sein, wenn die Platten aus dem NAS ausgebaut werden, die Platten aber trotzdem als ZFS konfiguriert sind oder?
Und wenn durch das Scrub die Dateien wohl zu 100% wieder hergestellt werden können dürfte das ja auch so klappen?

apollo567 wrote:Nochmal der Hinweis, das Board ist so neu, das dürfte mit der aktuellen Version noch nicht funktionieren, vor einem Kauf ist ein genauer Abgleich mit der Hardwarekompatibilitätsliste von FreeBSD 9.2 erforderlich !

Jap, das hatte ich schon so verstanden. Die Planung ist noch lange nicht abgeschlossen, da Princo ja immer wieder mit neuem Zauberkram kommt

Ich informiere mich dann noch passend. Aber danke für den Hinweis nochmal

Post by **Princo** » 14 Jan 2014 00:58

NKL wrote:Und natürlich nicht zu vergessen: Glückwunsch zum Moderatorposten Princo! Mit dir und appollo (und natürlich auch all den anderen netten Helfern hier) ist das hier die beste Community die ich bisher erlebt habe. Vielen Dank!

NKL wrote:Du meinst also, dass man auf dem Backup auch noch scrubben kann. Das dürfte ja aber auch machbar sein, wenn die Platten aus dem NAS ausgebaut werden, die Platten aber trotzdem als ZFS konfiguriert sind oder?
Und wenn durch das Scrub die Dateien wohl zu 100% wieder hergestellt werden können dürfte das ja auch so klappen?

Nein!

Lies bitte nochmal das hier, da hatte ich das mit den Scrub erklärt. Der Scrub kann nur dann Daten wiederherstellen, wenn Redundanz vorhanden ist, also die Daten mindestens doppelt gespeichert sind, und das geht mit einzelnen Platten nur, wenn man auf die Hälfte der Kapazität verzichtet. Hat man keine Redundanz, dann sagt einem der Scrub nur, welche Dateien kaputt sind. Kann bei großen Platten aber eine sehr lange Liste sein.

apollo567 wrote:Nochmal der Hinweis, das Board ist so neu, das dürfte mit der aktuellen Version noch nicht funktionieren, vor einem Kauf ist ein genauer Abgleich mit der Hardwarekompatibilitätsliste von FreeBSD 9.2 erforderlich !

Das Board ist lt. Herstellerangabe bereits für FreeBSD 9.1 tauglich. Es existiert allerdings ein YT-Video, wo ein Vorserienmodell des Boards nicht mit FreeNAS bootet.
Das ist bei Vorserienmodellen aber nicht ungewöhnlich, und kann jetzt durchaus schon funktionieren. Irgendjemand wird das schon ausprobieren.

NKL wrote:Ob ich jetzt mal zwei Wochen nicht auf meine Fotos zugreifen kann bis die neue Platte da ist, ist für mich jetzt nicht tragisch. Es sei denn genau in der Zeit gibt auch noch ein anderer PC den Geist auf.

Wenn man in einem Raid eine defekte Platte austauscht, dann werden die Daten von den restlichen Platten rekonstruiert, und auf die Austauschplatte geschrieben. Das stellt für alle Platte eine große Belastung dar. Wenn dabei eine weitere Platte ausfällt, dann hilft nur noch das Backup, und es müssen alle Daten zurück gespielt werden.

Das "Problem" bei deinem Projekt ist, daß es sich um eine extrem große Datenmenge handelt, die mit einzelnen Festplatten nicht wirklich zu bewältigen ist. aber das habe ich wahrscheinlich schon mal geschrieben

Würdest du nur ein "kleines" 2TB NAS bauen, auf dem du deine Musiksammlung ablegst, dann wäre deine derzeitige Methode auch OK.

Ich hatte aber auch etwas von "in Platten denken" geschrieben, und ich glaube, daß du beim Backup immer noch so denkst (?)

Ich hatte oben geschrieben, wie lange der Erstabgleich zwischen den beiden NAS wahrscheinlich dauern wird.
Was ich dabei vergessen habe, ist die Angabe, wie lange hinterher die Synchronisationszeit im Regelbetrieb sein wird.
Wenn ich von meinen Fotos und anderen Daten ausgehe, dann sind das ~5 Minuten, die man einmal pro Woche an Zeit reinstecken muß.
Das Syncen läuft dann automatisch ab, es müssen keine Platten gewechselt werden.
Der komplette Vorgang braucht dann nur ~15 Minuten, dann ist fertig.
Wie lange brauchst du jetzt für ein Backup deines NAS auf einzelne Platten?
Wie häufig machst du daher ein Backup?
Würdest du in dieser Zeit nicht lieber etwas anderes machen? Photographieren zum Beispiel?
(Ja, das ist suggestiv)

Die eigene Zeit rechnet man ja selber meist nicht mit rein. Ist aber auch ein Faktor.

Jetzt nochmal kurz zum PC-Backup.

NKL wrote:RedoBackupRestore ... Zur Wiederherstellung habe ich es ehrlich gesagt auch noch nicht verwendet.

Ich glaube, daß das eines der Punkte war, die nicht funktioniert haben. Jedenfalls nicht so, wie es sein sollte.
Einen USB-Stick konnte ich nicht erstellen.
Automatisierbar ist es auch nicht.
Als ich dann gesehen habe, daß man sich damit auch prima seine SSDs und Festplatten schrotten kann, kam die Aktion mit den spitzen Fingern.

NKL wrote:Damit lastest du ja dauerhaft zu ca. 80% die GBit Geschwindigkeit aus. Wie schaffst du das selbst mit kleinen Dateien?!

Die Daten waren frisch auf ein neu aufgesetztes System kopiert, und daher kaum fragmentiert. Das verfälscht das Ergebnis etwas.
Die Gechwindigkeit ist aber tatsächlich enorm. Da ist das NAS u.U. auch richtig am Anschlag.

Das eigentliche Kopieren der Daten dauert tatsächlich nur 12min (Quick), ich nenne das auch den "die Russen kommen!"-Modus

Warum dann nochmal 30min dazu kommen, wirst du verstehen, wenn du das mal live am eigenen System gesehen hast.
Nur soviel: Das hängt mit den Eigenheiten von Dateisystemen zusammen.
Noch etwas: 97% aller Anleitungen im Internet, die sich mit inkrementellen File-by-File-Sicherungen beschäftigen, sind schlichtweg falsch. Das fand ich ziemlich erschreckend. War auch einer der Gründe, es selbst zu machen.

Beim Imaging habe ich hinterher gemerkt, daß ich anscheinend so etwas ähnliches wie "Clonezilla" gebaut habe. Das basiert auf den gleichen Tools, die ich verwende.

Nur mal so, als weiterer Appetithappen

(Und ich habe tatsächlich noch ein paar "Knaller" in Reserve)

Grüße
Princo

Post by **apollo567** » 14 Jan 2014 08:43

Princo wrote:
apollo567 wrote:Nochmal der Hinweis, das Board ist so neu, das dürfte mit der aktuellen Version noch nicht funktionieren, vor einem Kauf ist ein genauer Abgleich mit der Hardwarekompatibilitätsliste von FreeBSD 9.2 erforderlich !
Das Board ist lt. Herstellerangabe bereits für FreeBSD 9.1 tauglich. Es existiert allerdings ein YT-Video, wo ein Vorserienmodell des Boards nicht mit FreeNAS bootet.
Das ist bei Vorserienmodellen aber nicht ungewöhnlich, und kann jetzt durchaus schon funktionieren. Irgendjemand wird das schon ausprobieren.

Tatsächlich

, lesen bildet. Ich habs tatsächlich überlesen.
Aufgrund der Neuheit dieser Prozessoren und des Boards hätte ich damit aber nicht gerechnet. Da fehlt ja jetzt nur noch ein realistischer,bezahlbarer Preis.... dann steht einem neuen NAS nichts mehr im Wege....

NKL · Post by **NKL** » 15 Jan 2014 21:46

Princo wrote:Der Scrub kann nur dann Daten wiederherstellen, wenn Redundanz vorhanden ist, also die Daten mindestens doppelt gespeichert sind, und das geht mit einzelnen Platten nur, wenn man auf die Hälfte der Kapazität verzichtet. Hat man keine Redundanz, dann sagt einem der Scrub nur, welche Dateien kaputt sind. Kann bei großen Platten aber eine sehr lange Liste sein.

Ja klar, das was ich oben geschrieben habe bezog sich immer auf auf ZFSRaid1, sodass Redundanz vorhanden ist. Wieviele kaputte Dateien kann man denn so im Schnitt pro Woche erwarten. Das heißt wie groß ist in etwa die Fehlerwahrscheinlichkeit?

Princo wrote:Wenn man in einem Raid eine defekte Platte austauscht, dann werden die Daten von den restlichen Platten rekonstruiert, und auf die Austauschplatte geschrieben. Das stellt für alle Platte eine große Belastung dar. Wenn dabei eine weitere Platte ausfällt, dann hilft nur noch das Backup, und es müssen alle Daten zurück gespielt werden.

Ja, wie gesagt, ich bezweifle nicht, dass ich ein Backup brauche. Das werde ich auf jeden Fall haben müssen.

Princo wrote:Würdest du nur ein "kleines" 2TB NAS bauen, auf dem du deine Musiksammlung ablegst, dann wäre deine derzeitige Methode auch OK. Wie lange brauchst du jetzt für ein Backup deines NAS auf einzelne Platten? Wie häufig machst du daher ein Backup? Würdest du in dieser Zeit nicht lieber etwas anderes machen? Photographieren zum Beispiel?

Da ich nur eine einzelne 2TB Festplatte als Backup nutze, brauche ich in etwa 7 Std. um die komplett zu füllen. Dabei ziehe ich aber natürlich nur Änderungen, also dauert das immer so zwischen 2-3 Stunden. Backupen tue ich im Moment nur einige Dateien von der "Backuppartition" und nahezu alles von den Medien. Das ist auf jeden Fall kein Dauerzustand und auch schon immer ein Dorn in meinem Auge. Das sollte jetzt mit dem Neuaufsetzen des NAS behoben werden. Bisher habe ich die alte Platte halt immer eingebaut, das Backup gezogen und danach wieder im Schrank verstaut.
Der zeitliche Aufwand (Einbau, Mounten, Schauen was gelöscht und neu übertragen werden muss, Ausbauen, ...) dauerte immer so ca. 1 Stunde. Gemacht habe ich das so grob einmal im Monat. Je nachdem wie ich Lust und Zeit habe (ich weiß, alles sehr unsicher

)

Princo wrote:Automatisierbar ist es auch nicht.Als ich dann gesehen habe, daß man sich damit auch prima seine SSDs und Festplatten schrotten kann, kam die Aktion mit den spitzen Fingern.

Ok, wie gesagt ich habs nie aktiv benutzt und kann dazu nichts sagen. Hört sich aber jetzt nicht so toll an was du sagst

Princo wrote:Die Gechwindigkeit ist aber tatsächlich enorm. Da ist das NAS u.U. auch richtig am Anschlag. Das eigentliche Kopieren der Daten dauert tatsächlich nur 12min (Quick), ich nenne das auch den "die Russen kommen!"-Modus. ... Noch etwas: 97% aller Anleitungen im Internet, die sich mit inkrementellen File-by-File-Sicherungen beschäftigen, sind schlichtweg falsch. Das fand ich ziemlich erschreckend. War auch einer der Gründe, es selbst zu machen.

Wow, egal was du schreibst, du bringt mich jedes mal wieder zum Erstaunen...

So ihr habt mich überzeugt. Es geht einfach nicht ohne ein zweites NAS zum Backup. Ist gut

Über die genaue Ausstattung muss man sich dann am Ende Gedanken machen, auch je nachdem was für eine Kapazität das HauptNAS dann hat.
Vielleicht sollten wir jetzt nochmal das HauptNAS angehen. Du schriebst am Anfang, dass du noch ein paar Ideen für die Plattenkonstellation hast?

Alles Gute auch noch an apollo, der es ja jetzt zum Admin geschafft hat! Herzlichen Glückwunsch

Liebe Grüße,
NKL

Post by **apollo567** » 15 Jan 2014 23:57

NKL wrote: Ja klar, das was ich oben geschrieben habe bezog sich immer auf auf ZFSRaid1, sodass Redundanz vorhanden ist. Wieviele kaputte Dateien kann man denn so im Schnitt pro Woche erwarten. Das heißt wie groß ist in etwa die Fehlerwahrscheinlichkeit?

Ich betreibe 3 RaidZ1-Pools und habe jetzt kürzlich nach langer Zeit überhaupt mal einen scrub gemacht. Das dauerte zwischen 3 und 12 Stunden und
ich hatte exakt 0 Fehler auf allen 3 pools. Muss aber dazu sagen mein NAS läuft 'on demand' und nicht 24/7.

NKL wrote: Alles Gute auch noch an apollo, der es ja jetzt zum Admin geschafft hat! Herzlichen Glückwunsch

Danke für die Blumen, es war die Story von der Jungfrau und dem Kind

Post by **Princo** » 16 Jan 2014 03:39

NKL wrote:So ihr habt mich überzeugt. Es geht einfach nicht ohne ein zweites NAS zum Backup.
Über die genaue Ausstattung muss man sich dann am Ende Gedanken machen, auch je nachdem was für eine Kapazität das HauptNAS dann hat.

Fein, jetzt sind wir genau an dem Punkt, den ich dir in meinem ersten Posting zu diesem Thema verklickern wollte

Ich hatte dort zwei Varianten vorgeschlagen (A und B)
Ich tendiere zur Variante B, wobei man sich nur noch über die genaue Anzahl der Festplatten für den "Daten"-Bereich (und den PC-Backup-Bereich) Gedanken machen muß.

Der PC-Backup-Bereich ist unkritisch. Da geht es nur darum, ob man sich eine, oder zwei der bereits vorhandenen Festplatten als Ersatz in den Schrank legt.

Beim Daten-Bereich ist es interessanter. Hier sollte man etwas genauer untersuchen, welche Arten von Daten gespeichert werden sollen. Fotos und Filme sind bekannt. Musik wird auch noch dabei sein. Aber was ist mit dem Rest?
Ich habe z.B. recht viele ISOs abgelegt. Die lassen sich mit ZFS ziemlich gut komprimieren.
Sind Daten doppelt gespeichert? Sind Daten veraltet und mittlerweile nutzlos?
"Aufräumen" bringt eine ganze Menge Platz. "Später Aufräumen" kostet unnötig Geld.
Ich sage das, weil ich das von mir selber kenne

Dazu gehört auch die Betrachtung der lokal gespeicherten Daten. Eine Musiksammlung muß z.B. nicht auf jeden PC gespeichert sein, wenn man sie auch zentral über das NAS abrufen kann.
Jepp, das ist eine lästige Arbeit. Lohnt sich aber.
Diesen Vorgang nennt man "Konsolidierung".

Mein Vorschlag: Datenmenge auf den Prüfstand stellen. Aufräumen. Danach die mindestens benötigte Kapazität ausrechnen. Dazu dann einen realistischen Zuschlag für die nächsten beiden Jahre draufrechnen.

Dann schaut man sich nach geeigneten Systemen um, wobei man Platzbedarf und Ausbaufähigkeit berücksichtigt.

Danach erstellt man sich einen Migrationsplan, in dem exakt festgelegt wird, in welchen Schritten man die bereits vorhandenen Daten auf das neue System überträgt. (Ich weiß, daß das total schrecklich klingt, aber das ist eine einmalige Sache, und dabei sollte man sehr überlegt vorgehen).
Dabei kann man durchaus etwas speziellere Techniken einsetzen.
So würde ich z.B. die 4TB an Photo-Dateien nicht einfach per Datei-Explorer auf das NAS kopieren, sondern dies über die Kommandozeile per rsync machen. Vorteil dabei: sollte die Übertragung nicht klappen, weil sich z.B. mittendrin die USB-Schnittstelle aufhängt (was leider nicht ganz unwahrscheinlich ist), kann man den Vorgang nach einem Reset einfach an der gleichen Stelle wieder aufnehmen. Das spart dann richtig viel Zeit. Du kennst ja die Zeiten, die es bei einer 2TB Platte normalerweise braucht (~7Stunden).

Zu deiner Entscheidung zum 2ten NAS kann ich dir nur gratulieren. Diese Ressource wird bereits bei der Datenkonsolidierung wertvolle Dienste leisten, und wenn du dann im Regelbetrieb bist, wirst du spätestens nach einem Monat merken, wie sinnvoll diese Investition war.

Ich habe auch kein Geld zu verschenken.

Grüße
Princo

NKL · Post by **NKL** » 16 Jan 2014 22:31

apollo567 wrote:Ich betreibe 3 RaidZ1-Pools und habe jetzt kürzlich nach langer Zeit überhaupt mal einen scrub gemacht. Das dauerte zwischen 3 und 12 Stunden und ich hatte exakt 0 Fehler auf allen 3 pools. Muss aber dazu sagen mein NAS läuft 'on demand' und nicht 24/7.

Das hört sich ja super an! Mein NAS läuft ja auch nur wenn ich es brauche. Also genau das gleiche Anwendungsgebiet

---------------------------------------------------------------------------------------------------------------------------------------------------------------------

Princo wrote:Ich tendiere zur Variante B, wobei man sich nur noch über die genaue Anzahl der Festplatten für den "Daten"-Bereich (und den PC-Backup-Bereich) Gedanken machen muß. Der PC-Backup-Bereich ist unkritisch. Da geht es nur darum, ob man sich eine, oder zwei der bereits vorhandenen Festplatten als Ersatz in den Schrank legt.

Was genau meinst du nochmal mit den Platten im Schrank? Ich dachte ich habe dann auf dem Backup-NAS das Haupt-NAS komplett gebackupt. Wofür dann noch Platten im Schrank?^^

Princo wrote:... Aber was ist mit dem Rest? Ich habe z.B. recht viele ISOs abgelegt. Sind Daten doppelt gespeichert? Sind Daten veraltet und mittlerweile nutzlos? Dazu gehört auch die Betrachtung der lokal gespeicherten Daten. Eine Musiksammlung muß z.B. nicht auf jeden PC gespeichert sein, wenn man sie auch zentral über das NAS abrufen kann.
Mein Vorschlag: Datenmenge auf den Prüfstand stellen. Aufräumen. Danach die mindestens benötigte Kapazität ausrechnen. Dazu dann einen realistischen Zuschlag für die nächsten beiden Jahre draufrechnen.

Es ist soweit alles schon auf dem NAS gespeichert was mehrfach genutzt wird, aufgeräumt habe ich auch vor 2 Monaten ca. einfach weil der Speicher knapp wurde. Da flog einiges Unbenutztes runter. Es handelt sich also momentan um den tatsächlich notwendigen Datenbestand.
Also Datenbestand nochmal zusammengefasst: Unter "Backup" liegen momentan ~1TB in PC-Backups (Einzeldateien), ~600GB in PC-Backups (Isos - mit Redo erstellt) und nochmal ca. 200GB in Raspberry-Isos und sonstigen Kleinkram.
Unter "Medien" liegen ~100GB Fotos (jpg), ~100GB Musik (mp3) und 1,7TB Filme (avi).
Dann liegen noch ~3,6 TB an Fotos (jpg) auf 2 externen Festplatten und ~200GB in Filmen (avi) auf ner kleinen Platte am Raspberry.

Wenn man das alles zusammenfasst kommt man im Moment auf 1,8TB unter "Backups" und 5,7TB für Medien.
Mit den 2TB Backups würde ich vermutlich im Moment hinkommen (je nachdem ob ich noch auf irgendeine coole Backupmethode von dir umsteige und wieviel Speicher die dann braucht). Wenn noch 1-2TB hinzukommen wäre das aber auch ziemlich praktisch.
Ich habe mal mit den Filmen n bisl rumgerechnet. Da kommen, wenns so weiter geht, ca 1-1,5TB pro Jahr hinzu. Zumindest zeichne ich im Moment ziemlich viel auf

In Fotos kann ich schwer sagen. Ich habe teilweise so Phasen da werdens echt viele und dann mal Monate wo ich nur mal 500 Stück habe.
Zusammengerechnet: Momentan 7,5TB in Nutzung. Um ein bisschen Ruhe zu haben, sollte man evtl. 10-12TB Speicher anpeilen. Das dürfte dann für 2 Jahre gut reichen denke ich. Was meint ihr?
Dein 2ter Vorschlag dürfte da ganz gut passen, nur dass dabei die 2TB Platten nicht wirklich genutzt werden.

Princo wrote:So würde ich z.B. die 4TB an Photo-Dateien nicht einfach per Datei-Explorer auf das NAS kopieren, sondern dies über die Kommandozeile per rsync machen.

Ok, kann man das einfach von einem Win7-PC lösen? Ich habe das bisher immer über das Backupprogramm (Personal Backup) gemacht. Keine Ahnung mit welchem Protokoll der das macht. Glaube aber eher nicht rsync.
Anzubieten hätte ich sonst noch das parallele ubuntu was zu dem Win7 auf meinem Laptop läuft. Da dürfte das per rsync einfach gehen.

Princo wrote:Zu deiner Entscheidung zum 2ten NAS kann ich dir nur gratulieren. Diese Ressource wird bereits bei der Datenkonsolidierung wertvolle Dienste leisten, und wenn du dann im Regelbetrieb bist, wirst du spätestens nach einem Monat merken, wie sinnvoll diese Investition war.

Entscheidung *huuuust*
Nochmal zu dem zweiten NAS: Das wird dann dauerhaft bei mir im Schlafzimmer im Schrank stehen. Wenn ein Backup gezogen werden soll, werd ichs rübertragen, anstöpseln und starten. Wie ich vorne schon schrieb habe ich keinen Platz sonst dafür^^

Nachtrag: Zur Verfügung stehen im Moment: 5x 2TB Seagate Barracuda und eine 200 (oder 250) GB sehr alte WD Platte. (siehe auch allerersten Post -> Hardware)

Schöne Grüße,
NKL

XigmaNAS

NAS neu aufbauen und erweitern

NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern

Re: NAS neu aufbauen und erweitern