ZFS und Pool

[JaHu]

Guten Abend,

Ich suche händeringend eine Gute Erklärung zum Thema ZFS .. hab ein NAS auf NAS4Free Basis und würde gerne mit dem Filesystem ZFS arbeiten. Ich habe schon viel gelesen, leider habe ich noch keinen Thread bzw. eine passende Anleitung gefunden wo es von Anfang an genau erklärt wird.
Vielleicht kann mir hier jemand von euch weiterhelfen. Ich wäre sehr dankbar.
Wichtig für mich wäre halt die Vorgehensweise von Anfang an, bis zum Abschluss der Konfiguration. (quasi eine Schritt für Schritt Anleitung)
Event. noch ein Tipp was für Hardeware verwendet werden sollte.
Momentan nutze ich UFS würde aber gerne aufgrund der Datensicherheitsgeschichte ein vernünftiges RAID aufbauen.

Ich bedanke mich schon mal im vorraus
JaHu

[crowi]

Das schon gelesen? viewtopic.php?t=7041

Gesendet von meinem Lenovo K50-t5 mit Tapatalk

[ms49434]

Guten Abend,

Ich suche händeringend eine Gute Erklärung zum Thema ZFS .. hab ein NAS auf NAS4Free Basis und würde gerne mit dem Filesystem ZFS arbeiten. Ich habe schon viel gelesen, leider habe ich noch keinen Thread bzw. eine passende Anleitung gefunden wo es von Anfang an genau erklärt wird.
Vielleicht kann mir hier jemand von euch weiterhelfen. Ich wäre sehr dankbar.
Wichtig für mich wäre halt die Vorgehensweise von Anfang an, bis zum Abschluss der Konfiguration. (quasi eine Schritt für Schritt Anleitung)
Event. noch ein Tipp was für Hardeware verwendet werden sollte.
Momentan nutze ich UFS würde aber gerne aufgrund der Datensicherheitsgeschichte ein vernünftiges RAID aufbauen.

Ich bedanke mich schon mal im vorraus
JaHu

Dokumentation gibt es genug im Internet, hier ein paar Links:
https://de.wikipedia.org/wiki/ZFS_(Dateisystem)
http://wiki.nas4free.org/doku.php?id=zfs:main
https://www.iceflatline.com/2013/03/how ... -nas4free/

ZFS kann ein paar Sachen besser und ist flexibler im Vergleich zu UFS, hat aber auch höhere Anforderungen an die Hardware.

[JaHu]

Guten Abend,

Ich suche händeringend eine Gute Erklärung zum Thema ZFS .. hab ein NAS auf NAS4Free Basis und würde gerne mit dem Filesystem ZFS arbeiten. Ich habe schon viel gelesen, leider habe ich noch keinen Thread bzw. eine passende Anleitung gefunden wo es von Anfang an genau erklärt wird.
Vielleicht kann mir hier jemand von euch weiterhelfen. Ich wäre sehr dankbar.
Wichtig für mich wäre halt die Vorgehensweise von Anfang an, bis zum Abschluss der Konfiguration. (quasi eine Schritt für Schritt Anleitung)
Event. noch ein Tipp was für Hardeware verwendet werden sollte.
Momentan nutze ich UFS würde aber gerne aufgrund der Datensicherheitsgeschichte ein vernünftiges RAID aufbauen.

Ich bedanke mich schon mal im vorraus
JaHu

Dokumentation gibt es genug im Internet, hier ein paar Links:
https://de.wikipedia.org/wiki/ZFS_(Dateisystem)
http://wiki.nas4free.org/doku.php?id=zfs:main
https://www.iceflatline.com/2013/03/how ... -nas4free/

ZFS kann ein paar Sachen besser und ist flexibler im Vergleich zu UFS, hat aber auch höhere Anforderungen an die Hardware.

@ms49434
Danke Dir. hab mir jetzt schon ein paar genauer angeschaut, allerdings manche Sachen verstehe ich noch nicht so ganz ...
Eine Frage schon vorab zur Hardware :
Ist die Hardware ausreichend ? ..

System.PNG

und die andere Frage Wie bekomme ich raus ob ich EEEC Ram habe der scheint ja von fundamentaler Bedeutung zu sein ...
Danke Grüße JaHu

[JaHu]

Das schon gelesen? viewtopic.php?t=7041

Gesendet von meinem Lenovo K50-t5 mit Tapatalk

@Crowi, vielen Dank,
Das hat mich schon mal ein ganzes Stück weiter gebracht und ist in etwas das was ich gesucht hab,
leider wird auf das Thema ZFS etwas spärlich eingegangen...
Hab ich das richtig verstanden das man aus z.B. drei vorhandenen Platten ( möglichst alle gleich groß / und gleicher Hersteller) einen Pool
bildet -> und dann noch einen zweiten Pool zum spiegeln ? ...
Danke Grüße JaHu

[ms49434]

Ich glaube dass es sich um ein Board von MSI handelt, ECC Fehlanzeige, aber bis zu 32GB RAM kann es. 6 SATA Ports, 1&2 6Gb/s und der Rest 3Gb/s. Am Besten gute Speichermodule nehmen. Der LAN Chip ist von Realtek - naja. Kannst ja ne Intel reinschrauben.

Hier die Regeln zum Thema Pool:
- Ein oder mehrere Festplatten bilden einen Verbund. Ein Verbund kann redundant sein, muß er aber nicht. Stichwort Single Disk, Stripe, Mirror, RAIDZx.
- Ein oder mehrere Verbünde bilden einen Pool.
- Ein Verbund kann nicht mehr aus einem Pool herausgenommen werden wenn er einmal drin ist.
- Fällt ein Verbund aus ist der Pool zerstört.
- Ein System kann mehrere Pools haben.

[Princo]

Hallo JaHu,

willst du meine ehrliche Meinung hören?

Du hast da einen mittelalten Aldi/Saturn/Mediamarkt-Rechner ohne ECC-Ram, dafür aber mit Quadcore-Prozessor.

Als NAS würde ich den nicht unbedingt einsetzen wollen, und zwar aus folgenden Gründen:

1. Der Rechner kann kein ECC-RAM. Das ist übrigens keine spezielle Anforderung von ZFS oder NAS4Free, sondern eine grundsätzliche (und sinnvolle) Voraussetzung für den sicheren Betrieb eines Datenservers. Diese Aussage gilt für alle Systeme.
2. Das System ist oversized. Bei einem NAS-Betrieb ist die Prozessorleistung nicht so sehr entscheidend. Das Gerät ist sehr wahrscheinlich besser als Desktop-System geeignet.

Deine Idee mit dem zweiten Pool ist sinnvoll, aber anstelle vom Spiegeln der Daten, würde ich hier eher auf den Einsatz von zfs send/receive verweisen.

Grüße
Princo

[JaHu]

Ich glaube dass es sich um ein Board von MSI handelt, ECC Fehlanzeige, aber bis zu 32GB RAM kann es. 6 SATA Ports, 1&2 6Gb/s und der Rest 3Gb/s. Am Besten gute Speichermodule nehmen. Der LAN Chip ist von Realtek - naja. Kannst ja ne Intel reinschrauben.

Hier die Regeln zum Thema Pool:
- Ein oder mehrere Festplatten bilden einen Verbund. Ein Verbund kann redundant sein, muß er aber nicht. Stichwort Single Disk, Stripe, Mirror, RAIDZx.
- Ein oder mehrere Verbünde bilden einen Pool.
- Ein Verbund kann nicht mehr aus einem Pool herausgenommen werden wenn er einmal drin ist.
- Fällt ein Verbund aus ist der Pool zerstört.
- Ein System kann mehrere Pools haben.

Ich danke Dir!

[JaHu]

Hallo JaHu,

willst du meine ehrliche Meinung hören?

Du hast da einen mittelalten Aldi/Saturn/Mediamarkt-Rechner ohne ECC-Ram, dafür aber mit Quadcore-Prozessor.

Als NAS würde ich den nicht unbedingt einsetzen wollen, und zwar aus folgenden Gründen:

1. Der Rechner kann kein ECC-RAM. Das ist übrigens keine spezielle Anforderung von ZFS oder NAS4Free, sondern eine grundsätzliche (und sinnvolle) Voraussetzung für den sicheren Betrieb eines Datenservers. Diese Aussage gilt für alle Systeme.
2. Das System ist oversized. Bei einem NAS-Betrieb ist die Prozessorleistung nicht so sehr entscheidend. Das Gerät ist sehr wahrscheinlich besser als Desktop-System geeignet.

Deine Idee mit dem zweiten Pool ist sinnvoll, aber anstelle vom Spiegeln der Daten, würde ich hier eher auf den Einsatz von zfs send/receive verweisen.

Grüße
Princo

Bäääm
Nagut das war nicht das was ich hören wollte, aber anscheinend ist es so wie es ist.

Darf ich dich fragen was du mir für Hardware vorschlägst. ?! Jetzt stehe ich nämlich wirklich komplett auf dem Schlauch!
Das Board machte auf mich keinen schlechten Eindruck...ich hätte mich vielleich auch vorher mal kundig machen sollen.

Jetzt bin ich etwas unsicher, wenn ich das Teil jetzt verkaufen würde, was wäre Sinnvoll anzuschaffen...?
Das Problem ist halt das ich jetzt ziemlich unsicher bin was ich mache...ich hab schon eine Synology DiskStation, die hat aber nur Platz für zwei Festplatten. Deshalb schien mir die Lösung mit NAS4Free der goldene Weg zu sein. Die Geschichte konnte ich soweit ganz meinen Bedürfnissen anpassen... dachte ich zuindest.
Synology ist eine Feine Sache, aber wenn du bei diesem System erweitern willst, das geht halt alles gleich richtig in´s Geld. Wenn man da an die Kapazitätsgrenze mit seinen Festplatten kommt, kommt man um Neukauf der restlichen Hardware meist nicht drumherum.

Danke für deinen Aufschlussreichen Post.
und Deine/ Eure eventuelle Hilfe!
JaHu

[crowi]

Darf ich dich fragen was du mir für Hardware vorschlägst. ?!

Ein guter Start wäre zB ein HP Microserver, den und dessen Vorgänger verwenden hier einige:
http://geizhals.de/hp-proliant-microser ... 22637.html

[lux]

...und die andere Frage Wie bekomme ich raus ob ich EEEC Ram habe...

ich verweise mal auf eine älteren Post von mir -> viewtopic.php?p=42302#p42302

[JaHu]

Ich Danke euch für eure Antworten,
Ich denke ich werde der Ausführung von Crowi mit dem HP Microserver nachkommen.

Grüße JaHu

Falls da noch jemand Tipps, Tricks und Kniffe hat... ich bin für jeden Hinweis Dankbar.

[Princo]

Falls da noch jemand Tipps, Tricks und Kniffe hat... ich bin für jeden Hinweis Dankbar.

Schau mal, ob du irgendwo den HP N54L (also den Vorgänger) bekommen kannst. Der hat nämlich noch die zusätzliche eSATA-Schnitstelle verbaut, was sehr praktisch ist.

Grüße
Princo

[JaHu]

Oh Okay Super danke für den TIPP
Kann man die eigentlich erweitern ?

[Princo]

Kann man die eigentlich erweitern ?

Es gibt hier einen Sammelthread zu dem Gerät: http://www.hardwareluxx.de/community/f1 ... 52079.html

Darin sind zwei Themen interessant:
1. Die Speichererweiterung auf 16GB RAM ECC
2. Einspielen eines freigeschalteten BIOS, damit der eSATA-Anschluß PortMultiplier-fähig wird. Dadurch kann man dann ein zusätzliches Drive-Array an das Gerät anschließen.

Diese Lösungen habe ich selbst im Einsatz.

Grüße
Princo

[JaHu]

Hallo Princo, Danke hab ich mal überflogen und werde es mir in den nächsten Tagen
mal genauer anschauen.

Hatte mich schon mit Crowi darüber unterhalten.
Das dass Angebot (N54L) leider nicht sonderlich groß ist.
Und wenn doch recht überteuert.

Eine Problemlose Erweiterung bei dem Nachfolgermodel (G8) scheint also nicht ohne weiteres möglich, durch den fehlenden eSATA Port
sehe ich das richtig ?

Danke, wünsche noch
einen schönen Sonntag
Grüße Jan

[Digi-Quick]

Wenn 4 HDDs (auf Dauer) nicht ausreichen, gibt es hier noch einige kostengünstige Zusammenstellungen von mir im Thread.
http://www.hardwareluxx.de/community/f1 ... 14030.html
(Die ohne ECC von anderen Usern solltest du am Besten ignorieren - wobei ich selbst da auch mal einen direkten Preisvergleich gemacht habe)

[Princo]

Eine Problemlose Erweiterung bei dem Nachfolgermodel (G8) scheint also nicht ohne weiteres möglich, durch den fehlenden eSATA Port
sehe ich das richtig ?

"Problemlos" ist halt immer ein sehr dehnbarer Begriff
Beim alten N54L muß man das BIOS flashen, damit der eSATA-Port mit einem weiteren Drive-Array klar kommt. Das ist auch ein gewisser Aufwand.

Andererseits kostet ein HP ProLiant MicroServer Gen8 G1610T mit 4GB ECC RAM derzeit gerade mal ~180€.
Eine zusatzliche eSATA-Karte bekommt man für ~20€
Ein externes eSATA-DriveArray mit 4 Bays bekommt man für ~100€

Das sind gerade mal 60€ Unterschied.

Berücksichtigt man jetzt, daß man den Speicher etwas pimpen sollte, wenn man ein zusätzliches externes Array hinzufügt, dann wird das preislich noch sehr viel eindeutiger. Es läuft darauf hinaus, daß ein zusätzliches NAS günstiger sein kann, als das bestehende NAS zu erweitern.

Das Ganze kommt aber nur dadurch zustande, weil die HP Microserver geradezu lächerlich günstig sind (Die Gen9 Geräte werden bald auf den Markt kommen, und deswegen sind die Gen8 Teile jetzt so billig).

Du hast also die Qual der Wahl
Du kannst bedenkenlos einen Gen8 Microserver kaufen, diesen später mit einer zusätzlichen eSATA-Karte und einem externe Drive-Array und ggfs. mehr ECC-RAM aufrüsten, oder du kaufst einen weiteren Microserver dazu.

Welches dabei die bessere Strategie ist, läßt sich ohne weitere Informationen nicht leicht beantworten, aber es ist schön, daß man hier mehrere Optionen hat.

Grüße
Princo

[JaHu]

Klasse, Vielen Dank für eure Ausführungen! ...
Ich hab mir jetzt erstmal auf euer Anraten so eine Wunderkiste bestellt

@Princo ... genauere Informationen folgen noch

Ich möchte den Microserver Gen8 allerdings in erster Linie als reinen! Sicherungs/ Backupserver benutzen
für eine Vielzahl von Daten.
Grüße Jan

[defcon999]

@JaHu

Du hast Alles richtig gemacht ... habe den Gen8 mit 16 GB ECC und 4 Platten seit einem Jahr laufen.

Nas4Free und die Scripts von Fritz (http://www.forums.nas4free.org/viewtopi ... =70&t=2197) passen perfekt zueinander.

Mit diesen Scripts, die völlig autonom als Cron-Job laufen, hast Du eine umfassende Snapshot-Engine, fährt das NAS selbstständig (Zeit- und/oder IP-gesteuert) hoch und runter, wird das ZFS (und Temperaturen) gecheckt, gesichert und gepflegt und meldet sich bei "Störungen" per Mail. Ich kann diese Scriptsammlung nur wärmstens empfehlen!!!

Einzig die zeitliche Steuerung des "manageSnapshot.sh"-Scripts ist etwas fummelig. Bei ungünstigen Aufrufzeiten kann es sein, dass das Script (das mehrere Funktionen beinhaltet und an verschiedenen Tagen laufen sollte) mehrfach aufgerufen wird und dann unzählige "Fehlermeldungen" liefert.

Und dass der Lüfter beim Hochfahren des Servers auf Höchstdrehzahl läuft nervt ... wenn er dann das BS vom USB-Stick bootet, ist der Spuk aber sofort vorbei. Leider habe ich dafür bisher keinen Workaround gefunden ... das liegt aber an der HP-Hardware und hat nichts mit NAS4Free zu tun.

Viel Spaß mit dem System und bitte bei der Installation die "embedded"-Variante wählen!!!!

Gruß ... defcon999

[Princo]

Einzig die zeitliche Steuerung des "manageSnapshot.sh"-Scripts ist etwas fummelig. Bei ungünstigen Aufrufzeiten kann es sein, dass das Script (das mehrere Funktionen beinhaltet und an verschiedenen Tagen laufen sollte) mehrfach aufgerufen wird und dann unzählige "Fehlermeldungen" liefert.

An dieser Stelle ein paar Hinweise zu diesen Scripts (wird leider etwas länger):
Ich nutze von diesen Scripts das "manageAcpi.sh" und "scrubPools.sh", weil die wirklich gut sind.
Einige andere Scripts sind für mich nicht so sehr interessant.

Aber bei den Scripts "manageSnapshots.sh" und "backupData.sh" tue ich mich mit einer Empfehlung schwer, weil bestimmte Funktionalitäten darin nicht so umgesetzt wurden, wie es eigentlich sein sein müsste.

Bei dem "manageSnapshots.sh" betrifft das die Rekursion, und das kommt zum Tragen, wenn man mit dem Skript rekursive Snapshots auf den Pool macht.
Die Erklärung ist etwas kompliziert, aber ich versuche, das so einfach wie möglich zu erklären:
"manageSnapshots.sh" erstellt keine echten rekursiven ZFS-Snapshots, sondern einzelne ZFS-Snapshots (also für den Pool, und jedes einzelne Dataset extra).
Einen echten rekursiven Snapshot auf einen Pool könnte man mit den entsprechenden ZFS-Befehl auch rekursiv löschen.
Und genau das funktioniert nicht, wenn der "rekursive" Snapshot mit "manageSnapshots.sh" erstellt wurde.
Das Perfide daran ist: am Anfang (also wenn man das testet), "denkt" ZFS tatsächlich, daß die Snapshots zusammengehören, und die rekursive Löschung geht u.U. noch mit ZFS-Bordmitteln (also zfs destroy -r $poolname@$timestamp).
Das Problem manifestiert sich erst später, wenn schon eine Reihe von Snapshots vorhanden sind, denn "manageSnapshots.sh" arbeitet sich durch die Dataset-Struktur durch, löscht alte Snapshots und erstellt dann neue.

Dadurch entsteht aber immer mehr ein zeitlicher Versatz bei den Erstellungszeiten der Snapshots, und ZFS "erkennt" nicht mehr, daß die Snapshots zusammengehören sollen.
Worin besteht jetzt das eigentliche Problem?
Das Problem ist, daß die Snapshots nach außen wie rekursive Snapshots aussehen, aber sich technisch nicht mehr so verhalten. So ist ein rekursives Löschen mit den ZFS-Befehlen nicht mehr möglich, und jeder einzelne Snapshot muß dann auch einzeln gelöscht werden.

Danke, daß ihr bis hier durchgehalten habt Ich weiß, daß das ein sehr spezielles Thema ist.

Ich schreibe den ganzen Quark deswegen auf, weil ich letztens vor einer Kiste stand, bei der ein Pool mit vier Datasets und stündlichen Snapshots mit einer Haltezeit von einem Jahr existierte, wo genau dieses Skript im Einsatz war.

Das konkrete Problem waren dann die über 40.000 Snapshots, welche die Kiste dann doch in die Knie gezwungen haben

Die mußten dann einzeln gelöscht werden, und das hat dann ein paar Minuten gedauert...

Die Lehre daraus: Solche Skripte können unangenehme Seiteneffekte habe, welche sich erst nach einiger Zeit herausstellen.

Und damit komme ich zu dem Skript "backupData.sh", welches den Datenabgleich zwischen zwei NAS bewerkstelligen soll:
Die gute Nachricht: Ja, es funktioniert, wenngleich die Einrichtung nicht ganz einfach ist, weil dazu "ssh per Keyfile" beim Backup-Rechner laufen muß.
Die schlechte Nachricht: Die beiden NAS werden nicht wirklich synchron gehalten, weil bei dem Backup-NAS keine alten Snapshots gelöscht werden.
Irgendwann ist das Backup-NAS dann einfach voll.
Das kann durchaus ein erwünschtes Verhalten sein, nur geht das aus der Dokumentation der Skripte irgendwie nicht hervor

Damit wir uns nicht falsch verstehen: Der fritz hat da eine großartige Arbeit abgeliefert, und für die meisten Nutzer werden die von mir beschriebenen "Fehler" gar keine Auswirkung haben, weil sie die "kritischen Tools" gar nicht nutzen, oder die Fehler gar nicht bemerken, aber wer evtl. vorhat, auf dieser Basis eine Backup-Lösung umzusetzen, der kann sich jetzt hier halt über die Knackpunkte informieren.

Leider gibt es vom Ersteller der Skripte seit fast zwei Jahren keine Aktivitätszeichen bei diese Projekt, und es ist fraglich, ob sich da noch etwas tut.

So long
Princo

[defcon999]

Hallo Princo,

Danke - wieder einmal - für die tollen und sehr verständlichen Infos!!

Das war mir und sicher anderen Nutzern dieser Scripts nicht so bewusst.

Sollte man dann lieber die interne Snapshot-Engine von N4F nutzen bzw. was würdest Du als gute Lösung empfehlen.

Ich werde mich dann mal mit "zfs send/reveive" auseinander setzen müssen

Gruß
defcon999

**EDIT**

Jetzt muss ich noch mal einhaken: "Fritz" beschreibt im entsprechenden Tutorial, dass einmal wöchentlich

Code: Select all

/mnt/zfs/system/scripts/manageSnapshots.sh -n -w 26 -m -1 snapshots  

aufgerufen wird ("snapshots" ist mein Backup-ZFS) ... siehe Screenshot.

Eigentlich sollen damit "überflüssige" Snapshots gelöscht werden. Du schreibst aber, dass das eben gerade nicht geschieht.

Nun bin ich etwas verwundert

[Princo]

Eigentlich sollen damit "überflüssige" Snapshots gelöscht werden. Du schreibst aber, dass das eben gerade nicht geschieht.

Da hast du völlig recht, das hatte ich übersehen.

Grüße
Princo