This is the old XigmaNAS forum in read only mode,
it will taken offline by the end of march 2021!



I like to aks Users and Admins to rewrite/take over important post from here into the new fresh main forum!
Its not possible for us to export from here and import it to the main forum!

Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

German community

Moderators: b0ssman, apollo567, Princo, crowi

Forum rules
Set-Up GuideFAQsForum Rules
redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

Hallo
Ich lese schon eine Weile hier eifrig mit. Heute komme ich aber nicht drumherum Fragen zu stellen. Ich bin bei der Eingrenzung der Fehlersuche mit meinem Latein am Ende und hoffe daß Ihr mir vieleicht auf den richtigen Weg helfen könnt.

Ist leider etwas sehr lang geworden ... (ggf Kaffee kochen :D )

Ich habe eine ASUS E35M1-M PRO Board (also AMD E-350) mit 8GB Ram DDR3 Ram eingesetzt.
http://www.asus.com/Motherboards/AMD_CP ... 35M1M_PRO/

Der Onboard Ethernet Chip ist ein Realtek® 8111E

Ich habe testweise zwei 1TB , 7200rpm Platten angeschlossen und daraus ein ZFS Stripe gemacht.
Ich werde später mit Mirror Sets oder RaidZ1/2 arbeiten wollen, jedoch wollte ich für erste Tests mit einem Stripe durchführen da ich davon ausgegangen bin
daß bei einem Stripe die Festplatten das System nicht so schnell ausbremsen können.
Ich wollte über diesen Weg die mit diesem Board maximal möglich Lan Performance ermitteln.

Als Client dient ein 32 Bit Windows 7 Ultimate welches auf einem betagten ASRock Dual Sata II läuft.
Da dieses Board nur 100 Mbit Onboard hatte, habe ich vor ein paar Jahren in einen Standard PCI Slot eine Gigabit Karte Realtek 8169 eingebaut.
In dieser Konstellation hab ich dann lange Zeit mit NDAS Platten / Ximeta Chipsatz gearbeitet.
Nun wollte ich halt diese NDAS Platten gegen ein NAS mit Raid tauschen.

Nas4Free habe ich nach längerem lesen dann dem Freenas vorgezogen.
Soweit so gut. Die neueste NF4 Version läuft als Embedded auf einem 4GB USB Stick.
Besagte 2 x 1TB sind eingebaut und im weiteren Verlauf der Fehlersuche habe ich noch eine 4TB Touro (USB 3.0) und ebenfalls testweise
eine 120GB Sanddisk Extreme SSD jeweils mit NTFS vorformatiert ins System eingebunden.

Was ich vieleicht mangels besseren Wissens bemängel , ist die Read , insbesondere Write Performance des NAS.
Ich habe die Gigabit Realtek 8169 auf dem Client und / oder den Switch (TPLink 1008d) in Verdacht ... Ich weiss aber nicht wie ich es eindeutig
beweisen kann.

Ich bekomme folgende Werte beim kopieren. Ich habe mehrere Kopiermethoden ausprobiert. Windows intern und mit dem Total Commander.
Die Abweichungen waren nur gering. Zusätzlich hab ich über die WebGui Anzeige -> Graph auch noch kontrolliert.
Die Werte deckten sich gemittelt mit den Ergebnissen die mir der Total Commander bescherte.

Da das NAS später ausschließlich für Filme und Musik dienen soll sind mir 4k Random Zugriffe ziemlich Schnuppe. Schnelle Übertragung von
ein paar Terrabytes sind mir hier wichtig. Vor allem soll es halbwegs schnell schreiben können. Und da sind 60MB schreiben einfach besser als 30Mb.

Lesen vom NAS via Samba/CIFS
Quelle 4TB Tour NTFS = 77MB/sec
Quelle 120GB Sandisk = 77 MB/sec
Quelle 1.8TB ZFS Stripe = 53 MB/sec

Schreiben auf NAS vom Windows 7 Client
> ZFS Stripe 34 MB/sec
> Sandisk NTFS 34 MB/sec
> 4TB Touro NTFS 29 Mb/sec

Da ich kein Linux / Freebsd Fuchs bin und NFS für mich Neuland wäre habe ich parallel FTP ausprobiert.
Die Leseperformance steigt. Ich hab teilweise 80-90 Mb gesehen. (schwankt aber rauf und runter)
Aber schreiben via FTP ist nochmals viel langsamer als über Samba. Da komme ich maximal auf 19-20 Mb.
Ich verstehe nicht warum FTP beim lesen schneller aber beim schreiben langsamer ist.

Wenn ich den CPU Load des NAS betrachte sieht es fast so aus als würde es bei FTP zwischendurch einschlafen wollen (Gähn)
Die CPU Last schwankt zwischen 20 und 26% zyklisch auf und ab während der Übertragung einen 5GB Files.

Leider habe ich keinen schnelleren Client. Es existiert noch ein 32 Bit Windows auf einem ION330 aber der kommt im Netz auch nicht wirklich
auf Trab und von daher bringt er mich nicht weiter.

Dann hab ich das E-350 Board kurzfristig entfernt und das Nas4free mit gleichen Platten an einem Asus M3A78-EM mit AMD 9500 Quadcore
betrieben. Also quasi Dual Core stromspar Board raus und Quadcore Stromfresser rein. Die CPU Last sank deutlich ab und die Leseperformance stieg auch
merklich an. Sowohl bei Samba als auch bei FTP. (ca 20%) . Aber das Schreiben wurde leider keinen deut schneller.

Also wieder zurückgebaut auf das E-350 Board.
Da ich leider kein Linux Profi bin hab ich dann rumgegoogled bis ich folgenden Test fand um die interne Plattenperformance zu ermitteln.

Es sah ungefähr so aus -> dd of=/dev/zero if=tmp.dat bs=2048k count=50k
Einmal wurde ein 100GB File namens tmp.dat erzeugt und mit einer anderen Zeile ins Null Device zurückgelesen.

Hab mich via SSH (Putty) eingeloggt und es ausprobiert.

zfs write 100GB
51200 Records out 505.87 Sekunden 212.256.313 bytes/sec = 202MB

zfs read 100GB
51200 Records In 439.75 Sekunden 244.155.401 bytes/sec = 232MB
Prozesslast 26%

Wenn ich es richtig verstehe hab ich damit die interne theoretische SATA Geschwindigkeit ermittelt.
Also sollten die Platten und der Bus hier nicht das Bottleneck sein.
Da die CPU Last beim schreiben mit dem E-350 Board auch nicht über 35% steigt und 7.5 des 8GB Ram ungenutzt scheinen
komme ich zu dem Schluß daß das NAS nicht der Engpass sein kann. Wenn die CPU Last bei 100% wäre würde ich es ja verstehen.
Was kann ich noch tun ?

Wenn ich den TPLink Switch kurzfristig stromlos mache habe ich für einen kurzen Moment das Gefühl als würde es schneller gehen ...
Aber nach kurzer Zeit pendelt es sich definitiv wieder auf o.g Werte ein. Ich hab keine Ahnung in wie weit sich ein Switch hier bemerkbar machen
kann. Zwischen billig und teuer sehe ich da meist nur das Wörtchen "Managed". Und die Möglichkeiten die das "Managed" bietet brauche ich allesamt
in meinem Heimnetz nicht.

Macht es Sinn auf dem Client Rechner (wenn auch betagt) die Realtek rauszuwerfen und gegen eine Intel Karte zu tauschen ?
- oder muß ich dann zwingend auch auf dem Nas die Onboard gegen gleiches Intel Exemplar tauschen ?

Von Realtek hab ich ein Diagnose Tool auf dem Client geladen. Die Leitungslängen werden halbwegs korrekt ermittelt (25M) und ich habe keine Losses.
Ich sehe auch keine Losses in der WebGui von Nas4free. Jumbo Frames haben mir nichts gebracht.
Hab dann TCPOptimizer auf meinen Client losgelassen. Hat mir im DSL Betrieb tatsächlich was gebracht aber im Lan merke ich keinen Unterschied.
MTU wurde auf 1492 optimiert. Hab ich auf dem NAS dann auch konfiguriert. Allenfalls sieht danach die Übertragung über den Graph dargestellt
etwas besser aus. (weniger Schwankungen). Aber die Über Alles Schreibperformance bleibt bei 34MB via Samba.

Gibt es irgendeine Möglichkeit die mögliche Langeschwindigkeit der NICs irgendwie anders zu testen (Kommandozeile - > Loopback)

Sorry das mein erster Post so lang wurde. Aber ich dachte je mehr Informationen ich sammel umso eher kann mir geholfen werden.

User avatar
shakky4711
Advanced User
Advanced User
Posts: 273
Joined: 25 Jun 2012 08:27
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by shakky4711 »

Hallo,

um es ganz kurz zu machen, gerade bei Netzwerkhardware habe ich schon die dollsten Sachen erlebt, sowohl positiv als auch negativ.

Realtek ist aus einem bestimmten Grund auf allen Mainboards verbaut, und der ist ganz einfach dass diese Chips schlicht und ergreifend billig sind. Alles was da an Hardwareentwicklung und Komponenten gespart wird weil es ein paar Cent spart wird anschließend mit Windows-Treibergemurkse irgendwie hinbekommen, oder auch nicht... :(

Die größte Leistungssteigerung hatte ich mal bei einem Bekannten, dort hat der Wechsel zu einer Intel Pro1000GT eine Geschwindigkeitssteigerung von 100% gebracht, das war der eindrucksvollste Fall der mir immer im Gedächtnis bleiben wird.

Bei Switchen sind eigentlich HP im Profibereich oder die blauen Geräte von Netgear im SOHO Bereich meine Lieblinge, gerade die 30 Jahre Garantie der Netgear zeugen davon dass der Hersteller selber an die Qualität der verbauten Komponenten glaubt. Bei den Geräten hatte ich bisher nicht einen einzigen Ausfall, auch die Amazon Bewertungen sind eindeutig. Bei No-Name Switchen hatte ich schon alle möglichen Effekte, vom immer langsamer werden, Abbrüchen oder Ports die teilweise nicht mehr reagiert haben war alles dabei, auch Wackelkontakte an den Ports bringen Auswirkungen die Biss-Spuren in der Schreibtischplatte erzeugen :lol:

Auch Netzwerkkabel vom Krabbeltisch für nen Euro können Geschwindigkeiten negativ beeinflussen, ich nehme nur cat5e Markenkabel mit Hirose Steckern.

Der Extremtest bei Dir wäre der Austausch der zwei Netzwerkkarten durch Intel Pro1000er und Verbindung per Crossoverkabel. Damit hättest Du schlagartig alle Netzwerkhardware für die Testzwecke ausgetauscht.

Vorsicht bei der Geschwindigkeitsbwertung kleiner Dateien (damit kann sogar eine 5GB Datei gemeint sein) bei Systemen mit viel RAM. Teilweise zeigt Windows absolut falsche Werte an weil in dem Moment wo die Datei gnadenlos weggepuffert wurde die Übertragung laut Explorer beendet ist, obwohl sie im Hintergrund noch aktiv abläuft. Inwiefern das bei alternativen Dateicommandern auch der Fall ist kann ich nicht sagen, habe kein Windows im Einsatz.

Es kann nicht schaden mal testhalber das Windows auf Client mittels Knoppix CD auszutauschen und da mal mittels FTP oder CIFS/SMB ein paar Tests zu machen.

PS: Lies mal in der SMB/Samba Sektion, da war irgendeine Kombination in der Samba Sektion die man nicht machen darf, AIO und SMB2 glaube ich, bin mir aber nicht sicher...
Und hier auch ein interessanter Thread zum Thema Netzwerk-Hardware und Auswirkungen auf Geschwindigkeiten viewtopic.php?f=29&t=1866

Gruß
Shakky

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@shakky
Danke für die Tips bezüglich der Netgear und HP Switche. Das behalte ich im Hinterkopf.

Den Extremtest hab ich vorgestern eigentlich schon gemacht. Da hab ich den Client direkt mit dem NAS verbunden.
Da beide Karten Auto MDX haben brauchte ich auch kein Crossover.
Die Ergebnisse blieben absolut gleich.
Von daher kann ich die Verkabelung und den Switch wohl erstmal ausklammern.

Allerdings war dieser Test natürlich immer noch mit Realtek Karten ( zwei unterschiedliche Modelle )

Ich hab auf Ebay eine IntelPro1000GT in meiner Nähe gefunden. Die hol ich mir gleich ab.
Vieleicht bringt mich die eine Karte ja schon irgendwie weiter.

Bezüglich AIO
Was ich bisher hier gelesen habe geht AIO nicht mit SMB2. Wenn man NT1 nutzt kann man es wohl aktivieren.
NT1 geht bei mir nicht (warum auch immer). Und SMB2 mit AIO hat Verbindungsabbrüche beim kopieren.
Was ich noch testen kann ist (schon mehrfach hier gefunden) ist 62400/2 und 62400*2 bei den RX,TX Puffern.

Vieleicht weiß ich heute abend schon mehr wenn ich die Intel Karte eingebaut habe.
Ich weiss noch nicht ob ich sie eher im Client oder im NAS ausprobieren soll.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

Kurzer Zwischenbericht. Die Pro1000GT abgeholt und ins NAS eingebaut.
Onboard Schnittstelle im Bios deaktiviert und dann gebootet.
Die Intel Karte wurde erkannt. Jedoch hab ich keinerlei spezielle Freebsd Treiber installiert. Ich wüßte auch gar nicht wie ich es machen sollte.

An der Schreibgeschwindigkeit hat sich leider nichts geändert.

Die Lesegeschwindigkeit ist jedoch drastisch abgefallen. Während ich vorher via FTP bis zu 80Mb sah und über Samba, je nach Quelle
zwischen 53 und 77MB hatte , ist jetzt bei 35MB auch beim lesen Schluss.
Mist ....

Nachher bau ich die Intel Karte mal in den PC ein. Muß aber erst noch Windoof Treiber besorgen.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

Ich habe nun die Intel Karte im Windows 7 Client eingebaut.
Mit Defaultwerten war die Schreibübertragung vergleichbar wie vorher. Die Leserate fiel jedoch auf die Schreibrate ab.

Da ich auch noch Ximeta NDAS Platten im Netz habe die 44MB lesen und 23MB schreiben können hab ich da mal geschaut.
Die Performance war mit der Intel auch im Keller. 20MB lesen und 18MB schreiben.
Irgendwie hatte ich von der Intel ja Wunderdinge erwartet ... und dann sowas.

Dann hab ich bei der Intel die Jumbo Frames aktiviert (9014 Bytes !? Alteon !?).
Auf der N4F Seite hab ich 9000 bei der MTU eingetragen. Ich hoffe das ist richtig so. Keine Ahnung warum es bei Intel 9014 Bytes heisst.

Anschließend waren die Ximeta NDAS Platten wieder genauso schnell wie vorher. Ein Teilerfolg.
Beim N4F ZFS Stripe erreiche ich nun 78 MB lesend und 40 MB schreibend. Das sind immerhin 5-6 MB mehr.
FTP komme ich lesend auf ca 85-90 Mb. (schreibend 18 MB)

Leider ist die WebGui nach der Einstellung auf 9000 MTU kaum noch zu bedienen im dem Internet Explorer.
Vorher war sie sehr schnell egal was man auswählte. Jetzt reagiert sie behäbig, stockend und oft reagiert sie gar nicht.
Wenn ich MTU 1492 wieder aktiviere reagiert die WebGui wieder völlig normal. Aber dann ist die Performance wieder schlechter
(sogar schlechter als mit der Onboard Realtek)

Vorschläge was ich nun noch testen kann ??

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

Die Werte deines NAS sind völlig normal. Eine andere Netzwerkkarte bringt bei der Hardware keinen Vorteil, der Realtek-Chip wird von Nas4Free gut unterstützt (inkl. WOL). Habe hier ein ähnliches Board im Einsatz, und bin sehr zufrieden. Der Chip schafft locker 935 Mbits/s, besser geht es kaum:
Forum Bildschirmfoto vom 2012-12-31.png
Für deine Messungen kannst du zwei Einstellungen in der Konfiguation ändern: Nimm die beiden Haken bei System -> Erweitert -> Feineinstellungen UND Power-Daemon raus. Danach das NAS rebooten. Wenn du deine Messungen abgeschlossen hast, kannst du diese Einstellungen wieder aktivieren.

Die Änderungen der MTU-Werte kannst du übrigens auch rückgängig machen, die bringen dir im täglichen Betrieb nichts, und machen nur Ärger.

Deine Probleme liegen bei deinem Windows-Rechner. Der kommt nämlich standardmäßig mit einem aktivierten IPv6-Protokoll daher, und das kann genau diese Probleme verursachen. Hier kannst du nachlesen, wie man das deaktiviert: http://archive.j-sys.de/index.php/2010/ ... eaktiviert

Mit entsprechend schnellen Festplatten (besser eine SSD) kommst du dann auf Schreib-/Leseraten von ca. 80MB/s über SMB/CIFS.

FTP ist unter Windows 7 anscheinend generell langsam. Schreibend bin ich auch nicht über 40MB/s hinausgekommen. Evtl. hat Google eine Lösung parat. An N4F liegt es jedenfalls nicht, unter Linux komme ich auf Werte über 90MB/s auf der gleichen Hardware.

Noch ein paar Hinweise: Du schrubst, daß du NTFS-formatierte Platten und USB-Platten erfolgreich ans NAS gehängt hast.

Mach. Das. Nicht.

Das Einzige, was USB-mäßig ans N4F angeschlossen wird, ist der Stick für's Embedded System und evtl. eine Tastatur, keine Festplatten. Das kann zu ganz blöden Seiteneffekten führen, deswegen sollte man das nicht machen.

Als Dateisysteme sollte man im N4F grundsätzlich nur UFS oder ZFS einsetzen. Tip: formatiere deine SSD als UFS und mach damit deine Speedtests.
You do not have the required permissions to view the files attached to this post.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Princo
Ich werde deine Tips alle mal heute durchprobieren. Die IPV6 Geschichte hab ich vorgestern schon ausprobiert .. jedoch hatte ich da nur die
Protokollanbindung an die Ethernetkarte abgeschaltet (also das Häkchen einfach weggenommen) und dann gebootet.
Da dies keinerlei Effekt hatte, hab ich es später wieder eingeschaltet.
Ich teste es aber mal so wie in deinem Link beschrieben

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Princo
Ich hab es ausprobiert aber leider hat es nichts gebracht.
Ich habe nochmal auf der Client Seite jede Möglichkeit bei der Intel Karte ausprobiert und mich versucht an ein Maximum heranzutasten.

Mit den besten Einstellungen komme ich mit folgenden MTU Werten auf diese Werte

1500 55MB lesen, 36 Mb schreiben
4074 75MB lesen, 40 Mb schreiben
9000 82Mb lesen, 40 Mb schreiben (wobei hier die WebGui wie gesagt unbedienbar wird)

Ich hab im Moment als Kompromiss 4074 eingestellt.

Ich hab versucht NFS testweise zum laufen zu bringen aber ich bin für die Userverwaltung zu blöd.
Ich hab unter Windows 7 den NFS Client installiert, ein NFS Share angelegt und dieses auch an einen Laufwerksbuchstaben gemounted bekommen.
Ich kann jedoch nichts reinkopieren. Die dort schon existierend Files kann ich sehen, über Eigenschaften auch die Dateirechte und Eigentümer sehen
(User 1000) aber ich kann nicht drauf zugreifen , kopieren, löschen oder ein Video abspielen. Und ändern kann ich die Rechte von Windows Seite auch nicht.

Für heute kapitulier ich. Die Suche hier und auf Google hat mich nicht wirklich weitergebracht. Ich sehe den Wald vor lauter Bäumen nach
diversen Nachtschichten eh nicht mehr.

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

In meinem Post schrieb ich, daß ich mit den Standard-MTU Werten (1500) auf Übertragungsraten von ~80 MB/s lesend UND schreibend komme. Fällt dir was auf?

Ich habe dafür ein sauber aufgesetztes Windows 7 System benutzt, welches mit allen aktuellen Treibern eingerichtet wurde. Die NAS-Hardware entspricht der deinen.

Als Testdatei benutze ich ein 16GB großes File mit Zufallszahlen.

Momentan sehe ich zwei Möglicheiten:

1. Du akzeptierst den momentanen Zustand. Dein NAS funktioniert, du kannst darauf zugreifen, und die Übertragungsraten sind nicht so unterirdisch, daß es unbenutzbar wäre.

2. Du versuchst weiterhin, das absolute Maximum herauszuholen, verlierst dabei aber massig Zeit und dein Frustlevel steigt (oder du lernst immens dazu).

Erläuterung: Wir haben es hier mit einer Vielzahl von Faktoren zu tun. Das ist nicht nur die eingesetzte Hardware, sondern auch die verwendeten Protokolle und Systemumgebungen geschuldet. Ich komme unter Linux z.B. nur auf Übertragungsraten von ~40MB/s wenn ich Dateien per SMB/CIFS auf das NAS kopiere. In der Praxis juckt mich das aber nicht, weil ich hauptsächlich Bilddateien in der Größenordnung von insg. ~6GB rüberkopiere. Ob das dann mal 1-2 Minuten länger dauert, ist mir völlig Latte.

Was mir sehr wichtig ist, ist die Tatsache, daß die Dateien sicher abgespeichert werden, und ich keine Datenverluste habe. Und genau das leistet N4F.

In deinem Fall sehe ich u.U. einige kleinere (aber eher marginale) Probleme in der Übertragungsrate. Sehr wahrscheinlich werden sich diese Probleme mit einer sauberen Neuinstallation von Windows 7 in Wohlgefallen auflösen. Ob dieser Schritt allerdings wirklich notwendig ist, läßt sich vorher herausfinden. Wenn du möchtest, erstelle ich dir dafür eine Step-by-Step Anleitung. Damit könntest du zumindest herausfinden, was deine Hardware-Ausstattung maximal übertragen könnte, und wo evtl. ein Flaschenhals ist.

Wenn du daran Interesse hast, dann sag einfach Bescheid.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Princo
> In meinem Post schrieb ich, daß ich mit den Standard-MTU Werten (1500) auf Übertragungsraten von ~80 MB/s lesend UND schreibend komme. Fällt dir was auf?

Ich bin ja nicht beratungsresistent. Natürlich fällt mir das auf :D
Aber ich kann nur nochmal wiederholen. Ich habe auch noch Ximeta NDAS Platten im Netz. Die fluppten seit mehreren Jahren.
Nach Austausch des Realtek gegen einen Intel NIC , fiel deren Performance mit neuesten Treibern aus Redmond für die Intel drastisch ab.
Mit einer MTU von 4074 sind diese Platten jetzt wieder zurück auf altem Niveau.

Die IPV6 Geschichte hat nichts gebracht. Die USB Platte ist ab, die SSD auf UFS. Hat auch nichts bewirkt.
Ich hab schon all die Dinge umgesetzt die Du mir als Tip mitgegeben hast.
Nach abschalten des "Tuning Häkchens" hab ich konstantere gleichmäßigere Werte.

Als letztes hab ich noch NFS ausprobieren wollen. Darin bin ich aber kläglich gescheitert. Ich hab Gruppen und innerhalb derer auch User.
Aber wie es dann weitergeht weiss ich nicht. Die Dateien die ich vorher in dieses NDS Verzeichniss kopiert habe gehören Root.
Das Directory hat anscheinend einen Schreibschutz. Das kann ich auf Windows Seite nicht ändern.
Sicherlich bin ich im groben mit der "Theorie" der Rechteverwaltung vertraut. Irgendwie mit SetUI, chmod was auch immer könnte der
Profi da sofort intervenieren. Aber ich weiss ja noch nicht mal ob Windows beim mounten sich anonym oder mit meinem aktuellen
Useraccount das NFS Share krallt. Ich bin da im Moment etwas "Lost" ....
Vermutlich hätte ich ganz am Anfang irgendwo die Userweichen stellen müssen. Fragt sich nur wo.

Bin aber auch zugegebener Maßen niemals ein echter Linux (Freebsd) Fan gewesen. Ich wollte lediglich ein "sicheres" NAS.
Dafür hatte ich ZFS als Filesystem erkundet. Die Prüfsummern auf Filesystem Ebene , die Möglichkeit über Scrub alles zu verifizieren
und die stressfreie Wiederbelebung des Pools an völlig anderer Hardware sind meine Beweggründe.
Ich hatte früher einmal eine Hardware Raidkarte ... bin damit im Ernstfall aber bauchgelandet weil die Karte selber defekt war und
Nachfolgermodelle vom gleichen Hersteller den Verbund nicht mehr importieren konnten.
Über den Umweg ZFS bin ich bei N4F gelandet.

>Ich habe dafür ein sauber aufgesetztes Windows 7 System benutzt, welches mit allen aktuellen Treibern eingerichtet wurde. Die NAS-Hardware entspricht der deinen.

Würde ich auch gerne. Kann diesen Client aber derzeit nicht neu aufsetzen.
Jetzt sind die Feiertage rum und ich kann mir noch ein Netzteil kaufen. Ich installiere da mal "frisch" auf einem anderen ASUS Board mit dem Quadcore
ein Windows 7. Wenn dieser Client dann performed bringt mich das auch schon mal weiter.

Ich vermute nämlich daß das betagte DualSata2 Board im derzeitigen Client einfach zu alt ist und einfach nicht mehr kann.

>Wenn du möchtest, erstelle ich dir dafür eine Step-by-Step Anleitung

Vermutlich mit einem Linux / Knoppix booten ...
Wenn ich das als Linux Dau nachvollziehen kann, gerne.

Einen NFS Guide nehm ich auch sehr gerne :D
Die Anleitungen die ich bisher fand hören genau da auf wo ich gerade bin.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

So ... Auf anderem Asus Board (M3A78) ein W7 64 Bit neu aufgesetzt mit der Realtek die Onboard ist.
Out of the Box deutlich schneller beim schreiben. Dafür ist lesen hier langsamer. Auch schön mit Standard MTU 1500.

Alles mögliche wieder ausprobiert ... Das Einzigste was Speed bringt ist wieder das vergrößern der MTU
Damit komm ich dann auf 90MB schreiben und 68MB lesen bei diesem Client.

Das entfernen des IPV6 hat sich gerächt. Nachdem der neue Client fertig war hat sich der alte Client immer aus dem Netz geklinkt
sobald der Neue lief. Hab ich ihn abgeschaltet war wenige Sekunden später die Welt wieder in Ordnung.
Stundenlang gesucht. Kein Konto oder IP Konflikt. Bis ich dann im Web las daß diese neue "Heimgruppe" bei Windows 7 über IPV6
abgewickelt wird.
Einschalten von IPV6 half nicht. Es war ja "sauber" entfernt.
Dann Ein Acronis Backup von vor 2 Wochen eingespielt und sofort war alles wieder okay.
Dann waren beide Clients im Netz ohne irgendwelche Konflikte.

Jetzt geht die Konfiguriererei wieder von vorne los.

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

Oh, diese Wechselwirkung war mir leider nicht bekannt, das tut mir leid. :oops:

Dafür gibt es jetzt eine Testanleitung, die keine Wechselwirkung aufweisen sollte ;)

Dabei werde ich erstmal nur auf das Thema dieses Threads eingehen, und beschreiben, wie man das testen kann, ohne daß der Flaschenhals Festplatte im Spiel ist.
Das NAS sollte genau so eingestellt sein, wie ich es in meinem ersten Post beschrieben habe. Zusätzlich sollte der Service SSH eingestellt sein, und dort der Punkt "Permit root login" angehakt sein.

Lade dir unter http://www.sysresccd.org/Download das ISO der SystemRescueCD herunter, und brenne daraus eine CD. Die SysRCD ist aus sehr vielen Gründen mein Standardwerkzeug geworden, und eine Beschreibung würde den Rahmen hier sprengen, deswegen nur soviel: Sie beinhaltet alle nötigen Tools, beeinflußt deine Softwareinstallation nicht, und man kann mit dem Teil notfalls sogar auf ZFS-Pools zugreifen.

Boote deinen Windows-Rechner von dieser CD, und wähle den Punkt 7) SystemRescueCd: directly start the graphical environment aus.

Er startet das System, und dabei fragt er dich nach einigen Sekunden, mit welcher Spracheinstellung du es betreiben möchtest. Gibt dann einfach de ein.

Am Ende startet der grafische Modus, und es erscheint ein Desktop mit einem geöffneten Terminalfenster.

Dort gibst du ssh root@NAME-DEINES-NAS ein. Die Frage nach dem Fingerprint bestätigst du mit yes, danach gibst du das Passwort des NAS ein.

Dann startest du das Programm iperf -s

Nun startest du den Browser Midori über die untere Desktop-Leiste. Gib dort im Adress-Feld die IP-Adresse deines NAS ein, und log dich dort ein. So kannst du dir die Status-Graphen des NAS anzeigen lassen.

Starte dann ein zweites Terminal-Fenster über die Desktop-Startleiste. Dort gibst du iperf -c NAME-DEINE-NAS -t 100 -r ein.

Damit wird nacheinander einer reiner Netzwerk Schreib-/Lesetest auf das NAS ausgeführt, dh. es wird nur das Netzwerk, und nicht die Festplatten getestet.

Der Test dauert insg. 200 Sekunden, und wenn alles glatt läuft, dann erhältst du erst eine aalglatte grüne Linie, und dann eine glatte rote Linie beim Traffic-Graph.

Die Übertragungsraten dürften sich bei ~930 Mbits/s (grün) und ~750 Mbits/s (rot) bewegen, je nachdem, was dein Client kann. Das Wichtigste bei diesem Test sind die glatten Linien. Wenn diese Linien mehrere Spikes aufweisen, dann deutet das auf ein Problem mit deiner Hardware (insb. Client, Verkabelung oder Switch) hin.

Diese Probleme müssen ggfs. zuerst beseitigt werden.

Wenn du die Rescue-CD beenden möchtest, dann öffne einfach ein weiteres Terminal-Fenster, und gibt dort entweder halt oder reboot ein.

Leider war das Forum down, deswegen konnte ich nicht früher antworten.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Princo
Vielen Dank für die Anleitung. Ich werde es die Tage mal ausprobieren. Im Moment kotzt mich das Alles nur noch an. Muß erstmal wieder runterkommen.
Ich muß ich mit meinen eigentlichen ZFS Tests erstmal weiterkommen. Ich hab mir auf der Arbeit ein paar leere Platten geliehen die ich Montag wieder
abgeben muß. Die Zeit läuft mir daher weg.

Eigentlich hab ich mit dem frischen Windows Client schon bewiesen daß der alte Client Aufgrund seiner alten Hardware einfach nicht mehr rausschieben kann.
Der neue Client schiebt ja nach Einstellung bis zu 102 MB raus. Rein geht es immerhin mit ca 70Mb.
Warum hier die Welt wieder umgekehrt ist ... (zwei Realteks prallen in diesem Szenario aufeinander)

ABER ....
Nun hab ich weil ich mit dem ZFS selber spielen wollte (aus o.g Zeitgründen) aus meinem Stripe ein RaidZ1 mit 3 Platten gemacht.
Danach sind alle Einstellungen die Performance brachten wieder hin. Es kann doch nicht sein daß man jedesmal neu optimieren muß.
Kann man auf einem Dual Core mit 1600 Mhz nicht ein wenig Gigabit abfackeln ohne das Stripe, Mirror, Raidz eine so große Rolle spielen.
In älteren Qnaps werkeln 600Mhz CPUs und die haben nicht 8 Gb Ram.
Das so ein E-350 nicht das Ende der Fahnenstange darstellt ist mir auch klar ... aber meine Güte ... Das es so drastische Unterschiede
gibt hätte ich nicht erwartet. Der Client ist mit einem Quad AMD 9850 , W7 64 Bit, 6GB Ram auch nicht gerade schlapp.

Mit Veränderung der Sende und Empfangspuffer bekomme ich eine Verbesserung. Aber es gelang mir bisher nicht einmal daß
der Graph in beide Richtungen halbwegs konstant bleibt. Wenn eine Richtung in Ordnung ist, weißt die andere einen Zickzack Kurs
auf der z.b zwischen 40 und 60% zyklisch auf und abgeht.

Anstatt 102Mb Spitzenwert vom Stripe , sind beim RaidZ1 schreibend ca 65Mb zu holen. Lesend ca 49 Mb.

Die Intelkarte hab ich danach testweise wieder ins N4F eingebaut. Werte gehen damit noch weiter runter. CPU wird nur etwas entlastet.

Auch wenn Du auf MTU 1500 pochst. Diese Stellschraube ist und bleibt die Einzige, die bei mittlerweile 4 Rechnern immer einen Schub
bringt. Wobei hier die Problematik darin besteht daß Intel eine MTU von 4088, Realtek eine 4082 hat und man auf der N4F Seite
nicht weiß was man dann als MTU eingeben muß damit es 100% passt.
Wie diese Werte (z.b 4088) nun von Intel gemeint sind ... +/-18 oder +/-28 .... ich hab keine Ahnung und finde es auch nicht raus.
Durch rumprobieren hab ich mit 4074 halbwegs gute Ergebnisse erzielt.
Stell ich exakt den Wert ein den die Gegenstelle beim Jumbo einträgt (mit TCPviewer kontrolliert) kann ich aufs NAS schreiben
aber beim lesen bricht die Verbindung ab. Korrekturen um wenige Bytes bringen dann auf einmal wieder eine Kommunikation
in beide Richtungen hervor.

Kurzum, es macht einfach keinen Spaß ...

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

Der Grund, warum ich dir die MTU 1500 für den Anfang so sehr ans Herz lege, ist ganz simpel die Tatsache, daß es ein Standard-Wert ist. Und Standards haben den immensen Vorteil, daß sie ohne Probleme funktionieren. Ich greife auf mein NAS nicht nur mit PCs, sondern auch mit Handys, Set-Top-Boxen, Tablets, meiner Playstation und einem Internet-Radio zu. Bei keinem dieser Geräte kann ich die MTU einstellen, aber ich kann problemlos meine Bilder, Filme, Musik, und sonstige Daten vom NAS nutzen. Und genau dafür ist das NAS da.

Was du gerade machst, ist jedoch, daß du dein NAS einzig für deinen Speed-Test optimierst, aber das hat imho sehr wenig mit der Praxis zu tun. Da geht es um Connectivity, und die opferst du momentan.

Eine Änderung der MTU macht nur in ganz speziell definierten Fällen wirklich einen Sinn, und selbst da ist es essentiell, daß die Grundgeschwindigkeit bereits stimmt. So drehst du dich gerade im Kreis. Wenn du dann noch die Art der Plattenanbindung änderst (also von Stripe nach RaidZ1), schaffst du völlig neue Grundvorraussetzungen, und kannst deine bisherigen Ergebnisse komplett in die Tonne treten.

Du kannst auch ein Nas4Free nicht mit einem Qnap vergleichen. Das Qnap kann kein ZFS. Es wird dir möglicherweise viel schnellere Übertragungsraten bieten (und erheblich mehr kosten), aber es kann nunmal kein ZFS. Spätestens wenn dir eine Festplatte ausfällt, wirst du den elementaren Unterschied bemerken.

Daß ein RaidZ1 oder ein Mirror völlig andere Übertragungsraten liefert als ein Stripe hat einen ganz simplen Grund, und den kannst du leicht herausfinden: Zieh einfach mal jeweils eine Festplatte ab, und wiederhole deinen Test. ;-) Ja, ein Stripe ist doppelt so schnell. Weil es ein Stripe ist. Aber niemand wird deswegen in seinem NAS ein Stripe einsetzen (Es sei denn, die Daten sind jetzt nicht wirklich wichtig).

Die Schwankungen bei deinen Übertragungsraten sind völlig normal, aber wenn du von Prozentwerten zwischen 40% und 60% redest, meinst du wahrscheinlich die Prozessorlast, oder?

Das muß so sein, denn wenn echte Daten auf Festplatten übertragen werden (also anders als bei meinem oben beschriebenen Netzwerktest), greifen da mehrere Systeme mit unterschiedlichen Übertragungsraten und Verarbeitungsgeschwindigkeiten ineinander. Wenn man da nur glatte Linien hätte, wäre das eher ein Hinweis auf einen üblen Flaschenhals im System.

Eine Sache sollte man an dieser Stelle besonders herausstellen: N4F ist kein Ready-Made-Product. Es ist eher eine Basis für Systemintegratoren, die genau wissen, was sie tun. Die um die Eigenschaften des Zusammenspiels von Hardware, Software und einer Vielzahl von Protokollen Bescheid wissen.

Die fertigen Systeme von z.B. Synology oder Linksys sind genau auf die mitgelieferte Hardware optimiert. Bei N4F muß man diesen Prozeß selber durchführen. Bei N4F kann man hunderte Parameter höchst individuell einstellen, und damit ein absolut optimiertes persönliches System erhalten. Man kann dabei aber auch gnadenlos scheitern. Auf jeden Fall muß man dafür ausreichend Zeit einplanen, die Ergebnisse sehr genau differenzieren, und sollte sich nicht selbst zu sehr unter Druck setzen.

Daher kann ich immer nur empfehlen, erstmal so wenig wie möglich von den Standardeinstellungen zu verändern (z.B. Puffer, MTU) sondern sich um die essentiellen Dinge zu kümmern, als da wären: Wie ersetze ich eine defekte Platte in einem RaidZ1-Array? Wie mache ich ein Backup vom NAS? Das sind die wirklich wichtigen Themen, das sollte man unbedingt üben und klären. Performance-Optimierungen sind da vorerst völlig nachrangig. Die kann man auch später machen.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

Okay, ich schieb die Performance Dinge nach hinten und kümmer mich ums wesentliche.
Ich hab sowohl bei einem Mirror wie auch bei einem Raidz1 den Ernstfall geprobt und Platten replaced und resilvered.
Es war etwas schwierig , ein und dieselbe Platte , als Ersatz unterzujubeln ... da sie immer als dem Pool zugehörig erschien.
Ich hab mich als Newb nicht getraut mit dem Script zu arbeiten welches ich hier fand um Anfangs und Ende Sektoren zu löschen
wo die Raid Beschreibung quasi verewigt wird.
Ich hab mir anderweitig geholfen. Ich hab die Platten unter Windows partitioniert und formatiert und Daten drauf gehauen.
Danach wurde das Resilvern dann auch gestartet.

Die 4TB USB3.0 Platte die ich heute auch mal wieder in Betrieb genommen habe ist nun in UFS formatiert. Damit bekomme ich die höchste
Performance Rate. Da komm ich auch 80MB schreiben und 70 MB lesen. Der Graph sieht auch relativ gut aus.
Damit ist dann wohl auch deine Theorie bewiesen daß die Standard Werte eigentlich passen . Da die Datenübertragung in dem Modus
in beide Richtungen gut funktioniert wird es wohl tatsächlich so sein das ZFS und / oder zulangsame Platten mehr auf meinem
System einfach nicht zulässt. Akzeptier ich jetzt erstmal.

Kannst Du mir bitte noch ein paar praktische Tips mit auf den Weg geben.

Ich hab das Problem daß ich erstmal Platten freischaufeln muß damit ich daraus nach und nach einen Pool aufbauen kann.
Die 4TB USF Platte dient mir zwischenzeitlich als Umschlagplatz und später soll sie ein externes Backup sein.
Hab heute auch intern via Putty zwischen dieser UFS und den diversen ZFS Pools Daten umgeschaufelt.
Das hilft mir in der Übergangsphase schonmal weiter.

Ich habe , wenn ich die anderen Patten frei bekommen habe 3 x 1.5TB und 2 x 2TB z.V
Ich schwanke zwischen einem Raidz1 mit den 1.5ern. Damit würde ich ca 3TB erreichen

Dann hab ich die 2 x 2TB über.

Oder Ein Raidz1 mit 1.5, 1.5, 1.5, 2 , 2 .... Das wären ca 6TB ....
Allerdings muß ich dann alle Platten vorher frei bekommen. Rechnerisch nicht möglich.
Dazu kommt daß in diesem Szenario ich mindestens die 3 x 1.5TB irgendwann austauschen müßte um auf 8TB zu erweitern.

Die Variante die mir im Moment am sinnvollsten erscheint wäre die 2 x 2TB zuerst freizubekommen und daraus einen Mirror
machen. Wenn ich später dann noch 2 x 1.5TB frei bekomme und diese auch als Mirror auslege müßte ich den Pool auf
3.5 TB erweitern können. So wie ich es verstehe ist das vergrößern von einem Pool nachträglich möglich.
In dem Fall würde es auch möglich sein den Pool zu vergrößern in dem man jeweils nur 2 Platten nach und nach austauscht.

Das Board hat eh nur 5 interne Sata Schnittstellen. So hätte ich immer einen Sata Anschluß frei für einen Spare oder Replace.

Mirror ist zwar in dem Sinne die größte Platzverschwendung aber es erscheint mir am Sichersten.
Raidz1 fänd ich aus Platzgründen zugegeben geschmeidiger aber das erweitern des Pools geht dann immer nur mit 3 Platten.
Und für einen 2 x Raidz1 Pool fehlt mir ein Sata Anschluß.

Was mich etwas irritiert ist die Performance vom Scrub Befehl.
Beim Stripe hab ich 270 Mb gesehen, beim Raidz1 330 MB und beim Mirror nur noch 80 Mb intern.
Ich dachte daß ein Mirror lesend sogar einen Geschwindigkeitsvorteil bringt gegenüber einem Raidz1
Ich vermute daß es aber nur daran liegt daß der Scrub wirklich beide Platten auf Konsistenz prüft und ein normaler
Dateizugriff schneller wäre.

Spricht etwas dagegen einen 2 x 2 Mirror aufzubauen ?

Wird es klappen einen Pool nachträglich um ein zweites Vdev zu erweitern.
Ich kann es vorher nicht testen. Im Moment fehlt mir eine Platte um einen zweiten Mirror zu bauen.
Derzeit ist der Pool in der Webgui "ausgegraut" und da ich keinen zweiten testweise erstellen kann um zu sehen
ob er dann auch angeboten wird, muß ich mich da rein auf die Anleitungen verlassen.

Noch eine Frage zu meinem temporären 4TB Speicher. UFS reserviert 8% des z.V stehenden Platzes. Die Problematik mit
der Fragmentierung ist mir klar und daher eine Reserve die nur Root ankratzen darf.
Wenn ich aber keine dynamischen Daten habe , also keine Dateien die ihre Größe nachträglich ändern. (reines Datengrab)
Wie weit kann man dann den Prozentsatz runterschrauben. 3.2 TB sind ein wenig knapp für die Umschaufelaktionen.

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

OK, du fragst nach praktischen Tips, bitteschön:

In einigen Bereichen muß ich jetzt zwar raten, weil ich nicht weiß um welche Arten und Mengen von Daten es sich handelt, aber wenn ich meine Kristallkugel befrage, und das Ergebnis mit meinen Erfahrungswerten korreliere, dann kommt die nachfolgende Lösung raus:

Phase 1: Besorge dir zusätzlich 2 x 3TB Festplatten, und mache mit damit, und deinen 2x2TB Festplatten ein RaidZ1 aus 4 Platten. Die 3TB Festplatten bekommt man derzeit für ~120€ (Ja, ich weiß, daß das viel Geld ist). Dann hast du 6TB nutzbare Kapazität. Damit bekommst du aber erstmal genügend Luft, um deinen bestehenden Datenbestand abzulegen.
Phase 2: Später tauschst du die beiden 2TB Platten nacheinander gegen 3TB Modelle aus. Dann hast du 9TB nutzbare Kapazität.
Phase 3: Aus den dann freien Platten baust du dir ein zweites NAS, auf das du dein erstes NAS dann backuppen kannst.

Noch ein paar Anmerkungen:
Aus eigener Erfahrung weiß ich, daß man auf seinen diversen externen Festplatten oft Datenbestände doppelt abgelegt hat. Es lohnt sich durchaus, hier erstmal mit dem Rasenmäher drüberzugehen, und doppelte, sowie veraltete und nicht mehr benötigte Daten zu löschen.

Wenn man Daten in solchen Größenordnungen verwaltet, ist es sehr hilfreich, wenn man sich dafür ein Konzept erarbeitet, und seine Daten in drei Kategorien klassifiziert. Ich nenne das Triage.

Kategorie 1: Unersetzbare Daten. Das sind z.B. selbst aufgenommene Fotos und Videos.
Kategorie 2: Daten, deren Verlust existenzbedrohend sein kann. Darunter fällt z.B. alles, was man erwerbsmäßig nutzt.
Kategorie 3: Alle Daten, deren Verlust zwar finanziell schmerzen würde, die sich aber ersetzen ließen. Darunter würde z.B. die eigene Software, Musik- und Pr0n-Sammlung fallen. :mrgreen:

Wenn man also nur begrenzte Ressourcen zur Verfügung hat (Geld oder Plattenkapazität), dann ist eine solche Einteilung sehr nützlich, um sich auf die wirklich wichtigen Dinge zu konzentrieren. Das, was man nicht verlieren darf, bekommt dabei die höchste Priorität.

Ich habe mir am WE übrigens ein weiteres Mainboard geholt, um endlich mein Ur-NAS ablösen zu können. Es handelt sich um ein ASRock E350M1 (~60€). Ich habe natürlich gleich den oben beschriebenen iperf-Test gemacht. Das Ergebnis war ziemlich überraschend, denn das Board präsentierte sich mit einer geradezu unterirdischen (theoretischen) Schreibleistung. Ich wollte eigentlich ein anderes Board (von ASUS) haben, doch das ist nicht mehr lieferbar. ASUS wird dieses Jahr wohl neue ITX-Boards rausbringen, aber solange konnte ich nicht mehr warten. Das Asrock Board war daher der einzig mögliche Kompromiß.

In der Praxis hat sich dann zum Glück herausgestellt, daß das Board stabil läuft, und die Übertragungsraten völlig ausreichend sind. Wenn meine Arbeiten abgeschlossen sind, dann habe ich die Idealkonfiguration von zwei stromsparenden N4F mit jeweils 3x3TB Festplatten, wobei ein N4F als Backup fungiert.

Der immense Vorteil dabei: man kann in Zukunft viel leichter Kapazitätserhöhungen vornehmen, und muß sich nicht mir zig externen Festplatten herumschlagen, auf die man Daten auslagen muß. Ich kann nur dringend empfehlen, das genau so zu handhaben. Alles andere ist Quatsch.

Das ist übrigens gar nicht so oversized, wie es auf den ersten Blick scheinen mag. Wir haben es hier ja mit geradezu gigantischen Datenmengen zu tun, und mit Hilfe eines solchen Konstrukts kann man sehr viel Zeit (und letztendlich auch Geld) einsparen.

Noch etwas zur Performance: Mit dieser Hardware sind maximal 60MB/s be einem RaidZ1 Pool mit 3 Platten ein durchaus realistischer Wert. Der Grund dafür ist, daß ZFS die Verwaltung des Raids softwaremäßig handhabt. Demgegenüber steht aber der immense Vorteil, daß man von proprietären Raidcontrollern völlig unabhängig ist. Du kannst deine Platten einfach in einen anderen Rechner verbauen, egal in welcher Reihenfolge, und danach wieder auf den kompletten Pool zugreifen.

Wenn du schon mal mit echten (und sauteuren) Raidcontrollern gearbeitet hast, wirst du wissen, was das für ein Vorteil ist.

Edit: Ich habe spaßeshalber auch mit der Veränderung der MTU bei der Datenübertragung zwischen den beiden N4F experimentiert. Es bringt wirklich nichts. Die Übertragungsraten sinken ins Bodenlose. Dazu muß man wissen, daß ich die Übertragung mittels zfs send/receive mache (das ist da Beste an ZFS). Wenn man die MTU verändert, dann bedeutet es, daß in einem Rutsch sehr viel mehr Daten übertragen werden. Die Daten müssen aber auf der Empfängerseite auch verarbeitet werden. Bei ZFS bedeutet das, daß die Prüfsummen gebildet, und die Daten auf das RaidZ verteilt werden müssen. Und dabei gilt es, eine Balance zwischen der Verabeitungsgeschwindigkeit des Prozessors und den Übertragungsraten von LAN und SATA Schnittstellen zu finden. Und da scheint eine MTU von 1500 tatsächlich die beste Performance zu bieten. (bezogen auf die eingesetzte Hardware). Das meinte ich übrigens, als ich sagte, das eine Veränderung der MTU nur unter ganz bestimmten Bedingungen Sinn macht.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Princo
Danke für die Tips. Ich teile ziemlich genau die Überlegungen deiner "Triage". So mach ich das schon seit Jahren allerdings zu Fuß ohne NAS.
Ich hab bisher aber auf Ximeta NDAS Geräte gesetzt und ich muß sagen, die laufen seit 7 Jahren (100 Mbit) und 3 Jahre (Gigabit) Tacko.
Ist und bleibt für mich die stressfreieste externe Speicherlösung als Windoofer. Ich hab einfach keinen Fabel für den Linux Prompt
- auch wenn damit alles möglich ist ;)

Über deinen Vorschlage mit dem Raidz1 mit 4 Platten denke ich nochmal nach. Ich hatte es aus einem Grunde ausgeschlossen.
In irgendeiner ZFS Fibel hatte ich aufgenschnappt daß " 2^x + n " die Formel wäre.
Demnach wäre die Abstufung 3 , 5 oder 9 Platten gewesen bei einem Parity.
3 war mir zuwenig und 5 zu teuer .... Damit wären dann auch alle Sata's intern belegt gewesen.

Deine Erklärung hat mich aber drauf gebracht daß 2+1 , 3+1 , 4+1 auch möglich sind und somit hast Du nochmal neu gemischt.
Ich werde testweise mal ein 3+1 mit 2x 2TB und 2x1TB aufsetzen und mich dann entscheiden.
Wenn ich dich richtig verstehe favorisierst du ein Raidz gegenüber einem 2x2 Mirror.
Zugegeben , das 2x2 verschenkt noch mehr Platz aber theoretisch könnte sogar in jedem Mirror eine HD ausfallen.
Aber ist auch nur eine Pseudo Sicherheit. Wenn 2 Platten von einem Mirror ausfallen ist der ganze Pool auch Schrott.

Da ich so oder so noch ein Backup Offline liegen haben werde und mich nicht alleine auf ein NAS mit ZFS verlassen werde (Spannung , Netzteil läuft hoch)
kann ich mir das jetzt noch aussuchen ob 3+1 oder 2x2 . Ich frage mich ob ein RaidZ da ggf performanter ist.
Ich finde dazu widersprüchliche Aussagen.

Es ist aber noch eine neue Frage aufgetaucht.
Sobald ein Pool angelegt ist kann ich den ja unmittelbar via CIFS, Samba freigeben und bin damit ja eigentlich schon glücklich.

Nun gibt es aber noch zusätzlich die Möglichkeite Datensätze (Datasets) , Datenträger (Volumes) anzulegen.
Da ich ja in meiner Windowswelt , als alleiniger Nutzer , keine Multiuser System mit Quotas und eigenem Home für jeden User benötige frage ich
mich ob ich davon generell die Finger lassen soll oder ob es durchaus irgendeinen Sinn machen könnte. Ich sehe erstmal keinen. Alle Daten die ich da
hinschaufele sind von Hause aus komprimiert und von daher brauche ich z.b auch keine On the fly Kompression.

Würde es trotzdem irgendeinen Sinn machen z.b Musikvideos , Filme , Audio jeweils mit eigenem Dataset auszustatten (für Snapshots)
oder macht diese zusätzliche Funktionalität mein eh nicht performantes System nur unnötig langsam ( Ist es für meinen simplen Datengrab Anspruch Quatsch ? )

Danke übrigens für deine nette Hilfe.

Buhu
Starter
Starter
Posts: 45
Joined: 02 Jul 2012 10:16
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Buhu »

Hi, ich will euch hier nur ne kurze Randnotiz schreiben wegen der Performance.....hab den Thread grad gelesen :)

Ich hab hier aktuell das MSI E350DM-E33 Board (Signatur ) am laufen mit 9.1....573. ZFS RaidZ1 und einem HP Procurve 1810-G8 + DLINK Grenn GB Switch. Vom Atom D525 aus mit Win7 X64 hab ich konstant zwischen 50-60MB/s beim Up /Download..... Mit dem HP only dazwischen wirds mehr sein, kann ich gerne nochmal messen wenn gewünscht. Alle Settings sind default im N4F auf USB. Kein Tuning bei ZFS und ich nehm die Onboard Realtek.

Das wars schon.
The new one : 9.1.0.1 - Sandstorm (revision 847) on USB 8GB Verbatin, ASRock A75M-HVS and A4-3300 CPU, BeQuiet 350 Watt , 8 GB DDR3 Ram. 4 x 2TB HD204UI RaidZ1, 1x WDRED 3TB UFS Singlestore. HP Procurve Switch 1810 G8 - 8-Port. That's all about 11 TB of pure fun.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Buhu
Also, ich hab nix dagegen wenn es Dir nicht allzuviel Mühe macht .....
Darf ich fragen ob Du deine SSD fürs N4F OS einsetzt oder ob es als ZIL fungiert.

Ich hab heute Nacht ne Menge geschaufelt.
Dabei konnte ich sehen daß bei großen Dateien aufs UFS (welches noch nicht mal direkt sondern als USB3.0 angeschlossen ist) bis zu 83 MB möglich waren
wobei die Cpu bei 30-40% lag.

Die gleichen Daten aufs ZFS Mirror kopiert ergaben ca 60 Mb wobei hier die Prozesslast zwischen 80 und 95 % lag,
Anscheinend ist da also mein Prozessörchen am Ende.

Rein interessehalber würde mich mal interessieren ob genau an dieser Stelle ein ZIL einem schlappen Prozessor beim sequentielles schreiben
auf die Sprünge helfen könnte.

Buhu
Starter
Starter
Posts: 45
Joined: 02 Jul 2012 10:16
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Buhu »

redline wrote:@Buhu
Also, ich hab nix dagegen wenn es Dir nicht allzuviel Mühe macht .....
Darf ich fragen ob Du deine SSD fürs N4F OS einsetzt oder ob es als ZIL fungiert.
Gemessen hab ich noch nicht mit dem HP only im Netzwerk, hol ich noch nach....... Bezüglich der SSD ist der aktuelle Stand der, das die früher in den 9.0 xx Version zu letzt mit .249 für OS lief. Jetzt mit 9.1.x 573 kann ich die nicht mehr fürs OS benutzen an dem AMD Mainboard.Weiß der Himmel warum das nicht mehr geht, an dem AMD Board kann ich die .573 jetzt nur noch auf dem USB STick benutzen.Gibt hier auch nen Thread ohne Lösung dazu bisher.....Da wirste verrückt warum 9.0 mit der SSd ging und 9.1 nicht mehr :shock:
The new one : 9.1.0.1 - Sandstorm (revision 847) on USB 8GB Verbatin, ASRock A75M-HVS and A4-3300 CPU, BeQuiet 350 Watt , 8 GB DDR3 Ram. 4 x 2TB HD204UI RaidZ1, 1x WDRED 3TB UFS Singlestore. HP Procurve Switch 1810 G8 - 8-Port. That's all about 11 TB of pure fun.

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

Oki, Doki. Erstmal zur Frage welche RaidZ/Mirror Kombination sinnvoll ist:

Es gibt Leute, die zwei Stripes zu einem Mirror verbinden, weil da theoretisch bis zu 2 Festplatten ausfallen können, wenn es die richtigen sind. Dagegen sprechen aber die Aussagen von ausgewiesenen ZFS-Experten, die sagen, daß man das Setup so simpel wie möglich halten sollte (also ein RaidZ zu machen).

Meiner Meinung nach ist RaidZ die tatsächlich der bessere Weg. einfach weil er unkomplizierter ist. Du solltest dir natürlich vorher überlegen, was du machen wirst, wenn dir tatsächlich einmal eine Platte ausfällt. Ich habe das schon selber erlebt: 4 neue Platten (Billigangebot von der Palette) gekauft, RaidZ1 draus gemacht, und nach 14 Tagen ist eine davon ausgestiegen. Das ist übrigens so ziemlich jedem N4F-Nutzer passiert, den ich kenne. Es liegt natürlich nicht an N4F, sondern daran, daß billige Platten einfach eine höhere Ausfallrate haben.

Obwohl das NAS den Ausfall der Platte verkraftet, und man noch auf die Daten zugreifen kann, empfehle ich immer, es solange ausgeschaltet zu lassen, bis man eine Ersatzplatte eingebaut hat, denn ein weiterer Plattenausfall wäre sehr schlecht. Das Problem dabei ist, daß man im Home-Bereich sehr viel größere Plattengrößen einsetzt, als im Profi-Bereich, wo die Platten oft nur 500GB groß sind. Ein Rebuild-Vorgang (Resilver) dauert dann bei gut gefüllten Platten bei gleicher Geschwindigkeit sehr viel länger. Und solange ist das System im Degraded-State.

Jetzt könnte man dieser Gefahr dadurch begegnen, daß man ein RaidZ2 oder gar RaidZ3 macht, aber das ist im Home-Bereich einfach nicht wirtschaftlich. Da ist ein zweites (Backup) NAS sehr viel sinnvoller. Das nur als Empfehlung für die Zukunft. Es mag sein, daß du das jetzt noch nicht so siehst, aber glaub mir, dieser Zeitpunkt wird auch für dich irgendwann kommen. :shock:

Nun zu den Datasets: Du solltest deine Daten grundsätzlich, und ausschließlich, immer nur in Datasets speichern, und niemals direkt im Pool. Das ist sehr wichtig.

Du solltest auch keine Share auf den kompletten Pool legen, sondern jeweils eigene Shares auf die einzelnen Datasets. So bequem es ist, alles sofort direkt erreichen zu können, so ungünstig ist es, bei der Präsentation der letzten Urlaubsfotos erstmal über die eigene pr0n-Sammlung zu scrollen (nur so als Beispiel).

Bei den Datasets kannst du übrigens gleich die richtigen Rechte einstellen, und mußt dazu gar nicht auf die Kommandozeile gehen.

Von der Einstellung "Deduplication" solltest du die Finger lassen. Das leistet deine Hardware nicht. Nicht mal testweise solltest du daran rumfummeln, wenn sich schon wichtige Daten auf dem System befinden. Ich habe es ausprobiert, und es hat nicht mal ansatzweise irgendwelche Vorteile gebracht. Das ist eher etwas für sehr leistungsstarke Rechner mit extrem viel RAM.

Kompression: Das funktioniert tatsächlich, macht aber nur Sinn, wenn man in dem Dataset gut komprimierbare Daten speichert. Ich nutze es für ISO-Images von Software-CDs. Da bringt es ca. 20%. Man kann den Kompressionsgrad zwar genau einstellen, aber man sollte nur on/off benutzen. Die Einstellung wirkt sich nur auf neu hinzugefügte Daten aus. Die Einstellung zle ist auch interessant, aber nur, wenn man weiß, was Sparse-Dateien sind.

ZIL und Cache habe ich auch ausprobiert: bringt nix bei der Hardware. Für ZIL braucht man übrigens 2 mirrored SSDs, und das lohnt nicht, weil man 2 SATA Ports verleirt (und es bringt nix).
Cache funktioniert zwar, brachte mich aber nicht zum Staunen. Für ein Home-NAS nicht sehr sinnvoll.

Nochmal zu den Datasets: Es gibt dabei keinen Performance-Unterschied, es sei denn, du schaltest die Kompression ein.
Snapshots: Zugegeben, als die Funktion in N4F veröffentlicht wurde, konnte ich anfangs nicht viel damint anfangen. Mittlerweile ist es aber eines der wichtigsten Features für mich geworden. Knapp gesagt: Du kannst sowohl einzelne Datasets oder auch den gesamten Pool "einfrieren". Das dauert nichtmal 'ne Sekunde und ändert nichts am Datenbestand. Du kannst aber auf die eingefrorenen Daten über ein spezielles Verzeichnis lesend zugreifen, oder einzelne Datasets oder den gesamten Pool wieder auf den eingefrorenen Stand zurücksetzen. Beispiel: Du machst einen rekursiven Snapshot vom Pool, löschst dann alle Dateien im Pool (aber nicht die Datasets selbst), dann machst du einen Rollback auf den Pool, und alle Dateien sind wieder da.

Klingt noch nicht aufregend? Dann ein eher praxisorientiertes Beispiel: Du mochtest deine Musiksammlung neu organisieren, machst einen Snapshot auf deinen Musik-Dataset, organisierst deine Daten, benutzt dabei eine Software, welche die Dateien neu taggen soll, merkst dann, das die Software Murks produziert hat und deine MP3s geschrottet hat. Tja, und dann machst du einen Rollback auf den Pool, und alles ist wieder schick. Man kann übrigens auch zeitgesteuert Snapshots erstellen lassen. Es ist ein Thema, für das man sich extra Zeit nehmen sollte. Es gibt sehr viele Anwendungsmöglichkeiten dafür.

Nachfrage: Warum bist du eigentlich auf so hohe Datenübertragungsraten scharf? Nach meiner Erfahrung ist in der Geräteklasse bei 60MB/s auf ein RaifZ1 Schluß. Höhere Raten gingen nur zu Lasten der Datenintegrität, also ohne ZFS. Die Integrität ist mir aber sehr wichtig.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Princo
> Nachfrage: Warum bist du eigentlich auf so hohe Datenübertragungsraten scharf ?
Wie Du schon selber geschrieben hast setzt man zuhause oft größere Platten Platten ein und da es damit von Haus aus schon länger dauert (resilvern, kopieren)
ist es für mich ein Unterschied ob ich 20 oder 80 Stunden warte um 2TB zu verschieben. (hab jetzt nicht nachgerechnet)

Ok, Datasets kosten also keine Performance. Dann setz ich sie auch gerne ein.

Was mich aber wirklich an den Rand der Verzweifelung bringt ist schlicht und ergreifend die "Logik" bei der Performancefrage.

Ich habe heute mal ein Raidz1 mit 4 Platten aufgebaut. Dazu ist an dem N4F extern noch eine 4TB USB 3.0 Platte in externem Gehäuse.
Es geht also hier sogar noch über einen USB 3.0 Wandler und nicht direkt auf eine UFS Sata Platte.
Alle Einstellungen sind auf auf "Serie". MTU 1500.

Ich rekapitulier auch noch mal die aktuelle Konstellation des Clients.
Der Client ist ein Quadcore 9850 mit 6GB Ram und der Intel 1000 Karte. Frisches Windows 64 drauf.
Ich kopiere von und zu einer leeren SSD die auch in diese Client steckt.

Via UFS bekomme ich ziemlich genau 95MB schreiben hin und 90 MB lesen. Der Graph sieht fast aus wie eine Linie.
Kaum bzw minimale Schwankungen. Die CPU Last ist ziemlich konstant im Bereich von 40-50% während des Kopiervorgangs.
Ich sehe an dieser Stelle dann auch keinerlei Gründe irgendwelche Parameter oder MTUs zu verbiegen.

So, und nun dasselbe auf das Raidz1.
Schreibend sind ca 60 MB drin (damit komme ich durchaus klar, kein Problem) Die CPU ist dabei dann annährend immer um die 85-95%
Mehr ist da dann nicht zu wollen. (ggf könnte hier eine Intelkarte ggf den Proz noch etwas entlasten)
ABER .... Lesend bekomme ich am Anfang ca 35 Mb und der Wert sinkt dann ab bis auf ca 22 Mb.
Und das find ich ehrlich gesagt albern. Die CPU Last ist dabei anfänglich bei 50% und sinkt ab bis auf 15-20%
Da finde ich auch keine Logik die mir dieses Phänomen erklären kann. Wenn die CPU bei 100% liegen würde weil die ZFS Prüfsummenberechnung
ewig dauert würde ich es ja verstehen wollen. Aber anscheinend langweilt sich die CPU doch.
Also, was zum Henker bremst da ???

Es muß doch irgendeine halbwegs logische Erklärung dafür geben warum das eine System (zu Beginn dieses Threads) beim lesen deutlich besser
war als beim schreiben und nun ein "fixer" Client beim schreiben echt gut ab geht dafür aber beim lesen unterirdisch ist.

Wie gesagt UFS (noch nichtmal direkt) um die 90MB in beide Richtungen mit erklärlichen CPU Lasten.

> bei der Präsentation der letzten Urlaubsfotos erstmal über die eigene pr0n-Sammlung zu scrollen (nur so als Beispiel)
Jaja, die pr0n Sammlung .... Ganz ehrlich , wenn ich sehe wie langsam Thumbnails übers Netz aufgebaut werden gegenüber einem lokalen NTFS
hab ich gar keine Lust mehr sowas aufs NAS zu schieben. Da ist man ja vorher schon eingeschlafen.
Auch das Caching bei solchen "Daten" zwischen Verzeichnissen hin und her ist absoluter Kappes.
Habs gerade nochmal bei UFS gegengeprobt. Ist zwar deutlich schneller aber immer noch kein Vergleich zu lokal und dem achso schlechten Windows.
Aber im Sinne deiner Triage hat das auf dem NAS auch nix verloren.

Dedup wollte ich auch gar nicht anreißen. L2Arc macht für mich auch Null Sinn. Lediglich ein ZIL wäre interessant aber das haßt Du mir nun
auch madig gemacht ;) Trotzdem Danke.

Das mit der MP3 Sammlung war auch ein sehr guter Hinweis. Ich hab da nämlich Prüfsummen im ID3 Tag und von daher stört es mich wenn
andere Programme ungefragt da rumfummeln.

Hab auch noch von einem netten User eine PM bekommen der mich auf einen Thread bezüglich Permissions aufmerksam gemacht hat.
Auch dafür schonmal Danke. Da lese ich mich noch ein.

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

Frage: Wenn ich alles zusammenzähle, dann bleibt eigentlich nur eine Sache übrig: Hast du im RaidZ1 nur Festplatten mit 4k Sektoren verbaut, und auch den entsprechenden Haken bei der Einrichtung gesetzt? Oder hast du Platten mit unterschiedlichen Sektorgrößen gemischt?

Nächste Frage: Wenn du die Geschwindigkeit ermittelst, kopierst du dabei eine sehr große Datei, oder evtl. ein Verzeichnis mit vielen kleinen Dateien?

Eine konstante Linie bekomst du idR nur mit einer großen Datei hin.
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

Frage: Wenn ich alles zusammenzähle, dann bleibt eigentlich nur eine Sache übrig: Hast du im RaidZ1 nur Festplatten mit 4k Sektoren verbaut, und auch den entsprechenden Haken bei der Einrichtung gesetzt? Oder hast du Platten mit unterschiedlichen Sektorgrößen gemischt?
3 x Seagate ES Constellation - 512 Byte
1 x Samsung HD204UI - kann AF 4k aber emuliert 512

Unter Information -> Partition sind alle mit 512 gelistet und ich habe keinen 4k Haken gesetzt weil die Seagate das wohl nicht können.

Nebenbei bemerkt hab ich diese bekackten Ergebisse ja schon die ganze Zeit. Und sowohl beim Stipe, Mirror als beim ersten RaidZ1 mit "nur" 3 Platten
waren ausschließlich die 3 identischen Seagates im Boot. Da war als schon mal kein Plattenmix.
Jetzt, zugegeben mag es nicht optimal sein mit der Samsung als 4.ter Platte.

Aber daß das jetzt das Problem sein soll bezweifel ich.

Bei meiner gestrigen Aussage mit UFS 90 MB beide Richtungen ist tatsächlich die Einzige echte 4k Platte im Spiel (Hitachi 4TB Touro)
Aber ,was ich gestern vergaß zu erwähnen war daß neben den Standard Einstellungen das Protokoll auf SMB2 stand.
Mit dieser Einstellung ist die UFS schnell, das ZFS Raidz1 lesend lahm und schreibend okay. Genau wie beschrieben.

Heute auf NT1 umgestellt. Die UFS wurde sofort langsamer und ging auf 60MB R/W zurück.
Dreimal hin und her probiert mit der SMB2/NT1 Umschaltung. Immer dasselbe Ergebnis.
ZFS verhielt sich immer noch genauso.

Dann noch zusätzlich den AIO Haken gesetzt. So, und der beflügelt dann im ZFS Betrieb das lesen. Anstatt 20-25 Mb sind dann ca 63 Mb drin.
Schreiben 50 Mb. UFS in beide Richtungen ca 60 MB.
Spielen mit den Puffergrößen bringt keinerlei Verbesserungen mehr.

So, jetzt Du wieder. Warum UFS nur durch die SMB2 / NT1 Umstellung zwar so stark beeinflusst wird aber auf den AIO Haken so gar nicht
reagiert ... während das ZFS genau auf diesen Schalter anspricht ... Ich kanns einfach nicht begreifen.

Ist im Client auch völlig Hupe ob ich das mit der Intel Karte oder mit der Realtek Onboard mache. Es macht keinen Unterschied.

Ich visiere übrigens die Western Red 3TB Platten an.
http://www.wdc.com/de/products/products.aspx?id=810
http://www.tomshardware.de/WD_Red-WD20E ... 41057.html

Finanziell sind 2 maximal 3 drin. Ich muß sie also leider mit 1 oder 2 Samsung HD204UI anfänglich kombinieren.
Eine konstante Linie bekomst du idR nur mit einer großen Datei hin.
Hab auch nix anderes erwartet. Diese "maximum" Tests sind immer mit >= 2GB Files gemacht.
Und dann auch immer andere damit ja der ZFS Cache nicht irritiert.

Frag mich jetzt bitte nicht in exakt welcher Konfiguration es war. Aber wenn dann eine Übertragung "schleppend" durch ging
und ich exakt die gleiche Datei nochmal rübergenagelt habe (und diese komplett im Cache war) hatte ich eine schnelle Übertragung
und quasi einen schönen Strich im Graph. Es war aber nur in einer speziellen Einstellungsvariante so reproduzierbar.
Aber ich bin nach mehreren Abenden / Nächten mittlerweile schon etwas durch den Wind und hab diese Kombi jetzt nicht mehr im Kopf.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

Hier die internen Speedwerte. Bin gespant ob Du dann immer noch 512 Bytes oder 4k im Verdacht hast.
ZFS ist sowohll lesen wie schreibend schneller als UFS. Also genau konträr zu dem was sich im Netzbetrieb zeigt.

ZFS Raidz1 4 Platten - Organisation 512 Bytes
3 x Seagate ES Constellation 1 x Samsung HD204UI

Scrub 245 Mb/sec 1h9 für 1TB

dd if=/dev/zero of=tmp.dat bs=2048k count=50k
WR 100 GB 65% Proz
107374182400 bytes transferred in 634.546864 secs (169213952 bytes/sec)

WR 10 GB
10737418240 bytes transferred in 51.492224 secs (208525043 bytes/sec)

dd if=tmp.dat of=/dev/null bs=2048k count=50k
RD 100 GB 30% Proz
107374182400 bytes transferred in 570.189470 secs (188313163 bytes/sec)

RD 10GB
10737418240 bytes transferred in 58.917744 secs (182244219 bytes/sec)

----------------------------------------------------------------------------

UFS auf 4TB Touro USB 3.0
WR 10GB 26%
10737418240 bytes transferred in 91.556804 secs (117276027 bytes/sec)

RD 10GB 34% Proz
10737418240 bytes transferred in 88.163440 secs (121789919 bytes/sec)

User avatar
Princo
Forum Moderator
Forum Moderator
Posts: 1080
Joined: 15 Jul 2012 01:21
Location: Berlin, Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by Princo »

Na, das läuft ja spitzenmäßig. Gratulation, ddu hast es geschafft!

Als ich meinen letzten Post schrieb, hatte ich zuerst zwei Varianten im Sinn: Die eine war die 4k Problematik, und die andere war die CIFS/SMB Konfiguration. Die zweite Variante hatte ich fallengelassen, da du schriebst, daß du bei UFS sehr hohe Übertragungsraten hast, und da blieb erstmal nur die 4k Problematik übrig.

Es wäre übrigens sehr hilfreich gewesen, wenn du mal den iperf-Test gemacht hättest, denn dann hätte man noch viel zielgerichteter vorgehen können.

Deine jetzigen Werte entsprechen jetzt ziemlich genau den meinigen. Da kann man evtl. noch etwas tunen, aber das wird sich nicht mehr gravierend ändern.

Die "Problematik" ist, daß ZFS ein redundantes System ist. Redundanz wird aber oft mit "überflüssig" gleichgesetzt. So werden umfängliche Prüfsummen errechnet, und Daten mehrfach geschrieben. All das kostet Zeit, und geht auf die Performance. Diesem Effekt könnte man dadurch ausgleichen, daß man einfach ein sehr viel leistungsstärkeres System als NAS einsetzt (oder auf die Redundanz verzichtet, siehe UFS). Auf der anderen Seite steht, daß man ja genau diese Redundanz haben möchte, damit die Daten bei einem Plattenausfall nicht verloren sind.

Ich habe meinen richtigen Rechner spaßeshalber mit ein paar zusätzlichen Platten bestückt, ihn per USB-Stick zum N4F gemacht, und dann die gleichen Tests drauf losgelassen. Erwartungsgemäß feuerte das Teil richtig ab, besonders wenn es um die prozessorlastigen Aufgaben ging. Die einzigen Grenzen setzen am Ende die Übertragungsraten der Festplatten und des Netzwerks.

Es ist logisch, daß ein E-350 basiertes System dabei nicht mithalten kann. Ein solches System läßt sich aber viel kostengünstiger und kompakter aufbauen, und man hat mehr Geld für Plattenkapazität übrig.

Du kannst mit N4F auch ultraschnelle, mit gekoppelten 10Gb-Adaptern sogar richtige High-Performance Server aufbauen. Alles kein Problem, aber darum geht es im Home-Bereich eher weniger.

Du schrubst ja, daß du auf die hohen Übertragungsraten scharf bist, weil du deine externen Festplatten zügig auf das N4F übertragen möchtest. Das ist völlig verständlich.

Nur wie sieht sowas in der Praxis aus?: In einer Vielzahl der Fälle bricht die Übertragung ab, weil einige Datein schon nicht mehr von der externen FP gelesen werden können. Dann fängt man an, mit irgendwelchen Tools an der Externen herumzudoktorn um den Fehler zu beheben. Am Ende löscht man die kaputten Dateien, und startert die Übertragung neu.

Da man idR nicht weiß, welche Dateien schon übertragen wurden, beginnt man wieder komplett von vorne, und überträgt alles. Bis der nächste Fehler auftaucht, und die Übertragung abbricht.

Das ist die Praxis, das ist einfach so, und damit muß man notgedrungen leben. Und an dieser Stelle merkt man dann, daß der Unterschied zwischen 60MB/s und 90MB/s gar nicht das eigentliche Problem darstellt.

Man kann sich aber auch auf die Situation enstellen. Ich kopiere große Dateisysteme grundsätzlich nur mit rsync (unter Linux). Das kontrolliert nämlich, ob Dateien bereits übertragen wurden, und überträgt nur die noch fehlenden Files. Für Windows gibt es ähnliche Tools (siehe http://de.wikipedia.org/wiki/Rsync).

Solche Vorgehensweisen sind in der Praxis sehr viel hilfreicher als verbissene Optimierungsversuche.

Die Red Festplatten habe ich übrigens auch (WD30EFRX). Sie funktionieren. Wie man an den veröffentlichten Tests sehr gut sehen, kann, sind die gar nicht mal so schnell. Dafür angeblich zuverlässiger (eben ein spezialisierter Kompromiß). Ob sich der Mehrpreis wirklich lohnt, oder nur Geldschneiderei dahinter steckt, will ich jetzt nicht beurteilen.

Ich habe mittlerweile einen bunten Mix aus Red und diversen Green Platten unterschiedlicher Hersteller. Ich schätze sehr, daß sie superleise sind, und wenig Wärme abgeben. Allerdings achte ich auch auf gute Belüftung der Platten. Sehr wichtig ist übrigens die Wahl des richtigen Netzteils. Es muß einen hohen Wirkungsgrad bei einer sehr niedrigen Wattzahl haben, und dennoch genügend SATA-Anschlüsse bereitstellen. Sowas ist gar nicht so einfach zu finden (aber die Stromrechnung dankt es einem).
Meine Antworten beziehen sich immer auf die englischsprachige GUI. ECC-RAM ist Pflicht beim Einsatz von ZFS.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

> Na, das läuft ja spitzenmäßig. Gratulation, ddu hast es geschafft!

Keine Ahnung was dich zu dieser Aussage veranlaßt.

Bezüglich kopieren und Praxis. Ja, ich weiß was Du meinst aber ich hab den Total Commander und daher juckt mich das weniger.
Wir haben viele Nebenkriegsschauplätze aber konkrete Fragen wie sich z.b die MTU berechnet werden hier, auch von keinem Anderen,
mal beantwortet. Das sind die Dinge nach denen ich frage und auf eben diese konkreten Fragen gibts keine Antworten.
Ich teste die ganze Zeit mit 1500 zu deiner Beruhigung aber das Jumbos nicht funktionieren kann u.A auch daran liegen daß beide
Seiten nicht matchen. Und da wundert es mich dann nicht daß ein sauberes 1500 auf beiden Seiten besser performed.

Also nochmal konkret in die Runde ...
Wie berechnet sich die MTU die man in der WebGui von N4F eintragen kann.
Manche tragen 4000 ein. Ich hab bei der Intel 4088 Bytes bei 4k MTU. Wenn ich dieses Setting auswähle und es mit einem zweiten Tool
"kontrollier" sagt mir TCPOptimize das 4074 dort eingetragen steht wo vorher noch 1500 standen.
Eine Realtek nimmt widerum einen geringfügig anderen 4000er Wert.

Es gibt diverse Formeln die ICMP , Header und weiß der Geier drauf oder abrechnen. +/- 18 oder +/-28 Bytes findet man in dem Zusammenhang
immer wieder. Aber nichts passt bei mir. Die Dokumentation von N4F kann man diesbezüglich vergessen.
Also bitte wo finde ich so eine Info damit ich einen korrekten Wert bei N4F eintragen kann damit es keine Fragmente gibt.
- oder wie teste ich das von Hand oder zu Fuß

Iperf:
Ich hab den Iperf Test deshalb nicht gemacht weil mir die Zeit fehlte , ich die Client Hardware ausgetauscht hatte und die neue von Hause aus
deutlich besser funktionierte (weil einfach auch aktueller) Daher hab ich da keinen Sinn drin gesehen.

Das sieht jetzt anders aus. Ich habe Iperf (allerdings für Windows) auf meinem neuen Client installiert.
Es funktioniert aber nicht wie gewünscht. Ich habe nur einmal (Zufall) eine Übertragung in beide Richtungen gesehen.
Ansonsten bricht es immer nach einem Durchgang ab. So sieht es typischweise aus ...

[164] local 192.168.178.27 port 49166 connected with 192.168.178.34 port 5001
[ ID] Interval Transfer Bandwidth
[164] 0.0- 1.0 sec 65688 KBytes 538116 Kbits/sec
[164] 1.0- 2.0 sec 65248 KBytes 534512 Kbits/sec
[164] 2.0- 3.0 sec 65248 KBytes 534512 Kbits/sec
[164] 3.0- 4.0 sec 65224 KBytes 534315 Kbits/sec
[164] 4.0- 5.0 sec 65224 KBytes 534315 Kbits/sec
[164] 5.0- 6.0 sec 65208 KBytes 534184 Kbits/sec
[164] 6.0- 7.0 sec 65200 KBytes 534118 Kbits/sec
[164] 7.0- 8.0 sec 65176 KBytes 533922 Kbits/sec
[164] 8.0- 9.0 sec 65080 KBytes 533135 Kbits/sec
[164] 9.0-10.0 sec 66096 KBytes 541458 Kbits/sec
[164] 0.0-10.6 sec 653400 KBytes 503845 Kbits/sec
[164] MSS and MTU size unknown (TCP_MAXSEG not supported by OS?)
[136] local 192.168.178.27 port 5001 connected with 192.168.178.34 port 57449
[ ID] Interval Transfer Bandwidth
[136] 0.0- 1.0 sec 72304 KBytes 592 Mbits/sec
[136] 0.0- 1.0 sec 592 Mbits 584 Mbits/sec
Done.

Wie Du siehst gibt es am Ende einen kurzen Sendeversuch. Selbst dieser fehlt meistens. Es ist auch egal welche Seite Client oder Server spielt.
Was die Aussage "TCP_Maxseg not supported by OS" auch ziemlich Panne erscheinen läßt weil ich nicht weiß ob damit die Freebsd oder
die Windows Seite gemeint ist !!!! - Nochmal, egal wer Client spielt. Immer bei der Richtungsumkehr kommt diese Meldung.

Habs dann auf 2 anderen Rechnern auch gemacht. Immer das gleiche Resultat.

Nebenbei hab ich dann auch den Switch auch mal rausgenommen und Client und NAS direkt gekoppelt und alles aus statische IP eingestellt.
Daran liegt es nicht.

Dann noch was ganz Anderes ....
Bevor ich angefangen habe, hab ich ja viel gelesen. Hier wird ja auch oft aufs alte Freenas Forum verwiesen. Mehr oder weniger überall war
zu lesen daß ZFS Speicher hungrig ist und 8GB Ram sollten es schon sein. Hab ich also gekauft damit ja nix schief geht.
Daneben war immer die Aussage daß ab 4GB prefetch automatisch genutzt wird. Da hab ich natürlich auch an "Automatismus" gedacht.
Ich wundere mich aber die ganze Zeit darüber daß der Memory Balken in der WebGui so wenig ausschlägt.

Also hab ich gestern in den Tiefen der Loader.conf gesucht... Und siehe da Prefetch is aus als Default Einstellung.
Mal ehrlich, da muß man doch wahnsinnig werden, oder ?

Ich hab jetzt eine Default Einstellung für 8GB die ich hier fand eingestellt und nun ist der Speicher auch genutzt.
http://www.hardwareluxx.de/community/f2 ... 35734.html

vm.kmem_size="7G"
vfs.zfs.arc_max="5632M"
vfs.zfs.arc_min="3584M"
vfs.zfs.txg.timeout="5"
vfs.zfs.txg.synctime="1"
vfs.zfs.txg.write_limit_override="805306368"
vfs.zfs.vdev.min_pending="2"
vfs.zfs.vdev.max_pending="10"
vfs.zfs.prefetch_disable="0"

Natürlich sind aller Ergebnisse und Einstellungen der letzten 14 Tage damit wieder für den Eimer.

Danke für diese Klasse Default Einstellung die ich nirgends dokumentiert finde. Außer in einem Nebensatz das N4F für wenig
Speicher optimiert wurde. Dann darf man aber bitte nicht ständig ins Freenas Forum zum schlau machen verweisen
wenn es so eklatante Unterschiede im Detail gibt.

Die Dokumenatation im Wiki passt auch oft nicht zu dem was man real vor sich hat. Hier sind Samba Puffer default auf 64240 Bytes
eingestellt. Im Wiki steht ne ganz andere Zahl. Und was ist das überhaupt für ein Wert. Kein Multiplikator mit 256, 512 oder 1k.
Sind es Zitronen oder nur effektive Bytes ???? In welchen Schrittweiten macht dann eine Spielerei Sinn.
Klar, Try and Error hilft hier wieder ... Aber einfach mal einen Satz dazu schreiben und alle die es interessiert wären glücklich.

Nachdem ich diese o.g Einstellungen gemacht hatte, haben NT1 und SMB2 Protokoll wieder die Plätze getauscht. Nun ist SMB2 wieder besser.
Mit Standardwerten und MTU 1500 hab ich ca 60Mb RD 50 WR sowohl bei UFS wie beim ZFS.
Setzte ich die MTU dann rauf geht UFS mit 90 MB ab in beide Richtungen ab, ZFS wird schneller beim schreiben
aber beim lesen ist es im Keller. Unglaublich , die Platten geben es her , die CPU hat 30% Last ...
Und beim lesen hat es nicht soviel zu tun wie beim schreiben. Warum profitiert es dann nicht davon.
Fragen über Fragen ...

So und um eben genau da jetzt endlich mal zu Potte zu kommen hab ich mit Iperf angefangen um den reinen Netzwerkbetrieb ohne
Samba und ZFS zu begutachten. Und genau das Tool funktioniert leider nicht wie erwartet.

Ich habs dann auch noch von einem Laptop und dem anderen Client ausprobiert. Dieselben Abbrüche bei Umkehrung der Richtung.

jasch
experienced User
experienced User
Posts: 136
Joined: 25 Jun 2012 10:25
Location: Germany
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by jasch »

Ohne jetzt den Post groß gelesen zu haben aber pending sollte eher so aussehen.(Sata ahci benutzen NCQ)
vfs.zfs.vdev.min_pending="1"
vfs.zfs.vdev.max_pending="2"
oder sogar 1 und 1

vfs.zfs.txg.write_limit_override=""
auf 0 bzw wenn du zu große stalls hast dann setz es auf 125MB(Gbit Lan)

du solltest intel LAn karte in beiden geräten betreiben, mtu kannst erstmal auf 1500 lassen.(switch erstmal raus lassen und direkt verbinden zum testen)
Interrupt Modulation alles aus.
Unter Win Netzwerkarten eigenschaften send recivebuffer auf max (bei intel 2MB, bei realtek nur 512kb/128Kb)
Im Nas4free in der loader.conf folgendes einfügen

Code: Select all

# Useful if you are using Intel-Gigabit NIC
hw.em.rxd=4096
hw.em.txd=4096
hw.em.rx_process_limit="-1"
Cifs settings
SMB2 (Aio muss da aus sein sonst bugt es)
Send und recive Buffer size 256960

Dann solltest du 100 MB/s lesen und schreiben können.

Zum testen ist es immer gut schnelle platten zu haben damit diese nicht bremsen.
Zfs als stripe.
Windows ne ssd oder raid 0.
MFG Alex
XigmaNAS 12.0.0.4 (6625)@PROXMOX 5.V - Supermicro X8DTH-6F | 2x Xeon L5640 | 96GB ECC | LSI 9210-8i|LSI 9500-8e|LSI 9201-16i | 40GBe IB Mellanox |

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

@Jasch
Danke erstmal für die Tips. Ich werde sie bei Zeiten auch ausprobieren.

Mit den Einstellungen meines vorherigen Posts kam aber eigentlich schon die Wende. Sprich ich hab tagelang umsonst gekämpft nur weil die
ZFS Parameter Default auf wenig Speicher getrimmt waren.

Mit den Onbard Realtek Karten war es dann sogar halbwegs gut. Schreibend lag ich dann bei ca 75 Mb. Lesend waren sie nicht so schnell.
Der zweite wichtige Punkt war daß ich zwar eine Intel NIC gekauft hatte, die aber in einem normalen PCI Slot in meinem betagten Client steckte.
In dem alten Design gind da einfach über den alten PCI Bus nicht mehr rüber.

Nachdem ich nun auf beiden Seiten Intel NICs als PCI "Express" habe, ist nun auch das lesen deutlich schneller als über die Realtek.
Nichtsdestotrotz probiere ich gerne deine Tips bald noch aus. Aber die Performance ist im Moment gar kein Problem mehr.

Ich weiß nicht was du genau mit "stall" meinst. Meinst Du damit das pumpen was man im Graph sieht wenn man auf ZFS schreibt ?
Wenn ich auf eine UFS Laufwerk schreibe sehe ich durchgehend ca 100 Mb. Beim ZFS sieht man daß der Graph wie ein Sägezahn zwischen
50 und 100 MB auf und ab geht. Im Mittel schiebe ich so aber 75 MB schreibend durch. Dieser Wert wird mir auch vom Total Commander
angezeigt. Als Festplatten kommen im Moment 3 x WD Red 3TB zum Einsatz und übergangsweise eine Samsung 2TB. Die werde ich in 1-2 Monaten
noch austauschen. Dann hab ich statt 6TB -> 9TB und auch 4 gleiche Platten.

@ALL
Was ich im Moment "unschön" finde und wo ich für Tips und Tricks echt dankbar wäre ist folgendes.
Sobald ich Verzeichnisse habe die tausende kleinere Dateien beinhalten ... Also z.b ein MP3 Verzeichnis mit Anfangsbuchstabe "A" wo 1200 Files drin
sind ist der Erstzugriff grottenlangsam (verglichen mit einem NTFS System) ... Beim zweiten Zugriff ist es deutlich schneller.
Wenn dies nur einmalig vorkommen würde , wäre es okay. Aber leider verwirft ZFS diesen Cache wieder sobald mal wieder was größeres kopiert wurde.
Dasselbe Phänomen auch bei Verzeichnisbäumen mit tausenden Jpegs.
Insbesondere beim Zugriff mittels externer Media Player (Rapsody, Xtreamer Sidewinder)

Während auf lokalem NTFS ein Scan in solchen Bäumen Sekunden dauert wird es auf ZFS Seite zu einem Minuten Geduldsspiel.
Kann man da irgendwie noch an Einstellschrauben drehen. (z.b bestimmte Pfade "zwangscachen" oder sowas in der Art ?)
Das ist im Moment der Einzigste Punkt wo es beim praktischen arbeiten etwas hapert. Ansonsten bin ich schon recht zufrieden.
- auch mit der Performance.

redline
Starter
Starter
Posts: 69
Joined: 29 Dec 2012 19:23
Status: Offline

Re: Einfluss Netzwerk Karte / Switch auf Lan Geschwindigkeit

Post by redline »

PS: Nachtrag
Ich hab in dem o.g MP3 Dataset die Option Set ZFS Copies auf 2 gesetzt weil da mein Herz dran hängt.
Kann es sein daß diese Option sich hier ggf negativ auswirkt und daher der Zugriff in diesen Verzeichnissen verlangsamt ist ?

Post Reply

Return to “Deutsch”