Geringe Schreibrate bei kleinen Dateien

[coracao]

bräuchte mal euren Rat.

Ich habe gestern von Win 8 auf N4F gewechselt, das Einrichten verlief ohne größere Komplikationen.
Zur Zeit schiebe ich die Daten mittels SMB von meinem Desktop-Rechner auf den Server.
Nun habe ich aber das Problem, dass die Schreibrate auf den Server bei kleineren Dateien (<1MB) massiv einbricht (oft nur zwischen 200kb/s-6mb/s). Große ISO's oder mkv's hingegen werden mit 85-110 mb/s geschrieben.

Meine Hardware:

FX-4300
ASUS M5A97 Evo R2.0
8GB DDR3 ECC unbuffered
Crucial M500 fürs System
3TB Seagate NAS HDD + 3TB Seagate Barracuda als zfs-mirror
2x 3TB Seagate Barracuda abwechselnd als Backup


meine abgeänderte loader.conf:

Code: Select all

kernel="kernel"
bootfile="kernel"
kernel_options=""
hw.est.msr_info="0"
hw.hptrr.attach_generic="0"
kern.maxfiles="65536"
kern.maxfilesperproc="60000"
kern.cam.boot_delay="8000"
autoboot_delay="5"
isboot_load="YES"
zfs_load="YES"
geom_xmd_load="YES"
vm.kmem_size="7G"
vfs.zfs.arc_max="6144M"
vfs.zfs.arc_min="6144M"
vfs.zfs.txg.timeout="5"
vfs.zfs.txg.write_limit_override="805306368"
vfs.zfs.vdev.min_pending="1"
vfs.zfs.vdev.max_pending="1"
vfs.zfs.prefetch_disable="0"

4K-Sektorgröße ist aktiviert;
Die Kompressionsmethode der aller Datensätze ist lz4, bis auf die Zugriffsrechte sind alle anderen Werte auf Standardeinstellungen;
Max Protocol ist SMB3, AIO ist aktiviert - die Lese- und Schreibgröße ist 4096, habe es aber auch schon mit SMB2 und ohne AIO versucht, was keine merkbare Veränderung mit sich brachte.

Mit Windows 8 und einem REFS-mirror hatte ich solche Probleme nicht.

[Mike]

Das ist normal, und hat nichts mit N4F zu tun. Verbesserung nur durch Datenträger mit geringer Zugriffszeit ( SSD ).
Gruß Mike

[coracao]

schon klar das ich keine 100mb/s bei kleinen Dateien erwarten kann aber die Datenrate dümpelt hauptsächlich irgendwo bei unter 1MB/s , die 6MB/s sind nur spitzenwerte die so gut wie nie erreicht werden. Die Datenrate ist ja Systemintern trotzdem deutlich höher als die zuvor angegebenen Werte.

Abfinden kann ich mich damit schon, da ich nicht oft mit einer großen Zahlen an kleinen Dateien arbeite, aber das Migrieren der Daten knapp 2TB dauert beinahe schon 24h (mit kurzen Unterbrechungen zum probieren)

[Mike]

bei 4k Random erreiche ich auch nur einstellige MB-Werte ( mit CDM gemessen ), wenn ich z.B. WEB-Seiten kopiere( viele sehr kleine Dateien ), dann habe ich ab und zu auch nur Werte im KB-Bereich.
Gruß Mike

[Princo]

meine abgeänderte loader.conf:

Das macht mich etwas stutzig.
Hast du die Werte tatsächlich direkt in die loader.conf eingetragen, oder bist du über System|Advanced|loader.conf gegangen, wie man es tun sollte?
Setzt du womöglich die Full-Version ein? (Hat jetzt nichts direkt mit deinem Problem zu tun)

Ein guter Einstiegspunkt wäre auch, wenn du die Optimierung nach diesem Posting vornehmen würdest: viewtopic.php?f=29&t=5787#p32277

Die basiert zwar auf einer älteren NAS4Free-Version (da gab es noch kein SMB3), aber einen Versuch ist es wert.

Sinnvollerweise müssen sämtliche vorherig gemachten Optimierungen rückgängig gemacht werden.

Als ein nicht zu unterschätzender Faktor könnte sich übrigens der Einfluß der LZ4-Komprimierung erweisen.

Bei dieser Komprimierungsart geht es weniger um große oder kleine Dateien, sondern wie stark sich diese komprimieren lassen. Stellt das System fest, daß die Komprimierung nichts bringt (wie z.B. bei großen Videodateien), dann wird die Komprimierung abgebrochen, und die Dateien werden unkomprimiert geschrieben, was den hohen Durchsatz bei großen Dateien bei dir erklären würde.

Es ist sinnvoll, zuerst die Netzwerkeinstellungen zu optimieren (also die Test-Daten auf ein unkomprimiertes Dataset zu übertragen), und erst danach mit der Kompession zu testen.

Grüße
Princo

[coracao]

ich habe die Werte über den Datei-Editor in die loader.conf eingetragen.
Es wird die full-Version verwendet.
Ich werde die von dir empfohlenen Dinge tun und melde mich noch mal.
Danke für deine Hilfe

[Princo]

Ein wichtiger Hinweis: Du solltest die Full-Version nicht verwenden.
Du hast mit der Full-Version nur Nachteile.
Die Full-Version ist nicht etwa umfangreicher oder vollständiger, sondern nur für ganz spezielle Anwendungsfälle gedacht.
Grüße
Princo

[Joerg]

Bei mir sind die Backup Dateien teils auch sehr klein, datenrate um 2mb. Allerdings wird hier die Festplatte der springende punkt sein, meine wd red kommt auf knapp 85 iops. Deine Seagate liegt etwa bei 90, da wird rumbasteln glaub nicht viel bringen.
Festplattentest iops