XigmaNAS

Config:
Nas4free 10.2.0.2
Clé usb 8GB
Celeron G540 et CM ASRock H77M
16Go DDR3
6 * 2TB en raidz2

Bonjour,

Je rencontre un "problème" depuis la réinstallation complète de mon NAS (système et nouveau Pool). J'ai parcouru de nombreux posts mais mes connaissances sur FreeBSD étant plus que limitées je n'ai pas trouvé de réponses claires. Je m'explique:

Lors de l'installation de Nas4Free sur clé usb j'ai choisi l'option 4 "Install 'Embedded' OS/MBR without SWAP (j'ai lu qu'il était
déconseillé d'installé le swap sur clé usb et qu'avec suffisamment de mémoire ça ne posait pas de problème).

L'utilisation mémoire n'ayant jamais dépassé 50% sur la précédente installation (installation embedded complète sur clé usb) je pensais que ça fonctionnerais (et ça fonctionne) mais je m'aperçois que la mémoire se "remplie" mais ne se "vide" pas (actuellement 96% sur 16GB, utilisation CPU entre 0 et 1%).

Les services activés sont CIFS/SMB, SSH et BitTorrent.
Lorsque je reboot le serveur la mémoire utilisée est de 2 ou 3% puis remonte au fil des heures jusqu'à 95/96%.

Pour info au niveau des process je vois ça:

last pid: 62834; load averages: 0.07, 0.04, 0.02 up 0+12:56:29 15:07:34
22 processes: 1 running, 21 sleeping

Mem: 10M Active, 293M Inact, 15G Wired, 103M Buf, 400M Free
ARC: 12G Total, 1038M MFU, 10G MRU, 1936K Anon, 59M Header, 147M Other
Swap:


PID USERNAME THR PRI NICE SIZE RES STATE C TIME WCPU COMMAND
44572 root 1 20 0 117M 23196K piperd 0 0:06 0.29% php-cgi
28501 transmission 3 20 0 99356K 27472K select 1 1:46 0.10% transmission-daemon
43476 root 1 52 0 117M 23196K accept 1 0:06 0.00% php-cgi
2228 root 1 20 0 48896K 6432K kqread 1 0:01 0.00% lighttpd
1881 root 1 20 0 275M 21956K select 0 0:01 0.00% smbd
1603 root 1 20 0 14548K 2064K select 1 0:01 0.00% syslogd
1879 root 1 20 0 212M 13912K select 0 0:00 0.00% nmbd
2085 root 1 20 0 16612K 2208K nanslp 1 0:00 0.00% cron
2248 root 1 20 0 117M 21956K accept 1 0:00 0.00% php-cgi
1939 root 1 20 0 30704K 4268K nanslp 1 0:00 0.00% smartd
2292 root 1 49 0 117M 18716K wait 1 0:00 0.00% php-cgi
2229 root 1 52 0 117M 18716K wait 0 0:00 0.00% php-cgi
1475 root 1 20 0 13624K 5268K select 1 0:00 0.00% devd
2330 root 1 52 0 25644K 3524K pause 1 0:00 0.00% csh
2327 root 1 52 0 47744K 2708K wait 1 0:00 0.00% login
2344 root 1 52 0 17088K 3024K ttyin 0 0:00 0.00% sh
62834 root 1 20 0 21940K 2644K CPU1 1 0:00 0.00% top
28541 root 1 20 0 12856K 2504K select 1 0:00 0.00% mDNSResponderPosix
2328 root 1 52 0 14508K 1976K ttyin 1 0:00 0.00% getty
2329 root 1 52 0 14508K 1976K ttyin 1 0:00 0.00% getty



Voilà, j'aimerais comprendre pourquoi l'utilisation mémoire ne diminue pas quand je n'utilise pas le NAS de manière intensive, si c'est normal, si le serveur va planter si besoin de mémoire supplémentaire (scrub ou resilvering etc...)

Je suis preneur de toutes informations (je ne sais pas ce que signifie Wired concernant la mémoire, ni ce qu'est l'ARC...)

Bonjour,

Je pense que la mémoire que tu vois occupé est une sorte cache.
Les OS utilisent la mémoire sous 3 formes:
- les programmes et certaines données (la c'est du besoin absolu)
- la mémoire comme cache (permet d'améliorer tout le fonctionnement de l'OS (c'est trop bête de relire le disque alors que les données sont présentes en RAM)
Ensuite, si on utilise ZFS, la mémoire RAM peut aussi être utilisé en cache, c'est le cache primaire: primarycache (RAM) et si celle-ci doit être vidée, ZFS utilisera le cache secondaire: secondarycache (DISK, d'oû l'excellence du SSD ou des disques SAS).

Dans ton cas, je pense qu'il n'y a rien de gênant, car ZFS virera tout ce qui ne sera pas utile en cas de besoin (enfin, c'est peut-être l'OS qui dira "bon, t'es bien gentil, mais moi j'ai besoin de place, je benne ! ZFS se contentera du cache secondaire et le cas échéant ira relire les données sur le pool)

Donc, pour moi, c'est juste une "interprétation différente".
Pour ma part, ma machine principale est toujours "à fond" coté mémoire (Debian), mais je "passe" beaucoup de données dedans (300Go dans une journée en moyenne). Il n’empêche que quand je lance ma MV principale qui tourne dans un pool d'un To, cela ne pose pas de soucis (l'OS vire ce qui ne sert pas), il benne et libère environ 7Go.

Tu peux toutefois régler "certaines choses" pour demander à ZFS de réduire l'utilisation de l'ARC ou sa mémoire maxi (Système|Avancé|sysctl.conf), mais le plus simple, je pense, et de passer le primarycache de ALL à metadata (le cache en RAM de ZFS ne gardera que les métadonnées en RAM).

Mais pour moi, il n'y a rien à faire, t'as bien assez de mémoire.

@Sleid (tu me dis si je me trompe ... un peu ... beaucoup ... )

Merci pour ces éclaircissement mtiburs.

Je n'avais pas pensé au fait que la mémoire pouvait aussi servir de cache.
J'ai aussi retrouvé un screenshot d'avant la réinstallation ou on voit le CPU au repos mais la mémoire déjà utilisée à 70%.
Je n'avais pas remarqué cela avant et du coup j'étais persuadé que cette augmentation était liée à la suppression du SWAP.

Par contre je viens de penser que je n'ai pas créer de point de montage pour la partition DATA et ça oblige surement le système à garder plus de fichier en RAM. Je rectifie ça dès que possible.

Merci encore pour ces infos, si un vrai problème ce présente (plantage...) je me pencherais sur le paramétrage de l'ARC ou du primarycache.

Il faut bien se dire que la mise en cache pas l'OS ne coûte rien (c'est pour çà que c'est utilisé).
Et le "bennage" des données du cache, prennent peu de temps

Tu peux faire un scrub de ton pool, là il va "passer" plein de données ! (tu ne risque rien)

Deux questions:
- Quelle est la fréquence d'utilisation de tes données (lire quelques vidéos, utiliser des fichiers (petits ? gros ?) en réseaux ?
- Est-ce que tu as un SSD ?

J'avais planifié un scrub hebdomadaire mais je ne savais pas que ça allait "purger" le cache.

Le volume de données qui transite par le NAS est plutôt faible. Je m'en sers pour lire des vidéos de 3 ou 4 go et de la musique, pour sauvegarder mes photos et d'autres fichiers (au max quelques go par semaine) et transmission tourne en permanence mais avec une petite connexion (max 20go par jour mais souvent beaucoup moins).

Et j'ai un ssd de 64 go en rab mais plus de ports disponibles sur la carte mére à cause des 6 hdd.

Maintenant si la présence du SWAP est préférable même si normalement il n'est pas utilisé (hormis pour les mises à jour) je peux refaire une installation avec system, data et swap, la clé a une capacité suffisante.

Pas de swap nécessaire et surtout pas sur une clé usb, c'est sa mort garantie.
De toute façon comme le précise @mtiburs ZFS et l'os se débrouillent très bien ensemble pour ce qui est de la mémoire.
Un scrub hebdomadaire secoue un peu les disques et est moins nécessaire qu'un rapport smart journalier.

Tout ce qui est balayé comme données passe par le cache, un scrub total (un complet), va constamment remplir et vider le cache.
Si tu lis 2 ou 3 vidéos, tout ce qui est en cache sera partit.

Pour le SSD, une petite carte PCI ou PCI-express 1x peut t'apporter encore 4 SATA, mais bon, d'un autre coté, vu l'utilisation et le nombre de disques sur ton pool, en fait, çà marche sans rien de plus (en gros c'est largement suffisant, tu aurais 4Go de RAM, là il faudrait mettre le SSD d'urgence !)

Pour tes 6 disques, j'espère que tu as une bonne alimentation, car la longévité du matos passe aussi par la qualité du courant reçu.

Pour en revenir au cache, il existe un mécanisme de cache "fantôme" dans ZFS, c'est une sorte de statistique de cache, si par exemple tu modifies un même fichier tous les jours, ZFS le sais, et benneras les blocs "peu lus avant" ... on est fichés de partout

Merci pour vos réponses, me voilà rassuré et plus cultivé!

Je vais remplacer le scrub par un smart court journalier. Est ce utile de planifier un test long par exemple une fois par mois ou vaut il mieux le lancer en cas d'alerte? Ou l'effectuer tous les jours au lieu d'un test court?

Je vais garder mon SSD de coté, vu l'utilisation du NAS et la manière dont la mémoire est gérée il me sera plus utile comme disque d’installation lorsque j’overclocke ou autre.

Et concernant l'alimentation ça doit être une Be Quiet 350W 80Plus bronze donc a priori une alim d'assez bonne qualité.

J'aurais une dernière question qui ne concerne pas la mémoire mais l'installation embedded sans DATA et sans SWAP: en quoi est ce une limitation de ne pas avoir de partition DATA (perte d'infos lors du reboot par exemple)?.
Je sais comment en créer une avec les commandes gpart mais avec la présence du pool ça me semble inutile dans mon cas.
Le dossier Config de Transmission est sur le pool, je doit peut être faire la même chose avec certains dossiers système?

Le smart n'est pas à activer, le rapport par email va inclure le smart lu sur le disque dur ce qui est suffisant comme indication car c'est un smart au fil de l'eau.
exemple d'un smart lu à partir du disque

S.M.A.R.T. [/dev/ada0]:
-----------------------
smartctl 6.4 2015-06-04 r4109 [FreeBSD 10.2-RELEASE-p8 amd64] (local build) Copyright (C) 2002-15, Bruce Allen, Christian Franke, www.smartmontools.org

=== START OF INFORMATION SECTION ===
Model Family: Western Digital Green
Device Model: WDC WD30EZRX-00D8PB0
Serial Number: WD-XXXXXXXXXXX
LU WWN Device Id: 5 0014ee 20b51015c
Firmware Version: 80.00A80
User Capacity: 3,000,592,982,016 bytes [3.00 TB]
Sector Sizes: 512 bytes logical, 4096 bytes physical
Rotation Rate: 5400 rpm
Device is: In smartctl database [for details use: -P show]
ATA Version is: ACS-2 (minor revision not indicated)
SATA Version is: SATA 3.0, 6.0 Gb/s (current: 6.0 Gb/s)
Local Time is: Mon Jan 11 20:15:01 2016 CET
SMART support is: Available - device has SMART capability.
SMART support is: Enabled

=== START OF READ SMART DATA SECTION === SMART overall-health self-assessment test result: PASSED

General SMART Values:
Offline data collection status: (0x82) Offline data collection activity
was completed without error.
Auto Offline Data Collection: Enabled.
Self-test execution status: ( 0) The previous self-test routine completed
without error or no self-test has ever
been run.
Total time to complete Offline
data collection: (39900) seconds.
Offline data collection
capabilities: (0x7b) SMART execute Offline immediate.
Auto Offline data collection on/off support.
Suspend Offline collection upon new
command.
Offline surface scan supported.
Self-test supported.
Conveyance Self-test supported.
Selective Self-test supported.
SMART capabilities: (0x0003) Saves SMART data before entering
power-saving mode.
Supports SMART auto save timer.
Error logging capability: (0x01) Error logging supported.
General Purpose Logging supported.
Short self-test routine
recommended polling time: ( 2) minutes.
Extended self-test routine
recommended polling time: ( 400) minutes.
Conveyance self-test routine
recommended polling time: ( 5) minutes.
SCT capabilities: (0x7035) SCT Status supported.
SCT Feature Control supported.
SCT Data Table supported.

SMART Attributes Data Structure revision number: 16 Vendor Specific SMART Attributes with Thresholds:
ID# ATTRIBUTE_NAME FLAG VALUE WORST THRESH TYPE UPDATED WHEN_FAILED RAW_VALUE
1 Raw_Read_Error_Rate 0x002f 200 200 051 Pre-fail Always - 0
3 Spin_Up_Time 0x0027 182 181 021 Pre-fail Always - 5891
4 Start_Stop_Count 0x0032 100 100 000 Old_age Always - 15
5 Reallocated_Sector_Ct 0x0033 200 200 140 Pre-fail Always - 0
7 Seek_Error_Rate 0x002e 200 200 000 Old_age Always - 0
9 Power_On_Hours 0x0032 092 092 000 Old_age Always - 5906
10 Spin_Retry_Count 0x0032 100 253 000 Old_age Always - 0
11 Calibration_Retry_Count 0x0032 100 253 000 Old_age Always - 0
12 Power_Cycle_Count 0x0032 100 100 000 Old_age Always - 13
192 Power-Off_Retract_Count 0x0032 200 200 000 Old_age Always - 1
193 Load_Cycle_Count 0x0032 184 184 000 Old_age Always - 50987
194 Temperature_Celsius 0x0022 106 101 000 Old_age Always - 32
196 Reallocated_Event_Count 0x0032 200 200 000 Old_age Always - 0
197 Current_Pending_Sector 0x0032 200 200 000 Old_age Always - 0
198 Offline_Uncorrectable 0x0030 200 200 000 Old_age Offline - 0
199 UDMA_CRC_Error_Count 0x0032 200 200 000 Old_age Always - 0
200 Multi_Zone_Error_Rate 0x0008 200 200 000 Old_age Offline - 0

raezz wrote:Et concernant l'alimentation ça doit être une Be Quiet 350W 80Plus bronze donc a priori une alim d'assez bonne qualité.

En fait, pour les alim, je fais la chose suivante, je laisse tourner quelques minutes et si l'air sort froid et que le ventilateur tourne bien au ralentit, c'est qu'elle est suffisante. C'est peut-être une méthode très "empirique" mais pour moi, une alim ne doit pas chauffer.

Mais, j'ai déjà eu des soucis avec une 350w sur un nas, l'ajout d'un disque supplémentaire, générait des soucis, mais c'était des 350w de daube (elle étaient toutes légères ... les bonnes sont "généralement" lourdes)

Ok pour le smart, en fait le rapport va simplement lire les données smart disponibles sur chaque disque dur donc inutile de lancer un test supplémentaire.

Et pour l'alim je suis confiant, l'air rejeté est froid mais je vérifierais à nouveau lorsque le nas sera plus sollicité.

J'ai aussi parcouru la doc de zfs et avec vos explications je commence à y voir plus clair.

Merci!