Page 5 of 7

Re: Disques qui passent en "Removed" Régulièrement

Posted: 23 Oct 2014 22:18
by mtiburs
La devise de FreeBSD est: "The Power to serve" (Le pouvoir de servir)
... donc pas anormal que vous accédiez a vos fichiers et pas au webgui 8-)

ZFS a été conçu pour fonctionner avec des disques SAS, de la mémoire ECC et du SSD
... bon, la mémoire ECC souvent on en a pas
... les disques SAS (çà dépend) mais plus souvent du SATA (un SATA = un quart de SAS !)
... et le SSD c'est plutôt facile à notre époque

vu le proc et vu le nombre de disque, oui il faut un Zcache, j'avais déjà essayé aborder le sujet.
Un i7 seul fonctionnera moins bien qu'un i3+SSD ! alors un i7 avec un SSD, c'est un monstre.

Au niveau carte mère c'est quoi ? combien de RAM ?

On peut penser au Zlog aussi ;)

Re: Disques qui passent en "Removed" Régulièrement

Posted: 23 Oct 2014 22:25
by CorbeilleNews
Une P6X58D Premium avec 6 Go de RAM

Je regarde pour upgrader @ 12 ou 24 mais pas facile ! C'est du triple channel et j'aimerais des barrettes identiques :)

Je serais plus pour recycler un SSD de 120 Go mais j'ai peur de le tuer en peu de temps ? Quelle est la manip pour l'ajouter ? Qu'est ce que le Zlog ?

Vous pensez quoi des derniers messages d'erreur ? Je fais souvent des édit juste après !

Merci

Re: Disques qui passent en "Removed" Régulièrement

Posted: 23 Oct 2014 22:44
by mtiburs
Pour le SSD, c'est OUI sans aucune hésitation, il ne s'usera pas, si on le rêgle bien (si on veut tout faire passer dedans soit le secondarycache=all, alors il y aura beaucoup d'acriture, en metadata moins et en none très peu, mais cela sera efficace)

Moi, si j'avais votre carte mère, j'utiliserais 2 ou 3 PCI-express avec des cartes SAS en 4x (ou 8x) mais en branchant les SATA dessus, cela permettra d'avoir un accès direct avec le processeur (pont-nord), car actuellement, tout passe par le pont-sud (qui passe ensuite par le pont-nord).

Sur une carte SAS on peut mettre 4 ou 8 disques SATA ou SAS, en ZFS pas besoin de mettre des cartes avec du cache intégré, le SSD servira de cache, et puis pour ZFS, il ne faut rien, de l'accès direct.

le Zlog, est un tampon d'écriture, il va prendre les modifs et les accumuler (il est en mirroir) et d'un coup, il copie tout sur le pool. Il sert à libérer le pool, car en mirroir, les données passeront mieux qu'en raidz (qui demande du calcul au proc)
Certains mettent le Zlog en SSD aussi, ça dépend du volume qui est écrit.

PS: j'ai fais un edit (rafraichir)

Re: Disques qui passent en "Removed" Régulièrement

Posted: 23 Oct 2014 23:23
by mtiburs
Vous avez l'impression d'avoir moins de soucis en USB qu'en SATA ? (avant les derniers soucis j'entends)

Si oui, la question que je me pose est "est-ce qu'il n'y a pas trop de charge sur les SATA ?" (Car le SATA est nativement moins optimisé que le SAS, donc demande beaucoup plus de ressource sur les controleurs (TCQ vs NCQ)

Re: Disques qui passent en "Removed" Régulièrement

Posted: 24 Oct 2014 00:20
by CorbeilleNews
Tant que je ne fais pas de scrub ou de resilvering le SATA marche sans soucis !

Pourtant auparavant en SATA j'ai pu remplacer plusieurs disques sans soucis, mais depuis les derniers, j'ai commencé à avoir des problèmes de disques qui passent en removed. Problèmes que j'ai pu surmonter en redémarrant la machine et le resilvering reprenait là il en était sans trop de dégats.

Par contre désormais en SATA j'ai l'impression que cela devient impossible de faire un resilvering sans avoir un ou des disques qui passent en removed.

Actuellement il y a un resilvering de 3 disques en cours : le problème est que les noms ont changé du fait que 4 sont partis en USB !

Je ne sais donc pas comment ni quel disque remettre online : c'était ada17, celui que j'avais mis offline hier soir avant de tenter de le changer pour un plus gros modèle, mais des disques sont encore passés en removed dans la journée pendant le resilvering donc j'ai préféré remettre le disque d'origine en ada17.

J'attends la fin des 3 resilvering en USB :lol: Cela devrait prendre ... un certain temps : au moins 48 h je pense : je n'ai pas l'info car le WEBGUI ne veut pas ouvrir les informations du Pool et le zpool status ne me donne pas de temps contrairement à d'habitude

J'ai ceci

ada12 ONLINE 0 0 0 (resilvering)
da4 ONLINE 0 0 4 (resilvering)
replacing-15 DEGRADED 0 0 0
ada13 ONLINE 0 0 0 (resilvering)
15026265250866645631 UNAVAIL 0 0 0 was /dev/ada17

Quelle commande taper pour remettre online l'ancien ada17 ?

Je ne passe pas tous les disques par les ports de la carte mère : j'ai des cartes SATA supplémentaires 6 seulement sont utilisés par la carte mère qui peut en gérer 8

Edit rafraichir pour afficher état actuel du Pool

Re: Disques qui passent en "Removed" Régulièrement

Posted: 24 Oct 2014 03:05
by mtiburs
CorbeilleNews wrote:Quelle commande taper pour remettre online l'ancien ada17 ?
Ce n'est pas évident de répondre, il faudrait faire "gestion|disques|effacer et ré-importer" ... mais avec le webgui !
CorbeilleNews wrote:Pourtant auparavant en SATA j'ai pu remplacer plusieurs disques sans soucis, mais depuis les derniers, j'ai commencé à avoir des problèmes de disques qui passent en removed.
Quand le nas aura finit, la première chose a faire est "gestion|disque" et voir si il y avant du rouge, puis "effacer la config et ré-importer" si besoin.
Il faut que çà ne bouge pas. Je me demande si il n'y aurait pas une perte/changement a ce niveau là. Les derniers disques qui ont été changés sont branchés sur quoi ? et ceux qui allait bien sont branchés ou ?
CorbeilleNews wrote:Je ne passe pas tous les disques par les ports de la carte mère : j'ai des cartes SATA supplémentaires 6 seulement sont utilisés par la carte mère qui peut en gérer 8
C'est des cartes PCI-SATA ?... (si oui: donc par le pont-sud de la carte mère)
Quand votre nas sera en état, on fera un test pour tester la config et voir comment elle se comporte.


La carte mère est bien, de plus avec un bon chipset (X58), mais n'est pas des plus adaptée pour un usage de type "serveur" (c'est une carte orienté gameur avant tout), il faut en être conscient.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 24 Oct 2014 08:46
by sleid
Quand le webgui ne répond plus alors que tout semble fonctionner, il faut fermer votre navigateur puis le redémarrer(le navigateur!) et vous reconnecter au nas.
C'est un bug de nas4free dont je n'ai pas trouvé la cause.

Avez vous fait un petit memtest sur 4 ou 6 heures sur votre configuration qui perd ses disques ?

Quel version de bios avez-vous sur votre carte mère? Elle a rencontré des pb avec les disques de 2to.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 24 Oct 2014 14:09
by mtiburs
sleid wrote:Quand le webgui ne répond plus alors que tout semble fonctionner, il faut fermer votre navigateur puis le redémarrer(le navigateur!) et vous reconnecter au nas.
Pas toujours, même depuis des machines différentes quelquefois rien n'y fait.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 25 Oct 2014 00:57
by mtiburs
CorbeilleNews wrote:J'attends la fin des 3 resilvering en USB :lol: Cela devrait prendre ... un certain temps : au moins 48 h je pense : je n'ai pas l'info car le WEBGUI ne veut pas ouvrir les informations du Pool et le zpool status ne me donne pas de temps contrairement à d'habitude
La fin approche ? ... du resilvering :shock:

Je pensais à une chose, vous avez deux emplacements de disques de dispo, pour quoi ne pas mettre 1 ou 2 "disques de spares" dessus, comme çà vous avez 1 ou 2 disques de répits pour le raidz2 instantanément et 1 ou 2 pour un "répit temporisé"
car quand vous avez un soucis, c'est à vous de le corriger (le voir+agir), avec un raidz2 c'est mieux, mais a chaque fois qu'un disques tombe, on se rapproche du précipice !
Dans le cas du spare, le défaut se corrige tout seul, en fait dès la détection du pb

Re: Disques qui passent en "Removed" Régulièrement

Posted: 25 Oct 2014 09:20
by sleid
"Dans le cas du spare, le défaut se corrige tout seul, en fait dès la détection du pb"

Pas sous freebsd actuellement, l'autoreplace n'est pas encore fonctionnel mais c'est en développement.

La "bible Oracle" n'est pas totalement vraie pour zfs sous freebsd, hélas, beaucoup de fonctions sont absentes mais pas bloquantes, vous pouvez faire un set zfs autoreplace=on il sera mis à on mais inefficace de même que"shareiscsi" etc.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 25 Oct 2014 22:13
by mtiburs
Sleid wrote:vous pouvez faire un set zfs autoreplace=on il sera mis à on mais inefficace
Effectivement, je viens d'essayer ... (j'aime bien voir de moi même)
Je suis un peu déçu que ce système de "secours" ne fonctionne pas


Par contre, j'ai constaté une chose en enlevant un disque sur un pool, j'ai eu 2 disques qui sont passés en removed et j'ai trouvé çà un peu bizarre, mais j'avais "une puce à l'oreille", car quand j'ai débranché mon dev, j'ai fais clignoté l'autre qui n'était pas censé passer en removed. J'ai donc ré-essayé et cette fois je n'ai pas eu le problème, mais pour cela, j'ai du attacher ma prise usb après une ficelle et tirer sans toucher à l'autre.
Donc, @Corbeillenews, est-ce qu'il eut été possible que vous fassiez un faux contact en changeant vos disques ? çà pourrait expliquer que vous ayez eu d'autres disques qui passent en resilvering


sinon, pour ma part, je n'ai pas pu faire un mirroir avec le webgui (erreur code 1) après reboot, formatage, diverses choses variées ... rien n'y fais ! me suis débrouillé avec un simple: zpool create test mirror /dev/da0 /dev/da1, finalement c'est 10 fois plus rapide qu'avec le webgui ... et çà marche ! ... au moins.


Pour ce qui est du remplacement, j'essaierai de faire un script qui place un "dev d'attente" automatiquement sur une erreur, car je trouve que c'est tout à fait possible à faire, il faut:
- faire un zpool status
- connaitre le dev de remplacement (rdev)
- couper les différents champs, y détecter un "REMOVED" (champ2) et un "was" (champ3), et le dev (champ4), y prendre le numéro (champ1) et faire un:
zpool replace <pool> (champ1) (rdev)

en poussant les choses on pourrait faire une page web en spécifiant le disque défaillant (champ3) et celui qui l'a remplacé (rdev)

Comme çà c'est automatique ! ... en attendant que le hotspare soit fait :mrgreen:

Re: Disques qui passent en "Removed" Régulièrement

Posted: 26 Oct 2014 08:39
by sleid
J'ai déjà vu un script sur freebsd qui remplaçait sur une erreur du statut du pool, le problème c'est qu'un simple câble défaillant entrainant quelques erreurs amenait à des erreurs de statut et le remplacement du disque inutilement.
L'autoreplace de zfs travaille sur des analyses beaucoup plus fines, et détecte entre autre les ré allocations de secteur qui sont et de loin les meilleures indications de défaillance proche.
Les offline et removed non administratifs sont également scrutés.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 26 Oct 2014 11:36
by mtiburs
:cry: ... pas facile !

Re: Disques qui passent en "Removed" Régulièrement

Posted: 27 Oct 2014 23:49
by CorbeilleNews
Bonjour,

Je n'ai pas eu de notifications de vos messages ce week-end et pas devant l'appareil pour constater l'évolution et en rentrant hier soir le triple resilvering s'est bien passé.

J'ai redémarré et tout était online sauf le disque non changé pour lequel j'avais remis l'ancien. Il me semble que le nouveau était considéré comme unavailable et l'ancien offline.

J'ai tout remis en SATA et je ne sais pas comment j'ai fais mais j'ai réussi semble t-il a remettre Online le nouveau disque ada17 et aussitôt j'ai vu qu'un resilvering (ou un scrub je ne sais plus) s'est lancé et comme tout était en SATA j'ai éteint le NAS pour remettre 4 disques en USB afin d'être dans les conditions qui fonctionne sur la machine pour faire ce genre d'opération !

Après avoir mis les 4 disques en USB, le resilvering (ou de scrub je ne sais plus) n'a pas repris tout seul donc j'ai lancé un scrub avec le WEBGUI.

Ma question est donc : est-ce que le scrub va remplir le nouveau disque de données (j'entends DATA) comme un resilvering le fait quand on change de disque, ou risque t-il de prendre des données crées lors du premier resilvering (pas celui de mon retour du week-end que j'ai avorté quand j'ai remis le disque online mais celui à la source du triple resilvering) puisqu'il a du remplir ce disque de pas mal de données avant que d'autres passent en removed ? Est ce que je ne risque pas de me retrouver avec un résultat de scrub correct mais avec un nouveau disque quasi vide ? C'est possible ça ? Ou ZFS à tout prévu :D
car quand vous avez un soucis, c'est à vous de le corriger (le voir+agir), avec un raidz2 c'est mieux, mais a chaque fois qu'un disques tombe, on se rapproche du précipice !
Dans le cas du spare, le défaut se corrige tout seul, en fait dès la détection du pb
C'était ma prochaine étape en effet mais j'ai lu plus loin et donc ... Plus tard

Pour les ports libres je les réserve pour d'autre choses : dommage de faire tourner un i7 avec juste un NAS, j'aimerais faire un multiboot avec une distrib linux, ce NAS n'est pas voué a fonctionner 24h/24h mais plus le soir pour visionner du contenu. La journée j'ai bien mieux à lui faire-faire :D

Edit : cela devrait être plus compréhensible

Edit 2 : Après redémarrage (un disque passé en removed pendant le scrub ne me donne pas envie de continuer l'opération car vu le temps total que cela prend autant qu'il soit bien fait de A à Z...) voila qu'il me lance un resilvering (dans un premier temps sur un disque qu'il n'avait pas fini avant que je ne l'éteigne (mais quelques dizaines de Ko) puis sur le nouveau disque) : que demande le peuple, en plus c'est moins long donc moins de risque qu'un disque passe en removed entre temps. En plus il semble reprendre là ou il en était resté avant que je n'éteigne l'ordinateur.

Edit 3 : 288 Mo resilvered en 20 minutes et tout est OK ... Bizarre que ça ait été aussi vite ... Je l'ai vu passé les 10 To peu de temps avant de finir alors qu'il en reste encore le double ...

Au final mes doutes restent identiques quand à la présence ou non des données dans le dernier disque remplacé ?

De ce fait j'ai lancé un scrub manuellement, ai-je bien fait ? Peux t-on être sûr de la présence des données sur le dernier disque si le scrub se termine correctement ?

Désolé pour les Edit mais la situation bouge beaaaaucoup :oops:

Merci

Re: Disques qui passent en "Removed" Régulièrement

Posted: 28 Oct 2014 02:13
by mtiburs
Je ne suis pas le seul a ne pas avoir de notification ! (des fois çà marche, des fois non)

Scrub:
La façon la plus simple de vérifier l'intégrité des données est de lancer un nettoyage explicite de toutes les données au sein du pool. Cette opération traverse toutes les données dans le pool une fois et vérifie que tous les blocs sont lisibles. Le nettoyage va aussi vite que le permettent les périphériques, mais la priorité de toute E/S reste inférieure à celle de toute opération normale. Cette opération peut affecter les performances, bien que les données du pool restent utilisables et leur réactivité quasiment la même lors du nettoyage.
Un nettoyage de routine garantit des E/S continues pour l'ensemble des disques du système.

Resilvering:
Lors du remplacement d'un périphérique, une opération de réargenture est amorcée pour déplacer les données des copies correctes vers le nouveau périphérique. Cette action est une forme de nettoyage de disque. Par conséquent, une seule action de ce type peut être effectuée à un moment donné dans le pool. Lorsqu'une opération de nettoyage est en cours, toute opération de resynchronisation suspend le nettoyage et le redémarre une fois qu'elle a terminé.

Normalement, çà devrait éclairer votre lanterne.

En gros pour moi, le scrub "contrôle" et le resilvering "fait", donc, si un scrub se termine et ne donne pas d'erreur, c'est que c'est bon.

C'est vrai que quand ils parlent de nettoyage pour le scrub, c'est une "façon de dire" ... on lit tout et si on a "pû" ... c'est qu'cest prop' !

Re: Disques qui passent en "Removed" Régulièrement

Posted: 28 Oct 2014 07:30
by sleid
En gros pour moi, le scrub "contrôle ET CORRIGE" et le resilvering "fait( suivant le type de raidZ)"

@CorbeilleNews j'aimerai bien voir un état smart de vos disques et surtout la version du bios de votre cm.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 28 Oct 2014 10:28
by mtiburs
sleid wrote:En gros pour moi, le scrub "contrôle ET CORRIGE" et le resilvering "fait"( suivant le type de raidZ)
Je ne pense pas qu'on puisse dire qu'il corrige:
- ZFS n'est pas équipé de mécanisme de correction (du genre fsck)
- La correction est nativement faite par ZFS au départ (jusqu'à l'écriture finale), après c'est finit.

Cela correspondrait bien d'ailleurs à la philosophie de ZFS ou tout est fait "à chaud"

Par expérience, des erreurs trouvées par un scrub, ne donne rien, sinon un status d'erreurs (en gros "Voici ce que je vois")

Après ... qu'est-ce qu'on entend par "ET CORRIGE" ?
Il est sûr que ZFS ne peut pas tout balayer d'un coup son ou ses pools, donc, on peut imaginer qu'on parle d'une sorte de scan et que dans le cas ou il y a discordance entre le mirroir ou le raidz, alors il en profitera pour mettre les choses d'aplomb (chose qu'il aurait faite si il "passe dessus"), mais l'action de remettre les choses d'aplomb, proviendra de la machinerie ZFS et non pas d'un système de réparation.
On peut peut dire que le scrub impose ou accélère la gestion du pool par ZFS.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 28 Oct 2014 11:39
by sleid
Non, il se base sur les checksum pour corriger les erreurs,en plus il y a plusieurs niveaux de checksum.
Et c'est bien plus performant que fsck

Re: Disques qui passent en "Removed" Régulièrement

Posted: 28 Oct 2014 12:56
by mtiburs
On peut concevoir que les checksum soit plus poussé qu'en tant normal (par rapport au sync=disable,standard ou always)

Scrub doit faire prendre à ZFS chaque élément du pool depuis la base (de manière "atomique") et applique sans doute un mode opératoire précis.

Mais je reste convaincu que c'est ZFS qui fait cela, selon un "mode scrub" qui peut se lancer et s'arrêter n'importe quand.
Les branches d'arbres doivent contenir un "status" scrubé (?) qui "tombe" a chaque écriture sur le pool ?
Est-ce qu'une configuration poussé du sync aura le même poid que le scrub ?

Je pense que le scrub est une forme de "repassage" des données "après-coup" avec les checksum réglé au maximum ? non ?

En tout cas, quand on lance un scrub, il n'y a rien qui change dans un top (pas de programme supplémentaire)

Re: Disques qui passent en "Removed" Régulièrement

Posted: 29 Oct 2014 01:30
by CorbeilleNews
Merci pour toutes ces explications que je n'ai pas tous saisies :lol: mais je les relirai quand j'aurai un peu plus de recul ...

Cela me laisse un peu ... :? bref je ne sais pas quoi faire ? Je laisse le scrub se finir ou pas à votre avis ? :roll: :D

Si tous se passe bien je me dis qu'après le scrub il vaudrait mieux que les données soient assurément sur le disque pour changer le resilvering des suivants ... et ils en reste encore quelques uns :)

Le BIOS de la carte mère est le dernier

Les données SMART (short-self test) sont tous "Passed", faut-il vérifier d'autres choses dans ces paramètres pas toujours évidents à analyser d'un constructeur à l'autre ?

Pour les cordons SATA comme ce n'est pas toujours les mêmes disques qui passent en removed et qu'un simple redémarrage sans toucher au disque résous le problème je pense qu'ils sont bons et ils sont neufs (même si cela n'empêche rien). J'attache beaucoup d'importance à vérifier si les cordons USB sont bien enfoncés, et ces derniers font 50 cms maxi pour limiter au maximum les EMI-RFI et autres problèmes liés aux longueurs de câbles.

Pour l'alim il y a plusieurs centaines de watts en réserve même à pleine charge :twisted: :D

Je lancerai un MEMTEST quand le scrub sera fini

Quelles cartes mères "serveur" choisir ? Qu'apporte une carte mère serveur par rapport à un modèle plus orienté Gamer j'entends pour une utilisation non pro et donc peu sollicitée comparée à une machine ayant de nombreuses requêtes simultanées et où l'intégrité des données est quasi absolue (pas mon cas en vidéo : il y a déjà tellement "d'artefacts" par le broadcasting que je ne suis pas à un ou deux en plus de temps en temps) ? Quelles spécifications choisir, marques spécialisées, ... ? Faut-il mettre de l'ECC absolument ? Je vais tranquillement commencer à regarder à cela et peut-etre y coller un petit SSD avec un ou deux disques de spare mais j'attendrai l'arrivée du vieux bonhomme rouge qui ramone nos cheminées lorsque la neige est venue :P

Merci

Re: Disques qui passent en "Removed" Régulièrement

Posted: 29 Oct 2014 02:24
by mtiburs
CorbeilleNews wrote:Je laisse le scrub se finir ou pas à votre avis ?
Moi, je laisserais le scrub se finir (au moins, on est sûr)
CorbeilleNews wrote:il vaudrait mieux que les données soient assurément sur le disque pour changer le resilvering des suivants
C'est seulement une partie des données qui est sur le disque (des tranches), mais oui, c'est mieux.
CorbeilleNews wrote:Le BIOS de la carte mère est le dernier
Je pense que Sleid aime les No de version 8-)
CorbeilleNews wrote:je pense qu'ils sont bons et ils sont neufs (même si cela n'empêche rien)
Oh çà non, ça n'empêche rien ! Je suis tout le temps en train d'hurler après mes câbles SATA et SAS, certains sont bons mais c'est rare, a privilégier, ceux avec des attaches métalliques (faut appuyer pour le sortir)
CorbeilleNews wrote:Je lancerai un MEMTEST quand le scrub sera fini
Oui, avec une Knoppix ou autre truc du genre
CorbeilleNews wrote:Quelle cartes mères "serveur" choisir ? Quelles spécifications choisir, marques spécialisées, ... ? Faut-il mettre de l'ECC absolument ?
Je dirais que la valeur sûr c'est intel avec du Xéon mais sleid connaitt mieux que moins coté hardware 8-)
Pour l'ECC:
- ZFS a été conçu pour fonctionner avec de l'ECC
- Une problème de corruption mémoire peut mettre le pool HS
- Un serveur sans mémoire ECC n'est pas un serveur (juste un PC)

Mais, d'un autre coté, voit-on beaucoup de gens qui perde leur pool ? (sachant que ZFS fait des checksum ... à condition de le spécifier avec sync)
La question est surtout quelle importance ont les données ?

Perso, pour le prix de l'ECC, je préfère un clône en ZFS strippé délocalisé (avec rsync), étant paraano de nature, je ne peux pas avoir une seule machine, de plus une mauvaise manip de l'admin est possible. Franchement, moi, vos 14 disques avec les removed ... mais m'auraient déjà fais une crise cardiaque :lol:
CorbeilleNews wrote:SSD
Oui
secondarycache=all: gros usage, grosse quantité et grosse usure (peut aller jusqu'à 100% d'utilisation par rapport au pool)
secondarycache=metadata: usage modéré (10% d'utilisation* / pool)
secondarycache=none: usage limité au strict minimum (1% d'utilisation* / pool)
*: valeur très aproximative
CorbeilleNews wrote:j'attendrai l'arrivée du vieux bonhomme rouge qui ramone nos cheminées lorsque la neige est venue
Faut pas me faire croire qu'il ramone la cheminée ... çà j'y crois plus ! le reste si :lol:

Re: Disques qui passent en "Removed" Régulièrement

Posted: 30 Oct 2014 00:07
by CorbeilleNews
BIOS 1501 en fait j'ai dis dernière car je trouvais que le numéro n'apportait pas grand chose (il n'y a pas de versions Beta pour cette carte donc pas d’ambiguïté possible) et je me doute qu'il va aller voir (ou y est déjà allé) donc il a déjà vu (ou verra) le numéro du dernier BIOS bref ... :)

Pour le reste le scrub avance bien sans soucis : 500 Go de réparé : je pense qu'au final cela correspondra à la quantité de données n'ayant pas été écrites lors du resilvering avorté, en tout cas cela en prend le chemin (au début rien puis ça s'est mit à augmenter progressivement après quelques heures de progression -> peut-être signe d'une reprise là ou le resilvering s'était arrêté quand j'ai remis l'ancien disque à cause des removed) et comme juste avant la remise du nouveau disque le Pool était sain sans erreurs et sans besoin de scrub puisqu'il venait d’être fait, je ne pense pas trop me tromper mais on verra ... Patience et prudence ;)

Cordons avec attaches métalliques of course, la Knopixx est prête ça tombe bien j'en avais déjà une mais MEMTEST est dans la knoppix ? Sinon sudo apt-get install memtest ca fonctionne ? Sinon je ferai avec une ultimate boot !
- Un problème de corruption mémoire peut mettre le pool HS
Peut-on sauvegarder quelque chose pour le reconstituer sans soucis ?

Sauvegarde sur autant de données = un bras a vendre :) C'est bon pour les entreprises ou données sensibles pas pour des malheureux enregistrements de France Télévisions ou Arte :D
Franchement, moi, vos 14 disques avec les removed ... mais m'auraient déjà fais une crise cardiaque
Je suis d'accord : en utilisation entreprise pas question de le faire, autant aller directement s'inscrire à Pôle Emploi d'avance :lol:

Merci

Re: Disques qui passent en "Removed" Régulièrement

Posted: 30 Oct 2014 03:00
by mtiburs
Je sens que Sleid vient bientôt venir !

Oui, la knoppix possède memtest (en fait pas de distrib d'ailleurs)

Pour la corruption mémoire, c'est un sujet un peu particulier, car il faudrait que la corruption ait lieu sur une adresse précise qui ne soit pas checksumable, un peu comme si dans un sommaire, on disait "çà c'est à la page 12", et qu'en fait, c'est à la 85, c'est une info qui ne sera pas gérable car la cohérence 'bloc-arbre" ne peut être détectée, c'est différent d'un bloc qui est checké au départ et qui l'est à l'arrivée, là le check sera bon, mais ne correspondra pas au bon bloc. C'est une possibilité très sournoise et indétectable, sauf pour l'appli qui ne comprendra rien car le FS lui dira "oui, bin c'est tout ce j'ai, fais avec !
Aucune errreur ne sera détecter par ZFS, c'est une possibilité technique envisageable et possible.

Un serveur, est construit avec des canaux protégé de toutes parts, par exemple: j'ai des contrôleurs SAS en PCI 4x ou 8x qui sont fait avec de la mémoires ECC, et dans un serveur tout doit être mis en oeuvre pour que les données circulent correctement.
Il y a beaucoup de plantage de PC 'grand public" qui ne sont pas vraiment connu, certaines fois, cela est peut-être le cas d'une mémoire ... défaillante, on met çà sur le dos de l'OS, mais des fois c'est la conception qui fait que ... voilà !

Je me permets juste une remarque.
Vous avez 14 disques en raidz2, quand vous allez utiliser un fichier, TOUS vos disques vont tourner ;-)
Si vous faisiez un pool pour chaque disque, vous pourriez avoir qu'un seul disque qui tourne et les mettre tous en économie d'énergie.
En Linux, il existe le LVM qui permet d'ajouter des disques de tailles différentes et surtout de pouvoir les enlever à tout moment (une sorte de jbod dynamique mais en mieux).
Mais bon, ce n'est pas aussi solide que ZFS ;-) et qui plus est en raidz2.

Faites vous mieux que moi ? ... j'ai 3 ans d'émissions en retard répartit sur deux nas ! Et le pire, j'ai aucune envie de les regarder !

Re: Disques qui passent en "Removed" Régulièrement

Posted: 30 Oct 2014 21:12
by CorbeilleNews
Faites vous mieux que moi ? ... j'ai 3 ans d'émissions en retard répartit sur deux nas ! Et le pire, j'ai aucune envie de les regarder !
Oh oui, intoxiqué des enregistrements depuis les VHS, pareil je ne suis pas sûr de m'y mettre un jour totalement (j'ai un stock de VHS à vendre d'ailleurs :lol: ... l'avantage du disque dur c'est que l'on retrouve plus facilement et on n'a pas à chercher une place ... m'enfin on ne se limite plus et on engrange trop ...), j'ai commencé avec une V5 en 2008 et depuis c'est allé crescendo, avec la V6 on ne se limite plus, j’enregistre sur plusieurs en même temps et TNT et ADSL avec jusque 5-6 enregistrements simultanés. Merci le multiplex TNT France Télévision et d'autres. Enfin la meilleure chaines étant Arte pour ses programme et sa ponctualité: ah la rigueur allemande, en plus c'est "tendance" :D

On peut rapidement remplir une V6 en une semaine :)) surtout si c'est de la TNT HD !!! Et en plus c'est légal !!!

(en fait c'est un RAID de 18 disques : ben oui 2 puissance 4 plus 2 disques "de secours")

C'est mon 4ème NAS en 2 ans et je ne mettrai pas plus de disque cette fois :D le but étant de concentrer les deux autres en un seul, mais cela devient vite un poids lourd au premier degré ...
Vous avez 14 disques en raidz2, quand vous allez utiliser un fichier, TOUS vos disques vont tourner ;-)
Si vous faisiez un pool pour chaque disque, vous pourriez avoir qu'un seul disque qui tourne et les mettre tous en économie d'énergie.
Le soucis c'est qu'il n'y a aucune redondance dans ce cas et chercher un enregistrement dans un seul volume est beaucoup plus simple, ex : dans XBMC pour peu que cela soit bien rangé par type ou nom d’émission ou films.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 30 Oct 2014 21:41
by velivole18
Bonsoir,

Je me pose la question en ce moment de monter 6 disques dans mon nouveau NAS ... Quand je lis le nombre de disques que vous mettez en œuvre, je suis encore loin du compte :lol:
Pour info, j'ai vu que les disques pour NAS à 6 To commencent à sortir ... ;)
Par contre, je viens de faire l'expérience dernièrement de 30 heures pour un formatage bas niveau pour un disque de 2 To (j'en ai 4, donc presque 1 semaine !) et une semaine de plus pour recopier mes 4To de données qui étaient sur mes disques de capacité 2To vers mes nouveaux disques 4To !
Alors avec des 6To ... :cry:
C'est bien long toutes ces opérations quand on est impatient de retrouver son NAS sur pieds.
Et pour sauvegarder tout cela lors de transfert entre anciens disques et nouveaux disques ... Bon, j'arrête d'y penser !
Je viens aussi de découvrir qu'il existe des cartes interne sur ports PCI Express I/O HUB SATA pour 4, 8, 16 et 32 disques qui ne font pas de Raid à des débits par canal largement suffisant et qui sont bien moins chères que des cartes Raid !
N'utilisant que du Raid logiciel ZFS, cette solution me tente bien.

Bon courage à tous.

Cordialement.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 30 Oct 2014 23:02
by mtiburs
Bonsoir,
velivole18 wrote: ... une semaine de plus pour recopier mes 4To de données qui étaient sur mes disques de capacité 2To vers mes nouveaux disques 4To !
Et le pire, c'est en compression&déduplication, car sur un disque de 6To, je pourrais y mettre au moins 50To de machine virtuelle ! .... et copier 50To ... çà prendrais ... un certain temps :mrgreen:

Re: Disques qui passent en "Removed" Régulièrement

Posted: 12 Nov 2014 20:26
by CorbeilleNews
Bon j'ai déjà remplacé plusieurs disques dans soucis, c'est long mais ça avance ... Je ne manquerai pas de vous dire la suite : c'est la moindre des choses aux vues du temps que vous avez passé à m'aider :D

J'en profite pour vous demander comment faire pour lancer un rsync à partir d'un PC tiers sous Xubuntu.

J'arrive bien à le faire avec un MAC avec le service AFP mais je n'y arrive pas sous linux avec le service NFS activé.

Je vois bien (par AFP sur le réseau) le NAS mais je ne sais pas quoi ajouter dans rsync.

Avec le MAC c'était rsync (éventuellement options) /Volumes/monvolumesource/mondossiersource/ /Volumes/monvolumedestination/mondossierdestination/

Mais sous linux je ne sais pas quoi mettre dans les dossier source et destination : comment savoir ou il sont "montés" si tant est qu'ils doivent l'être.

Bizarre aussi de ne voir le NAS que sous AFP et pas sous NFS ?

Je ne peux laisser le MAC tout le temps car j'en ai besoin en déplacement. Le PC sous linux est un fixe avec une Xubuntu Live en attendant une vrai install quand j'aurai fini d'upgrader le gros NAS et donc récupérer des disques plus petits.

Re: Disques qui passent en "Removed" Régulièrement

Posted: 12 Nov 2014 20:36
by mtiburs
Bonsoir,

Est-ce qu'on a:
- le PC sous Xubuntu en tant que client ?
- Nas4Free en tant que serveur ? (avec l'option de listage des modules activés)

si oui, faire un module sur le nas et le tester avec rsync 192.168.0.1::
(changer l'IP)
Les deux points permettront de savoir si le module est vu par le client

Re: Disques qui passent en "Removed" Régulièrement

Posted: 12 Nov 2014 20:39
by mtiburs
Sinon, on peut le faire en NFS ou directement par SSH
Perso, je trouve que les modules sont le mieux, car çà "cadre" bien les choses

Re: Disques qui passent en "Removed" Régulièrement

Posted: 12 Nov 2014 22:23
by CorbeilleNews
Je ne suis pas très à l'aise avec les modules, je verrai cela plus tard. Pour le moment j'aimerai éviter de faire une fausse manip. Je testerai plus tard quand "il n'y aura pas de données" dessus.

J'ai deux NAS dont je voudrais transférer le contenu de l'un à l'autre avec le PC sous Xubuntu Live : Ça fais 3 ordis en tout :)