Accélérer le rebuild/resync d’un volume RAID mdadm

Ça fait plusieurs fois que je tombe sur des articles de blogs qui détaillent que la reconstruction de leur miroir MDADM (RAID1) est trèèèès lente à cause d’un paramètre système dans /proc :
/proc/sys/dev/raid/speed_limit_min

Par défaut sous Linux (ou au moins la plupart des distribs que je côtoie), ce paramètre « min » est fixé à 1000, soit grossièrement 1Mo par seconde, ce qui est effectivement très lent, à l’heure des disques grand public de 6 To (ou 8? ou 10, je ne suis pas sûr d’être à jour).

Personnellement, je n’ai jamais été bloqué par ce paramètre comme ces personnes, au moins sur les distributions récentes (tout est relatif, en 2015 je parle de 2012 et +). Il s’agissait peut être d’un bug fixé depuis, qui sait?

Par contre, là où j’ai été effectivement bloqué, c’est plutôt par la variable /proc/sys/dev/raid/speed_limit_max.

cat /proc/mdstat
   md1 : active raid1 sdc[0] sdd[1]
   336592832 blocks [2/2] [UU]
   [===========>.........] resync = 59.4% (199958272/336592832) finish=11.3min speed=200006K/sec

Quoi, mes disques resync à 200006K/sec? Comment dire ? C’est louche !

En effet, cette valeur est fixée par défaut à 200000, soit 200 Mo/s. Ça peut paraitre assez haut pour du RAID à la maison, mais sur du matériel d’entreprise, je n’ai pas eu de mal à atteindre cette limite.

cat /proc/sys/dev/raid/speed_limit_min
   1000
cat /proc/sys/dev/raid/speed_limit_max
   200000
echo 500000 > /proc/sys/dev/raid/speed_limit_max

cat /proc/mdstat
   md1 : active raid1 sdc[0] sdd[1]
   336592832 blocks [2/2] [UU]
   [===============>.....] resync = 76.4% (257424960/336592832) finish=2.6min speed=505767K/sec

« And voila »

Publicités
Accélérer le rebuild/resync d’un volume RAID mdadm

Erreur lors du remplacement d’un disque avec ZFSonLinux : devices have different sector alignment

Ceux qui me lisent savent que j’adore ZFS. ZFS, c’est juste génial. Les types qui ont inventé ce FS ont pris toutes les fonctionnalités intéressantes qu’on peut trouver dans un FS moderne, et les ont intégrés. Pour rappel, quelques unes qui me tiennent à cœur :

  • b-tree FS
  • transactions en mode copy-on-write
  • abstraction du stockage, création de FS simplifiée
  • gestion des snapshots
  • partages NFS/CIFS natifs
  • compression/déduplication native
  • gestion de caches SSD native

Mais ils ont aussi eu le malheur de le développer pour Solaris … et lui coller la malédiction d’un OS en perdition avec une licence le rendant difficilement compatible à un portable sur le kernel Linux… C’est la vie 😉

Toujours est-il que ça n’a pas arrêté certaines personnes pour le porter, avec le projet ZFSonLinux, et permettre au ZFS fanboy que je suis d’avoir du ZFS sur mon NAS sous Linux, sans passer par la méthode ZFS/fuse en userland.

Cependant, ce projet relativement confidentiel n’est pas sans ses petits accros. C’est notamment ce que j’ai pu constater amèrement l’an dernier, quand ma grappe Z-RAID s’est dégradée suite à la perte d’un disque…

Lire la suite « Erreur lors du remplacement d’un disque avec ZFSonLinux : devices have different sector alignment »

Erreur lors du remplacement d’un disque avec ZFSonLinux : devices have different sector alignment

Migration, jonglage de disques avec MDADM : grow/reduce/grow d’un miroir à 2 puis 3 puis 2 pattes

Dans le cadre d’une migration de ma plateforme de virtualisation de Xubuntu (shame) vers CentOS (j’en parlerai dans un prochain article), j’ai été amené à me faire des nœuds aux cerveaux pour trouver comment passer de manière sure d’un disque de 1 To contenant des données, des VMs et mon Xubuntu vers un CentOS avec deux disques en miroirs de 1 To, et en ne disposant que d’un spare de 400Go.

J’aurai pu installer l’OS par dessus l’Ubuntu mais je préfère repartir from scratch, et je voulais éviter de transférer les VMs sur le disque de 400Go car je n’étais pas très sur de sa fiabilité.

A noter que dans un cas plus simple que le mien, mdadm permet de passer d’un système sans redondance vers un RAID (very pratique, j’aurai fais ça si jamais je n’avais pas eu la migration d’OS à faire), ou si vos disques ont la taille suffisante, de remplacer online le disque.

Lire la suite « Migration, jonglage de disques avec MDADM : grow/reduce/grow d’un miroir à 2 puis 3 puis 2 pattes »

Migration, jonglage de disques avec MDADM : grow/reduce/grow d’un miroir à 2 puis 3 puis 2 pattes

ZFS on Linux : cannot replace X with Y: devices have different sector alignment

Pour une obscure raison que je détaillerai dans un prochain article je me suis retrouvé avec un disque de ma grappe RAID-Z1 avec 2 partitions, une en ext4 et l’autre pour la grappe ZFS. Vous savez surement que pour des raisons de performances et de taille utile de la grappe ZFS, il est préférable de disposer d’un disque entier pour la création des VDEV.

Une fois le nettoyage fait au niveau de la partition non ZFS, je me suis retrouvé face à un dilemme. Comment remplacer le device disque3-part2 par disque3. Et c’est ainsi qu’à commencé ma descente aux enfers (relativement brève heureusement).

Lire la suite « ZFS on Linux : cannot replace X with Y: devices have different sector alignment »

ZFS on Linux : cannot replace X with Y: devices have different sector alignment

Du ZFS à la maison avec ZFSonLinux et un coup de main pour comprendre grâce à Aaron Toponce

Je l’ai déjà dis, je suis un sysadmin/technophile. Et comme je ne peux rien faire comme tout le monde, quand j’ai décidé de me monter mon NAS/MediaCenter perso, j’ai voulu le faire aussi bien au niveau hardware que software. Ceci m’a permis, à coût égal, de faire au moins aussi bien qu’un NAS tout prêt, et même beaucoup mieux dans certains domaines… au prix de multiples passes/améliorations/prises de tête ;-).

Lire la suite « Du ZFS à la maison avec ZFSonLinux et un coup de main pour comprendre grâce à Aaron Toponce »

Du ZFS à la maison avec ZFSonLinux et un coup de main pour comprendre grâce à Aaron Toponce

NAS/MediaCenter : Do It (the software part) Yourself!

[EDIT]Depuis que j’ai écris cet article, de l’eau a coulé sous les ponts. Maintenant à l’aide de ZFSonLinux il est possible de faire du ZFS sous Linux sans passer par le portage en userland qu’est ZFS Fuse, alors qu’il manque toujours d’importants composants dans Btrfs[/EDIT]

Si vous avez lu le dernier article, vous aurez remarqué que j’avais découpé mon article en deux parties : le hardware vs le software. Voici donc la partie software tant attendue (ou pas vu la fréquence à laquelle j’écris… On n’a qu’à dire que c’est pour faire murir la réflexion!)

Lire la suite « NAS/MediaCenter : Do It (the software part) Yourself! »

NAS/MediaCenter : Do It (the software part) Yourself!