La baie RAID 3Ware se bloque parfois. Disque cassé non détecté?

13

Nous avons un serveur Debian avec un contrôleur RAID à 3 disques 3Ware 9650SE, avec une matrice RAID6 à 5 disques, agissant comme hôte de machine virtuelle, tous Linux. Des problèmes persistent et je soupçonne un disque cassé non détecté.

Nous avons eu plusieurs plantages maintenant où l'hôte et tous les invités disent que le système d'E / S s'est bloqué pendant 120 secondes ou plus. Nous soupçonnions un contrôleur RAID défectueux, mais nous l'avons remplacé par un contrôleur identique avec un firmware identique, ce qui ne l'a pas corrigé. Je ne pensais pas que ce serait le cas, car une deuxième matrice RAID1 fonctionnait correctement.

Il y a presque une semaine (dimanche), lorsque cela fonctionnait, la vérification automatique était à 66%. Hier soir (vendredi matin), c'était à 67%. Avant et après le démarrage, et les deux en cas de problème. Lorsque j'ai désactivé la vérification avec tw_cli /c0/u0 stop verify, les choses sont redevenues réactives.

Je soupçonne qu'il s'est bloqué sur un défaut de disque à environ 66%. Une vérification automatique commence samedi:

# tw_cli /c0 show verify
/c0 basic verify weekly preferred start: Saturday, 12:00AM

et se ferait normalement depuis vendredi. Étant donné que le dimanche était de 66% et le vendredi de 67%, il est peu probable que ce soit une coïncidence.

«smartctl -a -d 3ware, 0 / dev / twa0» et «smartctl -t long» (autotest SMART long) sur tous les lecteurs n'ont révélé aucune erreur. Pas plus tw_cli /c0 show alarms.

Je soupçonnais qu'un disque était cassé d'une manière difficile à détecter, mais j'ai retiré chaque lecteur de la baie un par un, en ai créé une 'unique' et je l'ai remplie de zéros. Aucun disque n'a montré d'erreurs.

Ou tout autre conseil?

Éditer:

c'est la mise en page:

# tw_cli /c0 show

Unit  UnitType  Status         %RCmpl  %V/I/M  Stripe  Size(GB)  Cache  AVrfy
------------------------------------------------------------------------------
u0    RAID-6    OK             -       -       256K    5587.9    RiW    OFF    
u1    SPARE     OK             -       -       -       1863.01   -      OFF    
u2    RAID-1    OK             -       -       -       1862.63   RiW    ON     

VPort Status         Unit Size      Type  Phy Encl-Slot    Model
------------------------------------------------------------------------------
p0    OK             u0   1.82 TB   SATA  0   -            ST32000542AS        
p1    OK             u0   1.82 TB   SATA  1   -            ST32000542AS        
p2    OK             u0   1.82 TB   SATA  2   -            ST32000542AS        
p3    OK             u0   1.82 TB   SATA  3   -            ST32000542AS        
p4    OK             u0   1.82 TB   SATA  4   -            ST32000542AS        
p5    OK             u1   1.82 TB   SATA  5   -            WDC WD2002FYPS-02W3 
p6    OK             u2   1.82 TB   SATA  6   -            WDC WD2002FYPS-02W3 
p7    OK             u2   1.82 TB   SATA  7   -            WDC WD2002FYPS-02W3 

Name  OnlineState  BBUReady  Status    Volt     Temp     Hours  LastCapTest
---------------------------------------------------------------------------
bbu   On           Yes       OK        OK       OK       0      xx-xxx-xxxx

L'unité en question est u0.

edit2:

tw_cli / c0 show diag montre quelque chose d'intéressant (edit3: c'est inoffensif, j'ai découvert que cela était dû à l'appel smartctl -a -d 3ware,X /dev/twa0où X est un port invalide):

QueueAtaPassthrough() called with invalid TargetHandle: 0x17, portHandle: 0xFF

Legacy opcode=0xB1 error=0x10E

E=010E T=14:15:51     : Invalid operation for specified port
E=010E T=14:15:51 U=0 : Return error status to host
Error, Unit 23: Invalid operation for specified port
(EC:0x10e, SK=0x05, ASC=0x24, ASCQ=0x00, SEV=01, Type=0x70)
No additional sense data
Error, Unit 23: 0x10E OVERRIDDEN due to invalid sense buffer descriptor
sense buffer: len=0, address=0x414ca2c7c
Send AEN (code, time): 0031h, 06/21/2013 14:26:16
Synchronize host/controller time
(EC:0x31, SK=0x00, ASC=0x00, ASCQ=0x00, SEV=04, Type=0x71)

J'en reçois des tonnes. Je n'ai aucune idée de ce que cela signifie. Je ne peux même pas déterminer de quelle unité ou port il s'agit. (edit3: Je sais maintenant, c'est inoffensif).

Compte tenu de mon edit3, je suis de retour à la case départ. Rien n'indique qu'un disque est cassé, sauf que la vérification se bloque à 66% et provoque le blocage de la baie, ce qui se produit également parfois de manière aléatoire. Je souhaite que le vérificateur trouve la faute ...

Halfgaar
la source
Quels disques durs? Sont-ils officiellement soutenus?
grs
J'ai ajouté la mise en page. Les disques sont ST32000542AS. Ils sont pris en charge, mais de plus, le serveur a bien fonctionné pendant 3 ans.
Halfgaar
J'ai eu un problème avec certains disques WD devenant verrryyyy lent à un moment donné. seul un hdparm (malheureusement pas faisable ici) m'a montré un débit de ~ 300KB / s (oui K!) au lieu des 80 ~ 100MB / s habituels.
Benjamin Sonntag
1
la différence entre l'Enterprise et les disques des disques de bureau est qu'ils résolvent les bogues. Si les disques Enterprise rencontrent une erreur, le disque sort du raid. (comme dans les entreprises sensibles aux risques de stockage de données et qui sont prêtes à payer pour cela) Si un disque dur de bureau rencontre la faute, il essaiera de durer jusqu'à la fin de tous les délais. (En tant qu'utilisateurs un seul lecteur, et aux données dont ils ont besoin pour atteindre, et s'ils tombent des disques à la fois, le fabricant sera très douloureux) apparemment ST32000542AS est des disques de version de bureau silencieux et économiques. par exemple goo.gl/rWb5lj
Rainbow-
En fait, tout récemment, ce serveur s'est soudainement bloqué, différemment et plus gravement que le problème d'origine, et les journaux ont montré un délai d'attente sur un port RAID. Le délai d'expiration était sur l'un des disques de l'entreprise (dont ce serveur a plus maintenant).
Halfgaar

Réponses:

1

2 choses qui n'ont pas été évoquées jusqu'à présent:

  1. S'agit-il d'un contrôleur RAID SATA? Si tel est le cas, les câbles SATA sont sujets au vieillissement et leur remplacement pourrait résoudre facilement ces problèmes. La plupart du temps, cela peut être essayé lorsque des erreurs de disque, des retards, des délais d'attente se produisent, mais les valeurs SMART sont toutes correctes et le lecteur passe tous les autotests. Malheureusement, il est difficile de trouver un bon fournisseur de câbles SATA.
  2. Les contrôleurs RAID 3Ware sont anciens et non pris en charge de nos jours. Vous n'obtiendrez ni mises à jour du firmware ni pièces de rechange. Dans le cas où votre contrôleur meurt, le RAID peut être irrécupérable sans le contrôleur ET le firmware correspondants. Une récupération de données coûteuse est alors nécessaire.
flohack
la source
0

Ce problème peut être dû à l'un des disques rencontrant une erreur de lecture et bloquant l'ensemble de la baie jusqu'à ce qu'il parvienne à réaffecter le secteur ou que le contrôleur RAID suppose que le disque est mort et qu'il démarre hors de la baie, le marquant comme "Dégradé" (cela dépend entièrement du contrôleur en question). Cela peut se produire souvent si un disque commence à mourir mais passe toujours SMART. La plupart des disques grand public continueront de tenter la lecture pour toujours.

Ce problème est résolu dans certains disques destinés au RAID à l'aide de quelque chose appelé contrôle de récupération d'erreur . WD appelle cela TLER. Depuis le site:

RAID-specific time-limited error recovery (TLER) - Pioneered by WD, this feature prevents drive fallout caused by the extended hard drive error-recovery processes common to desktop drives.

Fondamentalement, il indique à un disque que s'il ne peut pas lire un secteur, il doit abandonner après x secondes. C'est très bien dans un RAID car les données peuvent être récupérées à partir d'un autre disque.

D'après ce que j'ai lu, le ST32000542AS n'implémente aucune forme d'ERC, donc l'un d'eux peut bloquer la totalité de la baie. Le WD2002FYPS implémente en fait le TLER de WD et ne causera donc pas ce problème.

succulent_headcrab
la source
0

Juste pour être sûr, quelle est la version de votre firmware?

J'ai rencontré un problème - qui ressemble beaucoup à ce que vous décrivez - lorsque les exigences suivantes sont remplies:

  • Contrôleur 3ware 96xx series
  • RAID 6
  • 256k Stripe Size
  • Version du micrologiciel <v4.10.00.021 *

À l'époque, aucun correctif de micrologiciel n'était disponible, j'ai donc migré de la taille de bande de 256 Ko à 64 Ko, ce qui a également résolu le problème. Vous pouvez essayer une solution de contournement, mais cela prendra certainement des jours.

Plus tard, j'ai essayé le nouveau firmware (* 4.10.00.021, je pense, avait le correctif) avec 256k et j'ai travaillé comme un charme. 4.10.00.027 est la dernière version.

Acrklor
la source
Nous n'avons plus le problème. La vérification a toujours réussi. Nous avons cependant obtenu un blocage complet du serveur il y a quelques mois (après une longue période sans problème). Dmesg a déclaré que le disque x avait expiré. Je ne sais pas pourquoi le contrôleur ne l'a pas lancé, mais même s'il n'était pas explicitement marqué comme dégradé, je l'ai remplacé. Et d'autres disques ont également été remplacés depuis lors. Il est donc probable que ce soit un problème de disque.
Halfgaar
0

J'ai eu des problèmes avec un contrôleur 3ware et des disques Seagate. Il y a une subtile incompatibilité de firmware. Je suis passé aux disques Samsung, problème résolu.

Zdenek
la source