merci à  telecom Lille

Pré-requis

Pour la réalisation d’une infrastructure haute disponibilité, nous utiliserons une distribution Linux DEBIAN Sarge. Cette distribution, relativement simple à prendre en main, est basée sur le système de paquets précompilés .DEB. Par ailleurs, la commande apt-get nous assure une installation simplifiée de tous les programmes indispensables à la mise en place de ce type de solution. Voici un récapitulatif du matériel et des logiciels utilisés pour notre infrastructure HA:

• Matériel : Notre cluster est constitué de deux serveurs aux performances comparables mais pas forcément identiques. Le premier étant en mode actif, c’est-à-dire le serveur maître, et le second en mode passif ou esclave. C’est ce dernier qui fera office de relais au cas où le maître présente un dysfonctionnement. Ces deux serveurs nécessitent deux équipements réseau chacun. La première carte Ethernet étant reliée en RJ45 au switch du réseau local, et une seconde carte Ethernet gigabit dédiée à l’interconnexion entre les deux serveurs, pour permettre le transfert des données en temps réel et le déclenchement du basculement entre les serveurs en cas de panne ou de rétablissement d’un des deux.
• Système : Linux Debian Sarge basée sur un kernel 2.4.x
• Logiciels : DRBD v0.7 / Heartbeat v1.2 / Mon v0.99.

Remarques:

• La distribution Linux debian étant basée sur un système de package de type DEB, nous utiliserons les versions pré-compilées pour i386.
• Les dépendances sont satisfaites automatiquement lors de l’avec apt-get (sauf pour le programme Mon qui n’est pas dans l’arbre de packages de Debian. Il devrait donc être installé manuellement.
• Il est bien entendu indispensable que votre machine dispose d’un accès à Internet.

Avant toutes choses, n’oubliez pas de mettre à jour votre liste de packages afin de vous assurer de récupérer la dernière version stable des logiciels.

# apt-get update

Installation de DRBD

Comme nous l’avons dit auparavant, DRBD permet de faire du RAID 1 par le réseau. C’est en partie grâce à ce mirroring que Heartbeat pourra mettre à disposition des services haute disponibilité.

DRBD s’installe en tant que module. Nous aurons donc besoin de récupérer les sources puis de les compiler. Voici la liste des commandes pour réaliser cette procédure (à réaliser sur les deux serveurs).

# apt-get install kernel-image-$(uname -r) kernel-headers-$(uname -r) build-essential
# apt-get install drbd0.7-utils drbd0.7-module-source
# apt-get install dpkg-dev kernel-package ncurses-dev patchutils
# cd /usr/src
# tar xfzv drbd0.7-tar.gz
# apt-get install gcc-3.4
# cd /usr/src/kernel-headers-2.4.27-2-386
# module-assistant

Une fois module-assistant lancé, allez dans SELECT, puis sélectionnez le module drbd0.7. Terminez en faisant un BUILD puis un INSTALL.

Le module est prêt à être lancé. Utilisez la commande modprobe pour le charger.

# modprobe drbd
            drbd:initialised. Version: 0.7.11 (api:77/proto:74)
            drbd: SVN Revision: 1807 build by lars@barkeeper1, 2005-06-07 19:33:30
            drbd: registered as block device major 147

Enfin, utilisez la commande lsmod pour vérifier que le module est bien chargé. Si vous obtenez ce type de résultat, cela signifie que tout s’est déroulé comme il se doit.

# lsmod | grep drbd
     drbd         144992       0

Installation de Heartbeat

Comme nous l’avons vu précédemment, Heartbeat constitue le lien permettant aux 2 serveurs de se prendre mutuellement le pouls. Heartbeat va nous permettre de former un cluster à partir des 2 machines. Chaque machine est appelée noeud du cluster.

L’installation de Heartbeat sur un système Debian est relativement simple, le paquet se trouvant dans les dépôts standards. La commande suivante doit être lancée sur les 2 machines afin d’installer le programme Heartbeat.

# apt-get install heartbeat

Heartbeat s’installe en tant que service. Vous obtiendrez une erreur à la fin de cette installation vous informant que le fichier ha.cf n’est pas présent. Ceci est normal et sera corrigé un peu plus bas.

Installation de Mon

Heartbeat surveille l’état du système mais pas celui des services. C’est ici qu’intervient Mon. Mon n’est pas dans l’arbre de paquets Debian. Il nous faudra donc l’installer manuellement. Les étapes suivantes sont encore une fois à effectuer sur les deux serveurs.
Récupérez le package Mon à l’adresse suivante : http://www.kernel.org/software/mon/. Téléchargez le dans /etc/ha.d puis exécutez les commandes suivantes pour l’installer.

# cd /etc/ha.d
# tar xzvf mon-0.99.2.tar.gz
# mv mon-0.99.2.tar.gz mon

De plus, Mon requiert quelques modules Perl externes. Vous pouvez utiliser votre CPAN (Comprehensive Perl Archive Network) habituel pour récupérer ces modules où utiliser la liste de liens ci-dessous.

• Time::Period
• Time::HiRes
• Convert::BER
• Mon::*

Décompressez les archives avec la commande tar xvzf puis installez les modules en suivant la procédure suivante dans chacun des dossiers crées.

# perl Makefile.pl
# make && make install

Les dépendances de Mon sont maintenant installées. Nous allons maintenant nous intéresser à la configuration de ces services.

Configuration de DRBD

Préparation du système

Il nous faut maintenant choisir quelle partition sera dupliquée sur les 2 machines. Dans notre exemple, nous ferons le mirroring de la partition /home. Avant de commencer, vérifiez l’existence de la partition dans /etc/fstab afin d’identifier le volume correspondant à /home.

# cat /etc/fstab# perl Makefile.pl 

affichage tronqué
# /dev/hda6 /home  /ext3  defaults
affichage tronqué

Le volume correspondant à /home est donc /dev/hda6. Nous en aurons besoin plus tard. Il nous faut maintenant démonter cette partition et vérifier qu’elle est bien démontée.

# umount /home
# mount

Drbd.conf

Il existe 2 méthodes pour configurer DRBD. Directement en ligne de commande, ou par l’intermédiaire d’un fichier de configuration. Nous utiliserons ici la 2ème méthode. Commencez par créez le fichier /etc/drbd.conf si celui-ci n’existe pas encore. Voici le contenu du fichier de configuration de drbd utilisé dans notre exemple.

# déclaration du cluster
resource drbd {

  # protocole utilisé (voir plus bas)
  protocol C;

  # vitesse de transfert des données
  syncer {
     rate 100M;
     group 1;
}
  on Serv-maître {

     # peripherique drbd
    device     /dev/drbd0;

     #volume à synchroniser
    disk       /dev/hda6;

     # adresse ip du noeud et port
    address    192.168.0.2:7788;

     # emplacement des méta-données
    meta-disk  internal;
  }

  # même procédure
  on Serv-Esclave {
    device    /dev/drbd0;
    disk      /dev/hda6;
    address   192.168.0.3:7788;
    meta-disk internal;
 }
}

Nous utilisons ici le protocole C pour assurer une haute disponibilité maximale. Pour rappel, DRBD permet d’effectuer la transmission des données selon 3 protocoles. Reportez vous à la section principe pour plus d’informations concernant ces 3 protocoles. Remarque : le fichier de configuration doit être identique sur les 2 noeuds.

Synchronisation des noeuds

Nous allons maintenant définir Serv-maître comme étant le noeud maître de notre cluster. Ceci s’effectue avec la commande suivante :

# drbdadm primary all
            drbd0: Creating state block
            drbd0: resync bitmap: bits=943172 words=29476
            drbd0: size = 3684 MB (3772688 KB)
            drbd0: Assuming that all blocks are out of sync
            drbd0: 3772688 KB now marked out-of-sync by on disk bit-map.
            drbd0: drbdsetup 10872: cstate Unconfigured --> StandAlone

La synchronisation débute. Pour suivre l’évolution de la synchronisation vous pouvez utiliser la commande suivante.

# watch -n 5 cat /proc/drbd

L’état de la synchronisation sera affiché toutes les 5 secondes. Une fois la synchronisation terminée, le noeud primaire doit apparaître comme Primary et Consistent. Il faut ensuite formater le périphérique drbd puis le monter.

# mke2fs -j /dev/drbd0
# mount /dev/drbd0 /home

Remarque : dans le cas où l’on voudrait accéder aux données à partir du serveur secondaire, la partition dupliquée doit avant tout être démontée et le serveur primaire passé à l’état secondaire. Nous verrons par la suite comment automatiser cette procédure avec Heartbeat.

Configuration de Heartbeat

Heatbeat agit comme init pour lancer et arrêter les services. Par défaut, les fichiers de configuration de Heartbeat n’existent pas, il faut les créer dans le dossier /etc/ha.d et sont au nombre de 3 et doivent être identiques sur les 2 serveurs.

• Ha.cf : Configuration générale.
• Haresources : les ressources que Heartbeat devra gérer.
• Auth.keys : méthode d’encryption utilisée pour la communication.

Ha.cf
Ce fichier définit les paramètres généraux de Heartbeat.

# Emplacement des messages de debug
debugfile /var/log/ha-debug

#  Autres messages
logfile /var/log/ha-log

#  Nombre de secondes entre chaque battements
keepalive 2

#  Temps avant qu'un noeud soit declare mort
deadtime 10

#  Port utilise pour la communication en UDP
udpport 694

# Interface utilisée
bcast eth0

# Récuperation automatique des ressources si les 2 serveurs
# sont à nouveau opérationnels
auto_failback on

#  Les noeuds de notre cluster
node Serv-maître
node Serv-Esclave

Haresources
Ce fichier définit les services dont heartbeat devra gérer les ressources. Ainsi dans notre exemple, nous aurions :

Serv-Esclave 192.168.0.4 apache2 mysql

Pour que heartbeat sache qu’il travaille sur un environnement mirroré avec DRBD, nous devons le lui indiquer dans le fichier haresources afin qu’en cas de panne, le serveur secondaire devienne primaire et puisse monter le volume drbd. Notre fichier devient donc :

Serv-Esclave 192.168.0.4 Filesystem::/dev/drbd0::/home::ext3 apache2 mysql

L’ajout de Filesystem::/dev/drbd0::/home::ext3 précise à Heartbeat où est située la partition DRBD, où la monter et quel est son système de fichier.

Authkeys
Ce fichier permet de sécuriser les échanges entre les 2 machines. Il définit la méthode d’encryption utilisée. Trois modes d’authentification sont disponibles :

• crc
• md5
• sha1

# auth identifiant
auth 1

# identifiant méthode utilisée
1 crc

Dans notre exemple, une authentification crc est suffisante du fait d’une liaison dédiée. Veillez à appliquer les permissions adéquates sur ce fichier de sorte que seul l’utilisateur root puisse y accéder (un mask de 0600 est fortement recommandé). Il ne reste plus qu’à démarrer Heartbeat avec la commande suivante :

/etc/init.d/heartbeat start

Configuration de Mon

Script de démarrage
Nous allons maintenant voir comment configurer la surveillance des services sur les serveurs avec Mon. Tout d’abord, nous allons avoir besoin d’un script permettant à Mon de gérer l’état de Heartbeat, permettant ainsi un passage des ressources en cas de non réponse d’un service. Le dossier mon.alert contient un ensemble de scripts permettant à Mon de générer des alertes en cas de défaillance des services. Créez le fichier ha-up-down.alert dans /etc/ha.d/mon/mon.alert.

#!/bin/bash

# arrêt/démarrage du service heartbeat
HEARTBEAT="/etc/rc.d/init.d/heartbeat"
if [ "$9" = "-u" ]; then
       $HEARTBEAT start
else
       $HEARTBEAT stop
Fi

# envoi d'un mail aux administrateurs (argument passé par mon.cf)
/etc/ha.d/mon/alert.d/mail.alert $*

Mon.cf
Ensuite, créez le fichier mon.cf dans /etc/ha.d/mon. Ce fichier contient la liste des services que « mon » doit surveiller et les actions résultantes de divers évènements. L’exemple suivant montre comment surveiller l’état d’un serveur http et basculer les ressources en cas de non réponse.

# emplacement des fichiers de configuration/d'alerte/logs
cfbasedir   = /etc/ha.d/mon/etc
alertdir    = /etc/ha.d/mon/alert.d
mondir      = /etc/ha.d/mon/mon.d
statedir        = /etc/ha.d/mon/state.d
logdir = /var/log/

# type d'authentification
authtype = getpwnam

# le serveur à surveiller
hostgroup server 127.0.0.1

# les services à surveiller sur le serveur
watch server
    service http
        interval 30s
        monitor http.monitor
        period wd {Mon-Sun}

# les actions en cas de panne/retour à la normale
        alert ha-up-down.alert -S "service httpd down !" \
            administrateur@domaine.com
        upalert mail.alert -S "service httpd up !" \
                administrateur@domaine.com

# délai entre chaque alerte
        alertevery 600s

Vérification du fonctionnement du cluster

Enfin, démarrez « mon » avec la commande suivante :

/etc/ha.d/mon/mon

Remarque : Il s’agit ici d’un test. Il est bien entendu possible et recommandé de spécifier d’autres scripts à la place de celui que nous avons créé. Le passage des ressources étant la méthode la plus radicale, un rechargement ou un redémarrage du/des service(s) posant problème peut s’avérer approprié avant d’effectuer une bascule.
Notre infrastructure haute disponibilité est maintenant prête. Pour tester celle-ci, il nous suffira de débrancher le câble réseau reliant les 2 serveurs ou bien d’éteindre le serveur primaire. Au bout de quelques secondes, le fichier ha.log du serveur secondaire affichera des alertes et la prise de relais s’effectuera.

# tail -f /var/log/ha.log
affichage tronqué
heartbeat: ... WARN: node master: is dead
heartbeat: ... info: Link master:eth0 dead.
heartbeat: ... info: Running /etc/ha.d/rc.d/status status
heartbeat: ... info: Running /etc/ha.d/rc.d/ifstat ifstat
heartbeat: ... info: Running /etc/ha.d/rc.d/ifstat ifstat
heartbeat: ... info: Taking over resource group 172.17.10.30
heartbeat: ... info: Acquiring resource group: master 192.168.0.2 apache2 mon
affichage tronqué

La connexion entre les deux serveurs peut se faire par un cable croise lié les deux serveurs drbd

Le même test peut être effectué en arrêtant le serveur web Apache.