Faire tourner son propre serveur mail en 2026

Faire tourner son propre serveur mail en 2026

Cet article explique comment mettre en place un serveur mail respectueux de la vie privée avec Docker Mailserver (v13.2+) ou Mailcow, y compris SPF, DKIM, DMARC et TLS. Pour les administrateurs système qui veulent contrôler leur infrastructure e-mail.

Prérequis

- VPS ou serveur dédié avec Ubuntu 24.04 LTS ou Debian 12+, 2 GB de RAM minimum - Docker (24.0+) et Docker Compose (v2.23+) installés - Un domaine propre avec accès DNS (enregistrements A, AAAA, MX, TXT) - Reverse DNS (enregistrement PTR) qui pointe vers votre nom d'hôte - Adresse IPv6 – obligatoire pour la délivrabilité vers Gmail et Outlook - Serveur situé dans l'UE (Allemagne ou Pays-Bas) pour la conformité RGPD

Étapes

1. Préparer le DNS : configurer l'enregistrement MX Faites pointer le trafic mail vers votre serveur. Remplacez `mail.jouwdomein.nl` par votre nom d'hôte complet.

`@ IN MX 10 mail.jouwdomein.nl.`

2. Installer Docker Mailserver Clonez le dépôt et générez la configuration.

git clone https://github.com/docker-mailserver/docker-mailserver.git
cd docker-mailserver
cp docker-compose.yml docker-compose.yml.orig

3. Créer le fichier de configuration Créez `mailserver.env` avec les exigences minimales.

echo "OVERRIDE_HOSTNAME=mail.jouwdomein.nl
POSTMASTER_ADDRESS=postmaster@jouwdomein.nl
PERMIT_DOCKER=host
SSL_TYPE=letsencrypt" > mailserver.env

4. Générer les clés DKIM Exécutez le script de configuration pour créer les clés DKIM.

./setup.sh config dkim

Les clés se trouvent dans `docker-data/dms/config/opendkim/keys/`.

5. Ajouter les enregistrements DNS Récupérez l'enregistrement TXT DKIM et ajoutez-le à votre zone DNS.

cat docker-data/dms/config/opendkim/keys/jouwdomein.nl/mail.txt

Ajoutez également les enregistrements SPF et DMARC : - SPF : `@ IN TXT "v=spf1 mx ~all"` - DMARC : `_dmarc IN TXT "v=DMARC1; p=quarantine; rua=mailto:postmaster@jouwdomein.nl"`

6. Démarrer les conteneurs Lancez la pile du serveur mail.

docker compose up -d

7. Demander un certificat TLS Utilisez Certbot pour obtenir un certificat Let's Encrypt valide.

docker compose exec -ti mailserver setup email add admin@jouwdomein.nl
docker compose exec -ti mailserver setup certbot

8. Activer Fail2Ban et les sauvegardes Protégez contre les attaques par force brute et configurez des sauvegardes automatiques.

Activer Fail2Ban
docker compose exec -ti mailserver setup fail2ban</p><p>BorgBackup pour les sauvegardes
borg init --encryption=repokey ssh://user@backupserver/./mailserver-backup
borg create --stats /mnt/backup::mailserver-{now} /var/mail

Vérification

Vérifiez que tous les services tournent correctement.

docker compose ps

Testez la délivrabilité avec un outil externe.

dig TXT mail.jouwdomein.nl | grep -E "spf1|dkim|dmarc"

Envoyez un e-mail de test à `check-auth@verifier.port25.com` et vérifiez le rapport pour la réussite SPF/DKIM/DMARC.

Problèmes fréquents

1. Les e-mails arrivent dans les spams - Vérifiez que l'enregistrement DKIM est correct : `dig TXT dkim._domainkey.jouwdomein.nl` - Augmentez la politique DMARC à `p=reject` après 48 heures sans erreurs

2. Connexion refusée sur le port 25 - Les fournisseurs VPS bloquent souvent le port 25. Demandez sa désactivation au support (OVH, DigitalOcean, Linode)

3. Erreur SPF lors de l'envoi via des clients externes - Ajoutez l'IP de votre client : `v=spf1 mx ip4:1.2.3.4 ~all` ou activez l'authentification SMTP sur le port 587

Un serveur mail maison demande une surveillance continue. Automatisez les mises à jour avec unattended-upgrades et vérifiez chaque semaine votre délivrabilité avec `mxtoolbox.com`.