Fix Pipeline Logs Nginx + Archivage O2switch

Date : 11/02/2026 Status : TERMINE Proposition : ~/propositions/11-02-2026-02-32-fix-pipeline-logs-nginx-o2switch.md

Problemes resolus

1. Logrotate inactif sur nginx VM

• Cause : package cron non installe
• Fix : sudo apt install cron sur 192.168.1.104
• Resultat : cron actif, logrotate s'executera quotidiennement (daily, 14 rotations, compress)
• Note : certbot fonctionnait deja via systemd timer

2. sync-logs-o2switch.sh non fonctionnel (3 bugs)

• Bug 1 - DNS : le script utilisait nowhere84@ssh-nowhere84.o2switch.net (FQDN non resolvable). Fix: alias SSH o2switch (deas8499@yellow.o2switch.net)
• Bug 2 - Loki limit : limit=100000 depassait le max_entries_limit Loki (5000). Loki repondait en texte (pas JSON), jq echouait silencieusement. Fix: pagination par batch de 1000 avec direction=forward + avancement par timestamp
• Bug 3 - rsync --mkpath : O2switch a rsync 3.1.3 qui ne supporte pas --mkpath. Fix: ssh mkdir -p prealable + rsync sans --mkpath
• Ajout : timeout curl de 30s pour eviter les processus bloques
• Ajout : REMOTE_DIR=backup/logs pour ne pas mixer avec les logs cPanel
• Suppression : queries mortes (pve/system, pve/cron, gitlab-sidekiq qui n'existent pas dans Loki)

3. nginx-logs-archive.sh supprime (redondant)

• Cron /etc/cron.d/nginx-logs-archive supprime sur PVE
• Archive vide /stock_8to/.../nginx-archive/ supprimee
• Redondant avec Loki (30j hot) + O2switch (90j cold)

Test final reussi

8 fichiers exportes, 29 Mo sur O2switch:
- prod/pve/journal/2026-02-10.log.gz        (28 667 lignes)
- prod/nginx/access/2026-02-10.log.gz       (6 921 lignes)
- prod/nginx/vhost-access/2026-02-10.log.gz (330 206 lignes)
- prod/nginx/vhost-error/2026-02-10.log.gz  (9 866 lignes)
- prod/gitlab/rails/2026-02-10.log.gz       (138 239 lignes)
- prod/gitlab/nginx/2026-02-10.log.gz       (49 298 lignes)
- prod/prod-portainer/docker/2026-02-10.log.gz (1 929 794 lignes)
- dev/dev-portainer/docker/2026-02-10.log.gz   (1 915 627 lignes)

Duree totale du script : ~33 min (dont ~30 min pour les 2 gros exports Docker)

Architecture resultante

nginx logs -> Promtail -> Loki (30j hot) -> Grafana (consultation temps reel)
                             |
                             v
              sync-logs-o2switch.sh (cron 3h AM, PVE)
                             |
                             v
                  O2switch ~/backup/logs/ (90j cold, ~29 Mo/jour)

nginx logs -> logrotate (cron daily, nginx VM)
              daily, 14 rotations, compress