Ir al contenido

Architektura distribuované observability s Grafana stackem

Autor: Equipo Portelcore Objetivo: Nuestro objetivo es desplegar un entorno de observabilidad completo utilizando Grafana, Mimir, Loki, Tempo y Alloy...

0čtení

Autor: Tým Portelcore Cíl: Naším cílem je nasadit kompletní prostředí pro pozorovatelnost pomocí Grafana, Mimir, Loki, Tempo a Alloy na Ubuntu 24.04 LTS pro příjem a analýzu metrik, logů a stop webové aplikace (WordPress).

Disponujeme 3 servery Ubuntu 24.04 LTS s následujícími rolemi:

ServerRole / SlužbyIP adresa
Server 1 (Backend)Mimir (Metriky) + Loki (Logy) + Tempo (Trace)172.20.0.151
Server 2 (Frontend)Grafana (UI vizualizační rozhraní)172.20.0.166
Server 3 (Aplikace/Agent)Webový server (WordPress) + Grafana Alloy (Agent)172.20.0.176

FÁZE 0: Počáteční příprava (Na 3 serverech)

Sección titulada «FASE 0: Preparación Inicial (En los 3 Servidores)»

Před zahájením musíme spustit tyto příkazy na všech 3 serverech, abychom se ujistili, že je systém aktualizovaný, má správné časové pásmo a obsahuje všechny potřebné nástroje.

Ventana de terminal
sudo apt update && sudo apt upgrade -y
sudo timedatectl set-timezone Europe/Madrid
sudo apt install curl wget unzip nano -y

FÁZE 1: Backendový server (Mimir, Loki a Tempo)

Sección titulada «FASE 1: Servidor Backend (Mimir, Loki y Tempo)»

Spustíme na Serveru 1 (172.20.0.151)

Tento server přijímá veškerá data odesílaná agenty. Pro jejich profesionální správu vytvoříme služby systemd, které poběží na pozadí a budou se automaticky spouštět se systémem.

  1. Stáhneme a nainstalujeme binární soubor:
Ventana de terminal
wget https://github.com/grafana/mimir/releases/latest/download/mimir-linux-amd64
chmod +x mimir-linux-amd64
sudo mv mimir-linux-amd64 /usr/local/bin/mimir
  1. Vytvoříme konfiguraci a adresáře:
Ventana de terminal
sudo mkdir -p /etc/mimir
sudo mkdir -p /var/lib/mimir/blocks
sudo mkdir -p /var/lib/mimir/compactor
sudo nano /etc/mimir/mimir.yaml

Do mimir.yaml vložíme následující obsah:

multitenancy_enabled: false
server:
http_listen_port: 9009
grpc_listen_port: 9096
blocks_storage:
backend: filesystem
filesystem:
dir: /var/lib/mimir/blocks
ingester:
ring:
replication_factor: 1
kvstore:
store: inmemory
compactor:
data_dir: /var/lib/mimir/compactor
  1. Vytvoříme Systemd službu pro Mimir:
Ventana de terminal
sudo tee /etc/systemd/system/mimir.service > /dev/null <<EOF
[Unit]
Description=Grafana Mimir
After=network.target
[Service]
ExecStart=/usr/local/bin/mimir -config.file=/etc/mimir/mimir.yaml
Restart=always
[Install]
WantedBy=multi-user.target
EOF
  1. Stáhneme a nainstalujeme binární soubor:
Ventana de terminal
wget https://github.com/grafana/loki/releases/latest/download/loki-linux-amd64.zip
unzip loki-linux-amd64.zip
chmod +x loki-linux-amd64
sudo mv loki-linux-amd64 /usr/local/bin/loki
  1. Vytvoříme konfiguraci a adresáře:
Ventana de terminal
sudo mkdir -p /etc/loki
sudo mkdir -p /var/lib/loki/chunks
sudo mkdir -p /var/lib/loki/rules
sudo nano /etc/loki/loki.yaml

Do loki.yaml vložíme následující obsah:

auth_enabled: false
server:
http_listen_port: 3100
grpc_listen_port: 9097
common:
path_prefix: /var/lib/loki
storage:
filesystem:
chunks_directory: /var/lib/loki/chunks
rules_directory: /var/lib/loki/rules
replication_factor: 1
ring:
kvstore:
store: inmemory
schema_config:
configs:
- from: 2026-01-01
store: tsdb
object_store: filesystem
schema: v13
index:
prefix: index_
period: 24h
  1. Vytvoříme Systemd službu pro Loki:
Ventana de terminal
sudo tee /etc/systemd/system/loki.service > /dev/null <<EOF
[Unit]
Description=Grafana Loki
After=network.target
[Service]
ExecStart=/usr/local/bin/loki -config.file=/etc/loki/loki.yaml
Restart=always
[Install]
WantedBy=multi-user.target
EOF

1.3 Ingestace stop (traces): Grafana Tempo (Port 3200)

Sección titulada «1.3 Ingesta de Traces: Grafana Tempo (Puerto 3200)»
  1. Stáhneme a nainstalujeme binární soubor (připoután k ustálené verzi v2.10.1):
Ventana de terminal
wget https://github.com/grafana/tempo/releases/download/v2.10.1/tempo_2.10.1_linux_amd64.tar.gz
tar -xvzf tempo_2.10.1_linux_amd64.tar.gz
sudo mv tempo-linux-amd64 /usr/local/bin/tempo 2>/dev/null || sudo mv tempo /usr/local/bin/tempo
sudo chmod +x /usr/local/bin/tempo
  1. Vytvoříme konfiguraci a adresáře:
Ventana de terminal
sudo mkdir -p /etc/tempo
sudo mkdir -p /var/lib/tempo/traces
sudo nano /etc/tempo/tempo.yaml

Do tempo.yaml vložíme následující obsah:

server:
http_listen_port: 3200
grpc_listen_port: 9095
distributor:
receivers:
otlp:
protocols:
http:
grpc:
storage:
trace:
backend: local
local:
path: /var/lib/tempo/traces
  1. Vytvoříme Systemd službu pro Tempo:
Ventana de terminal
sudo tee /etc/systemd/system/tempo.service > /dev/null <<EOF
[Unit]
Description=Grafana Tempo
After=network.target
[Service]
ExecStart=/usr/local/bin/tempo -config.file=/etc/tempo/tempo.yaml
Restart=always
[Install]
WantedBy=multi-user.target
EOF

Nyní, když jsme vytvořili pravidla systemd pro všechny tři, znovu načteme konfiguraci systému a všechny je povolíme/spustíme najednou jedním příkazem:

Ventana de terminal
sudo systemctl daemon-reload
sudo systemctl enable --now mimir loki tempo

(Pomocí sudo systemctl status mimir loki tempo můžeme ověřit, že všechny tři běží v pozadí bez problémů).

FÁZE 2: Frontendový server (Grafana UI)

Sección titulada «FASE 2: Servidor Frontend (Grafana UI)»

Spustíme na Serveru 2 (172.20.0.166)

  1. Nainstalujeme Grafanu z oficiálního repozitáře:
Ventana de terminal
sudo apt install -y software-properties-common apt-transport-https
sudo wget -q -O /usr/share/keyrings/grafana.key https://apt.grafana.com/gpg.key
echo "deb https://apt.grafana.com stable main" | sudo tee -a /etc/apt/sources.list.d/grafana.list
sudo apt update
sudo apt install grafana -y
  1. Spustíme a povolíme službu:
Ventana de terminal
sudo systemctl enable --now grafana-server
  1. Accederemos a la Interfaz y Configuraremos:
    • Otevřeme webový prohlížeč a přejdeme na: http://172.20.0.166:3000
    • Přihlašovací jméno: admin / Heslo: admin (budete vyzváni k jeho změně).
    • Vamos a Conexiones > Fuentes de datos > Agregar fuente de datos y configuraremos estos 3 apuntando al Servidor 1 (172.20.0.151):
      • Prometheus (Pro Mimir): URL http://172.20.0.151:9009/prometheus
      • Loki: URL http://172.20.0.151:3100
      • Tempo: URL http://172.20.0.151:3200

Spustíme na Serveru 3 (172.20.0.176)

Ventana de terminal
# 1. Instalamos LAMP
sudo apt install apache2 mysql-server php php-mysql libapache2-mod-php -y
# 2. Habilitamos el módulo de estado de Apache (Necesario para obtener métricas)
sudo a2enmod status
sudo systemctl restart apache2
# 3. Configuramos la base de datos (Entramos con 'sudo mysql' y pegamos estas líneas)
sudo mysql -e "CREATE DATABASE wordpress;"
sudo mysql -e "CREATE USER 'wpuser'@'localhost' IDENTIFIED BY 'password';"
sudo mysql -e "GRANT ALL PRIVILEGES ON wordpress.* TO 'wpuser'@'localhost';"
sudo mysql -e "FLUSH PRIVILEGES;"
# 4. Descargamos e instalamos WordPress
cd /var/www/html
sudo rm index.html
sudo wget https://wordpress.org/latest.tar.gz
sudo tar -xvzf latest.tar.gz
sudo chown -R www-data:www-data wordpress

Budeme moci vstoupit do http://172.20.0.176/wordpress, abychom dokončili vizuální instalaci.

3.2 Nainstalujeme a nakonfigurujeme Grafana Alloy (Globální agent)

Sección titulada «3.2 Instalaremos y Configuraremos Grafana Alloy (El Agente Global)»
  1. Stáhneme a nainstalujeme binární soubor:
Ventana de terminal
cd ~
wget https://github.com/grafana/alloy/releases/latest/download/alloy-linux-amd64.zip
unzip alloy-linux-amd64.zip
chmod +x alloy-linux-amd64
sudo mv alloy-linux-amd64 /usr/local/bin/alloy
  1. Vytvoříme kompletní konfigurační soubor:
Ventana de terminal
sudo mkdir -p /etc/alloy
sudo nano /etc/alloy/config.alloy

Vložíme následující obsah. Tato konfigurace extrahuje Disk, CPU, Apache, MySQL, Logy a Trace:

Ventana de terminal
logging {
level = "info"
}
// --------------------------------------------------------
// 1. MÉTRICAS DEL SISTEMA (Disco, CPU, RAM, Red)
// --------------------------------------------------------
prometheus.exporter.unix "node" {}
prometheus.scrape "node" {
targets = prometheus.exporter.unix.node.targets
forward_to = [prometheus.remote_write.mimir.receiver]
}
// --------------------------------------------------------
// 2. MÉTRICAS DE APACHE (Servidor Web)
// --------------------------------------------------------
prometheus.exporter.regular_apache = prometheus.exporter.apache "apache" {
scrape_uri = "http://localhost/server-status?auto"
}
prometheus.scrape "apache" {
targets = prometheus.exporter.apache.apache.targets
forward_to = [prometheus.remote_write.mimir.receiver]
}
// --------------------------------------------------------
// 3. MÉTRICAS DE MYSQL (Base de Datos)
// --------------------------------------------------------
prometheus.exporter.mysql "mysql" {
data_source_name = "wpuser:password@(localhost:3306)/"
}
prometheus.scrape "mysql" {
targets = prometheus.exporter.mysql.mysql.targets
forward_to = [prometheus.remote_write.mimir.receiver]
}
// --------------------------------------------------------
// 4. OBSERVABILIDAD INTERNA (Mimir, Loki, Tempo)
// --------------------------------------------------------
prometheus.scrape "backend_services" {
targets = [
{"__address__" = "172.20.0.151:9009", "job" = "mimir"},
{"__address__" = "172.20.0.151:3100", "job" = "loki"},
{"__address__" = "172.20.0.151:3200", "job" = "tempo"},
]
forward_to = [prometheus.remote_write.mimir.receiver]
scrape_interval = "15s"
}
// 5. ENVIAR TODAS LAS MÉTRICAS A MIMIR
prometheus.remote_write "mimir" {
endpoint {
url = "http://172.20.0.151:9009/api/v1/push"
}
}
// --------------------------------------------------------
// 6. LOGS (Sistema y Apache)
// --------------------------------------------------------
loki.source.file "system_logs" {
targets = [
{__path__ = "/var/log/syslog", "job" = "syslog"},
{__path__ = "/var/log/auth.log", "job" = "auth"},
{__path__ = "/var/log/apache2/*.log", "job" = "apache"},
]
forward_to = [loki.write.loki.receiver]
}
// 7. ENVIAR LOGS A LOKI
loki.write "loki" {
endpoint {
url = "http://172.20.0.151:3100/loki/api/v1/push"
}
}
// --------------------------------------------------------
// 8. TRACES (Recepción y Envío a Tempo)
// --------------------------------------------------------
otelcol.receiver.otlp "default" {
http {}
grpc {}
output {
traces = [otelcol.exporter.otlp.tempo.input]
}
}
otelcol.exporter.otlp "tempo" {
client {
endpoint = "172.20.0.151:4317"
tls {
insecure = true
}
}
}
  1. Vytvoříme Systemd službu pro Alloy:
Ventana de terminal
sudo tee /etc/systemd/system/alloy.service > /dev/null <<EOF
[Unit]
Description=Grafana Alloy
After=network.target
[Service]
ExecStart=/usr/local/bin/alloy run /etc/alloy/config.alloy
Restart=always
[Install]
WantedBy=multi-user.target
EOF
  1. Spustíme Alloy (pro sběr a odesílání dat na pozadí):
Ventana de terminal
sudo systemctl daemon-reload
sudo systemctl enable --now alloy

Chcete-li ověřit, že vše funguje, otevřeme Grafanu (http://172.20.0.166:3000), přejdeme na Explore a vyzkoušíme zdroje dat.

Simulace 1: Útok hrubou silou (Generuje protokoly a latenci) Spustíme 50 simultánních požadavků proti přihlašovacímu formuláři WordPressu pro generování šumu v protokolech Apache a zvýšení latence.

Ventana de terminal
for i in {1..50}; do curl -s -X POST http://172.20.0.176/wordpress/wp-login.php > /dev/null; done

V Grafana -> Explore -> Loki: Vyhledáme {job="apache"} a budeme sledovat všechny přístupy zaznamenávané v reálném čase.

Simulace 2: Saturace CPU (Generuje vysoké metriky) Tento příkaz zatíží jedno jádro CPU na maximum.

yes > /dev/null &

V Grafana -> Explore -> Prometheus (Mimir): Budeme hledat node_cpu_seconds_total (podle CPU) nebo mysql_up (pro ověření funkčnosti databáze). (Pro zastavení saturace CPU spustíme killall yes).

Ověření tras (traces): V Grafana -> Explore -> Tempo: Budeme hledat service.name="wordpress", abychom viděli trasu HTTP požadavků, které jsme odeslali.

FÁZE 5: Doporučené oficiální dashboardy

Sección titulada «FASE 5: Dashboards Oficiales Recomendados»

Protože Alloy používá standardní exportéry (Node, Apache, MySQL), nemusíme vytvářet grafy od nuly. Můžeme importovat oficiální šablony z komunity Grafana.

Instrukce pro import:

  1. Přejdeme do našeho Grafana (http://172.20.0.166:3000).
  2. V levém menu klikneme na symbol ”+” -> Import.
  3. V poli „Import via grafana.com“ zadáme jeden z ID uvedené níže a poté klikneme na Load.
  4. V rozbalovacím seznamu níže vybereme náš datový zdroj (Prometheus/Mimir) a klikneme na Import.
  • ID 1860 (Node Exporter Full): Toto je nejznámější dashboard na světě pro sledování stavu fyzického serveru. Ukáže nám vytížení CPU, zbývající místo na disku našeho WordPress serveru, využití RAM, síťovou šířku pásma atd.
  • ID 3894 (Apache Overview): Ukáže nám v reálném čase, kolik webových požadavků přichází do našeho WordPressu, odezvu, aktivní pracovníky a přenesené bajty.
  • ID 7362 (MySQL Overview): Poskytne nám přehled o databázovém enginu WordPress: dotazy za sekundu, aktivní připojení, mezipaměť (cache) a výkon enginu InnoDB.

A co protokoly a stopky? Loki (protokoly) a Tempo (stopky) se obvykle lépe zobrazují pomocí karty Explore v Grafaně. Pokud je chceme přidat do řídicího panelu, stačí upravit jakýkoli importovaný panel, přidat nový dotaz (Query), vybrat jako zdroj dat 'Loki' a zadat {job="apache"} pro zobrazení protokolů přístupu k webové stránce vedle grafů CPU.