Ir al contenido

Архитектура распределенной наблюдаемости со стеком Grafana

Автор: Команда Portelcore Цель: Наша цель - развернуть полную среду наблюдаемости с помощью Grafana, Mimir, Loki, Tempo и Alloy...

0просмотры

Autor: Equipo Portelcore Objetivo: Наша цель - развернуть полную среду наблюдаемости с использованием Grafana, Mimir, Loki, Tempo и Alloy на Ubuntu 24.04 LTS для сбора и анализа метрик, логов и трасс веб-приложения (WordPress).

Архитектура и серверы

Sección titulada «Arquitectura y Servidores»

В нашем распоряжении 3 сервера Ubuntu 24.04 LTS со следующими ролями:

СерверРоль / УслугиIP-адрес
Сервер 1 (Backend)Mimir (Метрики) + Loki (Логи) + Tempo (Трейсы)172.20.0.151
Сервер 2 (Frontend)Grafana (UI-интерфейс визуализации)172.20.0.166
Сервер 3 (App/Агент)Веб-сервер (WordPress) + Grafana Alloy (Агент)172.20.0.176

ЭТАП 0: Начальная подготовка (на 3 серверах)

Sección titulada «FASE 0: Preparación Inicial (En los 3 Servidores)»

Перед началом работы необходимо выполнить эти команды на 3 серверах, чтобы убедиться, что система обновлена, настроена правильная временная зона и установлены необходимые инструменты.

Ventana de terminal
sudo apt update && sudo apt upgrade -y
sudo timedatectl set-timezone Europe/Madrid
sudo apt install curl wget unzip nano -y

ЭТАП 1: Backend-сервер (Mimir, Loki и Tempo)

Sección titulada «FASE 1: Servidor Backend (Mimir, Loki y Tempo)»

Мы выполним это на Сервере 1 (172.20.0.151)

Этот сервер будет принимать все данные, отправляемые агентами. Для профессионального управления ими мы создадим службы systemd, которые будут выполняться в фоновом режиме и запускаться автоматически при старте системы.

1.1 Сбор метрик: Grafana Mimir (Порт 9009)

Sección titulada «1.1 Ingesta de Métricas: Grafana Mimir (Puerto 9009)»
  1. Мы скачаем и установим бинарный файл:
Ventana de terminal
wget https://github.com/grafana/mimir/releases/latest/download/mimir-linux-amd64
chmod +x mimir-linux-amd64
sudo mv mimir-linux-amd64 /usr/local/bin/mimir
  1. Мы создадим конфигурацию и директории:
Ventana de terminal
sudo mkdir -p /etc/mimir
sudo mkdir -p /var/lib/mimir/blocks
sudo mkdir -p /var/lib/mimir/compactor
sudo nano /etc/mimir/mimir.yaml

Мы вставим следующее содержимое в mimir.yaml:

multitenancy_enabled: false
server:
http_listen_port: 9009
grpc_listen_port: 9096
blocks_storage:
backend: filesystem
filesystem:
dir: /var/lib/mimir/blocks
ingester:
ring:
replication_factor: 1
kvstore:
store: inmemory
compactor:
data_dir: /var/lib/mimir/compactor
  1. Мы создадим службу Systemd для Mimir:
Ventana de terminal
sudo tee /etc/systemd/system/mimir.service > /dev/null <<EOF
[Unit]
Description=Grafana Mimir
After=network.target
[Service]
ExecStart=/usr/local/bin/mimir -config.file=/etc/mimir/mimir.yaml
Restart=always
[Install]
WantedBy=multi-user.target
EOF

1.2 Сбор логов: Grafana Loki (Порт 3100)

Sección titulada «1.2 Ingesta de Logs: Grafana Loki (Puerto 3100)»
  1. Мы скачаем и установим бинарный файл:
Ventana de terminal
wget https://github.com/grafana/loki/releases/latest/download/loki-linux-amd64.zip
unzip loki-linux-amd64.zip
chmod +x loki-linux-amd64
sudo mv loki-linux-amd64 /usr/local/bin/loki
  1. Мы создадим конфигурацию и директории:
Ventana de terminal
sudo mkdir -p /etc/loki
sudo mkdir -p /var/lib/loki/chunks
sudo mkdir -p /var/lib/loki/rules
sudo nano /etc/loki/loki.yaml

Мы вставим следующее содержимое в loki.yaml:

auth_enabled: false
server:
http_listen_port: 3100
grpc_listen_port: 9097
common:
path_prefix: /var/lib/loki
storage:
filesystem:
chunks_directory: /var/lib/loki/chunks
rules_directory: /var/lib/loki/rules
replication_factor: 1
ring:
kvstore:
store: inmemory
schema_config:
configs:
- from: 2026-01-01
store: tsdb
object_store: filesystem
schema: v13
index:
prefix: index_
period: 24h
  1. Мы создадим службу Systemd для Loki:
Ventana de terminal
sudo tee /etc/systemd/system/loki.service > /dev/null <<EOF
[Unit]
Description=Grafana Loki
After=network.target
[Service]
ExecStart=/usr/local/bin/loki -config.file=/etc/loki/loki.yaml
Restart=always
[Install]
WantedBy=multi-user.target
EOF

1.3 Сбор трассировок: Grafana Tempo (Порт 3200)

Sección titulada «1.3 Ingesta de Traces: Grafana Tempo (Puerto 3200)»
  1. Мы скачаем и установим бинарный файл (зафиксированная стабильная версия v2.10.1):
Ventana de terminal
wget https://github.com/grafana/tempo/releases/download/v2.10.1/tempo_2.10.1_linux_amd64.tar.gz
tar -xvzf tempo_2.10.1_linux_amd64.tar.gz
sudo mv tempo-linux-amd64 /usr/local/bin/tempo 2>/dev/null || sudo mv tempo /usr/local/bin/tempo
sudo chmod +x /usr/local/bin/tempo
  1. Мы создадим конфигурацию и директории:
Ventana de terminal
sudo mkdir -p /etc/tempo
sudo mkdir -p /var/lib/tempo/traces
sudo nano /etc/tempo/tempo.yaml

Мы вставим следующее содержимое в tempo.yaml:

server:
http_listen_port: 3200
grpc_listen_port: 9095
distributor:
receivers:
otlp:
protocols:
http:
grpc:
storage:
trace:
backend: local
local:
path: /var/lib/tempo/traces
  1. Мы создадим службу Systemd для Tempo:
Ventana de terminal
sudo tee /etc/systemd/system/tempo.service > /dev/null <<EOF
[Unit]
Description=Grafana Tempo
After=network.target
[Service]
ExecStart=/usr/local/bin/tempo -config.file=/etc/tempo/tempo.yaml
Restart=always
[Install]
WantedBy=multi-user.target
EOF

1.4 Мы запустим все службы одновременно в фоновом режиме

Sección titulada «1.4 Iniciaremos todos los servicios al mismo tiempo y en segundo plano»

Теперь, когда мы создали правила systemd для всех трех, мы перезагрузим конфигурацию системы и включим/запустим их все сразу одной командой:

Ventana de terminal
sudo systemctl daemon-reload
sudo systemctl enable --now mimir loki tempo

(Мы можем убедиться, что все три успешно работают в фоновом режиме с помощью sudo systemctl status mimir loki tempo).

ЭТАП 2: Frontend-сервер (Grafana UI)

Sección titulada «FASE 2: Servidor Frontend (Grafana UI)»

Выполним на Сервере 2 (172.20.0.166)

  1. Установим Grafana из официального репозитория:
Ventana de terminal
sudo apt install -y software-properties-common apt-transport-https
sudo wget -q -O /usr/share/keyrings/grafana.key https://apt.grafana.com/gpg.key
echo "deb https://apt.grafana.com stable main" | sudo tee -a /etc/apt/sources.list.d/grafana.list
sudo apt update
sudo apt install grafana -y
  1. Запустим и включим службу:
Ventana de terminal
sudo systemctl enable --now grafana-server
  1. Мы получим доступ к интерфейсу и настроим:
    • Откройте веб-браузер и перейдите по адресу: http://172.20.0.166:3000
    • Логин: admin / Пароль: admin (вам будет предложено его изменить).
    • Перейдем в Подключения > Источники данных > Добавить источник данных и настроим эти 3, указывая на сервер 1 (172.20.0.151):
      • Prometheus (для Mimir): URL http://172.20.0.151:9009/prometheus
      • Loki: URL http://172.20.0.151:3100
      • Tempo: URL http://172.20.0.151:3200

ЭТАП 3: Сервер приложений (WordPress + Alloy)

Sección titulada «FASE 3: Servidor de Aplicación (WordPress + Alloy)»

Мы выполним это на Сервере 3 (172.20.0.176)

3.1 Установим приложение (стек WordPress LAMP)

Sección titulada «3.1 Instalaremos la Aplicación (WordPress Stack LAMP)»
Ventana de terminal
# 1. Instalamos LAMP
sudo apt install apache2 mysql-server php php-mysql libapache2-mod-php -y
# 2. Habilitamos el módulo de estado de Apache (Necesario para obtener métricas)
sudo a2enmod status
sudo systemctl restart apache2
# 3. Configuramos la base de datos (Entramos con 'sudo mysql' y pegamos estas líneas)
sudo mysql -e "CREATE DATABASE wordpress;"
sudo mysql -e "CREATE USER 'wpuser'@'localhost' IDENTIFIED BY 'password';"
sudo mysql -e "GRANT ALL PRIVILEGES ON wordpress.* TO 'wpuser'@'localhost';"
sudo mysql -e "FLUSH PRIVILEGES;"
# 4. Descargamos e instalamos WordPress
cd /var/www/html
sudo rm index.html
sudo wget https://wordpress.org/latest.tar.gz
sudo tar -xvzf latest.tar.gz
sudo chown -R www-data:www-data wordpress

Мы сможем войти на http://172.20.0.176/wordpress, чтобы завершить визуальную установку.

3.2 Установим и настроим Grafana Alloy (глобальный агент)

Sección titulada «3.2 Instalaremos y Configuraremos Grafana Alloy (El Agente Global)»
  1. Мы скачаем и установим бинарный файл:
Ventana de terminal
cd ~
wget https://github.com/grafana/alloy/releases/latest/download/alloy-linux-amd64.zip
unzip alloy-linux-amd64.zip
chmod +x alloy-linux-amd64
sudo mv alloy-linux-amd64 /usr/local/bin/alloy
  1. Создадим полный конфигурационный файл:
Ventana de terminal
sudo mkdir -p /etc/alloy
sudo nano /etc/alloy/config.alloy

Вставим следующее содержимое. Эта конфигурация собирает данные о диске, CPU, Apache, MySQL, логах и трассировках:

Ventana de terminal
logging {
level = "info"
}
// --------------------------------------------------------
// 1. MÉTRICAS DEL SISTEMA (Disco, CPU, RAM, Red)
// --------------------------------------------------------
prometheus.exporter.unix "node" {}
prometheus.scrape "node" {
targets = prometheus.exporter.unix.node.targets
forward_to = [prometheus.remote_write.mimir.receiver]
}
// --------------------------------------------------------
// 2. MÉTRICAS DE APACHE (Servidor Web)
// --------------------------------------------------------
prometheus.exporter.regular_apache = prometheus.exporter.apache "apache" {
scrape_uri = "http://localhost/server-status?auto"
}
prometheus.scrape "apache" {
targets = prometheus.exporter.apache.apache.targets
forward_to = [prometheus.remote_write.mimir.receiver]
}
// --------------------------------------------------------
// 3. MÉTRICAS DE MYSQL (Base de Datos)
// --------------------------------------------------------
prometheus.exporter.mysql "mysql" {
data_source_name = "wpuser:password@(localhost:3306)/"
}
prometheus.scrape "mysql" {
targets = prometheus.exporter.mysql.mysql.targets
forward_to = [prometheus.remote_write.mimir.receiver]
}
// --------------------------------------------------------
// 4. OBSERVABILIDAD INTERNA (Mimir, Loki, Tempo)
// --------------------------------------------------------
prometheus.scrape "backend_services" {
targets = [
{"__address__" = "172.20.0.151:9009", "job" = "mimir"},
{"__address__" = "172.20.0.151:3100", "job" = "loki"},
{"__address__" = "172.20.0.151:3200", "job" = "tempo"},
]
forward_to = [prometheus.remote_write.mimir.receiver]
scrape_interval = "15s"
}
// 5. ENVIAR TODAS LAS MÉTRICAS A MIMIR
prometheus.remote_write "mimir" {
endpoint {
url = "http://172.20.0.151:9009/api/v1/push"
}
}
// --------------------------------------------------------
// 6. LOGS (Sistema y Apache)
// --------------------------------------------------------
loki.source.file "system_logs" {
targets = [
{__path__ = "/var/log/syslog", "job" = "syslog"},
{__path__ = "/var/log/auth.log", "job" = "auth"},
{__path__ = "/var/log/apache2/*.log", "job" = "apache"},
]
forward_to = [loki.write.loki.receiver]
}
// 7. ENVIAR LOGS A LOKI
loki.write "loki" {
endpoint {
url = "http://172.20.0.151:3100/loki/api/v1/push"
}
}
// --------------------------------------------------------
// 8. TRACES (Recepción y Envío a Tempo)
// --------------------------------------------------------
otelcol.receiver.otlp "default" {
http {}
grpc {}
output {
traces = [otelcol.exporter.otlp.tempo.input]
}
}
otelcol.exporter.otlp "tempo" {
client {
endpoint = "172.20.0.151:4317"
tls {
insecure = true
}
}
}
  1. Создадим службу Systemd для Alloy:
Ventana de terminal
sudo tee /etc/systemd/system/alloy.service > /dev/null <<EOF
[Unit]
Description=Grafana Alloy
After=network.target
[Service]
ExecStart=/usr/local/bin/alloy run /etc/alloy/config.alloy
Restart=always
[Install]
WantedBy=multi-user.target
EOF
  1. Запустим Alloy (для сбора и отправки данных в фоновом режиме):
Ventana de terminal
sudo systemctl daemon-reload
sudo systemctl enable --now alloy

ЭТАП 4: Визуализация и стресс-тестирование

Sección titulada «FASE 4: Visualización y Simulaciones de Estrés»

Чтобы проверить работоспособность, мы откроем Grafana (http://172.20.0.166:3000), перейдем в Explore и протестируем источники данных (Data Sources).

4.1 Симуляции с нашего компьютера (или с Сервера 3)

Sección titulada «4.1 Simulaciones desde nuestro equipo (o desde el Servidor 3)»

Симуляция 1: Атака методом перебора (Генерирует логи и латентность) Мы отправим 50 одновременных запросов к логину WordPress, чтобы создать шум в логах Apache и повысить латентность.

Ventana de terminal
for i in {1..50}; do curl -s -X POST http://172.20.0.176/wordpress/wp-login.php > /dev/null; done

В Grafana -> Explore -> Loki: Мы будем искать {job="apache"} и увидим, как все попытки доступа регистрируются в режиме реального времени.

Симуляция 2: Перегрузка CPU (Генерирует высокие метрики) Эта команда загрузит одно ядро CPU на максимум.

yes > /dev/null &

В Grafana -> Explore -> Prometheus (Mimir): Мы ищем node_cpu_seconds_total (по CPU) или mysql_up (чтобы проверить, что база данных работает). (Чтобы остановить перегрузку CPU, мы выполним killall yes).

Проверка трассировок (Traces): В Grafana -> Explore -> Tempo: Мы будем искать service.name="wordpress", чтобы проследить путь выполненных нами HTTP-запросов.

ЭТАП 5: Рекомендованные официальные дашборды

Sección titulada «FASE 5: Dashboards Oficiales Recomendados»

Поскольку Alloy использует стандартные экспортеры (Node, Apache, MySQL), нам не нужно создавать графики с нуля. Мы можем импортировать официальные шаблоны из сообщества Grafana.

Инструкции по импорту:

  1. Перейдем в наш Grafana (http://172.20.0.166:3000).
  2. В левом меню нажмите на символ ”+” -> Import.
  3. В поле “Import via grafana.com” введите один из ID, указанных ниже, и нажмите Load.
  4. Выберите наш источник данных (Prometheus/Mimir) в выпадающем списке ниже и нажмите Import.

Шаблоны для импорта:

Sección titulada «Plantillas a Importar:»
  • ID 1860 (Node Exporter Full): Это самый известный в мире дашборд для мониторинга состояния физического сервера. Он покажет загрузку CPU, оставшееся место на диске нашего сервера WordPress, использование RAM, пропускную способность сети и т. д.
  • ID 3894 (Apache Overview): Он будет показывать в реальном времени количество входящих веб-запросов на наш WordPress, время отклика, количество активных рабочих процессов и переданные байты.
  • ID 7362 (MySQL Overview): Это даст нам возможность мониторинга движка базы данных WordPress: количество запросов в секунду, активные соединения, кэш-память и производительность движка InnoDB.

А что с логами и трассами? Loki (логи) и Tempo (трассы) обычно лучше просматривать через вкладку Explore в Grafana. Если мы хотим добавить их в информационную панель, нам просто нужно отредактировать любую импортированную панель, добавить новый запрос (Query), выбрать в качестве источника данных «Loki» и ввести {job="apache"}, чтобы иметь логи доступа к веб-сайту рядом с графиками CPU.