OSMC 2014: Monitoring mit Graphite | Falk Stern

Monitoring mit

Graphite

Hallo!

35 Jahre alt

Erst Unixadmin, dann Netzwerker

Spielplätze sind Web, Enterprise und Service Provider

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 2

Worum gehts?

Graphite, Aufzucht und Pflege

Wie kriege ich Daten in Graphite rein?

Was kann ich mit Graphite tun?

Wie bekomme ich meine Daten aus Graphite wieder raus?

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 3

Was ist Graphite

Graphite ist eine Time-Series Datenbank

Graphite speichert einen Wert für eine Metrik für ein

Zeitintervall

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 4

Was ist Graphite?

carbon und whisper sind in python geschrieben

Die Webapp ist eine Django Applikation

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 5

Wer entwickelt Graphite?

Chris Davis begann 2006 mit der Entwicklung und hat das

Projekt 2008 unter der Apache 2.0 Lizenz veröffentlicht.

Aktuelle Entwicklungen findet man unter

https://github.com/graphite-project

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 6

Was kann ich mit Graphite machen?

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 7

Welche Komponenten hat Graphite

carbon

whisper

graphite webapp

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 8

whisper? carbon?

carbon sorgt dafür, daß Daten in whisper gespeichert

werden.

Die webapp kann die in whisper gespeicherten Daten

anzeigen, als Graph, CSV oder JSON

carbon besteht aus 3 Teilen, aber dazu später mehr.

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 9

Performance?

carbon mag SSDs

Keinen drehenden Rost verwenden!

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 10

Setup @ XING

HP DL380G8

6 mal 240G SSD

ca. 18000 metrics/s, gespiegelt

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 11

Daten rein?

carbon kennt 2 Datenformate - Text & Pickle

Text Format

metric value timestamp

> servers.webserver.load 1.2 1416061851

metric value

> servers.webserver.load 1.2

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 12

Daten rein

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 13

Client carbon-cache

whisper

TCP/2003

Scaling carbon

Client carbon-relayTCP/2003

carbon-cache

carbon-cache

carbon-cache

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 14

Scaling carbon

Client carbon-relayTCP/2003

carbon-cache

carbon-cache

carbon-cache

carbon-cache

carbon-cache

carbon-cache

carbon-relay carbon-relay

carbon-relay

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 15

carbon-aggregator

carbon-aggregator kann vor carbon-cache oder carbon-

relay geschaltet werden, um Metriken zu aggregieren.

Damit kann die I/O Last verringert werden und Metriken

können in kürzeren Intervallen geschickt werden

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 16

whisper – oder wie Graphite Daten speichert

whisper ist ähnlich wie RRD

Feste Dateigröße

Auflösung wird über die Zeit unschärfer

Beliebig konfigurierbar:

–10s Auflösung für 6 Stunden

–60s Auflösung für 7 Tage

–5 Minuten Auflösung für 2 Monate

–15 Minuten Auflösung für 2 Jahre

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 17

Warum whisper und nicht RRD?

RRD kann nicht mit Updates umgehen,

die vor dem letzten Update lagen

Wenn RRD nicht regelmäßige Updates bekommt,

können Daten verloren gehen

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 18

Nachteile?

whisper ist langsamer als RRD

whisper hätte die Daten gerne im höchsten

Auflösungsintervall, sonst gibt es Lücken

Kommen Metriken öfter als das konfigurierte Intervall,

gelten die letzten, die in dem Intervall geschrieben

wurden!

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 19

Wer unterstützt denn Graphite?

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 20

Brightcove Diamond

Daten raus

Graphite Webapp

• Bild

• CSV

• JSON

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 21

Webfrontend

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 22

Graphen

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 23

Funktionen

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 24

Rechnen mit graphite

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 25

Grafana

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 26

Dusk

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 27

Sonstiges

Tessera

• Dashboards aus Graphite Daten

Seyren

• Alarmierung anhand von Graphite Daten

Cabot

• Monitoring Framework, das auch Graphite Daten

beachten kann

20.11.14 // Monitoring mit Graphite // Falk Stern // OSMC 2014 28

www.xing.com

Fragen?

www.xing.com

Danke für eure

Aufmerksamkeit!