ZeitreihenanalyseWS 2004/2005Michael Hauhs / Gunnar Lischeid

• Definition einer Zeitreihe, Eigenschafte Tests und Trenderkennung bei Zeitreihen

• Beispiele (ACF, Tests), Fouriertransformationen, Powerspektrum

• Zeitreihenmodellierung der ARMA-Klasse• Modellierung von Zeitreihen mit langem Gedächtnis• Nicht-lineare Methoden:

– Wiederkehrdiagramme– Komplexität und Information von Zeitreihen– Singuläre Systemanalyse (SSA) (?)– Wavelets (?)

Stochastizität

Nic

htl

inear i

tät

Schwingungen

Chaos

ARMA

NLARMA

Stabilitätsanalyse

Edge of chaos

1/f

Hidden Markov

?

????

?

?

?

?

Modellklassen in der S-NL Ebene

• Skalare (univariate) Zeitreihe als 1-d Projektion

aus multidimensionaler Dynamik

• Nicht einzelne Trajektorien, sondern topologische Eigenschaften

von Trajektorienensembles werden untersucht

(„Anfangsbedingungen sind irrelevant“)

• Stabilitätsanalyse liefert mögliches Verhalten:

- instabil/explodierend ("runaway solutions")

- Fixpunkt

- periodisches Verhalten

- Grenzzyklus

- Kompakte Mengen: Attraktoren

- (falls nicht kompakt: ergodische Systeme)

Zeitreihen als Ergebnis von Messungen an dynamischen

Systemen

• Untersucht wird das typische Langzeitverhalten

(unabhängig von den Details der Anfangsbedingungen)

• Dynamische Systeme werden im Zustandsraum beschrieben

• Ausgangspunkt sind i.d.R. deterministische Systeme

• Zwei Klassen:

- Kontinuierliche Systeme: DGL 1. Ordnung

- Diskrete Systeme : Iterationsgleichungen

Kurze Einführung in dynamische Systeme

)(1 nn xFx

Autonomes dynamisches System im Zustandsraum:

Die Menge der asymptotischen Trajektorien ist der Attraktor des Systems(Dimension D)

Takens Theorem (1983):

Beobachtung einer Zustandsvariablen und Bildung von Einbettungsvektoren

),...,,( )2()1( ndmndmndn xxxx

liefert eine treue Abbildung des Attraktors, falls 12 Dm

Diskrete dynamische Systeme, Attraktoren, Einbettung

Stabilität von dynamischen Systemen

Ein n-dimensionales dynamisches System sei gegeben:

nn FFFFxxxxxFx ,...,,,,...,,, 2121

Eine Menge von stationären Punkten sei gefunden:

00

xF

Linearisierung :

Wohin führen kleine Abweichungen?

j

xx

n

i j

i xx

FxFxxF

01

00

d.h.

xAx Lineare DGL 1. Ordnung!

ijA

Lösung der Stabilitätsgleichung

Wohin geht die Reise?

Satz (Lyapunov):(1)Haben die Eigenwerte der Matrix alle negativen Realteil,

ist das System bei stabil.(2) Gibt es einen Eigenwert mit positivem Realteil,

ist das System instabil.(3) Ist der größte Realteil = 0, liegt ein Zentrum vor.

A0x

0xetx At

)(xFx

Man betrachtet -Kugeln um einen Punkt zum Zeitpunkt 0:

Die Kugeln verformen sich zu späteren Zeiten zu Ellipsoiden mit Hauptachsen .

Dann lassen sich die Lyapunov-Exponenten des Systems so ermitteln:

(Zeitmittel)

)(xB

i

)(log1

lim)( xt

x it

i

(für ergodische Systeme nicht vom Ort abhängig)

Quantifizierung von Chaos: der kontinuierliche Fall

Mittlere Divergenzrate

Ergodische Systeme: hängt nicht vom Ort ab

dxxxf )()(ln Lyapunov-Exponent

Def.: Ein System ist chaotisch 0

Verallgemeinerung auf k Dimensionen: k Lyapunov-Exponentenaus den Eigenwerten der Jakobi-Matrix

kontrahierend/expandierend:

0 0

j

ix x

xfxfD

)(

)(

Falls mindestens einer 0 Chaos!

Definition des Lyapunov-Exponenten

(A) Segment of the phase space trajectory of the Lorenz system (for standard parameters r=28, σ=10, b=8/3; Lorenz 1963) by using its three components and (B) its corresponding recurrence plot. A point of the trajectory at j which falls into the neighbourhood (gray circle in (A)) of a given point at i is considered as a recurrence point (black point on the trajectory in (A)). This is marked with a black point in the RP at the location (i, j). A point outside the neighbourhood (small circle in (A)) causes a white point in the RP. The radius of the neighbourhood for the RP is ε=5.

Fraktale und Selbstähnlichkeit

• Kennzeichen eines Fraktals ist immer die nicht-ganzzahlige Dimension

• Es gibt nicht-selbstähnliche Fraktale• Nicht jede selbstähnliche Struktur ist ein

Fraktal (Gegenbeispiele: Strecke, Quadrat, Würfel)

• Selbstähnliche Strukturen, bei der die Anzahl der Teile nicht skaliert wie ihre topologische (ganzzahlige!) Dimension, sind Fraktale

• Zeitreihe {x(ti)} der Länge N liegt vor

Konstruktion von Einbettungsvektoren

• Abstandsberechnung

(für eine geeignete Norm p)

• Die Matrix R heisst

Wiederkehrmatrix von {x(ti)}

• Der Punkt (i,j) heisst wiederkehrend, falls

• Parameter: Einbettungsdimension m , Verzögerung , Schwellenwertradius r

• Wiederkehrdiagramme (RPs): farbkodierte Visualisierungen von R

rjiR ),(

pjmim tstsjiR )()(),(

))1(())1(( mNmN

Die Technik der Wiederkehrdiagramme

),,,()( )1( mtttm xxxts

Anzahl der Nachbarn abhängig von der Dimension

Versuch zur Ermittlung optimaler Parameter

• Teil 1: Ermittlung des optimalen Schwellenwertes r

• Bestimmung der Wiederkehrpunkte RP

als Funktion des Radius

• Berechnung des Zuwachses

• Maximum beim Überschreiten des „noise floors“

• danach Plateau? Wähle Beginn des Plateaus

• kein Plateau? dann halber Wert des Maximums

• Faustregel: RP ca. 30-50%

drdRP /

Kriterium zur Ermittlung des optimalen Schwellwert-Radius

Versuch zur Ermittlung optimaler Parameter II

• Teil 2: Ermittlung des Delays • Der Attraktor sollte nicht zu dicht „abgetastet“ werden

• Aufeinanderfolgende Einbettungsvektoren

sollten nicht zu stark autokorreliert sein

• Ermittlung der ersten Nullstelle der Autokorrelation

(linear) oder des ersten Minimums der wechselseitigen

Information (nichtlinear)

• Wahl des Delays dort in der Nähe

Versuch zur Ermittlung optimaler Parameter III

• Teil 3: Ermittlung der Einbettungsdimension

• Bestimme zu jedem Vektor

seinen nächsten Nachbarn

• Bestimme den Abstand der Werte

zum nächsten Zeitpunkt:

• Bestimme den Abstand im Originaldatensatz:

(„trivialer Prädiktor“)

• Ist , zählt

als „falscher“ (zufälliger) Nachbar

• Wähle die Einbettungsdimension mit der geringsten

Zahl von falschen Nachbarn

),...,,( 21 nxxxx

),...,,( 21 nyyyy

11 nnpred yxR

nnorig xxR 1

predorig RR y

Beispiel für falsche Nachbarn

• relative Anzahl der Wiederkehrpunkte (in Fenstern)• Deterministische Anteile sind an Linien unterschiedlicher Länge parallel zur Hauptdiagonalen erkennbar:

Wiederkehrdiagramme und ihre Quantifizierung (RQA)

„Optische Eindrücke objektivieren“

• Kurze Linien werden als zufällig angesehen

(Festlegung einer minimalen Linienlänge) • Verteilung der Linienlängen über Shannon-Entropie quantifiziert

nnn xy 1In (AR(1)-Modell)

ist mit der Linienlänge korreliert

max

min

)(log)(line

l

li

ipipS

• Die jeweils längste Linie ist mit dem höchsten Lyapunov-Exponenten invers korreliert• Abnahme der Wiederkehrpunkte nach aussen ( Trend )

Wiederkehrdiagramme und ihre Quantifizierung

(Fortsetzung)

Verallgemeinerung: Kreuzwiederkehrdiagramme

• zwei unterschiedliche Datenreihen• auf einheitlichen Wertebereich skalieren (z.B. [0,1])• Quantifizierung so wie vorher

Typische Muster in Wiederkehr-diagrammen:

http://www.agnld.uni-potsdam.de/~marwan/rp/index.php?a=glance

A: ZufälligB: PeriodischC: TrendD: Unterbrochen

http://www.agnld.uni-potsdam.de/~marwan/rp/index.php?a=glance

Vergleich:lineare Methoden und Wiederkehrdiagramm

N. Marwan und Kurths (2002)

Vergleich:lineare Methoden und Wiederkehrdiagramm

N. Marwan und Kurths (2002)

Vergleich mit komplexeren Modell:AR(1) gekoppelt mit dem Lorenz-System (n=8000) :

N. Marwan und Kurths (2002)

yn = 0.86yn-1 + 0.500ξn + κxn2

Vergleich mit komplexeren Modell:AR(1) gekoppelt mit dem Lorenz-System (n=8000) :

N. Marwan und Kurths (2002)

yn = 0.86yn-1 + 0.500ξn + κxn2

Die lineare Methode (Kreuzkorrelation)versagt