74

Lokal stationäre Prozesse - Ruhr-Universität Bochum · Stationäre Prozesse Lokal stationäre Prozesse rameterschätzungaP in lokal stationären Zeitreihen estsT auf Stationarität

  • Upload
    danganh

  • View
    224

  • Download
    0

Embed Size (px)

Citation preview

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre Prozesse

Philip Preuÿ

16. Mai 2010

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Inhaltsverzeichnis1 Stationäre Prozesse

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

2 Lokal stationäre ProzesseLokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

3 Parameterschätzung in lokal stationären ZeitreihenKullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

4 Tests auf StationaritätTest auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite

5 Beweis asymptotischer NormalverteilungKumulanteBeweis asymptotischer Normalverteilung

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Stationäre Prozesse

Ein stochastischer Prozess (Xt)t∈Z heiÿt stationär, falls1 E|Xt |2 <∞ ∀t ∈ Z2 E(Xt) = m ∀t ∈ Z3 Cov(Xt+h,Xt) = γ(h) ∀t, h ∈ Z

Die Funktion γ(·) wird Autokovarianzfunktion genannt.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Beispiele I

Es seien (Zi )i∈Z unkorreliert mit Erwartungswert 0 und Varianz σ2 <∞. Dannist (Zi )i∈Z o�ensichtlich stationär mit

γ(h) =

{σ2, wenn h = 0

0, wenn h 6= 0

(Zi )i∈Z wird White-Noise Prozess genannt.

Kurzform:

Zi ∼WN(0, σ2)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Beispiele II

Es seien Zi ∼WN(0, σ2). Dann ist

Xt = Zt + θ1Zt−1 + ...+ θqZt−q

stationär und

γ(h) =

{σ2∑q−|h|

j=0 θjθj+|h|, wenn |h| ≤ q

0, wenn |h| > q

(Xt)t∈Z bezeichnet man als MA(q)-Prozess.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Beispiele III

Gilt∑∞

j=−∞ |θj | <∞, dann ist der durch

Xt =∞∑

j=−∞

θjZt−j

de�nierte Prozess stationär und wird als MA(∞)-Prozess bezeichnet.

Sehr viele stationäre Prozesse lassen sich als MA(∞)-Prozess darstellen.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Beispiele IV

Der Prozess

Xt − φ1Xt−1 − ...− φpXt−p = Zt

hat unter gewissen Voraussetzungen an die Konstanten eine stationäre Lösungund wird AR(p)-Prozess genannt.

AR(p)- und MA(q)- Prozesse lassen sich �zusammensetzen� zu

Xt − φ1Xt−1 − ...− φpXt−p = Zt + θ1Zt−1 + ...+ θqZt−q. (1)

(1) besitzt unter gewissen Voraussetzungen an die Konstanten eine stationäreLösung und wird als ARMA(p, q)-Prozess bezeichnet.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Spektraldichte I

Für die Autokovarianzfunktion existiert folgende Darstellung:

γ(h) =

∫ π

−πexp(ihλ)dF (λ),

wobei F eine rechtsstetige, nicht fallende und beschränkte Funktion auf [−π, π]mit F (−π) = 0 ist.

F heiÿt Spektralmaÿ des stationären Prozesses.

Besitzt das Spektralmaÿ F eine Dichte f (λ), so wird diese Spektraldichtegenannt.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Spektraldichte II

Ist die Autokovarianzfunktion γ(h) des stationären Prozesses (Xt)t∈Z absolutsummierbar, d.h. gilt

∞∑h=−∞

|γ(h)| <∞,

so existiert eine Spektraldichte und es gilt

f (λ) =1

∞∑n=−∞

γ(n) exp(−inλ).

Im Folgenden besitze Xt eine MA(∞)-Darstellung und habe somit eine stetigeSpektraldichte.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Periodogramm

Ein erwartungstreuer Schätzer für f (λ) ist durch

In(λ) =1

2πn

∣∣∣ n∑t=1

Xt exp(−itλ)∣∣∣2

gegeben.

In(λ) ist jedoch nicht konsistent.

Einen konsistenten Schätzer für f (λ) erhalten wir, indem wir In(λj) für gewisseλj in der Umgebung von λ berechnen und mit Hilfe geeigneterGlättungsfunktionen aufsummieren.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Orthogonale Prozesse I

Wir bezeichnen einen komplexwertigen stochastischen Prozessξ(λ),−π ≤ λ ≤ π als orthogonal, wenn die drei Bedingungen

1 E|ξ(λ)|2 <∞ − π ≤ λ ≤ π2 E(ξ(λ)) = 0 − π ≤ λ ≤ π3 Cov(ξ(λ4)− ξ(λ3), ξ(λ2)− ξ(λ1)) = 0 falls (λ1, λ2] ∩ [λ3, λ4) = ∅

erfüllt sind.

Wir nehmen auÿerdem an, dass jeder orthogonale Prozess rechtsstetig (imquadratischen Mittel) ist, d.h.

E|ξ(λ+ δ)− ξ(λ)|2 → 0 für δ ↓ 0.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Orthogonale Prozesse II

Wenn wir nun mit

F (µ) := E|ξ(µ)− ξ(−π)|2

die zu {ξ(λ),−π ≤ λ ≤ π} gehörige Verteilungfunktion bezeichnen so könnenwir für

Cov(ξ(λ4)− ξ(λ3), ξ(λ2)− ξ(λ1)) = 0 falls (λ1, λ2] ∩ [λ3, λ4) = ∅

die kürzere (und üblichere) Notation

E(dξ(λ)dξ(µ)) = δλ,µdF (λ)

verwenden.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Stochastische Integration

Nun lässt sich für jede Funktion g auf [−π, π], welche bzgl. F quadratischintegrierbar ist, das stochastische Integral

I (g) :=

∫ π

−πg(λ)dξ(λ)

als L2-Limes von I (gn) de�nieren, wobei gn =∑n

i=0 gi,nI(λi ,λi+1](λ) eineeinfache Funktion mit ||gn − g ||L2(F ) → 0 ist und

I (gn) :=n∑

i=0

gi,n(ξ(λi+1)− ξ(λi ))

Beachte: E(I (g)) = 0

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Spektraldarstellung eines stationären Prozesses I

Für jeden zentrierten stationären Prozess Xt existiert eine Darstellung der Form

Xt =

∫ π

−πexp(iλt)A(λ)dξ(λ)

mit einer stetigen Funktion A(λ) : R→ C, die A(λ) = A(−λ) erfüllt undeinem orthogonalen Prozess {ξ(λ),−π ≤ λ ≤ π}.Im Folgenden sei OBdA dF (λ) = dλ und ξ(λ) = ξ(−λ). Dann gilt

E(dξ(λ)dξ(−µ)) = δλ,µdλ

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung

Spektraldarstellung eines stationären Prozesses II

Es gilt

Cov(Xt ,Xt+k) = E(XtXt+k)

=

∫ π

−π

∫ π

−πexp(iλ1t) exp(−iλ2(t + k))A(λ1)A(−λ2)E(dξ(λ1)dξ(−λ2))

=

∫ π

−πexp(−iλk)A(λ)A(−λ)dλ (2)

De�nieren wir nun f (λ) := |A(λ)|2 = A(λ)A(−λ) so folgt aus (2)

Cov(Xt ,Xt+k) =

∫ π

−πexp(−iλk)f (λ)dλ

und mit der Fouriertransformation ergibt sich

f (λ) =1

∞∑n=−∞

Cov(Xn,X0) exp(−iλn)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Problem stationärer Prozesse

Stationäre Prozesse lassen sich einfach handhaben => Viele Prozesse werdenals stationäre Prozesse modelliert.

Problem: Prozesse in der Realität ändern ihre Abhängigkeitsstruktur mit derZeit.

Man möchte z.B. ARMA-Prozesse betrachten, bei denen die Konstanten durchFunktionen ersetzt werden.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Lokal stationärer Prozesse I

Betrachte den Prozess

Xt = g(t)Xt−1 + Zt für t = 1, ...,T , (3)

wobei Zt ∼WN(0, σ2).

Problem: Asymptotischer Ansatz mit T →∞ macht wenig Sinn.

Lösung: Schränke g auf das Intervall [0, 1] ein und reskaliere die Zeitpunkte,d.h. betrachte t/T statt t. D.h. (3) �wird zu�

Xt,T = g(t/T )Xt−1,T + Zt für t = 1, ...,T . (4)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Lokal stationärer Prozesse II

Stationäre Prozesse:

Xt = µ+

∫ π

−πexp(iλt)A(λ)dξ(λ)

Setze an für lokal stationäre Prozesse:

Xt,T = µ(t/T ) +

∫ π

−πexp(iλt)A(t/T , λ)dξ(λ) (5)

Problem: (4) besitzt keine Lösung der Form (5).

Aber: (4) besitzt asymptotisch eine Lösung der Form (5).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

De�nition eines lokal stationären Prozesses

Eine Folge von stochastischen Prozessen Xt,T (t = 1, ...,T ) ist ein lokalstationärer Prozess, wenn Xt,T eine Darstellung der Form

Xt,T = µ(t/T ) +

∫ π

−πexp(iλt)A0t,T (λ)dξ(λ) (6)

besitzt, wobei:1 µ : [0, 1]→ C ist stetig.2 ξ(λ) ist ein orthogonaler Prozess wie oben (hier gibt es Unterschiede in den

De�nitionen!!).3 Es existiert ein K ∈ R und eine 2π-periodische und stetige Funktion

A : [0, 1]×R→ C mit A(u,−λ) = A(u, λ) und

supt,λ|A0

t,T (λ)− A(t/T , λ)| ≤ KT−1.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Spektraldichte

Die Spektraldichte eines lokal stationären Prozesses ist durch

f (u, λ) = |A(u, λ)|2

de�niert.

Cov(Xt,T ,Xt+k,T ) =

∫ π

−πexp(−iλk)A0t,T (λ)A0t+k,T (−λ)dλ

Die Kovarianzstruktur kann sich also insbesondere mit der Zeit ändern.

Im Folgenden sei µ ≡ 0.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Beispiele I

Ist Yt ein stationärer Prozess der Form

Yt =

∫ π

−πexp(iλt)A(λ)dξ(λ),

so ist (falls µ(·), σ(·) stetig)

Xt,T = µ(t/T ) + σ(t/T )Yt mit t = 1, ...,T

o�ensichtlich lokal stationär mit

A0t,T (λ) = A(t/T , λ) = σ(t/T )A(λ)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Beispiele II

Es seien ak(·) stetige Funktionen und es gelte∑∞

k=−∞ |at,T ,k | <∞,∑∞k=−∞ supu |ak(u)| <∞ und

supt

∞∑k=−∞

|at,T ,k − ak(t/T )| = O(T−1). (7)

Dann ist

Xt,T =∞∑

k=−∞

at,T ,kZt−k , Zt ∼WN(0, σ2)

lokal stationär.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:Xt,T =∑∞

k=−∞ at,T ,kZt−k lokal stationär I

Beweis: Es existiert eine Darstellung

Zt =σ√2π

∫ π

−πexp(iλt)dξ(λ)

De�niert man nun

A0t,T =σ√2π

∞∑k=−∞

at,T ,k exp(−iλk)

A(u, λ) =σ√2π

∞∑k=−∞

ak(u) exp(−iλk),

so gilt∫ π

−πA0t,T (λ) exp(iλt)dξ(λ) =

σ√2π

∞∑k=−∞

at,T ,k

∫ π

−πexp(iλ(t − k))dξ(λ)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:Xt,T =∑∞

k=−∞ at,T ,kZt−k lokal stationär II

Mit (7) folgt

supt,λ|A0t,T (λ)− A(t/T , λ)| ≤ σ√

2πsupt

∞∑k=−∞

|at,T ,k − ak(t/T )| = O(T−1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

MA(∞)-Darstellung I

De�niere für einen lokal stationären Prozess

at,T ,k :=

∫ π

−πA0t,T (λ) exp(iλk)dλ

ak(u) :=

∫ π

−πA(u, λ) exp(iλk)dλ

Zt :=

∫ π

−πexp(iλt)dξ(λ).

Dann gilt E(Zt) = 0 und E(ZsZt) = 2πδs,t und mitA0t,T (λ) = 1

∑∞k=−∞ at,T ,k exp(−iλk) ergibt sich

Xt,T =1

∞∑k=−∞

at,T ,kZt−k

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

MA(∞)-Darstellung II

Aus

supt,λ|A0t,T (λ)− A(t/T , λ)| = O(T−1)

folgt

supt,k|at,T ,k − ak(t/T )| = O(T−1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Lokal stationäre AR(p)-Prozesse

Betrachte

p∑j=0

aj(t/T )Xt−j,T = σ(t/T )Zt , t ∈ Z, Zt ∼WN(0, 1) (8)

Es sei a0(u) ≡ 1 und aj(·), σ(·) seien stetig mit σ(u) = σ(0) für u < 0 undσ(u) = σ(1) für u > 1 (analog für aj) und aj(·), σ(·) seien di�erenzierbar mitbeschränkter Ableitung.

Gilt∑p

j=0 aj(u)z j 6= 0 für alle |z | ≤ 1 + c mit c > 0 gleichmäÿig in u, sobesitzt (8) eine lokal stationäre Lösung mit

A(u, λ) =σ(u)√2π

( p∑j=0

aj(u) exp(−ijλ))−1

A0t,T (λ) = A(0, λ) für t < 1 und A0t,T (λ) = A(1, λ) für t > 1.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. I

Beweis: Künsch (1995) hat gezeigt, dass (8) eine Lsg. der Form

Xt,T =∞∑l=0

ψt,T ,lZt−l

mit∑∞

l=0 |ψt,T ,l | <∞ besitzt. D.h. es gilt

Xt,T =

∫ π

−πexp(iλt)A0t,T (λ)dξ(λ)

mit

A0t,T (λ) =1√2π

∞∑l=0

ψt,T ,l exp(−iλl)

Zu zeigen bleibt:

supt,λ|A0t,T (λ)− A(t/T , λ)| = O(T−1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. II

Wenn wir in

p∑j=0

aj(t

T)Xt−j,T = σ(

t

T)Zt

Xt,T =∫ π−π exp(iλt)A0t,T (λ)dξ(λ) und Zt = 1√

∫ π−π exp(iλt)dξ(λ) einsetzen,

so erhalten wir∫ π

−π

σ( tT

)√2π

exp(iλt)dξ(λ) =

∫ π

−π

p∑j=0

aj(t

T) exp(iλ(t − j))A0t−j,T (λ)dξ(λ)

⇒∫ π

−πexp(iλt)

{σ( tT

)√2π−

p∑j=0

aj(t

T) exp(−iλj)A0t−j,T (λ)

}︸ ︷︷ ︸

=:g(t,λ)

dξ(λ) = 0

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. III

Aus ∫ π

−πexp(iλt)g(λ, t)dξ(λ) = 0 f.s.

folgt

0 = V(∫ π

−πexp(iλt)g(t, λ)dξ(λ)

)=

∫ π

−π|g(t, λ)|2dλ

⇒ g(t, λ) ≡ 0 ∀t

bzw.

σ( tT

)√2π

=

p∑j=0

aj(t

T) exp(−iλj)A0t−j,T (λ).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. IV

Aus A(u, λ) = σ(u)√2π

(∑pj=0 aj(u) exp(−ijλ)

)−1folgt

σ(t/T )√2π

=

p∑j=0

aj(t

T) exp(−iλj)A(t/T , λ)

=

p∑j=0

aj(t

T) exp(−iλj)A(

t − j

T, λ)

+

p∑j=0

aj(t

T) exp(−iλj)

{A(

t

T, λ)− A(

t − j

T, λ)}

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. V

⇒p∑

j=0

aj(t

T) exp(iλ(t − j))

{A0t−j,T (λ)− A(

t − j

T, λ)}

=

p∑j=0

aj(t

T) exp(iλ(t − j))

{A(

t

T, λ)− A(

t − j

T, λ)}

=: σ(t

T)δt,T (λ) mit δt,T (λ) = 0 für t ≤ 0.

Beachte:

supt,λ|δt,T (λ)| = O(T−1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. VI

Es lässt sich zeigen:

∞∑l=0

ψt,T ,lδt−l,T (λ)

= exp(iλt)

p∑j=0

t+j∑l=j

ψt,T ,l−jσ(t − (l − j)

T)−1aj(

t − (l − j)

T) exp(−iλl)

× (A0t−l,T (λ)− A(t − l

T, λ))

= exp(iλt)∞∑

l=−∞

{ p∑j=0

ψt,T ,l−jσ(t − (l − j)

T)−1aj(

t − (l − j)

T)

}× exp(−iλl)(A0t−l,T (λ)− A(

t − l

T, λ))

= exp(iλt)(A0t,T (λ)− A(t

T, λ))

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∑p

j=0 aj(tT

)Xt−j ,T = σ( tT

)Zt lok. st. VII

Aus

exp(iλt)(A0t,T (λ)− A(t

T, λ)) =

∞∑l=0

ψt,T ,lδt−l,T (λ)

folgt mit supt,λ |δt,T (λ)| = O(T−1) und∑∞

l=0 |ψt,T ,l | <∞:

supt,λ|A0t,T (λ)− A(t/T , λ)| = O(T−1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Lokal stationäre ARMA(p, q)-Prozesse

Die Gleichung

p∑j=0

aj(t/T )Xt−j,T =

q∑j=0

bj(t/T )σ(t − j

T)Zt−j

besitzt unter gewissen Voraussetzungen eine lokal stationäre Lösung Xt,T mit

A(u, λ) =σ(u)

∑qj=0 bj(u) exp(−iλj)

√2π∑p

j=0 aj(u) exp(−iλj).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Eindeutigkeit der Spektraldichte

De�niere

fT (u, λ) :=1

∞∑s=−∞

Cov(X[uT+s/2],T ,X[uT−s/2],T ) exp(−iλs),

wobei A0t,T (λ) = A(0, λ) für t < 1 und A0t,T (λ) = A(1, λ) für t > T .

Ist A(u, λ) in beiden Komponenten Hölder-stetig mit α > 1/2 so gilt:∫ π

−π|fT (u, λ)− f (u, λ)|2dλ = o(1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∫ π−π |fT (u, λ)− f (u, λ)|2dλ = o(1) I

Beweis: Es ist

fT (u, λ) =1

∞∑s=−∞

exp(−iλs)

∫ π

−πexp(iµs)A0[uT−s/2],T (µ)A0[uT+s/2],T (µ)dµ

f (u, λ) =1

∞∑s=−∞

exp(−iλs)

∫ π

−πexp(iµs)A(u, µ)A(u, µ)dµ

Betrachte zunächst |fT (u, λ)− f (u, λ)|2. Es gilt∣∣∣ 12π

∞∑s=−∞

exp(−iλs)

∫ π

−πexp(iµs)

{A0[uT−s/2],T (µ)A0[uT+s/2],T (µ)

− A(u, µ)A(u,−µ)}dµ∣∣∣2 = ...

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∫ π−π |fT (u, λ)− f (u, λ)|2dλ = o(1) II

... =∣∣∣ 12π

∞∑s=−∞

exp(−iλs)

∫ π

−πexp(iµs)

{A(u − s

2T, µ)A(u +

s

2T, µ)

− A(u, µ)A(u,−µ)}

︸ ︷︷ ︸=:g(s/(2T ),µ)

︸ ︷︷ ︸=:cs

∣∣∣2 + o(1)

⇒∫ π

−π|fT (u, λ)− f (u, λ)|2dλ =

∫ π

−π

∣∣∣ 12π

∞∑s=−∞

cs exp(−iλs)∣∣∣2dλ+ o(1)

=1

4π2

∞∑r ,s=−∞

crcs

∫ π

−πexp(−iλ(r − s))dλ+ o(1) =

1

∞∑s=−∞

|cs |2 + o(1)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

z.z.:∫ π−π |fT (u, λ)− f (u, λ)|2dλ = o(1) III

Nach Bary (1964) gilt: |cs | ≤ Cs−α

Somit gilt:∑∞

s=n |cs |2 → 0

Weiterhin ist (beachte: |g( s2T, µ)| = O(nα/Tα) für |s| ≤ n)

n−1∑s=0

|cs |2 =

∫ π

−π

∫ π

−π

n−1∑s=0

exp(i(λ− µ)s)g(s

2T, λ)g(

s

2T, µ)dλdµ

= O(n2α+1

T 2α)∑∞

s=1 |c−s |2 behandelt man analog.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte

Eindeutigkeit der Spektraldichte

Aus ∫ π

−π|fT (u, λ)− f (u, λ)|2dλ = o(1)

folgt: Die Spektraldichte f (u, λ) = |A(u, λ)|2 ist unter gewissenVoraussetzungen an A(u, λ) eindeutig bestimmt (es kann aber verschiedeneSpektraldarstellungen geben).

Normalerweise konvergiert fT (u, λ) nicht punktweise gegen f (u, λ).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Kullback-Leibler-Abstand I

Angenommen wir unterstellen den Daten X1,T , ...,XT ,T ein lokal stationäresModell, z.B.

p∑j=0

aθj (t/T )Xt−j,T = σθ(t/T )Zt , t ∈ Z,

wobei aθj (u) und σθ(u) von θ ∈ Θ ⊂ Rp abhängen (z.B. Polynome mitKoe�zienten θ).

De�niere

ΣT (A,A) :={∫ π

−πexp(iλ(r − s))A0r ,T (λ)A0s,T (λ)dλ

}r ,s=1,...,T

ΣT (A,A) ist die wahre Kovarianzmatrix und Σθ = ΣT (Aθ,Aθ) dieModell-Kovarianz-Matrix des Prozesses.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Kullback-Leibler-Abstand II

Der Prozess ξ(λ) sei von nun an ein Gauÿscher Prozess.

Es sei:1 g : Wahre Wahrscheinlichkeitsdichte2 gθ: Modell-Wahrscheinlichkeitsdichte3 f (u, λ): Wahre Spektraldichte4 fθ(u, λ): Modell-Spektraldichte

Für den asymptotischen Kullback-Leibler-Abstand ergibt sich:

D(g , gθ) = limT→∞

1

TEg (log

g

gθ)

=1

∫1

0

∫ π

−π

{log

fθ(u, λ)

f (u, λ)+

f (u, λ)

fθ(u, λ)− 1}dλdu

=1

∫1

0

∫ π

−π

{log fθ(u, λ) +

f (u, λ)

fθ(u, λ)

}dλdu + const.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Kullback-Leibler-Abstand III

Betrachte also als Abstand zwischen wahrer Spektraldichte undModellspektraldichte:

L(θ) :=1

∫1

0

∫ π

−π

{log fθ(u, λ) +

f (u, λ)

fθ(u, λ)

}dλdu

Gesucht:

θ0 := argminθ∈ΘL(θ)

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Maximum Likelihood Schätzer

1. Möglichkeit: Berechne den MLE

θT := argminθ∈ΘLT (θ),

wobei

LT (θ) : = − 1

TGaussian log likelihood

=1

2log(2π) +

1

2Tlog detΣθ +

1

2TXTΣ−1θ X ,

mit X = (X1,T , ...,XT ,T ).

Es gilt: θT → θ0.

Problem: Berechnung dauert extrem lange.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Schätzung von L(θ)

2. Möglichkeit: Schätze

L(θ) =1

∫1

0

∫ π

−π

{log fθ(u, λ) +

f (u, λ)

fθ(u, λ)

}dλdu

und minimiere den Schätzer in θ.

Problem: Schätzung von ∫1

0

∫ π

−π

f (u, λ)

fθ(u, λ)dλdu

bzw. allgemein Schätzung von∫1

0

∫ π

−πf (u, λ)φ(u, λ)dλdu.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Schätzung von∫ 1

0

∫ π−π f (u, λ)φ(u, λ)dλdu

Sei zunächst φ(u, λ) ≡ 1. Im stationären Fall (d.h. f (u, λ) = f (λ)) ist

IT (λ) = 1

2πT

∣∣∣∑Tt=1 Xt,T exp(−iλt)

∣∣∣2 ein asymptotisch erwartungstreuer

Schätzer für f (λ) und

fb(λ) =1

T

∑k∈Z

Kb(λ− λk)IT (λj)

ist ein konsistenter Schätzer für f (λ) (hierbei ist Kb(·) = b−1K (·/b) mit einerKernfunktion K (·) und Bandbreite b; λk = 2πk

T).

Ein konsistenter Schätzer für∫ π−π f (λ)dλ ist nun durch

1

T

bT2c∑

k=−bT−1

2c

fb(λk)

gegeben.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Alternativer Schätzer von∫ π−π f (λ)dλ

Ein alternativer konsistenter Schätzer für∫ π

−πf (λ)dλ

ist durch

1

T

bT2c∑

k=−bT−1

2c

IT (λk)

gegeben.

Vorteil bei diesem Schätzer: es muss keine Bandbreite gewählt werden.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Lokales Periodogramm

Wähle N = o(T ) (OE sei N gerade). Wir de�nieren das lokale Perdiodogrammdurch

IN(u, λ) =1

2πN

∣∣∣N−1∑s=0

XbuTc−N/2+1+s,T exp(−iλs)∣∣∣2.

IN(u, λ) ist ein asymptotisch erwartungstreuer Schätzer für f (u, λ) (Konsistenzlässt sich wieder durch Glättung realisieren).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Schätzung von∫ 1

0

∫ π−π f (u, λ)dλdu

Wir unterteilen die T Daten X1,T , ...,XT ,T nun in M Intervalle der Länge N(es ist also T=NM). Die Mittelpunkte der einzelnen Intervalle seientj := N(j − 1) + N/2 und uj :=

tjT. Dann ist

1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk)

ist ein konsistenter (und asymptotisch normalverteiler) Schätzer für∫1

0

∫ π

−πf (u, λ)dλdu.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Schätzung von∫ 1

0

∫ π−π f (u, λ)φ(u, λ)dλdu

Für gewisse komplexwertige Funktionen φ ist

1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk)φ(uj , λk)

ein konsistenter (und asymptotisch normalverteilter) Schätzer für∫1

0

∫ π

−πf (u, λ)φ(u, λ)dλdu.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Schätzung von θ I

Zurück zum Ausgansproblem: Wir wollen θ0 = argminθ∈ΘL(θ) schätzen, wobei

L(θ) =1

∫1

0

∫ π

−π

{log(fθ(u, λ)) +

f (u, λ)

fθ(u, λ)

}.

Dazu ersetzen wir L(θ) durch

LT (θ) =1

1

M

M∑j=1

∫ π

−π

{log(fθ(uj , λ)) +

IN(uj , λ)

fθ(uj , λ)

}dλ

und schätzen θ0 durch

θT = argminθ∈ΘLT (θ).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Schätzung von θ II

Unter gewissen Voraussetzungen (z.B. θ0 ist eindeutig bestimmt und liegt imInneren von Θ) gilt:

1 θTP−−→ θ0

2

√T (θ − θ0)

D−−→ Np(0, Γ−1VΓ−1)

Beweis von 1.): Wir zeigen

supθ|LT (θ)− L(θ)| P−−→ 0. (9)

Dann folgt: LT (θT )P−−→ L(θ0), denn

P(|LT (θT )− L(θ0)| ≥ δ) = P(LT (θT )− L(θ0) ≥ δ) + P(LT (θT )− L(θ0) ≤ −δ)

≤ P(LT (θ0)− L(θ0) ≥ δ) + P(LT (θT )− L(θT ) ≤ −δ)

⇒ LT (θT )P−−→ L(θ0) ⇒ L(θT )

P−−→ L(θ0) ⇒ θTP−−→ θ0.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

z.z.: supθ |LT (θ)− L(θ)| P−→ 0 I

Zum Beweis von (9): Approximiere gθ(u, λ) := fθ(u, λ)−1 durch

g(L)θ (u, λ) :=

1

(2π)2

L∑l,m=−L

(1− |l |

L

)(1− |m|

L

)gθ(l ,m) exp(−i2πul − iλm)

mit L so, dass supθ |gθ(u, λ)− g(L)θ (u, λ)| ≤ ε.

Es folgt:

supθ|LT (θ)− L(θ)|

= supθ

∣∣∣ 14π

1

M

M∑j=1

∫ π

−π

{log fθ(uj , λ) +

IN(uj , λ)

fθ(uj , λ)

}dλ

− 1

∫1

0

∫ π

−π

{log fθ(u, λ) +

f (u, λ)

fθ(u, λ)

}dλdu

∣∣∣Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

z.z.: supθ |LT (θ)− L(θ)| P−→ 0 II

≤ O(1/M) + supθ

∣∣∣ 14π

1

M

M∑j=1

∫ π

−π

{IN(uj , λ)− f (uj , λ)

}f −1θ (uj , λ)dλ

∣∣∣≤ O(1/M) + ε

1

1

M

M∑j=1

∫ π

−π

{IN(uj , λ) + f (uj , λ)

}dλ

+ supθ

∣∣∣ 14π

1

M

M∑j=1

∫ π

−π

{IN(uj , λ)− f (uj , λ)

}g

(L)θ (uj , λ)dλ

∣∣∣

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

z.z.: supθ |LT (θ)− L(θ)| P−→ 0 III

Es folgt:

supθ|LT (θ)− L(θ)|

≤ O(1/M) + ε1

1

M

M∑j=1

∫ π

−π

{IN(uj , λ) + f (uj , λ)

}dλ

+1

16π3

L∑l,m=−L

(1− |l |

L

)(1− |m|

L

)supθ|gθ(l ,m)|

·∣∣∣ 1M

M∑j=1

∫ π

−π

{IN(uj , λ)− f (uj , λ)

}exp(−i2πuj l − iλm)dλ

∣∣∣

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

z.z.:√T (θ − θ0)

D−→ Np(0, Γ−1V Γ−1)

Beweis von 2.): Es gilt OE ∇LT (θT ) = 0. Nach MWS existieren θ(i)T ∈ Rp,

i = 1, ..., p mit ‖θ(i)T − θ0‖ ≤ ‖θT − θ0‖ und

∇LT (θT )i −∇LT (θ0)i ={∇2LT (θ

(i)T )(θT − θ0)

}i

Wenn man1 ∇2LT (θ

(i)T )−∇2LT (θ0)

P−−→ 0 ∀i2 ∇2LT (θ0)

P−−→ Γ

3

√T∇LT (θ0)

D−−→ Np(0,V )

zeigt, so folgt die Behauptung.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur I

Es sei FLS die Menge aller lokal stationären Spektraldichten und

FPLS := {f (u, λ) = f (u, λ; θ), θ ∈ Θ},

wobei Θ ⊂ Rp.

Wir wollen testen:

H0 : f (·, ·) ∈ FPLS vs. H1 : f (·, ·) ∈ FLS\FPLS

Zunächst sei θ unter der Nullhypothese bekannt, d.h. θ = θ0.

Die Nullhypothese ist also, dass f (u, λ) = f (u, λ; θ0).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur II

Idee: Schätze ∫1

0

∫ π

−π

( f (u, λ)

f (u, λ; θ0)− 1)2dλdu.

Betrachte

Y (u, λ) =IN(u, λ)

f (u, λ; θ0).

Es gilt

E(Y (u, λ)) =

{1 + O(N/T + 1/N), wenn H0 richtigf (u,λ)

f (u,λ;θ0) + O(N/T + 1/N), wenn H1 richtig

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur III

Wir schätzen die Funktion

q(u, λ) = E(Y (u, λ)− 1) ≈ f (u, λ)

f (u, λ; θ0)− 1

durch

q(u, λ) =1

N

∑j∈Z

Kb(λ− λj)( IN(u, λj)

f (u, λj ; θ0)− 1)

und betrachten

Q0,T =1

M

M∑s=1

∫ π

−π

(q(us , λ)

)2dλ.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur IV

Es gilt

Q0,TP−−→

0 wenn H0 richtig∫1

0

∫ π−π

(f (u,λ)

f (u,λ;θ0) − 1)2dλdu wenn H1 richtig

(10)

Ersetze θ0 durch einen√N-konsistenten Schätzer θ = (θ1, ..., θp) und betrachte

QT =1

M

M∑s=1

∫ π

−π

{ 1

N

∑j∈Z

Kb(λ− λj)( IN(us , λj)

f (us , λj ; θ)− 1)}2

(10) bleibt gültig, falls Q0,T durch QT ersetzt wird (wobei nunθ0 = argminθ∈ΘL(θ)).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur V

Ist H0 erfüllt, so gilt unter gewissen Bedinungen für T →∞

N√Mb(QT − µT )

D−−→ N(0, τ2),

wobei µT = O(1/N) und µT und τ2 nur von der Kernfunktion abhängen.

Ein asymptotischer Niveau-α-Test ist also gegeben durch: Verwerfe H0, falls

QT ≥ µt +τ

N√Mb

zα,

wobei zα das (1− α)-Quantil der Standardnormalverteilung ist.

Vorteil: Asymptotische Verteilung hängt nur von bekannten Parametern ab.

Nachteil: Wahl der Bandbreite b kann Ergebnis erheblich beein�ussen.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur VI

Alternative Idee: Schätze∫1

0

∫ π−π

(f (u, λ)− f (u, λ; θ0)

)2dλdu.

Bisherige Vorgehensweise:1 Konsistente Schätzung der zu integrierenden Funktion (hier: Kernschätzer mit

Bandbreite notwendig)2 Integration

Alternativer Ansatz: Schätze Integrale direkt.

D.h.: Schätze ∫1

0

∫ π

−π

(f (u, λ)− f (u, λ; θ0)

)2dλdu

durch

1

T

M∑j=1

bN2c∑

k=−bN−1

2c

(IN(uj , λk)− f (uj , λk ; θ)

)2.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur

Test auf parametrische Struktur VII

Bemerkung: Man kann FPLS auch folgendermaÿen de�nieren:

FPLS = {f (u, λ) = f (u, λ; θ(u)), θ(u) = (θ1(u), ..., θp(u))}

und dann θ(u)√N-konsistent schätzen (für lokal stationäre AR(p)-Prozesse

z.B. durch lokale Yule-Walker-Schätzer).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite

Test auf Stationarität mit Bandbreite I

Wir wollen nun einen lokal stationären Prozess Xt,T auf Stationarität testen.D.h.

H0 : f (u, λ) = g(λ) für ein g ∈ C [−π, π].

Idee: Schätze∫1

0

∫ π−π

(f (u,λ)∫

1

0f (v ,λ)dv

− 1)2dλdu.

Betrachte

ST =1

M

M∑j=1

∫ π

−πV 2

T (uj , λ)dλ,

wobei

VT (u, λ) =1

N

∑s∈Z

Kb(λ− λs)( IN(u, λs)

gh(λs)− 1)

mit einem stationären (gewichteten) Periodogramm gh.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite

Test auf Stationarität mit Bandbreite II

Es gilt:

STP−−→∫

1

0

∫ π

−π

( f (u, λ)∫1

0f (v , λ)dv

− 1)2dλdu

Ist die Nullhypothese erfüllt, so gilt

N√Mb(ST − µT )

D−−→ N(0, τ2),

wobei µT = O(1/N).

⇒ Test auf Stationarität.

Problem: Bandbreite.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite

Test auf Stationarität ohne Bandbreite

Alternative Idee: Schätze

M2 = ming

∫ π

−π

∫1

0

(f (u, λ)− g(λ)

)2dudλ

=

∫ π

−π

∫1

0

(f (u, λ)−

∫1

0

f (v , λ)dv)2dudλ

=

∫ π

−π

∫1

0

f 2(u, λ)dudλ−∫ π

−π

(∫ 1

0

f (u, λ)du)2dλ

direkt.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite

Schätzung von M2

Es lässt sich für N = cTβ mit β ∈ (1/2, 3/4) zeigen:

√T( 1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk)2 − 1

π

∫1

0

∫ π

−πf 2(u, λ)dλdu

)D−−→ N(0, σ2

1)

Analog lässt sich das zweite Integral in M2 schätzen. Es ergibt sich folgenderasymptotischer Niveau-α-Test:

Verwerfe �H0: Xt,T ist stationär�, falls

GT + BT > π

√2VT

3Tz1−α.

GT ,BT und VT hängen nur von IN(u, λ) ab.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Kumulante I

Es sei im Folgenden (X1, ...,Xn) eine n-dimensionale Zufallsvariable mitE|Xj |n <∞ für j = 1, ..., n.Die Kumulante von (X1, ...,Xn) ist de�niert durch

cum(X1, ...,Xn) :=∑ν

(−1)p−1(p − 1)!E(∏j∈ν1

Xj) · · ·E(∏j∈νp

Xj),

wobei über alle Partitionen (ν1, ..., νp) von {1, ..., n} aufsummiert wird(p = 1, ..., n).Gilt Xj = X für j = 1, ..., n, so bezeichnetcumn(X ) := cum(X1, ...,Xn) = cum(X , ...,X ) die n-te Kumulante derZufallsvariablen X .Beispiel:

cum(X ,Y ) = E(XY )−E(X )E(Y ) = Cov(X ,Y )

oder

cum2(X ) = cum(X ,X ) = E(X 2)−E(X )2 = Var(X ).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Kumulante II

Ausgewählte Eigenschaften der Kumulante:1 cum(a1X1, ..., anXn) = a1 · · · ancum(X1, ...,Xn)2 cum(X1, ...,Xn) ist symmetrisch in den Argumenten3 Ist eine Gruppe der Xi unabhängig von den verbleibenden Xi , so gilt:

cum(X1, ...,Xn) = 0

4 cum(X1 + Y1,X2, ...,Xn) = cum(X1,X2, ...,Xn) + cum(Y1,X2, ...,Xn)5 cum(X1 + µ,X2, ...,Xn) = cum(X1, ...,Xn)6 cum(X ) = E(X )7 cum(X ,Y ) = Cov(X ,Y )

Sei Xn eine Folge von reellen Zufallsvariablen. Gilt nun (für µ, σ2 ∈ R):

limn→∞

cum1(Xn) = µ, limn→∞

cum2(Xn) = σ2, limn→∞

cumk(Xn) = 0 ∀k ≥ 3,

so konvergiert Xn schwach gegen N(µ, σ2).

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Kumulante III

Es seien nun n ∈ N und mi ∈ N für i ∈ {1, ..., n} gegeben. Wir betrachten diefolgende Matrix

(1, 1) · · · (1,m1). .. .. .

(n, 1) · · · (n,mn)

(11)

und eine Partition P1, ...,PM ihrer Einträge.

Eine Partition P1, ...,PM von (11) nennt man unzerlegbar, wenn es keineMengen Pm1

, ...,PmN (N < M) und Zeilen Ri1 , ...,RiS (S < n) gibt, so dass

Pm1∪ · · · ∪ PMN = Ri1 ∪ · · · ∪ RiS

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Kumulante IV

Betrachte nun die Matrix von Zufallsvariablen

X11 · · · X1m1

. .

. .

. .Xn1 · · · Xnmn

(12)

Für die Kumulante der Zufallsvariablen

Yi =

mj∏j=1

Xij , i = 1, ..., n

gilt

cum(Y1, ...,Yn) =∑ν

cum(Xij ; ij ∈ ν1) · · · cum(Xij ; ij ∈ νp),

wobei über alle unzerlegbaren Partitionen ν = ν1 ∪ · · · ∪ νp von (12) summiertwird.

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Beweis asymptotischer Normalverteilung I

Wenn wir nun zeigen wollen, dass z.B.

√T( 1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk)− 1

π

∫1

0

∫ π

−πf (u, λ)dλdu

)asymptotisch normalverteilt ist, so berechnen wir für l ≥ 3:

cuml

(√T( 1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk)− 1

π

∫1

0

∫ π

−πf (u, λ)dλdu

))

= T l/2cuml

( 1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk))

= T l/2cum( 1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk), ...,1

T

M∑j=1

bN2c∑

k=−bN−1

2c

IN(uj , λk))

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Beweis asymptotischer Normalverteilung II

... = T l/2 1

T l

M∑j1,...,jl =1

bN2c∑

k1,...,kl =−bN−1

2c

cum(IN(uj1 , λk1), ..., IN(ujl , λkl )

)Nun gilt

IN(u, λ) =1

2πN

∣∣∣N−1∑s=0

XbuTc−N/2+1+s,T exp(−iλs)∣∣∣2 = |dN(u, λ)|2,

wobei dN(u, λ) := 1√2πN

∑N−1s=0 XbuTc−N/2+1+s,T exp(−iλs).

Dann gilt:

cum(IN(uj1 , λk1), ..., IN(ujl , λkl )

)= cum

(dN(uj1 , λk1)dN(uj1 ,−λk1), ..., dN(ujl , λkl )dN(ujl ,−λkl )

)=∑ν

...

Philip Preuÿ Lokal stationäre Prozesse

Stationäre ProzesseLokal stationäre Prozesse

Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität

Beweis asymptotischer Normalverteilung

KumulanteBeweis asymptotischer Normalverteilung

Beweis asymptotischer Normalverteilung III

Bemerkung: Die besprochenen Paper von Dahlhaus und Paparoditis de�nierendas lokale Periodogramm durch

IN(u, λ) =1

2πH2,N(0)

∣∣∣N−1∑s=0

h(s/N)XbuTc−N/2+1+s,T exp(−iλs)∣∣∣2,

wobei

H2,N(λ) :=N−1∑s=0

h(s/N) exp(−iλs).

Unsere De�nition des lokalen Periodogramms erhält man für h(x) = 1[0,1](x).

In den meisten Papern wird jedoch gefordert, dass h stetig und auÿerhalb desIntervalles [0, 1] gleich 0 ist.

Die Resultate gelten allerdings meistens auch für h(x) = 1[0,1](x).

Philip Preuÿ Lokal stationäre Prozesse