Upload
danganh
View
224
Download
0
Embed Size (px)
Citation preview
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre Prozesse
Philip Preuÿ
16. Mai 2010
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Inhaltsverzeichnis1 Stationäre Prozesse
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
2 Lokal stationäre ProzesseLokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
3 Parameterschätzung in lokal stationären ZeitreihenKullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
4 Tests auf StationaritätTest auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite
5 Beweis asymptotischer NormalverteilungKumulanteBeweis asymptotischer Normalverteilung
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Stationäre Prozesse
Ein stochastischer Prozess (Xt)t∈Z heiÿt stationär, falls1 E|Xt |2 <∞ ∀t ∈ Z2 E(Xt) = m ∀t ∈ Z3 Cov(Xt+h,Xt) = γ(h) ∀t, h ∈ Z
Die Funktion γ(·) wird Autokovarianzfunktion genannt.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Beispiele I
Es seien (Zi )i∈Z unkorreliert mit Erwartungswert 0 und Varianz σ2 <∞. Dannist (Zi )i∈Z o�ensichtlich stationär mit
γ(h) =
{σ2, wenn h = 0
0, wenn h 6= 0
(Zi )i∈Z wird White-Noise Prozess genannt.
Kurzform:
Zi ∼WN(0, σ2)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Beispiele II
Es seien Zi ∼WN(0, σ2). Dann ist
Xt = Zt + θ1Zt−1 + ...+ θqZt−q
stationär und
γ(h) =
{σ2∑q−|h|
j=0 θjθj+|h|, wenn |h| ≤ q
0, wenn |h| > q
(Xt)t∈Z bezeichnet man als MA(q)-Prozess.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Beispiele III
Gilt∑∞
j=−∞ |θj | <∞, dann ist der durch
Xt =∞∑
j=−∞
θjZt−j
de�nierte Prozess stationär und wird als MA(∞)-Prozess bezeichnet.
Sehr viele stationäre Prozesse lassen sich als MA(∞)-Prozess darstellen.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Beispiele IV
Der Prozess
Xt − φ1Xt−1 − ...− φpXt−p = Zt
hat unter gewissen Voraussetzungen an die Konstanten eine stationäre Lösungund wird AR(p)-Prozess genannt.
AR(p)- und MA(q)- Prozesse lassen sich �zusammensetzen� zu
Xt − φ1Xt−1 − ...− φpXt−p = Zt + θ1Zt−1 + ...+ θqZt−q. (1)
(1) besitzt unter gewissen Voraussetzungen an die Konstanten eine stationäreLösung und wird als ARMA(p, q)-Prozess bezeichnet.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Spektraldichte I
Für die Autokovarianzfunktion existiert folgende Darstellung:
γ(h) =
∫ π
−πexp(ihλ)dF (λ),
wobei F eine rechtsstetige, nicht fallende und beschränkte Funktion auf [−π, π]mit F (−π) = 0 ist.
F heiÿt Spektralmaÿ des stationären Prozesses.
Besitzt das Spektralmaÿ F eine Dichte f (λ), so wird diese Spektraldichtegenannt.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Spektraldichte II
Ist die Autokovarianzfunktion γ(h) des stationären Prozesses (Xt)t∈Z absolutsummierbar, d.h. gilt
∞∑h=−∞
|γ(h)| <∞,
so existiert eine Spektraldichte und es gilt
f (λ) =1
2π
∞∑n=−∞
γ(n) exp(−inλ).
Im Folgenden besitze Xt eine MA(∞)-Darstellung und habe somit eine stetigeSpektraldichte.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Periodogramm
Ein erwartungstreuer Schätzer für f (λ) ist durch
In(λ) =1
2πn
∣∣∣ n∑t=1
Xt exp(−itλ)∣∣∣2
gegeben.
In(λ) ist jedoch nicht konsistent.
Einen konsistenten Schätzer für f (λ) erhalten wir, indem wir In(λj) für gewisseλj in der Umgebung von λ berechnen und mit Hilfe geeigneterGlättungsfunktionen aufsummieren.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Orthogonale Prozesse I
Wir bezeichnen einen komplexwertigen stochastischen Prozessξ(λ),−π ≤ λ ≤ π als orthogonal, wenn die drei Bedingungen
1 E|ξ(λ)|2 <∞ − π ≤ λ ≤ π2 E(ξ(λ)) = 0 − π ≤ λ ≤ π3 Cov(ξ(λ4)− ξ(λ3), ξ(λ2)− ξ(λ1)) = 0 falls (λ1, λ2] ∩ [λ3, λ4) = ∅
erfüllt sind.
Wir nehmen auÿerdem an, dass jeder orthogonale Prozess rechtsstetig (imquadratischen Mittel) ist, d.h.
E|ξ(λ+ δ)− ξ(λ)|2 → 0 für δ ↓ 0.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Orthogonale Prozesse II
Wenn wir nun mit
F (µ) := E|ξ(µ)− ξ(−π)|2
die zu {ξ(λ),−π ≤ λ ≤ π} gehörige Verteilungfunktion bezeichnen so könnenwir für
Cov(ξ(λ4)− ξ(λ3), ξ(λ2)− ξ(λ1)) = 0 falls (λ1, λ2] ∩ [λ3, λ4) = ∅
die kürzere (und üblichere) Notation
E(dξ(λ)dξ(µ)) = δλ,µdF (λ)
verwenden.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Stochastische Integration
Nun lässt sich für jede Funktion g auf [−π, π], welche bzgl. F quadratischintegrierbar ist, das stochastische Integral
I (g) :=
∫ π
−πg(λ)dξ(λ)
als L2-Limes von I (gn) de�nieren, wobei gn =∑n
i=0 gi,nI(λi ,λi+1](λ) eineeinfache Funktion mit ||gn − g ||L2(F ) → 0 ist und
I (gn) :=n∑
i=0
gi,n(ξ(λi+1)− ξ(λi ))
Beachte: E(I (g)) = 0
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Spektraldarstellung eines stationären Prozesses I
Für jeden zentrierten stationären Prozess Xt existiert eine Darstellung der Form
Xt =
∫ π
−πexp(iλt)A(λ)dξ(λ)
mit einer stetigen Funktion A(λ) : R→ C, die A(λ) = A(−λ) erfüllt undeinem orthogonalen Prozess {ξ(λ),−π ≤ λ ≤ π}.Im Folgenden sei OBdA dF (λ) = dλ und ξ(λ) = ξ(−λ). Dann gilt
E(dξ(λ)dξ(−µ)) = δλ,µdλ
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
De�nitionBeispieleSpektraldichtePeriodogrammSpektraldarstellung
Spektraldarstellung eines stationären Prozesses II
Es gilt
Cov(Xt ,Xt+k) = E(XtXt+k)
=
∫ π
−π
∫ π
−πexp(iλ1t) exp(−iλ2(t + k))A(λ1)A(−λ2)E(dξ(λ1)dξ(−λ2))
=
∫ π
−πexp(−iλk)A(λ)A(−λ)dλ (2)
De�nieren wir nun f (λ) := |A(λ)|2 = A(λ)A(−λ) so folgt aus (2)
Cov(Xt ,Xt+k) =
∫ π
−πexp(−iλk)f (λ)dλ
und mit der Fouriertransformation ergibt sich
f (λ) =1
2π
∞∑n=−∞
Cov(Xn,X0) exp(−iλn)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Problem stationärer Prozesse
Stationäre Prozesse lassen sich einfach handhaben => Viele Prozesse werdenals stationäre Prozesse modelliert.
Problem: Prozesse in der Realität ändern ihre Abhängigkeitsstruktur mit derZeit.
Man möchte z.B. ARMA-Prozesse betrachten, bei denen die Konstanten durchFunktionen ersetzt werden.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Lokal stationärer Prozesse I
Betrachte den Prozess
Xt = g(t)Xt−1 + Zt für t = 1, ...,T , (3)
wobei Zt ∼WN(0, σ2).
Problem: Asymptotischer Ansatz mit T →∞ macht wenig Sinn.
Lösung: Schränke g auf das Intervall [0, 1] ein und reskaliere die Zeitpunkte,d.h. betrachte t/T statt t. D.h. (3) �wird zu�
Xt,T = g(t/T )Xt−1,T + Zt für t = 1, ...,T . (4)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Lokal stationärer Prozesse II
Stationäre Prozesse:
Xt = µ+
∫ π
−πexp(iλt)A(λ)dξ(λ)
Setze an für lokal stationäre Prozesse:
Xt,T = µ(t/T ) +
∫ π
−πexp(iλt)A(t/T , λ)dξ(λ) (5)
Problem: (4) besitzt keine Lösung der Form (5).
Aber: (4) besitzt asymptotisch eine Lösung der Form (5).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
De�nition eines lokal stationären Prozesses
Eine Folge von stochastischen Prozessen Xt,T (t = 1, ...,T ) ist ein lokalstationärer Prozess, wenn Xt,T eine Darstellung der Form
Xt,T = µ(t/T ) +
∫ π
−πexp(iλt)A0t,T (λ)dξ(λ) (6)
besitzt, wobei:1 µ : [0, 1]→ C ist stetig.2 ξ(λ) ist ein orthogonaler Prozess wie oben (hier gibt es Unterschiede in den
De�nitionen!!).3 Es existiert ein K ∈ R und eine 2π-periodische und stetige Funktion
A : [0, 1]×R→ C mit A(u,−λ) = A(u, λ) und
supt,λ|A0
t,T (λ)− A(t/T , λ)| ≤ KT−1.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Spektraldichte
Die Spektraldichte eines lokal stationären Prozesses ist durch
f (u, λ) = |A(u, λ)|2
de�niert.
Cov(Xt,T ,Xt+k,T ) =
∫ π
−πexp(−iλk)A0t,T (λ)A0t+k,T (−λ)dλ
Die Kovarianzstruktur kann sich also insbesondere mit der Zeit ändern.
Im Folgenden sei µ ≡ 0.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Beispiele I
Ist Yt ein stationärer Prozess der Form
Yt =
∫ π
−πexp(iλt)A(λ)dξ(λ),
so ist (falls µ(·), σ(·) stetig)
Xt,T = µ(t/T ) + σ(t/T )Yt mit t = 1, ...,T
o�ensichtlich lokal stationär mit
A0t,T (λ) = A(t/T , λ) = σ(t/T )A(λ)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Beispiele II
Es seien ak(·) stetige Funktionen und es gelte∑∞
k=−∞ |at,T ,k | <∞,∑∞k=−∞ supu |ak(u)| <∞ und
supt
∞∑k=−∞
|at,T ,k − ak(t/T )| = O(T−1). (7)
Dann ist
Xt,T =∞∑
k=−∞
at,T ,kZt−k , Zt ∼WN(0, σ2)
lokal stationär.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:Xt,T =∑∞
k=−∞ at,T ,kZt−k lokal stationär I
Beweis: Es existiert eine Darstellung
Zt =σ√2π
∫ π
−πexp(iλt)dξ(λ)
De�niert man nun
A0t,T =σ√2π
∞∑k=−∞
at,T ,k exp(−iλk)
A(u, λ) =σ√2π
∞∑k=−∞
ak(u) exp(−iλk),
so gilt∫ π
−πA0t,T (λ) exp(iλt)dξ(λ) =
σ√2π
∞∑k=−∞
at,T ,k
∫ π
−πexp(iλ(t − k))dξ(λ)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:Xt,T =∑∞
k=−∞ at,T ,kZt−k lokal stationär II
Mit (7) folgt
supt,λ|A0t,T (λ)− A(t/T , λ)| ≤ σ√
2πsupt
∞∑k=−∞
|at,T ,k − ak(t/T )| = O(T−1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
MA(∞)-Darstellung I
De�niere für einen lokal stationären Prozess
at,T ,k :=
∫ π
−πA0t,T (λ) exp(iλk)dλ
ak(u) :=
∫ π
−πA(u, λ) exp(iλk)dλ
Zt :=
∫ π
−πexp(iλt)dξ(λ).
Dann gilt E(Zt) = 0 und E(ZsZt) = 2πδs,t und mitA0t,T (λ) = 1
2π
∑∞k=−∞ at,T ,k exp(−iλk) ergibt sich
Xt,T =1
2π
∞∑k=−∞
at,T ,kZt−k
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
MA(∞)-Darstellung II
Aus
supt,λ|A0t,T (λ)− A(t/T , λ)| = O(T−1)
folgt
supt,k|at,T ,k − ak(t/T )| = O(T−1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Lokal stationäre AR(p)-Prozesse
Betrachte
p∑j=0
aj(t/T )Xt−j,T = σ(t/T )Zt , t ∈ Z, Zt ∼WN(0, 1) (8)
Es sei a0(u) ≡ 1 und aj(·), σ(·) seien stetig mit σ(u) = σ(0) für u < 0 undσ(u) = σ(1) für u > 1 (analog für aj) und aj(·), σ(·) seien di�erenzierbar mitbeschränkter Ableitung.
Gilt∑p
j=0 aj(u)z j 6= 0 für alle |z | ≤ 1 + c mit c > 0 gleichmäÿig in u, sobesitzt (8) eine lokal stationäre Lösung mit
A(u, λ) =σ(u)√2π
( p∑j=0
aj(u) exp(−ijλ))−1
A0t,T (λ) = A(0, λ) für t < 1 und A0t,T (λ) = A(1, λ) für t > 1.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. I
Beweis: Künsch (1995) hat gezeigt, dass (8) eine Lsg. der Form
Xt,T =∞∑l=0
ψt,T ,lZt−l
mit∑∞
l=0 |ψt,T ,l | <∞ besitzt. D.h. es gilt
Xt,T =
∫ π
−πexp(iλt)A0t,T (λ)dξ(λ)
mit
A0t,T (λ) =1√2π
∞∑l=0
ψt,T ,l exp(−iλl)
Zu zeigen bleibt:
supt,λ|A0t,T (λ)− A(t/T , λ)| = O(T−1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. II
Wenn wir in
p∑j=0
aj(t
T)Xt−j,T = σ(
t
T)Zt
Xt,T =∫ π−π exp(iλt)A0t,T (λ)dξ(λ) und Zt = 1√
2π
∫ π−π exp(iλt)dξ(λ) einsetzen,
so erhalten wir∫ π
−π
σ( tT
)√2π
exp(iλt)dξ(λ) =
∫ π
−π
p∑j=0
aj(t
T) exp(iλ(t − j))A0t−j,T (λ)dξ(λ)
⇒∫ π
−πexp(iλt)
{σ( tT
)√2π−
p∑j=0
aj(t
T) exp(−iλj)A0t−j,T (λ)
}︸ ︷︷ ︸
=:g(t,λ)
dξ(λ) = 0
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. III
Aus ∫ π
−πexp(iλt)g(λ, t)dξ(λ) = 0 f.s.
folgt
0 = V(∫ π
−πexp(iλt)g(t, λ)dξ(λ)
)=
∫ π
−π|g(t, λ)|2dλ
⇒ g(t, λ) ≡ 0 ∀t
bzw.
σ( tT
)√2π
=
p∑j=0
aj(t
T) exp(−iλj)A0t−j,T (λ).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. IV
Aus A(u, λ) = σ(u)√2π
(∑pj=0 aj(u) exp(−ijλ)
)−1folgt
σ(t/T )√2π
=
p∑j=0
aj(t
T) exp(−iλj)A(t/T , λ)
=
p∑j=0
aj(t
T) exp(−iλj)A(
t − j
T, λ)
+
p∑j=0
aj(t
T) exp(−iλj)
{A(
t
T, λ)− A(
t − j
T, λ)}
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. V
⇒p∑
j=0
aj(t
T) exp(iλ(t − j))
{A0t−j,T (λ)− A(
t − j
T, λ)}
=
p∑j=0
aj(t
T) exp(iλ(t − j))
{A(
t
T, λ)− A(
t − j
T, λ)}
=: σ(t
T)δt,T (λ) mit δt,T (λ) = 0 für t ≤ 0.
Beachte:
supt,λ|δt,T (λ)| = O(T−1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. VI
Es lässt sich zeigen:
∞∑l=0
ψt,T ,lδt−l,T (λ)
= exp(iλt)
p∑j=0
t+j∑l=j
ψt,T ,l−jσ(t − (l − j)
T)−1aj(
t − (l − j)
T) exp(−iλl)
× (A0t−l,T (λ)− A(t − l
T, λ))
= exp(iλt)∞∑
l=−∞
{ p∑j=0
ψt,T ,l−jσ(t − (l − j)
T)−1aj(
t − (l − j)
T)
}× exp(−iλl)(A0t−l,T (λ)− A(
t − l
T, λ))
= exp(iλt)(A0t,T (λ)− A(t
T, λ))
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∑p
j=0 aj(tT
)Xt−j ,T = σ( tT
)Zt lok. st. VII
Aus
exp(iλt)(A0t,T (λ)− A(t
T, λ)) =
∞∑l=0
ψt,T ,lδt−l,T (λ)
folgt mit supt,λ |δt,T (λ)| = O(T−1) und∑∞
l=0 |ψt,T ,l | <∞:
supt,λ|A0t,T (λ)− A(t/T , λ)| = O(T−1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Lokal stationäre ARMA(p, q)-Prozesse
Die Gleichung
p∑j=0
aj(t/T )Xt−j,T =
q∑j=0
bj(t/T )σ(t − j
T)Zt−j
besitzt unter gewissen Voraussetzungen eine lokal stationäre Lösung Xt,T mit
A(u, λ) =σ(u)
∑qj=0 bj(u) exp(−iλj)
√2π∑p
j=0 aj(u) exp(−iλj).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Eindeutigkeit der Spektraldichte
De�niere
fT (u, λ) :=1
2π
∞∑s=−∞
Cov(X[uT+s/2],T ,X[uT−s/2],T ) exp(−iλs),
wobei A0t,T (λ) = A(0, λ) für t < 1 und A0t,T (λ) = A(1, λ) für t > T .
Ist A(u, λ) in beiden Komponenten Hölder-stetig mit α > 1/2 so gilt:∫ π
−π|fT (u, λ)− f (u, λ)|2dλ = o(1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∫ π−π |fT (u, λ)− f (u, λ)|2dλ = o(1) I
Beweis: Es ist
fT (u, λ) =1
2π
∞∑s=−∞
exp(−iλs)
∫ π
−πexp(iµs)A0[uT−s/2],T (µ)A0[uT+s/2],T (µ)dµ
f (u, λ) =1
2π
∞∑s=−∞
exp(−iλs)
∫ π
−πexp(iµs)A(u, µ)A(u, µ)dµ
Betrachte zunächst |fT (u, λ)− f (u, λ)|2. Es gilt∣∣∣ 12π
∞∑s=−∞
exp(−iλs)
∫ π
−πexp(iµs)
{A0[uT−s/2],T (µ)A0[uT+s/2],T (µ)
− A(u, µ)A(u,−µ)}dµ∣∣∣2 = ...
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∫ π−π |fT (u, λ)− f (u, λ)|2dλ = o(1) II
... =∣∣∣ 12π
∞∑s=−∞
exp(−iλs)
∫ π
−πexp(iµs)
{A(u − s
2T, µ)A(u +
s
2T, µ)
− A(u, µ)A(u,−µ)}
︸ ︷︷ ︸=:g(s/(2T ),µ)
dµ
︸ ︷︷ ︸=:cs
∣∣∣2 + o(1)
⇒∫ π
−π|fT (u, λ)− f (u, λ)|2dλ =
∫ π
−π
∣∣∣ 12π
∞∑s=−∞
cs exp(−iλs)∣∣∣2dλ+ o(1)
=1
4π2
∞∑r ,s=−∞
crcs
∫ π
−πexp(−iλ(r − s))dλ+ o(1) =
1
2π
∞∑s=−∞
|cs |2 + o(1)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
z.z.:∫ π−π |fT (u, λ)− f (u, λ)|2dλ = o(1) III
Nach Bary (1964) gilt: |cs | ≤ Cs−α
Somit gilt:∑∞
s=n |cs |2 → 0
Weiterhin ist (beachte: |g( s2T, µ)| = O(nα/Tα) für |s| ≤ n)
n−1∑s=0
|cs |2 =
∫ π
−π
∫ π
−π
n−1∑s=0
exp(i(λ− µ)s)g(s
2T, λ)g(
s
2T, µ)dλdµ
= O(n2α+1
T 2α)∑∞
s=1 |c−s |2 behandelt man analog.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Lokal stationäre ProzesseBeispieleEindeutigkeit der Spektraldichte
Eindeutigkeit der Spektraldichte
Aus ∫ π
−π|fT (u, λ)− f (u, λ)|2dλ = o(1)
folgt: Die Spektraldichte f (u, λ) = |A(u, λ)|2 ist unter gewissenVoraussetzungen an A(u, λ) eindeutig bestimmt (es kann aber verschiedeneSpektraldarstellungen geben).
Normalerweise konvergiert fT (u, λ) nicht punktweise gegen f (u, λ).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Kullback-Leibler-Abstand I
Angenommen wir unterstellen den Daten X1,T , ...,XT ,T ein lokal stationäresModell, z.B.
p∑j=0
aθj (t/T )Xt−j,T = σθ(t/T )Zt , t ∈ Z,
wobei aθj (u) und σθ(u) von θ ∈ Θ ⊂ Rp abhängen (z.B. Polynome mitKoe�zienten θ).
De�niere
ΣT (A,A) :={∫ π
−πexp(iλ(r − s))A0r ,T (λ)A0s,T (λ)dλ
}r ,s=1,...,T
ΣT (A,A) ist die wahre Kovarianzmatrix und Σθ = ΣT (Aθ,Aθ) dieModell-Kovarianz-Matrix des Prozesses.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Kullback-Leibler-Abstand II
Der Prozess ξ(λ) sei von nun an ein Gauÿscher Prozess.
Es sei:1 g : Wahre Wahrscheinlichkeitsdichte2 gθ: Modell-Wahrscheinlichkeitsdichte3 f (u, λ): Wahre Spektraldichte4 fθ(u, λ): Modell-Spektraldichte
Für den asymptotischen Kullback-Leibler-Abstand ergibt sich:
D(g , gθ) = limT→∞
1
TEg (log
g
gθ)
=1
4π
∫1
0
∫ π
−π
{log
fθ(u, λ)
f (u, λ)+
f (u, λ)
fθ(u, λ)− 1}dλdu
=1
4π
∫1
0
∫ π
−π
{log fθ(u, λ) +
f (u, λ)
fθ(u, λ)
}dλdu + const.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Kullback-Leibler-Abstand III
Betrachte also als Abstand zwischen wahrer Spektraldichte undModellspektraldichte:
L(θ) :=1
4π
∫1
0
∫ π
−π
{log fθ(u, λ) +
f (u, λ)
fθ(u, λ)
}dλdu
Gesucht:
θ0 := argminθ∈ΘL(θ)
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Maximum Likelihood Schätzer
1. Möglichkeit: Berechne den MLE
θT := argminθ∈ΘLT (θ),
wobei
LT (θ) : = − 1
TGaussian log likelihood
=1
2log(2π) +
1
2Tlog detΣθ +
1
2TXTΣ−1θ X ,
mit X = (X1,T , ...,XT ,T ).
Es gilt: θT → θ0.
Problem: Berechnung dauert extrem lange.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Schätzung von L(θ)
2. Möglichkeit: Schätze
L(θ) =1
4π
∫1
0
∫ π
−π
{log fθ(u, λ) +
f (u, λ)
fθ(u, λ)
}dλdu
und minimiere den Schätzer in θ.
Problem: Schätzung von ∫1
0
∫ π
−π
f (u, λ)
fθ(u, λ)dλdu
bzw. allgemein Schätzung von∫1
0
∫ π
−πf (u, λ)φ(u, λ)dλdu.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Schätzung von∫ 1
0
∫ π−π f (u, λ)φ(u, λ)dλdu
Sei zunächst φ(u, λ) ≡ 1. Im stationären Fall (d.h. f (u, λ) = f (λ)) ist
IT (λ) = 1
2πT
∣∣∣∑Tt=1 Xt,T exp(−iλt)
∣∣∣2 ein asymptotisch erwartungstreuer
Schätzer für f (λ) und
fb(λ) =1
T
∑k∈Z
Kb(λ− λk)IT (λj)
ist ein konsistenter Schätzer für f (λ) (hierbei ist Kb(·) = b−1K (·/b) mit einerKernfunktion K (·) und Bandbreite b; λk = 2πk
T).
Ein konsistenter Schätzer für∫ π−π f (λ)dλ ist nun durch
1
T
bT2c∑
k=−bT−1
2c
fb(λk)
gegeben.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Alternativer Schätzer von∫ π−π f (λ)dλ
Ein alternativer konsistenter Schätzer für∫ π
−πf (λ)dλ
ist durch
1
T
bT2c∑
k=−bT−1
2c
IT (λk)
gegeben.
Vorteil bei diesem Schätzer: es muss keine Bandbreite gewählt werden.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Lokales Periodogramm
Wähle N = o(T ) (OE sei N gerade). Wir de�nieren das lokale Perdiodogrammdurch
IN(u, λ) =1
2πN
∣∣∣N−1∑s=0
XbuTc−N/2+1+s,T exp(−iλs)∣∣∣2.
IN(u, λ) ist ein asymptotisch erwartungstreuer Schätzer für f (u, λ) (Konsistenzlässt sich wieder durch Glättung realisieren).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Schätzung von∫ 1
0
∫ π−π f (u, λ)dλdu
Wir unterteilen die T Daten X1,T , ...,XT ,T nun in M Intervalle der Länge N(es ist also T=NM). Die Mittelpunkte der einzelnen Intervalle seientj := N(j − 1) + N/2 und uj :=
tjT. Dann ist
1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk)
ist ein konsistenter (und asymptotisch normalverteiler) Schätzer für∫1
0
∫ π
−πf (u, λ)dλdu.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Schätzung von∫ 1
0
∫ π−π f (u, λ)φ(u, λ)dλdu
Für gewisse komplexwertige Funktionen φ ist
1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk)φ(uj , λk)
ein konsistenter (und asymptotisch normalverteilter) Schätzer für∫1
0
∫ π
−πf (u, λ)φ(u, λ)dλdu.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Schätzung von θ I
Zurück zum Ausgansproblem: Wir wollen θ0 = argminθ∈ΘL(θ) schätzen, wobei
L(θ) =1
4π
∫1
0
∫ π
−π
{log(fθ(u, λ)) +
f (u, λ)
fθ(u, λ)
}.
Dazu ersetzen wir L(θ) durch
LT (θ) =1
4π
1
M
M∑j=1
∫ π
−π
{log(fθ(uj , λ)) +
IN(uj , λ)
fθ(uj , λ)
}dλ
und schätzen θ0 durch
θT = argminθ∈ΘLT (θ).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Schätzung von θ II
Unter gewissen Voraussetzungen (z.B. θ0 ist eindeutig bestimmt und liegt imInneren von Θ) gilt:
1 θTP−−→ θ0
2
√T (θ − θ0)
D−−→ Np(0, Γ−1VΓ−1)
Beweis von 1.): Wir zeigen
supθ|LT (θ)− L(θ)| P−−→ 0. (9)
Dann folgt: LT (θT )P−−→ L(θ0), denn
P(|LT (θT )− L(θ0)| ≥ δ) = P(LT (θT )− L(θ0) ≥ δ) + P(LT (θT )− L(θ0) ≤ −δ)
≤ P(LT (θ0)− L(θ0) ≥ δ) + P(LT (θT )− L(θT ) ≤ −δ)
⇒ LT (θT )P−−→ L(θ0) ⇒ L(θT )
P−−→ L(θ0) ⇒ θTP−−→ θ0.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
z.z.: supθ |LT (θ)− L(θ)| P−→ 0 I
Zum Beweis von (9): Approximiere gθ(u, λ) := fθ(u, λ)−1 durch
g(L)θ (u, λ) :=
1
(2π)2
L∑l,m=−L
(1− |l |
L
)(1− |m|
L
)gθ(l ,m) exp(−i2πul − iλm)
mit L so, dass supθ |gθ(u, λ)− g(L)θ (u, λ)| ≤ ε.
Es folgt:
supθ|LT (θ)− L(θ)|
= supθ
∣∣∣ 14π
1
M
M∑j=1
∫ π
−π
{log fθ(uj , λ) +
IN(uj , λ)
fθ(uj , λ)
}dλ
− 1
4π
∫1
0
∫ π
−π
{log fθ(u, λ) +
f (u, λ)
fθ(u, λ)
}dλdu
∣∣∣Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
z.z.: supθ |LT (θ)− L(θ)| P−→ 0 II
≤ O(1/M) + supθ
∣∣∣ 14π
1
M
M∑j=1
∫ π
−π
{IN(uj , λ)− f (uj , λ)
}f −1θ (uj , λ)dλ
∣∣∣≤ O(1/M) + ε
1
4π
1
M
M∑j=1
∫ π
−π
{IN(uj , λ) + f (uj , λ)
}dλ
+ supθ
∣∣∣ 14π
1
M
M∑j=1
∫ π
−π
{IN(uj , λ)− f (uj , λ)
}g
(L)θ (uj , λ)dλ
∣∣∣
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
z.z.: supθ |LT (θ)− L(θ)| P−→ 0 III
Es folgt:
supθ|LT (θ)− L(θ)|
≤ O(1/M) + ε1
4π
1
M
M∑j=1
∫ π
−π
{IN(uj , λ) + f (uj , λ)
}dλ
+1
16π3
L∑l,m=−L
(1− |l |
L
)(1− |m|
L
)supθ|gθ(l ,m)|
·∣∣∣ 1M
M∑j=1
∫ π
−π
{IN(uj , λ)− f (uj , λ)
}exp(−i2πuj l − iλm)dλ
∣∣∣
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
z.z.:√T (θ − θ0)
D−→ Np(0, Γ−1V Γ−1)
Beweis von 2.): Es gilt OE ∇LT (θT ) = 0. Nach MWS existieren θ(i)T ∈ Rp,
i = 1, ..., p mit ‖θ(i)T − θ0‖ ≤ ‖θT − θ0‖ und
∇LT (θT )i −∇LT (θ0)i ={∇2LT (θ
(i)T )(θT − θ0)
}i
Wenn man1 ∇2LT (θ
(i)T )−∇2LT (θ0)
P−−→ 0 ∀i2 ∇2LT (θ0)
P−−→ Γ
3
√T∇LT (θ0)
D−−→ Np(0,V )
zeigt, so folgt die Behauptung.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur I
Es sei FLS die Menge aller lokal stationären Spektraldichten und
FPLS := {f (u, λ) = f (u, λ; θ), θ ∈ Θ},
wobei Θ ⊂ Rp.
Wir wollen testen:
H0 : f (·, ·) ∈ FPLS vs. H1 : f (·, ·) ∈ FLS\FPLS
Zunächst sei θ unter der Nullhypothese bekannt, d.h. θ = θ0.
Die Nullhypothese ist also, dass f (u, λ) = f (u, λ; θ0).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur II
Idee: Schätze ∫1
0
∫ π
−π
( f (u, λ)
f (u, λ; θ0)− 1)2dλdu.
Betrachte
Y (u, λ) =IN(u, λ)
f (u, λ; θ0).
Es gilt
E(Y (u, λ)) =
{1 + O(N/T + 1/N), wenn H0 richtigf (u,λ)
f (u,λ;θ0) + O(N/T + 1/N), wenn H1 richtig
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur III
Wir schätzen die Funktion
q(u, λ) = E(Y (u, λ)− 1) ≈ f (u, λ)
f (u, λ; θ0)− 1
durch
q(u, λ) =1
N
∑j∈Z
Kb(λ− λj)( IN(u, λj)
f (u, λj ; θ0)− 1)
und betrachten
Q0,T =1
M
M∑s=1
∫ π
−π
(q(us , λ)
)2dλ.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur IV
Es gilt
Q0,TP−−→
0 wenn H0 richtig∫1
0
∫ π−π
(f (u,λ)
f (u,λ;θ0) − 1)2dλdu wenn H1 richtig
(10)
Ersetze θ0 durch einen√N-konsistenten Schätzer θ = (θ1, ..., θp) und betrachte
QT =1
M
M∑s=1
∫ π
−π
{ 1
N
∑j∈Z
Kb(λ− λj)( IN(us , λj)
f (us , λj ; θ)− 1)}2
dλ
(10) bleibt gültig, falls Q0,T durch QT ersetzt wird (wobei nunθ0 = argminθ∈ΘL(θ)).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur V
Ist H0 erfüllt, so gilt unter gewissen Bedinungen für T →∞
N√Mb(QT − µT )
D−−→ N(0, τ2),
wobei µT = O(1/N) und µT und τ2 nur von der Kernfunktion abhängen.
Ein asymptotischer Niveau-α-Test ist also gegeben durch: Verwerfe H0, falls
QT ≥ µt +τ
N√Mb
zα,
wobei zα das (1− α)-Quantil der Standardnormalverteilung ist.
Vorteil: Asymptotische Verteilung hängt nur von bekannten Parametern ab.
Nachteil: Wahl der Bandbreite b kann Ergebnis erheblich beein�ussen.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur VI
Alternative Idee: Schätze∫1
0
∫ π−π
(f (u, λ)− f (u, λ; θ0)
)2dλdu.
Bisherige Vorgehensweise:1 Konsistente Schätzung der zu integrierenden Funktion (hier: Kernschätzer mit
Bandbreite notwendig)2 Integration
Alternativer Ansatz: Schätze Integrale direkt.
D.h.: Schätze ∫1
0
∫ π
−π
(f (u, λ)− f (u, λ; θ0)
)2dλdu
durch
1
T
M∑j=1
bN2c∑
k=−bN−1
2c
(IN(uj , λk)− f (uj , λk ; θ)
)2.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Kullback-Leibler-AbstandLokales PeriodogrammParameterschätzungTest auf parametrische Struktur
Test auf parametrische Struktur VII
Bemerkung: Man kann FPLS auch folgendermaÿen de�nieren:
FPLS = {f (u, λ) = f (u, λ; θ(u)), θ(u) = (θ1(u), ..., θp(u))}
und dann θ(u)√N-konsistent schätzen (für lokal stationäre AR(p)-Prozesse
z.B. durch lokale Yule-Walker-Schätzer).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite
Test auf Stationarität mit Bandbreite I
Wir wollen nun einen lokal stationären Prozess Xt,T auf Stationarität testen.D.h.
H0 : f (u, λ) = g(λ) für ein g ∈ C [−π, π].
Idee: Schätze∫1
0
∫ π−π
(f (u,λ)∫
1
0f (v ,λ)dv
− 1)2dλdu.
Betrachte
ST =1
M
M∑j=1
∫ π
−πV 2
T (uj , λ)dλ,
wobei
VT (u, λ) =1
N
∑s∈Z
Kb(λ− λs)( IN(u, λs)
gh(λs)− 1)
mit einem stationären (gewichteten) Periodogramm gh.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite
Test auf Stationarität mit Bandbreite II
Es gilt:
STP−−→∫
1
0
∫ π
−π
( f (u, λ)∫1
0f (v , λ)dv
− 1)2dλdu
Ist die Nullhypothese erfüllt, so gilt
N√Mb(ST − µT )
D−−→ N(0, τ2),
wobei µT = O(1/N).
⇒ Test auf Stationarität.
Problem: Bandbreite.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite
Test auf Stationarität ohne Bandbreite
Alternative Idee: Schätze
M2 = ming
∫ π
−π
∫1
0
(f (u, λ)− g(λ)
)2dudλ
=
∫ π
−π
∫1
0
(f (u, λ)−
∫1
0
f (v , λ)dv)2dudλ
=
∫ π
−π
∫1
0
f 2(u, λ)dudλ−∫ π
−π
(∫ 1
0
f (u, λ)du)2dλ
direkt.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
Test auf Stationarität mit BandbreiteTest auf Stationarität ohne Bandbreite
Schätzung von M2
Es lässt sich für N = cTβ mit β ∈ (1/2, 3/4) zeigen:
√T( 1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk)2 − 1
π
∫1
0
∫ π
−πf 2(u, λ)dλdu
)D−−→ N(0, σ2
1)
Analog lässt sich das zweite Integral in M2 schätzen. Es ergibt sich folgenderasymptotischer Niveau-α-Test:
Verwerfe �H0: Xt,T ist stationär�, falls
GT + BT > π
√2VT
3Tz1−α.
GT ,BT und VT hängen nur von IN(u, λ) ab.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Kumulante I
Es sei im Folgenden (X1, ...,Xn) eine n-dimensionale Zufallsvariable mitE|Xj |n <∞ für j = 1, ..., n.Die Kumulante von (X1, ...,Xn) ist de�niert durch
cum(X1, ...,Xn) :=∑ν
(−1)p−1(p − 1)!E(∏j∈ν1
Xj) · · ·E(∏j∈νp
Xj),
wobei über alle Partitionen (ν1, ..., νp) von {1, ..., n} aufsummiert wird(p = 1, ..., n).Gilt Xj = X für j = 1, ..., n, so bezeichnetcumn(X ) := cum(X1, ...,Xn) = cum(X , ...,X ) die n-te Kumulante derZufallsvariablen X .Beispiel:
cum(X ,Y ) = E(XY )−E(X )E(Y ) = Cov(X ,Y )
oder
cum2(X ) = cum(X ,X ) = E(X 2)−E(X )2 = Var(X ).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Kumulante II
Ausgewählte Eigenschaften der Kumulante:1 cum(a1X1, ..., anXn) = a1 · · · ancum(X1, ...,Xn)2 cum(X1, ...,Xn) ist symmetrisch in den Argumenten3 Ist eine Gruppe der Xi unabhängig von den verbleibenden Xi , so gilt:
cum(X1, ...,Xn) = 0
4 cum(X1 + Y1,X2, ...,Xn) = cum(X1,X2, ...,Xn) + cum(Y1,X2, ...,Xn)5 cum(X1 + µ,X2, ...,Xn) = cum(X1, ...,Xn)6 cum(X ) = E(X )7 cum(X ,Y ) = Cov(X ,Y )
Sei Xn eine Folge von reellen Zufallsvariablen. Gilt nun (für µ, σ2 ∈ R):
limn→∞
cum1(Xn) = µ, limn→∞
cum2(Xn) = σ2, limn→∞
cumk(Xn) = 0 ∀k ≥ 3,
so konvergiert Xn schwach gegen N(µ, σ2).
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Kumulante III
Es seien nun n ∈ N und mi ∈ N für i ∈ {1, ..., n} gegeben. Wir betrachten diefolgende Matrix
(1, 1) · · · (1,m1). .. .. .
(n, 1) · · · (n,mn)
(11)
und eine Partition P1, ...,PM ihrer Einträge.
Eine Partition P1, ...,PM von (11) nennt man unzerlegbar, wenn es keineMengen Pm1
, ...,PmN (N < M) und Zeilen Ri1 , ...,RiS (S < n) gibt, so dass
Pm1∪ · · · ∪ PMN = Ri1 ∪ · · · ∪ RiS
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Kumulante IV
Betrachte nun die Matrix von Zufallsvariablen
X11 · · · X1m1
. .
. .
. .Xn1 · · · Xnmn
(12)
Für die Kumulante der Zufallsvariablen
Yi =
mj∏j=1
Xij , i = 1, ..., n
gilt
cum(Y1, ...,Yn) =∑ν
cum(Xij ; ij ∈ ν1) · · · cum(Xij ; ij ∈ νp),
wobei über alle unzerlegbaren Partitionen ν = ν1 ∪ · · · ∪ νp von (12) summiertwird.
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Beweis asymptotischer Normalverteilung I
Wenn wir nun zeigen wollen, dass z.B.
√T( 1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk)− 1
π
∫1
0
∫ π
−πf (u, λ)dλdu
)asymptotisch normalverteilt ist, so berechnen wir für l ≥ 3:
cuml
(√T( 1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk)− 1
π
∫1
0
∫ π
−πf (u, λ)dλdu
))
= T l/2cuml
( 1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk))
= T l/2cum( 1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk), ...,1
T
M∑j=1
bN2c∑
k=−bN−1
2c
IN(uj , λk))
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Beweis asymptotischer Normalverteilung II
... = T l/2 1
T l
M∑j1,...,jl =1
bN2c∑
k1,...,kl =−bN−1
2c
cum(IN(uj1 , λk1), ..., IN(ujl , λkl )
)Nun gilt
IN(u, λ) =1
2πN
∣∣∣N−1∑s=0
XbuTc−N/2+1+s,T exp(−iλs)∣∣∣2 = |dN(u, λ)|2,
wobei dN(u, λ) := 1√2πN
∑N−1s=0 XbuTc−N/2+1+s,T exp(−iλs).
Dann gilt:
cum(IN(uj1 , λk1), ..., IN(ujl , λkl )
)= cum
(dN(uj1 , λk1)dN(uj1 ,−λk1), ..., dN(ujl , λkl )dN(ujl ,−λkl )
)=∑ν
...
Philip Preuÿ Lokal stationäre Prozesse
Stationäre ProzesseLokal stationäre Prozesse
Parameterschätzung in lokal stationären ZeitreihenTests auf Stationarität
Beweis asymptotischer Normalverteilung
KumulanteBeweis asymptotischer Normalverteilung
Beweis asymptotischer Normalverteilung III
Bemerkung: Die besprochenen Paper von Dahlhaus und Paparoditis de�nierendas lokale Periodogramm durch
IN(u, λ) =1
2πH2,N(0)
∣∣∣N−1∑s=0
h(s/N)XbuTc−N/2+1+s,T exp(−iλs)∣∣∣2,
wobei
H2,N(λ) :=N−1∑s=0
h(s/N) exp(−iλs).
Unsere De�nition des lokalen Periodogramms erhält man für h(x) = 1[0,1](x).
In den meisten Papern wird jedoch gefordert, dass h stetig und auÿerhalb desIntervalles [0, 1] gleich 0 ist.
Die Resultate gelten allerdings meistens auch für h(x) = 1[0,1](x).
Philip Preuÿ Lokal stationäre Prozesse