nts.uni-due.dents.uni-due.de/downloads/nts2/NT2_S1-100.pdf · 1 Fachgebiet Nachrichtentechnische Systeme UNIVERSITÄT NTS D U I S B U R G E S S E N Prof. Dr.-Ing. Andreas Czylwik

1

FachgebietNachrichtentechnische Systeme

N T SUNIVERSITÄT

D U I S B U R GE S S E N

Prof. Dr.-Ing. Andreas Czylwik Grundlagen der Nachrichtentechnik 2 WS 2003/2004

S. 1

Prof. Dr.-Ing. Andreas Czylwik

Grundlagen der Nachrichtentechnik 2

Communications 2


N T SUNIVERSITÄT



S. 2

Nachrichtentechnik 2Organisatorisches

Vorlesung 2 SWSÜbung 2 SWS Betreuer: Dipl.-Ing. Thorsten KempkaFolienkopien sind verfügbarPrüfung: schriftlich

Neue Forschungsthemen im Fachgebiet Nachrichtentechnische SystemeStudien- und Diplomarbeiten

2


N T SUNIVERSITÄT



S. 3

Nachrichtentechnik 2Literatur

Literatur zur Vorlesung:A. Papoulis: Probability, random variables, and stochastic processes, McGraw-HillE. Hänsler: Statistische Signale, Springer-Verlag


N T SUNIVERSITÄT



S. 4

Nachrichtentechnik 2Inhalt

1 Einführung2 Wahrscheinlichkeit3 Zufallsvariablen4 Funktionen einer Zufallsvariablen5 Zwei Zufallsvariablen, Folgen von Zufallsvariablen6 Zufallsprozesse7 Transformation von Zufallsprozessen durch Systeme8 Schätz- und Detektionstheorie

3


N T SUNIVERSITÄT



S. 5

Nachrichtentechnik 21 Einführung

Deterministische ⇔ statistische Ansätze

Anwendung statistischer AnsätzeModellierung von RauschenModellierung von NachrichtensignalenOptimierung von Sende- und EmpfangsverfahrenDetektions- und EntscheidungsverfahrenSchätzung gestörter ParameterBeobachtung von Börsenkursen


N T SUNIVERSITÄT



S. 6

Nachrichtentechnik 21 Einführung

Beispiele zufälliger Größenthermisches RauschenSchrotrauschenRauschen von VerstärkernAudio- und VideosignaleDatensignaleFunkkanalEintreffen von Anrufen in einer VermittlungsstelleEinfahrt von Fahrzeugen auf eine Autobahn

4


N T SUNIVERSITÄT



S. 7

Nachrichtentechnik 22 Wahrscheinlichkeit

Ereignisse können als Mengen aufgefasst werden.Rechenregeln der Mengenlehre

Vereinigung: A ∪ BAssoziativgesetz: (A ∪ B) ∪ C = A ∪ (B ∪ C) = A ∪ B ∪ CKommutativgesetz: A ∪ B = B ∪ Aleere Menge, Teilmenge: A ∪ ∅ = A , A ∪ B = A wenn B ⊂ A

Schnitt: A ∩ BAssoziativgesetz: (A ∩ B) ∩ C = A ∩ (B ∩ C) = A ∩ B ∩ CKommutativgesetz: A ∩ B = B ∩ Adisjunkte Mengen A, B : A ∩ B = ∅leere Menge, Teilmenge: A ∩ ∅ = ∅ , A ∩ B = B wenn B ⊂ A


N T SUNIVERSITÄT



S. 8


Distributivgesetz: A ∩ (B ∪ C) = (A ∩ B) ∪ (A ∩ C) Gleichheit: A = B, wenn A ⊂ B und B ⊂ AKomplement:

de Morgansches Gesetz:

BABABAAB

AAHAAAAHH

=⇒=⊂⇒⊂

∅=∩=∪=∅==∅ ,,,,

BABABABA

∪=∩∩=∪

5


N T SUNIVERSITÄT



S. 9


GrundbegriffeDefinition 2.1: Wahrscheinlichkeitsraum

Wahrscheinlichkeitsraum = (H, A, P)H = Ergebnismenge = Menge aller ElementarereignisseA = Ereignisfeld = Menge von Ereignissen (Teilmengen von H)P = Wahrscheinlichkeitsmaß

Definition 2.2: Ergebnismenge H = η1, η2, η3, ...Ergebnismenge H = Menge aller möglichen Ergebnisse η eines ZufallsexperimentsNach einem Zufallsexperiment gibt es genau ein Ergebnis = Elementarereignis


N T SUNIVERSITÄT



S. 10


Ergebnisse (Elementarereignisse) sind disjunkt; d.h. sie können nicht gleichzeitig auftreten.Formelzeichen in der Literatur: häufig Ω statt H und ω statt ηBeispiel 2.1: Würfeln

Elementarereignisse ηi sind die Seiten i = 1 ... 6 des Würfels: H = η1, η2, η3, η4, η5, η6

Beispiel 2.2: Werfen einer Roulette-KugelElementarereignisse ηi sind die Zahlen i = 0 ... 36:H = η0, η1, ..., η36

6


N T SUNIVERSITÄT



S. 11


Definition 2.3: Ereignisfeld AEreignisfeld = Menge von beliebig ausgewählten Teilmengen der Ergebnismenge H mit den Eigenschaften:

Ein Zufallsexperiment hat genau ein Ergebnis, kann aber mehrere Ereignisse zur Folge haben.Zwei Ereignisse, die kein Elementarereignis gemeinsam haben, sind disjunkt (unvereinbar).Maximal mögliche Anzahl von Ereignissen im Ereignisfeld bei N Elementarereignissen (Potenzmenge): Nmax = 2N

.AAAA

A

∈∈∈∈

∈

UK iAAA,AA

,H

folgt ,, ausfolgt aus

21


N T SUNIVERSITÄT



S. 12


Beispiel 2.1 Fortsetzung: Würfeln, H = η1, η2, η3, η4, η5, η6mögliche Ereignisfelder: A1 = ∅ , η1, η3, η5, η2, η4, η6, H A2 = ∅ , η1, η2, η1, η2, η2, η3, η4, η5, η6,

η1, η3, η4, η5, η6 η3, η4, η5, η6, H Beispiel 2.3: A = Potenzmenge (alle möglichen Teilmengen) von H = η1, η2, η3

unmögliches Ereignis: ∅einelementige Ereignisse: η1, η2, η3zweielementige Ereignisse: η1, η2, η2, η3, η1, η3 sicheres Ereignis: H = η1, η2, η3Gesamtzahl von Ereignissen:

∑=

==N

k

NkN

N0

max 2 (2.1)

7


N T SUNIVERSITÄT



S. 13


Definition 2.4: Wahrscheinlichkeit P, axiomatische Definition nachKolmogoroff

Axiome:1. P(A) ≥ 02. P(H) = 13. P(A ∪ B) = P(A) + P(B), wenn A und B disjunkt sind

Die Wahrscheinlichkeit ist eine 1. nichtnegative, 2. normierte und 3. additive Funktion über dem Ereignisfeld.

Eigenschaften:Wertebereich: 0 ≤ P ≤ 1 unmögliches Ereignis: P(∅ ) = 0 (2.3)

(2.2)


N T SUNIVERSITÄT



S. 14


nicht disjunkte Ereignisse A und B:

Definition 2.5: VerbundwahrscheinlichkeitP(A ∩ B) = Verbundwahrscheinlichkeit = Wahrscheinlichkeit, dass beide Ereignisse A und B gleichzeitig auftreten

A BH

)()()()(

)()()()()()(

)()()(

BAPBPAPBAP

BAPBAPBPBAPAPBAP

BABABBAABA

∩−+=∪⇒

∩+∩=∩+=∪

⇒∩∪∩=

∩∪=∪

(2.4)

8


N T SUNIVERSITÄT



S. 15


Klassischer Definitionsversuch der WahrscheinlichkeitErgebnismenge H mit N gleichwahrscheinlichen ErgebnissenEreignis A, das NA Ergebnisse enthält:

konzeptionelles Problem: gleichwahrscheinlich ist nicht definiert

Definition 2.6: Relative Häufigkeitn-maliges Ausführen des ZufallsexperimentsEreignis A tritt nA mal auf

(2.5)Ergebnissemöglichen aller AnzahlErgebnissegünstiger Anzahl)( ==

NNAP A

entellsexperimaller Zufa AnzahlEreignisseder Anzahl)(~ A

nnAP A ==


N T SUNIVERSITÄT



S. 16


Relative Häufigkeit ist Schätzwert für die WahrscheinlichkeitDefinitionsversuch der Wahrscheinlichkeit als Grenzwert der relativen Häufigkeit:

Beweis für die Konvergenz ist nicht möglich

Definition 2.7: Bedingte Wahrscheinlichkeit P(A | B) P(A | B) = bedingte Wahrscheinlichkeit = Wahrscheinlichkeit des Ereignisses A unter der Bedingung, dass das Ereignis Baufgetreten ist (P(B) > 0)

(2.6)entellsexperimaller Zufa Anzahl

Ereignisseder Anzahl)(~lim)( An

nAPAP An

===∞→

)()()|(

BPBAPBAP ∩=

9


N T SUNIVERSITÄT



S. 17


Eigenschaften der bedingten Wahrscheinlichkeit:P(A | B) ≥ 0 P(H | B) = 1 P(A1 ∪ A2 | B) = P(A1|B) + P(A2|B), wenn A1 und A2 disjunktsind

ausgewählte Mengensituationen:A ∩ B = ∅

(2.7)

(2.8)

(2.9)

0)(

)()|( =∩=BP

BAPBAPA B

H


N T SUNIVERSITÄT



S. 18


A ⊂ B ⇒ A ∩ B = A

B ⊂ A ⇒ A ∩ B = B

)()()(

)()()|( AP

BPAP

BPBAPBAP ≥=∩=

1)()(

)()()|( ==∩=

BPBP

BPBAPBAP B

A

H

AB

H

10


N T SUNIVERSITÄT



S. 19


Beispiel 2.4: Würfeln, H = η1, η2, η3, η4, η5, η6Ereignisse: A = Ergebnis ist geradeB = Ergebnis ist ungeradeC = Ergebnis ist Primzahl

32

)()()|(

31

)()()|(

)()(

3)()()(

)(

31

61

21

61

61

=∩==∩=

=∩=∩

=⋅===

=

BPCBPBCP

APCAPACP

CBPCAP

CPBPAP

P iη

A

Bη3η1 η5

η2 η4 η6

C

H


N T SUNIVERSITÄT



S. 20


Beispiel 2.5: Ziehen von zwei Kugeln aus einer Kiste mit drei weißen Kugeln w1, w2, w3 und zwei roten Kugeln r1, r2

gesucht: Wahrscheinlichkeit, dass zuerst eine weiße und als zweites eine rote Kugel gezogen wird (Ereignis A)Ergebnismenge = Menge aller geordneten Paare:H = w1w2, w1w3, w1r1, w1r2, w2w1, w2w3, w2r1, ...die Elementarereignisse sind gleichwahrscheinlichAbzählen liefert:

w1w2 w2w1 w3w1 r1w1 r2w1w1w3 w2w3 w3w2 r1w2 r2w2w1r1 w2r1 w3r1 r1w3 r2w3w1r2 w2r2 w3r2 r1r2 r2r1A

H

103

206)( ===

NNAP A

11


N T SUNIVERSITÄT



S. 21


Lösungsansatz mit bedingten Wahrscheinlichkeiten:Wahrscheinlichkeit, dass zuerst eine weiße Kugel gezogen wird (Ereignis W1):

Wahrscheinlichkeit, dass die als zweites gezogene Kugel rot ist (Ereignis R2) − unter der Bedingung, dass die zuerst gezogene Kugel weiß ist:

Wahrscheinlichkeit, dass die erste Kugel weiß und die zweite rot ist (Ereignis W1 ∩ R2):

53)( 1 =WP

21

42)|( 12 ==WRP

103

53

21)()|()( 11221 =⋅=⋅=∩ WPWRPRWP


N T SUNIVERSITÄT



S. 22


Bedingte Wahrscheinlichkeiten:

Bayes-Theorem ( für P(A) > 0 bzw. P(B) > 0)

(2.10)

)()|()()|()()(

)()|(

)()()|(

APABPBPBAPBAPAP

BAPABP

BPBAPBAP

⋅=⋅=∩⇒

∩=

∩=

(2.11)

(2.12)

)()()|()|(

bzw. )(

)()|()|(

BPAPABPBAP

APBPBAPABP

⋅=

⋅= (2.13)

(2.14)

12


N T SUNIVERSITÄT



S. 23


Definition 2.8: Statistische Unabhängigkeit Zwei Ereignisse A, B heißen statistisch unabhängig, wenn gilt:

P(A ∩ B) = P(A) ⋅ P(B).

Folgerung für statistisch unabhängige EreignisseP(A | B) = P(A), P(B | A) = P(B) (2.16)

(2.15)


N T SUNIVERSITÄT



S. 24


Beispiel 2.6: Zweimaliges Ziehen einer von drei Kugeln (1 − 2 − 3) Die Kugel wird nach dem ersten Ziehen zurückgelegt.

Ereignis A = erste Zahl = 1Ereignis B = zweite Zahl = 3jedes Elementarereignis ist gleichwahrscheinlich:P(11) = P(12) = P(13) = ... = 1/9P(A) = 3 ⋅ 1/9 = 1/3P(B) = 3 ⋅ 1/9 = 1/3P(A ∩ B) = P(13) = 1/9 = P(A) ⋅ P(B)⇒ Die Ereignisse A und B sind statistisch unabhängig.

11 12 13

21 22 23

31 32 33

A

B

H

13


N T SUNIVERSITÄT



S. 25

Beispiel 2.7: Zweimaliges Ziehen einer von drei Kugeln (1 − 2 − 3) Die Kugel wird nach dem ersten Ziehen nicht zurückgelegt.

Ereignis A = erste Zahl = 1Ereignis B = zweite Zahl = 3jedes Elementarereignis ist gleichwahrscheinlich:P(12) = P(13) = P(21) = ... = 1/6P(A) = 2 ⋅ 1/6 = 1/3P(B) = 2 ⋅ 1/6 = 1/3P(A ∩ B) = P(13) = 1/6 ≠ P(A) ⋅ P(B)⇒ Die Ereignisse A und B sind statistisch abhängig.


12 13

21 23

31 32

A

B


N T SUNIVERSITÄT



S. 26


Definition 2.9: Statistische Unabhängigkeit Drei Ereignisse A, B, C heißen statistisch unabhängig, wenn gilt:

Alle Paare von Ereignissen sind statistisch unabhängigP(A ∩ B) = P(A) ⋅ P(B),P(A ∩ C) = P(A) ⋅ P(C),P(B ∩ C) = P(B) ⋅ P(C)

und P(A ∩ B ∩ C) = P(A) ⋅ P(B) ⋅ P(C).

(2.18)(2.17)

(2.19)(2.20)

14


N T SUNIVERSITÄT



S. 27


Definition 2.10: Statistische Unabhängigkeit, Verallgemeinerungn Ereignisse A1, A2, ..., An heißen statistisch unabhängig, wenn für alle Gruppen von k Ereignissen statistische Unabhängigkeit vorliegt (k < n) und :

P(A1 ∩ A2 ∩ ... ∩ An) = P(A1) ⋅ P(A2) ⋅ ... ⋅ P(An). (2.21)


N T SUNIVERSITÄT



S. 28


Beispiel 2.8: Statistische Unabhängigkeitgegeben: 3 Ereignisse A, B, C mit P(A) = P(B) = P(C) = pund 0 < p < 1.Für die Schnittmengen gilt: A ∩ B = A ∩ C = B ∩ C =A ∩ B ∩ C .

Frage: Gibt es einen Wert p, für den die Ereignisse unabhängig voneinander sind?Antwort: Nein, da

P(A ∩ B) = P(A ∩ C) = P(B ∩ C) = p2 = P(A ∩ B ∩ C ) = p3

gelten müsste.

A

B C

15


N T SUNIVERSITÄT



S. 29


Satz von der totalen Wahrscheinlichkeitgegeben: n disjunkte Ereignisse A1, A2, ..., An

d.h. Ai ∩ Aj = ∅ für i ≠ jein Ereignis B ⊂ A1 ∪ A2 ∪ ... ∪ An = H

∑=

⋅=n

iii APABPBP

1)()|()( (2.22)

A1 A2A3 A4 A5 A6

A7

A8A9A10

B


N T SUNIVERSITÄT



S. 30


Beweis des Satzes von der totalen Wahrscheinlichkeitmit Def. 2.7:

Ai sind disjunkt, daher sind auch B ∩ Ai disjunkt, 3. Axiom der Wahrscheinlichkeit direkt anwendbar:

Distributivgesetz:

qed.Anschauliche Deutung: P(B) ist Summe aller Wahrscheinlich-keiten der Schnittmengen von B mit den Ereignissen Ai

∑∑==

∩=⋅=n

ii

n

iii ABPAPABPBP

11)()()|()(

)](...)()[()( 21 nABABABPBP ∩∪∪∩∪∩=

)()()]...([)( 21

BPHBPAAABPBP n

=∩=∪∪∪∩=

16


N T SUNIVERSITÄT



S. 31

Nachrichtentechnik 23 Zufallsvariablen

Definition 3.1: Reelle Zufallsvariable x(η)Gegeben sei ein Wahrscheinlichkeitsraum (H, A, P).Eine Zufallsvariable x(η) ist eine eindeutige Abbildung der Ergebnismenge H eines Zufallsexperiments auf die Menge der reellen Zahlen R.Eigenschaften der Abbildung:

1. η | x(η) ≤ x ∈ A für jedes x ∈ R2. P(η | x(η) = −∞) = P(η | x(η) = +∞) = 0

x(η = ηi) = xi heißt Realisierung der Zufallsvariablen.

mögliche Abbildungen: ηi → x(ηi)Α i → x(Α i)


N T SUNIVERSITÄT



S. 32


Beispiel der Definition einer Zufallsvariablen x(η)

Zufallsexperiment

x(η1) x(η2) x(η3) x(η4) x(η5) x(η6) x(η7) x∈ R

η1

η3

η2 η5

η6

η7

η4

17


N T SUNIVERSITÄT



S. 33


Definition 3.2: Wahrscheinlichkeitsverteilungsfunktion Fx(x)kurz: Wahrscheinlichkeitsverteilung, Verteilung

Fx(x) = P(η | x(η) ≤ x)

Eigenschaften: 1. Fx(−∞) = 0,2. Fx(+∞) = 1,3. Fx(x) wächst monoton mit x,4. 0 ≤ Fx(x) ≤ 1.

(3.1)

(3.2)(3.3)

(3.4)


N T SUNIVERSITÄT



S. 34


Beispiel 3.1: diskrete Zufallsvariable

−1 0 1 2 3 4 5

1

0,8

0,6

0,4

0,2

x

Fx(x)

i 1 2 3 4 5 6 7x(ηi) –0,4 0,2 1,1 2 2,7 3,5 5P(ηi) 0,04 0,1 0,1 0,22 0,32 0,14 0,08

18


N T SUNIVERSITÄT



S. 35

Wahrscheinlichkeitsverteilungsfunktion für wertdiskrete Zufallsvariablen:

mit x(ηi) = xi , P(ηi) = pi , N = Anzahl der Elementarereignisseund der Sprungfunktion s(x):


∑∑

∑

==

≤

−⋅=−⋅=

=≤=

N

iii

N

iii

xii

xxpxPxF

PxPxFi

11

)(|

))(s))((s)()(

)())(()(

ηη

ηηη

x

x

x

xx (3.5)

≥

=sonst0

0für1)(s

xx

s(x)1

x(3.7)

(3.6)


N T SUNIVERSITÄT



S. 36

wertkontinuierliche Zufallsvariablen: Ergebnismenge H hat unendlich viele Elementarereignisse ηi

Wahrscheinlichkeitsverteilungsfunktion für wertkontinuierliche Zufallsvariablen:

Beispiel 3.2: gleichverteilte wertkontinuierliche ZufallsvariableWertebereich: x1 ... x2


∫≤

=≤=xPxPxF

)(|d)())(()(

ηηηηη

xx x (3.8)

(3.9)

Fx(x)1

xx1 x2

≥

<≤−−

<

=

2

2112

11

für1

für

für0

)(

xx

xxxxxxx

xx

xFx

19


N T SUNIVERSITÄT



S. 37


Definition 3.2: Wahrscheinlichkeitsdichtefunktion fx(x)kurz: Wahrscheinlichkeitsdichte

Zusammenhang mit der Wahrscheinlichkeitsverteilung:

Eigenschaften: 1. fx(−∞) = fx(+∞) = 0,2. fx(x) ≥ 0,3.

(3.10)

(3.11)

(3.12)

xxFxf

d)(d)( x

x =

∫∞−

=x

uufxF d)()( xx

1d)( =∫∞∞− xxfx

(3.13)

(3.14)


N T SUNIVERSITÄT



S. 38

Wahrscheinlichkeitsdichtefunktion für wertdiskrete Zufallsvariablen:

Zuhilfenahme verallgemeinerter Funktionen notwendigDirac'sche Delta-Funktion δ(x):

mit


∑∑==

−⋅=−⋅==N

iii

N

iii xxpxxp

xxxFxf

11)(δ)(s

dd

d)(d)( x

x (3.15)

=∞

=sonst0

0für)(δ

xx

1d)(δ =∫∞

∞−xx

(3.16)

(3.17)

δ(x)1

x

20


N T SUNIVERSITÄT



S. 39

Realisierungsmöglichkeiten der δ-Funktion:

Glockenkurve:


(3.19)

(3.18)

[ ])(s)(s1lim

)(lim)(δ

220

0

xxx

xx

xxx

xRx

∆∆→∆

∆→∆

−−+⋅∆

=

= R∆x(x)

x2x∆

2x∆−

x∆1

G∆x(x)

x

x∆π1

−∆x ∆x

220

0

π1lim

)(lim)(δ

xxx

xGx

x

xx

∆+∆⋅=

=

→∆

∆→∆


N T SUNIVERSITÄT



S. 40

Ausblendeigenschaft

f(x) ⋅ δ(x−x0) = f(x0) ⋅ δ(x−x0)

Zusammenhang zwischen Sprungfunktion und δ-Funktion:


(3.22)

(3.20) f(x0)

xx0

xxx

d)(ds)(δ =

∫∞−

=x

uux d)(δ)(s (3.23)

∫∞

∞−=−⋅ )(d)(δ)( 00 xfxxxxf (3.21)

21


N T SUNIVERSITÄT



S. 41


Beispiel 3.1 Fortsetzung: Wahrscheinlichkeitsdichte einer wertdiskreten Zufallsvariablen:

−1 0 1 2 3 4 5

0,3

0,2

0,1

x

fx(x)


N T SUNIVERSITÄT



S. 42


Beispiel 3.2 Fortsetzung: Wahrscheinlichkeitsdichte einer gleichverteilten wertkontinuierlichen Zufallsvariablen

Wertebereich: x1 ... x2

≤≤

−= sonst 0

für1)( 21

12xxx

xxxfx

fx(x)

xx1 x2

121

xx −

(3.24)

22


N T SUNIVERSITÄT



S. 43


Wahrscheinlichkeit, dass eine Zufallsvariable in einem bestimmten Wertebereich liegt:

)()(d)()( 12212

1

xFxFxxfxxPx

xxxxx −==≤≤ ∫

fx(x)

xx1 x2 x

Fx(x)

x1 x2

Fx(x2)1

Fx(x1)

(3.25)


N T SUNIVERSITÄT



S. 44


Näherung für kleine Differenzen: x1 = x , x2 = x + ∆x :

relative Häufigkeit als Schätzwert für die Wahrscheinlichkeits-dichte einer Zufallsvariablen x :

Anzahl der Zufallsexperimente: nAnzahl der Realisierungen, die in das Intervall x ... x + ∆xfallen: ∆nx

xxfxxxP ∆⋅≅∆+≤≤ )()( xx (3.26)

nnxxf x∆≅∆⋅)(x (3.27)

23


N T SUNIVERSITÄT



S. 45


Definition 3.3: Erwartungswert Ex(η)statistischer Mittelwert über eine Schar von Realisierungen = Scharmittelwert = Ensemblemittelwert (engl. expectation)

alternative Bezeichnungen: Ex(η) = Ex = E(x(η)) = ⟨x(η)⟩

wertdiskrete Zufallsvariablen x :

(3.28)

(3.29)

(3.30)

xxfx d)()(E xx ∫∞

∞−⋅=η

∑∑∫∫==

∞

∞−

∞

∞−⋅=−⋅⋅=⋅=

N

iii

N

iii pxxxxpxxxfx

11d)(δd)()(E xx η

∑=

−⋅=N

iii xxpxf

1)(δ)(x


N T SUNIVERSITÄT



S. 46


Beispiel 3.1 Fortsetzung: Erwartungswert einer wertdiskreten Zufallsvariablen:

Beispiel 3.2 Fortsetzung: Erwartungswert einer gleichverteilten wertkontinuierlichen Zufallsvariablen:

(3.31)

308,208,0514,05,332,07,222,021,01,11,02,004,04,0

)(E1

=⋅+⋅+⋅+⋅+⋅+⋅+⋅−=

⋅=∑=

N

iii pxηx

2

221d1d)()(E

21

21

22

1212

2

1

xx

xxxx

xxx

xxxfxx

x

+=

−

−=

−⋅=⋅= ∫∫

∞

∞−xx η

24


N T SUNIVERSITÄT



S. 47


Linearität des Erwartungswerts:

Ea x(η) + b y(η) = a Ex(η) + b Ey(η)

Die Reihenfolge linearer Operationen (Erwartungswertbildung, Summation, Integration) ist vertauschbarErwartungswert von Funktionen von Zufallsvariablen:

Die Reihenfolge nichtlinearer Operationen und der Erwartungs-wertbildung ist im Allgemeinen nicht vertauschbar:

Eg(x(η)) ≠ g(Ex(η))

xxfxgg d)()())((E xx ∫∞

∞−⋅=η

(3.32)

(3.33)

(3.34)


N T SUNIVERSITÄT



S. 48


Definition 3.4: n-tes Moment mx(n)

n = 1 ⇒ linearer Mittelwert : mx(1) = Ex(η)

n = 2 ⇒ quadratischer Mittelwert : mx(2) = Ex2(η)

Definition 3.5: n-tes zentrales Moment µx(n)

xxfxm nnn d)()(E)(xx x ∫

∞

∞−⋅== η (3.35)

(3.36)

))((E )1()( nn mxx x −= ηµ

(3.37)

(3.38)

25


N T SUNIVERSITÄT



S. 49


Definition 3.6: Varianz σx2

σx heißt Standardabweichung

Die Varianz bzw. die Standardabweichung sind ein Maß für die Streuung einer Zufallsvariablen um den Mittelwert

(3.39)))((E 2)1()2(2xm−== ηµσ xxx

(3.40)2)1()2(

2)1()1(2

2)1()1(2

2)1(2

)(

)()(E2)(E

)()(2)(E

))((E

xx

xx

xx

xx

xx

xx

x

mm

mm

mm

m

−=

+−=

+−=

−=

ηη

ηη

ησ


N T SUNIVERSITÄT



S. 50


wertdiskrete Zufallsvariablen x :

Beispiel 3.1 Fortsetzung: Quadratischer Mittelwert einer wertdiskreten Zufallsvariablen:

0592,708,0514,05,3

32,07,222,021,01,11,02,004,0)4,0(

)(E

22

222221

22)2(

=⋅+⋅+

⋅+⋅+⋅+⋅+⋅−=

⋅== ∑=

N

iiix pxm ηx

(3.41)

(3.42)∑∑∫∫==

∞

∞−

∞

∞−⋅=−⋅⋅=⋅=

N

ii

ni

N

iii

nnn pxxxxpxxxfx11

d)(δd)()(E xx η

∑=

−⋅=N

iii xxpxf

1)(δ)(x

316,1,732,1308,2059,7)( 22)1()2(2 ==−=−= xx σσ xx mm

26


N T SUNIVERSITÄT



S. 51


Beispiel 3.2 Fortsetzung: Quadratischer Mittelwert und Varianz einer gleichverteilten wertkontinuierlichen Zufallsvariablen:

)(31

331

d1d)()(E

2221

21

31

32

12

12

222)2(2

1

xxxxxxxx

xxx

xxxfxmx

xx

++=

−

−=

−⋅=⋅== ∫∫

∞

∞−xx η

(3.43)

212

2212

22121

2)1()2(2

)(121

2)(

31

)(

xxxxxxxx

mm xx

−=

+−++=

−=xσ

(3.44)


N T SUNIVERSITÄT



S. 52


Erzeugende Funktionen

Definition 3.7: Momenterzeugende Funktion ψx (s) = zweiseitigeLaplace-Transformierte der Wahrscheinlichkeitsdichte (negative Frequenzachse)

Entwicklung der Exponentialfunktion in Potenzreihe:

n-malige Differentiation nach s an der Stelle s = 0 :

(3.45)

(3.46)

∫∞

∞−

++ ⋅== xxfs xss de)(eE)( xx

xψ

∑∑∑∞

=

∞

=

∞

=

+ +=+===1

)(

10 !1

!E1

!)(EeE)(

n

nn

n

nn

n

ns

nms

ns

nss xx

xxxψ

)(

0d)(d n

sn

nm

ss

xx =

=

ψ(3.47)

27


N T SUNIVERSITÄT



S. 53


Definition 3.8: Charakteristische Funktion φx (ω) = Fourier-Transformierte der Wahrscheinlichkeitsdichte (negative Frequenzachse)

Beispiel: diskrete Zufallsvariablen:

(3.48)

(3.49)

∫∞

∞−

++ ⋅== xxf x de)(eE)( jj ωωωφ xx

x

∑=

−⋅=N

iii xxpxf

1)(δ)(x

∑∫ ∑

∫

=

+∞

∞−

+

=

∞

∞−

+

⋅=⋅−⋅=

⋅=

N

i

xi

xN

iii

x

ipxxxp

xxf

1

jj

1

j

ede)(δ

de)()(

ωω

ωωφ xx


N T SUNIVERSITÄT



S. 54


Eigenschaften der charakteristischen Funktion:Die charakteristische Funktion ist reell, wenn die Wahrscheinlichkeitsdichte symmetrisch ist.Abschätzung:

Rücktransformation:

∫∫∞

∞−

∞

∞−

+ ==⋅≤ 1d)(de)()( j xxfxxf xxxx

ωωφ

∫∞

∞−

−⋅= ωωφ ω de)(π2

1)( j xxf xx

1)0( =xφ

(3.52)

(3.51)

(3.50)

28


N T SUNIVERSITÄT



S. 55


Entwicklung der Exponentialfunktion in eine Potenzreihe:

n-malige Differentiation nach ω an der Stelle ω = 0 :

(3.54)

(3.53)∑∑

∑

∞

=

∞

=

∞

=

+

+=+=

==

1

)(

1

0

j

!)j(1

!E)j(1

!

)j(EeE)(

n

nn

n

nnn

n

nm

n

n

x

xx

x

x

ωω

ωωφ ω

)(

0

jd

)(d nnn

nmx

x ==ωω

ωφ


N T SUNIVERSITÄT



S. 56


Beispiel 3.3: gleichverteilte mittelwertfreie ZufallsvariableWahrscheinlichkeitsdichte:

charakteristische Funktion:

(3.55)

(3.56)

∆≤≤∆−

∆= sonst0

22für1

)(xxx

xxfx

( )22

2j2/

2/

2/

2/

jj

sisin

ej11

de1de)()(

xx

xx

x

x

x

x

xx

x

xx

xxf

∆∆

∆+

∆

∆−

∆

∆−

+∞

∞−

+

==

⋅∆

=

⋅∆

=⋅= ∫∫

ωω

ωω

ωω

ω

ωφ xx

29


N T SUNIVERSITÄT



S. 57


Wahrscheinlichkeitsdichte und charakteristische Funktion

quadratischer Mittelwert mit Hilfe der charakteristischen Funktion:

02

2)2(

d)(d

=

−=ωω

ωφxxm (3.57)

(3.42)

fx(x)

x ω

x∆1

φx (ω)1

x∆π22

x∆− 2x∆


N T SUNIVERSITÄT



S. 58


Beispiel 3.3 Fortsetzung:

( )

( )

12231

2

2

)2(12

2sin)2(cos2

2si

dd

ddsi

dd

2si

dd

222

03

103

2

0

31206

2242

2

03

22

02

20

2

2

2

2

02

2)2(

53

5342

xxxx

xx

xxx

xx

xxxxxxx

xxx

xm

x

xx

x

xxxx

xx

∆=

∆⋅=

∆⋅

+−=

∆⋅

−+−−+

−+−

=

∆⋅−+=

∆⋅−=

⋅−=

∆−=

=

=

==

==

K

KK

ωω ωω

ωx

(3.58)

30


N T SUNIVERSITÄT



S. 59


Definition 3.9: Bedingte Wahrscheinlichkeitsverteilung Fx|A(x | A)

Eigenschaften der bedingten Wahrscheinlichkeitsverteilung:Fx|A(∞ | A) = 1Fx|A(−∞ | A) = 0P(x1 < x ≤ x2 | A) = Fx|A(x2 | A) − Fx|A(x1 | A)

Definition 3.10: Bedingte Wahrscheinlichkeitsdichte fx|A(x | A)

(3.59)

(3.63)

)(|)|(| AP

AxPAxPAxF A∩≤=≤= xxx

xAxF

Axf AA d

)|(d)|( |

|x

x =

(3.60)(3.61)(3.62)


N T SUNIVERSITÄT



S. 60


Eigenschaften der bedingten Wahrscheinlichkeitsdichte:

fx|A(x | A) ≥ 0

Beispiel 3.4: A = a < x ≤ b, fx(x) sei gegeben

(3.64)

1d)|(| =∫∞

∞−xAxf Ax (3.65)

(3.66)

(3.67)

>

≤<−−

≤

=

≤<≤<∩≤=≤<≤<

für1

für)()()()(

für0

)()()|(|

bx

bxaaFbFaFxF

ax

baPbaxPbaxF ba

xx

xx

xx xxxx

31


N T SUNIVERSITÄT



S. 61


bedingte Wahrscheinlichkeitsdichte:

(3.68)

(3.69)

>

≤<−

≤

=

≤<=≤< ≤<

≤<

für0

für)()(

)( für0

d)|(d

)|( ||

bx

bxaaFbF

xfax

xbaxF

baxf baba

xxx

xxxx

xx

fx(x)

a b x

fx|a < x ≤ b(x|a < x ≤ b)


N T SUNIVERSITÄT



S. 62

Nachrichtentechnik 24 Funktionen einer Zufallsvariablen

Transformation einer Zufallsvariablen über eine Kennliniey = g(x)

Beispiele für Kennlinien:Gleichrichter, Begrenzer, Quadrierer, Logarithmierer

(4.1)

y = g(x)x(η) y(η)

32


N T SUNIVERSITÄT



S. 63

Transformation der Wahrscheinlichkeitsverteilunggegeben: Fx(x), gesucht: Fy(y)

Beispiel einer Kennlinie

Eigenschaften von Fy(y):

Fy(y) = 1 für y ≥ ymax

Fy(y) = 0 für y ≤ ymin

Fy(y1) = P(y ≤ y1) = P(x ≤ x1) = Fx(x1)

Fy(y2) = P(x ≤ x2a) + P(x2b ≤ x ≤ x2c) = Fx(x2a) + Fx(x2c) − Fx(x2b)


x

y1

y

x2a x2b x2c x1

ymax

y2

ymin


N T SUNIVERSITÄT



S. 64


Sonderfälle einer Kennlinie:Beispiel 4.1: stückweise konstante Kennlinie

>−≤≤−

−<+=

fürfür0

cfür)(

cxcxcxc

xcxxg

−c

x

Fx(x)y = g(x)

c

x

Fy(y)

yc−c

(4.2)

33


N T SUNIVERSITÄT



S. 65


Diskontinuität:

Fy(y) = P(y ≤ y) = P( x ≤ y + c) = Fx(y + c) für y ≥ 0Fy(y) = P(y ≤ y) = P( x ≤ y − c) = Fx(y − c) für y < 0

Beispiel 4.2: Kennlinie mit Sprüngen (harter Entscheider)

)()()()(lim0

cFcFFF −−=−−→

xxyy εεε

−1x

Fx(x)y = g(x)1

x

Fy(y)

y

1

−1 1

1

(4.3)

(4.4)(4.5)


N T SUNIVERSITÄT



S. 66


Sonderfall: streng monoton wachsende Funktion

aus x2 > x1 folgt g(x2) > g(x1)

Fy(g(x)) = Fx(x)

Erzeugung von Zufallsvariablen mit vorgegebener Wahrschein-lichkeitsverteilung durch Transformation einer gleichverteilten Zufallsvariablen an einer nichtlinearen (streng monoton wachsenden) Kennlinie

Ausgangsverteilung: Gleichverteilung in 0 ≤ x < 1

(4.6)

≥<≤

<=

1für110für

0für0)(

xxx

xxFx (4.7)

34


N T SUNIVERSITÄT



S. 67


gewünschte Verteilung: Fy(y)

Fy(y) = Fy(g(x)) = Fx(x) = x ⇒ g(x) = Fy−1(x) für 0 ≤ x ≤ 1

Beispiel 4.3:

Bereich −∞ < y < 0:

korrespondierender Wertebereich für x : 0 < x < 1/2

(4.8)

(4.10)yyf −= e

21)(y

≥−

<=

− 0füre211

0füre21

)(y

yyF

y

y

y

)2ln(e21)( xgxxgF g =⇒=⇒=y (4.11)

(4.9)


N T SUNIVERSITÄT



S. 68


Bereich 0 < y < ∞:

korrespondierender Wertebereich für x : 1/2 < x < 1

vollständige Kennlinie

(4.13)

<<

−

≤<=

121für

221ln

210für)2(ln

)(x

x

xxxg

−=⇒=−⇒= −

xgxxgF g

221lne

211)(y (4.12)

35


N T SUNIVERSITÄT



S. 69


x

Fx(x)

y = g(x)

1

x

Fy(y)

y

1

1

1

fy(y)

y 21


N T SUNIVERSITÄT



S. 70


Allgemeine Beziehung für die Wahrscheinlichkeitsverteilung:

Definition des Intervalls I(y): I(y) = x | g(x) ≤ y

Fy(y) = P(y ≤ y) = P(x ∈ I(y))

(4.14)

(4.15)

x

y = g(x)

xa xb xc

ymax

y

ymin

I(y)

36


N T SUNIVERSITÄT



S. 71

Transformation der WahrscheinlichkeitsdichteAbleitung der Wahrscheinlichkeitsverteilung:

direkte Berechnung durch Transformation über die Kennlinie y = g(x)

gegeben: fx(x), gesucht: fy(y)

Voraussetzung: fx(x) enthält keine diskreten Anteile (δ-Funktionen)

eventuell vorhandene diskrete Anteile müssen separat transformiert werden:


yyF

yfd

)(d)( y

y =

∑∑==

−⋅=⇒−⋅=N

iii

N

iii xgypyfxxpxf

11))((δ)(ˆ)(δ)(ˆ yx

(4.16)

(4.17)


N T SUNIVERSITÄT



S. 72

Berechnung der Wahrscheinlichkeitsdichte fy(y) an der Stelle y = y0 :

im Allgemeinen mehrere Lösungen der Kennlinie:

y0 = g(x0i)

Wahrscheinlichkeit, dass y0 ≤ y ≤ y0 + dy :

mit


(4.18)

(4.21)

∑=

+∈=+≤≤n

iiii xxxPyyyP

100000 )d()d( Kxy

∑=

⋅=⋅n

iii xxfyyf

1000 d)(d)( xy

)(dd

dd

00 0

ixxi

xgxy

xy

i

′===

(4.19)

(4.20)

37


N T SUNIVERSITÄT



S. 73


x

x

y

x0a x0b x0c

y0

fy(y)

fx(x)

y

dy

dx0a dx0b

dx0c ∑= ′

=n

i i

ixgxfyf

1 0

00 )(

)()( xy (4.22)


N T SUNIVERSITÄT



S. 74


stückweise konstante Kennlinie g(x) ⇒ diskrete Anteile in fy(y)

Beispiel 4.4: Amplitudenverteilung einer sinusförmigen Funktion

Wahrscheinlichkeitsdichte des Winkels ϕ :

nichtlineare Funktion:

Wahrscheinlichkeitsdichte der Cosinus-Funktion:

≤≤−=

sonst0ππfür)( π2

1 ϕϕϕf

)cos()( ϕϕ == gy

∑=i i

gif

yf)(

)()(

dd ϕ

ϕ

ϕ

ϕy

(4.24)

(4.25)

(4.23)

38


N T SUNIVERSITÄT



S. 75


Transformation an einerCosinus-Kennlinie

ϕ

fϕ(ϕ)

−π π

y = cos(ϕ)

ϕfy(y)

y1

−1


N T SUNIVERSITÄT



S. 76


Ableitung der Nichtlinearität:

Ersetzen von ϕ durch y :

Wahrscheinlichkeitsdichte der Cosinus-Funktion

(4.27)

(4.28)

(4.26))sin()(d ϕϕϕ −=

dg

22

22

1)(cos1)sin(

1)(cos)(sin

y−=−=⇒

=+

ϕϕ

ϕϕ

11für1π

1

12)(

22π2

1<<−

−=

−⋅= y

yyyf y

39


N T SUNIVERSITÄT



S. 77

Fy(y)

y

1

−1 1


Wahrscheinlichkeitsverteilung der Cosinus-Funktion

(4.30)

(4.29)

≥<<−+

−≤=

1für111fürarcsin

1für0)( π

121

yyy

yyFy

[ ] [ ]2π

π1

1π1

12

arcsinarcsind1π

1d)()( +==−

== −−∞−∫∫ yuu

uuufyF y

yy

yy


N T SUNIVERSITÄT



S. 78


ErwartungswertErwartungswert einer Funktion einer Zufallsvariablen

Erwartungswertbildung und nichtlineare Operation sind im Allgemeinen nicht vertauschbar

xxfxgg d)()()(E xx ∫∞

∞−⋅=

)E()(E xx gg ≠

(4.31)

(4.32)

40


N T SUNIVERSITÄT



S. 79

Nachrichtentechnik 25 Zwei Zufallsvariablen, Folgen von Zufallsvar.

Gemeinsame Wahrscheinlichkeitsdichte und Wahrscheinlichkeitsverteilung

Definition mehrerer Zufallsvariablen über einer Ergebnismenge

Zufallsexperiment

x(η1,η3,η8) x(η2) x(η4,η5) x(η6,η7) x∈ R

η1

η3

η2η5

η6

η7

η4

y(η1,η2) y(η3,η5,η7) y(η4,η6,η8) y∈ R

η8


N T SUNIVERSITÄT



S. 80


Definition 5.1: Gemeinsame Wahrscheinlichkeitsverteilung Fxy(x,y)

Fxy(x,y) = P(η | x(η) ≤ x∩η | y(η) ≤ y)

Eigenschaften: 1. Fxy(−∞,−∞) = 0,

2. Fxy(x,−∞) = 0,

3. Fxy(−∞,y) = 0,

4. Fxy(x,+∞) = Fx(x),

5. Fxy(+∞,y) = Fy(y),

6. Fxy(+∞,+∞) = 1.

(5.1)

(5.2)

(5.3)

(5.4)

(5.5)

(5.6)

41


N T SUNIVERSITÄT



S. 81


Spezielle Ereignisse:P(x ≤ x∩ y ≤ y) = P(x, y ∈ D1) = Fxy(x,y) P(x ≤ x∩y1 ≤ y ≤ y2) = P(x, y ∈ D2) = Fxy(x,y2) − Fxy(x,y1) P(x1 ≤ x ≤ x2∩ y ≤ y) = P(x, y ∈ D3) = Fxy(x2,y) − Fxy(x1,y) P(x1 ≤ x ≤ x2∩y1 ≤ y ≤ y2) = P(x, y ∈ D4)

= Fxy(x2,y2) − Fxy(x1,y2) − Fxy(x2,y1) + Fxy(x1,y1)

(5.7)(5.8)(5.9)

(5.10)

y

x1

D1

y

x2

y2

y1

x1 x2x

y1

y2

x

D2 D3D4


N T SUNIVERSITÄT



S. 82


Definition 5.2: Gemeinsame Wahrscheinlichkeitsdichte fxy(x,y)

Wahrscheinlichkeitsverteilung:

Randdichte − Gl.(5.4):

(5.11)

(5.12)

(5.13)

yxyxF

yxfdd

),(d),(

2xy

xy =

vuvufyxFx y

dd),(),( ∫ ∫∞− ∞−

= xyxy

vuvufxFxFx

dd),(),()( ∫ ∫∞−

∞

∞−=∞= xyxyx

yyxfx

xFxf d),(d

)(d)( ∫∞

∞−== xy

xx

42


N T SUNIVERSITÄT



S. 83


Analog: Randdichte von y :

Definition 5.3: Statistische Unabhängigkeit von Zufallsvariablen: Zwei Zufallsvariablen x und y sind statistisch unabhängig, wenn gilt:

fxy(x,y) = fx(x) ⋅ fy(y)

Gemeinsame Wahrscheinlichkeitsverteilung statistisch unabhängiger Zufallsvariablen:

Fxy(x,y) = Fx(x) ⋅ Fy(y)

(5.14)

(5.15)

(5.16)

xyxfyf d),()( ∫∞

∞−= xyy


N T SUNIVERSITÄT



S. 84


Satz 5.1: Wenn x und y statistisch unabhängig sind, dann sind es auch z = g(x) und w = h(y).

Beispiel 5.1: Paar vonZufallsvaribalen x und y, das in dem Bereich

−∆x ≤ x ≤ ∆x ∩−∆y ≤ y ≤ ∆y gleichverteilt ist

fxy(x,y) y

−∆x

x

∆x−∆y

∆y

43


N T SUNIVERSITÄT



S. 85


Gemeinsame Wahrscheinlichkeitsdichte:

Randdichten:

∆≤≤∆−∩∆≤≤∆−

= ∆∆ sonst 0

für),( 4

1 yyyxxxyxf yxxy

∆≤≤∆−

==

∆≤≤∆−==

∆∞

∞−

∆∞

∞−

∫

∫

sonst 0für

d),()(

sonst 0fürd),()(

21

21

yyyxyxfyf

xxxyyxfxf

y

x

xyy

xyx

(5.17)

(5.19)

(5.18)


N T SUNIVERSITÄT



S. 86


Die statistische Unabhängigkeit ist erfüllt: fxy(x,y) = fx(x) ⋅fy(y)

fx(x)

x−∆x ∆x

fy(y)

y−∆y ∆y

44


N T SUNIVERSITÄT



S. 87


Beispiel 5.2: Paar von Zufallsvaribalen x und y, das in dem Bereich 0 ≤ x ≤ ∆x, ∩ 0 ≤ y ≤ ∆y ∩ x/∆x + y/∆y ≤ 1 gleichverteilt ist

fxy(x,y)y

x∆x

∆y

x/∆x + y/∆y = 1


N T SUNIVERSITÄT



S. 88


gemeinsame Wahrscheinlichkeitsdichte:

Randdichten:

≤+∩∆≤≤∩∆≤≤= ∆∆∆∆

sonst 0100für),(

2y

yx

xyx yyxxyxf xy

∆≤≤

∆

−∆

=∆∆

==

∆≤≤

∆−

∆=

∆∆==

∫∫

∫∫

∆

−∆∞

∞−

∆−∆

∞

∞−

sonst 0

0für12d2d),()(

sonst 0

0für12d2d),()(

1

0

1

0

yyy

yy

xyx

xyxfyf

xxx

xx

yyxyyxfxf

yyx

xxy

xyy

xyx

(5.20)

(5.22)

(5.21)

45


N T SUNIVERSITÄT



S. 89


Die statistische Unabhängigkeit ist nicht erfüllt:

fxy(x,y) ≠ fx(x) ⋅ fy(y)

fx(x)

x∆x

fy(y)

y∆y


N T SUNIVERSITÄT



S. 90


Definition 5.4: Gemeinsames Moment

Definition 5.5: Gemeinsames zentrales Moment

(5.24)

),( mkmxy

∫ ∫∞

∞−

∞

∞−== yxyxfyxm mkmkmk dd),(E),(

xyxy yx (5.23)

),( mkxyµ

∫ ∫∞

∞−

∞

∞−−−=

−−=

yxyxfmymx

mm

mk

mkmk

dd),()()(

)()(E

)1()1(

)1()1(),(

xyyx

yxxy yxµ

46


N T SUNIVERSITÄT



S. 91


Definition 5.6: Kovarianz

Definition 5.7: Unkorrelierte Zufallsvariablen

Ex ⋅ y = Ex ⋅ Ey

Definition 5.8: Orthogonale Zufallsvariablen

Ex ⋅ y = 0

(5.26)

(5.25)

)1,1(xyµ

∫ ∫∞

∞−

∞

∞−⋅−⋅−=

−⋅−=

yxyxfmymx

mm

dd),()()(

)()(E

)1()1(

)1()1()1,1(

xyyx

yxxy yxµ

(5.27)


N T SUNIVERSITÄT



S. 92


Satz 5.2: Statistisch unabhängige Zufallsvariablen sind unkorreliert.

Beweis:

(5.28)EEd)(d)(

dd)()(

dd),(E

yx

yx

yx

yx

xy

⋅=⋅⋅⋅=

⋅⋅⋅=

⋅⋅=⋅

∫∫

∫ ∫

∫ ∫

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

yyfyxxfx

yxyfxfyx

yxyxfyx

47


N T SUNIVERSITÄT



S. 93


Definition 5.9: Der Korrelationskoeffizient ρxy

Wertebereich des Korrelationskoeffizienten:

−1 ≤ ρxy ≤ 1

Beweis:

⇒ 1 ± 2ρxy + 1 ≥ 0 ⇒ |ρxy| ≤ 1

(5.29))(E)(E

)()(E2)1(2)1(

)1()1()1,1(

yx

yx

yx

xyxy

yx

yx

mm

mm

−⋅−

−⋅−==

σσµ

ρ

(5.30)

0E2)1()1(

≥

−±−

y

y

xx yx

σσmm (5.31)

(5.32)


N T SUNIVERSITÄT



S. 94


Sonderfall: x und y sind unkorreliert

Sonderfall: x und y sind linear abhängig: y = a ⋅ x

my(1) = Ey = Ea ⋅ x = a ⋅ mx

(1)

σy2 = E(y − my

(1))2 = E(a⋅x − a⋅mx(1))2 = a2 ⋅ σx

2

(5.33)

(5.34)

(5.35)

(5.36)

0E)()(E )1()1()1()1(

=−⋅

=−⋅−

=yx

yx

yx

yxxy

yxyxσσσσ

ρmmmm

)1()sgn(||||

||)()(E)()(E

2

2

)1()1()1()1(

±===⋅

⋅=

⋅⋅−⋅⋅−=

−⋅−=

aaa

aa

amaammm

x

x

xxxx

yx

yxxy

xxyx

σσ

σσσσρ

48


N T SUNIVERSITÄT



S. 95


Definition 5.10: Komplexe Zufallsvariable z als Funktion zweier

reeller Zufallsvariablen x und y

z = x + j y

linearer Mittelwert:

mz(1) = Ez = Ex + j Ey = mx

(1) + j my(1)

quadratischer Mittelwert:

mz(2) = E|z|2 = Ez⋅z* = Ex2 + y2 = mx

(2) + my(2)

Varianz:

σz2 = E|z − mz

(1)|2 = E(x − mx(1))2 + (y − my

(1))2 = σx2 + σy

2

(5.37)

(5.38)

(5.39)

(5.40)


N T SUNIVERSITÄT



S. 96


Funktionen zweier ZufallsvariablenWahrscheinlichkeitsverteilung

gegeben seien zwei Zufallsvariablen x und y mit der gemeinsamen Wahrscheinlichkeitsdichte fxy(x,y) und eine Funktion g mit z = g(x, y)

gesucht ist die Wahrscheinlich-keitsdichte fz(z)

Definition eines GebietesDz, in dem g(x,y) < z ist.

Ereignis, dass z ≤ z :z ≤ z = g(x,y) ≤ z = x,y ∈ Dz

x

y

Dz

z = g(x,y)

Dz

z+dz = g(x,y)∆Dz

49


N T SUNIVERSITÄT



S. 97


Wahrscheinlichkeitsverteilung Fz(z) :

WahrscheinlichkeitsdichteDefinition eines Gebietes ∆Dz, in dem z < g(x,y) < z + dz ist.

Ereignis, dass z < z ≤ z + dz :

z < z ≤ z + dz = x,y ∈ ∆ Dz

Wahrscheinlichkeitsdichte fz(z) :

∫∫=∈=≤=zD

z yxyxfDPzPzF dd),(,)( xyz yxz

∫∫∆

=+≤<=zD

yxyxfzzzPzzf dd),(dd)( xyz z

(5.41)

(5.42)


N T SUNIVERSITÄT



S. 98


Summe zweier Zufallsvariablen: z = x + yWahrscheinlichkeits-verteilung:

Wahrscheinlichkeitsdichte:

∫ ∫∞

∞−

−

∞−=

yzyxyxfzF dd),()( xyz

(5.43)

(5.44)∫∞

∞−−=

=

yyyzf

zzFzf

d),(

d)(d

)(

xy

zz x

y

Dz

z = x + y

z + dz = x + y

∆Dz

dy

x + dz

y

x

50


N T SUNIVERSITÄT



S. 99


Direkte Berechnung der Wahrscheinlichkeitsdichte:

Sonderfall: statistisch unabhängige Zufallsvariablen:fxy(x,y) = fx(x) ⋅ fy(y)

∫

∫ ∫∫∫

∞=

−∞=

∞=

−∞=

+−=

−=∆

−=

==

y

y

y

y

zyzx

yzxD

yzyyzf

yxyxfyxyxfzzfz

dd),(

dd),(dd),(d)(d

xy

xyxyz

(5.45)

(5.46)

)()(d)()(d)()()( zfzfxxzfxfyyfyzfzf yxyxyxz ∗=−=−= ∫∫∞

∞−

∞

∞−


N T SUNIVERSITÄT



S. 100


Beispiel: Summe zweier gleichverteilter statistisch unabhängiger Zufallsvariablen z = x + y

fx(x)

x2 4 6 8

fy(y)

y2 4 6 8fz(z)

z2 4 6 8

0,5

0,25

0,25

Documents

nts.uni-due.dents.uni-due.de/downloads/nts2/NT2_S1-100.pdf · 1 Fachgebiet Nachrichtentechnische Systeme UNIVERSITÄT NTS D U I S B U R G E S S E N Prof. Dr.-Ing. Andreas Czylwik