29
1 Marcel Dettling, Zurich University of Applied Sciences Grundlagen der Mathematik II Lineare Algebra und Statistik FS 2019 – Einführung Marcel Dettling Institute für Datenanalyse und Prozessdesign Zürcher Hochschule für Angewandte Wissenschaften [email protected] https://www.zhaw.ch/de/ueber-uns/person/dtli ETH Zürich, 20. Februar 2019

Marcel Dettling - metaphor

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

1Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Einführung

Marcel DettlingInstitute für Datenanalyse und Prozessdesign

Zürcher Hochschule für Angewandte Wissenschaften

[email protected]

https://www.zhaw.ch/de/ueber-uns/person/dtli

ETH Zürich, 20. Februar 2019

2Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Einführung

DozentMarcel Dettling, Dr. Math. ETH

Ausbildung:Mathematikstudium an der ETH ZürichDissertation am Seminar für Statistik, ETHPostdoktorat Johns Hopkins Medical School

Position:Dozent @ ZHAW und @ ETH ZürichAngewandte Forschung mit Partnern inMarketing, Verkehr, Gesundheit, Energie, …

3Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Einführung

Lineare Algebra• Lineare Gleichungssysteme (2.5V)• Matrizenrechnung, Determinanten (2V)• Vektorräume und lineare Abbildungen (1.5V)• Ausgleichsrechnung, Eigenwertproblem (1V)

Statistik• Einführung: Zufallsvariablen und W’keitsverteilungen (2.5V)• Parameterschätzungen und Tests (2.5V)• Regression und Ausgleichsrechnung (2V)

4Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Einführung

Charakter der Vorlesung• Vorlesung dient zur Veranschaulichung• Darum: Fokus auf Beispiele und Illustration• LinAlg: nicht alle technischen Details, siehe Buch• Mitschreiben empfohlen, jedoch nicht zwingend

Dokumentation• LinAlg: Kurzskript mit Hauptideen verfügbar• LinAlg: Buch von Nipp/Stoffer als Referenz• Statistik: komplettes Skript vom Dozenten vorhanden• Statistik: Buch von Werner Stahel als Zusatzliteratur

5Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Einführung

Ablauf der Übungen• Start diese Woche• Total 13+1 Serien stehen zur Verfügung• Übungsstunde jeweils am Freitag• Tipps Woche 1, Abgabe Woche 2, Korrektur Woche 3

Anforderungen• Keine Bedingungen an Abgabe, aber Übungen sind zentral! • Computer-Aufgaben sind wesentliches Element!

Weiteres• Präsenz: Termin noch offen• Unterlagen werden per E-Mail versandt

6Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Einführung

Organisatorisches zur Prüfung• Schriftliche Prüfung, Dauer 90 Minuten• Es werden ca. 4-5 Aufgaben gestellt• Mischung (ca. 50/50) von LinAlg und Statistik• Verständnis des Stoffs zentral, Transferleistung nötig

Stoff• Alles, was in Vorlesung und Übungen behandelt wurde!• Wichtig: von der ersten bis zur letzten Woche

Hilfsmittel• Beliebige schriftliche Unterlagen sind erlaubt• Taschenrechner oder gar Computer sind nicht erlaubt

7Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeLineare Gleichungssysteme• zur Suche nach Unbekannten unter formulierten Bedingungen• es gibt entweder genau eine, unendlich viele oder keine Lösung

TerminologieSchreibweise mit allgemeinen Koeffizienten :

Wir haben Gleichungen mit Unbekannten . Als skalareGrössen vorgegeben sind die sowie die rechte Seite .

11 1 12 2 1 1

21 1 22 2 2 2

1 1 2 2

n n

n n

m m mn n m

a x a x a x ba x a x a x b

a x a x a x b

ija

m n 1,..., nx xija 1,..., mb b

8Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeSchreibweise als augmentierte Matrix

Schreibweise als Matrixgleichung

11 12 1 1

21 22 2 2

1 2

n

n

m m mn m

a a a ba a a b

a a a b

Ax b mit

11 12 1 1 1

21 22 2 2 2

1 2

...

...; ;

...

...

n

n

m m mn n m

a a a x ba a a x b

A x b

a a a x b

9Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeGauss-Algorithmus (GA)Der GA ist ein Verfahren zur Bestimmung der Lösungsmengevon LGS. Die Idee ist, das LGS so umzuformen, dass dieLösung identisch bleibt, jedoch einfacher zu bestimmen ist.

Definition: Zwei LGS heissen äquivalent, falls die dieselbeLösungsmenge besitzen. Es gibt 2 Umformungs-Operationen, welche die Lösungsmenge erhalten:a) Vertauschen von Zeilenb) Addieren eines Vielfachen

Ziel des GA ist es, das LGS auf Dreiecksform zu bringen, sodass die Lösungsmenge durch RWE bestimmt werden kann.

10Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeZeilenstufenform

Rang: # Nicht-Nullzeilen = # Pivots im Endschema

1

2

1

0 0

0 0 0 00 0 0 0 0 00 0 0 0 0 00 0 0 0 0 0

r

r

m

cc

cc

c

11Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeAnzahl Lösungen eines LGSVom Ausgangsschema eines LGS kann man i.A. keine Aussageüber Existenz und Anzahl Lösungen machen, vom Endschemahingegen sehr wohl. Es gibt genau 3 Möglichkeiten:a) genau eine Lösungb) unendliche viele Lösungenc) keine Lösung

Der Rang des LGS (=Dimension des UR der Spaltenvektoren) bestimmt die Anzahl Lösungen. Für den Rang gilt allgemein:

, sowie auch und 0r r m r n

12Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeAnzahl Lösungen eines LGS• Der Rang bestimmt die Anzahl Lösungen•

• Die geometrische Interpretation von Spaltenvektoren im Raum, welche kombiniert werden müssen, um die rechte Seite zuerzeugen, ist stets sehr hilfreich.

• Es gibt spezielle LGS, wo die rechte Seite trivial ist (alles 0). Sieheissen homogene Systeme und haben stets eine Lösung.

Dimension # Lösungen r=m r=n r<m r<nm=n 0,1,∞ 1 0,∞m<n 0,∞ ∞ - 0,∞ -m>n 0,1,∞ - 0,1 - 0,∞

13Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Lineare GleichungssystemeHomogene LGSEin LGS heisst homogen, falls die rechte Seite überall null ist.

• Führt man in einem homogenen LGS den GA durch, sobleiben die Nullen auf der rechten Seite erhalten. AllfälligeVKB im Endschema sind also stets erfüllt.

• Der Fall “keine Lösung” tritt für homogene LGS nicht auf,diese haben stets genau eine oder unendlich viele Lösungen.

11 1 12 2 1

21 1 22 2 2

1 1 2 2

00

0

n n

n n

m m mn n

a x a x a xa x a x a x

a x a x a x

14Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenDefinition von MatrizenEine -Matrix ist ein Schema von Zahlen, angeordnet in Zeilen und Spalten. Diese Zahlen nennt man Elemente der Matrix.

Anwendungen: LGS / lineare Abbildungen / DGL / …

m n A m nm n

11 12 1

21 22 2

1 2

...

...

...

n

n

m m mn

a a aa a a

A

a a a

Notation:

oderija ( )ijA

15Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenSpezielle Matrizen1) Quadratische Matrizen:2) Nullmatrix: eine -Matrix, in der alle Elemente 0 sind.3) Eine obere Dreiecksmatrix oder Rechtsdreiecksmatrix ist

eine quadratische Matrix, in der alle Elemente unterhalb der Diagonale gleich null sind.

m n

1 3 10 2 40 0 3

R

m n

16Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenSpezielle Matrizen4) Bei einer oberen Dreiecksmatrix oder Linksdreiecksmatrix

sind höchstens die Elemente oberhalb der Diagonale von null verschieden.

5) Eine quadratische Matrix heisst Diagonalmatrix, falls nur die Diagonalelemente von null verschieden sind.

2 0 0 03 4 0 01 2 2 01 0 0 3

L

5 0 00 2 0 (5,2,3)0 0 3

D diag

17Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenSpezielle Matrizen6) Die quadratische -Matrix

heisst Einheitsmatrix oder Identität.

7) Weiter gibt es Spaltenvektoren ( -Matrizen) und Zeilenvektoren ( -Matrizen). Deren Elemente nenntman Komponenten. Achtung, ein Zeilen- und ein Spalten-vektor mit identischen Elementen sind nicht gleich!

3

1 0 00 1 00 0 1

I

n n (1,1,...,1)nI diag

1n1 n

1

2

3

4

2470

bb

bbb

1 2 3 4

2 4 7 0c

c c c c

18Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenRechnen mit Matrizen• Zwei Matrizen sind gleich, falls sie dieselbe Dimension

aufweisen und alle ihre Elemente identisch sind.• Die Addition von Matrizen funktioniert nur dann, wenn beide

dieselbe Dimension haben. Es werden dann ganz einfachdie Elemente addiert.

• Die skalare Multiplikation multipliziert jedes Element einerMatrix mit einer Zahl .

• Die Matrixmultiplikation ist speziell definiert, dies im Sinneder Hintereinanderschaltung von linearen Abbildungen.Siehe Wandtafel für genauere Instruktionen.

19Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenRechnen mit Matrizena) Addition c) Matrixmultiplikation

b) skalare Multiplikation

1 0 0 23 4 1 3

1 22 7

1 0 2 02

3 4 6 8

20Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenRechenregeln für Matrizen1) Kommutativgesetz für die Addition

Für -Matrizen und gilt:2) Assoziativgesetz für die Addition

Für - Matrizen gilt: 3) Assoziativgesetz für die Multiplikation

Für jede -Matrix , -Matrix und -Matrixgilt:

4) Distributivgesetze für die MultiplikationFür -Matrizen und -Matrizen gilt:

sowie

m n A B A B B A

m n , ,A B C ( ) ( )A B C A B C

m n A n p B p q C( ) ( )AB C A BC

m n ,A B n p ,C D( )A B C AC BC ( )A C D AC AD

21Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenRechenregeln für MatrizenWichtig: das Kommutativgesetz bezüglich der Multiplikation gilt für Matrizen in der Regel nicht, d.h. im Allgemeinen ist:

Falls existiert, so ist nicht garantiert, dass es auch gibt.

Doch selbst für quadratische Matrizen, wo jeweils sowohl wie auch existiert, kann sein. Der andere Fall, d.h.

ist jedoch ebenfalls möglich.

siehe die Beispiele an der Wandtafel…

AB BA

AB BAAB

BA AB BAAB BA

22Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenLineare AbbildungenFür eine -Matrix betrachten wir die Abbildung , welche jeden beliebigen Spaltenvektor überführt in den Vektor . Diese Abbildung ist linear, weil für beliebige und beliebiges gilt:

Umgekehrt ist jede lineare Abbildung vom in den durch eine Matrix definiert, d.h. es gilt stets ..

Beispiele: Geraden- und Ebenenspiegelungen, Drehungen, Parallelprojektionen, Streckungen. Zentral ist, dass der Ursprung festgehalten wird, andernfalls ist die Abbildung nicht linear.

m n A : n mF nx

( ) mx F x Ax , nx y

( ) ( ) ( ), ( ) ( )F x y F x F y F x F x

F n mA ( )F x Ax

23Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenTransponierte MatrizenDie Transponierte einer beliebigen Matrix erhält man, indem man die Zeilen von in die Spalten von einfüllt.

Rechenregeln:1) 2) 3)

7 8 20 1 3

A

A

7 08 12 3

TA

( )T TA A( )T T TA B A B ( )T T TAB B A

TAA TA

24Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Matrizen

Die Inverse einer Matrix• die Inverse ist nur für quadratische Matrizen definiert

• Geometrie: Matrizen definieren lineare Abbildungen. Die Inverse ist die Umkehrabbildung, sie existiert nicht immer

• die Inverse wird mit dem Gauss-Algorithmus bestimmt. Es gilt, LGS mit identischen Koeffizienten, aber unterschiedlichen

rechten Seiten zu lösen.

• die Klasse der Matrizen, für welche die Inverse existiert, wird regulär genannt. Falls die Inverse nicht existiert, so heisst die Matrix singulär.

n

25Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenZusammenhang Inverse/LGS• Es besteht (schon aus der Berechnung der Inversen) ganz

offensichtlich ein Zusammenhang zwischen der Existenz der Inversen von und der Existenz der Lösung des LGS von .

Satz 2.7: Die folgenden Aussagen sind äquivalent, d.h. wenn eine davon gilt, so gelten alle anderen auch. Sei eine -Matrix.

i) ist invertierbar bzw. regulärii) hat Rang iii) ist für jede rechte Seite lösbariv) hat nur die triviale Lösung

A A

A n n

AA nAx b

0Ax

26Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – MatrizenOrthogonale Matrizen• Orthogonale Matrizen beschreiben längentreue Abbildungen

vom in den also z.B. reine Drehungen oder auch reineSpiegelungen.

• Die Spaltenvektoren von haben Länge 1 und stehenorthogonal zueinander.

• Sie sind wichtig für die Ausgleichsrechnung, das Eigenwert-problem, usw. (...siehe später):

Definition:

Eine -Matrix heisst orthogonal, falls .

n n

n n

A

TnA A IA

27Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Matrizen

Rechenregeln für orthogonale MatrizenDefinition:

Eine -Matrix heisst orthogonal, falls .

Satz 2.8: Seien und orthogonale -Matrizen. Dann gilt:

i) ist invertierbar und ii) ist orthogonaliii) ist orthogonaliv) ist orthogonal

n n A TnA A I

A B n n

A 1 TA A 1A

ABnI

28Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Determinante

DeterminanteDie Determinante ist eine für quadratische -Matrizendefinierte Funktion, welche jeder Matrix eine Zahl zuordnet.Diese Zahl charakterisiert die Eigenschaften der Matrix in folgender Hinsicht:

• Lösbarkeit von LGS• Existenz der Inversen• Eigenwerte

Schreibweise:

n n

det( )A A

A

29Marcel Dettling, Zurich University of Applied Sciences

Grundlagen der Mathematik IILineare Algebra und StatistikFS 2019 – Determinante

Geometrische Interpretation• Die Determinante ist das Volumen des Spats, der von den

Spaltenvektoren von im aufgespannt wird.

• Wenn dieses Volumen (und somit die Determinante) 0 ist, so liegen die Spaltenvektoren in einem Unterraum des (z.B. Gerade im , Gerade oder Ebene im , ...)

• Dies hat entsprechende (uns bereits bekannte) Auswirkungen auf die Lösbarkeit von durch die Matrix definierte LGS.

• Daraus folgt, dass die Determinante auch die Existenz der Inversen bestimmt. Reguläre Matrizen haben .

A n

n2 3

A

det( ) 0A