Mathematische Grundlagen der Computerlinguistik · InhaltDi erentialrechnungStetigkeitFundamentalsatz der AnalysisRiemann-IntegralVektorr aume NormenSkalarproduktPartielle AbleitungGradientJacobi-Matrix

Inhalt Differentialrechnung Stetigkeit Fundamentalsatz der Analysis Riemann-Integral Vektorraume Normen Skalarprodukt Partielle Ableitung Gradient Jacobi-Matrix

Mathematische Grundlagen derComputerlinguistik

Grundbegriffe der Analysis und der linearen Algebra

Michael Staniek

ICL, Universitat Heidelberg, SoSe 2019

29.05.2019

1 / 33


Inhalte der heutigen Vorlesung

Intervalle

Ableitungen und Integrale

Fundamentalsatz der Analysis

Vektorraume

Normen

Skalarprodukt

Partielle Ableitungen

Gradienten

Jacobi-Matrizen

2 / 33


Intervalle in R

Abgeschlossenes Intervall in R: [a, b] = {x ∈ R|a ≤ x ≤ b}

Offenes Intervall in R: (a, b) = {x ∈ R|a < x < b}Halboffenes Intervall in R:

(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}

Linksseitig unendliches Intervall:

Abgeschlossen: (−∞, a] = {x ∈ R|x ≤ a}Offen: (−∞, a) = {x ∈ R|x < a}

Rechtsseitig unendliches Intervall:

Abgeschlossen: [a,∞) = {x ∈ R|x ≥ a}Offen: (a,∞) = {x ∈ R|x > a}

3 / 33


Intervalle in R

Abgeschlossenes Intervall in R: [a, b] = {x ∈ R|a ≤ x ≤ b}Offenes Intervall in R: (a, b) = {x ∈ R|a < x < b}

Halboffenes Intervall in R:

(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}





3 / 33


Intervalle in R

Abgeschlossenes Intervall in R: [a, b] = {x ∈ R|a ≤ x ≤ b}Offenes Intervall in R: (a, b) = {x ∈ R|a < x < b}Halboffenes Intervall in R:

(a, b] = {x ∈ R|a < x ≤ b}

[a, b) = {x ∈ R|a ≤ x < b}Linksseitig unendliches Intervall:




3 / 33


Intervalle in R


(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}





3 / 33


Intervalle in R


(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}


Abgeschlossen: (−∞, a] = {x ∈ R|x ≤ a}

Offen: (−∞, a) = {x ∈ R|x < a}Rechtsseitig unendliches Intervall:


3 / 33


Intervalle in R


(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}





3 / 33


Intervalle in R


(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}




Abgeschlossen: [a,∞) = {x ∈ R|x ≥ a}

Offen: (a,∞) = {x ∈ R|x > a}

3 / 33


Intervalle in R


(a, b] = {x ∈ R|a < x ≤ b}[a, b) = {x ∈ R|a ≤ x < b}





3 / 33


Differentialrechnung


Berechnung von lokalen Veranderungen von Funktionen

Differenzierbarkeit

Eine Funktion f : (a, b)→ R, die ein offenes Intervall (a, b) auf diereellen Zahlen abbildet, heißt differenzierbar an der Stelle x0, falls:

limx→x0

f (x)− f (x0)

x − x0= lim

h→0

f (x0 + h)− f (x0)

h

existiert.

Dieser Limes heißt “Ableitung von f nach x an der Stelle x0”.

Ableitung kann durch ein h = ε approximiert werden.

Man scheibt auch f ′(x0) oder df (x)dx f (x0)

4 / 33





Differenzierbarkeit


limx→x0

f (x)− f (x0)

x − x0= lim

h→0

f (x0 + h)− f (x0)

h

existiert.




4 / 33





Differenzierbarkeit


limx→x0

f (x)− f (x0)

x − x0= lim

h→0

f (x0 + h)− f (x0)

h

existiert.




4 / 33





Differenzierbarkeit


limx→x0

f (x)− f (x0)

x − x0= lim

h→0

f (x0 + h)− f (x0)

h

existiert.




4 / 33





Differenzierbarkeit


limx→x0

f (x)− f (x0)

x − x0= lim

h→0

f (x0 + h)− f (x0)

h

existiert.




4 / 33



Oft lasst sich Ableitung allgemein fur den gesamtenDefinitionsbereich von f ausdrucken:

f (x) = sin(x)

⇒ f ′(x) = cos(x)g(x) = 1

2x2 ⇒ g ′(x) = x

5 / 33




f (x) = sin(x) ⇒ f ′(x) = cos(x)

g(x) = 12x

2 ⇒ g ′(x) = x

5 / 33




f (x) = sin(x) ⇒ f ′(x) = cos(x)g(x) = 1

2x2

⇒ g ′(x) = x

5 / 33




f (x) = sin(x) ⇒ f ′(x) = cos(x)g(x) = 1

2x2 ⇒ g ′(x) = x

5 / 33



Rechenregeln fur Ableitungen:

Konstanten: (a)′ = 0

Faktorregel: (a · f (x))′ = a · f (x)′

Summenregel: (g(x)± h(x))′ = g ′(x)± h′(x)Produktregel: (g(x) · h(x))′ = g ′(x) · h(x) + g(x) · h′(x)

Quotientenregel: ( g(x)h(x) )′ = g ′(x)h(x)−g(x)h′(x)

h2(x)

Reziprokenregel: ( 1h(x) )′ = −h′(x)

h2(x)

Produktregel: (xn)′ = nxn−1

Kettenregel: (g ◦ h)′(x) = g(h(x))′ = g ′(h(x)) · h′(x)

Vorsicht: Im allgemeinen f 2(x) 6= f (x2)

6 / 33




Konstanten: (a)′ = 0Faktorregel: (a · f (x))′ = a · f (x)′



h2(x)


h2(x)




6 / 33





Summenregel: (g(x)± h(x))′ = g ′(x)± h′(x)

Produktregel: (g(x) · h(x))′ = g ′(x) · h(x) + g(x) · h′(x)


h2(x)


h2(x)




6 / 33







h2(x)


h2(x)




6 / 33







h2(x)


h2(x)




6 / 33







h2(x)


h2(x)




6 / 33







h2(x)


h2(x)




6 / 33







h2(x)


h2(x)




6 / 33


Differentialrechnung und Optimierungstheorie

Bestimmung von Extremwerten

Besitzt eine Funktion f : (a, b)→ R mit (a, b) ⊂ R in einem Punktx0 ∈ (a, b) ihren großen Wert, also wenn gillt:

∀x ∈ (a, b) : f (x0) ≥ f (x)

und f ist in x0 differenzierbar, so gillt:

f ′(x0) = 0

Wenn f ′(x0) = 0 und f ′′(x0) > 0, ist x0 ein lokales/relatives Minimum

Wenn f ′(x0) = 0 und f ′′(x0) < 0, ist x0 ein lokales/relatives Maximum

Bei f ′′(x0) = 0 geben moglicherweise Ableitungen hoherer, geraderOrdnung Auskunft

7 / 33





∀x ∈ (a, b) : f (x0) ≥ f (x)


f ′(x0) = 0




7 / 33





∀x ∈ (a, b) : f (x0) ≥ f (x)


f ′(x0) = 0




7 / 33





∀x ∈ (a, b) : f (x0) ≥ f (x)


f ′(x0) = 0




7 / 33





∀x ∈ (a, b) : f (x0) ≥ f (x)


f ′(x0) = 0




7 / 33



Ein einfaches Optimierungsverfahren fur differenzierbareFunktionen f auf [a, b] ⊂ R

1 Bestimme f ′ und f ′′

2 Bestimme die Menge X0 := {x |f ′(x) = 0}3 Bestimmte die Menge X+ := {x |x ∈ X0, f

′′(x) < 0} ∪ {a, b}4 Wahle x = argmaxx∈X+

f (x)

8 / 33







f (x)

8 / 33





2 Bestimme die Menge X0 := {x |f ′(x) = 0}

3 Bestimmte die Menge X+ := {x |x ∈ X0, f′′(x) < 0} ∪ {a, b}

4 Wahle x = argmaxx∈X+f (x)

8 / 33






′′(x) < 0} ∪ {a, b}

4 Wahle x = argmaxx∈X+f (x)

8 / 33







f (x)

8 / 33


Stetigkeit und Lipschitz-Stetigkeit

Stetigkeit (fur Funktionen auf Definitionsbereich D ⊆ R)

Eine Funktion f : D ⊆ R→ R heißt stetig im Punkt x0 ∈ D, wenn es zu jedemε > 0 ein δ > 0 gibt, so dass gilt:

∀x ∈ D : |x − x0| < δ ⇒ |f (x)− f (x0)| < ε

Wenn f fur alle x ∈ D stetig ist, so spricht man von einer stetigenFunktion auf D

Lipschitz-Stetigkeit (fur Funktionen auf Definitionsbereich D ⊆ R)

Eine Funktion f : D ⊆ R→ R heißt Lipschitz-stetig auf D, wenn es eineKonstante L ∈ R gibt, so dass:

x0 ∈ D, x1 ∈ D ⇒ |f (x0)− f (x1)| ≤ L|x0 − x1|

9 / 33





∀x ∈ D : |x − x0| < δ ⇒ |f (x)− f (x0)| < ε




x0 ∈ D, x1 ∈ D ⇒ |f (x0)− f (x1)| ≤ L|x0 − x1|

9 / 33





∀x ∈ D : |x − x0| < δ ⇒ |f (x)− f (x0)| < ε




x0 ∈ D, x1 ∈ D ⇒ |f (x0)− f (x1)| ≤ L|x0 − x1|

9 / 33


Differential- und Integalrechnung

Fundamentalsatz der Analysis:

Sei f : [a, b]→ R eine reellwertige, stetige Funktion auf dem abgeschlossenenIntervall [a, b] ⊆ R so ist fur alle x0 ∈ [a, b] die Integralfunktion

F [a, b]→ R

mit F (x) =∫ x

x0f (x)dx

differenzierbar und eine Stammfunktion von f , d.h.:

∀x ∈ [a, b] = F ′(x) = f (x)

und es gilt die Newton-Leibniz-Formel:∫ b

a

f (x)dx = F (b)− F (a)

Es existieren zahlreiche Verallgemeinerungen des Fundamentalsatz derAnalysis auf andere Arten von Funktionen

10 / 33





F [a, b]→ R

mit F (x) =∫ x

x0f (x)dx


∀x ∈ [a, b] = F ′(x) = f (x)


a

f (x)dx = F (b)− F (a)


10 / 33





F [a, b]→ R

mit F (x) =∫ x

x0f (x)dx


∀x ∈ [a, b] = F ′(x) = f (x)


a

f (x)dx = F (b)− F (a)


10 / 33





F [a, b]→ R

mit F (x) =∫ x

x0f (x)dx


∀x ∈ [a, b] = F ′(x) = f (x)


a

f (x)dx = F (b)− F (a)


10 / 33





F [a, b]→ R

mit F (x) =∫ x

x0f (x)dx


∀x ∈ [a, b] = F ′(x) = f (x)


a

f (x)dx = F (b)− F (a)


10 / 33


Riemann-Integrale

Fundamentalsatz der Analysis fuhrt Integration als “inverse”Operation zur Ableitung ein

∫ ba f (x)dx kann als Flache zwischen f (x) und der x-Achse

zwischen a und b aufgefasst werden

11 / 33


Riemann-Integrale

Fundamentalsatz der Analysis fuhrt Integration als “inverse”Operation zur Ableitung ein∫ ba f (x)dx kann als Flache zwischen f (x) und der x-Achse

zwischen a und b aufgefasst werden

11 / 33


Vektorraume

Vektorraume sind Mengen von (Zahlen-) Tupeln, sogenanntenVektoren, fur die bestimmte Operationen definiert sind

Vektoren im allgemeinen haben zwei Eigenschaften: Eine“Richtung” und eine “Lange”

Variablen fur Vektoren werden gelegentlich mit einemPfeil-Superskript geschieben (im Folgenden aber nicht):

~v = (4, 3, 7)

Auch unser intuitives menschliches Raumverstandnis lasst sichals Vektorrum darstellen: dem Vektorrum (R3,+, ·)

+ ist die Vektoraddition· ist die Skalarmultiplikation

Definition von Vektorraumen lasst sich auch allgemeiner fassen

12 / 33


Vektorraume




~v = (4, 3, 7)




12 / 33


Vektorraume




~v = (4, 3, 7)




12 / 33


Vektorraume




~v = (4, 3, 7)




12 / 33


Vektorraume




~v = (4, 3, 7)




12 / 33


Vektorraume




~v = (4, 3, 7)


+ ist die Vektoraddition

· ist die Skalarmultiplikation


12 / 33


Vektorraume




~v = (4, 3, 7)




12 / 33


Vektorraume

Vektorraum: Formale Definition

Es seien

V eine Menge,

(K ,+, ·) ein Korper,

⊕ : V × V → V eine Abbildung, genannt Vektoraddition,

� : K × V → V eine Abbildung, genannt Skalarmultiplikation

dann ist (V ,⊕,�) ein Vektorraum uber dem Korper K , wenn folgendeEigenschaften erfullt sind:

13 / 33


Vektorraume


Es seien

V eine Menge,





13 / 33


Vektorraume


Es seien

V eine Menge,





13 / 33


Vektorraume


Es seien

V eine Menge,





13 / 33


Vektorraume


Es seien

V eine Menge,





13 / 33


Vektorraume


Fur die Vektoraddition ⊕:

(u ⊕ v)⊕ w = u ⊕ (v ⊕ w) (Assoziativitat)

∃v0 : ∀u ∈ V : v0 ⊕ u = u ⊕ v0 = u (neurales Element)∀u ∈ V : ∃(−u) : u ⊕ (−u) = (−u)⊕ u = v0 (inversesElement)u ⊕ v = v ⊕ u (Kommutativitat)

Fur die Skalarmultiplikation �:

a� (u ⊕ v) = (a� u)⊕ (a� v) (� distribuiert uber ⊕)(a + b)� v = (a� v)⊕ (b � v)(a · b)� v = a� (b � v)∃a1 ∈ K : a1 � v = v (neutrales “Einserelement”)

14 / 33


Vektorraume



(u ⊕ v)⊕ w = u ⊕ (v ⊕ w) (Assoziativitat)∃v0 : ∀u ∈ V : v0 ⊕ u = u ⊕ v0 = u (neurales Element)

∀u ∈ V : ∃(−u) : u ⊕ (−u) = (−u)⊕ u = v0 (inversesElement)u ⊕ v = v ⊕ u (Kommutativitat)



14 / 33


Vektorraume



(u ⊕ v)⊕ w = u ⊕ (v ⊕ w) (Assoziativitat)∃v0 : ∀u ∈ V : v0 ⊕ u = u ⊕ v0 = u (neurales Element)∀u ∈ V : ∃(−u) : u ⊕ (−u) = (−u)⊕ u = v0 (inversesElement)

u ⊕ v = v ⊕ u (Kommutativitat)



14 / 33


Vektorraume



(u ⊕ v)⊕ w = u ⊕ (v ⊕ w) (Assoziativitat)∃v0 : ∀u ∈ V : v0 ⊕ u = u ⊕ v0 = u (neurales Element)∀u ∈ V : ∃(−u) : u ⊕ (−u) = (−u)⊕ u = v0 (inversesElement)u ⊕ v = v ⊕ u (Kommutativitat)



14 / 33


Vektorraume





a� (u ⊕ v) = (a� u)⊕ (a� v) (� distribuiert uber ⊕)

(a + b)� v = (a� v)⊕ (b � v)(a · b)� v = a� (b � v)∃a1 ∈ K : a1 � v = v (neutrales “Einserelement”)

14 / 33


Vektorraume





a� (u ⊕ v) = (a� u)⊕ (a� v) (� distribuiert uber ⊕)(a + b)� v = (a� v)⊕ (b � v)

(a · b)� v = a� (b � v)∃a1 ∈ K : a1 � v = v (neutrales “Einserelement”)

14 / 33


Vektorraume





a� (u ⊕ v) = (a� u)⊕ (a� v) (� distribuiert uber ⊕)(a + b)� v = (a� v)⊕ (b � v)(a · b)� v = a� (b � v)

∃a1 ∈ K : a1 � v = v (neutrales “Einserelement”)

14 / 33


Vektorraume






14 / 33


Vektorraume






14 / 33


Vektorraume

Geometrische Interpretationen der Vektoraddition und derSkalarmultiplikation

15 / 33


Vektorraume

Intuitiv leicht vorstellbare Vektorraume:

K = R, V = R2

K = R, V = R3

Dies sind jeodch bei weitem nicht die einzig moglichenVektorraume:

K = R, V = Rn, n > 3K = C, V = Cn, n ∈ Nund viele weitere

16 / 33


Vektorraume


K = R, V = R2

K = R, V = R3



16 / 33


Vektorraume


K = R, V = R2

K = R, V = R3



16 / 33


Vektorraume


K = R, V = R2

K = R, V = R3



16 / 33


Vektorraume


K = R, V = R2

K = R, V = R3


K = R, V = Rn, n > 3

K = C, V = Cn, n ∈ Nund viele weitere

16 / 33


Vektorraume


K = R, V = R2

K = R, V = R3



16 / 33


Vektorraume

Normen von Vektoren

Kein eindeutiges Konzept einer “Lange” eines Vektors

Zahlreiche Moglichkeiten, Normen von Vektoren zu bilden

Intuitive Norm fur R2 oder R3: Euklidische Norm:

||x ||2 :=√

x21 + x2

2

bzw.

||x ||2 :=√

x21 + x2

2 + x23

Verallgemeinerung fur Rn ist einfach:

||x ||2 :=√

x21 + ...+ x2

n

Da sie das “naturlichste” Norm auf Rn darstellt, wird die euklidischeNorm haufig auch nur durch ||x || abgekurzt

17 / 33


Vektorraume

Normen von Vektoren




||x ||2 :=√

x21 + x2

2

bzw.

||x ||2 :=√

x21 + x2

2 + x23


||x ||2 :=√

x21 + ...+ x2

n


17 / 33


Vektorraume

Normen von Vektoren




||x ||2 :=√

x21 + x2

2

bzw.

||x ||2 :=√

x21 + x2

2 + x23


||x ||2 :=√

x21 + ...+ x2

n


17 / 33


Vektorraume

Normen von Vektoren




||x ||2 :=√

x21 + x2

2

bzw.

||x ||2 :=√

x21 + x2

2 + x23


||x ||2 :=√

x21 + ...+ x2

n


17 / 33


Vektorraume

Normen von Vektoren




||x ||2 :=√

x21 + x2

2

bzw.

||x ||2 :=√

x21 + x2

2 + x23


||x ||2 :=√

x21 + ...+ x2

n


17 / 33


Vektorraume

Normen von Vektoren

Eine Alternative zur euklidischen Norm ist die sogenannte“Manhatten-Norm”:

x ∈ Rn : ||x ||1 :=n∑

i=1

|xi |

Man kann eine allgemeine Definition einer `p-Normabstrahieren, mit p = 1 fur die Manhatten- und p = 2 fur dieeuklidische Norm:

x ∈ Rn : ||x ||p := (n∑

i=1

|xi |p)1p

18 / 33


Vektorraume

Normen von Vektoren


x ∈ Rn : ||x ||1 :=n∑

i=1

|xi |


x ∈ Rn : ||x ||p := (n∑

i=1

|xi |p)1p

18 / 33


Vektorraume

Normen von Vektoren


x ∈ Rn : ||x ||1 :=n∑

i=1

|xi |


x ∈ Rn : ||x ||p := (n∑

i=1

|xi |p)1p

18 / 33


Vektorraume

Normen von Vektoren


x ∈ Rn : ||x ||1 :=n∑

i=1

|xi |


x ∈ Rn : ||x ||p := (n∑

i=1

|xi |p)1p

18 / 33


Vektorraume

Skalarprodukt

Skalarprodukt von zwei Vektoren u und v der Lange n:

〈u, v〉 :=n∑

i=1

uivi

Direkte geometrische Interpretation ist schwierig, es gilt jedoch:

〈u, v〉 = ||u||2 · ||v ||2 · cos(θuv )

θuv : Winkel zwischen u und v

19 / 33


Vektorraume

Skalarprodukt


〈u, v〉 :=n∑

i=1

uivi


〈u, v〉 = ||u||2 · ||v ||2 · cos(θuv )


19 / 33


Vektorraume

Skalarprodukt


〈u, v〉 :=n∑

i=1

uivi


〈u, v〉 = ||u||2 · ||v ||2 · cos(θuv )


19 / 33


Vektorraume

Skalarprodukt


〈u, v〉 :=n∑

i=1

uivi


〈u, v〉 = ||u||2 · ||v ||2 · cos(θuv )


19 / 33


Vektorraume

Skalarprodukt

Außerdem gilt:||x ||2 =

√〈x , x〉

Das Skalarprodukt ist daher ein naturliches Ahnlichkeitsmaßfur Vektoren

Skalarprodukt 6= Skalarmultiplikation

20 / 33


Vektorraume

Skalarprodukt

Außerdem gilt:||x ||2 =

√〈x , x〉

Das Skalarprodukt ist daher ein naturliches Ahnlichkeitsmaßfur Vektoren

Skalarprodukt 6= Skalarmultiplikation

20 / 33


Vektorraume

Einheitsvektor

Einheitsvektor: Ein Vektor v mit euklidischer Norm ||v ||2 = 1

Ein beliebiger Vektor w kann wie folgt normiert werden:

w =w

||w ||2

w ist genau parallel zu w , und ||w ||2 = 1

21 / 33


Vektorraume

Einheitsvektor



w =w

||w ||2


21 / 33


Vektorraume

Einheitsvektor



w =w

||w ||2


21 / 33


Vektorraume

Lineare Abbildung

Seien V und W Vektorraume uber einem Korper K . EineAbbildung f : V →W heißt lineare Abbildung, wenn fur allex , y ∈ V und a ∈ K gilt:

f (ax) = af (x)

f (x + y) = f (x) + (y)

Beispiel: Orthogonale Projektionp:R3 → R2 := (x , y , z) 7−→ (x , y)

22 / 33


Vektorraume

Lineare Abbildung


f (ax) = af (x)

f (x + y) = f (x) + (y)


22 / 33


Vektorraume

Lineare Abbildung


f (ax) = af (x)

f (x + y) = f (x) + (y)


22 / 33


Partielle Ableitung

Verallgemeinerung des Ableitungsbegriffs fur multivariate Funktionen

Graphen von Funktionen der Form R→ R sind Kurven im kartesischenKoordinatensystem

Graphen von Funktionen der Form R2 → R sind Oberflachen im R3

Graphen von Funktionen der Form Rn → R sind Hyperflachen im Rn+1

Spezialfall der Hyperflache: Hyperebene

Hyperebene im Rd kann durch einen Stutzvektor und d − 1Richtungsvektoren beschrieben werdenStutzvektor gibt Abstand zum Ursprung anHyperebene liegt parallel zu allen Richtungsvektoren

23 / 33


Partielle Ableitung







23 / 33


Partielle Ableitung







23 / 33


Partielle Ableitung






Hyperebene im Rd kann durch einen Stutzvektor und d − 1Richtungsvektoren beschrieben werden

Stutzvektor gibt Abstand zum Ursprung anHyperebene liegt parallel zu allen Richtungsvektoren

23 / 33


Partielle Ableitung






Hyperebene im Rd kann durch einen Stutzvektor und d − 1Richtungsvektoren beschrieben werdenStutzvektor gibt Abstand zum Ursprung an

Hyperebene liegt parallel zu allen Richtungsvektoren

23 / 33


Partielle Ableitung







23 / 33


Graphen von Funktionen der Form Rn → R

f (x , y) = x2 + y2

Abbildung: Elliptisches Paraboloid. Quelle: Wolfram Alpha:https://www.wolframalpha.com/input/?i=f(x,y)+%3D+x%5E2++%2B+y%5E2

24 / 33

https://www.wolframalpha.com/input/?i=f(x,y)+%3D+x%5E2++%2B+y%5E2


Ableitungen von Funktionen der Form Rn → R

Partielle Ableitung in einem Punkt

Sei U eine offene Teilmenge des euklidischen Raums Rn undf : U → R eine Funktion. Sei a = (a1, ..., an) ein Element in in U.Falls fur i ∈ N, 1 ≤ i ≤ n der Grenzwert

∂f

∂xi(a) := lim

h→0

f (a1, ..., ai + h, ..., an)− f (a1, ..., ai , ...an)

h

existiert, so nennt man ihn die Ableitung von f nach xi im Punkt a.

Ableitung einer Funktion mit mehreren Argumenten nach einem ihrerArgumente

falls Grenzwert existiert, ist f partiell differenzierbar in a

auch partielle Ableitungen lassen sich oft als Funktion von a angeben

25 / 33





∂f

∂xi(a) := lim

h→0

f (a1, ..., ai + h, ..., an)− f (a1, ..., ai , ...an)

h





25 / 33





∂f

∂xi(a) := lim

h→0

f (a1, ..., ai + h, ..., an)− f (a1, ..., ai , ...an)

h





25 / 33





∂f

∂xi(a) := lim

h→0

f (a1, ..., ai + h, ..., an)− f (a1, ..., ai , ...an)

h





25 / 33





∂f

∂xi(a) := lim

h→0

f (a1, ..., ai + h, ..., an)− f (a1, ..., ai , ...an)

h





25 / 33



Gradient in einem Punkt und Gradientenfeld

Sei U eine offene Teilmenge des euklidischen Raums Rn undf : U → R eine Funktion. Sei a = (a1, ..., an) ein Element in in U.Wenn fur alle i ∈ N, 1 ≤ i ≤ n ∂f

∂xi(a) existiert, so heißt der Vektor:

∇f (a) = (∂f

∂x1(a), ...,

∂f

∂xn(a))

der Gradient von f im Punkt a

Gradient gibt die Richtung und Große der “maximalen Steigung” derdurch f definierten (Hyper-)flache im Punkt a an.

Der Gradient lasst sich allgemein oft als Vektorfeld der Form∇f = ( ∂f

∂x1, ..., ∂f

∂xn) ausdrucken.

26 / 33






∇f (a) = (∂f

∂x1(a), ...,

∂f

∂xn(a))




∂x1, ..., ∂f

∂xn) ausdrucken.

26 / 33






∇f (a) = (∂f

∂x1(a), ...,

∂f

∂xn(a))




∂x1, ..., ∂f

∂xn) ausdrucken.

26 / 33






∇f (a) = (∂f

∂x1(a), ...,

∂f

∂xn(a))




∂x1, ..., ∂f

∂xn) ausdrucken.

26 / 33




Beispiel

27 / 33



Abbildung: Hyperflache (blau) und Gradientenfeld (rot) vonf : R2 → R : f (x , y) = −(cos2(x) + cos2(y))2 : Quelle: Wikimedia Commons,https://en.wikipedia.org/wiki/Gradient#/media/File:Gradient_Visual.svg

28 / 33

https://en.wikipedia.org/wiki/Gradient#/media/File:Gradient_Visual.svg


Matrizen

m × n-Matrix (Definition)

Rechteckige Andordnung von (mathematischen) Objekten in mZeilen und n Spalten.

a =

a11 a12 ... a1n

a21 a22 ... a2n...

.... . .

...am1 am2 ... amn

aij bezeichnet das das Element in der i-ten Zeile und der j-ten Spalte

Allgemein sind Matrizen Tensoren zweiter Ordnung

Vektoren sind Tensoren erster Ordnung

Skalare sind Tensoren nullter Ordnung

29 / 33


Matrizen



a =

a11 a12 ... a1n

a21 a22 ... a2n...

.... . .

...am1 am2 ... amn





29 / 33


Matrizen



a =

a11 a12 ... a1n

a21 a22 ... a2n...

.... . .

...am1 am2 ... amn





29 / 33


Matrizen



a =

a11 a12 ... a1n

a21 a22 ... a2n...

.... . .

...am1 am2 ... amn





29 / 33


Matrizen



a =

a11 a12 ... a1n

a21 a22 ... a2n...

.... . .

...am1 am2 ... amn





29 / 33


Ableitungen von Funktionen der Form Rn → Rm

Jacobi-Matrix

Sei f : U ⊂ Rn → Rm eine Funktion, deren partielle Ableitungenalle existieren, mit den Komponentenfunktionen f := (f1, ..., fm).Seien x := (x1, ..., xn) Koordinaten in Rn: Dann ist dieJacobi-Matrix fur Punkt a ∈ U definiert durch:

Jf (a) =

∂f1∂x1

a ∂f1∂x2

a ... ∂f1∂xn

a...

.... . .

...∂fm∂x1

a ∂fm∂x2

a ... ∂fm∂xn

a

30 / 33


Ableitungen von Funktionen der Form Rn → Rm

Jacobi-Matrix

Sei f : U ⊂ Rn → Rm eine Funktion, deren partielle Ableitungenalle existieren, mit den Komponentenfunktionen f := (f1, ..., fm).Seien x := (x1, ..., xn) Koordinaten in Rn: Dann ist dieJacobi-Matrix fur Punkt a ∈ U definiert durch:

Jf (a) =

∂f1∂x1

a ∂f1∂x2

a ... ∂f1∂xn

a...

.... . .

...∂fm∂x1

a ∂fm∂x2

a ... ∂fm∂xn

a

30 / 33


Noch Fragen?

31 / 33


Weiterfuhrende Literatur

Klaus Janich, Lineare Algebra, Springer, 2017. Kapitel 2 und 8

32 / 33


Vielen Dank fur die Aufmerksamkeit!

33 / 33

Documents

Mathematische Grundlagen der Computerlinguistik · InhaltDi erentialrechnungStetigkeitFundamentalsatz der AnalysisRiemann-IntegralVektorr aume NormenSkalarproduktPartielle AbleitungGradientJacobi-Matrix