24
manuscripta math. 25, 397- 420 (1978) manuscripta mathematica by Springer-Verlag1978 LIBER DIE APPROXIMATION VON LOKAL KONVEXEN MENGEN Victor Bangert While convex sets in= Euclidean spacecan easily be approximated by convex sets with C -boundary, the C -approximation of convex sets in Riemannian manifolds is a non-trivial problem. Here we prove that C -approximation is possible for a compact, locally convex set C in a Riernannian manifold if (i) C has strictly convex boundary or if (ii) the sectional curvature is positive or negative on C. The proofs are based on a detailed analysis of the distance function from bC, on results from [I] and on the Greene-Wu approximation process for convex functions ([5], [6]). Finally, using similar me- thods, a partill tubular neighborhood with geodesic fibres is con- structed for the boundary of a locally convex set. This construction is essential for some results in [2]. i. Bezeichnungen und Definitionen Es bezeichne M eine zusammenh~ngende C~~ der Dimension rn > 2 rnit Riemannscher Metrik ( , >. ~ sei die IVfenge der kornpakten, lokal konvexen Teilmengen C yon M (C ist zusarn- menh~ngend, ~ t C t M, und zu jedem p r C existiert ein abge- schlossener metrischer Ball ~(p, e) urn p, so da~ C D ~(p, ~) stark konvex ist). Mit Int(C) wird das relative Innere, mit Bd(C) der rela- tive Rand eines C ~ ~ bezeiehnet. Int(C) ist eine totalgeod~tische Unterrnannigfaltigkeit von M, dim C: = dim(Int(C)), und Bd(C) ist eine starke Lipschitzuntermannigfaltigkeit der Dimension dim C- I. Ein- zelheiten zu diesen Begriffen sind in [4], [8], [9] und [2] zu finden. Die Menge der rn-dirnensionalen C 6 ~ sei rnit ~z bezeichnet. Ffir 0025-2611/78/0025/0397/$04.80 397

Über die Approximation von lokal konvexen Mengen

Embed Size (px)

Citation preview

Page 1: Über die Approximation von lokal konvexen Mengen

manuscripta math. 25, 397- 420 (1978) manuscripta mathematica �9 by Springer-Verlag 1978

LIBER DIE APPROXIMATION VON LOKAL KONVEXEN MENGEN

Victor Bangert

While convex sets in= Euclidean spacecan easily be approximated by convex sets with C -boundary, the C -approximation of convex sets in Riemannian manifolds is a non-trivial problem. Here we prove that C -approximation is possible for a compact, locally convex set C in a Riernannian manifold if

(i) C has strictly convex boundary or if (ii) the sectional curvature is positive or negative on C.

The proofs are based on a detailed analysis of the distance function from bC, on results from [I] and on the Greene-Wu approximation process for convex functions ([5], [6]). Finally, using similar me- thods, a partill tubular neighborhood with geodesic fibres is con- structed for the boundary of a locally convex set. This construction is essential for some results in [2].

i. Bezeichnungen und Definitionen

Es bezeichne M eine zusammenh~ngende C~~ der

Dimension rn > 2 rnit Riemannscher Metrik ( , >. ~ sei die IVfenge

der kornpakten, lokal konvexen Teilmengen C yon M (C ist zusarn-

menh~ngend, ~ t C t M, und zu jedem p r C existiert ein abge-

schlossener metrischer Ball ~(p, e) urn p, so da~ C D ~(p, ~) stark

konvex ist). Mit Int(C) wird das relative Innere, mit Bd(C) der rela-

tive Rand eines C ~ ~ bezeiehnet. Int(C) ist eine totalgeod~tische

Unterrnannigfaltigkeit von M, dim C: = dim(Int(C)), und Bd(C) ist eine

starke Lipschitzuntermannigfaltigkeit der Dimension dim C- I. Ein-

zelheiten zu diesen Begriffen sind in [4], [8], [9] und [2] zu finden.

Die Menge der rn-dirnensionalen C 6 ~ sei rnit ~z bezeichnet. Ffir

0025-2611/78/0025/0397/$04.80

397

Page 2: Über die Approximation von lokal konvexen Mengen

2 BANGERT

" gilt # C c ~ offenbar Int(C) = C, und Bd(C) ist der topologische Rand

bC von C.

Die ~ulSere P a r a l l e l m e n g e K r und die inne re P a r a l ! e l m e n g e CK

ira Abs tand r > 0 e t h e r n i c h t - l e e r e n , k o m p a k t e n Menge K a M sind

durch

Kr [p c M Id (p ,K) < r

CK: = {p [Kld(p, bK)>r

definiert, wobei d die von (, > induzierte Metrik auf M bezeichnet.

Die Hausdorffmetrik Do auf der Menge der nicht-leeren, kompakten

Teilmengen yon M ist durch

gegeben mit

Po(K1 , K2): = max[a(K1, K2), c~(K 2, K1)]

C~(Ki, Kj):= inf[e> 0 I K.3_c K. c]I "

Ffir das Approximationsproblem ist die Konvergenz einer Folge (C i)

aus ~ bezfiglich Po zu schwach, da sie im allgemeinen nicht die

Konvergenz der R~nder ~C. irnplizieri. Wir werden deshalb auf 1

die Metrik

Pl(Cl, C2): = Po(Cl, C2)+ po(bCl, b C 2)

verwenden. Pl stimmt auf ~ -~" mit 2p ~ fiberein. I~emzufolge wer-

den sich die meisten S~tze auf den Fall m-dimensionaler, lokal kon-

vexer Mengen beziehen.

(I. I) DEFINITION. Ein C E ~ hei[~t C~-approximierbar, falls es

eine Folge (C i) in I~ gibt, die bezf igl ich ~1 gegen C k o n v e r g i e r t und

d e r e n G l i ede r e inen g la t ten Rand Bd(C.) be s i t zen . 1

In jedern Punkt p ~ Bd(C) ist ein konvexer Kege], der Stfitzkegel

C c T M yon C in P7 definiert durch p- p

C := [v(T MIEs ex.r so da~ fiir tr (0,r gilt: exp(tv) (Int(C)] P p �9

398

Page 3: Über die Approximation von lokal konvexen Mengen

BANGERT 3

Mit C ~ set der duale Kegel, der Normalenkegel yon C in p, bezeich- P

n e t .

(1.2) DEFINITION. Ein C ~ ~/hei~t strikt konvex berandet, falls es

ein 5 > 0 gibt, so da~ fiir jedes p~C und jedes n~C ~ N TIM gilt: -- p

Es existiert eine z_~u n orthogonale Hyperfl~che H mit H N C = {p],

deren 2. Fundamentalform in p bezfiglich n nur Eigenwerte > 5 hat.

I s t C r ~ i g l a t t b e r a n d e t , s o b e d e u t e t ( 1 . 2 ) , daft d i e 2. F u n d a m e n t a l -

f o r m y o n ~C f i b e r a l l d e f i n i t i s t .

E i n w e s e n t l i c h e s H i l f s m i t t e l b e i m B e w e i s d e r A p p r o x ~ m a t i o n s -

s ~ t z e s i n d H - J a k o b i f e l d e r i m S i n n e y o n [ 1 0 ] , d i e d a z u b e n u t z t w e r -

den , d i e H e s s e f o r m d e r A b s t a n d s f u n k t i o n y o n e i n e r H y p e r f l f i c h e H zu

b e r e c h n e n und - m i t t e l s V e r g l e i c h s s ~ t z e n f f i r d e n I n d e x y o n H - J a k o b i -

f e l d e r n - a b z u s c h & t z e n .

W i r b e t r a c h t e n D a t e n ~ = (H, c, fi), w o b e i H e i n e C ~ - H y p e r f l ~ c h e und

c:[0, fi] -4M eine normale Geod~tische ist, die in p: = c(0) ~ H auf H

senkrecht steht. Die 2. Fundamentalform von H in p bezfiglich c(0)

set mit B bezeichnet. Ein Jakobifeld Y l~ngs cmit Y(t)• c (t)heifit

H-Jakobifeld l~ngs c, falls

Y(0) ~ T H und (Y'(0), v) = B(Y(0), v) P

fi]r allev E T H gilt. H-Jakobifelder l~ngs c treten als Variations- P

vektorfelder yon Variationen yon c mittels zu H orthogonaler Geo-

d[tischer auf. Ein t r [0, fi] heist Brennpunkt yon ~, falls es ein H-

Jakobifeld Y ~ 0 l[ngs c mif Y(t) = 0 gibt. Das ist genau dann der

Fall, wenn t c (0) kritischer Punkt der Exponentialabbildung exPH

des Normalenbfindels 9 von Hist. Auf dem Raum ~] = ~](~) der H

stfickweise stetig differenzierbaren Vektorfelder X l~ngs c mit

Z(t) • c (t) definiert man die Indexforrn 19 durch

399

Page 4: Über die Approximation von lokal konvexen Mengen

4 BANGERT

2 I~(X,X): = ~ ((X',X'> - (R(X,c)c,X>)tdt+B(X(0),X(0)).

0

Ffir den Index von H-Jakobifeldern gilt folgender Vergleichssatz, der

aus Theorem 3.2, S. 345 in [I0] und dem Beweis zu Theorem 3.3,

S. 347 in [I0] folgt. Es seien in Riemannschen Mannigfaltigkeiten

M, M der gleichen Dimension m Daten g~ = (H, c, B) bzw. ~ =(H, c, [~)

gegeben.

(1.3) SATZ. Die SchnittkriJmrnung yon M iRngs e sei nicht grSger

als die Schnittkriimmung von M lNngs 5. Die Eigenwerte yon B seien

nicht kleiner als das Maximum der Eigenwerte yon B. ~ habe auf

(0, fl] keinen Brennpunkt. Dann hat ~ auf (0, [~] keinen Brennpunkt,

und ffir ein H-Jakobifeld Y l~ngs c und ein HoJakobifeld Y INngs

m i t I Y ( a ) l = I ~ ( B ) I g i l t :

I~(Y, Y) > I~ (Y, Y) .

Es wird jetzt noch auf den Zusammenhang zwischen H-Jakobifel-

dern und der Abstandsfunktion yon H eingegangen.

Ist c injektiv und ist kein t E (0, fi] Brennpunkt von ~, so existiert

eine Umgebung U yon p in H und ein ~ > 0, so da[~ exPH ein Diffeo-

morphismus yon V'= [tN(q) lq E U, -6 <t < 2+6] auf eine Umgebung

V von c([0,~]) ist. (Nbezeichne ein Einheitsnormalenfeld auf U mit

N(p) = d (0)).

Fiir t r [0, fl+5 ) und q E U ist dann die Geodfitische ~:[0, t ] --,V, o o

c(t): = exp(tN(q)) kfirzeste Verbindungvon ~(t o) mit H innerhalb

yon V. Deshalbkann manunter diesen Voraussetzungen

PII: = I ( exp t t I V ' ) - I I

e i n e I o k a l e A b s t a n d s f u n k t i o n yon H n e n n e n .

I s t d e i n e G e o d f i t i s e h e m i t d(O) = e(fl) und d (0) z d (g) und i s t Y

400

Page 5: Über die Approximation von lokal konvexen Mengen

BANGERT 5

das H - J a k o b i f e l d l~ngs c mit Y(ft) = d (0), so gilt:

(1.4) (PHOd)"(0) : V2pH(d (0), d (0)) : I~(Y, Y).

Das folgt leicht aus der Formel filr die 2. Variation der Bogenl~nge,

vgl. [7], S. 122. Wegen l.VpHl = 1 folgt daraus ffir die 2. Fundamen-

talform Bft der Parallelfi~che Hft = [exp(ft N(q)) I q EU} yon Him Punkt

c(ft) beziiglich 6 (6):

(1.5) Bft(Y(ft), Y(I~)) = I~(Y,Y).

Zu Vergleichszwecken werden wir den Index yon H-Jakobifeldern in

R~umen konstanter Krfimmung K benutzen.

Im Fall K = a2> 0 betrachten wir Daten ~ = (H, c, ft), fiir deren 2.

Fundamentalform B gilt:

B=5.<, >.

Ffir ein H-Jakobifeld Y l~ngs c ergibt sich:

a I (Y,Y) c o s ( a f t ) - ~- sin(aft)

=5 8 IY(ft)l 2 cos (a f t )+ a sin(aft)

Zu v o r g e g e b e n e n K > 0 und 8 > 0 e x i s t i e r t a l so ein c~ = a(K, 5)> 0,

so daft ftir alle ~ = (H,c , ft) mi t ft < g u n d B =6" ( , > gilt:

(I. 6) I~(Y, Y) 6

iy(ft)12 >- ~ �9

2 Fiir konstante Krfimmung K = -a < 0 werden nur Daien ~. = (H, c, ft)

mit B = 0 betrachtei. Ffir ein H-Jakobifeld Y l~ngs c berechnet man:

I~ (Y, Y)

tY(ft) ] 2 = a tanh(aft).

In diesem Fall existiert also zu jedem c~ > 0 ein 5 = 5 (K, ct) > 0, so

daft ffir alle ~ = (H,c, ft) rnit ft > c~ und B = 0 gilt:

401

Page 6: Über die Approximation von lokal konvexen Mengen

6 BANGERT

Ia(Y, Y) (i. 7) > 5 .

[y(~)l 2 -

Schlief~lich sei an folgende Begriffe erinnert:

(I. 8) DEFINITION.

(i) Eine Funktion f : M - ]R heifer konvex, falls f(ir jede Oeod~tische c

die Funktion f ~ c irn fiblichen Sinn konvex ist.

(ii) Eine Funktion f : M -~ ]R heifer strikt konvex, falls ffir jedes p r IV[ co

und jede konvexe C -Funktion ~0, die in einer. Urngebung yon p

definiert ist, gilt:

Es existiert ein ~ > 0, so daf~ f- r <0 in einer Umgebung yon p kon-

vex ist.

2. Approximationss~tze

Zu einer lokal konvexen Menge C betrachten wir die Distanzfunktion

p: M-C -*]R+U [0], die dutch

p(p) : = inf[d(p, q) l q ( C]

definiert ist.

Ist dimC = m, so wird p durch

p(p) : : -inf[d(p, q) l q ( ~C]

stetig auf C fortgesetzt.

Irn euklidischen Fall ist p eine konvexe Funktion, w~ihrend das auf

Riemannschen Mannigfaltigkeiten irn allgerneinen nicht richtig ist.

Wit werden jedoch Bedingungen angeben, unter denen man aus ;~ so-

gar slrikl konvexe Funktionen konstruieren kann.

(2. i) SATZ. C ( ~ sei strikt konvex berandet. Dann existiert ein l 2 o n

f~ > 0, so daf~ p+ [ p auf C to-C strikt konvex ist.

Beweis: Zu einer kompakten Umgebung C e yon C sei K > 0 eine

402

Page 7: Über die Approximation von lokal konvexen Mengen

BANGERT 7

obere Schranke ffir die Schnittkriimmung auf C r Nach [8],Theorem i,

kann man annehrnen, da~ die rnetrische Projektion F : C ~-~ C eindeu-

tig definiert ist. Zu K>0 und zu dern 6 >0 aus Definition (1.2) w~h-

le man ein c~ = C~(K, 6) > 0, so dab (l.6)gilt. Es set nun It <miniOn, r

gew~hlt.

Wir zeigen, da~ ffir jedes q r CS-C eine C~-Funktion ~ existiert

mit 1 2 ) ( q ) 1 2

(i) (p+ ~ = ~o(q) und p+ ~ p >cp

hat nur Eigenwerte > ~ (it) Die Hesseforrn V201q

Daraus folgt nach Lemma (3. ii) in [I] die Behauptung.

~* 1 W i r b e t r a c h t e n zu p = F ( q ) E ~C d e n E i n h e i t s v e k t o r n ~ C n T M,

P d e r d e r A n f a n g s v e k t o r d e r K f i r z e s t e n y o n p n a c h q i s t . D a z u e x i s t i e r t

nach Voraussetzung einer Hyperfl~che H = H mit den in Definition n

(1.2) geforderten Eigenschaften. W~hlt man 6 > 0 etwas kleiner als

in (I. 2), so kann man annehrnen, dab alle F.igenwerte der 2. Funda-

mentalforrn yon H bezfiglich n gleich 5 sind. Es set c:[0,t ]-~C ~ o

die norrnale Geod~tische c(t): = exp(tn) mit c(t o) = q. Da c Kilrzeste

ist, ist c injektiv. Wegen (i. 3) und (I. 6) ist kein t E (0, t ] Fokal- o

punkt yon ~ = (H,C, to). Wie in denVorbemerkungen zu (1.4) set V

eine Umgebung yon c([0, to]), auf der eine lokale Abstandsfunktion

PH = ]exPH II von H definiert ist, Es set d:(-e,r -~V eine Geod~-

tische rnit d(0) = q. Definiert man N: (-e,e) -*~H dutch exPH(toN(S))=

d(s), so kann man die Variation r: [0, to ] • r r(t,s):=exPH(tN(s))

betrachten. Dann ist

5r Y(t):= ~ (t,0) ein Jakobifeld l~ngs c, und Yl(t):=X(t)- (Y(t),d(t)> 6(t)

ist ein H-Jakobifeld l~ngs c rnit YI(0) = Y(0) E T H. Nach den For- P

meln fi~r die erste und zweite Variation der Bogenl~nge (vgl. etwa [7],

S. 122) gilt: t

, o = (d (O), ~ (t )> ( ~ o d ) (0) = (Y, ~ >I 0 o

403

Page 8: Über die Approximation von lokal konvexen Mengen

8 BANGERT

t o

(PH~ = fO ((Yi ' Y; ) - (R(YI ' d )6, Y1 >)t dr+ B(Y(O), Y(O))

= % (YI' Y1 )"

Mit Satz (1 .3) e r h ~ l t m a n aus (1. 6) nach Wahl yon fl:

,, 6 2

Also : ((PH

5 o d e r wenn m a n o . E . ~ _< 1 a n n i m m t :

I 2 5 ]2. ((PH + ~ PH)Od)"(0)>_ ~ I ~(0)

Damit ist (ii) ffir die Funktion ~: = PH

1 2 5 + ~ ~H )~ > ~- IYI(~)I 2+ (d (0), d (to)> 2

1 2 + 2 ~H n a e h g e w i e s e n .

Aufgrund der Stetigkeit yon F existiert eine Urngebung U c V von q,

so daf~ ffir alle x r U die Kfirzesten von x nach F(x) in U verlaufen.

Da q = c(t ) und C auf verschiedenen Seiten yon H liegen, kann man o

weiter annehmen, daS diese Kfirzesten H schneiden. Also gilt auf U:

1 2 1 2 P > PH und dami t ~+ 2 P > ~ = OH+ 2 P H

1 p2)(q), Wegen pH(q) = p (q) = d(q, C) gil t ~0(q) = (p + ~ so da~ auch (i)

n a c h g e w i e s e n is t .

Mittels der Approximationss~tze ffir konvexe Funktionen von

Greene und Wu und Satz (2. l) l~fit sich zeigen, daft jede strikt konvex

berandete Menge C ( ~Ic~ ist. Dazu approximiert 1 2

man die strikt konvexe Funktion p + ~ p durch konvexe C -Funktionen

f. und zeigt, dab Niveaufl~chen der f. kompakte, lokal konvexe Men- 1 1

gen beranden, die gegen C konvergieren.

(2. 2) SATZ.

bar.

Ein s t r i k t konvex b e r a n d e t e s C r ~ t i s t C ~ -

404

Page 9: Über die Approximation von lokal konvexen Mengen

BANGERT 9

1 2 ]3eweis : W~hlt m a n [~ > 0 nach Satz (2.1) , so i s t f : = 0+ ~ p auf

o

C fi-C e ine s t r i k t konvexe C1-Funk t ion .

Dabe i folgt die s t e t i ge D i f f e r e n z i e r b a r k e i t yon f aus d e r T a t s a c h e , d a l ]

die m e t r i s c h e P r o j e k t i o n F : C ~ C e indeu t ig d e f i n i e r t is t , vgl. [8 ] ,

C o r o l l a r y 1. Mit d e m A p p r o x i m a t i o n s v e r f a h r e n von G r e e n e und Wu

(vgl. [ 5 ] u n d [ 6 ] ) kann f fiir j edes P a a r (r162 mi t 0 < r 1 6 2 <~ auf

e2 - C r g l e i chm~f l ig d u r c h s t r i k t konvexe C ~ - F u n k t i o n e n

~ cel f. : C e2 - -~ ]R approximiert werden. i

Dabe i k o n v e r g i e r e n auch die G r a d i e n t e n yr. auf C c2- C el g le iehm~i- 1

g i g g e g e n vf, vgl . [ 6 ] , S . 216~ W e g e n I v f ! = l + p k a n n m a n annehmen ,

daa I vfil >__ 1 gilt. 1 2

E s se i e in u c (e I , r gew~ihlt und c~:= 5 '+ ~'Y g e s e t z t .

Wi r z e igen zunNchst , dag die f '-l(a)l bez t ig l i ch Po g e g e n f - l ( a ) = ?(C Y)

k o n v e r g i e r e n :

E s s e i e i n 5 > 0 v o r g e g e b e n , o . E . 5 < m i n { e 2 - u D a n n e x i -

s t i e r t wegen d e r g le ichm~ig igen K o n v e r g e n z d e r fi gegen f e in io~lN,

so dal3 f . - l ( [ a - 6 , a+8]) ft ir i > i k o m p a k t is t . Man kann a n n e h m e n , 1 - - O

o

dab Par i > i und ffir a l le q r C e 2 - C r gi l t : - - O

Ill(q) - f(q) l <_ 8 .

Ff i r q ~ f ; l (ec) gil t dann If(q)-c~l _< 8, a l so auch Ip(q)-YI _~ ~.

D a m i t is t f . - l ( a ) c ( f - l (a ) )6 f~ir i > i b e w i e s e n . 1 - - - - O

f-l([a-5, ct+5]) ffir i>i Is t u m g e k e h r t q ( f - l ( c0 = ?(Cu so gil t q r i - - o"

E s se i e. die m a x i m a l e Flul3!inie yon I v f i l -2 vf . m i t e.(0) = q. W e g e n 1 l 1

d e r K o m p a k t h e i t -con f . - l ( [ a - 5 , a+5]) e x i s t i e r t e in t. im D e f i n i t i o n s b e - 1 1

r e i c h yon e i mi t fi ~ ei(ti) = ec. W e g e n f'l ~ el(t) = fi (q) + t gil t

Itil = la-fi(q) I <5.

Daraus folgt mit I v fil >__ I:

405

Page 10: Über die Approximation von lokal konvexen Mengen

I0 BANGERT

i i

d(q, ci(ti))< j~ ldi(t) ldt< Itil_<8. 0

Damit ist auch f-l(c~) c (fi-l(c~)) 5 gezeigt.

Es bleibt noeh zu b e w e i s e n , dab die f.-l(ec) k o m p a k t e , loka l konvexe 1

Mengen b e r a n d e n . Naeh d e m V o r a n g e h e n d e n kann m a n annehmen , da~

ffir i_> io und ffir e in r ~ ,(e 1,Y) gilt :

f . - l (cc- 8) a c r und ? ( o r ) a f . - l ( E a - g, ~]) . 1 - - 1

C r f.-1 Dann ist C. : = U ([c~- 8, a]) kompakt und zusammenh~ngend. 1 1

C. hat den glatten Rand f.-l(c~). Da f. konvex ist, ist C. lokal konvex. 1 1 1 1

Offenbar gilt fi]r i > i - o

Pl (C ,C i) < 2 e 2 + 5 ,

so dal3, da r > 0 und 8 > 0 f r e i w g h l b a r s ind, die B e h a u p t u n g b e w i e -

sen ist.

Die Distanzfunktion p yore Rand eines C r zwar im allge-

meinen nicht konvex, sie hat jedoch folgende Eigenschaft- Zu jedem

p r C existiert eine C -Funktion h: M-~IF{, so da[~ p+h aufeiner

Urngebung yon p konvex ist. Die Klasse der Funktionen rnit dieser

Eigenschaft, die unabh[ngig vonder Riemannschen Metrik ist, wurde

in [I] untersucht und mit t~(M) bezeichnet.

Folgender Satz verfeinert die Aussage von Theorem I. I0 in [4]. Die

Beweismethode ist etwas einfacher.

o o

(2.3) SATZ. Es set C ~ Dann ist P IC E~(C). Spezieller.gilt:

(i) Zu jedem r > 0 existiert ein 5 > 0 rail:

Ist U c (~C)SN C often und cp: U-~ ]]9 eine C~~ deren

Hesseforrn nur Eigenwerte > r hat, so ist p IU+~~ konvex.

(it) Ist die Schnittkrfimmung K > 0 auf C, so ist die Funktion

f:;

406

Page 11: Über die Approximation von lokal konvexen Mengen

BANGERT 1 1

s t r i k t konvex .

Bemerkungen:

o

I. Ist M vollsf~indig, so gilt 0 I C (~(C) und (it) auch, falls C nicht

als kompakt vorausgesetzt wird.

2. Im Fall dim C <m existiert eine C umfassende, dim C-dirnensio-

nale Untermannigfaltigkeit N von M (vgl. [2] Korollar 2. 5), so daS

Satz (2.3) auch in diesem Fall anwendbar ist. Die dabei aufireten-

de Distanzfunktion p~ ist auf Int(C) unabh~ngig vonder Wahl von

N dutch

0~(P) : : i n f{dc (P , q) l q ( B d ( C ) ]

de f in i e r t , wobe i d C die i n n e r e M e t r i k yon C b e z e i c h n e t . Satz

(2 .3) gil t dann ffir C, fa l l s f ibe ra l l p d u r c h p*~ und C d u t c h

Int(C) e r s e t z t w i rd .

Beweis: Wie im Beweis zu Satz (2. i) werden die Voraussetzungen

yon Lemma (3. 11) in [ 1 ] v e r i f i z i e r t .

Zu p ( C existiert eine normale Geod~tisehe e : [0, t ] -* C mit o

c(0) = p, t : -0(P) und c(t ) ( 5C. d set eine norrnale Geod&tische o o

mit d(0) = p. Zerlege d(0) = dl(0)+ccd(0) rnit (dl(0),d(0)) : 0.

E(t) s e t das p a r a l l e l e V e k t o r f e l d l~ngs c m i t E(0) = oil(0).

D e f i n i e r e t - t

F(t) :-- E(t) - _ _ 9 a d (t). t

O

Dann gil t F(0) = ~t(0) und F( t o) ~ E( t o) .L d( to) .

B e t r a c h t e die V a r i a t i o n r ( t , s ) : = e x p ( s F ( t ) ) yon e.

~ r ~r Mit Y:= ~-~ und X:: ~ gill:

Y(t, 0) :F(t), X(t, 0)--d(t), v~ y :0

~s

~(t , 0) : = Y(t, 0) - (Y, X> I (t, 0) X(t, 0) = E(t)

Mit L(s) set die L~inge der Kurve t ~ r(t, s) bezeichnet~ offenbar gilt

407

Page 12: Über die Approximation von lokal konvexen Mengen

12 BANGERT

L(0) = t . O

Die Formel fi]r die zweite Variation der Bogenl&nge (vgl. [7], S. 122)

gibt wegen v y = 0, v Y'I(t, 0) = 0:

5s ~t

t o (~) L"(0) = -7 <R(E(t),d (t)) d (t), E(t)>dt.

0

Ist -K < 0 eine untere Schranke fiir die Schnittkriimmung auf C, so O--

gilt :

L"(0)<Koldl ( 0 ) } 2 t - o - <Kod(p' ~C).

Nun ist 6 (t o ) ~ufierer Normalenvektor von C, d.h. d (t o ) c C ~ so C(to) '

da~ a u s E ( t o) • d(to) f o l g t :

exp(sF(to)) = exp(sE(to)) : r(t o, s) r M-

filr alle s aus einer Umgebung yon s = 0. Also gilt auf dieser Umge-

bung:

(a) - L ( s ) < p o d ( s ) u n d -L(O) = p o d ( O ) .

I s t A : = m a x d(q , ~C), s o g i l t w e t t e r q r

(b) (-L)"(0) > -K A. -- O

o o

Nun folgt QI C (~(C) aus Lemma (3.11) in [1].

/(~c)~ ~ (i) folgt ebenfalls aus diesem Lemrna, da man fi]r q ( nC ab-

sch~tzen kann:

(b) ~ (-L)" (0) > -K 5. -- O

Zum Beweis von (it) set K 1 > 0 eine untere Schranke fiir die Sehnitt-

krfimmung auf C. Dann folgt aus (~)

L" (o) _< -KII a1(0)12to.

t W e g e n L ' (O) = ( Y , X ) t OI o= c~ g i l t m i t g : ; L + l n L

' 0

408

Page 13: Über die Approximation von lokal konvexen Mengen

B A N G E R T t 3

L"'0~ L'(0} 2 _<-K1tol 1(0)12_ 2 g"(O)=L"(O)+ L(O)' L(O)2 t

o o

V a r i i e r t p in e i n e r k o m p a k t e n T e i l m e n g e y o n C, s o g i b t e s S c h r a n k e n

A > 0 , B < ~ o m i t

A < d(p, ZC) < B.

F f i r p a u s d i e s e r T e i l m e n g e g i l t m i t 6 : = m i n [ K 1 A , B - 2 ] :

g"(0) < - K 1 A I d l ( 0 ) 12 1 2 _ - ~ a _ < - ~ < 0 .

A u f e i n e r U m g e b u n g y o n s = 0 g i l t w e g e n -p o d(s ) < L ( s ) :

-g(s) < f o d(s ) .

Mit -g (0 ) = fo d(0) und - g " ( 0 ) > 5 > 0 f o l g t a u s L e m m a ( 3 . 1 1 ) in [ 1 ]

d i e B e h a u p t u n g ( i i ) .

(2. 4) LEMMA. f : M -~ ]IF{ sei strikt konvex und fiJr ein a ~ IF{,

c~ > inf f(M), sei f-l((- ~o, a)) = : C kompakt und zusammenh~ngend.

Dann isi C strikt konvex berandet.

Bemerkung:

Ist M vollst~ndig, so ist die Voraussetzung "C sei zusammenh~n-

gend" offenbar fiberfliissig.

Beweis: Aus den Voraussetzungen folgt sofort, da~ C E ~ gilt. Wegen

f - l ( ( ~ f-l(c~)" C~ > in f f(M) i s t -% a ) ) : C ~ ~ und ~C = M i t d e m A p p r o x i m a -

t i o n s v e r f a h r e n y o n G r e e n e und Wu w e r d e f a u f e i n e r k o m p a k t e n U m g e - oo

b u n g y o n C d u r c h e i n e F o l g e (fi) v o n C - F u n k t i o n e n a p p r o x i m i e r t . D a -

b e i k a n n m a n a n n e h r n e n , da~ V 2f. f f i r a l l e i ( I N n u r E i g e n w e r t e > r > 0 1

h a t und daft L > 0 e i n e g e m e i n s a m e L i p s c h i t z k o n s t a n t e d e r f. i s t , [ 6 ] . 1

E s s e i p r ~C, d . h . f(p) = c~, und n E C ~* . I s t v ~ T M m i t ( v , n ) > 0, P P -

so i s t f l ~ n g s d e r G e o d [ t i s c h e n e x p ( t v ) f o r t > 0 m o n o t o n w a c h s e n d .

409

Page 14: Über die Approximation von lokal konvexen Mengen

14 B A N G E R T

Deshalb gilt ~pf(V) := lira f ~ exp(tv)-f(p) > 0. Aus der lokalen Lip- if0 t -

schitzstetigkeit von f folgt, daf~ lira f ~ _ 3 f(v) > 0 ftir jede t p -

tl0 Kurve V mit # (0)=v gilt.

Es set H eine zusammenh~ingende Hyperfl~iche durch p, die in p zu n

orthogonal ist. Ftir die 2. Fundamentalform 13 von I~ beztiglich des

yon n induzierten Einheitsnormalenfeldes gelte: -I

Alle Eigenwerte von B liegen im Intervall (5, 9.6) mit 5 := r

c : [0, t] ~ I~ set eine normale Geod~tische in H mit c(0) = p, also

(d(0),n> = 0. Dann gilt Iv d I = B(d,d) < 26 und damit:

(fi ~ c)" = <V.cd, vf ioc>+v2f.(d,l d) > e- 26L > 0 .

Also isi f ~ c = lira f. ~ c strikt konvex, solange c im Definitionsbe- I

reich der f. verl[uft. W e g e n l i r a f ~ c ( t ) - f ( p ) > 0 g i l t f o c ( t ) > f (p) f f i r ?_ t -

t I 0

t > 0. D a m i t g i l t f ~ r e i n e U m g e b u n g H y o n p i n H :

H r7 C = [p] .

Kombiniert man (2.2), (2.3)(ii) und (2.4), so folgt:

(2. 5) KOROLLAR. Es set C ( ~! und die Schnittkrfimmung K> 0 a uf co

C. D a n n i s t C C - a p p r o x i m i e r b a r .

Beweis: Nach (2.3)(it) sind ftir e < max d(p, ~C) die inneren Parallel- pEC

mengen eC Unterniveaumengen einer strikt konvexen Funktion auf C.

Da je zwei Punkte in C durch eine Geod~tische in C verbunden wer-

den ktinnen (vgl. Satz (2.8) in [2]), sind die eC zusammenh~ngend.

Nach Lemma (2.4) sind die eC strikt konvexberandet.

Aufgrund yon Satz (2.2) ist solch ein eC C~-approximierbar. Es

bleibt also noeh zu zeigen, daI~ lira pl(sC, C) = 0 gilt. Dafiir ist wegen r

eC c C hinreichend:

Zu jedem 6 > 0 existiert ein r > 0, so da~ filr alle e ( (0, eo ) gilt: O

410

Page 15: Über die Approximation von lokal konvexen Mengen

BANGERT 15

C c (eC)5. Ist das nicht der Fall, so existiert eine Folge (r rnit lirn r i"= 0 und

S.

eine F o l g e (pi) in C m i t d(Pi, 1C) > 5 . Man k a n n a n n e h m e n , daft (pi)

k o n v e r g i e r t , und e s m u f p : = l i r a Pi E ~C g e l t e n . E s e x i s t i e r t e in 6

q r ?C m i t d ( p , q ) < ~ und e i n e n o r m a i e G e o d f i t i s c h e c : [ 0 , 6 1 ] ~ C

m i t c(0) = q und d(c( t ) , be ) = t (vgl. [ 4 ] , S. 420). 6

E s s e i e in i ~ IN so gew~hl t , d a f s .~_<to := r a i n { g , 6 1 ] und

6 s i C d(Pi, p) < ~ gilt. Dann gilt C(to) ~ und d(Pi, C(to)) _<

S.

<d(Pi, P)+d(p,q)+d(q,c(t ) )< 8, i m W i d e r s p r u c h zu d(Pi, 1C) > 6 . - - O - -

Bemerkungen:

i. Ffir die in (2.5) konstruierte Folge (C i) gilt C. cC. 1 --

2. Die Voraussetzung "dim C = rn" ist hier nicht wesentlich. Irn Fall

dim C < m, ]Bd(C) ~ ~ erh~it mit der gleichen Methode eine Folge

(C i) in ~ , mit lim(Po(C,C i)+0o(Bd(C),Bd(Ci))) = 0. Dabei sind die

C. glatt berandet, sie liegen in der totalgeod~tischen Untermannig- i

faltigkeit Int(C), und es gilt dim C. = dim C. 1

Analog zu Korollar (2.5) gilt:

(2. 6) KOROLLAR. Es set C ( ~ und die Sehnittkrfimmung K < 0 auf c o

C. Dann i s t C C - a p p r o x i m i e r b a r .

Beweis: Es wird gezeigt, daf es ein 6 > 0 gibt, so daft die ~uferen

Parallelrnengen C ~ yon C ffir e ~ (0, f) strikt konvex berandet sind.

Dann folgt die Behauptung aus Satz (2.2), da offenbar Pl(C, C r = 2r

gilt,

Es set f > 0 so gew~hlt, daf die metrische Projektion F : C f-* C ein-

deutig definiert ist und daft ffir die Schnittkrfimmung auf C f eine obere

2 TIM, Schranke -a < 0 existiert. Es set p ( ~C und n E C ~ P

H : = (n> • Da C lokal konvex ist, existiert ein r > 0, so daf ffir die

411

Page 16: Über die Approximation von lokal konvexen Mengen

16 BANGERT

Hyperfl~che H := [exp(v) Iv r H, Ivl < r] gilt: o

H N Cc~C. o

Da die 2. Fundamentalform yon H in p verschwindet und da K < 0 auf f o

C gill, existiert kein Brennpunkt yon 9 = (H , c, f) (wobei O

c(i) := exp(tn)). Ist N das von n induzierte Einheitsnormalenfeld auf

H , so gibt es zu r ( (0, f) eine Umgebung U yon p in H , so daf~ o o

H : = {exp(c IN(x)) I x ( U] c

eine Hyperfl~che durch q:= exp(cn) = c(r ist. Wie im Beweis zu

Satz (2. i) kann man aus der Stetigkeii yon F schliefen, daf

H n C r c 3(C r gilt, wenn man U nut klein genug w~hlt. Aufgrund C

von (1.3), (1.5) und (I.7) hat die 2. Fundamentalform yon H in q be- G

zilglich ~(c) nur Eigenwerte > ~ > 0, wobei 6 nut von e und a ab-

h&ngrt. Darnit ist gezeigi, daf$ zu jedem q ( 3(C C) und zu

C s*~ n(q) ( R TIM eine Hyperfl[che I-I dutch q existiert, so daf~ q q

H NC e = {q] gilt und so daft die 2. Fundamentalform von H in q be-

q 5 q zilglich n(q) nur Eigenwerte >_ [ > 0 hat.

Bemerkung:

Die in (2.6) konstruierten C. sind auch im Fall dim C < rn m-dimen- 1

sional.

Zum Abschhf einige Bemerkungen iiber die Schwierigkeiten des

Approximationsproblems und die Tragweite der hier verwendeten Me-

rhode :

Die approximierenden, glatt berandeten loka] konvexen iViengen waren

hier stets strikt konvex berandet. Irn allgerneinen braucht es abet

selbst unter der Bedingung I< > 0 keine strikt konvex berandeten Men-

gen zu geben, die ein C E ~l approxirnieren.lm Fall K>0istn~mlichein

strikt konvex berandetes C (~stets homSomorph zu einem Ball.

Denn die Seele yon C (vgl. [4]) ist ein Punkt, da die inneren Parallel-

rnengen yon C strikt konvex berandet sind. Andererseits gibt es voll-

412

Page 17: Über die Approximation von lokal konvexen Mengen

BANGERT 17

st~ndige Mannigfaltigkeiten nicht-negativer Schnittkri]mmung, die

nicht homSornorph zu IR m sind, und in diesen existiert nach [4] stets

ein C E ~I, das nicht homSomorph zu einem Ball ist. Solch ein C l~fit

sich sicher nicht durch strikt konvex berandete iV[engen approxirnie-

ren, da nach Satz (4.8) in [2] die Klassen homSomorpher C r

in ~i sind. In diesem Fall versagt die hier verwendete Methode not-

wendig.

Die Z u s a m m e n h a n g s e i g e n s c h a f t e n yon (~ , pl ) k S n n e n s e h r

s c h l e c h t s e in . F o l g e n d e s B e i s p i e l ze igt , da~ s o g a r i s o l i e r t e P u n k t e in

(~ , pl) e x i s t i e r e n kSnnen : + co

f : IR - ]R s e i e ine C - F u n k t i o n , die s y m m e t r i s c h bez f ig l i ch 0 ( IR i s t

und fi ir d ie f'(2) = 0, f " ( r ) > 0 fiJr r r (1,2) und f" (r) < 0 fi ir r ( (2, 3)

gi l t . M se i die R o t a t i o n s f l [ c h e yon f u m die r - A c h s e . Die M e r i d i a n e

r : 2 und r = -2 s ind wegen f ' (2) = f ' ( - 2 ) = 0 g e s c h l o s s e n e Geod~iti-

sche . Sie b e r a n d e n e ine k o m p a k t e , l oka l konve xe Menge C. Man k a n n

ze igen , daft in e i n e r P l - U m g e b u n g yon C k e i n e w e i t e r e n , l oka l k o n -

v e x e n M e n g e n e x i s t i e r e n . Das l i eg t d a r a n , da~ fi]r a l le P u n k t e m i t

r ( (-2, -1) U (1, 2) K < 0 und fi]r a l le P u n k t e m i t r ( ( - 3 , - 2 ) U ( 2 , 3)

K > 0 gil t . Man i i b e r l e g t s i ch j edoch l e i ch t , da~ irn 2 - d i m e n s i o n a l e n

F a l l e i n i s o l i e r t e r P u n k t yon ( ~ , p l ) s t e t s g la t t b e r a n d e t i s t , so daft

m a n auf d i e s e W e i s e k e i n O e g e n b e i s p i e l z u r V e r m u t u n g e rh~ l t , j ede co

l o k a l konvexe Menge se i C - a p p r o x i m i e r b a r . Im 2 - d i m e n s i o n a l e n F a l l

i s t das A p p r o x i m a t i o n s p r o b l e r n n a l i i r l i c h t r i v i a l , da s i ch h i e r j ede l o -

ka l konvexe Menge d u t c h l oka l konvexe M e n g e n a p p r o x i m i e r e n l~fit,

d e r e n R g n d e r aus g e b r o c h e n e n G e o d [ t i s c h e n b e s t e h e n .

3. Konstruktion einer Tubenumgebung

Es soll die Exislenz eines Vektorfeldes N: ~C -~ TIIv[ nachgewiesen

werden, das auf dem Rand ~C eines C ~ definiert ist und folgende

Eigenschaft hat :

413

Page 18: Über die Approximation von lokal konvexen Mengen

18 BANGERT

Es existiert ein 6 > 0, so da2

F : ~C • (-5, 6) ~ M, (p, t) -~ exp(t N(p))

ein HomSomorphismus auf eine offene Umgebung von ~C ist. Mittels

ether solchen Tubenurngebung lassen sich interessante Aussagen fiber

den Raum (~, pl ) und fiber Mannigfaltigkeiten rnit konvexer Funktion

gewinnen, vgl. [2] und [3]. IVfan erh~lt das Vektorfeld N aus der

C metrischen Projektion yon ~C auf eine innere Parallelmenge C.

Diese Idee stamrnt aus [4], und dort wird die Konstruktion im Fall

nicht-negativer Kriirnmung durchgefiihrt. Im allgemeinen Fall tritt

die Schwierigkeit auf, daf~ die r nicht konvex zu sein brauchen. Hier

helfen die in [I] angestellten Untersuchungen fiber die Funktionen-

klasse ~ wetter, zu der p auf einer Umgebungvon C gehSrt:

(3.1) SATZ. Zu C r existiert ein c~ > 0, so daf$ plC ct ( ~(C ") gilt.

Beweis: Satz (2.3) besagt Pl C (~(C). Wir zeigen zunfichst die Exi-

stenz eines ~ > 0 mit pl(C ~- C) E ~(~(z- C). Es set C ~ eine kompakte

Umgebung yon C, auf der die metrische Projektion F : C~C eindeu-

C ~ rig definiert ist. Zu q ( -C gehSren Daten ~ = (H,c, to) mit to= P(q)'

c(0) = F(q), c(t o) = q und H = {exp(v) l(v, d(0)> = 0, Iv 1 < r] fi]r ein

r > 0. Offenbar verschwindet die 2. Fundamentalform ]B yon ~. Es set 2

a > 0 eine obere Schranke fiir die SchnittkriJmmung auf C ~. W~hlt

C ~ man ~ < min[~, ~a ], so kann man ff]r q r auf ~ denVergleichs-

m als Vergleiehsraum. Aus satz (I. 3) anwenden mit der Sphere S -I a

der Formel vor (1.6) folgt f~lr ein H-Jakobifeld Y ~ 0 l~ngs c

I~(Y, Y) > -a tan(at ) > -atan(ac0 > -co.

i Y(to)21 - o -

Ebenfalls aus (I. 3) folgi, da~ ~ keinen Brennpunki hat. Filr eine loka-

le Abstandsfunktion PHV~ die auf einerUrngebung von c([0,to])defi-

niert ist, gilt wie irn Beweis zu Saiz (2.1):

414

Page 19: Über die Approximation von lokal konvexen Mengen

BANGERT 19

(i) PH < P auf einer Umgebung von q = C(to), und 0H( q ) = p(q)

(ii) V20H lq hat nur Eigenwerte _> -a tan(act) > _co

o o

Lemma (3.11) in [I] ergibt nun pl(C ct-C) ~ ~(C (x-C).

Sei schlieflich p ( 8C. Wegen (ii) und (2.3)(i) existiert ein r > 0 und co

eine konvexe C -Funktion M: B(p, r) ~ IR, so daf

P I B ( p , r ) + c P auf B ( p , r ) - S C konvex is t .

Es b le ib t noch zu ze igen , daft p I B(p, r ) + M auf ganz B(p, r) konvex ist .

Sei c : [0, 1] -~ B(p, r) e ine Ge od~ t i s c he , die n ich t ganz in B(p, r) - 5C

ve r l~u f t .

1. F a l l : c t r i f f t C n ich t :

Dann existieren t l,t 2 mit 0 <t I _<t 2 < I, so daf c(s) ffir

s E [0, t I) U (t 2, I] in B(p,r)-C liegt und ffir s r It l,t2] in BC.

( P+ M) ~ c ist stetig und auf jedem der drei Intervalle konvex. Aus

poc_> 0 und p o cI[t l,t 2] = 0 folgt die Konvexit~t yon (p+cp)o c.

~

2. Fall: c trifft C:

Es genfigt, den Fall zu betrachten, daf ein t r (0, I) existiert, so daf o

c([0, t )) cIB(p, r)-C und c((to, l])c C gilt. Es sei Heine St f i t zhype r - O - -

f l~che von C in c(t o) ~ ?C, d .h . ffir e in n ( C~(to}n T1M gil t :

H= [exp(v) l (n,v>=O, Ivl < r } (r > 0).

Dann kann man p ~ c in einer Umgebung yon t o

Abstand d(t) yon c(t) und H:

absch f i t zen durch den

Also:

p ~ c ( t ) > d ( t ) f f i r t < t - - 0

po c ( t ) > - d ( t ) f f i r t > t . - o

(0 ~ e)'_ (t o) _< lira d(t__~)t_t = (d, (to), n> t t t o

o

( p ~ c Q ( t o) > l i r a -d(t___~) = ( d ( t o ) , n > - t - t

t ~ t o 0

415

Page 20: Über die Approximation von lokal konvexen Mengen

2 0 BANGERT

Aus der Konvexit~t von (p+c9) ~ cl[0, to) und (0 +~)~ el(to, I] und

aus (0 ~ c)~(t o) < (0 ~ c)+(to) folgt die Konvexit~t von (0+9~)o c.

Einer Funktion f E ~(M) ist in jedern Punkt p E M eine kon-

vexe Funktion ~ f:T M-~IR zugeordnet, die, falls c eine Kurve P P

rnit 6 (0) : v ( T M isi, definiert ist dutch P

f ~ c(t) - f(p) f(v) := lira

P t~0

Ein Vektor n r T M mit (n,v> < ~ f(v) ffir alle vr T M hei{$t Sub- p - p P

g r a d i e n t v o n f i n p, v g l . [ 1 ] . D i e s e B e g r i f f e m a c h e n f o l g e n d e R e g u l a - !

r i t / i t s a u s s a g e f f i r d ie D i s t a n z f u n k t i o n 0 e i n e s C r ~ m 6 g l i e h :

(3. 2) LEMMA. Es existiert ein 6 > 0 und eine UmgebungU von ~C,

so da[~ f/Jr alle q E U und jeden Subgradientenn yon pin q gilt: Inl >6..

Beweis: Ist die Behauptung falsch, so existiert eine Folge qi CMmit

lira qi = q ~ ~C und Subgradienten n. von p in qi mit lim n. = 0 ET M. i i q q

Aufgrund yon Satz (3.4) aus [I] ist 0 Subgradient yon 0 in q. Da der q

Stfitzkegel C offenist, existiert ein lireiskegel in C ; d.h. es exi- q ~q

stiert ein Einheitsvektor v E T M und ein <0 ~ (0, ~-), so da~ gilt: o q

A : [v(T M-{0]I( v : , v ) > c o s ~] c C . q q Ivl o - - q

Da A N TIM kompakt isi, existiert ein e > 0, so daf~ exp(tv) E q

gilt ffir alle v E A q TIM und alle t r (0, s Mit r(t) set ffir q

0 <t < ~ der Abstand yon c(t) = exp(tv o) zum Bild des Kegelmantels

[exp(tv)[ir [0, c], vE 5A f] TIM] unter exp bezeiehnet. Offenbar gilt q

lira r(t) = sin ~. t

t~0

Da auf einem Intervall [0, 6] - p ~ c(t) > r(t) gilt, folgt

416

Page 21: Über die Approximation von lokal konvexen Mengen

BANGERT 21

( ? q p ) ( v o) = l i r a p ~ c ( t ) < - s in cp< 0, tlO t -

im W i d e r s p r u c h zu 0 = <0q, Vo> _< (3qp)(Vo).

Wir werden folgende Standardaussage der iRiemannschen Geo-

metrie benutzen:

SeiA c M kompakt. Dann existieren e > 0 und 5 > 0, so daft fiir alle

p E A die Funktion d 2 ~o : B(p,c) ~]R, d2(q):= (d(p,q))2 C ist und P P

so dag V2(d}) nur Eigenwerte > 6 hat.

Sind nun Pl und P2 Punkte mit d(p, pl ) = d(p, p2 ) < e und ist

c : [0, 2to] ~ B(p, c) die normale Ktirzeste yon Pl nach P2 ' so folgt

(e) d(p, C(to )) - < d (p 'P l ) - K t : ,

wobei K> 0 nur vonA undc abh~ngt.

Nach diesen Voriiberlegungen soll bewiesen werden, da6 die in-

neren Parallelmengen r eines C (~t, obwohl sie im allgemeinen

nicht konvex sind, doch folgende niitzliche Eigenschaft haben:

(3.3) SATZ. Zu C E ~lexistiert ein c > 0, so da6 ftir alle c < r o o

gilt: C

Die metr i sche P r o j e k t i o n auf r ist auf de r Menge (CC) o e indeut ig

definiert.

Beweis: Ist die Behauptung falsch, so existieren Punkte PI' P2 r ~(r

Pl { P2 and ein Punkt p ~ (r c~ mit d(p, pl ) =d(p,p2 )=d(p,r r o ,

_ undc beliebig klein ist. Fiir den Mittelpunkt c(to) wobei 0 < c < c o o

der Ktirzesten c : [0, 2to ] -,C yon Pl nach P2 gilt nach (~*):

2 d(p, C(to)) _< d(p, p l ) - Kto = : d(p, p l ) -S .

Dabei kann ftir alle hinreichend kleinen r > 0 die gleiche Konstante o

417

Page 22: Über die Approximation von lokal konvexen Mengen

22 BANGERT

K > 0 verwendet werden.

(2.3)(i) folgt nun, da~ d(C(to), ~C) hSchstens umKi 2 klei- Aus Satz o

ner ist als c = d(p I,C) = d(P2, C), wobei K mitc o gegen 0 konver-

giert.

Definitionsgern~8 gilt B(C(to), s) n eC = ~. Wir erhalten einen Wider-

spruch, wenn wir zeigen, dab ein q [ B(C(io), s) existiert mit

d(q, 5C) > r

Satz (3.10) in [I] besagt, da~ aus der in Lemma (3.2) bewiesenen Re-

gularit~tseigenschaft yon p folgt:

Es existiert ein q ~ B(C(to),S) mit p(q) _< p(C(to ))-sS"

Dabei ist ~ > 0 eine untere Schranke filr den Betrag der Subgradienten C

yon p auf (~C) o. Also

Das ergibt

d(q, ~C) > d(C(to), ~C)+ s5 .

d(q, ~C) _> e-~t2+SSo = c+(SK-K)/2"

Da K irn Gegensatz zu K und % mit ~ gegen 0 konvergiert, existiert o o

ein e , so da~ 6K-K> 0 gilt. Dann liegt q in (r im Widerspruch O �9

zu g (c ( t ), s) n (ec ) = r o

M i t t e l s Satz (3.3) l~6t s i c h nun l e i ch t die g e s u c h t e T u b e n u m g e b u n g I

f~r den Rand e i n e s C c ~ a n g e b e n .

! (3.4) KOROLLAR. Zu C ( ~ existiert ein (stetiges) Vektorfeld

N: ~C ~TIMund ein 5 > 0, so da~

F: ~C x(-5, 6) -~M, (p,t) -~ exp(tN(p))

ein HomSomorphismus auf eine offene Umgebung yon ~C ist.

Beweis: Es sei e > 0 nach Satz (3.3) gew[hlt. Mankann annehmen, O

dag jede Geod[tische der L[nge < e zwischen 2 Punkten aus C ein- -- O

deutige Kiirzeste ist und in C verl~uft. Im Beweis yon (2.5) wird ge-

418

Page 23: Über die Approximation von lokal konvexen Mengen

BANGERT 23

zeigt, dab lira pI(eC, C) = 0 gilt. Deshalb existiert ein e ( (0, r ] e '-'0 r

und ein 5 ~ (0, e-] mit C 6 o 2 ~(r . Set N das Vektorfeld auf 5C,

das q E 5C den Anfangsvektor der eindeutigen normalen Kiirzesten yon

q nach r zuordnet. Dann ist N stetig, und damit auch

F(p,t ) = exp( t N(p)) .

F i l r (ql,tl),(q2, t2) E 5C x [ - ~ , 5 ] ge l t e F ( q l , t 1) = F (q 2 , t 2 ) . D a r a u s

5F = ? F t2). N i m m t m a n t 1 > t 2 an, so g i l t folgt -~- (ql, tl) -~- (q2'

F(ql'tl-t2) = q2" Bezeichnet t 3 6 It, e ] denAbstand vonql zu C, O

so hat die Geodfitische c(t) = exp(tN(ql)) die Punkte ql = c(0),

q2 = c(tl-t 2) und c(t 3) mit C gemeinsam. Wegen t 3 < e liegt - o

c([0, t3]) in C, und wegen t 3 > e gilt t I- t 2 _< 25 <t 3. Aus der Lokal-

konvexitfit yon C folgt nun, daft c(0) 6 5C, c(tl-t 2) ~ 5C und c(t 3) ~

nur richtig sein kann, wenn t I = t 2 gilt. Daraus folgt (ql' tl) = (q2' t2)'

und Fist als injektiv nachgewiesen. Also ist F: ~C x (-5,8)

F(SCx(-~,5)) ein HomSomorphismus. Da 5C x(-6, 6) eine m-dimen-

sionale topologische Mannigfaltigkeit ist (vgl. [9], Theorem 6.1), ist

F(SC x (-8,5)) offen in M.

Bemerkung:

In (3.3) und (3.4) gen[igt es offenbar, start der Kompaktheit von C die

Kompaktheit yon 5C vorauszusetzen.

Literatur

[I] BANGERT, V.: Analytische Eigenschaften konvexer Funktionen auf Iqiemannschen Mannigfaltigkeiten. (erscheint)

[2] BANGERT, V.: Konvexe Mengen in Riemannschen Mannigfaltig- keiten. (erseheint)

[3] BANGERT, V. : Riemannsche Mannigfaltigkeiten mit nicht-kon- stanter konvexer Funktion. (erscheint)

[4] CHEEGER, J. and D. Grornoll: On the Structure of Complete Manifolds of Nonnegative Curvature. Ann. of Math. 96, 413-443 (1972)

419

Page 24: Über die Approximation von lokal konvexen Mengen

24 BANGERT

[s]

[6]

[7]

[8]

[9]

[ io]

GREENE, R.E. and H. Wu: On the Subharmonicity and Plurisub- harmonicity of Geodesically Convex Functions. Indiana Univ. Math. J.22, 641-653 (1973)

GREENE, R.E. and H. Wu: C Convex Functions and Manifolds of Positive Curvature. Acta Math. 137, 209-245 (1976)

GROMOLL, D., W. KLINGENBERG und W. MEYER: Riemann- sche Geometrie im Grof~en. Lect. Notes in Math. 55, ]Berlin- Heidelberg-New York: Springer 1968

WALTER, R. : On the Metric Projection onto Convex Sets in Riemannian Spaces. Arch. d. Math. (Basel 25, 91-98 (1974)

WALTER, R. : Some Analytical Properties of Geodesically Con- vex Sets. Abh. Math. Sem. Univ. Hamburg 4_~5, 263-282 (1976)

WARNER, F.W.: Extension of the Rauch Comparison Theorem to Submanifolds. Trans. Amer. Math. Soc. 122, 341-356 (1966)

Victor Bangert Mathe matische s Institut der Universit~t Freiburg Hebelstr. 29

D-7800 Freiburg

(Eingegangen am 16. Mai 1978)

420