Vol. 35, 1980 471

Isometrien des Raumes der konvexen Teilmengen der Sph~ire

Von

G0~rm L~vrL

Die Isometrien des Raumes der konvexen Teilmengen der n-dimensionalen Ein- heitssph~re Sn in sich bezfiglich der Hausdorff-Metrik bzw. der Symmetrischen- Differenz-Metrik sind genau die Abbildungen, die yon den Isometrien yon Sn erzeug~ werden. Fiir die Hausdorff-Metrik gilt diese Aussage auch f'fir allgemeinere Familien von abgesehlossenen Teilmengen yon S~.

1. Einleitung. Eine vollst~ndige Beschreibung der Isometrien der konvexen Teil- mengen des n-dimensionalen euklidischen Raumes E n in sich beziiglich der Haus- dorff-Metrik stammt yon Gruber und Lettl [3], nachdem Schneider [7] die surjektiven Isometrien dieses Raumes angegeben hatte. Beziiglich der Symmetrischen-I)ifferenz- Metrik stammt die LSsung des entsprechenden Problems yon Gruber [2]. Im folgen- den werden die Isometrien der konvexen Teilmengen der euklidischen Einheits- sphere S~ in sieh vollst~ndig beschrieben. Diese FmgesteIlungen ordnen sieh dem allgemeinen Problem unter, aus Eigenschaften yon Abbildungen yon R~umen auf Eigensehaften yon Abbfldungen yon Teilmengen dieser R~ume zu schlieBen (ver- gleiche [4]).

2. Die Isometrien beziiglich der Hausdorff-Metrik. Es sei Sn die n-dimensionale euklidische Einheitssph~re des E n+l (~ ~ ~). Fiir a ~ Sn und 0 ~ ~ -~ 1 bezeichnen wir die Mengen {x e Snla" x ~ 0} bzw. {x e Snla" x ~ ~} als Halbkugeln bzw. Kugelkappen und a als deren Pol. Der Durchschnitt yon Sn mit einem 2-dimen- sionalen Unterraum des E n+l heiBt Groflkreis. ~ x, y �9 Sn definieren wir die innere Metrik d (siehe [6], S. 31) dutch

(1) d ( x , y ) : = a r c c o s x . y und O ~ d ( x , y ) ~ z t .

Mit Hiffe der Metrik d wird die Hausdor//-Metrik 5 (siehe [5], S. 293) fiir abgeschlos- sene Teilmengen A, B c Sn definiert durch

(2) O(A, B) := max/max mind(z , y), max rain d(x, y)}. t z ~ A y=-JB y ~ B xEA

Die Bezeichnung ,,Punkt" wird im folgenden sowohl fiir Elemente x �9 Sn als auch f'tir einelementige Teilmengen {x) r Sn verwendet.

472 G. LErrL ARCH. MAa~.

Satz 1. Es sei 9I eine Familie yon abgeschlossenen Teilmengen von S~ mit ]olgenden Eigenscha/ten :

a) ~ ist abgeschlossen bez~tglich (eigentlichen und uneigentlichen ) Drehungen yon Sn.

b) 9.I enthdIt Punkte, GroflkreisbSgen einer Liinge cr < ~/2 und Kugelkappen yore Radius ~.

Dann gilt: die Isometrien des Raumes (2,'(f) in sich sind genau die Abbildungen I der Gestalt I (A) ---- ( i (x) lx cA} /iir alle A - ~ , wobei i eine (eigentliche oder unei- gentliche) Drehung yon Sn ist.

B e m e r k u n g . Als Familie 9~ in Satz 1 kann speziell gew~hlt werden:

a) die Familie aller abgeschlossenen, streng konvexen ~[engen,

b) die Familie aller abgeschlossenen, schwach konvexen Mengen,

c) die Familie aller abgeschlossenen, Robinson-konvexen Mengen,

d) die Familie aller abgeschlossenen, Horn-konvexen Mengen,

e) die Familie aller abgesch]ossenen Mengen.

Die Definitionen dieser Begriffe finder man in [1], S. 157--158.

B e w e i s y o n S a t z 1. Jede I)rehung i yon Sn erzeugt durch I ( A ) : = {i(x)Ix e A} fiir a l leA e ~ eine Isometrie I yon (!a, ~) in sich.

Fiir den Beweis der Umkehrung w~hlen ~4r eine beliebige Isometrie I yon (~X, ~) in sich. Zun~chst beweisen wir:

Es seien A, B e ~ und 6(A, B) ~ ~r. Dann gilt:

a) Mindestens eine der beiden Mengen A, B ist ein Punkt.

(3) b) Ist A -~ {x}, dann gilt -- x ~ B.

Nehmen wir an, (3a) w~re falseh. Dann g~be es Punkte a l , a2 e A und bl, b2 e B mit al ~ a2 mad bl ~ b2. Mit (2) erhalten wir

it (A, B) ~ max /max rain d (x, y), max rain d (x, y)} [ xeSn ye{bl, b2} yeS~, xe{ax, a2}

als Widerspruch zur Voraussetzung 5(A, B) ~ r~, womit (3a) bewiesen ist. (3 b) er~bt sich aus ~ ---- ~ ({x}, B) ---- max d (x, y) und der Abgesch]ossenheit yon B.

y~B

V~'ir behaupten, dal3 f'tir die vorgegebene Isometrie I gilt:

(4) I bildet Punkte auf Punkte ab.

Dazu w~hlen wir einen Punkt ao eS~ und setzen A : = (ao}, 2~ :~ (--ao}. Vffegen r~ ----- 5(A, B) = ~( t (A) , I (B)) fo|gt aus (3) bei eventuellem Vertauschen yon a0 mit

- - a o :

(5) es gibt ein x~Sr, mit �92 = {x} und - - x ~ I ( B ) .

Vol. 35, 1980 Isometrien des Raumes der konvexen Teilmengen der Sphere 473

Nehmen wir an, I (B) enthalte auger - - x noch weitere Punkte. Wit w~hlen ein ~ R, fiir welches die Voraussetzung b) yon Satz 1 erfiillt ist. Fiir 1 < i ~ n seien

Ki paarweise orthogonale GroSkreisbSgen der L~nge a mit Endpunkt a0, und Ko : = {y ~ Sn I d (y, ao) < a} sei die Kugelkappe mit Pol a0 und Radius :r Wegen der Voraussetzungen yon Satz 1 gilt K i e ~ fiir 0 < i ~<n. Aus n = 6(B, Ki) =

(I(B,) I (Kt)) fiir 0 ~< i -< n und unserer Annahme, dab I (B) mehr als einen trunkt enthalte, folgt mit (3), dab I (Ki) Punkte sind. AuBerdem gilt. :r = ~ (A, Ki) ---- ~ (K~, Kj) ---- 5(I(A), I(Ki)) ---- 5(I(K~), I(Ki) ) fiir 0 ~ i , j ~ n ; i ~ ?'. Daher w/~ren I(A), I(Ko), I(K1) . . . . , I (Kn) (n -4- 2) Punkte yon Sn mit paarweisem Abstand ~ < ~/2, was unmSglich ist. Dies widerle~ unsere Annahme. Somit g i l t I ( B ) = {--x}, was zusammen mit (5) den Beweis yon (4) abschlieBt.

Da fiir Punkte die Hausdorff-Metrik 5 mit der inneren Metrik d iibereinstimmt, e r~bt sich aus (4): es existiert eine Drehung i yon Sn mit {i (x)} = I({x}) fiir alle x e Sn.

Nun beweisen ~dr:

(6) Esgi l t I ( A ) = i ( A ) : - - - - { i ( x ) I x ~ A } fi iralle Ar

Wir w~ihlen ein A e ?/. Es sei x ein beliebiger Punkt yon A. Aus

~=- (~({-- x}, A) = ~ ( I { - - x } , I ( A ) ) = ~ ({i(--x)}, I(A))

folgt wegen (3b) - - i ( - - x ) = i ( x ) e I(A). Damit ist i(A) c I (A) gezeigt. W/~hlen ~dr ein y e I(A), so folgt aus

= (3 (( - - y), I(A)) -= ~ (I-~ ({-- y)), A) = 6({i-~ (-- y)), A)

und (3b) i - ~ ( y ) c A . Daher ist i - ~ ( I ( A ) ) c A und I ( A ) c i(A), womit (6) bewiesen ist.

Mit dem Beweis yon (6) ist aueh der Beweis der zweiten Riehtung yon Satz 1 abgeschlossen.

3. Die Isometrien beziiglieh der Symmetrisehen-Ditferenz-Metrik. Eine Teilmenge yon Sn heil3t schwach konvex, wenn sie zusammenh~ngend und Durehsehnitt yon abgeschlossenen Halbkugela ist. ~ sei die Familie aller abgeschlossenen, schwaeh konvexen Teilmengen von Sn mit nichtleerem Inneren. ~t bezeichne das Lebesg~esche

2 ~(n+ 1)/2 Oberfl~chenmaB auf Sn mad un : = tt (Sn) -- I'( (n + 1)/"2) "

Ftir A, B e ~ wird die Symmetrische-Di]/erenz.Metrik 0 definiert als

(7) 0 (A, B) : = #(A AB) = p (A \ B) -- t t ( B \ A ) .

Satz 2. Die Isometrien des Raumes (~', 0) in sich sind genau die Abbildungen I der Gestalt I (A) = {i(x)lx e A } /iir alle A e ~, wobei i eine Drehung yon Sn ist.

B e m e r k u n g . Es bezeichne ~0 die Familie der streng konvexen, abgeschlossenen Teilmengen yon Sn mit nichtleerem Inneren. Da ~0 dicht in ~ liegt, gilt Satz 2 in analoger Form auch fiir den Raum (~o, 0).

474 G. LETTL ARCH. MATH.

Bewei s y o n Sa t z 2. Jede Drehung i yon Sn erzeug~ durch I (A) := {i(x)l x e A } fiir aUe A e ~' eine Isometrie I yon (~, 0) in sich.

Es sei nun eine Isometrie I yon (~, 0) in sich vorgegeben. Wir zeigen zungchst:

Sind A, B e ~ mit 0(A, B) = zn, dann gilt: (8) [A ist eine Halbkugel und B----- - - A .

Als konvexe Mengen sind A bzw. B in einer ttalbkugel enthalten. Daher ist

[~(A\B) ~ u ( A ) ~ z n / 2 und analog I~(B\A) <=~(B) <~.~[2.

Wegen O(A, B) = u ( A \ B ) + ~ ( B \ A ) = zn erhalten wir/~(A) = ~(B) = zn/2, und daraus ergibt sich (8).

Jeder Halbkugel H ordnen wir ihren Pol p (H) zu. Sind H1, He zwei Halbkugeln yon Sn, dann gilt -- ~de sich leicht naehpriifen l~gt:

(9) 0 (Hi, H2) z~ = - - �9 d ( p ( H 1 ) , p ( H 2 ) ) �9

Ftir die vorgegebene Isometrie I zeigen wit nun folgendes:

Es existiert eine Drehung i yon S , , so dab ftir jede Halbkugel H c Sn gilt: (10) [ I (H) = i (H) := { i ( x ) l x e H } .

Es sei H eine beliebige Halbkugel. Wegen x~ = 0 (H, - -H) = 0 (I (H), I (--H)) folgt mit (8), dab I (H) wieder eine Halbkugel ist. Wir w~hlen nun zwei beliebige Halbkugeln HI, H2. Aus

O(H1, H2) = O(I (gl) , I (H2))

folgt wegen (9) f'dr die Pole der tlalbkugeln

d (p (HI), p (H2)) = d (p (I (HI)), p (I (He))).

Es existier~ daher eine Drehung i, so dab fiir jede Halbkugel H c Sn gilt i(p (H)) = p (I(H)). Daraus folgt aber unmittelbar (10).

Als ngchsten Schrit~ beweisen wir:

(11) I i s t eine mal]treue Abbildung.

Sei A ~ ,i~ beliebig gewahlt und H eine Halbkugel mit /z ( A n H) ---- 0. Dalm ist

O(A, H) = Un/2 + r -= O(I (A), I (H))

= t ~ (I(A)) + ~,,/2 -- 2t, ( I(A) n I (H)) ,

woraus i~(A) <~ #( I (A) ) fol~. Eine analoge l~'berlegamg ffir I (A) und eine Halb- kugel H mit ~ (I (A) n H) = 0 liefer~/~ (I (A)) ~ # (A) und damit den Beweis yon (11).

Da I mal3treu ist und ~' nut abgesehlossene Mengen enth~lt, ist I auch inklusionser- haltend. Ftir eine Menge A e ~ 'und Halbkugeln H c Sn gilt daher A c H genau dann, wenn I (A) c I (H) = i(H) gilt. Daraus ergibt sich I (A) = ( ~ I (H) = ( ~ i(H) = i

I(H)~ I(A) t l ~ a = IA1, aer Satz ollende

Vol. 35, 1980 Isometrien des Raumes der konvexen Teilmengen der Sph~ire 475

Literaturverzeiehnis

[1] L. DA-~ZER, B. G:aff~-BAV)I and V. KL:~, Helly's theorem and its relatives. Proc. Sympos. Pure Math. 7, 101--180 (1963).

[2] P. M. Ggu-~R, Isometries of the space of convex bodies of E g. Mathematika 25, 270--278 (1978).

[3] P. M. GR~rBER and G. I.~'r_,, Isometries of the space of convex bodies in Euclidean space. Bull. London 3Iath. Soc. (ira Druck).

[4] P. 3I. Ga~ER and G. I~T'rL, Isometrics of the space of compact subsets of E ~. Erscheint in Studia Sci. Math. Hungar.

[5] F. HAUSDORFF, Grundzflge tier Mengenlehre. 3. Auflage, Chelsea, New York 1965. [6] J. ScrrXrFrm, Geometryof spheresin normed spaces. Lecture notes in pure and appl. math.,

New York-Basel 1976. [7] R. SCn-XE~Ea, Isometrien des Raumes der konvexen KSrper. Coll. Math. 83, 219--224

(1975). [8] G. C. Sla:~P~.~D and R. J. WEBSTER, Metrics for sets of convex bodies. Mathematika 12,

73--88 (1965).

Ansehrift des Autors:

G. Lettl Institut ffir ,Maalysis Technische Universit~it A-1040 Wien, GuBhausstral3e 27

Eingegangen am 10. 4. 1980