ownCloud an der Technischen Universität Berlin Fazit der ... · ownCloud an der TU Berlin Quota – Studierende 10 GB – Mitarbeiterinnen und Mitarbeiter 50 GB – Einrichtungen

ownCloud an der Technischen Universität Berlin Fazit der ersten 6 Monate

T.Hildmann | tubIT | ownCloud Hochschulworkshop | 16. August 2013

Agenda

-  Ausgangslage und Historie (Unser Weg zur ownCloud.)

-  Architektur (Hard- und Software, Netzwerkstruktur)

-  Nutzerverhalten (Wie wird ownCloud an der TUB benutzt?)

-  Systemverhalten (Was sagt die Hardware zu ownCloud?)

-  Erfahrungen (ownCloud aus Sicht des IT-Dienstleisters)

-  Ausblick (Wie geht es bei uns weiter?)

-  Fazit

ownCloud | T. Hildmann | Hochschulworkshop Seite 2

Speichern und Teilen an der TU Berlin 2012 Speicher: Andrew File System (AFS)

Quota persönlich (1 GB pro Studierender, 5 GB pro Mitarbeiter) pro Einrichtung (250 GB) erweiterbar in 1 TB-Schritten Zugriff via AFS-Client (Windows, MacOS X, Linux, ...) WebAFS SFTP via SSH-Gateway http://www.user.tu-berlin.de/<nutzername> Subversion (SVN)

Teilen: GigaMove über DFN-AAI


PC/Mac: Nutzbarkeit abhängig von AFS-Client auf OS

Laptop: AFS-Client schwierig, WebAFS als Alternative

Tablet: Ausschließlich über WebAFS. Schlechte Integration!

Server: Sehr gute Nutzbarkeit über AFS-Client

Anz

ahl z

uneh

men

d N

utzbarkeit abnehmend


ownCloud an der TU Berlin Quota

–  Studierende 10 GB –  Mitarbeiterinnen und Mitarbeiter 50 GB –  Einrichtungen folgen mit 250 GB

Zugriffsmöglichkeiten

–  WebDAV für stationäre Geräte –  Sync-Client für Laptops und PCs in fremden Netzen –  iOS / Android-Apps für Smartphones und Tablets –  Web-GUI für variablen Zugriff von überall

Teilen

–  Austausch von Dateien und Ordner inkl. gemeinsamen Arbeiten –  einfach über Mailadresse innerhalb der TU Berlin


Web-Interface ownCloud an der TU Berlin


Projekthistorie Anfang 2012: Evaluation von Cloud-Speicheralternativen

–  Teamdrive, PowerFolder, ownCloud, ... –  zunächst ausgiebige Evaluation von PowerFolder –  mit der Version 4.x wird ownCloud erneut interessant

Herbst 2012: –  Start eines ownCloud Beta-Tests mit interessierten TUB-Nutzern

Winter 2012 / 2013: –  Aufbau der produktiven ownCloud-Infrastruktur –  finale Tests mit ownCloud 5.x

2. Mai 2013: –  Einladung an über 30.000 Studierende

10. Mai 2013: –  Einladung an ca. 10.000 Mitarbeiterinnen und Mitarbeiter


SYSTEMARCHITEKTUR ownCloud-Implementierung an der TU Berlin



Selektives Load-Balancing Synchroner Mensch-Maschine-Zugriff

–  Browser, iOS, Android, WebDAV

–  Zuordnung auf 7 Server –  flüssige Reaktion

Asynchroner Maschine-Maschine-Zugriff

–  Sync-Client –  Zuordnung auf 3 Server –  Lastabhängig / abgekoppelt


Sync-Client

Browser

iOS / Android

oc-01 oc-02 oc-03

oc-04 oc-05 oc-06

oc-07 oc-08 oc-09

Application Server

LDAP Slave

Apache

ownCloud

owncloud-01... owncloud-07

CPU 2 CPUs à 4 Kerne (Xeon 4540)

RAM 16 GB

NIC 1 GbE

owncloud-08... owncloud-10 (VM)

CPU 2 vCPUs

RAM 8 GB

NIC 1 GbE

ownCloud Applikationsserver


shared Disk

MySQL HAProxy

ownCloud Filer


owncloudfs-01

CPU 2 x 4-Kern CPU (Intel Xeon E5620)

RAM 24 GB

NIC 10 GbE

HBA 2, physischer Zugriff auf Platten

owncloudfs-02

CPU 2 x 4-Kern CPU (Intel Xeon E5504)

RAM 10 GB

NIC 10 GbE

HBA 2, physischer Zugriff auf Platten

dbowncloud-04... dbowncloud-07

CPU 2 x Dual-Core (Intel Xeon 5130)

RAM 32 GB

NIC 1 GbE

HBA 2

Datenbankcluster


Galera-Cluster • Tabellen brauchen primary Keys!

• Rechner mit ähnlichen Ausstattung verwenden!

BENUTZERVERHALTEN ownCloud-Nutzung an der TU Berlin


Anzahl der registrierten Benutzer


0

500

1000

1500

2000

2500

3000

3500

Arbeitstag!

Wochenende!


Vorlesungsfreie Zeit

Dateimodifikationen


Monitoring-Ausfall

OC-Sync Client 1.3

Anzahl der Dateien

0

500000

1000000

1500000

2000000

2500000

3000000

3500000

4000000

4500000

5000000


Verteilung der Dateigrößen


60% 18%

22%

0%

0-16 KB

16-128 KB

128KB - 1GB

> 1GB

3.939.463 Dateien

SYSTEMVERHALTEN Hardwareauslastung


ownCloud Applikationsserver (% CPU, erster Monat)


0

5

10

15

20

25

30

35

40

19.0

5.13

00:

00

19.0

5.13

13:

00

20.0

5.13

02:

00

20.0

5.13

15:

00

21.0

5.13

04:

00

21.0

5.13

17:

00

22.0

5.13

06:

00

22.0

5.13

19:

00

23.0

5.13

08:

00

23.0

5.13

21:

00

24.0

5.13

10:

00

24.0

5.13

23:

00

25.0

5.13

12:

00

26.0

5.13

01:

00

26.0

5.13

14:

00

27.0

5.13

03:

00

27.0

5.13

16:

00

28.0

5.13

05:

00

28.0

5.13

18:

00

29.0

5.13

07:

00

29.0

5.13

20:

00

30.0

5.13

09:

00

30.0

5.13

22:

00

31.0

5.13

11:

00

01.0

6.13

00:

00

01.0

6.13

13:

00

02.0

6.13

02:

00

02.0

6.13

15:

00

03.0

6.13

04:

00

03.0

6.13

17:

00

04.0

6.13

06:

00

04.0

6.13

19:

00

05.0

6.13

08:

00

05.0

6.13

21:

00

06.0

6.13

10:

00

06.0

6.13

23:

00

07.0

6.13

12:

00

08.0

6.13

01:

00

08.0

6.13

14:

00

09.0

6.13

03:

00

09.0

6.13

16:

00

10.0

6.13

05:

00

10.0

6.13

18:

00

11.0

6.13

07:

00

11.0

6.13

20:

00

12.0

6.13

09:

00

12.0

6.13

22:

00

13.0

6.13

11:

00

14.0

6.13

00:

00

14.0

6.13

13:

00

15.0

6.13

02:

00

15.0

6.13

15:

00

16.0

6.13

04:

00

16.0

6.13

17:

00

17.0

6.13

06:

00

17.0

6.13

19:

00

18.0

6.13

08:

00

ownCloud Applikationsserver (% CPU, letzter Monat)


0

10

20

30

40

50

60

70

80

90

100

06.0

7.13

00:

00

06.0

7.13

14:

00

07.0

7.13

04:

00

07.0

7.13

18:

00

08.0

7.13

08:

00

08.0

7.13

22:

00

09.0

7.13

12:

00

10.0

7.13

02:

00

10.0

7.13

16:

00

11.0

7.13

06:

00

11.0

7.13

20:

00

12.0

7.13

10:

00

13.0

7.13

00:

00

13.0

7.13

14:

00

14.0

7.13

04:

00

14.0

7.13

18:

00

15.0

7.13

08:

00

15.0

7.13

22:

00

16.0

7.13

12:

00

17.0

7.13

02:

00

17.0

7.13

16:

00

18.0

7.13

06:

00

18.0

7.13

20:

00

19.0

7.13

10:

00

20.0

7.13

00:

00

20.0

7.13

14:

00

21.0

7.13

04:

00

21.0

7.13

18:

00

22.0

7.13

08:

00

22.0

7.13

22:

00

23.0

7.13

12:

00

24.0

7.13

02:

00

24.0

7.13

16:

00

25.0

7.13

06:

00

25.0

7.13

20:

00

26.0

7.13

10:

00

27.0

7.13

00:

00

27.0

7.13

14:

00

28.0

7.13

04:

00

28.0

7.13

18:

00

29.0

7.13

08:

00

29.0

7.13

22:

00

30.0

7.13

12:

00

31.0

7.13

02:

00

31.0

7.13

16:

00

01.0

8.13

06:

00

01.0

8.13

20:

00

02.0

8.13

10:

00

03.0

8.13

00:

00

03.0

8.13

14:

00

04.0

8.13

04:

00

04.0

8.13

18:

00

05.0

8.13

08:

00

CPU Fileserver (% CPU, erster Monat)


0

1

2

3

4

5

6

19.0

5.13

00:

00

19.0

5.13

14:

00

20.0

5.13

04:

00

20.0

5.13

18:

00

21.0

5.13

08:

00

21.0

5.13

22:

00

22.0

5.13

12:

00

23.0

5.13

02:

00

23.0

5.13

16:

00

24.0

5.13

06:

00

24.0

5.13

20:

00

25.0

5.13

10:

00

26.0

5.13

00:

00

26.0

5.13

14:

00

27.0

5.13

04:

00

27.0

5.13

18:

00

28.0

5.13

08:

00

28.0

5.13

22:

00

29.0

5.13

12:

00

30.0

5.13

02:

00

30.0

5.13

16:

00

31.0

5.13

06:

00

31.0

5.13

20:

00

01.0

6.13

10:

00

02.0

6.13

00:

00

02.0

6.13

14:

00

03.0

6.13

04:

00

03.0

6.13

18:

00

04.0

6.13

08:

00

04.0

6.13

22:

00

05.0

6.13

12:

00

06.0

6.13

02:

00

06.0

6.13

16:

00

07.0

6.13

06:

00

07.0

6.13

20:

00

08.0

6.13

10:

00

09.0

6.13

00:

00

09.0

6.13

14:

00

10.0

6.13

04:

00

10.0

6.13

18:

00

11.0

6.13

08:

00

11.0

6.13

22:

00

12.0

6.13

12:

00

13.0

6.13

02:

00

13.0

6.13

16:

00

14.0

6.13

06:

00

14.0

6.13

20:

00

15.0

6.13

10:

00

16.0

6.13

00:

00

16.0

6.13

14:

00

17.0

6.13

04:

00

17.0

6.13

18:

00

18.0

6.13

08:

00

CPU Fileserver (% CPU, letzter Monat)


0

2

4

6

8

10

12

14

16

06.0

7.13

00:

00

06.0

7.13

14:

00

07.0

7.13

04:

00

07.0

7.13

18:

00

08.0

7.13

08:

00

08.0

7.13

22:

00

09.0

7.13

12:

00

10.0

7.13

02:

00

10.0

7.13

16:

00

11.0

7.13

06:

00

11.0

7.13

20:

00

12.0

7.13

10:

00

13.0

7.13

00:

00

13.0

7.13

14:

00

14.0

7.13

04:

00

14.0

7.13

18:

00

15.0

7.13

08:

00

15.0

7.13

22:

00

16.0

7.13

12:

00

17.0

7.13

02:

00

17.0

7.13

16:

00

18.0

7.13

06:

00

18.0

7.13

20:

00

19.0

7.13

10:

00

20.0

7.13

00:

00

20.0

7.13

14:

00

21.0

7.13

04:

00

21.0

7.13

18:

00

22.0

7.13

08:

00

22.0

7.13

22:

00

23.0

7.13

12:

00

24.0

7.13

02:

00

24.0

7.13

16:

00

25.0

7.13

06:

00

25.0

7.13

20:

00

26.0

7.13

10:

00

27.0

7.13

00:

00

27.0

7.13

14:

00

28.0

7.13

04:

00

28.0

7.13

18:

00

29.0

7.13

08:

00

29.0

7.13

22:

00

30.0

7.13

12:

00

31.0

7.13

02:

00

31.0

7.13

16:

00

01.0

8.13

06:

00

01.0

8.13

20:

00

02.0

8.13

10:

00

03.0

8.13

00:

00

03.0

8.13

14:

00

04.0

8.13

04:

00

04.0

8.13

18:

00

05.0

8.13

08:

00

CPU Datenbankserver (% CPU, erster Monat)


0

5

10

15

20

25

30

35

40

19.0

5.13

00:

00

19.0

5.13

14:

00

20.0

5.13

04:

00

20.0

5.13

18:

00

21.0

5.13

08:

00

21.0

5.13

22:

00

22.0

5.13

12:

00

23.0

5.13

02:

00

23.0

5.13

16:

00

24.0

5.13

06:

00

24.0

5.13

20:

00

25.0

5.13

10:

00

26.0

5.13

00:

00

26.0

5.13

14:

00

27.0

5.13

04:

00

27.0

5.13

18:

00

28.0

5.13

08:

00

28.0

5.13

22:

00

29.0

5.13

12:

00

30.0

5.13

02:

00

30.0

5.13

16:

00

31.0

5.13

06:

00

31.0

5.13

20:

00

01.0

6.13

10:

00

02.0

6.13

00:

00

02.0

6.13

14:

00

03.0

6.13

04:

00

03.0

6.13

18:

00

04.0

6.13

08:

00

04.0

6.13

22:

00

05.0

6.13

12:

00

06.0

6.13

02:

00

06.0

6.13

16:

00

07.0

6.13

06:

00

07.0

6.13

20:

00

08.0

6.13

10:

00

09.0

6.13

00:

00

09.0

6.13

14:

00

10.0

6.13

04:

00

10.0

6.13

18:

00

11.0

6.13

08:

00

11.0

6.13

22:

00

12.0

6.13

12:

00

13.0

6.13

02:

00

13.0

6.13

16:

00

14.0

6.13

06:

00

14.0

6.13

20:

00

15.0

6.13

10:

00

16.0

6.13

00:

00

16.0

6.13

14:

00

17.0

6.13

04:

00

17.0

6.13

18:

00

18.0

6.13

08:

00

CPU Datenbankserver (% CPU, letzterMonat)


0

5

10

15

20

25

30

35

40

45

06.0

7.13

00:

00

06.0

7.13

14:

00

07.0

7.13

04:

00

07.0

7.13

18:

00

08.0

7.13

08:

00

08.0

7.13

22:

00

09.0

7.13

12:

00

10.0

7.13

02:

00

10.0

7.13

16:

00

11.0

7.13

06:

00

11.0

7.13

20:

00

12.0

7.13

10:

00

13.0

7.13

00:

00

13.0

7.13

14:

00

14.0

7.13

04:

00

14.0

7.13

18:

00

15.0

7.13

08:

00

15.0

7.13

22:

00

16.0

7.13

12:

00

17.0

7.13

02:

00

17.0

7.13

16:

00

18.0

7.13

06:

00

18.0

7.13

20:

00

19.0

7.13

10:

00

20.0

7.13

00:

00

20.0

7.13

14:

00

21.0

7.13

04:

00

21.0

7.13

18:

00

22.0

7.13

08:

00

22.0

7.13

22:

00

23.0

7.13

12:

00

24.0

7.13

02:

00

24.0

7.13

16:

00

25.0

7.13

06:

00

25.0

7.13

20:

00

26.0

7.13

10:

00

27.0

7.13

00:

00

27.0

7.13

14:

00

28.0

7.13

04:

00

28.0

7.13

18:

00

29.0

7.13

08:

00

29.0

7.13

22:

00

30.0

7.13

12:

00

31.0

7.13

02:

00

31.0

7.13

16:

00

01.0

8.13

06:

00

01.0

8.13

20:

00

02.0

8.13

10:

00

03.0

8.13

00:

00

03.0

8.13

14:

00

04.0

8.13

04:

00

04.0

8.13

18:

00

05.0

8.13

08:

00

Arbeitsspeicherverwendung


alles relativ konstant

0 1 2 3 4 5 6 7 8 9

10

Applikationsserver

0

2

4

6

8

10

12

14

16

Datenbankserver

0

2

4

6

8

10

12

14

Fileserver

Durchschnittswerte RAM


Applikationsserver 6-10 GB / 16 GB

Datenbankserver 12-16 GB / 32 GB

Fileserver 6-12 GB / 24 GB

Netzwerk-Last: Applicationserver (alle Interfaces, Bit/s)


0

100.000.000

200.000.000

300.000.000

400.000.000

500.000.000

600.000.000

700.000.000

800.000.000

900.000.000

06.0

7.13

00:

00

06.0

7.13

14:

00

07.0

7.13

04:

00

07.0

7.13

18:

00

08.0

7.13

08:

00

08.0

7.13

22:

00

09.0

7.13

12:

00

10.0

7.13

02:

00

10.0

7.13

16:

00

11.0

7.13

06:

00

11.0

7.13

20:

00

12.0

7.13

10:

00

13.0

7.13

00:

00

13.0

7.13

14:

00

14.0

7.13

04:

00

14.0

7.13

18:

00

15.0

7.13

08:

00

15.0

7.13

22:

00

16.0

7.13

12:

00

17.0

7.13

02:

00

17.0

7.13

16:

00

18.0

7.13

06:

00

18.0

7.13

20:

00

19.0

7.13

10:

00

20.0

7.13

00:

00

20.0

7.13

14:

00

21.0

7.13

04:

00

21.0

7.13

18:

00

22.0

7.13

08:

00

22.0

7.13

22:

00

23.0

7.13

12:

00

24.0

7.13

02:

00

24.0

7.13

16:

00

25.0

7.13

06:

00

25.0

7.13

20:

00

26.0

7.13

10:

00

27.0

7.13

00:

00

27.0

7.13

14:

00

28.0

7.13

04:

00

28.0

7.13

18:

00

29.0

7.13

08:

00

29.0

7.13

22:

00

30.0

7.13

12:

00

31.0

7.13

02:

00

31.0

7.13

16:

00

01.0

8.13

06:

00

01.0

8.13

20:

00

02.0

8.13

10:

00

03.0

8.13

00:

00

03.0

8.13

14:

00

04.0

8.13

04:

00

04.0

8.13

18:

00

05.0

8.13

08:

00


0 100.000.000 200.000.000 300.000.000 400.000.000 500.000.000 600.000.000 700.000.000 800.000.000 900.000.000

Durchschnittlich weitergeleitete Bit/s owncloudfs 01-02

0

5.000.000

10.000.000

15.000.000

20.000.000

25.000.000

Durchschnittlich weitergeleitete Bit/s dbowncloud 01-07

ERFAHRUNGEN Probleme, Lösungen, Rückmeldung, Stimmung...


Probleme und Lösungen


Last auf DB erforderte einen DB-Server pro 100 Benutzer

Erstellen von Primärschlüsseln und Indizes.

ownCloud-DB läuft nicht auf Galera-Cluster

Erstellen von Primärschlüsseln für alle Tabellen.

ownCloud Applikation setzt gemeinsame Partition für alle Nutzer voraus. Nutzung eines Cluster-Dateisystems.

Doppelte Einträge in der Weboberfläche bei einigen Nutzern.

https://github.com/owncloud/core/pull/3388

Quota wird für geteilte Dateien belastet. https://github.com/owncloud/core/pull/2804

Probleme und Lösungen


LDAP-Anfragen erzeugen extrem hohe Last auf Server

LDAP-Replika jeweils lokal auf dem Applikationsserver

Hohe Last auf Kerberos-Server Weitere Kerberos-Server via Round-Robin in die Verteilung

Kurze Updatezyklen und Updates unterschiedlicher Qualität

Bereitstellung einer Testumgebung und effizienter Workflow für Updates

Probleme ohne (bisherige) Lösung

-  Löschen und Widerherstellen -  Löscht man einen Ordner und stellt diesen wieder her, wird der Inhalt

außerhalb wieder hergestellt

-  Löscht man Shares aus „Shared“, wird der Inhalt außerhalb von Shared wieder hergestellt

-  Gleichnamige Shares eines Benutzers werden nur einmal angezeigt (Issue # 3611)

-  Permanente Laufwerkzuordnung für Win7 WebDAV-Client funktioniert nicht -  Probleme mit einigen Passwörtern / Browsern (bislang nicht reproduzierbar) -  Einige Nutzer melden, das „eingespielte Dateien“ gelöscht, statt

synchronisiert werden (bislang nicht reproduzierbar)


Nutzeranfragen / Tickets

-  Viele Anfragen zu unterschiedlichen WebDAV-Clients (Netdrive, Cyberduck, Android/iOS Apps)

-  gewünschte Kalender / Adressbuchfunktion

-  Nutzung von ownCloud durch Alumni

In Summe außerhalb des Semesters < 5 Tickets pro Woche!


Ausgesprochen positives Feedback


Heise-Forum


Nächste ownCloud-Projekte

-  ownCloud Speicherplatz für Fachgebiete etc.

(“Kostenstellen mit Organisationscharakter”)

-  Verbesserung des Sharings über Gruppen

(Masterarbeit)

-  Integration in Lehrveranstaltungen etc.

-  Zugriff auf Speicher auch z.B. via CIFS, AFS oder NFS


Fazit

ownCloud ist für große Umgebungen skalierbar!

–  größter Schwachpunkt sind z.Zt. die Datenbanken

–  Vorsicht mit LDAP und Kerberos!

Nutzer-Resonanz ausgesprochen positiv

Synchronisation mit 1.3 Client schon 98% Dropbox-“Experience“

Schnelle Weiterentwicklung

–  Workflow für Testing und Update muss stehen

–  eigene PHP-Experten oder Entwicklernetzwerk ist vorteilhaft


Documents

ownCloud an der Technischen Universität Berlin Fazit der ... · ownCloud an der TU Berlin Quota – Studierende 10 GB – Mitarbeiterinnen und Mitarbeiter 50 GB – Einrichtungen