Stadtwerke München Informatik - doag.org · SAP-Appl. - Server. 19 SWM // Services GmbH Informations- und Prozesstechnik S-IP-SB-SP Dateisystem OCFS Datenfiles, werden über logische

1SWM // Services GmbH S-IP-SB-SPInformations- und Prozesstechnik

Pilotierung SAP auf ORACLE RACStadtwerke München


Unternehmen Stadtwerke München


Das Unternehmen

Die Stadtwerke München ...

stehen für eine zuverlässige, sichere Versorgung mit Strom, Wasser, Erdgas und Fernwärme

stehen für Multi Utility und Komplettservices aus einer Hand

versorgen rund 1,6 Mio. Kunden mit Energie und Wasser

bieten attraktive und wettbewerbsfähige Produkte undDienstleistungen


Das UnternehmenDie Stadtwerke München ...

bieten ihren Kunden eines der besten Trinkwasser in ganz Europa

stehen für das modernste Bäderangebot Bayerns: 17 Hallen- und Freibäder

verfügen über das am besten ausgebaute Nahverkehrsnetz Europas


Das Unternehmen

Die Stadtwerke München ... sind bundesweit die Nummer 1 unter denkommunalen Unternehmen

sind der Umwelt verpflichtet und wahrenökologische Grundsätze

tragen dazu bei, dass München zu den führendenWirtschaftsstandorten Europas zählt


SWM Versorgungs GmbH

MVG - Münchner Verkehrs-gesellschaft mbH

M“net TelekommunikationsGmbH

SWM Consulting und Service GmbH

Kommunale Energie Allianz Bayern GmbH

citiworks AG

Erdgas Südbayern GmbH

Gasversorgung Haar GmbH

aquaKomm GmbH & Co. KG

100 %

100 %

49,99 %

100 %

18,52 %

45 %

30 %

50 %

50 %

50 %

Stadtwerke München GmbH

Bayerngas GmbH

100 %SWM Services GmbH

SWM Infrastruktur GmbH 100 %

SWM Gruppe und verbundene Unternehmen


SWM als WirtschaftsfaktorSWM in Zahlen

Anzahl Mitarbeiter: rund 7.725

Umsatz: 2,949 Milliarden Euro

Stromleitungsnetz: ca. 10.500 km mit 4.500 Netztrafostationen

Erdgasnetz: ca. 4.500 km

Wassernetz: ca. 3.300 km

Fernwärmenetz: ca. 590 km

589 km MVG-Netz 79 Linien und 886 Fahrzeuge

ca. 450 Millionen Fahrgäste pro Jahr, d. h. mehr als eine Million Fahrgäste nutzen täglich U-Bahn, Bus und Tram


SAP – Systemumgebung vor RAC


Ausgangssituation

OSWindows 2000 Microsoft Cluster

Zusätzliche SoftwareBMC / Patrol 3.5.00EDM NT-Client 4.0- Backint für SAP 3.0.1

SAPRelease 4.6CAddOn IS-U/CCS 4.64PlugIn

- PI 2002_2_46CPublic- Transport

- Release 1.2


SAP-R/3 Produktivsystem vor RAC

Connectrix

SymmetrixDMX 3000

Connectrix

EDM

Standby

SymmetrixDMX 3000

3 Applikationsserver

Sicherungs-server


SRDF

DV2 BR


DB - Kennzahlen bei SWM

Entwicklung Qualitätssicherung

SWI SWK

SWP

Oracle 8.1.7.4ca. 200 GB


Produktion


Monatl. Wachstum ca. 50 GB

SWT

Schulung



Motivation

Keine Skalierbarkeit bei Windows 2000 möglichPerformance Probleme Serverkonsolidierung (DB-Host und eigene Applikationsserver)Speichererweiterung nicht mehr möglichAusfall eines Nodes betrifft alle UserAusfallzeit beim Failover der ClustergruppenStorageerweiterung sehr aufwendig

LaufwerksbuchstabenGröße Metadevices

Probleme mit Signaturen der Clusterplatten


Warum Oracle RAC ?

Skalierbarkeit Höhere Verfügbarkeit / AusfallsicherheitPerformance Steigerung (Aktive-Aktive Nodes)Serverkonsolidierung / Kosten (DB-Host mit Applikationsserver)Memory (SGA verteilt sich auf 3 Nodes)Ausfall eines Nodes betrifft max. 33% der UserKnow How an RAC-Systemen mit OCFS vorhandenPositive Erfahrungen durch Betrieb von zwei produktiven RAC-Systemen


PilotierungStart April 2004


Partner

OracleSAPDELLEMC²SWM

http://www.oracle.com/global/de/index.html

http://www.sap.com/index.epx

http://www.emc.com/

http://www.swm.de/


Hardware-Konfiguration

Hardware 5 DELL PowerEdge6650

- 3 Server mit 4 x 2790 GHz / 8 GB Memory- 2 Server mit 4 x 2790 GHz / 4 GB Memory

OSWindows 2003 Microsoft Cluster 2003

Zusätzliche SoftwareBMC / Patrol 3.5.00Legato NetWorker 7.1.2- Backint für SAP 3.0.1

Redundantes Netzwerk 1 GbitPublicPrivatOICMS - Heartbeat

Redundante Anbindung zu EMC²


Logische Sicht


Oracle & SAP Installation Mai 2004

OCFS 9.2.0.4

Oracle Cluster 9.2.0.4

RDBMS Oracle 9.2.0.4

SAP Release 4.6CZentralinstanz im MS-Cluster auf den 3 RAC- NodesSAP-Appl. - Server


Dateisystem

OCFSDatenfiles, werden über logische Links angesprochenOracle-HomeOnline-Log‘s Offline-Log‘sTrace-Verzeichnisse

NTFSSAP-Zentralinstanz (MS-Cluster-Gruppe)TransportverzeichnisSAPMNT / SAPLOC

RAW – Devicesrvcfg


Datenübernahme für Tests

Abzug der produktiven Daten mit EMC² BCV (Split / Mirror – Technik)

Paralleler „RoboCopy“ von NTFS nach OCFSDauer ca. 15 Std. über Privat- und Public- LAN 1 GbitWiederaufsetzen des Kopiervorgangs möglich


Test HardwareausfallNetzwerkkomponenten

Physikalische Leitungen von Public oder PrivatPhysikalische Leitungen von OIC oder MS-HeartbeatAusfall oder Teilausfall der SwitchesAusfall der Teaming Software „Intel ProSet“

EMC² - KomponentenPhysikalische Leitungen zu EMC²Physikalische QLogic - KartenAusfall von EMC² Software „PowerPath“

Ausfall von NetzteilenAusfall kompletter Server


Test SoftwareausfallRAC - Instancen

“Shutdown immediate”“Shutdown abort”“Kill”

Kill Clustermanager an jeder RAC - NodeSAP - Application

Failover- Switch der Zentralinstanz

Reconnect- “Shutdown immediate”- “Shutdown abort”- “Kill”

Kill Clustermanager an jeder RAC - Node


Erste Testergebnisse Juni 2004

Performanceprobleme auf allen RAC-Nodes

RAC-Nodes laufen instabil

RAC-Nodes waren nach kurzer Zeit nicht mehr administrierbar

Instanzabbrüche an allen RAC-Nodes


Taskforce ab Juli 2004

Wöchentliche Telefon - Konferenz aller beteiligter Partner Einbeziehung der Fa. Microsoft

MassnahmenMehrmalige Datenübernahme Oracle– und SAP– System wiederholt aufgebautNeuinstallation

- Server- Netz- und Clusterkomponenten- Oracle und SAP

Update von Treibern und Firmware

OCFS 9.2.0.4 bei Problemanalyse als Verursacher identifiziert !


OCFS Bug‘s bei SWM

Index-Korruption in den OCFS - DirectoriesStartup der Instanzen

ORA-0600bis zu einer Std.

OCFS-Dateisystem vollDateien können nicht gelöscht werdenDateien werden angezeigt, sind aber physikalisch nicht vorhanden

Probleme in der Freiplatzverwaltung von OCFSDismount- und Mount-Probleme

Keine Reaktionen an den anderen RAC-NodesPerformance-Probleme

beim I/O-StackHandhabung der Maschinen usw….


Aktivitäten der Fa. Oracle

Fehleranalysevon Oktober 2004 bis Januar 2005 Remotevon Februar bis April 2005 vor Ort,

Intensive Lasttests am RAC-SystemAusgiebige Tests von Bugfixes

Seit April 2005 Finalversion OCFS 9.2.0.7


Finale Test‘s

Hardware

Software

Systemverbund

Datenübernahme

Standby System

Backup und Restore Szenario


Migrations-ZeitplanMigrationsbegin mit Aufbau SAP-Auskunftsystem

Freitag 10.06.05 ab 20 : 30 Uhr Stop SAP- und Datenbank

ca. 21:00 Uhr BCV-Sicherung

ca. 23:00 Uhr RoboCopy NTFS nach OCFS

Samstag 11.06.05 ab 14:00 Uhr Migration Single DB zu RAC

ca. 17:00 Uhr Migration SAP-Systemca. 20:00 Uhr Interne Tests

Sonntag 12.06.05 ab 09:00 Uhr Abnahmetests durch Abteilungenca. 14:00 Uhr Zoning an EMC² Boxca. 15:00 Uhr Aufbau StandBy-System

Migrationsende Sonntag ca. 18:00 Uhr


SAP-R/3 Produktivsystem mit RAC

Connectrix

SymmetrixDMX 3000

Connectrix

EDMSymmetrixDMX 3000


Sicherungsserver


SRDF

DV2 / 1 BR

StandBy Server

3 Oracle RAC – ServerMS/ClusterSAP-CI2 Applikationsserver


Erfahrung mit RAC ab Juni 2005

Skalierbarkeit Hochverfügbarkeit / AusfallsicherheitPerformance Steigerung (Aktive-Aktive 3 Nodes)Serverkonsolidierung / Kosten (DB-Host und Applikationsserver)Memory (SGA verteilt sich auf 3 Nodes)Ausfall eines Nodes betrifft max. 33% der User


Neue Projekte

Aufbau eines zentralen RAC-SystemsOracle 10.2.0.1 Standard Edition + ASM

Aufbau eines zentralen RAC-Systems für Internet-ApplikationenOracle 10.2.0.1 Standard Edition + ASM

Probebetrieb eines RAC-Systems für Projekt MDEOracle 10.1.0.4 Standard Edition + ASM


Fragen & Antworten

Vielen Dank für Ihre Aufmerksamkeit

Documents

Stadtwerke München Informatik - doag.org · SAP-Appl. - Server. 19 SWM // Services GmbH Informations- und Prozesstechnik S-IP-SB-SP Dateisystem OCFS Datenfiles, werden über logische