30
Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Embed Size (px)

Citation preview

Page 1: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Grid applications, environments and

programming models

Präsentiert von:

Beikircher Wolfgang

Schgaguler Evelyn

Page 2: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Was Sie erwartet:

• Einführung in Grid

- Überblick

- Eingabe von Workflows

- Abbildung ins Grid

- Ausführung der Workflows

- Anwendungen

• Pegasus

• Karajan

• Zusammenfassung- Überblick

- Ziele

- Spezifikation

- Ausführung

- Ereignismodell

Page 3: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Einführung

5% genutzte Kapazität

95% ungenutzte Kapazität

10% genutzte Kapazität

90% genutzte Kapazität

Auslastung der CPU bei:

... PC‘s ... Server

Page 4: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Was ist das Grid?

• Rechenleistung innerhalb Netzwerk

zusammenfassen (Grid Computing)

• parallele Lösungen rechenintensiver Probleme

• geringere Kosten

• hohe Rechenleistung

• Computer, Teleskope, Mikroskope, usw.

• geförderte Projekte z.B. CERN (durch die EU)

• wesentlich kürzere Rechenzeit

Page 5: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Softwarearchitektur

Context Service

Data Service

Information Service

Resource Management Service

Infrastructure Service

Self-Management Service

Security Service

Execution Management Service

OGSA

Page 6: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Grid - Applikationen

Distributed Supercomputing

High-Throughput Computing

On-Demand Computing

Data-Intensive Computing

Collaborative-Computing

Teleimmersion

Page 7: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Pegasus -Planning for Execution in Grids

Ein framework für Workflows

Page 8: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Überblick

• Flexibles framework

• Konfigurierbares System, das plant, vorbereitet

und Workflows ausführt

– Algorithmische und KI Techniken kommen zum Einsatz

• Unterstützt eine Reihe von Programmen zur

Ausführung von Workflows

Page 9: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Spezifikation

• Workflows als abstrakt definiert

– Transformationen und Daten mit Hilfe der

logischen Namen

• Workflowdefinition mit Chimera oder

händisch

• Ausgabe ist ein gerichteter Graph,

beschrieben in XML

Page 10: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Beispiel einer Eingabedatei für Chimera

Page 11: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Konstruierter, abstrakter Graph

preprocess

findrange

analyze

f.a f.df.b

1, f.b2

f.b1, f.b2

f.c1

f.c2

Page 12: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Ausgabe als XML-Datei

Page 13: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Abbildung der Workflows

Pegasus

RLS

TCMDS

Logische Daten

Standort der Daten

Logi

sche

Tra

nsf.

Standort der T

ransf.

Resso

urce

n fin

den

Stand

ort d

er R

esso

urce

n

Page 14: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Reduktion von Workflows

• Optimiert Workflows

• Prüft Durchführbarkeit der Workflows

Page 15: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Ausführung von Workflows

Pegasus

RLS TC MDS

DAGManChimera

Abstract Workflow

Concrete WorkflowVDL Jobs

Page 16: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Anwendungen (1) - LIGO

• Interferometry Gravitational-Wave Observatory

• Gravitationswellen werden erzeugt von:

– Schwarzen Löchern

– Erdbeben in Neuronensternen

– Pulsare

• Pegasus-Planer analysiert Daten:

– Workflows bilden

– auf den Grid ausführen

Page 17: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Anwendungen (2) - LlGO

Page 18: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Anwendungen (3) - SCEC

• Southern California Earthquake Center (SCEC)

• Bei Demonstrationen von Erdbebenanalysen

• GriPhyN entwickelte Virtual Data Toolkit

• Vorgehensweise:

– Workflow Templates produzieren u. mit Daten füllen

– abstrakte Workflows erzeugen

– an das Virtual Data System (VDS) weiterleiten

– DAGMan und CondorG führen Workflows aus

Page 19: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Karajan

A Grid Orchestration Framework

Page 20: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Überblick

• Karajan ist eine Workflow Sprache und

Ausführungsmotor

• Ereignisgesteuert

• Stützt sich auf 2 grundlegende

Technologien:

– Java‘s Jini

– Rio

Page 21: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Schematische Darstellung

Page 22: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Ziele

• Erzeugung einer verteilten Infrastruktur

• Client – Server – Service Programmierung

so einfach wie möglich zu machen

• Entwicklung einer Infrastruktur in der

Services unabhängig von einander

arbeiten können

Page 23: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Spezifikation eines Workflows

• Workflows werden mittels XML-Datei

spezifiziert

• Vordefinierte Tags bestimmen den Ablauf

• Verschiedene Gridelemente einbindbar:

– Parallele Iteratoren

– Gridftp

Page 24: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Beispiel einer Definition

….

<sequential>

<element1/>

<parallel>

<element2/>

<element3/>

</parallel>

<element4/>

</sequential>

….

element1

element2 element3

element4

Page 25: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Ausführung der Workflows

• Workflow engine basiert auf

Ereignismodell

• Elemente reagieren auf Ereignisse von

anderen Elementen

• Elemente interagieren mit Services

Page 26: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Ereignismodell

• Ereignisse signalisiert durch Flags

• Flags werden in JavaSpace geschrieben

• 2 verschiedene Modelle

– Client distribution model

– Service distribution model

Page 27: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Client distributionmodel

Page 28: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Servicedistribution

model

Page 29: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Zusammenfassung

• Wiederholung Grid

• Pegasus

– Spezifikation von Workflows (XML-Datei)

– Planung von Workflows (RLS, TC, MDS)

– Ausführung von Workflows

• Karajan

– Definition der Workflows

– Ereignismodel

Page 30: Grid applications, environments and programming models Präsentiert von: Beikircher Wolfgang Schgaguler Evelyn

Vielen Dank