25
Marine Network for Integrated Data Access Workflows vom Schiff zum Portal Deutsche Meeresforschung Roland Koppe

Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

  • Upload
    others

  • View
    6

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Marine Network for Integrated Data Access

Workflows vom Schiff zum Portal Deutsche Meeresforschung

Roland Koppe

Page 2: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Gefördert durch die Helmholtz Gemeinschaft

Laufzeit 02/2012 – 07/2014 (Phase 1)

Koordination durch AWI

Überblick

2 18.04.2013 Roland Koppe

Page 3: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Zentraler Zugriff auf Daten und Informationen

Validierte Expeditionsinformationen

Archivierte Daten

Near Real Time Daten

Publikationen und Berichte

Curation Center (Ticketing)

Unterstützung von Workflows

Standardisierte Vokabularien und Ontologien

Aufbau eines strukturierten Data Managements

Nachhaltige Infrastruktur

Ziele

3 18.04.2013 Roland Koppe

Page 4: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Inhalte

4 18.04.2013 Roland Koppe

Underway

data

Archived

data Publications

Data Portal

German Marine

Research

Near real

time data Reports

Expeditions

Page 5: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Breite heterogene Landschaft von Arbeitsabläufen

Nicht abgestimmte Zuständigkeiten und Mandate

Daten und Publikationen verteilt über verschiedene

Informationssysteme und Repositorien

Statische Seiten im Internet

Zustand

5 18.04.2013 Roland Koppe

Page 6: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Workflow

6 18.04.2013 Roland Koppe

Expedition Validierung Archivierung Ergebnisse

Page 7: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Expeditionen und Plattformen als Bezugspunkt von Daten

bis zur Publikation

Metadaten zu Expeditionen

Verschiedene Anbieter

Inkonsistenzen in Bezeichnern, Beginn, Ende, Häfen, u.a.

Master Catalogue

Validierte Metadaten

Offen über definierte Schnittstellen verfügbar

7 18.04.2013 Roland Koppe

Expedition Validierung Archivierung Ergebnisse

Page 8: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Validierung von Daten in verschiedenen Ebenen

Near Real Time

Datenprodukte

Datenpublikationen

Unterscheidung von

Qualityflags für jeden Datenpunkt

Data Level für Datenprodukte

8 18.04.2013 Roland Koppe

Expedition Validierung Archivierung Ergebnisse

Page 9: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Archivierung je nach Datentyp

Near Real Time Data

COSYNA – Verschiedene Dateiformate und relational

Interne Datenbanken

Archivierte Daten

PANGAEA – Langzeitdatenarchiv

BSH DOD – relational

Interne Datenbanken

9 18.04.2013 Roland Koppe

Expedition Validierung Archivierung Ergebnisse

Page 10: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Veröffentlichung wissenschaftlicher Daten und Publikationen

Daten

PANGAEA – mit DOI und verknüpft mit anderen Objekten

Publikationen und Berichte

EPIC – AWI Repository

OceanRep – GEOMAR Repository

HZG DC – HZG Repository

10 18.04.2013 Roland Koppe

Expedition Validierung Archivierung Ergebnisse

Page 11: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Data Curation Center

11 18.04.2013 Roland Koppe

Page 12: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Architektur

12 18.04.2013 Roland Koppe

Feature

Catalogue

PANGAEA

BSH

AWI

GEOMAR

HZG

MARUM

Data Portal

German Marine

Research

Expedition

Catalogue

Index H

arv

este

r

Interfaces

Da

ta A

cce

ss

Page 13: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Feature Catalogue

Vokabularien zu Parametern, Geräten, Regionen (Gazetteer)

Mappings z.B. zwischen Parametern

Verbindung mit SeaDataNet, NERC/BODC

Harvesting von Metadaten zu Daten

Metadaten verweisen auf Daten bzw. Dienste (z.B. URL, SOS, WFS)

Formate u.a. DC, ISO 19115 / 19139

OAI-PMH, CSW

Annotation von Metadaten durch Feature Catalogue

Regionen durch Gazetteer im Feature Catalogue

Parameter Standardnamen

Hintergrund

13 18.04.2013 Roland Koppe

Page 14: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Indexierung von Metadaten

Kern-Metadaten u.a. Titel, Autoren, Datum, Plattform, Expedition

Facetten, geographische und zeitliche Indexierung

Expeditions-Katalog

Validierte Expeditionsmetadaten

Basis für die Beschreibung von Metadaten zu Daten

Aggregation von Daten in Vorbereitung

Harmonisierung von Parametern erforderlich -> Feature Catalogue

Data Warehouse als Backend

Hintergrund (2)

14 18.04.2013 Roland Koppe

Page 15: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Beispiel AWI

15 18.04.2013 Roland Koppe

ADCP, Thermosalinograph, FerryBox, Weather station, …

Plattform eingebaute Geräte

DShip

Land DShip Validierung

Validierung

Plattform mobile Geräte CTD, Water sampler, Helicopter CTD, Gliders, XBT, …

Validierung

Floats, Moorings, Hydrophones, …

Plattform externe Geräte

Validierung

Port

al D

euts

che M

ee

resfo

rschung

Page 16: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

16 18.04.2013 Roland Koppe

Page 17: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

17 18.04.2013 Roland Koppe

Page 18: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

18 18.04.2013 Roland Koppe

Page 19: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

19 18.04.2013 Roland Koppe

Page 20: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

20 18.04.2013 Roland Koppe

Page 21: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

21 18.04.2013 Roland Koppe

Page 22: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

22 18.04.2013 Roland Koppe

Page 23: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

23 18.04.2013 Roland Koppe

Meteorological observations during POLARSTERN cruise ANT-XXVI/3

Page 24: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Web-Anwendung

Apache Tomcat, Spring MVC, Tiles, JSP, Servlets

jQuery, Ajax, JSON

Metadaten Indexierung

Apache Lucene mit Taxonomy Erweiterung

Relationale Datenbanken

PostgreSQL mit PostGIS Erweiterung

Hibernate ORM

Autorisierung und Authentifizierung

Apache Shiro

Hintergrund (Portal)

24 18.04.2013 Roland Koppe

Page 25: Marine Network for Integrated Data Access · jQuery, Ajax, JSON Metadaten Indexierung Apache Lucene mit Taxonomy Erweiterung Relationale Datenbanken PostgreSQL mit PostGIS Erweiterung

Vielen Dank für die Aufmerksamkeit!

[email protected]

25 18.04.2013 Roland Koppe