Embed Size (px)
Citation preview
Maschinelles Lernen für Selbst-Adaptive Software
Dr. Andreas Metzger
Agenda
2
Einführung Anwendung 1“ProaktiveAdaption”
Anwendung 2“SelbstlernendeAdaption”
Diskussion
paluno Tech-Talk, A. Metzger, 2019
Die Welt wird komplexer, vernetzter, dynamischer…Beispiel: Smart City
3Image Source: libelium
Air Sensor
Fire Sensor
Hear Sens.
SmartContainers
WaterSensor
Humidity Sensor
TrashSensor
Access Control
SmartMeter
DashboardCamera
Loca-lisation
Parking Space Sens.
VideoSurveillance
TrafficDensity
Internet ofThings
TrainingAssistant
Goods Tracking
Water Management
WateringService
GarbageCollection
AutomatedParking
ProductLocalisation
CrowdManagement
Traffic Control
PersonDetection
Smart Facility Management
Disaster Management
Cloud& Apps
Training History
ContainerUtilization
WaterConsumption
Watering Needs
RecyclingRates
Parking Utilization
ProductInformation
CrowdMovement
Traffic Density
CrimeSurveillance
Facility Statistics
Disaster Information
BigData
paluno Tech-Talk, A. Metzger, 2019
Manuelles Software-Engineering zu langsam!
4
SoftwareEngineering
Anforderungs-Management
Architektur-Entwurf
Programmierung
Installation
Betrieb
paluno Tech-Talk, A. Metzger, 2019
Wir brauchen Adaption =Automatisierte Beobachtung und Anpassung
5
SoftwareEngineering
Anforderungs-Management
Architektur-Entwurf
Programmierung
Installation
BetriebBeobachtung
Anpassung
SoftwareAdaption
paluno Tech-Talk, A. Metzger, 2019
Cloud Service
Anwendungsbeispiel: Cloud Computing
paluno Tech-Talk, A. Metzger, 2019 6
Netflix
Users
Video-Streaming
Video-Streaming
Video-Streaming
Server Server
ServerWorkload
Maschinelles Lernen und KI
paluno Tech-Talk, A. Metzger, 2019 7
Image: https://www.datarevenue.com/
Alias„Daten-
getriebene KI“
Maschinelles Lernen und KI
WesentlicheTreiber
paluno Tech-Talk, A. Metzger, 2019 8
2020
2011
44 Zettabyte
1 Zettabyte
Big Data
Hardware
Bspl.: GPU / TPU
Algorithmen
Bspl.: Deep Learning
Ansatz 2Ansatz 1
Maschinelles Lernen und KI
paluno Tech-Talk, A. Metzger, 2019 9
UnüberwachtesLernen
Überwachtes Lernen
Reinforcement Learning
Kein Feedback Trainingsdaten Belohnungen
Agenda
10
Einführung Ansatz 1“ProaktiveAdaption”
Ansatz 2“SelbstlernendeAdaption”
Diskussion
paluno Tech-Talk, A. Metzger, 2019
Grundidee der Proaktiven Adaptation
paluno Tech-Talk, A. Metzger, 2019 11
EndetCheckpoint j
Start
Monitoring
Prognose
ProaktiveAdaptation
Akzeptable Situationen
= Verspätung
= KeineVerspätung
z.B. Verspätung bei der Lieferung
z.B. Umplanung auf Luftfracht
z.B. Warenlieferung innerhalb von
2 Tagen
Pro
zess
-Per
form
ance
Anforderungen an Prognosen
Genauigkeit• Falsche Verspätungen Unnötige Adaptionen• Falsche Nicht-Verspätungen Verpasste Adaptionen
Frühzeitigkeit• Späte Prognose Wenige / keine Zeit für Adaption
Aber: Genauigkeit Frühzeitigkeit
paluno Tech-Talk, A. Metzger, 2019 12
Gen
auig
keit
Frühzeitigkeit
Unsere Lösung
Nutzung von Verlässlichkeitsschätzungen
• Wahrscheinlichkeit, dass individuelle Prognose korrekt ist
• “Bekannt aus Film und Fernsehen” ;-)
• Nutzung der frühesten Prognose mit genügend hoher Wahrscheinlichkeit, z.B. > 80%
paluno Tech-Talk, A. Metzger, 2019 13
Unsere Lösung
Unter der Haube
• Deep Learning
Vorteile• Sehr hohe Prognosegenauigkeit
• Beliebig lange Prozesse
• Beliebig viele Prognosezeitpunkte
Nachteile• Lange Trainingszeit
Parallelisierung
HW-Beschleunigung
paluno Tech-Talk, A. Metzger, 2019 14
HW Trainingszeit
CPU 25 min
GPU (Nvidia CuDNN) 8 min
Google TPU (Tensorflow) 2 min
Unsere Lösung
Anwendung in der Transportlogistik
paluno Tech-Talk, A. Metzger, 2019 15
Verspätungs-Alarm
Verlässlichkeit
Terminal Produktivitäts CockpitContainer Terminal
A. Metzger, A. Neubauer, P. Bohn, and K. Pohl, “Proactive process adaptation usingdeep learning ensembles,” in 31st Int’l Conference on Advanced Information Systems Engineering (CAiSE 2019), Rome, Italy, June 3-7, 2019, ser. LNCS, P. Giorgini and B. Weber, Eds., vol. 11483. Springer, 2019. [Online]. Available: https://doi.org/10.1007/978-3-030-21290-2_34
Agenda
16
Einführung Ansatz 1“ProaktiveAdaption”
Ansatz 2“SelbstlernendeAdaption”
Diskussion
paluno Tech-Talk, A. Metzger, 2019
Selbstlernende Adaption
17
Online Learning
Installation
Beobachtung
Anpassung
SoftwareAdaption
Betrieb
Herausforderungen bei der Entwicklung der Adaption• Was sind mögliche zukünftige Umgebungssituationen?• Wie wirkt sich eine Anpassung auf die Software aus?
Lösung
Unsere Lösung
Online Learning via Reinforcement Learning
18paluno Tech-Talk, A. Metzger, 2019
Agent(with action-
selection policy )
Environment
Action
atrt+1
st+1
State
st
Reward
rt
https://www.youtube.com/watch?v=gn4nRCC9TwQ
Unsere Lösung
Anwendungsbeispiel: Online Auktion (Cloud)
State
Reward
19paluno Tech-Talk, A. Metzger, 2019
Anzahl Anfragen
CPU-Last
Empfehlungsrate
Antwortzeit
ActionSetzen der Dimmer value
Unsere Lösung
20
Ergebnisse
paluno Tech-Talk, A. Metzger, 2019
Re
war
d
An
zah
l An
frag
en
An
zah
l An
frag
en
Rew
ard
Agenda
21
Einführung Ansatz 1“ProaktiveAdaption”
Ansatz 2“SelbstlernendeAdaption”
Diskussion
paluno Tech-Talk, A. Metzger, 2019
Diskussion
Risiken
• Adaptionen können die Umgebung gefährden(Embedded Systems / CPS)
• Angreifer können die Trainingsdaten manipulieren
Qualifikation
22paluno Tech-Talk, A. Metzger, 2019
(Source: IDC)
Year Gap (total EU)
2020 (baseline) 530,000
2020 (high-growth) 3,500,000
paluno Tech-Talk, A. Metzger, 2019 23
Research leading to these results has received funding from the EU’s Horizon 2020 research and innovation programme under grant agreements no.
731932 – http://www.transformingtransport.eu
732630 – http://www.big-data-value.eu
780351 – https://enact-project.eu
