42
IBM Watson meets reality- was geht... und wie? … und wie geht’s? Technische Umsetzung und Ihr Einstieg in KI-Projekte Dipl. Ing. Gunther Pelzer IBM Certfied Watson Developer @TIMETOACT.DE IBM Watson Salzburg 06.06.2018

und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

  • Upload
    others

  • View
    2

  • Download
    0

Embed Size (px)

Citation preview

Page 1: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

1

IBM Watson meets reality- was geht... und wie?

… und wie geht’s?

Technische Umsetzung und Ihr Einstieg in KI-Projekte

Dipl. Ing. Gunther Pelzer

IBM Certfied Watson Developer @TIMETOACT.DE

IBMWatson

Salzburg 06.06.2018

Page 2: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

2

Gunther Pelzer

• Dipl. Ing. für Nachrichtentechnik und Technische Informatik

• Anwendungs- & Software Entwickler bei der TIMETOACT in Köln seit 2001

• Projekte und POC‘s mit IBM Watson Technologie seit 2017

• Seit 2018 IBM Certified Watson Developer

Page 3: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

3

KI-Projekte – ist das neu?

Erbringung menschlicher

Intelligenzleistungen durch Maschinen

Künstliche

IntelligenzMachine

Learning Deep

Learning

Maschinen wird es ermöglicht,

Wissen aus Erfahrung zu generieren

Permanentes maschinelles

Lernen auf der Basis statistischer Analyse großer Datenmengen

Page 4: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

4

Die erste ultraintelligente Maschineist die letzte Erfindung,

die der Mensch je machen wird....

(Nach Irving Jhon Good)

Aus Tyrannei des Schmetterlings, Frank Schätzing

Page 5: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

5

Und was ist Cognitive Computing?

Quelle: IBM Redbook

Page 6: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

6

Welche KI Services bietet IBM Watson?

Personality Insights

Tone Analyzer

Speech to Text

Text to Speech

Discovery

(Discovery News)

Natural Language Understanding

Knowledge Studio

Visual Recognition

Language Speech

Knowledge Vision

Watson Assistant

Language Translator

Natural Language Classifier

AI Assistant

Empathy

Page 7: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

7

Ganz neu eingetroffen ...

Page 8: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

8

Wie fange ich an?

2. Registrierung für die IBM Cloud (früher Bluemix) mit der IBM-ID

1. Registrierung bei IBM

Page 9: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

9

IBM Cloud Lite account

• 256 MB of instantaneous Cloud Foundry runtime memory, plus 2 GB with Kubernetes Clusters.

• Access to usage capped plans for select services, such as API Connect, Watson Assistant, Watson

Discovery, Internet of Things Platform, Data Science Experience and many more. Check out the full

list of available services.

• Efficiency features, such as auto sleep and garbage collection, to help you better manage your

resources.

• Usage tracking and cap alerts that notify you when you’re approaching your data thresholds.

a free account that never expires

Page 10: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

10

Das Dashboard

Page 11: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

11

Cloud Foundry?• Quelloffene Entwicklungsplattform für den Betrieb von Cloud-Applikationen

• IBM nutzt CF für das service model „Platform as a Service (PaaS)“

Application Runtime

Runtimes & Frameworks (node, java, python, ...)

Services (z.B. Watson , IoT, ...)

cf login

cf push

HTTP Route

Code & Manifest IBM Cloud

dev Rechner

Page 12: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

12

Cloud Foundry !!!

Page 13: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

13

Cloud Foundry !!!

Page 14: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

14

Boilerplates

Page 15: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

15

Cloud Foundry Apps

Page 16: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

16

Katalog / Watson Services

Page 17: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

17

„Showcase“ Watson Cognitive Computing

Watson Workspace

IBM Cloud

W a t s o n A s s i s t a n t

Eingangskanäle

Enterprise – Daten

(Mock Objekte)

Interaktives, multikanaliges Auskunftsystem für Wirtschaftsfragen

Alexa

Services

Page 18: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

18

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER DEVICE

EDGE SERVICES

APPLICATIONLOGIC

Watson Assistant(TRAINED AND DEPLOYED)

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

IBMReferenzarchitektur

Page 19: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

19

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

Page 20: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

20

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

Page 21: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

21

Watson Assistant

• Organisation über “Workspaces“

• Anlernen von User-„Intents“ anhand von Trainings-Beispielsätzen unterschiedlicher Ausprägung

• Definition von „Entitäten“

• Aufbau eines Interaktions-“Dialogs“ über Dialog-Knoten unter Verwendung von Intents und Entitäten

• Test & Training der Intenterkennung

Eingabe einer Frage / Text

& ggf. Kontext

Erkennung von Intents und Entitäten

Einstieg in den Dialogbaum

und Ausführen der Regeln

Ausgabe der Antwort und des

akt. Kontext

Page 22: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

22

Cloud Foundry !!!

Page 23: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

23

Watson Assistant – #Intents

Page 24: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

24

Watson Assistant – @Entities

Page 25: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

25

Watson Assistant – @Entities

Page 26: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

26

Watson Assistant – Dialog

Page 27: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

27

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

Page 28: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

28

NodeRED App als Service Orchestrator

• NodeRED basiert auf einer Runtime die in Node.js geschrieben wurde.• Es bietet eine grafischen Fluss-Editor der über den Browser aufgerufen

und bedient wird.• Es existieren eine vielzahl NodeRED – Knoten die Services und APIs

“virtuell“ verbinden. • IBM hat NodeRED für die Cloud um Knoten für die Verwendung von

Watson Services erweitert.• Als Service Orchestrator integriert und verbindet die App Services,

Backendsysteme und Interfaces.• Der SO ist somit, von der Architektur her, die zentrale Komponente für

das Cognitive-Computing pattern.

Page 29: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

29

Cloud Foundry !!!

Page 30: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

30

Page 31: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

31

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

Page 32: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

32

Wie Alexa mit Watson Assistantzusammenkommt ...

Alexa

Amazon Alexa Developer Portal

Skill Interface Skill Service (AWS)

Amazon Lambda NodeRED - SO Watson Assistant

IBM CloudUser Input

Gesprochenen Text in „Intent“* auflösen & Text weiterleiten.

OnIntentpostRequestToCreditreform

Https://...

AssistantNode

Intenterk. &

Dialog Regeln

https ResponseCallback

FunctionAntwort

* pseudo-Intent: „Frage“

Page 33: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

33

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

Page 34: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

34

Watson Workspace

• IBMs Team- chat & collaboration Tool (wie z.B. Slack, MS Teams, ...)

• Verfügbar auf Mac, Windows, iOS, Android und Web !

• Zentrale Ablage für geteilte Bilder & Ressourcen

• Videokommunikation

• „Moments“ - Integration von KI zur intelligenten Zusammenfassung von Inhalten

• Umfangreiche Entwickler-Schnittstelle -> IBM Watson Work Services:

o Integration von Watson Assistant

o Hooks / Event-Listener / Aktionen

Page 35: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

35

Cloud Foundrynode.js App NodeRED - SO Watson

Assistant

IBM Cloud

postRequestToCreditreform()

Https://...

AssistantNode

Intenterk. &

Dialog Regeln

https ResponseCallback

Function

IBM

Wa

tso

n W

ork

Se

rvic

es

Web -hook

register

event

Antwort

Anbindung von Watson Workspace

Watson Workspace

Page 36: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

36

Vielen Dank für Ihre Aufmerksamkeit !

Page 37: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

37

Watson Cognitive APIs & Tooling

Watson Business Solution

Pre-Built Architecture,

Watson Expert Services, and

Technical Assets

Your Data and Expertise

+ +

Configured, trained, and delivered in 4 weeksA foundational solution that is

tailored for your needs to demonstrate real value, quickly

ExpertAssist

Page 38: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

38

Quelle: IBM

Page 39: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

39

Quelle: IBM

Page 40: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

40

Quelle: IBM

Page 41: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

41

Quelle: IBM

Page 42: und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit 2017 • Seit 2018 IBM Certified Watson Developer ... Welche KI Services bietet IBM

42

Fragen ?