und wie geht’s? - x-integrate.com · • Projekte und POC‘s mit IBM Watson Technologie seit...

1

IBM Watson meets reality- was geht... und wie?

… und wie geht’s?

Technische Umsetzung und Ihr Einstieg in KI-Projekte

Dipl. Ing. Gunther Pelzer

IBM Certfied Watson Developer @TIMETOACT.DE

IBMWatson

Salzburg 06.06.2018

2

Gunther Pelzer

• Dipl. Ing. für Nachrichtentechnik und Technische Informatik

• Anwendungs- & Software Entwickler bei der TIMETOACT in Köln seit 2001

• Projekte und POC‘s mit IBM Watson Technologie seit 2017

• Seit 2018 IBM Certified Watson Developer

3

KI-Projekte – ist das neu?

Erbringung menschlicher

Intelligenzleistungen durch Maschinen

Künstliche

IntelligenzMachine

Learning Deep

Learning

Maschinen wird es ermöglicht,

Wissen aus Erfahrung zu generieren

Permanentes maschinelles

Lernen auf der Basis statistischer Analyse großer Datenmengen

4

Die erste ultraintelligente Maschineist die letzte Erfindung,

die der Mensch je machen wird....

(Nach Irving Jhon Good)

Aus Tyrannei des Schmetterlings, Frank Schätzing

5

Und was ist Cognitive Computing?

Quelle: IBM Redbook

6

Welche KI Services bietet IBM Watson?

Personality Insights

Tone Analyzer

Speech to Text

Text to Speech

Discovery

(Discovery News)

Natural Language Understanding

Knowledge Studio

Visual Recognition

Language Speech

Knowledge Vision

Watson Assistant

Language Translator

Natural Language Classifier

AI Assistant

Empathy

7

Ganz neu eingetroffen ...

8

Wie fange ich an?

2. Registrierung für die IBM Cloud (früher Bluemix) mit der IBM-ID

1. Registrierung bei IBM

9

IBM Cloud Lite account

• 256 MB of instantaneous Cloud Foundry runtime memory, plus 2 GB with Kubernetes Clusters.

• Access to usage capped plans for select services, such as API Connect, Watson Assistant, Watson

Discovery, Internet of Things Platform, Data Science Experience and many more. Check out the full

list of available services.

• Efficiency features, such as auto sleep and garbage collection, to help you better manage your

resources.

• Usage tracking and cap alerts that notify you when you’re approaching your data thresholds.

a free account that never expires

10

Das Dashboard

11

Cloud Foundry?• Quelloffene Entwicklungsplattform für den Betrieb von Cloud-Applikationen

• IBM nutzt CF für das service model „Platform as a Service (PaaS)“

Application Runtime

Runtimes & Frameworks (node, java, python, ...)

Services (z.B. Watson , IoT, ...)

cf login

cf push

HTTP Route

Code & Manifest IBM Cloud

dev Rechner

12

Cloud Foundry !!!

13

Cloud Foundry !!!

14

Boilerplates

15

Cloud Foundry Apps

16

Katalog / Watson Services

17

„Showcase“ Watson Cognitive Computing

Watson Workspace

IBM Cloud

W a t s o n A s s i s t a n t

Eingangskanäle

Enterprise – Daten

(Mock Objekte)

Interaktives, multikanaliges Auskunftsystem für Wirtschaftsfragen

Alexa

Services

18

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER DEVICE

EDGE SERVICES

APPLICATIONLOGIC

Watson Assistant(TRAINED AND DEPLOYED)

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

IBMReferenzarchitektur

19

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

20

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

21

Watson Assistant

• Organisation über “Workspaces“

• Anlernen von User-„Intents“ anhand von Trainings-Beispielsätzen unterschiedlicher Ausprägung

• Definition von „Entitäten“

• Aufbau eines Interaktions-“Dialogs“ über Dialog-Knoten unter Verwendung von Intents und Entitäten

• Test & Training der Intenterkennung

Eingabe einer Frage / Text

& ggf. Kontext

Erkennung von Intents und Entitäten

Einstieg in den Dialogbaum

und Ausführen der Regeln

Ausgabe der Antwort und des

akt. Kontext

22

Cloud Foundry !!!

23

Watson Assistant – #Intents

24

Watson Assistant – @Entities

25

Watson Assistant – @Entities

26

Watson Assistant – Dialog

27

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

28

NodeRED App als Service Orchestrator

• NodeRED basiert auf einer Runtime die in Node.js geschrieben wurde.• Es bietet eine grafischen Fluss-Editor der über den Browser aufgerufen

und bedient wird.• Es existieren eine vielzahl NodeRED – Knoten die Services und APIs

“virtuell“ verbinden. • IBM hat NodeRED für die Cloud um Knoten für die Verwendung von

Watson Services erweitert.• Als Service Orchestrator integriert und verbindet die App Services,

Backendsysteme und Interfaces.• Der SO ist somit, von der Architektur her, die zentrale Komponente für

das Cognitive-Computing pattern.

29

Cloud Foundry !!!

30

31

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

32

Wie Alexa mit Watson Assistantzusammenkommt ...

Alexa

Amazon Alexa Developer Portal

Skill Interface Skill Service (AWS)

Amazon Lambda NodeRED - SO Watson Assistant

IBM CloudUser Input

Gesprochenen Text in „Intent“* auflösen & Text weiterleiten.

OnIntentpostRequestToCreditreform

Https://...

AssistantNode

Intenterk. &

Dialog Regeln

https ResponseCallback

FunctionAntwort

* pseudo-Intent: „Frage“

33

SPEECH TO TEXT

PUBLIC APIs

3rd PARTY APIs

USER ALEXASKILL

AMAZONLAMBDA

APPLICATIONLOGIC: NodeRED

ANSWERSTORAGE

SECURITYINFORMATIONGOVERNANCE

TRANSFORMATION &CONNECTIVITY

DISCOVERYSERVICES

GROUNDTRUTH

KNOWLEDGE ENGINEER

BUSINESSPROCESS

ENTERPRISE APIs SERVICES

ENTERPRISE DATA

PUBLIC NETWORK CLOUD NETWORK ENTERPRISE NETWORK

LEGEND

Application

ManagementData Store

SecurityCapabilitiesUser

Infrastructure services

Watson Assistant(TRAINED AND DEPLOYED)

Watson WorkspaceUSER

SDK forNode.js

AI Service

1

Service Orchestrator

NodeRED -

Cloud Foundry App

2

Sprach - Eingangskanal

Alexa

3

Text - Eingangskanal

Watson Workspace

4

34

Watson Workspace

• IBMs Team- chat & collaboration Tool (wie z.B. Slack, MS Teams, ...)

• Verfügbar auf Mac, Windows, iOS, Android und Web !

• Zentrale Ablage für geteilte Bilder & Ressourcen

• Videokommunikation

• „Moments“ - Integration von KI zur intelligenten Zusammenfassung von Inhalten

• Umfangreiche Entwickler-Schnittstelle -> IBM Watson Work Services:

o Integration von Watson Assistant

o Hooks / Event-Listener / Aktionen

35

Cloud Foundrynode.js App NodeRED - SO Watson

Assistant

IBM Cloud

postRequestToCreditreform()

Https://...

AssistantNode

Intenterk. &

Dialog Regeln

https ResponseCallback

Function

IBM

Wa

tso

n W

ork

Se

rvic

es

Web -hook

register

event

Antwort

Anbindung von Watson Workspace

Watson Workspace

36

Vielen Dank für Ihre Aufmerksamkeit !

37

Watson Cognitive APIs & Tooling

Watson Business Solution

Pre-Built Architecture,

Watson Expert Services, and

Technical Assets

Your Data and Expertise

+ +

Configured, trained, and delivered in 4 weeksA foundational solution that is

tailored for your needs to demonstrate real value, quickly

ExpertAssist

38

Quelle: IBM

39

Quelle: IBM

40

Quelle: IBM

41

Quelle: IBM

42

Fragen ?