Neuronale Netze in der Bilderkennung · PDF fileBackpropagation x 1 x 2 y 2 y 1 Input U in U out Output ááá... ááá..... y n x n U(1) hidden U (2) hidden U (r!2) hidden ááá

  • Upload
    vunhi

  • View
    219

  • Download
    1

Embed Size (px)

Citation preview

  • Neuronale Netze in der Bilderkennung

    Sebastian Bock13. Juli 2017

    OTH Regensburg

  • Gliederung

    1. Einfhrung in die neuronalen Netze

    2. Convolutional Neural Networks (CNN)

    3. Programmierung

    4. Ausblick

    2

  • Einfhrung in die neuronalenNetze

  • Neueste Erfolge

    2016: Alpha Go besiegt Weltmeister in Go mittels neuronaler Netze 2016: Google verbessert mit Google Neural Machine Translation

    system (GNMT) seinen Translator 2017: Facebook, Google und Windows besitzen eigene Frameworks

    fr neuronale Netze

    4

  • Neuronales Netz

    x1

    x2 y2

    y1

    Uin Uhidden UoutInput Output

    5

  • Backpropagation

    x1

    x2 y2

    y1

    Uin UoutInput Output

    ...

    ...

    ...

    ......

    ...

    ynxn

    U(1)hidden U

    (2)hidden U

    (r2)hidden

    2

    4

    3

    5

    1

    2

    2

    3

    3

    3

    3

    3

    3

    3

    3

    4

    4

    5

    5

    5

    Zufalliges Setzen der Gewichte.

    6

  • Convolutional Neural Networks(CNN)

  • Aufbau CNN - Convolutional Layer (Diskrete Faltung)

    4

    2

    2

    8

    3 3

    5

    1

    21

    16

    1

    16

    1

    16

    1

    16

    1

    161

    16

    1

    161

    16

    7

    9

    4

    8

  • Aufbau CNN - Convolutional Layer

    AInput oder input feature map Output feature maps

    9

  • Aufbau CNN - Pooling Layer

    1 1

    1

    5

    0

    0

    2

    937

    74

    4

    0

    64

    4

    9

    7

    7

    Ausschnitt Bildmatrix

    Pooling Layer

    Output

    10

  • Aufbau CNN - Fully Connected Layer

    Komplett vernetzte Schicht von Neuronen:

    11

  • Aufbau CNN - Zusammenfassung

    AInput Feature mapsFeature maps

    Output

    ...

    Fully connected LayerConvolution Layer Pooling Layer

    12

  • Vorteile eines CNN

    Ein CNN ist translationsinvariant Durch die gemeinsamen Faltungskerne pro Feature Map sinkt die

    Trainingszeit (Weightsharing) Bei Wettbewerben das erfolgreichste Modell im Bereich der

    Bilderkennung

    13

  • Programmierung

  • Tensorflow/TFlearn

    Deep Learning Framework vonGoogle

    In vielen Bereichen von DeepLearning Marktfhrer

    15

  • MNIST Datenbank

    Hello World-Datenbank im Deep Learning Bereich Enthlt handgeschriebene Zahlen Wurde von LeCun benutzt und somit die CNN-Struktur entwickelt

    16

  • Live Coding

    Live Coding

    17

  • Ausblick

  • Aktuelle Forschung im Bereich CNN

    Objektlokalisierung mittels Region based - CNN Winkelbestimmung 3D-Objektrekonstruktion - Forschungsantrag eingereicht

    19

  • Neuronale Netze in der Bilderkennung

    Vielen Dank fr die Aufmerksamkeit!

    20

    Einfhrung in die neuronalen NetzeConvolutional Neural Networks (CNN)ProgrammierungAusblick