38
Inpainting Jane Dienemann Benjamin Vorwerk Seminar Computational Photography Dozent: Prof. Dr.-Ing.Eisert Sommersemester 2010 1

Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Inpaintingp g

Jane Dienemann

Benjamin Vorwerk

Seminar Computational Photography

Dozent: Prof. Dr.-Ing.Eisert

Sommersemester 2010

1

Page 2: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Übersicht

I. Der Begriff „Inpainting“

II. Die Geschichte der Bildbearbeitung

1) Gemälde Photographie1) Gemälde, Photographie

2) Digitale Photographie

III. Aktuelle Methoden der Bildbearbeitung

1) Vorstellung verschiedener Ansätze und Probleme

2) Vertiefung eines Algorithmus: Stärken, Schwächen) g g ,

IV. Aussichten

2

V. Fragen / Diskussion

Page 3: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

I. Der Begriff „Inpainting“

- Wiederherstellung von zerstörten oder nicht mehr vorhanden Teilen eines Bildes oder VideosBildes oder Videos

- im digitalen Bereich: Verwendung von komplexen Algorithmen

Rekonstruktion von Bildern

3

Page 4: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Entfernen von Objekten (großflächig)

4I. Der Begriff „Inpainting“

Page 5: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Entfernen von Objekten (feinere Strukturen)

5I. Der Begriff „Inpainting“

Page 6: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Hi fü F bi f tiHinzufügen von Farbinformationen

6I. Der Begriff „Inpainting“

Page 7: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Entfernen von Texten

7I. Der Begriff „Inpainting“

Page 8: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

nahtloses Einfügen von Objekten

8I. Der Begriff „Inpainting“

Page 9: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

nahtloses Einfügen von Objekten

9I. Der Begriff „Inpainting“

Page 10: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

II. Die Geschichte der Bildbearbeitung

1) Gemälde, Photographie

Rekonstruktion eines Gemäldes

10

Page 11: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Schabretusche(analoges Bild)

11II. Die Geschichte der Bildbearbeitung

Page 12: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

2) Digitale Photographie) g g p

simple Bearbeitung mit Photoshop (Kopierstempel)

- Objekt wird markiert und mit Hintergrundfarbe ersetzt

12II. Die Geschichte der Bildbearbeitung

Page 13: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

III. Aktuelle Methoden der Bildbearbeitung

1) Vorstellung verschiedener Ansätze und Probleme

Beispiel für schlechteInpainting Softwarep g

Wunschvorstellung desHerstellersHerstellers

tatsächliches Resultat

13

Page 14: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

noch ein Beispiel

Originalbild

14III. Aktuelle Methoden der Bildbearbeitung

Page 15: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

bearbeitet(mit Photo Wipe)

15III. Aktuelle Methoden der Bildbearbeitung

Page 16: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

bearbeitetbearbeitet(mit Photoshop CS5)

im Vergleich: sehr gutes Ergebnis

16III. Aktuelle Methoden der Bildbearbeitung

Page 17: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

bearbeitet(mit Photoshop CS5)

17III. Aktuelle Methoden der Bildbearbeitung

Page 18: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Noch ein Beispiel (mit Photoshop CS5)

18III. Aktuelle Methoden der Bildbearbeitung

Page 19: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Noch ein Beispiel (mit Photoshop CS5)

19III. Aktuelle Methoden der Bildbearbeitung

Page 20: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

1) Vorstellung verschiedener Ansätze und Probleme

Gradientenvektorfelder und partielle Differenzialgleichungen:

III. Aktuelle Methoden der Bildbearbeitung

Page 21: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Beispiel:

III. Aktuelle Methoden der Bildbearbeitung

Page 22: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Beispiel:

III. Aktuelle Methoden der Bildbearbeitung

Page 23: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

III. Aktuelle Methoden der Bildbearbeitung

Page 24: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Ein Algorithmus zum Auffüllen großer Teilbereiche eines Bildes:Anforderungen:g

St kt K t t ll f t t t Strukturen, Kanten, etc. sollen fortgesetzt werden.

Texturen sollen realistisch wirken. Eine Nachbearbeitung soll möglichst nicht Eine Nachbearbeitung soll möglichst nicht

auffallen.D Al ith ll ffi i t d h ll Der Algorithmus soll effizient und schnell sein.

24III. Aktuelle Methoden der Bildbearbeitung

Page 25: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

„Region Filling and Object Removal by Exemplar-Based Image Inpainting“Inpainting

Microsoft Research 2004.

Eigenschaften:

• Gleichzeitige Synthese von Texturen und linearen Strukturen• Gleichzeitige Synthese von Texturen und linearen Strukturen.

• Vollautomatische Bestimmung der Füllreihenfolge (wichtig).

• Effektive, schnelle Berechnung des neuen Bildes.

• Keine Unschärfe – Effekte (Verwischen).

• Keine unerwünschten Artefakte (Overshooting).

Ergebnis:

Ein optisch plausibel erscheinendes neues Bild.

25III. Aktuelle Methoden der Bildbearbeitung

Page 26: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Der Algorithmus:

26III. Aktuelle Methoden der Bildbearbeitung

Page 27: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Die Wahl des ähnlichsten Quellstückes:

• Verwendeter Farbraum CIE Lab.

• Euklidischer Abstand im RGB Farbraum wenig aussagekräftig!

27III. Aktuelle Methoden der Bildbearbeitung

Page 28: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Die Reihenfolge des Auffüllens ist wichtig!

28III. Aktuelle Methoden der Bildbearbeitung

Page 29: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Die Bestimmung der Füllreihenfolge:

Priorität des Grenzpunktes p:

Wobei

und

29III. Aktuelle Methoden der Bildbearbeitung

Page 30: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Pseudocode des Algorithmus:

Speichere die manuell gewählte initiale Füllfront δΩº Wiederhole bis alles gefüllt ist:

Identifiziere die Füllfront δΩ . Wenn δΩ = , beende. Berechne Prioritäten P(p) ∀p ϵ δΩ . Finde das Feld Ψp mit der höchsten Priorität. Finde das ähnlichste Feld Ψp aus Φ. Kopiere Bilddaten von Ψp nach Ψp p ϵ Ψp ∩ Ω. Aktualisiere Vertrauenswert C(p) p ϵ Ψp ∩ Ω.

30III. Aktuelle Methoden der Bildbearbeitung

Page 31: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Einige Beispiele und Vergleiche:

31III. Aktuelle Methoden der Bildbearbeitung

Page 32: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Einige Beispiele und Vergleiche:

32III. Aktuelle Methoden der Bildbearbeitung

Page 33: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Einige Beispiele und Vergleiche:

33III. Aktuelle Methoden der Bildbearbeitung

Page 34: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Einige Beispiele und Vergleiche:

34III. Aktuelle Methoden der Bildbearbeitung

Page 35: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

Schwächen des Algorithmus:

1. Füllen von Regionen für die es keine ähnlichen Texturteile gibt, oder die ein unrealistisches Ergebnis produzieren.

2. Der Algorithmus hat Schwächen abgerundete Strukturen zu ergänzen.ergänzen.

3 Tiefe wird nicht berücksichtigt (Welches Bildelement liegt vorne3. Tiefe wird nicht berücksichtigt (Welches Bildelement liegt vorne, welches hinten etc.).

35III. Aktuelle Methoden der Bildbearbeitung

Page 36: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

IV. Aussichten

Adobe Photoshop CS5. Funktion: „Content Aware“?!

Berücksichtigung von Tiefe.

Vervollständigung nicht-linearer Strukturen.

Echtzeit-Berechnung in Filmen, bzw. bei Live-ÜbertragungenÜbertragungen.

Page 37: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

V. Fragen / Diskussiong

III. Aktuelle Methoden der Bildbearbeitung

Page 38: Inppgainting - hu-berlin.de · (mit Photoshop CS5) im Vergleich: sehr gutes Ergebnis III. Aktuelle Methoden der Bildbearbeitung16. bearbeitet (mit Photoshop CS5) III. Aktuelle Methoden

QuellenQ A. Criminisi, P.Pérez, K. Toyama. Region Filling and Object Removal by

Exemplar-Based Image Inpainting. IEEE Transactions on Image P i V l 13 N 9 S 2004Processing, Vol.13, No.9, Sep. 2004.

P. Pérez, M. Gangnet, A. Blake. Poisson Image Editing. Microsoft Research UK. 2003

Nikos Komodakis, Georgios Tziritas. Image Completion Using Efficient Belief Propagation Via Priority Scheduling and Dynamic Pruning. IEEE Transactions on Image Processing, Vol.16, No.11, Nov. 2007.

Guillermo Sapiro. Inpainting the Colors. INSTITUTE FOR MATHEMATICS AND ITS APPLICATIONS Preprint Series #1979. May 2004.

Patrick Pérez, Michel Gangnet, Andrew Blake. PatchWorks: Example-, g , pBased Region Tiling for Image Editing. Microsoft Reseaerh US. January 13, 2004.

Chenyu Wu, Ce Liu, Heung-Yeung Shum, Ying-Qing Xu, Zhengyou Zhang. Chenyu Wu, Ce Liu, Heung Yeung Shum, Ying Qing Xu, Zhengyou Zhang. Automatic Eyeglasses Removal from Face Images. ACCV2002: The 5th Asian Conference on Computer Vision, 23–25 January 2002, Melbourne, Australia.