250 likes | 967 Views
Fakultät Informatik Institut für SMT Lehrstuhl für Computergrafik & Visualisierung. Diplomarbeit : Überdeckungsfreie Fassadentexturen aus mehreren Nahbereichsfotografien. Dresden, 4.12.2009. Übersicht. Einführung Pipeline Details der Pipeline Ergebnisse Ausblick
E N D
Fakultät Informatik Institut für SMT Lehrstuhl für Computergrafik & Visualisierung Diplomarbeit:Überdeckungsfreie Fassadentexturen aus mehreren Nahbereichsfotografien Dresden, 4.12.2009
Übersicht • Einführung • Pipeline • Details der Pipeline • Ergebnisse • Ausblick • Fragen können während des Vortrags gestellt werden Verteidigung Thomas Nindel
Einführung • Ziel: • Herstellen einer Fassadentextur aus mehreren unkontrollierten Nahbereichsfotos • Probleme: • Überdeckungen durch Flora, Fauna und menschengeschaffene Objekte • Unkontrollierte Aufnahmen einer unkalibrierten Kamera Verteidigung Thomas Nindel
Einführung • Relevante Disziplinen • (Nahbereichs-) Fotogrammetrie • Computer Vision • Auswahl relevanter Arbeiten Zwischenpräsentation Thomas Nindel
Einführung • Relevante Disziplinen • (Nahbereichs-) Fotogrammetrie • Computer Vision • Auswahl relevanter Arbeiten Zwischenpräsentation Thomas Nindel
Einführung Kernschatten • Idee • Parallaxe von Überdeckungen zur Fassadenebene ausnutzen • Dazu notwendig: Registrierung Korrespondenzproblem • Forderung: • hoher Automatisierungsgrad Verteidigung Thomas Nindel
Pipeline & getroffene Annahmen • Annahmen über die Einzelbilder • Dominanz einer Fassadenebene • Dominanz horizontaler und vertikaler linearer Strukturen (z.B. Fenster, Türen) Verteidigung Thomas Nindel
Aquise • Aufnahmebedingungen • Consumer-Kamera • Unkontrolliertheit • Geometrie unbekannt • Ort und Lage der Kamera unbekannt • Notwendige Information muss Bildern selbst entnommen werden • Kamera nicht kalibriert Verzeichnung • Beleuchtungseffekte (z.B. Schatten) „Gutes Wetter“ notwendig: bewölkt, hell, kein Niederschlag, Winter Verteidigung Thomas Nindel
Rektifizierung • Ziel: Korrektur der Aufnahmeperspektive durch ermitteln der perspektivischen Transformation Fassadenebene Filmebene • Manueller Ansatz: • Kontrollviereck Gleichungssystem • Nachteil: hoher manueller Aufwand • Automatische Ansätze • MetricRectification (Einzelbilder Fluchtpunkte) • Stereo-Rectification (Bildpaare Epipolargeometrie) Verteidigung Thomas Nindel
Metrische RektifizierungProjektivAffin • Untergliederung von R² bezüglich Transformationen: projektiv>affin>metrisch • Spezialisieren durch Wiederherstellen von Invarianten • Erster Schritt: projektivaffin(Invariante: Parralelität) • Identifikation vertikaler und horizontaler Geraden (Annahme II) • Hough-Transformation • RANSAC • Ergebnis: Fluchtgerade Fluchtgerade Verteidigung Thomas Nindel
Metrische Rektifizierung (2)AffinMetrisch • AffinMetrisch • Invarianten: Winkel, Längenverhältnisse • Haben: Vermeintlich horizontale und vertikale Geraden • Soll • Winkeltreue • Achsenparallelität • Bekannte rechte Winkel ergeben Rotation und Scherung Verteidigung Thomas Nindel
Registrierung • Ziel: Abbildung Pixel Texel • Abbildung • Skalierung und Translation • Idee: Benutze Paare von Punktkorrespondenzen Gleichungssystem • Korrespondenzproblem • Features identifizieren & vergleichbar machen (SIFT, SURF) • NearestNeighborSearch • Liefert überbestimmtes System mit Ausreißern RANSAC, Least Squares • Ergebnis: 1..n Messwerte für jedes Texel Verteidigung Thomas Nindel
Synthese der Texelwerte • Ziel: Gegen Ausreißer robuste Schätzung der Texelwerte • Ansätze • Implizit • Mittelwert • Gute Ergebnisse nur bei kleinem Ausreißeranteil • Schnell • Median • Robust bei <50% Ausreißern • Akzeptable Performance • Explizit • Clustering Parameter? Verteidigung Thomas Nindel
Inpainting • Ziel: Entfernen aller verbleibenden Überdeckungen • Herkunft: Bildrestauration • Forderungen: • Stil der Abbildung erhalten • ContinuityPrinciple: Fortsetzen von Kanten in den Füllbereichs • Propagieren der Farbe vom Rand in die entstandenen Flächen des Füllbereichs • Füllbereich mit Textur anreichern Verteidigung Thomas Nindel
Inpainting-Verfahren Verteidigung Thomas Nindel
Exemplar-Based Image-Inpainting • Bertalmio et. al., Microsoft Research • Probleme • Setzt Struktur nur linear fort • Performance • Lösungsideen: • Auf Füllbereich treffende Kanten zurückverfolgen, einander zuordnen und interpolieren • Einschränken des Suchbereichs für Best Exemplar durch Segmentieren des Quellbereichs Verteidigung Thomas Nindel
Segmentbasiertes, exemplarbasiertesInpainting • Chih-Ting Hsu • Segmentiere Quellbild • Verbinde auf Rand des Füllbereichs treffende Segmentgrenzen • Ordne jedes entstandene Füllbereichssegment einem Quellbereichssegment zu • Segmentweise exemplarbasiertesInpainting Verteidigung Thomas Nindel
Segmentbasiertes, exemplarbasiertesInpainting • Vorteile • Verbesserte Laufzeit (kleinerer Suchraum für Best Exemplar), Faktor 2 bis 10 • Kann Kurven im Füllbereich fortsetzen • Erfüllt Forderungen II, III und IV • Forderung III nun explizit erfüllt Verteidigung Thomas Nindel
Segmentbasiertes, exemplarbasiertesInpainting • Grenzen • Sinnvolle Segmentierung des Quellbildes • Tradeoff: Größe Quellbereichssegmente Performance/Best Exemplar • Mehrdeutigkeit der Zuordnung von Füllbereichssegmenten • Vorliegende Implementierung: Nur ein zusammenhängender, konvexer Füllbereich Verteidigung Thomas Nindel
Umsetzung • Prototypische Implementierung jedes Einzelschrittes • Architekturmuster: Pipes & Filters • C++, OpenCV • Kommandozeilentools • Separation ofConcerns • Einfache Parallelisierung • Aus Bibliotheken wurde benutzt: SURF, Hough-Transformation, Least Squares, Segmentierung Verteidigung Thomas Nindel
Ergebnis Verteidigung Thomas Nindel
Ergebnis (2) Verteidigung Thomas Nindel
Ausblick • Rektifizierung: Geradenerkennung mit Verfahren nach Schindler/Bauer verbessern • Segmentbasiertes Inpainting • Sinnvolle Segmentierung • Verallgemeinerung auf nicht-zusammenhängende, beliebig geformte Füllbereiche • Spezialisierung der Interpolation für Fassaden (bisher: allgemeine Bilder) • Kombination mit Verfahren nach Räckel Verteidigung Thomas Nindel
Mein Dank gilt: • Prof. Gumhold für das spannende Thema • Marcel Spehr für die umfassende Betreuung • Prof. Kröppelin (Staatliche Studienakademie Dresden) für das Ermöglichen eines nebenberuflichen Studiums • Doreen Kuse, Marcus Novy für moralische und orthographische Unterstützung • Prof. Zipfel für Starthilfe Verteidigung Thomas Nindel
Fragen/Demo/EOS • Fragen • Demo • Ende Verteidigung Thomas Nindel