200 likes | 312 Views
Schneller hybrider Disparitätsschätzer für ein 3D-Echtzeit-Videokonferenzsystem. Heinrich Hertz Institut für Nachrichtentechnik Berlin. Nicole Brandenburg and Serap Askar. Überblick. 3D-Echtzeit-Videokonferenzsystem Konzept der Disparitätsschätzung
E N D
Schneller hybrider Disparitätsschätzer für ein 3D-Echtzeit-Videokonferenzsystem Heinrich Hertz Institut für Nachrichtentechnik Berlin Nicole Brandenburg and Serap Askar
Überblick • 3D-Echtzeit-Videokonferenzsystem • Konzept der Disparitätsschätzung • Struktur des schnellen hybriden Disparitätsschätzers • Nachverarbeitung • Ergebnisse • Zusammenfassung
Virtuelle Kamera Virtual Scene Bewegungs-Parallaxe Steuerung der virtuellen Kamerabewegung durch Head Tracking 3D Echtzeit-Videokonferenzsystem • Konferenzteilnehmer an verschiedenen Orten Display
? 3D Echtzeit-Videokonferenzsystem Synthese einer virtuellen Ansicht
Hautfarben-Segmentierung Hautfarben-Segmentierung Konzept der Disparitätsschätzung linkes Bild rechtes Bild Rektifikation Rektifikation Hybrider rekusiver Disparitätschätzer Konsistenztest Segmentgestützte Nachverarbeitung Segmentgestützte Nachverarbeitung Segmentgestützte Interpolation Segmentgestützte Interpolation L -> R Disparität R -> L Disparität
Struktur des hybriden Disparitätsschätzers Update- Vektor Pixel-rekursion Auswahl der besten Disparität Disparitäts-vektor Start-Vektor linkes Bild Block-rekursion Disparitäts-speicher rechtes Bild 3 Kandidaten
Block-Rekursion zeitlich • 3 Kandidaten werden getestet vertikal horizontal Vorgängerbild aktuelles Bild • Keine Definition eines Suchbereichs um die Kandidaten • Auswahl des besten Kandidaten mittels DBD
Struktur des hybriden Disparitätsschätzers Update- Vektor Pixel-rekursion Auswahl der besten Disparität Disparitäts-vektor Start-Vektor linkes Bild Block-rekursion Disparitäts-speicher rechtes Bild 3 Kandidaten
incremental update initial vector d update vector d Pixel-Rekursion • Initialisierung von zwei pixel-rekursiven Prozessen • Berechnung der Update-Vektorenmit Hilfe des optischen Flusses • Auswahl des besten Update-Vektors anhand der DPD Start-Vektor
Struktur des hybriden Disparitätsschätzers Update- Vektor Pixel-rekursion Auswahl der besten Disparität Disparitäts-vektor Start-Vektor linkes Bild Block-rekursion Disparitäts-speicher rechtes Bild 3 Kandidaten
L->R R->L Falsche Disparitäten ! Ergebnisse des HRM L R Große Verdeckungen ! Originalbilder Disparitäten
Konsistenztest • Vergleich der L->R und R->L Disparitäten D • Ersetzen der unzuverlässigen Disparitäten
Hautfarbensegmentierung mit Region Growing Bounding Boxen Segmentierung der Hände mittels Hautfarbe Segmentierung innerhalb der Bounding Boxen Tracking der Bounding Boxen Unterabtastung Tracken derBounding Boxen
Handmaske Disparitäten Segmentgestützte Nachverarbeitung • Verwendung von Disparitäten des gleichen Objekts Handmaske Disparitäten • Disparitätssprünge bleiben erhalten
sparse field 4x4 dense field Dense Field Interpolation • Segmentgestütztes Interpolieren der Disparitäten
Experimentelle Ergebnisse ohne Nachverarbeitung Einfache Nachverarbeitung SegmentgestützteNachverarbeitung
Experimentelle Ergebnisse einfache Nachverarbeitung ohne Nachverarbeitung segmentgestützteNachverarbeitung
Rechenzeiten für ITU-Rec. 601, 25 Hz, 1:1 Zeiten enthalten: a) unabhängige L R and R L Schätzung b) Konsistenztest c) Interpolation der unzuverlässigen Disparitäten Pentium III, 700 MHz Rastergröße aktuell Ziel 4x4 87 ms < 40 ms 8x8 22 ms ----
Zusammenfassung • Schneller hybrider Disparitätsschätzer • Blockrekursion : Auswahl aus drei Kandidaten • Pixelrekursion : Nutzung des optischen Flusses • Nachverarbeitung • Verwerfen unzuverlässiger Disparitäten • Segmentgestütztes Füllen der Löcher • Segmentgestützte Dense Field Berechnung • Echtzeitfähigkeit • Echtzeitfähig für ein 8x8 Grid, optimierbar für 4x4