Multiple Camera Tracking of Interacting and Occluded Human Motion

1. Multiple Camera Tracking of Interacting andOccluded Human Motion SHILOH L. DOCKSTADER, STUDENT MEMBER, IEEE, AND A. MURAT TEKALP, SENIOR MEMBER, IEEE PROCEEDINGS OF THE IEEE, VOL. 89, NO. 10, OCTOBER 2001

2. Estructura del sistema • Tracking monocular: filtro predictor-corrector 2D. • Fusión de vistas • Filtro de kalman para trayectorias 3D

4. Tracking 2D • Substracción del fondo • Estimación “sparse” del movimiento • Estado : coordenadas de las features • Clustering de la regiones foreground

5. características Características 2D: posiciones de ptos Vector de estado 3D Caracteristica 3D

6. Tracking 2D • Tomamos las observaciones • Junto con las estimaciones 3D • Obtenemos una estimación del estado • Con confianza

7. Fusion, red bayesiana • Toma las estimaciones de los estados en cada vista • La salida son • Que maximizan la distribución conjunta • Con un estimador de la covarianza del ruido

8. Seguimiento 3D • La salida de la red bayesiana es la entrada a este módulo • La salida es la predicción corregida del estado 3D • La predicción 3D se proyecta para obtener predicciones en las vistas 2D

9. Implementación • Cada cámara tiene un procesador dedicado que realiza el tracking 2D y la proyección de las coordenadas 3D para continuar la estimación. • La red bayesiana y el filtro de Kalman 3D están en un procesador dedicado.

10. Seguimiento 2D • Todas las ecuaciones se refieren a una vista en una cámara • Se asume una detección de movimiento sparse sobre una malla de puntos • Primer paso: predicción del estado 2D en base a la información 3D

11. Matriz de transición 3D • Matriz de proyección de una cámara • Estimación del error proyectando el error 3D • Proyección del error 3D • Cálculo de la matriz de ganancia • Depende de • Y una matriz de covarianza del ruido

12. Clases de correspondencias • Clase A: el elemento es visible en la trama presente y pasada y existe una fuerte correlación temporal. • Clase B: El elemento es visible en la trama anterior y la correspondencia temporal es débil. No se espera encontrar la cosa. • Clase C: el objeto no es visible en la trama anterior.

13. Vector de movimiento en torno a una característica con origen • conjuntos de puntos de cada clase • La matriz de ganancia se construye

16. Observaciones (ver figura 2)

18. comentarios • Una característica completamente visible tiene tratamiento normal. • Para las características ocluidas se desarrolla un algoritmo de minimos cuadrados que estima su posición.

19. op • Estimacion del estado 2D mediante el filtro de kalmann

20. Integración espacial Variables aleatorias de media cero. D.d.p de los estados Cjto de variables usadas en caso de oclusión

21. Integración espacial La red bayesiana estima la posición resolviendo: Se puede descomponer la ddp a posteriori de varias maneras Ruido de reconstruccion 3D Ruido de observación. Los demas tienen el significado de reconstrucciones parciales

22. Integracion espacial Caso extremo: fuentes independientes Caso general: descomposición dependiente de l solapamiento entre vistas Ordenación de las vistas en BBN

25. Proceso de muestreo aleatorio para generar modelos del ruido al proyectar del plano imagen al mundo y viceversa.

26. Construccion del modelo de integración

27. Observaciones tracking 3D • Las caract. de clase A se siguen de la misma manera que con el filtro de Kalman usual • Caracteristicas con oclusiones

28. Integración temporal: kalman 3D Vector de caracteristicas 3D: velocidad y posición Posiciones de las caracteristicas velocidades Estimación de estados con movimiento lineal

29. Matriz de covarianza del error Matriz de ganancia de Kalmann Ecuaciones de correccion del estado y el error de prediccion