Multiple Camera Tracking of Interacting and

Occluded Human Motion

SHILOH L. DOCKSTADER, STUDENT MEMBER, IEEE, AND A. MURAT TEKALP, SENIOR MEMBER, IEEEPROCEEDINGS OF THE IEEE, VOL. 89, NO. 10, OCTOBER 2001

Estructura del sistema

• Tracking monocular: filtro predictor-corrector 2D.

• Fusión de vistas

• Filtro de kalman para trayectorias 3D

Tracking 2D

• Substracción del fondo

• Estimación “sparse” del movimiento– Estado : coordenadas de las features

• Clustering de la regiones foreground

características

Características 2D: posiciones de ptos

Vector de estado 3D

Caracteristica 3D

Tracking 2D

• Tomamos las observaciones

• Junto con las estimaciones 3D

• Obtenemos una estimación del estado

• Con confianza

Fusion, red bayesiana

• Toma las estimaciones de los estados en cada vista

• La salida son • Que maximizan la distribución conjunta

• Con un estimador de la covarianza del ruido

Seguimiento 3D

• La salida de la red bayesiana es la entrada a este módulo

• La salida es la predicción corregida del estado 3D

• La predicción 3D se proyecta para obtener predicciones en las vistas 2D

Implementación

• Cada cámara tiene un procesador dedicado que realiza el tracking 2D y la proyección de las coordenadas 3D para continuar la estimación.

• La red bayesiana y el filtro de Kalman 3D están en un procesador dedicado.

Seguimiento 2D

• Todas las ecuaciones se refieren a una vista en una cámara

• Se asume una detección de movimiento sparse sobre una malla de puntos

• Primer paso: predicción del estado 2D en base a la información 3D

• Matriz de transición 3D

• Matriz de proyección de una cámara

• Estimación del error proyectando el error 3D

• Proyección del error 3D

• Cálculo de la matriz de ganancia– Depende de – Y una matriz de covarianza del ruido

Clases de correspondencias

• Clase A: el elemento es visible en la trama presente y pasada y existe una fuerte correlación temporal.

• Clase B: El elemento es visible en la trama anterior y la correspondencia temporal es débil. No se espera encontrar la cosa.

• Clase C: el objeto no es visible en la trama anterior.

• Vector de movimiento en torno a una característica con origen

• conjuntos de puntos de cada clase

• La matriz de ganancia se construye

Observaciones (ver figura 2)

comentarios

• Una característica completamente visible tiene tratamiento normal.

• Para las características ocluidas se desarrolla un algoritmo de minimos cuadrados que estima su posición.

op

• Estimacion del estado 2D mediante el filtro de kalmann

Integración espacial

Variables aleatorias de media cero.

D.d.p de los estados

Cjto de variables usadas en caso de oclusión

Integración espacial

La red bayesiana estima la posición resolviendo:

Se puede descomponer la ddp a posteriori de varias maneras

Ruido de reconstruccion 3D

Ruido de observación.

Los demas tienen el significado de reconstrucciones parciales

Integracion espacialCaso extremo: fuentes independientes

Caso general: descomposición dependiente de l solapamiento entre vistas

Ordenación de las vistas en BBN

Proceso de muestreo aleatorio para generar modelos del ruido al proyectar del plano imagen al mundo y viceversa.

Construccion del modelo de integración

Observaciones tracking 3D

• Las caract. de clase A se siguen de la misma manera que con el filtro de Kalman usual

• Caracteristicas con oclusiones

Integración temporal: kalman 3D

Vector de caracteristicas 3D: velocidad y posición

Posiciones de las caracteristicas

velocidades

Estimación de estados con movimiento lineal

Matriz de covarianza del error

Matriz de ganancia de Kalmann

Ecuaciones de correccion del estado y el error de prediccion