Estimation du mouvement dans des images biomédicales

1. Estimation du mouvement dans des images biomédicales Par Jenny Benois-Pineau, AIV/IS/LABRI Jenny.benois@labri.fr

2. Pourquoi? -Compensation du mouvement des organes lors du traitement local : thermothérapie; -Caractérisation des pathologies : rythme cardiaque; -Enregistrement des images à partir de plusieurs images dynamiques, obtenir une image statique; -Augmentation de la résolution d’images des organes « mosaÏcing » (basse résolution spatiale initiale- IRM 64x64 -> 128x128); -Interpolation des vues manquants ( basse résolution temporelle initiale – 1 -2 images /sec).

3. Typologie des mouvements -Mouvement intra-scan : le mouvement durant l’acquisition d’une seule image. Son effet : le flou dans l’image acquise. -Mouvement inter-scan : le mouvement apparent perçu dans le plan image entre les images acquises successivement par l’appareil d’acquisition. -Objet de notre cours : étude du mouvement inter-scan.

4. Quelques exemples Séquence d’origine Séquence compensée

5. Plan: • Caractérisation du mouvement • Formalisation du problème d’estimation • Méthodes pel-récursives/différentielles • Rappel des méthodes numériques • Méthodes d’optimisation pour la recherche des extremums • Méthodes d’estimation du mouvement par descente de gradient, gradient simple, gradient accéléré... • Stratégies de multi-résolution • Méthodes de flot optique avec la régularisation (Horn et Schunck) • Calcul variationnel • Estimation Itérative par la méthode de Horn et Schunk, et dérivées

6. ZZ Y X Y Y ZZ X Mouvement Réel – Mouvement apparent Mvt 2D réel est la projection du mouvement 3D via systèmes d’acquisition Y at t+1 at t Mouvement apparent “flot optique” est observé dans le plan image 2D grâce aux changements de la mesure observée “luminance”, “perméabilité” etc.

7. P’ P t t+1 Caractérisation du mouvement Caractérisation locale Vecteur de déplacement élémentaire Vecteur vitesse Premier niveau de caractérisation : calculer le flot optique ou le champ de déplacement

8. P’ P t t+1 Caractérisation du mouvement Caractérisation globale Le flot optique est conforme au modèle global dans le plan – image. Le problème alors consiste à estimer les paramètres de modèle

9. Modèles affines. En développant en série de Taylor de premier ordre autour de (9) Ici M Modèle affine à 6 paramètres

10. Modèles affines On peut exprimer =

11. Modèles affines

12. 2. Formalisation du problème d’estimation du mouvement Hypothèse principal : conservation de l’intensité d’un point le long de son trajectoire. (1) • Problème d’estimation est mal posé : • Problème d’existance – occultation • Unicité : deux composantes du déplacement : une seule équation ECMA • Continuité : Estimation du mouvement est très sensible au bruit : un faible bruit peut amener aux fortes déviations.

13. Estimation du mouvement (2) Développant en série de Taylor autour de (x,y,t) et supposant la linéarité I(x,y,t) D’après (1) Comme alors u v Equation de contrainte du mouvement apparent (ECMA) (2)

14. Estimation du mouvement (3) est la composante parallèle à ,c’est à dire orthogonale au contour spatial local. (3) Une autre intérprétation Si les variables u,v sont supposées d’être indépendantes alors une seule équation est pour 2 inconnues. Solution?

15. Estimation du mouvement Criteria: EQM, MAD n’est jamais 0 à cause du bruit d’acquisition min min Estimation directe Estimation paramétrique

16. 3.Méthodes pel-récursives/ differentielles • Pour chaque pixel trouver un vecteur de déplacement tel que l’ensemble des ces vecteurs dans un domaine du plan- l’image D minimise un critère d’erreur • « Pel –recursives » : • pour chaque pixel • en utilisant des méthodes d’optimisation itératives. • -nous allons considérer les méthodes d’optimisation de 1er ordre ( gradient ).

17. 4. Rappel des méthodes numériques • Méthodes d’optimisation pour la recherche des extremums Condition nécessaire d’existence de l’extremum d’une fonction de plusieurs variables en : (4) Gradient de F : (4) est équivalent à Si on connaît la forme analytique de F(u), alors il s’agit de résoudre le système (4)

18. 4.1.Méthodes d’optimisation pour la recherche des extremums • Exemple trivial • D’après (4) Les critères et sont difficiles à exprimer analytiquement, alors on utilise des méthodes numériques dites de « descente de gradient »

19. F(x) x* xk Méthodes d’optimisation du premier ordre • Il faut trouver tel que ont lieu les conditions nécessaires d’extremum d’une fonction . On se déplace d’un point arbitraire vers dans la direction de la décroissance de la fonction Il faut donc « descendre » - la méthode de descente de gradient

20. Méthodes de descente On construit un processus itératif dans lequel Ici est le vecteur qui définit la direction de déplacement du point , est multiplieur scalaire. Pour s’approcher de il est naturel de se déplacer dans la direction de la décroissance de la fonction F(x). Si le point n’est pas le point de minimum de la fonction F(x), alors il existe une infinité des vecteurs p, qui définissent ladirection de la descente. Chaque direction est définie par la condition ( pour F(x) dérivable) Ici (,) est le produite scalaire,

21. Méthodes de descente(2) Ceci peut être déduit des considérations suivantes. Soit En développant F(x) en Série de Taylor ( en supposant la dérivabilité de F(x) suffisamment de fois), on a (5) Ici Si alors pour les faibles d’après (5) En choisissant la direction de descente et de diverses façons on peut construire des diverses algorithmes de minimisation.

22. Méthode de descente de gradient “Methode de descente la plus rapide”. Le plus facile est de choisir la direction p comme Descente dans la direction opposée au gradient Sous forme des coordonnées le processus s’exprime comme (6)

23. Algorithme de descente de gradient 1. Choisir la valeur la même pour toutes les itérations et fixer le point 2. Calculer 3. Tester l’inégalité (7) 4. Si (7) est vérifié alors sinon en pratique Tant que (7) n’est pas satisfait. 5.Réitérer 2 jusqu’à stabilité ou NbrItérationsMax

24. F(x) x* xk Méthode de descente de gradient • Pourquoi (7) est satisfait? • Théorème. Si une fonction est minorée, son gradient satisfait la condition de Liepschitz Quelque soient et le choix de s’effectue de façon décrite, alors quelque soit le point initial on a pour le processus lorsque Illustration trop petit et trop grand

25. 4.2.Méthodes d’estimation du mouvement par descente de gradient • 1. Méthode de Netravali-Robbins • La méthode de descente : (8) • Développement (9) (10)

26. Méthode de Netravali-Robbins(2) • Finalement d’après (8), (9),(10) (11) • Méthode fondamentale • Expression en coordonnées

27. Méthodes de descente de gradient accélérée • (1) Accelération de Netravali –Robbins (12) T.A! • (2) Accélération de Benois-Pineau /Pshenichny& Daniline Calculer Tant que Tant que (13) FTq FTq

28. Méthodes de descente de gradient accélérée Illustration géométrique E(d) dk0 Sans recalculer le gradient

29. Méthodes d’estimation du champ dense basées sur la descente de gradient(suite) • 1. Méthode de Walker-Rao • Principe : le pas adaptatif à l’image dans le voisinage d’un contour. (Là où le gradient est fort on diminue le pas) • Le gain devient adaptatif

30. Méthode de Walker –Rao (2) • Accélération Euristique • 1). Si , alors (Fin d’estimation) 2) Si et , alors (on ne peut rien estimer sur une zone plate) 3) Si alors (calcul en arithmétique binaire) 4) Si alors

31. Méthode de Cafforio-Rocca • Descente avec le gain adaptatif (14) • L’ajout du terme correctif permet d’éviter la division par 0 dans des zones plates. • Nombre d’itérations dans les méthodes à pas adaptatif : <5

32. Mise en œuvre sur les images numériques(1) • Deux problèmes : • (a) Calcul du gradient sur les images discrètes • (b) La nécessité d’interpoler aux coordonnées non-entières • (a) Plusieurs solutions. • Calcul du gradient par l’opérateur de Sobel x y

33. P2 P1 P(x,y) P4 P3 Mise en œuvre sur les images numériques(2) • (b) Interpolation du champs de gradient Interpolation bi-linéaire séparable (15)

34. Méthode de gradient conjuguée(1) Considérons une fonction scalaire Le développement en série de Taylor jusqu’à 2nd ordre : Ou (16) (forme quadratique) Alors la fonction est approximée par une forme quadratique

35. Méthode de gradient conjuguée(2) La matrice H est appelée la matrice “Hessian” H est symétrique car si les dérivées « mixtes » sont continues , elles sont égales Le gradient de la forme quadratique

36. Méthode de gradient conjuguée(3) Si la fonction F(x) atteint son minimum , alors (17) Minimiser la fonction F équivaut à résoudre le système (17) Le principe de la méthode de GC: A partir de la direction de descente est construit de telle sorte que soient conjuguées : Remarquons que la notion « être conjuguées » est plus large que « être orthogonales ». Si H est une matrice unitaire alors les deux directions sont orthogonales.

37. Méthode de gradient conjuguée(4) Algorithme • Choisir 2. Calculer le résidu La direction initiale de la descente est 3. Pour calculer

38. Méthode de gradient conjuguée(5) 4. Mettre a jour X et le résidu 5. Choisir la nouvelle direction de descente : 6. Condition d’arrêt ou

39. E(dx) dx0 dx* 4.3. Stratégies de multi-resolution Problème d’initialisation : la fonctionnelle d’erreur est généralement non-convexe dx Solution : estimation multi-resolution, relaxation.

40. Stratégies de multi-résolution Schémas multi-resolution/ multi-échelles 1) Construction des pyramides Gaussienne pyramids for 2) Estimation des paramètres du mouvement au niveau le plus élevé de la pyramide 3) Propagation r est le facteur de sous-échantillonnage

41. Quelques résultats(1) 06:14

42. Quelques résultats(2)

43. Quelques résultats(3)

44. Resultats en monoresolution Flot optique : séquence « Reins »

45. Resultats en multirésolution

46. Méthodes de flot optique avec la régularisation (Horn et Schunck) • Pourquoi les méthodes de descente locale sont-elles en difficulté ? • Le pb. d’estimation du mouvement est mal posé! • Solution : régularisation. • Méthode de K.P.Horn et B.G.Shunk • “Determining Optical Flow”,Artificial Intelligence 17 (1981) pp. 185-203

47. Méthodes de flot optique avec la régularisation (Horn et Schunck) • Pourquoi les méthodes de descente locale sont-elles en difficulté ? • Le pb. d’estimation du mouvement est mal posé! v Le long de contours de la luminance constante le vecteur de déplacement ne peut pas être estimé sans introduire les contraintes supplémentaires. u

48. Méthode de Horn and Shunk(1) On suppose la continuité locale de flot optique. Ajout de la contrainte de lissage : estimer le flot optique La fonctionnelle dont les arguments sont eux-mêmes les éléments d’un espace linéaire normé Le problème de recherche du min d’une telle fonction est celui du calcul variationnel.

49. 6. Calcul Variationnel Def. Fonctionnelle F(y) définie sur l’espace linéaire normé D s’appelle dérivable dans un point de cet espace si son accroissement peut être écrit comme Où est une fonctionnelle linéaire continue de h et r Est infiniment petite o(h) On peut démontrer que est unique. Def. La fonctionnelle linéaire ainsi définie et unique s’appelle “différentiel” ou encore la variation de la fonctionnelle F en point et est dénotée par

50. Exemples(1) 1. dans l’espace Le noyau f(x,y) est supposé d’être continu avec les dérivées continues jusqu’à 2nd ordre. Soit Comme la fonction f est dérivable, alors est bornée Donc