Recalage pour les Gestes M ´edicaux Robotis ´es
Florent Nageotte
Master PARI, parcours IRMC
Ann ´ee Universitaire 2008/2009
Florent Nageotte (EAVR / LSIIT) 1 / 203
Introduction
Recalage (anglais : registration)
Le recalage consiste `a d ´eterminer la relation spatiale entre deux rep `eres associ ´es
`a un m ˆeme objet.
Par extension, d ´esigne aussi la d ´etermination de la relation g ´eom ´etrique entre deux syst `emes de coordonn ´ees
mesure 2
mesure 1 F1
F2
F2
F1 recalage
Florent Nageotte (EAVR / LSIIT) 2 / 203
Introduction
Recalage en GMCAO (R ´ef ´erence : cours de J. Troccaz [23])
Objectifs
geste robotis ´e : D ´eterminer la position d’une ”cible” anatomique dans un rep `ere li ´e au robot m ´edical afin de positionner le robot de fac¸on ad ´equate
geste manuel assist ´e : D ´eterminer la position d’un instrument chirurgical dans un rep `ere li ´e `a la cible anatomique
alors que la cible et le robot (ou l’instrument) ne sont pas ”vus” simultan ´ement par un m ˆeme capteur
Fcible
Frob
?
Florent Nageotte (EAVR / LSIIT) 3 / 203
Introduction
Recalage en GMCAO (R ´ef ´erence : cours de J. Troccaz [23])
Objectifs
geste robotis ´e : D ´eterminer la position d’une ”cible” anatomique dans un rep `ere li ´e au robot m ´edical afin de positionner le robot de fac¸on ad ´equate
geste manuel assist ´e : D ´eterminer la position d’un instrument chirurgical dans un rep `ere li ´e `a la cible anatomique
alors que la cible et le robot (ou l’instrument) ne sont pas ”vus” simultan ´ement par un m ˆeme capteur
Int ´er ˆets
Les gestes m ´edicaux sont planifi ´es `a l’aide d’informations non disponibles dans la salle d’op ´eration
Les instruments ne sont pas directement visibles dans les images m ´edicales La mise `a jour des informations visuelles pendant l’op ´eration est trop lente ou dangereuse
Florent Nageotte (EAVR / LSIIT) 3 / 203
Introduction
Cas classique
info. pr ´e-op ´eratoire Fpre op
Florent Nageotte (EAVR / LSIIT) 4 / 203
Introduction
Cas classique
info. pr ´e-op ´eratoire Fpre op cible
chemin
Florent Nageotte (EAVR / LSIIT) 4 / 203
Introduction
Cas classique
info. pr ´e-op ´eratoire Fpre op cible
chemin
Fper op
info. per-op ´eratoire
Florent Nageotte (EAVR / LSIIT) 4 / 203
Introduction
Cas classique
info. pr ´e-op ´eratoire Fpre op cible
chemin
Fper op
info. per-op ´eratoire
robot Frob
Florent Nageotte (EAVR / LSIIT) 4 / 203
Introduction
Cas classique
info. pr ´e-op ´eratoire Fpre op cible
chemin
Fper op
info. per-op ´eratoire
robot Frob
?
Florent Nageotte (EAVR / LSIIT) 4 / 203
Introduction
Cas classique
info. pr ´e-op ´eratoire Fpre op cible
chemin
Fper op
info. per-op ´eratoire
robot Frob
?
?
?
Florent Nageotte (EAVR / LSIIT) 4 / 203
Introduction
Exemple de probl `eme
Cahier des charges
D ´efinition de la cible anatomique et de la trajectoire sous scanner R ´ealisation du geste `a l’aide d’un robot
Probl `eme de recalage
D ´eterminer la position de la cible par rapport au rep `ere de base du robotTrob cibleafin de pouvoir suivre la trajectoire sp ´ecifi ´ee
Fcible
Finst
Frob
Feff
? Fscan
Florent Nageotte (EAVR / LSIIT) 5 / 203
Introduction
Solution A
Op ´eration sous scanner (le robot doit ˆetre compatible rayons X) Marqueurs visibles sous rayons X attach ´es `a l’instrument Mesures :Tscan cible,Tscan marqetTrob eff (par MGD)
Calcul de transformations :Trob cible=Trob effTeff marqTscan marq−1 Tscan cible
Etalonnage : mesure deTeff marqetTeff inst (pour le positionnement)
Fcible
Frob Feff
Finst
Fmarq Fscan
Florent Nageotte (EAVR / LSIIT) 6 / 203
Introduction
Solution B
Op ´eration sous scanner (le robot doit ˆetre compatible rayons X) Robot fix ´e dans la salle d’op ´eration par rapport au scanner Mesure :Tscan cible
Calcul de transformations :Trob cible=Trob scanTscan cible
Etalonnage : mesure deTrob scanetTeff inst (pour le positionnement)
Fcible
Frob Feff
Finst Fscan
Florent Nageotte (EAVR / LSIIT) 7 / 203
Introduction
Solution C
Scan pr ´e-op ´eratoire Marqueur 1 visible sous rayons X attach ´e au patient
Syst `eme de localisation externe dans la salle d’op ´eration
Marqueur 2 visible par le localisateur attach ´e au patient
Marqueur 3 visible par le localisateur attach ´e `a l’instrument
FM1 FM2 FM1
FM2
pr ´e-op ´eratoire per-op ´eratoire
Fbase Feff Floc
Finst FM3
Fpatient Fpatient
Fscan
Mesure pr ´e-op ´eratoire :Tscan cible,Tscan marq1
Mesure per-op ´eratoire :Tloc marq2,Tloc marq3,Trob eff
Calcul de transformations :
Trob cible=Trob effTeff marq3Tloc marq3−1 Tloc marq2Tmarq2marq1Tscan marq1−1 Tscan cible
Etalonnage : mesure deTeff marq3,Tmarq2marq1etTeff inst(pour le positionnement)
Florent Nageotte (EAVR / LSIIT) 8 / 203
Introduction
Solution D
Scan pr ´e-op ´eratoire
Marqueurs anatomiques externes visibles sous rayons X
Avant l’op ´eration (per-op), l’instrument est amen ´e en contact avec les structures visibles
Mesure pr ´e-op ´eratoire :Tscan cible,Tscan ana
Mesure per-op ´eratoire :Trob ana
Calcul de transformations :Trob cible=Trob anaTscan ana−1 Tscan cible
Etalonnage : mesure deTinst eff (pour le positionnement)
pr ´e-op ´eratoire per-op ´eratoire
Fbase Feff
Finst
Fcible Fcible
Fana Fana
Fscan
Florent Nageotte (EAVR / LSIIT) 9 / 203
Introduction
Comparatif des solutions
Solution Avantages Inconv ´enients
A Peu de recalages interm ´ediaires, pas d’encombrement de la salle
le robot doit ˆetre compatible rayons X
B Erreurs faibles si l’ ´etalonnage est
bon Encombrement de la salle
C Op ´eration en dehors de la salle d’imagerie
Beaucoup de recalages in- term ´ediaires, les structures doivent ˆetre rigides
D Pas d’utilisation de marqueurs Recalage robot/patient manuel
Florent Nageotte (EAVR / LSIIT) 10 / 203
Introduction
Probl `eme fondamental
Pour d ´eterminer la transformation entre rep `ere robot et rep `ere patient
Florent Nageotte (EAVR / LSIIT) 11 / 203
Introduction
Probl `eme fondamental
Pour d ´eterminer la transformation entre rep `ere robot et rep `ere patient Choix de conception `a faire
Choix des capteurs
Choix des rep `eres interm ´ediaires et des marqueurs ´eventuels Choix des informations de mesure `a utiliser
Information 3D : points, courbes, surfaces
Information 2D (image) : niveaux de gris, couleur, texture
Florent Nageotte (EAVR / LSIIT) 11 / 203
Introduction
Probl `eme fondamental
Pour d ´eterminer la transformation entre rep `ere robot et rep `ere patient Choix de conception `a faire
Choix des capteurs
Choix des rep `eres interm ´ediaires et des marqueurs ´eventuels Choix des informations de mesure `a utiliser
Information 3D : points, courbes, surfaces
Information 2D (image) : niveaux de gris, couleur, texture
Mesures pr ´e et per-op ´eratoires `a r ´ealiser
Obtenir des informations de position `a partir des images m ´edicales :localisation Etalonnage des transformations ”connues”
Etalonnage des capteurs (non trait ´e dans ce cours)
Florent Nageotte (EAVR / LSIIT) 11 / 203
Introduction
Probl `eme fondamental
Pour d ´eterminer la transformation entre rep `ere robot et rep `ere patient Choix de conception `a faire
Choix des capteurs
Choix des rep `eres interm ´ediaires et des marqueurs ´eventuels Choix des informations de mesure `a utiliser
Information 3D : points, courbes, surfaces
Information 2D (image) : niveaux de gris, couleur, texture
Mesures pr ´e et per-op ´eratoires `a r ´ealiser
Obtenir des informations de position `a partir des images m ´edicales :localisation Etalonnage des transformations ”connues”
Etalonnage des capteurs (non trait ´e dans ce cours) Choix algorithmiques pour la localisation
Choix de m ´ethodes de mise en correspondance des informations Choix de mesures de similarit ´e
Choix de m ´ethodes d’optimisation
Florent Nageotte (EAVR / LSIIT) 11 / 203
Introduction
Contenu et objectifs de ce cours
Pr ´esentation des briques de base pour la conception et l’utilisation d’un syst `eme de recalage pour les GMCAOs
Pr ´esentation des algorithmes classiques de r ´esolution des probl `emes de localisation
Pr ´esentation des points cruciaux sur lesquels doit porter la r ´eflexion pour le choix et l’installation d’un syst `eme de recalage
Pr ´esentation de diverses solutions propos ´ees actuellement
Pas de recette miracle : chaque probl `eme a sa sp ´ecificit ´e et ses contraintes propres
Florent Nageotte (EAVR / LSIIT) 12 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
Introduction
Plan du cours
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Florent Nageotte (EAVR / LSIIT) 13 / 203
1 Introduction
2 Recalages et transformations Classification des recalages
Repr ´esentation des transformations mises en œuvre
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
1 Introduction
2 Recalages et transformations Classification des recalages
Repr ´esentation des transformations mises en œuvre
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Recalages et transformations Classification des recalages
Classification des recalages
Recalage 3D rigide : recherche des transformations de l’espace entre ”objets”
rigides : os, cr ˆane, robot, marqueurs
Recalage 3D non rigide ou ´elastique : recherche des transformations de l’espace entre ”objets” dont l’un au moins est d ´eformable : tissus mous
Recalage 2D non-rigide : recherche des transformations du plan entre des images de structures d ´eformables
Recalage 3D/2D rigide : recherche des projections de l’espace sur un plan pour des objets rigides
Recalage 3D/2D non rigide : recherche des projections de l’espace sur un plan pour des objets d ´eformables
Florent Nageotte (EAVR / LSIIT) 16 / 203
Recalages et transformations Classification des recalages
Classification des recalages
Recalage 3D rigide : recherche des transformations de l’espace entre ”objets”
rigides : os, cr ˆane, robot, marqueurs
Recalage 3D non rigide ou ´elastique : recherche des transformations de l’espace entre ”objets” dont l’un au moins est d ´eformable : tissus mous
Recalage 2D non-rigide : recherche des transformations du plan entre des images de structures d ´eformables
Recalage 3D/2D rigide : recherche des projections de l’espace sur un plan pour des objets rigides
Recalage 3D/2D non rigide : recherche des projections de l’espace sur un plan pour des objets d ´eformables
Florent Nageotte (EAVR / LSIIT) 16 / 203
Recalages et transformations Classification des recalages
Classification des recalages
Recalage 3D rigide : recherche des transformations de l’espace entre ”objets”
rigides : os, cr ˆane, robot, marqueurs
Recalage 3D non rigide ou ´elastique : recherche des transformations de l’espace entre ”objets” dont l’un au moins est d ´eformable : tissus mous
Recalage 2D non-rigide : recherche des transformations du plan entre des images de structures d ´eformables
Recalage 3D/2D rigide : recherche des projections de l’espace sur un plan pour des objets rigides
Recalage 3D/2D non rigide : recherche des projections de l’espace sur un plan pour des objets d ´eformables
Florent Nageotte (EAVR / LSIIT) 16 / 203
Recalages et transformations Classification des recalages
Classification des recalages
Recalage 3D rigide : recherche des transformations de l’espace entre ”objets”
rigides : os, cr ˆane, robot, marqueurs
Recalage 3D non rigide ou ´elastique : recherche des transformations de l’espace entre ”objets” dont l’un au moins est d ´eformable : tissus mous
Recalage 2D non-rigide : recherche des transformations du plan entre des images de structures d ´eformables
Recalage 3D/2D rigide : recherche des projections de l’espace sur un plan pour des objets rigides
Recalage 3D/2D non rigide : recherche des projections de l’espace sur un plan pour des objets d ´eformables
Florent Nageotte (EAVR / LSIIT) 16 / 203
Recalages et transformations Classification des recalages
Classification des recalages
Recalage 3D rigide : recherche des transformations de l’espace entre ”objets”
rigides : os, cr ˆane, robot, marqueurs
Recalage 3D non rigide ou ´elastique : recherche des transformations de l’espace entre ”objets” dont l’un au moins est d ´eformable : tissus mous
Recalage 2D non-rigide : recherche des transformations du plan entre des images de structures d ´eformables
Recalage 3D/2D rigide : recherche des projections de l’espace sur un plan pour des objets rigides
Recalage 3D/2D non rigide : recherche des projections de l’espace sur un plan pour des objets d ´eformables
Florent Nageotte (EAVR / LSIIT) 16 / 203
Recalages et transformations Classification des recalages
Classification des recalages
Recalage 3D rigide : recherche des transformations de l’espace entre ”objets”
rigides : os, cr ˆane, robot, marqueurs
Recalage 3D non rigide ou ´elastique : recherche des transformations de l’espace entre ”objets” dont l’un au moins est d ´eformable : tissus mous
Recalage 2D non-rigide : recherche des transformations du plan entre des images de structures d ´eformables
Recalage 3D/2D rigide : recherche des projections de l’espace sur un plan pour des objets rigides
Recalage 3D/2D non rigide : recherche des projections de l’espace sur un plan pour des objets d ´eformables
Probl `eme global trait ´e par ce cours : recalage 3D rigidemais le passage par des rep `eres interm ´ediaires peut mettre en oeuvre des transformations 3D→2Dou 2D→3D
Florent Nageotte (EAVR / LSIIT) 16 / 203
1 Introduction
2 Recalages et transformations Classification des recalages
Repr ´esentation des transformations mises en œuvre
3 Les capteurs
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Transformations 3D rigides (euclidiennes)
Point de l’espace de coordonn ´ees(0X,0Y,0Z)T dans le rep `ereF0
Repr ´esentation en coordonn ´ees homog `enes
P= (sX,sY,sZ,s)T](X,Y,Z,1)T Transformation lin ´eaire :2P=M1Pen coordonn ´ees homog `enes
6 param `etres ind ´ependants, conservation des distances Matrice de transformation homog `ene
T =
» R3,3 t3,1
01,3 1 –
On a les relations
P2=T2→1P1
0
@
2X
2Y
2Z 1 A=R2→1
0
@
1X
1Y
1Z 1 A+t2→1
R2→1matrice de rotation deF2versF1
t2→1vecteur de translation deF2versF1(exprim ´ee dansF2) Repr ´esentation minimale par un vissage
Florent Nageotte (EAVR / LSIIT) 18 / 203
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Repr ´esentation des transformations mises en œuvre
Transformations 3D rigides (euclidiennes)
P
F
1F
2T
2→12
P
1
P
Florent Nageotte (EAVR / LSIIT) 19 / 203
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Repr ´esentation des rotations de l’espace
Matrice de rotation
0
@
r11 r12 r13
r21 r22 r23
r31 r32 r33
1 A 6 contraintes d’othogonalit ´e et de norme
X
i
(rij2=1)∀j
X
i
(rijrik =0)∀j6=k
Angles d’Euler
R=Rx(θx)Ry(θy)Rz(θz) Repr ´esentation minimale mais non unique
R(0,0,0) =R(π, π, π) Plusieurs repr ´esentations : xyz, xzy, zxy, xyx, yzy, etc.
Florent Nageotte (EAVR / LSIIT) 20 / 203
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Repr ´esentation des rotations de l’espace
Roulis-tangage-lacet
Rotations ´el ´ementaires autour d’axes fixes d ´efinis dans le rep `ere initial Axe + angle de rotation
u=θn:nvecteur unitaire de l’axe de rotation etθangle de rotation 3 param `etres, repr ´esentation minimale mais non unique(n, θ)](−n,−θ) quaternion unitaire
q= (q0,qx,qy,qz)T 4 param `etres + une contrainte de normalisationkqk=1 Changements de repr ´esentation
de(n, θ) `aR: Formule de RodriguesR=I+sin(θ)S(n) + (1−cos(θ))S2(n) S(n)est la matrice anti-sym ´etrique de pr ´e-produit vectoriel associ ´ee `a n= (nx,ny,nz)T :n∧x=S(n)x∀x
S(n) = 0
@
0 −nz ny
nz 0 −nx
−ny nx 0 1 A
Florent Nageotte (EAVR / LSIIT) 21 / 203
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Transformations lin ´eaires du plan (1/2)
Point du plan de coordonn ´ees(0x,0y)T dans le rep `ereF0
Repr ´esentation en coordonn ´ees homog `enes
p= (sx,sy,s)T](x,y,1)T Transformation lin ´eaire :2p=M1pen coordonn ´ees homog `enes Transformations rigides euclidiennes
rotations + translations dans le plan 3 param `etres ind ´ependants conservation des distances
0
@ sx2
sy2
s 1 A=
0
@
cos(θ) −sin(θ) tx
sin(θ) cos(θ) ty
0 0 1
1 A
0
@ x1
y1
1 1 A ex : mouvements dans une coupe
Florent Nageotte (EAVR / LSIIT) 22 / 203
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Transformations lin ´eaires du plan (2/2)
Transformations affines du plan
Transformations euclidiennes + changements d’ ´echelle 6 param `etres ind ´ependants
conservation du parall `elisme 0
@ sx2
sy2
s 1 A=
0
@
a11 a12 a13
a21 a22 a23
0 0 a33
1 A
0
@ x1
y1
1 1 A
ex : transformation entre plan de coupe et image scanner (cas particulier o `u les angles droits sont conserv ´es)
Transformations homographiques 8 param `etres ind ´ependants conservation des droites
0
@ sx2
sy2
s 1 A=
0
@
h11 h12 h13
h21 h22 h23
h31 h32 h33
1 A
0
@ x1
y1
1 1 A ex : relations entre 2 projections perspectives d’un plan
Florent Nageotte (EAVR / LSIIT) 23 / 203
Recalages et transformations Repr ´esentation des transformations mises en œuvre
Transformations non lin ´eaires
Une relation diff ´erente pour chaque point=⇒normalisation n ´ec ´essaire pour estimer les param `etres (ex : connaissance de l’objet perc¸u pour une projection 3D/2D)
Transformations ´elastiques : relations `a nombre ´elev ´e de param `etres ou non param ´etrables : repr ´esentation sous forme de champs de vecteurs
Attention ! : les transformations euclidiennes 3D conduisent g ´en ´eralement `a des transformations non lin ´eaires du plan par projection
Florent Nageotte (EAVR / LSIIT) 24 / 203
1 Introduction
2 Recalages et transformations
3 Les capteurs
Les syst `emes de localisation
Syst `emes commerciaux vs syst `emes non commerciaux Utilisation des robots m ´edicaux comme syst `emes de mesure Les imageurs m ´edicaux
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Les capteurs
Diff ´erents types
Les imageurs m ´edicaux
D ´efinition des cibles anatomiques et des chemins de r ´ef ´erence (pr ´e-op ´eratoire et per-op ´eratoire)
Observation du patient et des cibles anatomiques (per-op ´eratoire) Modalit ´es : optique (cam ´eras endoscopiques), rayons X (fluoroscopes, CT scanners), r ´esonance magn ´etique (IRM), ultra-sons ( ´echographes), etc.
Florent Nageotte (EAVR / LSIIT) 26 / 203
Les capteurs
Diff ´erents types
Les imageurs m ´edicaux
D ´efinition des cibles anatomiques et des chemins de r ´ef ´erence (pr ´e-op ´eratoire et per-op ´eratoire)
Observation du patient et des cibles anatomiques (per-op ´eratoire) Modalit ´es : optique (cam ´eras endoscopiques), rayons X (fluoroscopes, CT scanners), r ´esonance magn ´etique (IRM), ultra-sons ( ´echographes), etc.
Les robots
R ´ealiser ou aider `a r ´ealiser les gestes m ´edicaux
Utilisable comme capteur de position par l’interm ´ediaire de la mesure des positions de ses axes
Florent Nageotte (EAVR / LSIIT) 26 / 203
Les capteurs
Diff ´erents types
Les imageurs m ´edicaux
D ´efinition des cibles anatomiques et des chemins de r ´ef ´erence (pr ´e-op ´eratoire et per-op ´eratoire)
Observation du patient et des cibles anatomiques (per-op ´eratoire) Modalit ´es : optique (cam ´eras endoscopiques), rayons X (fluoroscopes, CT scanners), r ´esonance magn ´etique (IRM), ultra-sons ( ´echographes), etc.
Les robots
R ´ealiser ou aider `a r ´ealiser les gestes m ´edicaux
Utilisable comme capteur de position par l’interm ´ediaire de la mesure des positions de ses axes
Les syst `emes de localisation externes
Utilis ´es sp ´ecifiquement pour combler un manque d’information, am ´eliorer l’information disponible ou apporter une redondance d’information Modalit ´es
Syst `emes optiques Syst `emes magn ´etiques
Syst `emes m ´ecaniques passifs ( ´etalonnage et maintenance du syst `eme)
Florent Nageotte (EAVR / LSIIT) 26 / 203
1 Introduction
2 Recalages et transformations
3 Les capteurs
Les syst `emes de localisation
Syst `emes commerciaux vs syst `emes non commerciaux Utilisation des robots m ´edicaux comme syst `emes de mesure Les imageurs m ´edicaux
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Les capteurs Les syst `emes de localisation
Syst `emes optiques
Principe
Capteur : plusieurs cam ´eras CCD ou CMOS
Emetteur : des marqueurs passifs ou actifs mont ´es sur une base Estimation de la position des marqueurs par triangulation Commande et obtention des informations par PC
Florent Nageotte (EAVR / LSIIT) 28 / 203
Les capteurs Les syst `emes de localisation
Syst `emes optiques
Principe
Capteur : plusieurs cam ´eras CCD ou CMOS
Emetteur : des marqueurs passifs ou actifs mont ´es sur une base Estimation de la position des marqueurs par triangulation Commande et obtention des informations par PC
Florent Nageotte (EAVR / LSIIT) 28 / 203
Les capteurs Les syst `emes de localisation
Syst `emes optiques
Principe
Capteur : plusieurs cam ´eras CCD ou CMOS
Emetteur : des marqueurs passifs ou actifs mont ´es sur une base Estimation de la position des marqueurs par triangulation Commande et obtention des informations par PC
Florent Nageotte (EAVR / LSIIT) 28 / 203
Les capteurs Les syst `emes de localisation
Syst `emes optiques
Principe
Capteur : plusieurs cam ´eras CCD ou CMOS
Emetteur : des marqueurs passifs ou actifs mont ´es sur une base Estimation de la position des marqueurs par triangulation Commande et obtention des informations par PC
Florent Nageotte (EAVR / LSIIT) 28 / 203
Les capteurs Les syst `emes de localisation
Quelques produits
PolarisetOptotrackde NDI
Florent Nageotte (EAVR / LSIIT) 29 / 203
Les capteurs Les syst `emes de localisation
AccuTrackde Atracsys MicronTrackerde Claron Technologies
Florent Nageotte (EAVR / LSIIT) 30 / 203
Les capteurs Les syst `emes de localisation
Syst `emes optiques
3 marqueurs ponctuels requis pour d ´eterminer de fac¸on unique la position et l’orientation de la base (6DDLs) (souvent 4 marqueurs)
2 marqueurs pour d ´eterminer l’orientation et la position d’une droite (5DDLs) (souvent 3 marqueurs align ´es)
Information fournie : position (vecteur de translation) et orientation (souvent un quaternion unitaire) de la base du marqueur par rapport au rep `ere de base du capteur
Information brute inutilisable !O `u est la base du capteur ?
=⇒Utilis ´e pour mesurer des positions relatives ou des mouvements relatifs (ind ´ependants de la position de la base)
TM1→M2=TB→M−1
1TB→M2
Florent Nageotte (EAVR / LSIIT) 31 / 203
Les capteurs Les syst `emes de localisation
Caract ´eristiques ([26])
Syst `eme de localisation optique d ´efini par :
Pr ´ecision absolue :∼0.1mm(trans.) et∼1˚ (rot.)
Pr ´ecision relative : d ´epend de la position (∼0.01mm(trans.) et∼0.1˚ (rot.)) Domaine de travail : pyramide∼1m3
Configuration minimale des marqueurs : distance minimale entre marqueurs, dissym ´etrie minimale, etc.
Florent Nageotte (EAVR / LSIIT) 32 / 203
Les capteurs Les syst `emes de localisation
Principaux int ´er ˆets
Marqueurs passifs ou actifs libres Pr ´ecision ´elev ´ee
Domaine de travail important
Principaux inconv ´enients
Il faut conserver une ligne de vue Taille importante des marqueurs
Configurations singuli `eres (mais d ´etectables !)
Florent Nageotte (EAVR / LSIIT) 33 / 203
Les capteurs Les syst `emes de localisation
Syst `emes magn ´etiques
Principe
Emetteur : g ´en ´erateur de champ magn ´etique
Capteur : une sonde mesurant le champ magn ´etique et son orientation La position de la sonde est estim ´ee `a partir du champ mesur ´e
Emetteur
capteur champ magn ´etique
Florent Nageotte (EAVR / LSIIT) 34 / 203
Les capteurs Les syst `emes de localisation
Quelques produits
Aurora de NDI
Mini-Bird et Micro-Bird de Ascencion Technologies
Florent Nageotte (EAVR / LSIIT) 35 / 203
Les capteurs Les syst `emes de localisation
1 capteur int ´egr ´e unique suffit pour d ´eterminer de fac¸on unique 6DDLs Information fournie : position (vecteur de translation) et orientation (souvent un quaternion unitaire) du capteur par rapport au rep `ere de base de l’emetteur Information brute inutilisable !Ou est la r ´ef ´erence du champ magn ´etique ?
=⇒Utilis ´e pour mesurer des positions relatives ou des mouvements relatifs (ind ´ependants de la position de la base)
Florent Nageotte (EAVR / LSIIT) 36 / 203
Les capteurs Les syst `emes de localisation
Caract ´eristiques ([10], [7])
Syst `eme de localisation magn ´etique d ´efini par : Pr ´ecision absolue :∼1mmet∼0.3˚
Pr ´ecision relative :∼0.5mmet∼0.1˚
Domaine de travail :∼0.2m3 Principaux int ´er ˆets
Pas besoin de ligne de vue Miniaturisable (cath ´eters, etc.) Utilisable `a l’int ´erieur du corps humain
Principaux inconv ´enients
Sensible `a la pr ´esence d’objets ferro-magn ´etiques Capteur li ´e ´electriquement `a l’organe de traitement
Aucune information sur la qualit ´e de la mesure n’est disponible Non compatibles avec les environnements IRM
Florent Nageotte (EAVR / LSIIT) 37 / 203
Les capteurs Les syst `emes de localisation
Comparatif
Optique Magn ´etique
Pr ´ecision translation ++ +
Pr ´ecision rotation + -
Domaine de travail + -
Dimensions - ++
Sensibilit ´es Configurations sin- guli `eres, ´eclairage
Mat ´eriaux ferro- magn ´etiques, IRM
D ´etection des erreurs + -
Florent Nageotte (EAVR / LSIIT) 38 / 203
1 Introduction
2 Recalages et transformations
3 Les capteurs
Les syst `emes de localisation
Syst `emes commerciaux vs syst `emes non commerciaux Utilisation des robots m ´edicaux comme syst `emes de mesure Les imageurs m ´edicaux
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Les capteurs Syst `emes commerciaux vs syst `emes non commerciaux
Syst `emes non-commerciaux
Int ´er ˆets
Co ˆut !Syst `eme de localisation optique commercial de base∼15000euros Syst `eme ”maison” : 2 cam ´eras + boˆıtier + marqueurs + emetteur IR∼5000euros Syst `emes commerciaux : pas d’acc `es aux couches bas niveau : protocole + temps d’acc `es impos ´e. Impossible de r ´ecup ´erer les images pour d’autres traitements Besoin de solutions ad hoc
Difficult ´es
Etalonnage pr ´ecis des capteurs R ´e- ´etalonnage de maintenance Estimation de la pr ´ecision obtenue
Florent Nageotte (EAVR / LSIIT) 40 / 203
Les capteurs Syst `emes commerciaux vs syst `emes non commerciaux
Syst `emes commerciaux vs syst `emes ”maison”
Syst `eme commercial Syst `eme ”maison”
Co ˆut - +
Temps + -
Pr ´ecision + -
Adaptabilit ´e - +
Commercialisation -+ -+
Florent Nageotte (EAVR / LSIIT) 41 / 203
1 Introduction
2 Recalages et transformations
3 Les capteurs
Les syst `emes de localisation
Syst `emes commerciaux vs syst `emes non commerciaux Utilisation des robots m ´edicaux comme syst `emes de mesure Les imageurs m ´edicaux
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Les capteurs Utilisation des robots m ´edicaux comme syst `emes de mesure
Utilisation des robots m ´edicaux comme syst `emes de mesure
Principe
Amener l’effecteur du robot en contact avec les points `a mesurer.
Mesurer les positions articulaires (capteurs proprioceptifs : codeurs absolus ou incr ´ementaux)
D ´eterminer la position de l’effecteur par rapport `a la base par mod `ele g ´eom ´etrique direct du syst `eme
q1
q2 q3
l0
l1
l2 l3
FB
FE
FO
position estim ´ee
transformation recherch ´ee
Florent Nageotte (EAVR / LSIIT) 43 / 203
Les capteurs Utilisation des robots m ´edicaux comme syst `emes de mesure
Utilisation des robots m ´edicaux comme syst `emes de mesure
MGD:Tb→e=f(q1,q2,q3) =f(q)
MGI:q=f−1(Tb→e)
f connu par construction ou ´etalonnage g ´eom ´etrique du robot
q1
q2
q3
l0 l1
l2 l3
FB
FE
FO
position estim ´ee
transformation recherch ´ee
Florent Nageotte (EAVR / LSIIT) 44 / 203
Les capteurs Utilisation des robots m ´edicaux comme syst `emes de mesure
Utilisation des robots m ´edicaux comme syst `emes de mesure
Utilisation
D ´etermination directe de la position du patient ou d’un marqueur dans le rep `ere de base du robot par palpation
Au moins 3 points doivent ˆetre touch ´es par le robot (c.f. section localisation 3D)
Florent Nageotte (EAVR / LSIIT) 45 / 203
Les capteurs Utilisation des robots m ´edicaux comme syst `emes de mesure
Utilisation des robots m ´edicaux comme syst `emes de mesure
Utilisation
D ´etermination directe de la position du patient ou d’un marqueur dans le rep `ere de base du robot par palpation
Au moins 3 points doivent ˆetre touch ´es par le robot (c.f. section localisation 3D)
Contraintes
Connaissance du mod `ele g ´eom ´etrique du robot Le robot doit ˆetre suffisamment rigide
Le robot doit ˆetre sans danger (passif ou r ´eversible)
Proc ´edure non automatique et potentiellement longue, n ´ecessite que le patient soit parfaitement immobile
Florent Nageotte (EAVR / LSIIT) 45 / 203
1 Introduction
2 Recalages et transformations
3 Les capteurs
Les syst `emes de localisation
Syst `emes commerciaux vs syst `emes non commerciaux Utilisation des robots m ´edicaux comme syst `emes de mesure Les imageurs m ´edicaux
4 Principes de localisation
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Les capteurs Les imageurs m ´edicaux
Les imageurs m ´edicaux
Principaux imageurs utilis ´es
CT scanners (coupes et reconstitutions 3D) IRM (coupes et images volumiques) Fluoroscopes, rayons X (projections 2D)
Echographes, sondes US (coupes 2D et reconstitutions 3D) Cam ´eras endoscopiques (projections 2D)
Utilisation ”conventionnelle”
D ´efinition manuelle des cibles et des chemins
Recherche automatique des cibles et des chemins + validation du praticien Guidage des gestes (temps r ´eel ou par it ´eration)
Utilisation comme capteur de position Imageur ´etalonn ´e
Mesures de positions relatives Estimation de poses d’objets connus
Florent Nageotte (EAVR / LSIIT) 47 / 203
Les capteurs Les imageurs m ´edicaux
Principes de formation des images
Imageurs `a coupe
Imagerie tomographique ( `a rayon X, PET, etc.) Imagerie par R ´esonance Magn ´etique
Echographes
scanner
X
Y Z
FCT
u
v
(u1,v1)
(u2,v2)
Florent Nageotte (EAVR / LSIIT) 48 / 203
Les capteurs Les imageurs m ´edicaux
plan de coupe sonde US
image US FUS
Fim
u
v Y
X
Z
Florent Nageotte (EAVR / LSIIT) 49 / 203
Les capteurs Les imageurs m ´edicaux
Formation des images par coupe
Rep `ere de l’imageurFimg
Rep `ere de la coupeFco, avecZcoperpendiculaire au plan de coupe d ´efini par Zco=0
PointP1de coordonn ´ees(objX1,objY1,objZ1)T dans un rep `ere objet Timg cog ´en ´eralement connu, mesur ´e ou d ´efini
Calcul de l’image
Changement de rep `ere 3D
coP1= (X1,Y1,Z1)T =Rco objobj
P1+tco obj
P1est visible dans l’image siZ1=0
Transformation affinep1= (u1,v1)T image deP1d ´efinie par
„ u1
v1
«
=
„ α 0
0 α
« „ X1
Y1
« +
„ uc
vc
«
3param `etres intrins `equesau capteur : αgrandissement de l’imageur
ucetvccentre du rep `ere de l’imageur dans l’image
Florent Nageotte (EAVR / LSIIT) 50 / 203
Les capteurs Les imageurs m ´edicaux
Formation des images par coupe
Matrice des param `etres intrins `eques :
„ p 1
«
= 0
@
α 0 uc
0 α vc
0 0 1
1 A
0
@ X Y 1
1 A
Transformation affine entre rep `ere de l’imageur et rep `ere image : translation + rapports d’ ´echelle dans le plan
Param `etres extrins `eques :Tco objetTimg co
PointsP1= (X1,Y1,0)tetP2= (X2,Y2,0)t dans le rep `ere de l’imageur projet ´es en p1= (u1,v1)tetp2= (u2,v2)t
kP1P2k= q
(u2−u1)2+ (v2−v1)2 α
=⇒Une coupe permet d’estimer des distances
Florent Nageotte (EAVR / LSIIT) 51 / 203
Les capteurs Les imageurs m ´edicaux
Imagerie 3D
Acquisition volumique directe (IRM) Plusieurs coupes de positions relatives connues
scanners : coupes parall `eles Echographie : mouvement libre mesur ´e ou mouvement interne du plan de coupe particulier (rotations) + reconstitution d’une image volumique 3D
0 B B
@ u1
v1
w1
1 1 C C A
= 0 B B
@
α 0 0 uc
0 α 0 vc
0 0 αz wc
0 0 0 1
1 C C A
0 B B
@ X1
Y1
Z1
1 1 C C A
Florent Nageotte (EAVR / LSIIT) 52 / 203
Les capteurs Les imageurs m ´edicaux
Principes de formation des images m ´edicales
Imageurs r ´ealisant des projections perspectives Fluoroscopes et rayons X(source ponctuelle) Endoscopes (centre de projection ponctuel)
capteur
source
image cadre stéréotaxique
Fimg
Fobj
Fim
Florent Nageotte (EAVR / LSIIT) 53 / 203
Les capteurs Les imageurs m ´edicaux
Projection perspective
Fimg Fobj
Fim
Florent Nageotte (EAVR / LSIIT) 54 / 203
Les capteurs Les imageurs m ´edicaux
Principe de la projection perspective
F
objcentre optique F
imF
imgZ
imgX
imgf
Florent Nageotte (EAVR / LSIIT) 55 / 203
Les capteurs Les imageurs m ´edicaux
Projection perspective
PointP= (X,Y,Z,1)T dans un rep `ere objet projet ´e dans l’image enp= (su,sv,s)T Trois transformations :
Changement de rep `ereimgP= (Ximg,Yimg,Zimg,1)T =Timg→objP Projection :
„ x y
«
= 0
@
Ximgf Zimg Yimgf Zimg
1 A
f : focale de la cam ´era ou distance entre source et capteur pour les fluoroscopes ou rayons X
Changement d’ ´echelle : 0
@ u v 1
1 A=
0
@
αx 0 uc
0 αy vc
0 0 1
1 A
0
@ x y 1
1 A
Florent Nageotte (EAVR / LSIIT) 56 / 203
Les capteurs Les imageurs m ´edicaux
Projection perspective
Repr ´esentation globale par une matrice de projection perpective : 0
@ su sv s
1
A=MPTimg→obj
0 B B
@ X Y Z 1
1 C C A
avecMP = 0
@
fαx 0 0 uc
0 fαy 0 vc
0 0 1 0
1 A=
0
@
Gx 0 0 uc
0 Gy 0 vc
0 0 1 0
1 A 4 param `etres intrins `eques au capteur :
Gx etGy grandissement selonxety
ucetvcposition du centre de projection dans l’image Param `etres extrins `eques :Timg obj
Florent Nageotte (EAVR / LSIIT) 57 / 203
Les capteurs Les imageurs m ´edicaux
Etalonnage des imageurs m ´edicaux
Obtention des param `etres intrins `eques de l’imageur
Utilisation des donn ´ees constructeurs g ´en ´eralement insuffisantes=⇒´etalonnage C’est l’ensemble d’imagerie qui doit ˆetre ´etalonn ´e
Utilisation de mires d’ ´etalonnage
Aberations, imperfections=⇒Mod `eles complets non lin ´eaires Etalonnage non trait ´e dans ce cours
Florent Nageotte (EAVR / LSIIT) 58 / 203
Les capteurs Les imageurs m ´edicaux
Capteurs : conclusion
Dans le cadre d’une op ´eration assist ´ee par robot
Capteurs Avantages Inconv ´enients
Localisateurs Pr ´ecision
Encombrants, n ´ecessitent
des marqueurs
suppl ´ementaires
Imageurs m ´edicaux Acc `es `a la pathologie Dangerosit ´e, Pr ´ecision non garantie
Robots m ´edicaux Evitent des marqueurs suppl ´ementaires
Pr ´ecision limit ´ee par les flexibilit ´es
Florent Nageotte (EAVR / LSIIT) 59 / 203
1 Introduction
2 Recalages et transformations
3 Les capteurs
4 Principes de localisation Localisation 3D
Reconstruction st ´er ´eotaxique Reconstruction 3D perspective Pr ´ecision des reconstuctions 3D
5 Mise en correspondance ou appariement
6 Etalonnage des transformations invariantes
7 Analyse des erreurs
8 Quelques syst `emes et les solutions de recalage associ ´ees
9 Du recalage statique aux asservissements
10 Conclusion
Principes de localisation
Localisation `a l’aide d’imageurs m ´edicaux ou de robots
Position du probl `eme
Imageur etalonn ´e (param `etres intrins `eques connus) ou robot
´etalonn ´e (MGD connu) Objet (marqueur) de g ´eom ´etrie connue
D ´eterminer la transformation euclidienne 3D entre le rep `ere de r ´ef ´erence li ´e `a l’imageur (ou au robot) et un rep `ere attach ´e `a l’”objet” vu par l’imageur⇐⇒d ´eterminer les param `etres extrins `eques de la transformation
F
MF
img?
Florent Nageotte (EAVR / LSIIT) 61 / 203