Transport optimal de sable avec une pelle et un seau, terrain de jeu pour les
math ´ematiques et l’intelligence artificielle
Bernard Bercu & J ´er ´emie Bigot
Institut de Math ´ematiques de Bordeaux Universit ´e de Bordeaux
Soir ´ee de pr ´esentation masters et recherche `a l’IMB Janvier 2019
1 Le transport optimal un vieux probl `eme tr `es actuel !
2 Un probl `eme d’allocation de ressources
3 Transport optimal et distance de Wassertein
4 Illustration avec arriv ´ee de donn ´ees en ligne
5 Transport optimal pour l’intelligence artificielle ?
Question introduite par Gaspard Monge1en 1781 dans M ´emoire sur la th ´eorie des d ´eblais et des remblais
pour un probl `eme de transfert de masses :
Comment trouver le moyen le plus efficace ( `a moindre co ˆut) pour transporter un tas de sable( `a l’aide d’une pelle et d’un seau...)
dans untrou de m ˆeme volume?
1. https://fr.wikipedia.org/wiki/Gaspard Monge
Formulation math ´ematique moderne: trouver une application T:X → Y pour transfert une masseµ(r ´epartie sur un supportX) vers une masseν(r ´epartie sur un supportY)
1. Th `ese d’Elsa Cazelles, 2018, Universit ´e de Bordeaux
Formulation math ´ematique moderne: trouver un transfert de la masseµ(r ´epartie sur un supportX) vers une masseν(r ´epartie sur un supportY) par un plan de transportπ:X × Y →[0,1]
1. Th `ese d’Elsa Cazelles, 2018, Universit ´e de Bordeaux
math ´ematiques
1...
Cr ´edit : Gabriel Peyr ´e (CNRS & ENS Paris)
1. Villani, C. (2003) Topics in optimal transportation
´economie (ex : gestion de stock) physique
infographie
PUB ! !traitement d’images : expos ´e d’Arthur LeclairePUB ! ! apprentissage automatique (machine learning)
intelligence artificielle ...
1. Cuturi & Peyr ´e (2018)https://optimaltransport.github.io/
1 Le transport optimal un vieux probl `eme tr `es actuel !
2 Un probl `eme d’allocation de ressources
3 Transport optimal et distance de Wassertein
4 Illustration avec arriv ´ee de donn ´ees en ligne
5 Transport optimal pour l’intelligence artificielle ?
Donn ´ees disponibles1:
positions des postes de Police `a Chicago
lieux d’infractions enregistr ´ees `a Chicago en 2014
Questions (d’int ´er ˆet ?) :
´etant donn ´e le lieu d’une infraction, quel poste de Police devrait intervenir ?
comment faire ´evoluer la r ´eponse au fur et `a mesure de l’ann ´ee ?
1. Open Data de la ville de Chicago :https://data.cityofchicago.org
Position des postes de Police `a Chicago
PositionX1de lapremi `ereinfraction enregistr ´ee `a Chicago en 2014
PositionsX1,X2des infractions enregistr ´ees `a Chicago parordre chronologique
PositionsX1,X2,X3 des infractions enregistr ´ees `a Chicago parordre chronologique
PositionsX1, . . . ,X4des infractions enregistr ´ees `a Chicago parordre chronologique
PositionsX1, . . . ,X5des infractions enregistr ´ees `a Chicago parordre chronologique
Positions des infractions enregistr ´ees `a Chicago parordre chronologique(100 premi `eres)
Positions des infractions enregistr ´ees `a Chicago parordre chronologique(1000 premi `eres)
PositionsX1, . . . ,XNdes infractions enregistr ´ees `a Chicago parordre chronologique(totalN=16104)
Carte de chaleur (densit ´e) des positions des infractions enregistr ´ees
`a Chicago en 2014
1 Le transport optimal un vieux probl `eme tr `es actuel !
2 Un probl `eme d’allocation de ressources
3 Transport optimal et distance de Wassertein
4 Illustration avec arriv ´ee de donn ´ees en ligne
5 Transport optimal pour l’intelligence artificielle ?
Hypoth `eses de mod ´elisation :
positions des lieux d’infraction : une suite de variables al ´eatoires X1, . . . ,Xn
ind ´ependantes et identiquement distribu ´ees, ´echantillonn ´ees `a partir d’une mesure de probabilit ´einconnueµde support X ⊂R2
positions des postes de Police : une mesure de probabilit ´e connue et discr `ete
ν=
J
X
j=1
νjδyj
1. Bercu, B. & Bigot, J. (2018) ArXiv :1812.09150
Probl `eme :trouver une application
T :X → {y1, . . . ,yJ} qui “envoie” la mesureµsur la mesureν=PJ
j=1νjδyjdefac¸on optimalepar rapport `a un co ˆut de transport
c(x,y) =kx−yk`p =
d
X
k=1
(xk−yk)p
!1/p
, x,y∈Rd(icid=2)
SoitT :X → {y1, . . . ,yJ}tel queT#µ=ν(notation math ´ematique de T“envoie”µsurν)
Definition (Formulation de Monge)
Le transport optimal entreµetν correspond `a r ´esoudre le probl `eme de minimisation suivant
W0(µ, ν) = min
T:T#µ=ν
Z
X
c(x,T(x))dµ(x),
o `uc(x,y)est le co ˆut du transport de masse de la positionx `a la positiony.
Remarque :W0(µ, ν)peut s’interpr ´eter comme une distance (dit de Wasserstein) entreµetν!
Transport optimal entre une mesureµ `a densit ´e vers une mesure discr `eteν(points noirs)
Transport optimal deµ `a densit ´e versν (points noirs) - Application optimaleTpour le co ˆut Euclidienc(x,y) =kx−yk`2
1 Le transport optimal un vieux probl `eme tr `es actuel !
2 Un probl `eme d’allocation de ressources
3 Transport optimal et distance de Wassertein
4 Illustration avec arriv ´ee de donn ´ees en ligne
5 Transport optimal pour l’intelligence artificielle ?
PositionsX1, . . . ,XNdes infractions enregistr ´ees `a Chicago parordre chronologique(totalN=16104)
Application optimaleTpour le co ˆut Euclidienc(x,y) =kx−yk`2apr `es n=100it ´erations etε=0.005
Application optimaleTpour le co ˆut Euclidienc(x,y) =kx−yk`2apr `es n=1000it ´erations etε=0.005
Application optimaleTpour le co ˆut Euclidienc(x,y) =kx−yk`2apr `es n=2000it ´erations etε=0.005
Application optimaleTpour le co ˆut Euclidienc(x,y) =kx−yk`2apr `es n=3000it ´erations etε=0.005
Application optimaleTpour le co ˆut Euclidienc(x,y) =kx−yk`2apr `es N=16104it ´erations etε=0.005
Application optimaleT pour le co ˆutc(x,y) =kx−yk`1 apr `es N=16104it ´erations etε=0.005
1 Le transport optimal un vieux probl `eme tr `es actuel !
2 Un probl `eme d’allocation de ressources
3 Transport optimal et distance de Wassertein
4 Illustration avec arriv ´ee de donn ´ees en ligne
5 Transport optimal pour l’intelligence artificielle ?
Base de donn ´ees d’images de c ´el ´ebrit ´es :CelebA Dataset1
1. http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html
Question :peut-on apprendre la distribution (mesure de probabilit ´e) de cet ensemble de visages et en g ´en ´erer al ´eatoirement de
nouveaux ?
R ´eponse :solution propos ´ee par des chercheurs de la soci ´et ´e Nvidia1qui s’appuie en partie sur le transport optimal !
1. https://research.nvidia.com/publication/2017-10 Progressive-Growing-of
Question :quelles sont les vraies images et celles g ´en ´er ´ees al ´eatoirement1?
1. https://research.nvidia.com/publication/2017-10 Progressive-Growing-of
R ´eponse -1 `ere ligne : g ´en ´eration al ´eatoire et lignes 2 `a 5 : vraies images (les plus proches de l’image g ´en ´er ´ee)1?
1. https://research.nvidia.com/publication/2017-10 Progressive-Growing-of