SID L3-Learning
Examen du 18 avril 2017
Durée 2h-Documents autorisés: notes et planches de cours
Apprentissage d'une fonction sur [0, 1]
On souhaite prédire une relation entrée-sortie où et . L'échantillon d'apprentissage est:
Y = F(X) X ∈ [0, 1] Y ∈ ℝ
(0.2,F(0.2)), (0.43,F(0.43)), (0.62,F(0.62)), (0.75,F(0.75)), (0.87,F(0.87)).
On utilise la méthode des plus proches voisins. Soit ˆF(X) la prédiction obtenue au point X ∈ [0, 1]. 1. On se place dans le cas d'un seul voisin. Calculer .
2. On suppose que . Représenter graphiquement sur un même schéma les fonctions et .
3. Utiliser la méthode du Jacknife pour évaluer l'erreur quadratique de l'estimateur.
4. Reprendre les questions précédentes pour les plus proches voisins.
5. Quel voisinage ( ou ) préconisez-vous pour prédire la fonction ?
(X) ˆF
F(X) = X + 3 F
ˆF
2 2
1 2 X + 3
Beat bits
Soit et deux vecteurs aléatoires indépendants à valeurs dans ( ). On suppose que les composantes de (respectivement de ) sont des variables aléatoires indépendantes de même loi. On
pose et , ( et ).
1. Que vaut , ( )?
2. Soit où est la distance de Hamming sur . Quelle est la loi de ?
3. On suppose que . Que vaut l'espérance de ? Pour quelle valeur de , cette espérance est- elle maximale? Comment interpréter ce résultat?
X Y {0, 1}d d ∈ ℕ
X Y
ℙ( = 1) =Xj θ1 ℙ( = 1) =Yj θ2 j = 1,⋯,d 0 ≤ θ1,θ2 ≤ 1 ℙ( = )Xj Yj j = 1,⋯,d
Z = d(X,Y) d ℝd Z
=
θ1 θ2 Z θ1