• Aucun résultat trouvé

L’intégration de temporalités multiples

Évaluation expérimentale, évaluation d’une expérimentation ou évaluation d’une expérience ?

2. Des représentations négociées des différentes populations

2.1. L’intégration de temporalités multiples

Un premier document de travail se présente sous formes de cercles concentriques et d’ellipses. Les ensembles désignés ne sont pas du tout empruntés aux catégories institutionnelles de niveau de classe ou de type d’établissement. Ils partent des dispositifs et de leurs effets prévisibles : la population éligible étant supposée connue, elle n’est pas vierge de toute action avant la mise en place du dispositif. Comme à peu près partout en France, un niveau minimal standard est déjà appliqué en application de textes qui sont

136

censés avoir résolu le problème depuis longtemps. Les formes locales de ces actions basiques sont toutefois très variables, selon les logiques d’acteurs dans le champ (MGI, CIO, ML…)3 ou encore le degré de coopération/concurrence entre représentants de l’administration centrale et élus locaux.

Schéma 3

Présentation du dispositif par l’évaluateur avec différenciation des sous-populations mais sans temporalité

Source : Céreq Caen.

Si on peut regretter dans une telle représentation, l’absence de toute perspective temporelle, les espaces dans lesquels se meuvent le dispositif standard et le dispositif expérimental sont mieux cernés : certaines parties sont disjointes alors que d’autres se chevauchent, de plus un certain flou aux frontières est probable.

Deux conclusions peuvent en être tirées :

• un tirage aléatoire est impossible non seulement parce que la taille globale de la population mère est insuffisante, mais aussi parce que les échelles des populations sont très différentes : certains poissons seraient prélevés dans des grandes mares, mais d’autres dans des très petites mares ;

• les effets en sortie de dispositif sont dépendants des propriétés à l’entrée, dont certaines ne sont pas stabilisées ;

• l’évaluation ne porte pas sur l’effet net d’un dispositif sur une population vierge d’action publique, mais sur une population ayant inégalement subi un traitement moyen appliqué au plus grand nombre, et avec un succès relatif, interdisant un raisonnement toutes choses égales par ailleurs.

3 MGI : mission générale d’insertion ; CIO : centre d’information et d’orientation ; ML : mission locale.

La réintroduction des temporalités amène à introduire deux nouvelles dimensions dans le modèle :

• les publics ne sont pas identifiés par catégories institutionnelles de niveau de diplôme ou d’établissement, ni par des cercles concentriques basés sur une population mère. Ils sont repérés à partir du type de source d’informations disponibles : la principale source est la base élèves des rectorats (Sconet), les autres sources, classées « hors Éducation nationale » sont plus disparates mais sont aussi des bases d’inscrits dans les établissements (CFA, DRAAF)4 ou ayant eu contact avec l’établissement (Pôle Emploi, ML). Le changement d’échelle est signalé avec une partie nouvelle 18-20 ans ;

• la temporalité est vue à travers la succession des deux dispositifs, ce qui n’est pas toujours possible lorsque le dispositif antérieur standard continue à courir sur l’ensemble de l’année d’expérimentation ;

• enfin, le nouveau type de sortants en cours d’année est figuré à part.

Schéma 4

Présentation du dispositif par l’évaluateur avec différenciation des sous-populations et temporalité des dispositifs

Juillet Septembre Novembre

Dispositif 1 standard Dispositf 2 expérimental

Reclassés Reclassés restant

dans leur formation Abandons Dispositif 1

Non reclassés Non reclassés

Sortis sans qualifications entre les deux années scolaires âgés de 16-18 ans hors Educ. Nat. deux années scolaires âgés de 16-18 ans Educ. Nat.

Non traités Non traités

Sortis sans qualifications entre les deux années scolaires âgés de 18-20 ans Educ. Nat.

Non qualifiés qui ne sortent pas d’une formation initiale

Décrochants de l’Educ. Nat. Ou d’un CFA âgés de 16-20 ans pour l’année

scolaire en cours

Éligibles dispositif 1 standard Source : Céreq Caen Éligibles dispositif 2 expérimental

Cette représentation a l’avantage de réintroduire une temporalité dans la lecture et le suivi de l’expérimentation, mais pas toutes les temporalités :

• celle des jeunes est implicitement considérée comme linéaire et irréversible ;

• les sortants en cours d’année sont représentés en somme cumulée, alors qu’on peut espérer un effet en cours d’année ;

• la temporalité des opérations d’évaluation n’apparait pas : à quelle date de saisie des informations quelle population est comparée à quelle autre ? Or la date de saisie représente un enjeu : elle atteste ou dénonce l’incidence rapide ou lente de l’action engagée.

4 CFA : centre de formation d’apprentis ; DRAAF : Direction régionale de l'alimentation, de l'agriculture et de la

138

D’autre part, cette représentation confirme l’imbrication de sous-populations sur lesquelles les effets du dispositif risquent d’être différenciés, mais elle perd en nuance en masquant les chevauchements et les effets de halo aux frontières.

Une troisième modélisation réduit encore le différenciation d’ordre analytique des sous-populations en fusionnant les échelles, ce qui ne fait que traduire un glissement non prévu chez l’expérimentateur qui a étendu le dispositif standard aux mêmes classes d’âge, à savoir les 16-18 et les 18-20 ans.

Mais cette réduction résulte aussi de l’entrée en phase opérationnelle de l’évaluation :

• les non qualifiés qui ne sont pas tout récemment sortis de la formation initiale sont exclus de l’évaluation car la population mère est très incertaine, et le biais de sélection à partir de cette population mère trop important : comment déterminer avec certitude le fait qu’un jeune faiblement qualifié et ayant un emploi revienne sur ses pas pour compléter une formation. Les études sur les demandes de VAI montrent toute la complexité de cet élan réflexif ;

• les 16-18 et les 18-20 ans sont considérés sur le même plan en vue d’obtenir un indicateur globalisant de performance du dispositif, sans corriger un biais qui lié au fait que plus l’âge est avancé, plus on s’éloigne des seuils d’obligation scolaire (juridique à 16, et sociale plus tardivement), plus la probabilité est élevée de trouver une option alternative ;

• les opérations d’évaluation se concentrent sur des indicateurs de réussite de jeunes sans solution repérés en début ou en cours d’année.

Schéma 5

Présentation du dispositif par l’évaluateur avec réduction des sous-populations et temporalité de l’évaluation

Les resserrements successifs éloignent à chaque fois un peu plus de la possibilité même d’un raisonnement probabiliste. Ils se ramènent à des taux de jeunes sans solution éligibles et traités, comparés à des jeunes sans solution traités sans succès ou non traités. Il est aussi de plus en plus difficile d’opérer tous les redressements sur les sous-populations qui garantiraient une identité de caractéristiques sociales, démographiques, scolaires et d’insertion en emploi.

Un compromis consiste à descendre à la plus petite unité observable, l’individu et de s’assurer qu’il sera rapproché par paire d’un autre individu dont on admettra que ses caractéristiques le rendent comparable.

Outline

Documents relatifs