THEORIES ET REGISTRES DE REPRESENTATION

II.1.1 Les théories

Le travail mathématique sur les fonctions peut se situer a priori dans six domaines, qui correspondent à des théories mathématiques développées (autrement dit, il existe pour chacun de ces domaines un savoir savant qui définit les objets de ces domaines et la façon d'opérer sur eux, cf chapitre 1) :

1. la logique formelle (définition formelle des fonctions quelconques, graphes formels, quantification, composition de fonctions...) ;

2. le numérique (nombres, tableaux de valeurs, analyse de données...) ; 3. l'algèbre, pour les fonctions définies par des expressions algébriques ;

4. les graphiques (la théorie « savante » des graphiques, l'ancienne théorie des abaques, n'est cependant plus une théorie savante des mathématiques contemporaines) ; 5. la géométrie élémentaire (variation d'une longueur associée à une position d'un point, lieux géométriques...) ;

6. l'analyse : continuité, limites, primitives, dérivées, intégrales, séries.

Au début du travail sur les fonctions, seuls les cinq premiers peuvent être convoqués, du moins explicitement (la continuité, en effet, intervient implicitement dans le tracé des représentations graphiques de fonctions) ; nous nous proposons de regarder de quelle façon. Comme dans ce qui précède (chapitre 1), nous appellerons théorie le domaine mathématique concerné : nous dirons que le registre utilisé est par exemple celui de la théorie

algébrique, si les ostensifs employés font partie de ceux de cette théorie : ou si le travail porte sur les objets de la théorie et utilise les relations entre les objets et les outils de validation de la théorie.

Nous choisissons de parler de théorie plutôt que de cadre, la notion de cadre ayant déjà été définie par Douady, dans un sens plus large que celui que nous souhaitons utiliser. Rappelons en effet la définition donnée par R.Douady des cadres (Douady, 1986, p.11) :

« Disons qu’un cadre est constitué des objets d’une branche des mathématiques, des relations entre les objets, de leurs formulations éventuellement diverses et des images mentales associées à ces objets et à ces relations. (...) Deux cadres peuvent comporter les mêmes objets et différer par les images mentales et la problématique développée. »

Ce que nous considérons comme théorie, désigne donc la première partie de ce que Douady nomme cadre : une branche des mathématiques et les relations mathématiques entre les objets de cette branche.

Dans une théorie figurent donc des objets mathématiques ; or les mathématiques ont ceci de particulier que les objets ne sont accessibles qu'au travers de représentations, et leur traitement n'est possible que par ces représentations. Ces dernières peuvent appartenir à différents registres, qui ne sont pas forcément en correspondance biunivoque avec la

théorie : en effet certaines représentations sémiotiques peuvent être communes à plusieurs théories (par exemple les signes opératoires sont communs au numérique et à l'algébrique) ; une même théorie peut d'autre part faire appel à des registres de représentation différents : par exemple la géométrie utilise des dessins mais aussi des lettres, et pratiquement toutes les théories mathématiques utilisent le registre numérique.

II.1.2 Registres de représentation

Dans une théorie sont donc disponibles un certain nombre d'ostensifs qui peuvent appartenir à différents registres de représentation (Duval 1996). Ces registres de représentation permettent de disposer d'ostensifs d'une notion ; ces ostensifs se constituent en registres, c'est-à-dire en systèmes organisés d'ostensifs. Nous disons systèmes organisés, car ces ostensifs sont liés entre eux par des relations, relations qui elles-mêmes se traduisent parfois par des ostensifs spécifiques. Ainsi dans le registre formel, des symboles qui permettent de parler de fonctions, f et g, sont liés par d'autres ostensifs, par exemple o qui permet de représenter la composition de f et g ; il existe des flèches utilisées pour relier la variable x et son image ; ou des symboles qui permettent d'opérer sur des fonctions comme o déjà cité, mais aussi la somme, le produit, l'intégrale, le symbole exponentiel -1 qui permet de représenter l'inverse d'une fonction...

Tous les signes ne sont pas de même nature, certains sont surdéterminés alors que d'autres peuvent être affectés à n'importe quel objet mathématique : Duval (Duval 1996) parle de signes libres pour les signes qui n'ont pas de signifiance a priori, ce qui est le cas des signes qui servent à organiser les autres ostensifs (mais aussi de tous les signes du registre formel, comme x, f...) ; « droite » par exemple, n'est pas un signe libre, il ne peut désigner, dans un énoncé, n'importe quel objet mathématique : c'est un signe lié.

Duval (Duval 1996 p. 356) identifie trois aspects relatifs à la production ou l'utilisation de représentations sémiotiques : l'aspect structural, l'aspect phénoménologique, l'aspect fonctionnel. Dans ce qui suit nous n'étudierons pas l'aspect phénoménologique (mode de production, interne ou externe, et mode sensoriel pour l'appréhension) ; nous évoquerons l'aspect structural (nombre et nature des signes, relations entre eux) ; nous nous intéressons surtout à l'aspect fonctionnel, c'est-à-dire ce qui fait qu'un système de signes constitue bien un registre de représentation, à savoir sa capacité à assurer les trois fonctions de :

— communication (ou transmission) ; — traitement ;

— objectivation.

Pour qu'une connaissance ou un savoir mathématique puisse être mis en oeuvre, il est alors nécessaire, toujours selon Duval :

— que le sujet dispose, non pas d'un mais de plusieurs registres de représentation (on ne peut en effet différencier un objet de sa représentation que si on dispose d'au moins une autre représentation, dans un autre registre) ;

— qu'il ait acquis la coordination de ces registres, faute de quoi on observe les effets du cloisonnement entre les différents registres 48.

On peut alors distinguer les transformations de représentations qui restent dans le même registre, et que Duval nomme traitements, des changements entre registres différents, qui sont des conversions. D'autre part, il importe de bien distinguer l'objet de la représentation de son contenu : l'objet est le concept mathématique qui est représenté (une représentation est forcément une représentation de quelque chose), le contenu est ce qui est visible, et qui pourra être identifié comme forme explicite rendant accessibles certaines

48 Ces affirmations sont néanmoins discutées par certains chercheurs (Lacasta 1995; Chauvat 1997); pour notre choix de milieu, nous nous déterminerons par rapport aux fonctionnalités de chaque registre et non par rapport à cette coordination; il est par contre peut-être possible d'espérer récupérer celle-ci comme une conséquence du

175 propriétés de l'objet (Duval 1996). Il paraît clair qu'un représentant d'un concept n'en livre alors qu'un aspect partiel, c'est un des points que nous étudierons ci-dessous.

Ces éléments de sémiotique nous permettent de poser de façon plus précise le problème qui nous occupe, à savoir le travail que permettent, sur les fonctions, les différents registres de représentation relatifs aux théories mentionnées ci-dessus 49 ; et les éléments à introduire dans un milieu propre à l'apprentissage de ce concept. Cependant il nous paraît utile de dégager tout d'abord quelques caractéristiques des ostensifs ainsi que des représentants d'un concept, et quelques conséquences sur l'introduction de ces représentants dans un travail mathématique à but d'enseignement.

II. 2 OSTENSIFS

Chevallard désigne par outils sémiotiques les ostensifs à manipuler pour travailler sur un concept : outil sémiotique, ou instruments sémiotiques, car ils ont :

« une valence instrumentale et une valence sémiotique. (...) La valence instrumentale me permet de faire ; sa valence sémiotique permet de voir ce qui est

fait . Il y a plus. Lorsque, comme ici, les objets ostensifs manipulés figurent dans le registre de la scription ou de la trace, on peut voir, non seulement ce qui est en train de se faire, mais aussi ce qui a été fait. Leur tracé fonctionne comme mémoire du travail accompli, et me suggère ce qu’il reste à faire. » (Chevallard, 1996, p.51). Bosch et Chevallard (1999) soulignent qu'un non ostensif, c'est-à-dire un concept, est un émergent d'ostensifs. Les ostensifs sont non seulement des signes témoignant de l'activité mathématique, mais ils sont les instruments qui permettent celle-ci : ainsi il est impossible de séparer l'aspect conceptuel de l'aspect instrumental.

Par rapport au travail de Duval évoqué ci-dessus, il importe de noter une différence significative : Duval considère les objets mathématiques comme donnés a priori, et donc le travail sur ces objets dépend des connaissances du sujet, en particulier dans le traitement et la conversion. C'est une approche de type cognitiviste. Bosch et Chevallard ne laissent pas à la seule responsabilité du sujet le soin de faire, par exemple, le lien entre deux registres de représentation : en effet ce lien dépend d'une organisation praxéologique locale des mathématiques, laquelle est installée ou non dans l'institution qui a demandé la tâche de conversion. Cette organisation, si elle existe, peut être décrite ; sinon, elle peut être pointée comme manquante. En ce sens il existe donc des ostensifs servant à l'organisation d'autres ostensifs, ou au passage entre ostensifs. Un exemple d’organisation manquante de ce type de passage, concernant le travail sur les fonctions numériques, est donné à la fin du présent chapitre.

Afin de savoir quel travail ils permettent de faire avec (sur) les fonctions, il sera nécessaire de préciser les outils sémiotiques utilisés dans chaque registre. Considérons, comme dit ci-dessus, que les règles de transformation ou d’écriture propres à chaque théorie font également partie des outils sémiotiques considérés. Ces règles ne se voient parfois qu’implicitement dans toute manipulation des outils, mais elles sont bien explicitables, comme savoirs de la théorie dans lequel se fait le travail. En ce sens ce sont elles aussi des instruments connus du travail.

II. 3 REPRESENTANTS

49 De plus, le registre de la langue naturelle est présent à travers tous les autres; il peut parfois même se substituer à un registre.

Un représentant d’une fonction est un élément particulier de l'ensemble des outils sémiotiques recensés ci-dessus, par exemple une formule algébrique qui définit la fonction, ou le symbole « f », ou encore la représentation graphique de la fonction dans un repère (O, i, j). Un représentant d'une fonction est donc un ostensif de fonction choisi dans l'un des registres disponibles. Le terme « représentant » a été choisi pour éviter la confusion avec « représentation », qui est l’acte de représenter ; il est employé dans certains articles (voir Schwartz et Dreyfus, 1995) dans le sens que nous lui donnons (en anglais « representative »). Un représentant est ce qui permet le traitement d'un concept ; les possibilités de traitement ouvertes par un représentant ou un registre ne dépendent que du concept et du représentant, ce sont des éléments du savoir sur ce concept relativement à ce représentant. Mais les représentants, qu’ils appartiennent à n’importe quel registre correspondant à une théorie, ont des caractéristiques communes que nous nous proposons d’étudier. Ces caractères peuvent être décrits comme étant essentiellement d’être partiels et ambigus. Ces caractéristiques donnent lieu à des connaissances, lesquelles prennent plus ou moins en compte ces caractères et permettent de se servir de façon adéquate des représentants et de changer de représentant (cf II et III ci-dessous). Remarquons que ces caractères correspondent assez bien à ce que J.Rogalski, en parlant des graphiques (Rogalski 1984), avait appelé leurs caractères réducteur et producteur. En effet le caractère réducteur vient de ce que le représentant n'est pas apte à rendre compte de la globalité du concept ; et le caractère producteur de ce qu'un représentant détermine des observables non prévus à l'avance dans la représentation. Convenons donc d'adopter les qualificatifs réducteur et producteur pour tout représentant, même non graphique.

La suite de cette étude prévoit donc d'analyser les possibilités ouvertes, dans le travail sur les fonctions, par les différents registres de représentation et les représentants de fonctions qui leur sont attachés ; et d'examiner comment se produisent les transformations à l'intérieur d'un même registre, ou entre deux registres différents. Cependant il est d'abord nécessaire de préciser les caractères réducteur et producteur des représentants.

II. 3.1 Le caractère réducteur des représentants

Il est issu de la distinction entre l'objet et ses représentants. Il en résulte que chaque représentant d’une fonction (d’un concept plus généralement) n’hérite que d’une partie des propriétés du concept. On peut faire l’hypothèse que c’est de la multiplicité des représentants possibles que le concept et ses propriétés vont se dégager (coordination des représentants à l'intérieur d'un registre et entre registres), sans pour autant penser forcément que la coordination est un préalable au travail sur le concept.

On peut observer que le caractère réducteur d’un représentant le rend porteur de certaines propriétés du concept ; ces propriétés ne sont pas les mêmes suivant la théorie à laquelle appartient ce représentant. Ainsi le registre numérique (tableau de valeurs) ne permet pas de conjecturer la continuité, ou les limites, ni même les extrema d’une fonction ; le cadre algébrique est muet sur le sens de variations, mais commode pour les opérations algébriques ; le cadre formel ne donne pas de renseignements sur les valeurs prises par f(x) ni sur l’équation de la courbe...

Du fait du caractère réducteur (et producteur, voir ci-dessous) des représentants, il correspond donc à chaque registre un domaine de fonctionnement, lequel est la traduction, en termes d’action ou de validation, de ce que l’élève, ou le mathématicien, peut faire ou prouver, sur le concept concerné, avec les outils sémiotiques du registre considéré. Le domaine de fonctionnement des registres, relativement à la notion de fonction, est étudié au II de ce chapitre.

Une conséquence fondamentale du caractère réducteur des représentants est la part d’arbitraire qui demeure dans certains représentants d’une fonction. Ainsi un tableau de valeurs de (x, f(x)) ne définit pas une fonction, du moins sur un intervalle de R ; par exemple

177 :

x - 1 0 1 peut être le tableau de trois valeurs de f(x) = x

f(x) - 1 0 1 _{de f(x) = x} 3

, ou de f(x) = sin π x, ou encore d’une autre fonction, absolumment quelconque, dont on ne connait pas de forme algébrique. C’est dire que tout représentant donné correspond à plusieurs fonctions possibles. Ce caractère est plus ou moins marqué suivant les outils ; il semble couramment admis que l’outil algébrique est porteur de moins d’arbitraire que l’outil graphique : nous aurons à interroger cette affirmation avec les moyens d’analyse dont nous disposons.

Remarquons qu’il n’en est pas de même pour tous les représentants des objets mathématiques : un représentant d’un nombre, dans un système de numération donné, définit ce nombre, même si on ne sait pas l’écrire « complètement » ; ou même, le fait d’écrire une équation et de préciser l’ensemble des valeurs de la variable définit l’équation. Il en est de même pour certaines fonctions (les fonctions « simples ») mais de loin pas pour toutes. Les représentants formels sont peut-être ceux qui recèlent le plus d'arbitraire, parce que l'on peut désigner une fonction une lettre, f par exemple, sans rien savoir sur cette fonction. Cependant les outils formels sont fréquemment utilisés pour parler de fonctions

quelconques, ce qui annule l'arbitraire en le généralisant. D'autre part les outils formels peuvent, dans certains cas, permettre d'énoncer des propriétés des fonctions, ou des intervalles sur lesquelles les fonctions sont définies, de manière extrêmement précise.

Les représentants numériques, comme dit ci-dessus, comportent une part importante d'arbitraire, du moins à un niveau élémentaire ; à des niveaux plus élevés, il existe des méthodes (régression linéaire, approximation par des polynômes, méthode des moindres carrés, lissage d'une courbe...) pour réduire l'incertitude sur des données numériques, ou pour les organiser d'une façon qui permet de les modéliser par des fonctions. Ces méthodes ne font pas partie de la culture de l'institution « enseignement secondaire » . Tout au plus y a t-on introduit un peu de statistiques, qui ont d'ailleurs du mal à trouver une niche écologique. Les représentants algébriques peuvent sembler moins réducteurs que les autres, car ils paraissent peu porteurs d'arbitraire ; s'ils définissent exactement, en effet, la fonction dont on parle, ils sont néanmoins incapables de rendre visibles certaines de ces propriétés, comme le sens de variations.

II. 3.2 Le caractère producteur des représentants

Ce caractère est intrinsèque au fait de représenter, c'est-à-dire à l'utilisation des signes. Un signe (ou une série organisée de signes) peut être pris pour lui-même, ou bien pour quelque chose qui est représenté ; auquel cas il peut renvoyer à plusieurs signifiés, que le contexte peut éventuellement départager. Dans le cas de la sémiotique de la langue naturelle, par exemple, le contexte est culturel et l'appui sur celui-ci fait qu'un signe organisé (un mot par exemple) ne se trouve pas sans signifié(s), ni celui-ci (ceux-ci) sans référent(s). Il n'en est pas forcément de même en mathématiques, où l'on peut imaginer manier les suites de symboles uniquement d'après les règles logiques qui les régissent - ces symboles et ces règles ont même été construits dans ce but - sans aucun contrôle sur ce qu'ils représentent. Ainsi le signe « f » peut n'être pris que comme un symbole sur lequel on a le droit d'appliquer certaines règles formelles ; le fonctionnement interne de ces règles ne garantit pas que ce symbole renvoie au concept « fonction » . On peut d'ailleurs observer, du primaire à l'université, des comportements d'élèves ou d'étudiants maniant des symboles sans référence au concept, avec complète perte de sens.

D'autre part un même représentant peut représenter différents objets, mathématiques ou non : c'est en particulier vrai dans les registres géométriques ou graphiques, où l'on sait

bien que l'élève peut voir le dessin là où le professeur voit la figure. Mais sans doute plus d'élèves qu'on ne le pense, même au niveau de Première scientifique, ne voient dans une formule algébrique que des signes agencés suivant des règles hermétiques, et n'ont que peu de moyens de contrôle sur le travail algébrique (cf II.3 ci-dessous). Par ailleurs, le caractère réducteur signalé ci-dessus entraîne forcément une ambiguïté sur l'objet « total » représenté : ainsi du tableau numérique, comme nous l'avons vu ; mais aussi du graphique, qui n'est vu que dans une fenêtre et qui pourrait être prolongé de plusieurs façons différentes ; de plus le dessin-graphique, même dans la fenêtre représentée, n'est pas la RGC d'une fonction unique mais d'une classe de fonctions, étant donnée l'approximation du tracé.

Par ailleurs, les caractéristiques perceptives du registre choisi peuvent également entraîner des biais d'interprétation : nous reprendrons l'étude de ce phénomène plus particulièrement pour le registre graphique (étude largement avancée par J.Rogalski, Chauvat, Duval).

Dans ce cadre d'analyse, il est maintenant nécessaire d'étudier les possibilités ouvertes par chacun des registres pour le travail sur les fonctions, ainsi que la façon dont l'enseignement traditionnel fait fonctionner chacun des registres ; nous pourrons ainsi envisager les alternatives à cette organisation du savoir.

179

III. FONCTIONNALITES DES REPERTOIRES ET DES