Planification
La planification d’une épreuve
Il est important de préparer avec soin les instruments utilisés pour recueillir l’information nécessaire à la réalisation d’une évaluation des apprentissages. Plusieurs activités doivent être accomplies pour assurer la disponibilité des instruments appropriés au mécanisme que l’on compte utiliser. Au moment de la planification d’’une épreuve, on doit considérer certains aspects pour s’assurer disposer d’outils de collecte de données adaptés au mécanisme d’évaluation à préparer. Le logiciel EduStat peut s’avérer un outil utile au moment de la planification d’une épreuve. La définition des paramètres de la base de données de format EduStat permettra de rattacher les items (c’est-à-dire les variables) au tableau de spécification.
A. Étapes d’élaboration d’une épreuve
Au moment de sa planification, les concepteurs doivent réaliser les activités suivantes :
B. Tâches à accomplir
Après avoir planifié la production d’une épreuve, il faut développer les items qui feront partie de l’épreuve nécessaire à la réalisation de l’évaluation projetée; il s’agit de réaliser les tâches suivantes :
C. Documents à préparer
En même temps que les responsables de l’évaluation préparent l’épreuve qui sera utilisée pour recueillir l’information auprès des élèves, il faut rédiger les différentes consignes reliées à chaque item ou à l’ensemble de l’épreuve. Il s’agit de produire les documents suivants :
Rappelons ici que les décisions prises dans le cadre de l'évaluation des apprentissages pour des fins de certification ou de sélection peuvent avoir des conséquences importantes. Il vaut donc mieux prendre le temps de bien planifier l’opération pour assurer la qualité des décisions prises à la suite de l’examen des résultats obtenus par les élèves. Quant au processus d’évaluation pour des fins de pilotages (évaluation formative et enquêtes sur les acquis scolaires, en particulier), il faut que le mécanisme permette la collecte d’information pertinente à la prise de décisions.
D. Facteurs à considérer
Plusieurs facteurs incitent à accorder une attention particulière à la planification de la démarche d’élaboration des instruments :
E. Conditions à respecter
Plusieurs conditions doivent être respectées au moment de la planification de l’instrumentation nécessaire à la réalisation d’une enquête.
1. Exprimer clairement le but de l’instrumentation
Il peut sembler futile voire même inutile de signaler qu'il faille exprimer clairement le but de l'épreuve. Toutefois, il est important de poser la question suivante : pourquoi administre-t-on l'épreuve? Les réponses à cette question sont nombreuses et elles ont des répercussions sur la rédaction, l'utilisation et la correction de l'épreuve.
Quand on désire réaliser l'évaluation des apprentissages pour attester des compétences acquises par les élèves au terme d'une année ou à la fin d'un programme d'études, les exigences de qualité des épreuves s'avèrent grandes surtout si la clientèle mesurée est nombreuse. Si l’instrumentation se déroule dans le cadre de l’exécution des activités d’enseignement (évaluation formative), il faut pouvoir exploiter rapidement l’information recueillie dans le but d’adapter les activités pédagogiques à la situation en cours. Enfin, s’il s’agit d’une enquête sur les acquis scolaires, l’instrumentation doit permettre de disposer de renseignements utiles à la prise de décisions.
2. Décider du moment d'administration de l'épreuve
Les personnes qui ont la responsabilité d’administrer une épreuve et des questionnaires complémentaires doivent déterminer le moment où cet instrument sera administré. Lorsque c’est possible, le moment doit être choisi de telle sorte que les conditions permettent aux élèves de manifester au mieux leurs compétences.
Quand l'épreuve est préparée par un organisme externe, qu'il s'agisse d'un Ministère ou d'une firme spécialisée, les élèves et les enseignants doivent être avisés assez tôt pour qu'ils puissent s'y préparer.
3. Choisir le type d'épreuve
La forme d'épreuve se ramène souvent au questionnaire écrit donné à un groupe d’élèves. Pourtant, il conviendrait là aussi de vérifier si une autre forme ne serait pas plus appropriée. Par exemple, le questionnaire écrit ne convient pas toujours quand on veut mesurer l'habileté d'un élève à résoudre des problèmes. Dans ce cas, l'épreuve pratique est souvent la seule qui soit réellement appropriée. Si, pour des raisons économiques, les responsables décident de mesurer ce type de rendement à partir d'un questionnaire écrit, ils devront en tenir compte lors de l'interprétation des résultats et être conscients de la limite de cette mesure.
Il existe trois grandes familles d'épreuves:
Nous retenons souvent l’épreuve écrite. Il s’agit de la forme habituellement utilisée pour recueillir l'information sur la performance des élèves.
4. Prévoir la rédaction des items et leur finalisation
La rédaction des items d'une épreuve exige beaucoup de temps et des habiletés particulières. Il faut donc prévoir un temps suffisant pour franchir cette étape et déterminer qui y participera, quand et comment. Nous aborderons ces aspects plus tard.
5. Prévoir les conditions physiques d'administration
Cet aspect est particulièrement important lorsque l'épreuve est administrée à l'échelle nationale. Les responsables doivent s'assurer que les conditions d'administration sont réalistes compte tenu de la clientèle visée. Ils doivent aussi veiller à ce que les conditions d'administration soient les mêmes pour tous les élèves et prévoir des mécanismes pour identifier tous les problèmes rencontrés au moment de la passation de l'épreuve. Nous reviendrons sur les aspects reliés au contrôle de la qualité.
6. Prévoir les modalités de correction
Dans le cas des épreuves à réponse choisie, les responsables planifient tous les aspects techniques reliés au format des documents prévus pour recueillir l’information auprès des élèves et du personnel. La correction des épreuves à réponse élaborée exige beaucoup de temps. Les responsables doivent prévoir le nombre de correcteurs en tenant compte de la longueur moyenne des réponses et inclure, dans le protocole de correction, des étapes de contrôle afin d'assurer la qualité de la correction.
7. Prévoir les conditions de succès
Pour juger si un élève a réalisé les apprentissages prévus dans un programme, il faut comparer ses résultats aux exigences qui ont été établies par consensus en définissant ce qui est essentiel selon les finalités de l'éducation. L'important est de préciser des exigences réalistes par rapport au programme en tenant compte du contexte. Cet aspect touche tant un mécanisme destiné à l’évaluation des élèves pris individuellement qu’une enquête portant sur une population donnée.
Pour juger de la compétence d'un élève, dans le contexte d'une épreuve, il faut ordinairement déterminer une note de passage (par exemple, 10/20) ou un seuil de réussite. La note de passage est utilisée dans un contexte normatif et demeure la même quelle que soit l'épreuve utilisée. Dans une épreuve à référence « critériée », pour juger de la compétence d'un élève, on détermine un seuil de réussite. Le seuil de réussite est le niveau de qualité à partir duquel on considère une performance comme réussie. Il est établi par consensus et diffère d'une épreuve à l'autre. Le seuil de réussite peut se définir comme un résultat qui divise une distribution de résultats en deux parties distinctes : la première contenant les résultats à partir desquels on infère la compétence des individus et la seconde, les résultats à partir desquels on infère l'atteinte d'un degré insuffisant de compétence.
Il ne faut pas considérer la note de passage ou le seuil de réussite comme un nombre magique. Il y a toujours une marge d'incertitude autour du résultat choisi comme seuil de réussite ou comme note de passage. Le risque d'erreur est présent. On peut juger un élève compétent alors qu'il ne l'est pas, comme on peut juger un élève incompétent alors qu'en réalité cet élève maîtrise les apprentissages évalués. Il s'agit d'un problème statistique mais aussi d'un problème pédagogique. Il faut donc prévoir des mécanismes pour juger les cas limites et les situations exceptionnelles. Dans les cas douteux ou imprévus, on convoque un comité dont les membres analysent les données et confrontent leurs jugements en les justifiant. Dans tous ces cas difficiles à résoudre, le souci de justice doit guider les personnes qui jugent.
Lorsqu’il s’agit d’une enquête sur les acquis scolaires, il peut être utile de déterminer les attentes des personnes concernées par l’analyse des résultats obtenus (il faudra aborder ce sujet au moment de l’analyse des données recueillies et de la préparation des rapports d’évaluation.
8. Choisir une façon de conserver les données
En évaluation, la planification de l’instrumentation vise aussi la façon de conserver les données. On peut procéder de différentes façons. Les modalités retenues tiennent compte des moyens techniques dont disposent les organismes scolaires. Il faudra aborder cette question au moment de la publication des résultats obtenus à la suite de l’administration du mécanisme d’évaluation.
9. Considérer certains aspects techniques
La conduite d’une activité d’évaluation des apprentissages comporte plusieurs aspects techniques à contrôler si l’on souhaite assurer la rigueur du mécanisme et la disponibilité de l’information par rapport à l’échéancier fixé au départ. Nous présentons ci-dessous quelques points à surveiller au moment de l’élaboration des épreuves, sachant qu’une liste beaucoup plus longue devrait être dressée si l’on voulait être exhaustif.
9.1 Disposition des items
Après avoir élaboré un ensemble d'items ou d'exercices, les responsables de la conception d'une épreuve doivent en réaliser l'assemblage. Au moment de remplir cette tâche, il faut tenir compte de la capacité des élèves. On doit aussi considérer les tâches liées à l'entrée des données; la disposition des items doit donc faciliter la tâche proposée aux élèves et les travaux techniques reliés à la saisie de l'information.
9.2 Réponses des élèves
Les concepteurs doivent opter pour les stratégies les plus adaptées qui permettront aux élèves de fournir leurs réponses. On doit aussi préciser si les élèves auront droit à certains instruments (livres de référence, papier brouillon).
9.3 Correction et codage
Il arrive fréquemment qu'il soit nécessaire de corriger les réponses fournies par les élèves. Comme nous l’avons noté plus haut, il faut alors prévoir les critères qui seront utilisés par les correcteurs pour accomplir cette tâche avec rigueur. On devra souvent réaliser des travaux de codage de l'information pour être en mesure de mieux la traiter.
9.4 Saisie de l'information
Il est important de prévoir, dès la phase de conception de l'instrumentation, le type de saisie de l'information qui sera retenu. Il sera alors plus facile de rendre l'épreuve mieux adaptée à cette étape de réalisation d'une évaluation. S'il s’avérait que certains éléments d'information ne puissent pas être saisis avec les moyens disponibles, il est alors peu utile de recueillir de tels renseignements.
9.5 Compilations statistiques
L’information recueillie à l’aide de l’instrument prévu devra être compilée pour fournir un « bilan » du rendement des élèves évalués. Auparavant, il aura fallu traiter les réponses fournies. Il est souhaitable de connaître, au moment de la préparation de l’instrumentation, les techniques qui seront utilisées pour réaliser certains travaux. On s’assurera alors avoir l’information par rapport à des formats compatibles à la technologie utilisée.
9.6 Liens à établir entre éléments d'information
Les responsables d'une évaluation des apprentissages peuvent souhaiter mettre en relation plusieurs éléments d'information recueillis à l'aide de l'instrumentation (par exemple, renseignements démographiques ou expression d’opinions). Pour cela, il faut que les épreuves et questionnaires se prêtent à cet exercice.
Adresse courriel : info@mcpythagore.com