Un autre regard sur l’échantillonnage observé dans les MOOC

Au cours du dernier billet, nous avons commencé à parler de l’échantillonnage chez les certifiés, c’est à dire la propension d’un certain nombre d’utilisateurs ayant obtenu le certificat de sauter des activités prescrites. Nous avons émis certains doutes quant au fait que ce comportement était encouragé par les équipes pédagogiques, suggérant que ce comportement correspondait davantage à une stratégie de l’apprenant pour minimiser les coûts, et maximiser les gains. Quelques mots pour conclure sur la question.

Pour mieux interpréter l’importance des certifiés pratiquant une forme d’échantillonnage, il nous faut distinguer au moins trois formes d’échantillonnage. Soit l’échantillonnage résulte d’un processus d’autorégulation. L’apprenant, après avoir établi ses besoins de formation, se construit son propre curriculum et choisit les vidéos à visionner sur la base de ses objectifs d’apprentissage. C’est le cas de figure que nous pourrions qualifier d’échantillonnage utilitariste. Cette forme d’échantillonnage constatée dans les xMOOC correspond peu ou prou au processus d’autorégulation que Jézégou (2015) décrit dans le cadre d’une analyse du MOOC connectiviste Itypa. L’auteure revient sur les différentes étapes de la phase d’autorégulation correspondante, qui correspond à la phase intitulée « identification des activités à conduire ». Celle-ci comprend l’étude des pistes d’activités proposées, l’analyse de ses propres besoins de formation par rapport à la thématique et aux activités proposées, et la fixation et la calibration d’objectifs d’apprentissage. Nous avons proposé sur la base des entretiens une seconde forme d’échantillonnage, l’échantillonnage hédoniste, reflétant le fait que le participant choisit les vidéos à visionner non pas sur la base d’objectifs d’apprentissage, mais sur la base de sa satisfaction personnelle, et une dernière forme, l’échantillonnage du minimaliste. Cette dernière forme reflète avant tout une stratégie visant à obtenir le certificat tout en minimisant son investissement temporel.

Ces différents cas de figure peuvent co-exister au sein d’une même formation, et l’un des enjeux des futures recherches sur l’échantillonnage consiste précisément à estimer l’importance de ces différentes formes. La hausse de l’échantillonnage tout au long de la séquence pédagogique du MOOC Effectuation constitue à nos yeux un argument en faveur d’une certaine importance de l’échantillonnage du minimaliste. Si cette hausse se confirmait sur un échantillon suffisamment important de dispositifs, il serait peu probable que ce soit systématiquement en fin de formation que se trouvent les ressources n’intéressant pas les participants ou ne correspondant pas à leurs objectifs pédagogiques. Une autre approche méthodologique basée sur des enquêtes pourrait compléter cette approche basée sur les traces d’activités ; nous reviendrons sur cette question en fin de manuscrit.

Nous interprétons l’existence des certifiés se cantonnant aux seules activités évaluées (les solvers dans la littérature anglo-saxonne) comme le reflet d’une forme extrême d’échantillonnage du minimaliste. Ce comportement reflète probablement l’existence de participants visant avant tout à obtenir le certificat du MOOC, quelle que soit la nature de l’intérêt pour le certificat. Dans la mesure où ils estiment pour certains maîtriser déjà le contenu du cours, ils visionnent le strict minimum pour obtenir le certificat. Leur existence prouve avant tout que le visionnage du cours n’est pas toujours nécessaire à la bonne réalisation des activités. On peut également émettre l’hypothèse selon laquelle certains ont créé plusieurs comptes pour maximiser leur chance de succès, mais cette hypothèse n’a de sens que pour les dispositifs où le nombre d’essais autorisés par exercice est limité.

Ainsi, Northcutt et al. (2015) révèlent sur la base des données de la plate-forme edX l’existence d’un tel phénomène, qu’ils attribuent à la recherche d’une maximisation des notes obtenues. Ils utilisent un compte-esclave pour identifier les bonnes réponses, au prix d’un taux d’échec important, et un compte-maître dans lequel ils entrent les bonnes réponses récoltées par l’intermédiare du premier ; cette procédure est nommée CAMEO, pour « copying answers using multiple existences online ». Les auteurs se basent sur 115 cours et deux millions d’inscrits d’edX pour estimer l’ampleur du phénomène. Ils montrent que si seuls quelques pourcents des certifiés adoptent cette pratique, celle-ci prévaut largement chez les participants, certes minoritaires, qui obtiennent plusieurs dizaines de certificat. Si le comportement est loin d’être anecdotique il n’en demeure pas moins marginal. Nous pensons que seule une minorité des solveurs pourrait correspondre au cas de figure du CAMEO, et qu’ils reflètent avant tout une forme extrême d’échantillonnage minimaliste. Une meilleure compréhension de l’intérêt porté au certificat permettrait de mieux appréhender ce comportement qu’est l’échantillonnage du minimaliste, nous y reviendrons.

Concluons cette discussion sur l’échantillonnage relatif aux vidéos en soulignant qu’il est nécessaire pour des recherches ultérieures de s’intéresser non seulement à l’identification des vidéos visionnées, mais aussi à la proportion d’une vidéo donnée effectivement regardée par le participant. Dans cette réflexion sur l’échantillonnage, nous nous sommes implicitement basés sur l’hypothèse selon laquelle le fait de cliquer sur le bouton « lecture » de la vidéo s’apparentait au fait de regarder ladite vidéo dans son intégralité ; cette hypothèse est on ne peut plus discutable. Kim et al. (2014) montrent sur la base des données de quatre MOOC du MIT que le suivi d’une vidéo est loin d’être linéaire. Certaines parties de la vidéo concentrent l’essentiel des interactions, au sens où les participants visionnent plusieurs fois certaines séquences, tandis que d’autres parties sont plus souvent sautées.

Guo et al. (2014) constatent sur la base des mêmes données que la proportion de la vidéo visionnée par le participant, que les auteurs nomment le temps d’engagement, dépend largement de la durée de celle-ci. Bien évidemment, on ne peut déterminer sur la base de ce paramètre si le participant visionne effectivement la vidéo ou s’il ne fait que l’écouter tout en réalisant d’autres activités en parallèle, mais une telle approche reste plus rigoureuse que le fait de simplement se baser sur l’action qui consiste à appuyer sur le bouton Lecture de la vidéo. Pour une vidéo « longue », c’est-à-dire une vidéo qui dure entre neuf et douze minutes, la moitié de la vidéo est effectivement visionnée ; pour une vidéo dont la durée excède douze minutes, l’engagement chute au quart de la vidéo. Pour les MOOC qu’ils étudient, les auteurs constatent que l’engagement moyen sur une vidéo est de six minutes en moyenne.

Un développement ultérieur des recherches sur l’échantillonnage pourrait consister à prendre en considération la variable que constitue le temps d’engagement dans les seuils d’échantillonage, en raisonnant par exemple en termes de proportion de la durée totale de vidéos du dispositif effectivement visionnée, et non plus en termes de proportions de vidéos du dispositif pour lesquelles le participant a appuyé sur le bouton Lecture. Il pourrait être intéressant de comparer le temps d’engagement entre certifiés et non-certifiés, pour chercher à déterminer dans quelle mesure le fait qu’un visionneur assidu se concentre sur le seul visionnage de la vidéo le pousse ou non à s’engager davantage dans cette activité. On peut supposer qu’un participant dédiant par ailleurs un certain temps aux activités prescrites nécessaires à l’obtention du certificat sera possiblement plus enclin à économiser son temps en consacrant le minimum de temps à la vidéo, ou à l’inverse sera plus attentif et moins enclin à sauter des parties de la vidéo pour ne pas manquer une information susceptible de lui être utile pour les activités prescrites nécessaires à l’obtention du certificat. A notre connaissance, aucune des quelques études menées sur les vidéos de MOOC ne prennent en considération le lien entre temps d’engagement sur la vidéo et obtention du certificat. Une telle démarche permettrait de déterminer dans quelle mesure on sous-estime l’échantillonnage des certifiés en omettant la question du temps d’engagement sur la vidéo.

Pour conclure, je dirais que les petits travaux que j’ai réalisés sur l’échantillonnage des certifiés ont contribué à confirmer certains de mes doutes quant à « l’efficacité » de ces formations en ligne. Déjà que c’est pas toujours top en termes de nombre de personnes certifiées (au regard des investissements consentis dans la formation), mais si en plus les certifiés zappent une partie des vidéos pour se concentrer sur les activités évaluées, pourquoi se fatigue-t-on à les faire, je vous le demande … Malheureusement, je ne peux vous donner ici mes chiffres sur la question car ils sont en cours de publication. Un peu de patience. A nouveau, je vous tiens au courant dès que c’est publié …


2 réflexions au sujet de « Un autre regard sur l’échantillonnage observé dans les MOOC »

  1. Bonjour Matthieu,
    La question de l’échantillonnage minimaliste ne (re)pose-t-elle pas la question de l’évaluation et de la certification ?
    En effet, si le but de l’apprenant est de décrocher la certification, pourquoi s’étonner que ceux qui l’obtiennent n’ont pas TOUT visionné si les séquences zappées ne sont pas utiles lors de l’évaluation ?
    Cela reviendrait donc à admettre (et à baliser) certaines ressources comme « Pour en savoir plus », destinées aux hédonistes, et les autres comme étant fondamentales, tout en respectant les objectifs pédagogiques du MOOC.

    Patrick

    1. Je ne m’en étonne pas plus que cela, c’est surtout l’ampleur qui me surprend, en particulier dans des cours où toutes les ressources étaient « au programme ». Il est clair qu’il faut faire ce travail de balisage des ressources avant de pouvoir analyser de manière sérieuse ces questions d’échantillonnage. J’en parle d’ailleurs un peu dans le billet d’avant.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *