Dans le Wisconsin, les étudiants sont qualifiés de « à haut risque » en raison de leur race et de leurs revenus

Cette histoire a été co-publiée avec , une organisation de presse à but non lucratif couvrant l'éducation publique. Inscrivez-vous à ses newsletters . Chalkbeat ici L'été dernier, les administrateurs de l'école secondaire Bradford à Kenosha, dans le Wisconsin, se sont réunis comme ils le font chaque année pour planifier la nouvelle classe d'élèves de neuvième année. À partir d'une liste de centaines de collégiens, le directeur adjoint Matt Brown et son équipe ont dressé une liste de 30 à 40 élèves qui, selon eux, pourraient avoir le plus de difficultés à obtenir leur diplôme. Au cours des vacances d'été, Brown et son équipe ont parcouru la liste et visité le foyer de chaque enfant. Le personnel a apporté des T-shirts aux élèves, s'est présenté aux parents, a laissé ses coordonnées et, espérait-il, une première impression positive. « C'est comme : Hé, nous voulons vous proposer du matériel Bradford. Tu vas faire partie d'une famille Bradford maintenant », a déclaré Brown. "Cela vient en quelque sorte du point de vue : 'Hé, nous sommes là pour vous soutenir', pas nécessairement 'Hé, votre enfant a vraiment tout gâché l'année dernière'… parce que nous ne voulons pas que les parents se sentent comme vous' Je qualifie déjà leur enfant de fauteur de troubles. Mais dans la plupart des cas, les étudiants inscrits sur la liste de Bradford pour les visites d'été y atterrissent en raison d'une étiquette de « risque élevé » qui leur a été attribuée par un algorithme racialement inéquitable construit par l'État du Wisconsin, qui déclenche fréquemment de fausses alarmes. Depuis 2012, les administrateurs scolaires du Wisconsin comme Brown ont reçu leur première impression des nouveaux élèves grâce au Dropout Early Warning System (DEWS), un ensemble d'algorithmes d'apprentissage automatique qui utilisent des données historiques, telles que les résultats des tests des élèves, les dossiers disciplinaires, les programmes gratuits ou réduits. le statut du prix du déjeuner et la race - pour prédire la probabilité que chaque élève de la sixième à la neuvième année de l'État obtienne son diplôme d'études secondaires à temps. Deux fois par an, les écoles reçoivent une liste de leurs élèves inscrits avec la prédiction par code couleur de DEWS à côté de chaque nom : vert pour un risque faible, jaune pour un risque modéré ou rouge pour un risque élevé d'abandon scolaire. Les responsables de l'éducation ont autrefois présenté le DEWS comme un dans leur contre l'écart de diplômes dans l'État. outil clé lutte Alors que 94 pour cent des étudiants blancs l'année dernière, seulement 82 pour cent des étudiants hispaniques et 71 pour cent des étudiants noirs ont terminé leurs études secondaires en quatre ans. DEWS visait à mettre des prédictions personnalisées entre les mains des éducateurs suffisamment tôt pour qu'ils puissent intervenir avant qu'un enfant ne montre des signes évidents de dérapage. ont obtenu leur diplôme à temps Mais après une décennie d'utilisation et des millions de prédictions, The Markup a découvert que DEWS pouvait influencer de manière incorrecte et négative la façon dont les éducateurs perçoivent les étudiants, en particulier les étudiants de couleur. Et une prochaine menée par des chercheurs basés à l'Université de Californie à Berkeley, qui ont partagé leurs données et leurs résultats de prépublication avec The Markup, a conclu que le DEWS n'a pas atteint son objectif principal : améliorer les taux d'obtention de diplôme pour les étudiants qu'il qualifie de « à haut risque ». » étude universitaire Une analyse interne de l’équité du Département de l’Instruction publique (DPI) menée en 2021 a révélé que le DEWS générait de fausses alarmes concernant les étudiants noirs et hispaniques qui n’obtenaient pas leur diplôme à temps à un rythme nettement plus élevé que celui de leurs camarades de classe blancs. Le taux de fausses alarmes de l'algorithme (la fréquence à laquelle un étudiant qui, selon lui, n'obtiendrait pas son diplôme à temps obtiendrait effectivement son diplôme à temps) était de 42 points de pourcentage plus élevé pour les étudiants noirs que pour les étudiants blancs, selon une , que nous avons obtenue grâce à une étude. demande d'archives publiques. présentation du DPI résumant l'analyse Le taux de fausses alarmes était 18 points de pourcentage plus élevé pour les étudiants hispaniques que pour les étudiants blancs. Le DPI n’a pas informé les responsables des écoles qui utilisent le DEWS des résultats et ne semble pas non plus avoir modifié les algorithmes au cours des près de deux ans qui se sont écoulés depuis qu’il a conclu que le DEWS était injuste. La présentation du DPI résumant l'analyse de l'équité que nous avons examinée n'incluait pas les taux de fausses alarmes sous-jacents pour les étudiants noirs, hispaniques et blancs que le DPI a utilisés pour effectuer ses calculs. Il n'incluait pas non plus les résultats des étudiants d'autres races. Le ministère a refusé de répondre aux questions sur l'analyse et, en réponse à une demande ultérieure de documents publics, le DPI a déclaré qu'il ne disposait d'aucune documentation sur les résultats de l'analyse des capitaux propres au-delà de la présentation. (Une vidéo de la présentation peut être vue .) ici Un DPI distinct de l'exactitude du DEWS en mars 2021 montre que celui-ci s'est trompé près des trois quarts du temps où il prédisait qu'un étudiant n'obtiendrait pas son diplôme à temps. test de validation Les étudiants que nous avons interrogés ont été surpris d'apprendre l'existence de DEWS et ont déclaré à The Markup qu'ils craignaient qu'un algorithme utilise leur race pour prédire leur avenir et les étiqueter à haut risque. «Cela donne aux étudiants de couleur le sentiment d'être séparés… comme s'ils avaient automatiquement moins», a déclaré Christopher Lyons, un étudiant noir diplômé du Bradford High School en 2022. La porte-parole du DPI du Wisconsin, Abigail Swetz, a refusé de répondre aux questions sur le DEWS, mais a fourni une brève déclaration par courrier électronique. « Est-ce que DEWS est raciste ? » Swetz a écrit. « Non, l'analyse des données n'est pas raciste. Ce sont les mathématiques qui reflètent nos systèmes. La réalité est que nous vivons dans une société suprémaciste blanche et que le système éducatif est systématiquement raciste. C’est pourquoi le DPI a besoin d’outils comme DEWS et c’est pourquoi nous nous engageons en faveur de l’équité éducative. En réponse à nos découvertes et à d’autres questions, Swetz a écrit : « Vous avez une incompréhension fondamentale du fonctionnement de ce système. Nous maintenons notre réponse précédente. Elle n’a pas expliqué quel était ce malentendu fondamental. Pour reconstituer la manière dont le DEWS a affecté les étudiants qu'il a jugés, The Markup a examiné des recherches non publiées du DPI, analysé 10 ans de données DEWS au niveau des districts, interrogé des étudiants et des responsables scolaires et collecté les réponses à une enquête de 80 des plus de 400 districts de l'État sur leur utilisation des prédictions. Notre enquête montre que de nombreux districts du Wisconsin utilisent DEWS (38 % de ceux qui ont répondu à notre enquête) et que les échecs techniques des algorithmes ont été aggravés par le manque de formation des éducateurs. DEWS est un programme volontaire et à utiliser les prédictions en combinaison avec d'autres données locales sur les élèves pour prendre des décisions. L'agence ne sait pas si ni comment les écoles utilisent les prédictions. DPI encourage les enseignants Les directeurs, surintendants et autres administrateurs ont déclaré à The Markup qu'ils n'avaient reçu que peu ou pas d'explications sur la manière dont DEWS calculait ses prévisions ou sur la manière de traduire une étiquette telle que « risque élevé » en intervention appropriée. Dans des districts comme Kenosha, les étudiants de couleur n'ont pas besoin de données pour comprendre les conséquences d'être jugés par des systèmes biaisés. En 2020, la ville a fait la une des journaux nationaux après la . fusillade de Jacob Blake par la police Et plus tôt cette année, la famille d'une élève noire de 12 ans après qu'un policier en congé travaillant sur la sécurité l'ait placée dans une étranglement dans la cantine de son école. a poursuivi le district scolaire unifié de Kenosha En 2018, l'année où Lyons est entré au lycée de Bradford, un enseignant a été filmé devant des élèves. Cette année-là, DEWS a étiqueté 43 pour cent des élèves noirs de neuvième année à Kenosha à haut risque, contre 11 pour cent des élèves blancs de neuvième année. à plusieurs reprises en train d'utiliser des insultes racistes À ce stade, Lyons a déclaré qu'il avait déjà perdu sa motivation académique. « C'était comme si nous n'étions pas censés faire grand-chose », a-t-il déclaré. "C'était comme s'ils savaient que nous étions voués à l'échec." Puis quelque chose d’inattendu s’est produit au cours de sa deuxième année : la pandémie de COVID-19 a frappé, les cours sont devenus virtuels et, comme il l’a dit, ses notes ont « grimpé en flèche », passant d’une moyenne de 2,9 avant la pandémie à une moyenne de 3,8 après le passage à l’apprentissage à distance. Ce qui constituait pour de nombreux étudiants une interruption désorientante dans leur scolarité était pour Lyons un sursis qui lui permettait de se concentrer. «Je n'ai pas subi cette pression sociale de la part des enseignants ou de l'administration qui m'entouraient», a-t-il déclaré. "C'était juste moi, l'ordinateur, peu importe à qui je parlais." L'année dernière, Lyons a commencé sa première année au Carthage College de Kenosha grâce à une bourse complète. Son parcours illustre les bizarreries de la personnalité, du style d'apprentissage et de l'environnement qui, selon certains experts, rendent contre-productive la prévision de l'avenir d'un élève individuel sur la base d'une analyse au niveau de la population d'élèves statistiquement similaires. Néanmoins, les systèmes d'alerte précoce qui utilisent l'apprentissage automatique pour prédire les résultats des élèves sont et dans . Au moins huit agences d'éducation publique d'État fournissent des systèmes d'alerte précoce algorithmiques ou sont actuellement en train de les construire pour une utilisation future, selon une enquête Markup menée dans les 50 États. Quatre États n'ont pas répondu. courants dans l'enseignement primaire et secondaire l'enseignement supérieur Le Montana était le seul État, outre le Wisconsin, à déclarer avoir examiné le fonctionnement de son système d'alerte précoce auprès de différents groupes raciaux. Le porte-parole du Bureau de l'Instruction publique du Montana, Brian O'Leary, a déclaré que l'étude sur l'équité de son État n'était pas encore terminée. « Le DEWS est-il équitable ? Non ..." Au début et au milieu de chaque année, DEWS calcule la probabilité que chaque nouvel élève de la sixième à la neuvième année obtienne son diplôme d'études secondaires à temps sur une échelle de 0 à 100. Un score de 90 indique que les étudiants présentant des caractéristiques académiques, comportementales et démographiques similaires ont obtenu leur diplôme à temps 90 % du temps dans le passé. Tout étudiant dont le score DEWS (plus la marge d’erreur) est inférieur à 78,5 est étiqueté à haut risque de ne pas obtenir son diplôme à temps. Pour permettre aux enseignants de comprendre plus facilement les prédictions, DPI traduit les scores DEWS dans un format simple à code couleur. À côté du nom de chaque élève dans l'onglet DEWS du système d'information à l'échelle de l'État se trouve une étiquette indiquant son score et une désignation de risque vert « faible », jaune « modéré » ou rouge « élevé ». Au cours de l'année scolaire 2020-2021, plus de 32 000 élèves, soit 15 % des élèves de la sixième à la neuvième année de l'État, ont été qualifiés de « à haut risque ». Légende : Exemples de la façon dont les prédictions DEWS des étudiants sont affichées dans le système d'information à l'échelle de l'État. Crédit : Résumé des données DEWS du DPI Les experts affirment que le système est conçu de manière à biaiser par inadvertance l'opinion des éducateurs sur les élèves et à détourner les rares ressources scolaires. Il est particulièrement préoccupant de constater à quel point le DEWS s'appuie sur des facteurs tels que la race, le handicap et la richesse familiale, qui sont susceptibles de coder une discrimination systémique et que ni l'école ni l'élève ne peuvent changer. D’autres données introduites dans le DEWS, comme les taux de discipline, présentent des disparités raciales évidentes . – le DPI le sait et en a parlé sur son site Internet "Je me demande comment ces catégories de risque poussent les écoles et les districts à s'intéresser aux individus plutôt qu'aux problèmes structurels, en disant que cet enfant a besoin de ces choses, plutôt que que les problèmes structurels soient la raison pour laquelle nous constatons ces risques", a déclaré Tolani Britton. , professeur d'éducation à l'UC Berkeley, qui a co-écrit la prochaine étude sur DEWS. "Je ne pense pas que ce soit une mauvaise chose que les étudiants reçoivent des ressources supplémentaires, mais en même temps, créer des algorithmes qui associent votre race ou votre appartenance ethnique à votre capacité à terminer vos études secondaires semble être une voie dangereuse à emprunter." Lorsque DEWS prédit qu'un étudiant obtiendra son diplôme, c'est généralement vrai : 97 % du temps, ces étudiants obtiennent leur diplôme au cours des quatre années standard, selon le test de validation de 2021, qui montre les performances des algorithmes lorsqu'ils sont testés sur des données historiques. Mais lorsque le DEWS prédisait qu'un étudiant ne le ferait pas, c'était généralement faux : 74 % du temps, ces étudiants obtiendraient leur diplôme à temps, selon le même test. C’est en partie intentionnel. DPI calibre le DEWS pour ratisser large et sur-identifier les étudiants comme risquant d'abandonner leurs études. Dans un décrivant DEWS dans le Journal of Educational Data Mining, l'ancien analyste de recherche du DPI, Jared Knowles, a écrit que le DPI «déclarait explicitement que nous sommes prêts à accepter» 25 fausses alertes selon lesquelles les étudiants n'obtiendraient pas leur diplôme si cela signifiait identifier correctement un abandon. article de 2015 Mais dans son analyse des capitaux propres, le DPI a constaté que les algorithmes ne génèrent pas de fausses alarmes . également Légende : Une capture d'écran d'une présentation du DPI résumant les résultats de l'analyse de l'équité DEWS du département. Crédit : DPI du Wisconsin « EN TERMES PROFESSIONNELS : le modèle sur-identifie les étudiants blancs parmi les diplômés à temps, alors qu'il sur-identifie les étudiants noirs, hispaniques et autres de couleur parmi les diplômés qui ne sont pas à temps », a écrit un analyste de recherche du DPI dans des notes pour le présentation. La présentation ne précise pas quels scores DEWS qualifient d’obtention d’un diplôme dans les délais, aux fins de l’analyse de l’équité. Les notes de la diapositive intitulée « Le DEWS est-il équitable ? » terminer par la conclusion « non… ». "Ils ont définitivement utilisé un modèle qui comporte des erreurs systématiques en termes de race des étudiants, et c'est vraiment quelque chose qui doit être corrigé", a déclaré Ryan Baker, professeur d'éducation à l'Université de Pennsylvanie qui étudie les systèmes d'alerte précoce. "Ils avaient des facteurs démographiques comme prédicteurs et cela va exagérer la signification de ces variables et provoquer ce genre d'effet." ↩︎ lien Une décennie de DEWS démystifiée Récemment, une équipe de chercheurs travaillant principalement à l'UC Berkeley – le doctorant Juan Perdomo, Britton et les experts en équité algorithmique Moritz Hardt et Rediet Abebe – ont examiné l'efficacité du DEWS sous un angle différent. Leur recherche utilisant près de 10 ans de données DEWS – que le DPI a volontairement partagées – constitue la plus grande analyse jamais réalisée sur la manière dont un système d’alerte précoce prédictif affecte les résultats des étudiants. Alors que des études antérieures ont demandé avec quelle précision les systèmes d'alerte précoce fonctionnent lorsqu'ils sont testés par rapport à des données historiques, examine si le DEWS a conduit à de meilleurs taux d'obtention de diplôme pour les étudiants réels étiquetés à haut risque. l'étude de l'UC Berkeley Les chercheurs ont vérifié si les taux d'obtention du diplôme s'amélioraient pour les étudiants dont les scores DEWS étaient juste en dessous du seuil de 78,5 pour les placer dans la catégorie à risque élevé par rapport aux étudiants dont les scores étaient juste au-dessus de ce seuil, les plaçant dans la catégorie à risque modéré. Si le système fonctionnait comme prévu, les étudiants appartenant à la catégorie à risque élevé verraient leurs taux d'obtention du diplôme améliorés car ils recevaient des ressources supplémentaires, mais l'étude a révélé que le fait d'être classés dans la catégorie à risque élevé n'avait aucun effet statistiquement significatif sur le fait que les étudiants obtenaient leur diplôme à temps. "Il n'y a aucune preuve que les prédictions du DEWS aient influencé de quelque manière que ce soit la probabilité d'obtention d'un diplôme à temps", écrivent les auteurs. Si le système fonctionnait comme prévu et si les écoles consacraient davantage de ressources aux élèves considérés à haut risque, suggère l'étude de l'UC Berkeley, cela aurait un impact différent mais également inéquitable. « Si les écoles sélectionnent les élèves en vue d’une intervention en classant leurs scores [DEWS] et en sélectionnant ceux qui ont la probabilité prévue d’obtention du diplôme la plus faible, les élèves mal desservis seraient systématiquement négligés et dépriorisés », écrivent les auteurs. En effet, les taux d'obtention de diplôme prévus par DEWS ne reflètent pas avec précision les véritables taux d'obtention de diplôme des étudiants. Les étudiants blancs, en particulier, obtiennent leur diplôme à des taux beaucoup plus élevés que ne le suggèrent leurs scores DEWS, selon les données partagées avec The Markup par les chercheurs de l'UC Berkeley. Par exemple, les étudiants de couleur qui ont obtenu un score DEWS de 83 ont obtenu leur diplôme à temps dans 90 % des cas. C'est le même que le taux d'obtention de diplôme moyen dans l'ensemble de l'État du Wisconsin l'année dernière. Les étudiants blancs qui ont reçu le même score DEWS de 83 ont obtenu leur diplôme à temps 93 pour cent du temps, au-dessus de la moyenne de l'État. Mais surtout, les étudiants blancs qui ont obtenu des scores DEWS nettement inférieurs de 63 ont obtenu leur diplôme à temps, essentiellement au même rythme que les étudiants blancs ayant obtenu des scores plus élevés : 92 % du temps. Mais les étudiants de couleur qui ont obtenu des scores DEWS de 68 ont obtenu leur diplôme à temps seulement 81 pour cent du temps, en dessous de la moyenne de l'État. En d'autres termes, si les éducateurs suivaient les conseils du DEWS et donnaient la priorité aux étudiants blancs ayant des scores de 63 par rapport aux étudiants de couleur avec des scores de 68, ils auraient donné la priorité aux étudiants qui finissent par obtenir leur diplôme à des taux supérieurs à la moyenne par rapport aux étudiants qui finissent par obtenir leur diplôme à un taux inférieur à la moyenne. taux moyens. Cette bizarrerie particulière de l'algorithme n'a probablement pas exacerbé les inégalités dans le Wisconsin, conclut l'étude, car le DEWS n'améliore pas les résultats de toute personne étiquetée à haut risque, quelle que soit sa race. Algorithmes avancés, système scolaire de deuxième classe Dès ses débuts, le DPI a présenté le DEWS comme un l'écart « inacceptable » de diplômes dans l'État. Mais le système d’alerte précoce n’était pas la solution de premier choix de l’agence. outil rentable pour lutter contre Dans le cadre de sa proposition de budget semestriel en 2011, le DPI du Wisconsin, dirigé par Tony Evers, aujourd'hui gouverneur de l'État, 20 millions de dollars pour un programme de subventions « Chaque enfant est diplômé » qui enverrait des ressources directement aux districts en difficulté. . a demandé Cette année-là, 91 pour cent des étudiants blancs de l’État ont obtenu leur diplôme d’études secondaires à temps, contre 64 pour cent des étudiants noirs. Mais le gouverneur de l’époque, Scott Walker, avait un plan différent en matière d’éducation publique. Il , soit environ 7 pour cent, le financement public destiné aux écoles publiques sur le budget biennal. Cela comprenait les 20 millions de dollars pour « Chaque enfant est diplômé », dont l'administration de Walker pour construire un système d'information sur les étudiants à l'échelle de l'État afin de regrouper toutes les données sur les élèves en un seul endroit. a réduit de près de 800 millions de dollars a réorienté 15 millions de dollars Refusé de bénéficier de son programme de subventions mais en possession d'une multitude de nouvelles données, le DPI a cherché une solution de haute technologie pour combler son déficit de diplômes. En 2012, elle a commencé à piloter DEWS. Au moment de sa création, DEWS était l’un des systèmes d’alerte précoce prédictive les plus avancés du pays. Sa précision était « comparable à celle de certains des systèmes les plus réputés actuellement utilisés, mais elle est réalisée à une plus grande échelle, dans un ensemble plus diversifié d'environnements scolaires, [et] dans les classes inférieures », a déclaré Knowles, ancien analyste de recherche du DPI. qui a construit le système, a écrit dans l’article 2015 du Journal of Educational Data Mining. DPI a rapidement décidé d'étendre son utilisation de l'analyse prédictive et a lancé en 2016 un algorithme frère, appelé College and Career Readiness Early Warning System (CCREWS), qui prédit si les étudiants sont « prêts » ou « non prêts » pour l'ACT et l'université. Dans l'enquête menée par The Markup auprès des districts scolaires du Wisconsin, sept répondants sur 80 ont déclaré utiliser CCREWS dans une certaine mesure, contre 30 districts qui ont déclaré utiliser DEWS. En 2019, le DPI a piloté un autre modèle algorithmique basé sur DEWS qui prétendait prédire quels étudiants réussiraient dans les cours AP. Des écoles de 11 districts se sont inscrites au projet pilote, mais le projet a été abandonné après le début de la pandémie de COVID-19, selon des documents obtenus grâce à une demande d'archives publiques. Nombre de points de pourcentage de réduction de l'écart de diplomation entre les étudiants noirs et blancs du Wisconsin depuis 2011, l'année précédant le projet pilote du DEWS. Au cours de la dernière décennie d’expérimentation des algorithmes prédictifs par l’État, les inégalités éducatives dans le Wisconsin ne se sont guère améliorées. L’écart d’obtention de diplôme entre les étudiants noirs et blancs n’a diminué que de quatre points depuis 2011, passant de 27 à 23 pour cent. Pendant ce temps, l'écart entre les résultats en lecture des élèves noirs et blancs de huitième année dans le Wisconsin a été le selon chaque évaluation nationale des progrès éducatifs (NAEP) remontant à 2011. pire de tous les États du pays Il présente également l'écart le plus important de tous les États entre des élèves noirs et blancs de huitième année à chaque NAEP depuis 2009. les résultats en mathématiques « La question que je pose toujours lorsque ces données sont publiées n’est pas seulement à quel point les enfants noirs se portent mal, [mais] comment se fait-il que les enfants blancs s’en sortent si bien ? a déclaré Gloria Ladson-Billings, experte nationale en matière d'inégalités en matière d'éducation et professeure à la retraite de l'Université du Wisconsin-Madison. « Ce n'est pas comme si nous ne savions pas comment aider ces enfants à s'en sortir. Le problème est qu’ils doivent ressembler à des athlètes de Division I pour que nous nous en souciions suffisamment. Les étudiants noirs et hispaniques du Wisconsin ont déclaré à The Markup qu'ils ont souvent le sentiment de faire partie d'un système scolaire de seconde classe. Kennise Perry, un étudiant de 21 ans à l'UW-Parkside, a fréquenté les écoles publiques de Milwaukee, qui comptent 49 pour cent de noirs, avant de déménager dans la banlieue de Waukesha, où les écoles ne comptent que 6 pour cent de noirs. Elle a déclaré que son enfance avait été difficile, sa vie familiale parfois instable et que ses écoles la considéraient probablement comme une élève « à haut risque ». «J'étais le seul enfant noir dans toutes mes classes. Aucune autre représentation de quelqu’un qui me ressemble, et mes pairs étaient extrêmement racistes », a-t-elle déclaré. «C'était vraiment traumatisant… J'étais tellement en colère et je ne savais pas comment placer ma colère. J'étais malheureux. Et puis, bien sûr, les labels et tout ça ont commencé. Mais je sens que la différence entre les gens qui réussissent et ceux qui n'y parviennent pas, ce sont les gens que vous avez autour de vous, comme si j'avais des gens qui tenaient à moi et qui m'ont donné une seconde chance et tout ça. [DEWS] énumérant ces enfants à haut risque et leurs statistiques, vous ne leur donnez même pas une chance, vous les étiquetez déjà. Le district scolaire de Waukesha n'a pas répondu à l'enquête ou à la demande de commentaires de The Markup. Cependant, des documents obtenus grâce à des demandes de documents publics montrent que le lycée Waukesha North, que Perry a fréquenté, s'est inscrit pour participer au projet pilote de l'algorithme du DPI conçu pour prédire quels élèves réussiraient dans les classes AP. Les écoles publiques de Milwaukee, le plus grand district de l'État, n'utilisent pas DEWS ni aucun type d'apprentissage automatique pour leur système d'alerte précoce, a écrit le porte-parole Stephen Davis dans un e-mail adressé à The Markup. Comme de nombreux districts et États, il utilise plutôt une approche low-tech qui identifie les étudiants comme étant sur la bonne voie ou non, selon qu'ils ont atteint certains critères, comme être absents pendant un nombre de jours prédéfini. L'année dernière, les étudiants du lycée Cudahy ont créé leur premier syndicat d'étudiants noirs en réponse à des incidents racistes qu'ils estimaient que l'administration de l'école ne traitait pas correctement. « Vous savez que [les étudiants blancs] ont déjà une longueur d'avance », a déclaré Mia Townsend, junior et vice-présidente du Black Student Union de Cudahy. « On ressent déjà cette séparation… Ils ont plus d’opportunités et plus de marge de manœuvre sur certaines choses. » Les étudiants de la BSU ont naturellement fourni le même type d’interventions de soutien mutuel que l’État espérait réaliser grâce à ses algorithmes prédictifs. Au cours de l’année scolaire 2020-2021, 18 % des étudiants blancs du Wisconsin ont passé les examens AP, contre 5 % des étudiants noirs. Townsend, une étudiante au tableau d'honneur, a déclaré qu'elle était sur le point d'éviter les cours AP jusqu'à ce que son compatriote Maurice Newton, président de la BSU, la presse d'accepter le défi. Elle a demandé à rejoindre un cours d’anglais AP l’année prochaine. "Ils donnent l'impression que c'est plus difficile et c'est honnêtement la même chose", a déclaré Newton. "Vous pouvez réussir le cours avec une bonne note." En réponse aux questions de The Markup sur le DEWS, la surintendante du district de Cudahy, Tina Owen-Moore, a partagé un fil de discussion dans lequel les membres du personnel exprimaient qu'ils n'étaient pas au courant et n'utilisaient pas actuellement les prédictions, mais que les conseillers étaient « enthousiasmés par cette ressource ». » Cependant, après avoir examiné nos conclusions, Owen-Moore a écrit : « Cela change certainement ma perspective !! » « Ils nous ont simplement remis les données et nous ont dit : « Déterminez-le ». » De nombreux districts qui ont répondu à l'enquête de The Markup ont déclaré qu'ils utilisaient les prédictions DEWS de la même manière que Brown et le personnel de l'école secondaire Bradford à Kenosha, pour identifier les nouveaux élèves de leurs bâtiments susceptibles de nécessiter une attention supplémentaire. Dans le district scolaire de la ville d'Appleton, les gestionnaires de cas des écoles secondaires utilisent le DEWS et d'autres données pour identifier les nouveaux étudiants de première année ayant besoin de soutien et pour déterminer le nombre de cas d'éducation spécialisée, par exemple. S'appuyant « fortement » sur les données DEWS, le district scolaire de Winneconne envoie des lettres aux parents les informant que leur enfant pourrait être en danger, bien que ces lettres ne fassent pas référence à l'algorithme. Mais certaines écoles ont trouvé d’autres utilisations non conformes des données. Par exemple, Sara Croney, la surintendante du district scolaire de Maple, a déclaré à The Markup que son personnel avait utilisé les « données perçues comme impartiales » du DEWS pour postuler avec succès à une subvention de développement du personnel visant à atteindre les étudiants non engagés. Dans la ville de Racine, les collèges pour sélectionner les élèves qui seraient placés dans un programme spécial « Zone sans violence », qui consistait notamment à envoyer les élèves perturbateurs dans une classe séparée. utilisaient autrefois DEWS Le district scolaire de Racine « n’utilise actuellement pas DEWS ou CCREWS », a écrit la porte-parole Stacy Tapp dans un e-mail. De nombreux administrateurs interrogés par The Markup ont déclaré avoir reçu peu ou pas de formation sur la manière dont DEWS calcule ses prédictions ou sur la manière de les interpréter. "Ils nous ont simplement remis les données et nous ont dit : 'Découvrez-le'", a déclaré Croney. "Nos directeurs vont donc l'analyser et décider qui sont les enfants de la zone à risque." Le DPI fournit une documentation sur le fonctionnement du DEWS et ses utilisations prévues sur son site Web, mais une grande partie du matériel destiné au public oublie un fait clé sur le système : que ses prédictions sont basées en partie sur la race, le sexe, la richesse familiale et la richesse des étudiants. d'autres facteurs sur lesquels les écoles n'ont aucun contrôle. Par exemple, le du département ne mentionne pas que la race, le sexe ou le statut des étudiants en matière de repas gratuits ou à prix réduit sont des variables d'entrée clés pour les algorithmes. guide d'action DEWS utilisées pour générer les prédictions DEWS répertorie quatre catégories distinctes d'informations : la fréquentation, le dossier disciplinaire, le nombre de districts fréquentés au cours de l'année précédente (mobilité) et les résultats des tests d'État. La page Web du DPI décrivant les données Il indique que « les attributs démographiques sont utilisés », mais pas lesquels ni comment ils influencent les prévisions. De même, lorsque les enseignants consultent les prédictions DEWS des étudiants dans le système d'information à l'échelle de l'État, ils peuvent examiner comment l'assiduité des étudiants, leurs antécédents disciplinaires, leur mobilité et leurs résultats aux tests affectent l'étiquette de risque globale, mais ils ne voient pas comment les caractéristiques démographiques des étudiants affectent la prédiction. . Shari Johnson, directrice du programme et de l'enseignement du district scolaire de Richland, a déclaré que ses écoles commençaient à créer des plans d'action et à affecter des mentors au personnel des élèves « à haut risque » dans le but de les sortir de cette catégorie, en particulier ceux « les plus à risque ». » parce qu'elle a dit qu'il ne serait pas possible d'encadrer tout le monde. Cependant, lorsqu'elle a parlé à The Markup, elle ne savait pas que des caractéristiques telles qu'un handicap ou le fait d'être économiquement défavorisé affectaient le score d'un élève. « À qui revient la responsabilité si nous connaissons ces choses ? C'est ce qui me préoccupe dans cette position, que je ne l'ai découvert que par hasard », a déclaré Johnson. "Ce que je fais est directement lié au DEWS et aux informations qui s'y trouvent, et cela me fait peur." Le décalage entre le fonctionnement du DEWS et la manière dont les éducateurs comprennent son fonctionnement n'est pas une nouveauté pour le DPI. En 2016, des chercheurs du Midwest Regional Education Laboratory ont rédigé un pour le DPI qui n'a jamais été publié, basé sur une enquête sur les expériences des directeurs d'écoles intermédiaires avec le DEWS. rapport Le rapport, que nous avons obtenu grâce à des demandes de documents publics, concluait que les personnes interrogées « souhaitaient davantage de formation et de soutien sur la façon d'identifier et de surveiller les interventions » et que « le temps, l'argent et la formation sur DEWS » étaient les principaux obstacles à l'utilisation du système. Brian Geiger, directeur de l'école secondaire de Bradford, a déclaré qu'il se souvenait d'avoir entendu parler du DEWS au moment de son lancement, à l'époque où il était directeur adjoint dans une autre école de Kenosha, et qu'il l'utilisait depuis à diverses fins, notamment pour des visites d'été à la maison. Maintenant, Brown, son directeur adjoint à Bradford, a repris cette pratique. Même en sachant qu'il y a des défauts dans DEWS, Brown a déclaré que les prédictions sont les meilleures données dont il dispose pour les nouveaux étudiants. « Ce n'est pas un prédicteur à 100 pour cent. Ma perception à ce sujet est que nous l'utilisons en quelque sorte comme un guide », a-t-il déclaré, ajoutant : « J'aimerais que nous puissions visiter chaque maison des 1 400 enfants [inscrits à Bradford High School]. Nous n’avons pas de budget pour les cours d’été pour faire ça. Correction, 11 mai 2023 Une version précédente de la carte de cet article incluait à tort Hawaï, le Nevada, le New Jersey, la Caroline du Nord et le Michigan. Ces États utilisent des systèmes d’alerte précoce, mais n’utilisent pas d’algorithmes ou d’apprentissage automatique pour prédire les résultats des étudiants. Crédits : , , , , , , et Todd Feathers Ko Bragg Joel Eastwood Gabriel Hongsdusit Rodney Johnson Jeremy Singer-Vine Maria Puertas Jill Jaroff Également publié ici Photo de Sigmund sur Unsplash