Au lycée Schongauer de Colmar, bienveillance et bonheur sont-ils solubles dans le contrôle algorithmique ?

Crédit photos : Martin Wilhelm

Le lycée Schongauer de Colmar fait parler de lui. Une expérience d’intelligence artificielle s’applique à dispenser le bonheur au lycée via une pratique du “nudge”, terme anglais signifiant “coup de coude” ou “coup de pouce”, issu de l’économie comportementale, qui vise à influencer subtilement les choix et comportements des individus, sans qu’ils n’apparaissent comme directifs ou impératifs.

La presse locale a relayé inconditionnellement cette expérimentation, sans jamais questionner son bien-fondé. Le lycée accueille d’ailleurs sans réserve des partenaires commerciaux de toute nature, sans doute au titre de son caractère professionnel, ainsi qu’on peut le voir dans le diaporama disponible ci-dessous.

Une responsable commercial chargé du développement d’un applicatif logiciel expérimenté ce même jour ne s’est d’ailleurs pas privée de jouer les communicantes à propos des avantages, mérites et savoir-faire de la société pour laquelle elle exerce.

Nous constatons en outre qu’une bulle médiatique accompagne les initiatives plus ou moins baroques prises au nom ou au soutien de ce nouveau délice technologique, dont nos confrères font leur miel, depuis 2022, date de sortie de la première version grand public d’une interface d’intelligence générative, sans même considérer les implications sociétales et sociales qui mériteraient un examen attentif, sinon des débats publics, à son sujet.

L’initiative du lycée Schongauer de Colmar a fait l’objet d’au moins deux articles publiés dans le double journal unique alsacien (DNA/L’Alsace). Remarquables par leur style télégraphique, où les enjeux éventuels ni même le sens général ne sont interrogés.

Le ton y est donné d’abord dans un article du 25 octobre par Catherine Chevalier, sympathique et volontaire proviseure du lycée (ancien lycée Camille Sée) : “On ne pourra pas faire sans, de toute façon. Alors autant s’y habituer tout de suite ! On peut faire de belles choses avec l’IA, à condition de savoir la maîtriser“.

S’ajoute à cela une publication dithyrambique dans “L’Ami hebdo“, un hebdomadaire alsacien de tradition chrétienne, qui ne vit plus que de sa rente : les annonces légales.

L’article traitant du lycée est signé “G.S.”, qui se trouvent être les initiales de Guillaume Sevin, officier de la brigade franco-allemande de Mullheim, et très accessoirement… président de “Ekona SAS“, la société qui a fourni la solution d’IA au lycée Schongauer !

Après avoir reçu de sa part un explicatif sur la démarche amorcée à Colmar, et qui doit déjà se démultiplier partout à l’avenir, nous lui avons demandé si le mélange des genres entre “journalisme” et entreprenariat, hors secteur de la presse, ne lui posait pas de problème déontologique, sans hélas recevoir de réponse.

Son article, intitulé “L’Intelligence Artificielle entre au lycée“, rappelle que “Le projet a vu le jour grâce à un partenariat entre la Région Grand-Est, l’entreprise de conseil stratégique et marketing Ekona SAS, et l’Association André Sevin“. Se grimant en observateur impartial pour l’occasion.

Après avoir fait définir le concept de “nudge” par Claude Lamoureux, ancien maître de conférences à HEC Paris, et pivot de cette installation, à savoir “une technique de marketing qui agit subtilement sur nos choix. Nous l’utilisons pour inciter les élèves à adopter des comportements positifs», le papier peut conclure qu’avec « Partager la Bienveillance – Nudge ! », le lycée Schongauer ouvre donc la voie à une éducation alliant humanisme et innovation. En mettant l’IA au service de la créativité, l’établissement prouve que technologie et pédagogie peuvent s’unir pour préparer les citoyens éclairés et empathiques de demain.

Le techno-solutionnisme résoudra-t-il tous nos maux ? Montrons-nous bienveillant, même sans recourir au nudge !

Enfin un autre “article” a été récemment publié dans “Maxi Flash“ édition Colmar, une revue composée aux deux tiers de publicités commerciales, et éditée, en toute logique, par une société exerçant dans le secteur des agences de publicité…

Il est vrai que l’IA disrupte à toute vitesse. Peut-être même que les journalistes, rendus obsolètes, seront très bientôt remplacés par des automates génératifs chargés d’assurer le rédactionnel de “l’Ami hebdo” ou de “Maxi Flash” ?

Dans ces conditions, si l’on se met en plus à arborer un air passablement sceptique devant ce concert d’unanimisme génératif, il nous sera fort difficile d’abonder l’autosatisfaction que les protagonistes s’échangent sur le réseau Linkedin, en pointant les excellents retours de la “presse” quant à leur initiative pionnière, même avec une sincère bienveillance.

C’est que l’entreprise technologico-éducative soulève quelques pesantes questions, et en révèle au moins autant de la part de ceux qui se mirent devant ce miroir (technologique) aux alouettes, au prétexte d’une disruption annoncée, et de l’effet cliquet qui accompagne invariablement chaque révolution technique.

Un “générateur de bonheur”

Conviés comme nos confrères, et de nombreux officiels, pour assister à cette première technologique au sein de ce lycée technologique et professionnel de Colmar, nous y sommes venus la besace pleine de questions restées sans réponses, tant le timing était compté.

Il nous fallait surtout découvrir “la borne”, qui ressemble à une sucette de centre-ville, et y découvrir, ébaubi, les bienfaits pédagogiques escomptés. Décrite comme “multifonctionnelle”, elle promet en effet de réduire le stress, améliorer la confiance en soi et encourager la créativité. Sauf en période de mise à jour délicate du système ! On a d’ailleurs eu le temps d’y repérer les entrailles d’un célèbre système d’exploitation “fenêtré”, fourni par un éditeur américain de systèmes d’exploitation…

Le dispositif technologique coûte quelques 20 000 euros, et a été acquis grâce à des financeurs privés, présentés comme des mécènes : l’entreprise “Ekona SAS” (susnommé plus haut) et l’association André Sevin, dédiée aux œuvres d’un prêtre proche du scoutisme, avec le concours de Claude Lamoureux, déjà mentionné, ancien professeur de robotique colmarien âgé de 86 ans, qui se présente en techno-optimiste et accessoirement en “octogénérateur de bonheur“.

Ce dernier, qui a répondu à quelques-une de nos questions, oubliera toutefois de préciser que de l’argent public a également perlé depuis le Conseil régional Grand est, en vue de contribuer au financement de la sucette intelligente.

On y apprendra ainsi que l’équipement électronique contient 244 œuvres d’art “dûment explicitées”, outre le mesureur de stress et/ou d’humeur, évoqué plus haut. Ekona, maitre d’oeuvre du dispositif intelligent, s’est associé avec Jumbo Mana, la société qui a développé l’IA générative comportementale. Et en l’espèce, un avatar de… Albert Schweitzer, pour lequel il a été fait une démonstration d’abord défaillante, puis très peu convaincante, puisque l’exercice par lequel les élèves devraient tirer sagesse et inspiration est formé d’un condensé du matériel biographique du célèbre médecin.

L’objectif pédagogique avoué et assumé est ce faisant de tendre au bonheur scolaire. Et pour cela, il n’était que temps de nommer un “Chief happiness officer” chargé de rendre effective la quête de plénitude lycéenne au sein de l’établissement. Une “fonction [qui a été] créée depuis une dizaine d’année. Tout droit venue de Google, ce métier a pour mission de contribuer au bonheur de tous les collaborateurs de votre structure“.

S’agit-il alors de s’attacher des collaborateurs-élèves à l’institution scolaire ? Si l’on peut s’interroger sur la pertinence d’une approche aussi technologisante et managériale pour s’adresser à de jeunes esprits perméables, voire se risquer à accroître leur dépendance à la technologie (et aux écrans) plutôt que de développer de véritables compétences socio-émotionnelles, Claude Lamoureux, vénérable impulseur en chef du projet, ne se départit jamais de son optimisme forcené lorsqu’on l’interroge.

D’emblée, il nous prévient :

“Ni vous ni moi avons la moindre chance de stopper l’utilisation de l’IA… peut être la meilleure ou la pire des choses“. Et fait sien cet étrange adage : “if you can’t beat them, join them“ !

Une formule que Laurent Alexandre, médecin urologue transhumaniste (non, ce n’est pas une plaisanterie) n’aurait pas renié, lui qui il y a quelques années déjà répétait, à propos de l’IA, que “si nous y allons pas, les Chinois, eux, iront“. CQFD.

Mais le maître-mot pour Claude Lamoureux, et pour tous les intervenants, fut de souligner que l’IA n’a pas vocation à “se substituer à l’humain“, et a fortiori aux profs…

Mais alors, comment garantir que son utilisation ne réduira pas les interactions humaines essentielles à l’éducation et au développement social des élèves ? Réponse de M. Lamoureux :

“Aucune garantie, toutes les technologies ont des avantages et des inconvénients. Gutenberg et l’imprimerie ont tué le métier des scribes…“.

Un argument qui rappelle quelque peu celui qu’on objecte régulièrement aux adversaires de l’énergie nucléaire : “vous souhaitez donc un retour à la bougie ?“

Et quelles mesures sont prises pour éviter que les élèves ne deviennent dépendants de la borne, au détriment du développement de leurs propres compétences d’adaptation et d’autonomie ? :

“Nous mettons en place un projet « Le Bonheur, c’est …la Classe » qui n’utilise aucune IA comme vous pouvez le constater mais les généreuses compétences humaines de Catherine Chandelier, une proviseure à la recherche de l’excellence“.

A la question portant sur l’approche intermédiée et superficielle du “bonheur” (un concept aux contenus et contours plus que subjectifs), via la technologie, nous ne recevrons cependant pas de réponse.

Mais s’agissant de l’investissement public dans cette technologie par rapport à d’autres besoins (notamment matériels et humains) potentiellement plus pressants pour assurer le bon fonctionnement d’un établissement scolaire, Claude Lamoureux assure :

L’investissement a surtout été fait par des mécènes et des bénévoles comme Guillaume Sevin et votre serviteur

On a vu plus haut que de l’argent public était également engagé. Quant à l’évaluation concrète de l’impact de cette borne sur l’apprentissage et le bien-être des élèves, au-delà des impressions subjectives liées à la nouveauté du dispositif, l’ancien enseignant plaide pour un “système OBJECTIF de mesure de la satisfaction des élèves “HAPPY INDEX” comme vous pouvez le voir sur le Padlet.

Et en effet, ainsi qu’on le voit ci-dessous, le bonheur ressenti par les jeunes semble prometteur :

Le journal de bord du bonheur au lycée s’affiche donc via le padlet de M. Lamoureux. Au menu, des devoirs à rendre pour la rentrée en s’appuyant sur “Chat GPT“, la crème de l’IA générative :

“L’exercice le plus difficile de votre vie : rechercher votre IKIGAÏ, le métier qui vous conduira sur le chemin du Bonheur [le concept est plus existentiel que professionnel au Japon], faites-vous aider par votre entourage et vérifier TOUTES les données. UTILISER ChatGPT“.

Et pour le cas où les citations sur le bonheur viendraient à manquer, qui c’est qu’on appelle ? GPTbuster !

Il y est également question d’un monde d’écoles heureuses, un programme impulsé par l’Unesco, mais dont celle-ci, sous couvert d'”études scientifiques” établissant que la joie est un moteur dans l’apprentissage et dans l’enseignement (ce dont personne ne se doutait jusqu’alors), l’institution internationale pour la culture admet que “sur les 143 pays qui ont soumis des déclarations d’engagement nationales, 84 (59 %) ont souligné la nécessité de soutenir la santé mentale et physique dans les écoles ; cependant, très peu d’entre eux ont articulé des mesures concrètes pour y parvenir“.

Et de poursuivre en s’appuyant sur “des données scientifiques sur la façon dont le cerveau humain apprend le mieux montrent que le bonheur à l’école peut servir de levier pour des expériences et des résultats d’apprentissage meilleurs et plus larges. Les leçons tirées des neurosciences et de la psychologie révèlent que les environnements d’apprentissage et les stratégies pédagogiques optimaux sont ceux qui sont actifs, engageants, significatifs, socialement interactifs, itératifs et joyeux. La joie et l’engagement de l’apprenant et de l’enseignant sont des vecteurs pédagogiques importants pour motiver un apprentissage meilleur et plus approfondi“.

Le facteur social sonne toujours à la porte de l’école

Si l’on ne peut que saluer ce qui, pour nombre de parents et d’éducateurs, relève de l’évidence, depuis au moins un siècle, notamment par l’avènement des pédagogies dites “alternatives”, comme celles de Montessori, Freinet, Neill…), on se demande comment elle pourrait s’appliquer à un pays dont les écoles ressemblent à des gares de triage vouées au cloisonnement social, à rendement disciplinaire, guidées par des enseignants épuisés par le peu de considération dont fait preuve leur employeur public, entre salaires de misère, lourdeurs administratives, perte de sens, et déclassement professionnel…

Une école française qui reproduit et renforce comme nulle part ailleurs dans les pays avancés, les inégalités sociales. Les enquêtes PISA montrent par exemple que la France est l’un des pays où le lien entre origine socio-économique et performance scolaire est le plus fort. En 2018, une différence de 107 points a été constatée entre les élèves favorisés et défavorisés, un écart parmi les plus élevés de l’OCDE.

Les élèves issus d’établissements défavorisés maîtrisent significativement moins de compétences que leurs pairs dans des établissements favorisés (35 % contre 80 % en français, notamment).

Alors que d’autres pays comme l’Allemagne ou la Norvège ont réduit leurs inégalités scolaires grâce à des politiques volontaristes, la France a vu ces inégalités se creuser au fil du temps.

Dans le classement de l’UNICEF sur les inégalités de bien-être des enfants, incluant l’éducation, la France se classe 28e sur 35 pays riches, avec un fossé important dans les performances scolaires selon le milieu social.

Ainsi, évoquer in abstracto, le bonheur à l’école, comment on s’y oblige à Colmar, ce n’est, hélas, rien dire de substantiel. L’UNESCO le reconnaît d’ailleurs au sujet de son programme :

La recherche sur le bonheur et l’apprentissage présente des limites, notamment le manque d’études portant sur des groupes d’âge et des zones géographiques différents, ainsi que la complexité de la mesure comparative de l’apprentissage et du bonheur…

Quant à s’assurer que l’utilisation de l’IA ne creuse pas les inégalités entre les élèves, notamment ceux qui pourraient être moins à l’aise avec la technologie, Claude Lamoureux est définitif :

L’IA est une ressource gratuite qui ne demande aucune formation !

On ne saurait être plus en désaccord.

Bullshit autoritaire et écocide

Inutile de rejouer une querelle des Anciens et des Modernes version big data. S’appuyer sur les errements du techno-solutionnisme, ou l’hostilité devant la modernité, par laquelle l’on serait si brusquement emporté dans le génial flux technicien qu’il serait impossible, voire illusoire, de chercher à le dompter.

Il faudrait plutôt poser une intelligence artificielle substantiellement artificielle. Elle n’est ni “gratuite”, parce que son coût est colossal, ni même accessible, puisque opaque dans son process, en l’occurrence le pillage des ressources publiques, dont certaines sont protégées par des droits d’auteur, et dont elle se gave impunément.

Deux récents benchmarks, c’est à dire deux étalons mesure des performances informatiques, montrent que les systèmes d’entraînement des IA, nourris par des pétabytes de données (sur un total gigantesque de data disponible sur internet d’environ 64 zetabytes, selon des spécialistes, bien que cette disponibilité soit discutée), sont arrivés à leur point de saturation, du moins en matière de capacité de traitement.

Les dernières évolutions de Chat GPT 4 (mais cela est valable pour d’autres IA), atteignent un plateau, voire régressent (ce qui ne veut pas dire que d’autres voies/modes de recherche sont rendues impossibles sur le sujet), ainsi qu’on le voit dans les mesures ci-dessous, disponibles dans une étude fort documentée en anglais :

Jusqu’à preuve du contraire, l’IA est alors non seulement un bullshit en tant que discours sur la technologie (téchnē logos), annonciateur d’une émancipation totale pour l’espèce humaine et/ou de son apocalypse, mais qu’il procède en outre d’un projet politique autoritaire, porté par des hommes-enfants (Thiel, Musk, Altman, Zuckerberg…) se posant en démiurge de l’IA, et se projetant dans des univers dystopiques dont ils seront les seuls champions, et les uniques rédempteurs, peu importe le coût humain et social à payer.

Vous n’êtes évidement pas tenus de nous croire sur parole. En revanche, prenez la peine de lire des ouvrages comme ceux indiqués ci-dessous, avant de former votre jugement :

Dans l’excellent ouvrage rédigé par Thibault Prévost, journaliste indépendant, vous apprendrez notamment pourquoi l’intelligence artificielle est tout à la fois un culte (et on en voit l’expression au travers de l’exemple colmarien), qu’elle ne fonctionne (toujours) pas, qu’elle est un écocide, un pillage, une bulle financière, un autoritarisme, et l’expression de nouvelles discriminations !

Et afin de vous en faire une idée, voici quelques lignes de l’ouvrage :

« La maison coloniale de Monticello, en Virginie, ne ressemble à aucune autre. Elle a été dessinée par Thomas Jefferson, qui y a vécu une partie de sa vie. Le père fondateur des États-Unis y exploite 200 esclaves, tout en militant publiquement pour l’abolition de l’esclavage. La maison est entièrement conçue autour de cette contradiction, que Jefferson résout grâce à l’interface technique. Lorsqu’il reçoit des intellectuels libéraux pour débattre de la philosophie des Lumières, ses invités voient des pans de mur bouger tout seuls pour faire apparaître les plats, comme par magie. En réalité, un système de monte-plats permet de cacher les esclaves en coulisses. La maison est un trompe-l’œil, comme la façade progressiste de l’esclavagiste Jefferson. Elle est une scène sur laquelle des élites bourgeoises s’extasient devant le deus ex machina, pendant que des esclaves invisibles actionnent des poulies à la force des bras. Deux siècles plus tard, dans la salle à manger de Monticello, nous débattons à nouveau d’une technique qui n’existe pas, bernés par une interface qui masque la brutalité du réel.

Dès que l’on s’extrait du récit religieux de l’intelligence artificielle, une seule chose apparaît: la violence algorithmique. La violence omniprésente, systémique, banale, structurelle. La violence comme grammaire et comme modèle d’affaires. Le mythe de l’intelligence artificielle dissimule une entreprise globale de déshumanisation de l’individu, d’atomisation du collectif et de stérilisation de la vie politique par leurs réductions à des modèles statistiques. Résistons à la tentation de décrire au conditionnel les éventuels bénéfices de la super-IA: admettons que ce «futur» est un mirage publicitaire, alors que la violence de ces systèmes est non seulement réelle, mais empiriquement démontrée. Ces logiciels, produits par des patrons réactionnaires et déployés sur un système en bout de course de plus en plus tenté par le fascisme, ne vont pas améliorer nos conditions d’existence. Soyons comme les tisserands anglais du XIXe siècle, destructeurs de machines Jacquard. Ne refusons pas la machine; refusons la précarisation, la déqualification, la paupérisation, la violence éternelle de la caste patronale et de l’administration néolibérale qu’elle tente de camoufler.

Changeons de perspective. Au lieu des prophéties invraisemblables de «parrains de l’IA» et des capital-risqueurs en roue libre, écoutons les témoignages des corps à la marge, de celles et ceux qui subissent déjà largement la violence algorithmique. Adoptons l’approche critique radicale, féministe et décoloniale portée par les technocritiques contemporaines. Celles qui éprouvent la violence algorithmique sont les mieux placées pour en percevoir les rouages, et produire les contre-récits de l’IA indispensables à son désamorçage. Elles savent, et nous savons désormais, que l’IA n’est ni intelligente, ni artificielle, ni futuriste, ni bénéfique à l’humanité. Si la Silicon Valley essaie de nous vendre l’apocalypse, c’est parce que son projet technique, économique et politique en est une – la domination ou l’autodestruction, également totales. L’IA n’est pas la fin du monde, mais les capitalistes autoritaires qui la développent veulent sans aucun doute la fin du monde social. Elle n’annonce pas l’avènement du posthumain, mais instaure déjà, par petites touches, le régime de l’inhumain statistique. Face à cette négation du réel, notre réponse ne peut être qu’une affirmation technocritique. Une intelligence organique, irréductible et insaisissable. »

Extrait de “Les prophètes de l’IA: Pourquoi la Silicon Valley nous vend l’apocalypse” de Thibault Prévost, chez Lux éditeur. Précisons, à toutes fins utiles, que nous n’avons accord commercial ni aucun intérêt à vous le proposer.

L’auteur s’appuie notamment sur “Le contre-atlas de l’intelligence artificielle” de Kate Crawford, chercheuse, professeure à l’Université de New York et chercheuse chez Microsoft.

La chercheuse australienne y montre notamment comment les composants électroniques nécessaires au fonctionnement des IA s’assemblent et s’échangent aux quatre coins de la planète, constituant une industrie lourde, mettant au jour ses coûts politiques, sociaux et environnementaux, lesquels menacent directement la pérennité du vivant.

A découvrir également :

Avant d’être un techno-solutionnisme qui permettra de réaliser l’humanité “augmentée”, “l’immortalité” ou l’annihilation humaine en proie à des machines capables de générer de la “super-intelligence” (car les grands patrons de l’IA sont tous persuadés que l’humaine condition est menacée, et qu’il convient de les couvrir de milliards, de leur faire confiance, afin qu’ils préservent la vie, par la grâce de leurs connaissances (voir le livre Thibault Prévost), nos idolâtres de l’IA s’en tiennent encore à grossir la bulle du ridicule, car il y va de leur intérêt mercantile, et de leur ascendant symbolique sur nos existences sociales et professionnelles.

Machine learning jusque 2015, intelligence artificielle depuis lors, les surgeons de la baudruche naze-tech ne cessent de se livrer à diverses bouffonneries, dont les conséquences de certaines demeurent toutefois inquiétantes.

Quelques exemples édifiants. A Lucerne, en Suisse, dans la plus ancienne église de la ville, c’est Jésus qui s’adresse à vous sous la forme d’un avatar auréolé, après avoir préalablement ingurgité 900 dialogues attribués au fils de Dieu.

Là c’est “Eliza“, une intelligence générative faisant office de psychothérapeute, qui devient le conseiller existentiel d’un belge très anxieux pour l’avenir de la planète, auprès de laquelle “Il évoque l’idée de se sacrifier si Eliza accepte de prendre soin de la planète et de sauver l’humanité grâce à l’intelligence“. L’homme finit par passer à l’acte. “Nous vivrons ensemble, comme une seule personne, au paradis”, lui susurre le chatbot, avant de le livrer au sacrifice ultime.

Ici c’est l’assistant personnel Alexa (groupe Amazon) qui suggère à un enfant de toucher une prise électrique avec une pièce de monnaie, voire des utilisateurs de chatbots personnalisés révélant un attachement malsain à ces entités virtuelles, ou encore l’utilisation excessive d’applications GPS qui conduit à une atrophie des capacités naturelles d’orientation spatiale chez de nombreuses personnes...

Reste à espérer que les élites de l’IA puissent effectivement télécharger leur cerveau dans le cloud (comme ils y aspirent tant). De sorte qu’il serait loisible de les débrancher…

A suivre sur Youtube, les chaines “Artificialis code” :

Et “Monsieur Phi” (professeur de philosophie, passionné par les IA) :