Réguler l'IA?

Plus que cela...

         Après l' enthousiasme naïf des débuts, voici venir le temps du recul, de la prudence, de l'interrogation. Si l'IA et toutes ses applications en cours et à venir semblent bien un formidable moteur de développement matériel et intellectuel, technologique, médical, etc..les applications de ces outils, qui n'en sont qu' à leurs premiers vagissements, semblent bien poser problème à ceux qui signalent et anticipent les limites, les risques et les dérives possibles de certains usages, dans certaines conditions. L'ambiguïté est au coeur. Surtout peut-être dans le domaine éducatif, où certains y voient le remède à tous le maux qui affectent l'école.

D'où la nécessité de réguler.  Sous peine de dénaturation de certaines tâches proprement humaines. Il y a des fonctions qui ne pourront jamais être remplacées.

Point de vue: 

                      Réguler l’IA ne suffit pas. Il faut démonter la logique qui l’introduit dans nos écoles   ______________

Les entrepreneurs du secteur de l’éducation vantent les mérites de l’intelligence artificielle comme remède à tous les maux, de l’inégalité d’accès au tutorat à l’épuisement professionnel des enseignants. Ayo Walker / Truthout.    En avril dernier, la secrétaire d’État à l’éducation, Linda McMahon, a pris la parole lors d’une importante conférence sur les technologies de l’information à San Diego et a affirmé avec une grande détermination que les élèves américains bénéficieraient bientôt d’un « enseignement A1 ». Elle l’a répété à l’envi – « A1 » au lieu de « AI ». « Le système scolaire va commencer à faire en sorte que les élèves de première année, ou même de maternelle, bénéficient chaque année d’un enseignement A1. C’est merveilleux », a-t-elle assuré à la foule.                                                              Ce moment est rapidement devenu viral. Les chroniqueurs de fin de soirée l’ont descendue en flammes. A.1. Steak Sauce a publié une fausse publicité : « Vous l’avez entendue. Chaque école devrait avoir accès à A.1. » [A.1 est le nom d’une sauce produite par la marque Kraft Heinz, NdT]               C’était drôle – mais pas longtemps. Parce que derrière cette gaffe se cache quelque chose de bien plus inquiétant : la personne qui dirige la politique fédérale en matière d’éducation souhaite remplacer le processus émotionnel et intellectuel de l’enseignement et de l’apprentissage par un processus mécanique de fourniture de contenu, d’extraction de données et de surveillance se faisant passer pour de l’éducation.               Cette démarche s’inscrit dans le cadre d’un programme plus vaste défendu par des milliardaires comme Bill Gates. « Les I.A. atteindront cette capacité, celle d’être un aussi bon enseignant que n’importe quel humain », a déclaré Gates lors d’une récente conférence destinée aux investisseurs dans le domaine des technologies éducatives. Comme l’a résumé un titre de presse : « Bill Gates affirme que l’IA remplacera les médecins et les enseignants d’ici 10 ans. »                                       Il ne s’agit pas seulement d’une prévision, mais d’un fantasme libidinal – un rêve capitaliste qui consiste à remplacer les relations humaines par du code et des logiciels évolutifs, tandis que les institutions publiques sont vidées de leur substance au nom de « l’innovation. »                                              Il nous faut arrêter de prétendre que les algorithmes peuvent penser – et il nous faut arrêter de croire que les logiciels sont intelligents. Même si utiliser le terme « IA » sera parfois nécessaire pour être compris, nous devrions commencer à trouver et utiliser un langage plus exact. Et non, je ne suis pas en train de dire que nous devons commencer à l’appeler « A1 » – sauf si nous parlons de la façon dont elle est étalée partout, que nous l’ayons demandée ou non. Ce que nous appelons IA serait mieux compris si nous l’appelions « mimétisme artificiel » : une reflet sans pensée, une articulation sans âme.                                                                                                                                                                        Le philosophe Raphaël Millière explique qu’en fait ce que ces systèmes font, ce n’est pas réfléchir ou comprendre, ils utilisent ce qu’il appelle le « mimétisme algorithmique » : une comparaison sophistiquée de modèles qui imite les performances humaines sans pour autant posséder la cognition humaine. Il écrit que les grands modèles pré-entraînés comme ChatGPT ou DALL-E 2 ressemblent davantage à des « caméléons aléatoires », qui ne se contentent pas de répéter des phrases mémorisées, mais se fondent dans le style, le ton et la logique d’une requête donnée avec une fluidité déconcertante. Cette capacité d’adaptation est impressionnante – et elle peut se révéler dangereuse – précisément parce que l’on peut facilement la confondre avec la compréhension.                                                   Ce que l’on appelle l’IA peut être utile dans certains contextes. Mais ce que nous appelons aujourd’hui l’IA dans les écoles ne pense pas, ne raisonne pas, ne comprend pas. Elle devine. Elle copie. Elle manipule la syntaxe et les modèles en se basant sur la probabilité et non sur le sens. Elle n’enseigne pas – elle incite. Elle ne guide pas, elle gère.   En bref, elle imite l’intelligence. Mais le mimétisme n’est pas la sagesse. Ce n’est pas de la bienveillance. Ce n’est pas de la pédagogie.                      Le véritable apprentissage, comme l’a montré le célèbre psychologue Lev Vygotsky, est un processus social. Il se fait par le dialogue, les relations et l’élaboration d’un sens commun. L’apprentissage se déroule dans ce que Vygotsky a appelé la zone de développement proximal – cet espace entre ce qu’un apprenant peut faire seul et ce qu’il peut réaliser avec les conseils d’un enseignant, d’un pair ou d’un mentor plus expérimenté – quelqu’un qui peut répondre avec bienveillance, poser la bonne question et accompagner l’étape suivante.                                                         Elle ne peut pas sentir si le silence d’un élève est synonyme de confusion ou de traumatisme. Elle ne peut pas remarquer l’étincelle dans les yeux d’un étudiant lorsqu’il relie un concept à son expérience vécue. Elle ne peut pas voir la brillance derrière une idée désordonnée, mais non encore complètement développée, ou le potentiel d’une voix non conventionnelle. Elle ne peut pas construire une communauté bienveillante.  Les entrepreneurs du secteur de l’éducation vantent les mérites de l’intelligence artificielle comme remède à tous les maux, depuis l’inégalité d’accès au soutien scolaire jusqu’au burn out des enseignants.   Elle peut produire des faits, poursuivre avec des questions, proposer des corrections, faire des résumés ou suggérer les prochaines étapes, mais elle ne peut pas reconnaître le poids émotionnel de la confusion ou la joie discrète d’une découverte intellectuelle.  Ce travail – la véritable tâche d’enseignement et d’apprentissage – ne peut être automatisé.  Les écoles ont besoin de plus d’assistants pédagogiques et de moins d’intelligence artificielle                                         Les outils d’IA tels que Magic School, Perplexity et School.ai sont pratiques : correction de la grammaire, reformulation des phrases, amélioration du ton. Mais ils poussent également les élèves vers des réponses stéréotypées qui leur permettront d’obtenir des notes élevées. L’IA incite les élèves à se conformer efficacement aux règles, et non à prendre des risques intellectuels ; ces outils enseignent le conformisme, et non l’originalité.          Récemment, mon fils a utilisé Raina, le chatbot de MagicSchool, pendant l’un de ses cours de Terminale, pour faire des recherches sur son exposé sur Porto Rico. Les avantages en étaient évidents : des réponses instantanées, pas besoin de passer au crible des textes denses ou de multiples sites web. Mais Raina n’a jamais posé les questions essentielles : pourquoi une nation qui s’autoproclame « terre de liberté » considère-t-elle toujours Porto Rico comme une colonie ? Comment les systèmes d’IA comme le sien contribuent-ils à la crise climatique qui menace l’avenir de l’île ? Raina a fourni des réponses bien policées. Mais soulever des questions plus complexes et aider les élèves à gérer le poids émotionnel des réponses est le travail d’un enseignant humain.                                                                                                                                    L’IA peut contribuer à simplifier les textes ou à faciliter l’écriture, mais elle peut aussi induire en erreur. Au fil du temps, elle entraîne les élèves à imiter ce que l’algorithme juge « efficace », plutôt qu’à développer leur propre style ou leurs propres idées. La lecture devient alors une simple extraction et non plus une mise en relation. L’âme de la littérature se perd lorsque la lecture devient une tâche mécanique et non un échange d’idées et d’émotions entre êtres humains.   De nombreux enseignants, sous-payés et débordés, se tournent vers l’IA par nécessité.                __ Cependant nous devons nous demander : pourquoi, dans le pays le plus riche de l’histoire du monde, les classes sont-elles si chargées – et les ressources si rares – que les enseignants sont obligés de faire appel à l’IA plutôt qu’à des assistants pédagogiques ? Pourquoi n’embauchons-nous pas davantage de documentalistes pour sélectionner des textes adaptés au niveau des élèves ou ne réduisons-nous pas la taille des classes afin que les enseignants puissent adapter eux-mêmes l’enseignement ?                                                               L’IA ne se contente pas d’uniformiser l’apprentissage : elle peut désormais surveiller le comportement numérique des élèves de manière particulièrement invasive. Présentés comme des outils de sécurité, ces systèmes traquent ce que les élèves écrivent, recherchent ou publient, même lorsque les appareils sont fournis par l’école et emportés à la maison, étendant ainsi la surveillance à la vie privée des élèves. Au lieu de budgéter des conseillers, les écoles dépensent des milliers de dollars (comme les 58 000 dollars d’un district du New Jersey) pour des logiciels de surveillance. À Vancouver, dans l’État de Washington, une faille dans la sécurité des données a révélé l’ampleur des informations personnelles, notamment sur la santé mentale et l’identité LGBTQ+, qui étaient discrètement collectées. Une étude a révélé que près de 60 % des étudiants américains s’autocensurent lorsqu’ils sont sous contrôle. Comme l’expliquent Shreya Sampath et Marisa Syed, responsables d’Encode Justice, les élèves craignent que leurs « données soient collectées et commercialisées » et que leurs camarades « s’autocensurent dans des environnements d’apprentissage censés encourager l’exploration. »   Ursula Wolfe-Rocca, enseignante dans une école défavorisée de Portland, dans l’Oregon, a décrit l’utilisation actuelle de l’IA comme étant « ad hoc », certains enseignants de son école l’expérimentant et d’autres ne l’utilisant pas du tout. Alors que son école est encore en train d’élaborer une politique officielle, elle s’inquiète de l’enthousiasme de certains membres du personnel et de l’administration pour l’IA, motivé par « un battage médiatique non fondé sur la façon dont l’IA peut aider à combler le fossé en matière d’équité. »                                                                                            La description de Wolfe-Rocca est à l’image d’une tendance nationale : L’utilisation de l’IA dans les écoles est inégale et très peu règlementée, et pourtant les districts encouragent de plus en plus son adoption. Même en l’absence d’un cadre réglementaire clair, le message que reçoivent de nombreux éducateurs est que l’IA arrive et qu’on attend d’eux qu’ils l’adoptent. Pourtant, cette pression s’accompagne souvent d’une absence de discussion sérieuse sur la pédagogie, l’éthique ou les inégalités structurelles que l’IA pourrait en fait aggraver, en particulier dans les écoles défavorisées comme la sienne.               ____________  Dans cette ruée vers l’or qu’est l’IA aujourd’hui, les entrepreneurs du secteur de l’éducation troquent les vieux scénarios de normalisation contre de belles promesses de personnalisation, vantant les mérites de l’intelligence artificielle comme remède à tous les maux, depuis l’inégalité d’accès au soutien scolaire jusqu’au burnout professionnel des enseignants. Prenons l’exemple de Salman Khan, fondateur de la Khan Academy, qui parle en termes élogieux du potentiel de l’IA. Khan a récemment créé Khanmigo un chatbot destiné à l’enseignement et l’a décrit comme un moyen de « démocratiser l’accès des étudiants au soutien individualisé », affirmant que celui-ci pourrait éventuellement offrir à « chaque étudiant aux États-Unis, et à terme dans le monde entier, un professeur particulier de classe mondiale ». Le nouveau livre de Khan, Brave New Words, se lit comme une lettre énamourée à l’IA – une machine dénuée de toute émotion qui, comme il se doit, ne l’aimera jamais en retour.Il est difficile d’ignorer l’ironie du titre choisi par Khan pour son livre, Brave New Words (Le meilleur des mots), qui fait écho au roman dystopique de Huxley, Brave New World (Le meilleur des mondes), où la personnalité individuelle est effacée, l’éducation est mécanisée et la conformité est imposée par la facilité technologique. Mais plutôt que de considérer la vision de Huxley comme un avertissement, Khan semble la prendre comme un modèle, et son livre se lit comme une étude de cas sur la façon de passer à côté de l’essentiel.  les vérités difficiles à accepter sont introuvables. Khanmigo, par exemple, n’incite pas les élèves à s’interroger sur le fait qu’Hitler a ouvertement fait l’éloge des États-Unis pour les lois de ségrégation Jim Crow, les programmes eugéniques et le génocide contre les Amérindiens.

Comme tant d’autres solutions miracles pour l’éducation avant lui, Khan arrive devant la porte de l’école avec un chariot rempli d’élixirs numériques. C’est le charlatanisme classique du domaine des technologies : un discours tape-à-l’œil, des promesses grandiloquentes de révolutionner l’éducation et des concepts comportementalistes éculés présentés comme des innovations. Le béhaviorisme, une théorie qui réduit l’apprentissage à des changements de comportement observables en réponse à des stimuli externes, traite les élèves moins comme des penseurs que comme des répondeurs programmables. La vision de Khan, qui consiste à remplacer les enseignants humains par des chatbots d’IA, n’est pas démocratisante, elle est déshumanisante.

« Ce dont nous avons besoin, ce n’est pas de davantage d’IA, mais de davantage d’enseignants, de personnel d’encadrement et d’une véritable formation, surtout après que la crise COVID a laissé tant d’éducateurs désarmés. »

          Bien loin d’être passionnantes ou innovantes, ces « solutions » automatisées s’inscrivent dans une longue tradition de technologies d’enseignement comportementalistes. Comme le montre l’historienne Audrey Watters dans Teaching Machines, les efforts de personnalisation de l’apprentissage par l’automatisation ont commencé dans les années 1920 et ont pris de l’ampleur avec les machines à enseigner de B.F. Skinner dans les années 1950. Mais ces outils ont souvent échoué, car ils reposaient sur l’hypothèse erronée selon laquelle l’apprentissage n’est qu’une réponse programmée plutôt qu’un lien humain.         En dépit de ces échecs, les élites du monde la Tech d’aujourd’hui doublent la mise. Mais soyons clairs : ce n’est pas le type d’éducation qu’ils souhaitent pour leurs propres enfants. Les riches ont des classes à effectifs réduits, des professeurs de musique, de riches bibliothèques, des programmes de littérature et de débats et des mentors humains. Nos enfants se voient proposer des robots d’intelligence artificielle dans des classes surchargées. Il s’agit d’un schéma bien connu : l’apprentissage standardisé et scénarisé pour le plus grand nombre ; la créativité et l’attention pour le plus petit nombre. Les élites prétendent que l’IA va « uniformiser les règles du jeu », mais elles se déchargent sur le public des coûts environnementaux qu’elle engendre. La formation de grands modèles d’IA consomme d’énormes quantités d’énergie et d’eau et alimente la crise climatique. Les mêmes milliardaires qui encouragent l’IA construisent des complexes privés pour protéger leurs enfants des dommages causés par leurs industries – au lieu de réglementer la tech ou de réduire les émissions, ils protègent les leurs à la fois de la pédagogie et des retombées de leur cupidité.    __________Em Winokur, documentaliste scolaire dans l’Oregon, a rejoint la cohorte « Innovateurs de l’IA » du Multnomah Education Service District afin de faire entendre une voix critique dans un débat dominé par le battage médiatique et l’influence de l’industrie. Elle a pu constater les contradictions de première main : « Les entreprises Tech de l’éducation n’investissent pas dans les progrès de nos étudiants ou dans la construction d’un monde plus solidaire, a-t-elle déclaré à Truthout. Ce dont nous avons besoin, ce n’est pas de davantage d’IA – c’est de davantage d’enseignants, de personnel d’encadrement et d’une véritable formation, surtout après la crise COVID qui a laissé tant d’éducateurs désarmés. »            Bien entendu, les gestionnaires de fonds spéculatifs, les PDG et les politiciens qu’ils financent tourneront cette vision en dérision. Ils la qualifieront de peu pratique, de trop coûteuse, d’irréaliste. Ils soutiendront que l’économie ne peut pas financer l’augmentation du nombre d’éducateurs, de psychologues scolaires, de classes plus petites ou de bibliothèques scolaires dotées d’effectifs complets. Et puis, dans la foulée, ils proposeront l’IA comme solution : moins chère, plus rapide, plus facile. Leur vision est celle d’une imitation creuse et mécanisée de l’éducation.                                 Nombre d’éducateurs et d’étudiants n’acceptent pas passivement cet avenir dominé par l’IA. Des groupes dirigés par des jeunes, comme Encode Justice, sont à l’avant-garde de la lutte pour la régulation de l’IA. L’Algorithmic Justice League conteste la généralisation de la surveillance biométrique dans les écoles et met en garde contre les systèmes de reconnaissance faciale qui menacent la sécurité des élèves et le climat scolaire. Les efforts d’organisation tels que Black Lives Matter at School et le mouvement Teach Truth font s’inscrivent dans un mouvement grandissant qui refuse de laisser les milliardaires dicter les conditions de l’apprentissage.                                                                                                                                                    Introduire l’IA dans les écoles n’est pas un progrès – c’est le signe de problèmes sous-jacents beaucoup plus profonds dans l’enseignement américain, qui montrent à quel point nous nous sommes éloignés de la finalité de l’éducation. Pendant des décennies, les décideurs politiques et les profiteurs ont troqué l’attention humaine contre des évaluations à enjeux élevés, des programmes scolaires préétablis et la surveillance. L’IA n’est pas la maladie, c’est le symptôme d’un modèle scolaire colonialiste qui est destructeur et déshumanisant, plutôt que libérateur. Cela veut dire que réguler l’IA ne suffit pas, il faut démonter la logique qui l’a introduite dans les écoles.         J’ai eu un jour un élève – je l’appellerai Marcus – qui était en dernière année de lycée et qui avait déjà été accepté dans une bonne université. Mais à la fin de l’année, ses notes ont fortement chuté et tout à coup, il risquait de ne pas obtenir son diplôme. Au fil du temps, Marcus et moi avions tissé des liens de confiance, notamment grâce à des cours sur l’histoire des Noirs et la résistance au racisme. En tant qu’élève noir à qui l’on avait longtemps caché cette histoire, il a fini par comprendre que je n’étais pas là pour lui donner des notes, le classer ou le punir, mais pour lutter contre l’injustice. Ce lien l’a aidé à s’ouvrir et à me confier qu’il était sans domicile. Une fois que j’ai compris ce qu’il vivait, je l’ai mis en contact avec des services d’aide sociale et j’ai convaincu ses autres enseignants de faire preuve de souplesse et de bienveillance. Il a finalement réussi ses examens, obtenu son diplôme et est entré à l’université.             Ce genre de sollicitude ne vient pas d’un code. Il est le fruit d’une relation humaine, ancrée dans la confiance, la justice et l’amour.        *Jesse Hagopian est éducateur à Seattle, directeur de la campagne Teaching for Black Lives du Zinn Education Project, rédacteur pour Re]thinking Schools et auteur du livre Teach Truth : [The Struggle for Antiracist Education (Enseigner la vérité : la lutte pour une éducation antiraciste). On peut le suivre sur IAmAnEducator.com, Instagram, Bluesky ou Substack.]        Source : Jesse Hagopian, Truthout, 06-07-2025 ____ Souligné par moi.]    ________________________

A quoi ça sert...

 De se décarcasser à l'Université?..                                                                                                                                                                 On se le demande. Que de temps perdu, d'efforts vains et de connaissances vite dépassées!  On peut rêver d'un autre monde où on peut gagner du temps et de l'argent, même pour des formations les plus pointues. Il est déjà là et va se développer à grande vitesse. L'IA est là pour nous, dont le développement semble sans limites:  Chat Gpt, Gemini et tous les autres outils qui vont naître demain. Comme un deuxième cerveau qui peut se développer à l'infini.   Finie, la  triche!     Et ce n'est pas seulement les cerveaux qui auront des prothèses pour corriger ses imperfections, sa lenteur,... L'avenir est à l'homme augmenté, comme l'ont déjà envisagé les boss de la Silicon Valley. L'immortalité est même en vue, comme le pense aussi le bon Mr Trump.      L'homme bionique, dans son accomplissement sans fin, serait pour demain. C'est la posthumanité qui est en marche, vers des horizons insoupçonnés.

       Le biologiste J.Testard a fait une mise au point utile sur la faiblesse, l'irrationnelle et la potentielle dangerosité de ces fantasmes si séduisants et puissants.
  Le déraisonnable et l'inhumain nous guetteront et nous guetteront toujours prévient A.Kahn.
    Les risques sont multiples, les nanotechnologies présentant notamment encore de nombreuses inconnues.
Augmenté? Mais de quoi?...IL faudrait d'abord mieux définir l'intelligence..
       Il est à craindre que ce qui pourrait être augmenté, c'est une part d'hubris inquiétante.

    La super intelligence serait pour demain.   Oui, mais...Et l'intelligence naturelle?  Peut-on faire toujours confiance à Chat GPT ?

   Le bon Mr Alexandre s'avance beaucoup, sûr de lui, en expert largement autoproclamé.

   Il est aux limites du mythe.    Visionnaire, utopiste, ou provocateur? Il a inventé une nouvelle religion et a  déjà fait des adeptes...

          "  Laurent Alexandre, médecin et énarque, et Olivier Babeau, professeur d’université, sont les auteurs de nombreux ouvrages. Si le premier s’est très tôt intéressé à l’intelligence artificielle et à ses applications médicales (La mort de la mort, La guerre des intelligences, La défaite du cancer), le second s’est plutôt penché sur les conséquences psychologiques et politiques du développement des technologies numériques (Le nouveau désordre numérique, La tyrannie du divertissement, L’ère de la flemme).     Dans Ne faites plus d’études (Éditions Buchet-Chastel, 2025), les auteurs plaident pour une réforme totale de l’enseignement supérieur, aujourd’hui concurrencé par des technologies qui remettent en cause son utilité. Les temps, selon eux, ne sont plus aux formations longues, aux diplômes et aux concours, qu’ils assimilent à des artefacts d’un monde mourant. Appelant à une « déscolarisation » des savoirs et de l’intelligence, ils exhortent les jeunes à penser « hors du système ». L’avenir appartient aux étudiants disciplinés, curieux, et capables d’utiliser l’IA pour apprendre par eux-mêmes. Convoquant de nombreuses études, Alexandre et Babeau livrent ici un essai audacieux, propre à nourrir une réflexion quant au devenir de notre système d’éducation.                                                La première partie de l’ouvrage révèle l’étendue des bouleversements engendrés par le développement de l’IA générative. Souvent tenu pour une simple évolution instrumentale, le perfectionnement de ces technologies marquerait, en réalité, une rupture comparable à la domestication du feu. Il s’en distinguerait cependant par son rythme incroyablement rapide et par ses effets. Là où le feu avait permis à l’homme de dominer son environnement (au terme, toutefois, de 300 000 ans d’essais), l’IA concurrencerait l’humain dans ce qu’il a longtemps pensé relever de son apanage : la pensée. Pour la première fois de l’histoire, « l’intelligence sort du corps ». Elle devient exogène et gratuite.                                                                            Les conséquences de cette révolution se font déjà sentir. Les auteurs empruntent à l’historien Yuval Noah Harari une métaphore frappante : l’irruption des LLM (pour Large Language Models) dans nos sociétés pourrait être comparée à l’arrivée massive et soudaine de milliards d’immigrés à très haut QI. Associés à des coûts de plus en plus faibles, infatigables, plus productifs et plus efficaces que l’immense majorité des humains, ces agents menacent la plupart des métiers, des fonctions et des statuts actuels. La réponse institutionnelle diffère selon les régions. Si la Chine et les États-Unis semblent avoir pris la mesure des enjeux associés à la maîtrise de ces technologies, l’Europe se limite à une posture de consommation et de réglementation. Or, sans ambition industrielle dans le domaine, notre continent s’expose à d’importants problèmes de souveraineté cognitive.                                                                                           Les décideurs européens se rassurent en raillant les « hallucinations » (pourtant de moins en moins nombreuses) des LLM et en se persuadant que l’IA demeurera éternellement déconnectée du monde physique. C’est sans compter sur la « robolution », c’est-à-dire l’avènement de robots humanoïdes dopés à l’IA. Des entreprises comme Tesla Optimus (propriété d’Elon Musk) sont aujourd’hui capables de produire des automates habiles et intelligents, propres à abolir la distinction entre métiers manuels et intellectuels. Ces robots, dont il est prévu qu’ils soient mis sur le marché dans cinq ans, pourront aussi bien travailler en usine qu’à la maison. Ils peupleront nos cabinets médicaux, nos écoles et nos rues. Notre tendance à déléguer les tâches pénibles et répétitives aux machines, le manque de main-d’œuvre dans nos sociétés et l’efficacité de ces nouvelles technologies nous conduiront, sans nul doute, à les adopter massivement. Cols blancs et bleus souffriront donc autant de la concurrence que leur livreront bientôt ces dispositifs. Seuls semblent pouvoir résister à cette révolution les métiers du care (aide-soignant, sage-femme, éducateur spécialisé, etc.) et des arts du spectacle, dont la nature, profondément humaine, les protège pour un temps. Il demeurera également nécessaire de confier à des personnes la charge d’assumer la responsabilité des choix opérés par l’IA.                                                                                                                                                                  Comment demeurer compétitif dans ces conditions ? Les auteurs ne balancent pas : dans un monde où ChatGPT frôle les 150 de QI, l’avenir est à l’hybridation neuronale. Cette option, qui fonde le projet transhumaniste, semble déjà avoir les préférences de certains magnats de la tech. Alexandr Wang, qui supervise le projet de super-intelligence de Meta, explique ainsi vouloir attendre la maturation des implants neuronaux pour devenir père. Plus d’un tiers des Américains se déclarent aujourd’hui favorables à la perspective d’augmenter le QI de leurs enfants par manipulation embryonnaire ou via des implants cérébraux. Alexandre et Babeau parient sur une émulation générale : quel parent, dans le futur, acceptera de condamner son enfant à la stagnation intellectuelle quand d’autres feront le choix d’augmenter leur progéniture ? Tout porte à croire que nous nous préparons à entrer dans l’ère du « design cognitif ».                                                                                                                  Cette époque ne consacrera pas la « mort du travail » (vieille lune technophobe) car les avancées techniques permettront d’envisager la création de nouveaux métiers. Les auteurs, en lecteurs de Schumpeter, envisagent ainsi très sérieusement que puissent exister, dans les prochaines décennies, des « designers de bébés ». D’autres professions, en revanche, semblent inéluctablement vouées à disparaître. Alexandre et Babeau prédisent ainsi la fin prochaine des emplois liés à la rédaction, à la veille, au consulting, à l’analyse juridique et au service client. Selon eux, « [les] cols blancs [sont en passe de découvrir] qu’ils sont peut-être les ouvriers spécialisés de la nouvelle ère numérique, menacés par un taylorisme algorithmique ».                                                                                                                            L’enjeu consiste désormais à déterminer de quelle façon nous pouvons compléter une IA qui analyse, synthétise et crée mieux que nous. Le défi est de taille, car les agents actuels, loin de se réduire à de simples dispensateurs de savoirs, investissent le champ de la connaissance (entendue comme le produit d’une authentique réflexion). Il devient nécessaire d’envisager des formations nouvelles, propres à permettre aux jeunes de travailler de concert avec l’IA. Or, en la matière, tout, ou presque, reste à faire.                                                                                                Les auteurs établissent un constat : l’émergence de l’intelligence générative ne fait qu’accélérer le processus de décomposition de l’université, très largement consommé en France. Rétive à tisser des liens avec le monde du travail et confrontée à la massification de ses effectifs, elle perd de son utilité à l’heure où l’IA peut expliquer plus vite et plus efficacement que le plus compétent des professeurs. Figée dans des pratiques anciennes, elle persiste à fétichiser le diplôme, dont Laurent Alexandre et Olivier Babeau, pourtant issus des meilleurs établissements, prédisent qu’il sera bientôt assimilé à une « relique barbare », incapable d’attester du niveau réel d’un étudiant.                                                                        Et c’est là que le bât blesse : l’université, née à la fin du XIe siècle, a rendu d’immenses services à l’humanité mais peine désormais à accomplir ses missions. La démocratisation de l’enseignement supérieur a conduit à une inflation du nombre de diplômés et à la dévalorisation de nombre de certifications. Pire : le fonctionnement de l’université, demeuré largement inchangé depuis l’ère industrielle, l’empêche de s’adapter au « tsunami » engendré par l’apparition des LLM. Il devient pourtant urgent de proposer aux étudiants des formations à l’IA et d’intégrer ces technologies aux cursus.                                                                                     Qu’en est-il actuellement ? Alexandre et Babeau brossent un portrait apocalyptique de la situation de l’enseignement supérieur en France (mais la situation semble identique dans la plupart des universités publiques des pays de l’OCDE). L’explosion des capacités de l’intelligence artificielle, expliquent-ils, coïncide avec une diminution des compétences des étudiants. Globalement moins performants et moins cultivés que leurs aînés, les jeunes sont aujourd’hui menacés d’ « abdication cognitive ». Souvent tentés de briller à moindre coût, nombre d’entre eux délègueraient aux IA la réalisation de leurs devoirs. Le phénomène serait massif : les auteurs, relayant un récent article du Financial Times, révèlent que 88 % des étudiants britanniques utilisent aujourd’hui ChatGPT lors de leurs partiels, sans que les surveillants de salle interviennent. Si ces pratiques achèvent de démonétiser les diplômes, elles posent un problème à l’ensemble de la société : comment gérer, demain, des cohortes de jeunes totalement dépendants de l’IA ? Où et comment les employer ? Faut-il envisager la création d’un revenu universel ? Qui imaginera des solutions originales à des problèmes nouveaux ?                                        Ces questions, vertigineuses, ne semblent pas avoir été prises en compte par les établissements d’enseignement supérieur. Rien (ou si peu) n’est entrepris pour éviter que les étudiants ne creusent davantage leur « dette cognitive ». Le danger tient à ce que le capitalisme cérébral exige des hommes qu’ils travaillent et se forment sans discontinuer. Les auteurs entrevoient ici une possible fracture, qui résulterait d’un « darwinisme cognitif et économique ». L’avenir serait aux esprits agiles, curieux, et disposés à « un mépris lucide pour les anciens signaux de valeur » (les diplômes et les concours, qui, loin d’attester de l’intelligence de ceux qui les réussissent, ne sanctionnent qu’une capacité à penser dans des cadres figés).                Si l’IA conteste aux établissements d’enseignement supérieur leur monopole éducatif, elle les concurrence également en matière de recherche. En 2024, le prix Nobel de chimie a ainsi été décerné à Demis Hassabis, le directeur général de Google DeepMind, dont le modèle AlphaFold 2 est parvenu à prédire la structure des protéines (une tâche qui, sans IA, aurait nécessité le travail de « milliards » de biologistes pendant un an). L’ingression de l’IA dans le champ scientifique contribue à une redistribution des lieux de production du savoir. Beaucoup d’étudiants talentueux, d’ailleurs, ne s’y trompent pas. Le livre révèle ainsi qu’un nombre croissant d’entre eux quitte les universités pour intégrer des laboratoires privés. Sam Altman, le co-fondateur d’OpenAI, estime même que son fils, né d’une récente GPA, n’aura aucun intérêt à suivre un cursus universitaire. Les motivations de ces jeunes cerveaux sont multiples, entre conditions de travail optimales et accès à des rémunérations extrêmement attractives (Mark Zuckerberg proposerait à ses meilleurs ingénieurs des salaires 3 000 fois plus élevés que ceux qu’ils pourraient espérer percevoir à l’université).                                                                                                                                        Face à ces bouleversements, les auteurs avertissent : entreprendre des études longues dans un monde où la durée de vie d’un savoir technique est passé, en quatre décennies, de trente à deux ans constitue une « faute stratégique ».   Alexandre et Babeau exhortent plutôt les jeunes à se livrer à un « auto-diagnostic ». Les lycéens doivent réfléchir à la façon dont ils deviendront complémentaires de l’IA. L’idéal, dès aujourd’hui, n’est pas d’avoir été validé par une instance officielle mais de devenir « non-standard », c’est-à-dire irremplaçable, de se cultiver sans relâche, de développer son esprit critique et de s’auto-discipliner. Dans le monde qui vient, dont l’ouvrage assure qu’il sera violemment inégalitaire, la persévérance, le travail, la culture générale et la connaissance de l’histoire « fer[ont] la différence de destins et fonder[ont] les hiérarchies ».                                                                                                                           La dernière partie du livre est consacrée aux « principes de nouvelle éducation » qu’Alexandre et Babeau appellent de leurs vœux. Ceux-ci consacrent le droit universel à l’IA éducative, le droit à l’apprentissage personnalisé dans un monde où la pensée sera « déscolarisée », le droit à la souveraineté cognitive, le droit à un professeur humain (dont la fonction consistera désormais à guider l’étudiant dans un contexte d’explosion du savoir), le droit à la portabilité cognitive (qui garantira le transfert des échanges d’un modèle d’IA à un autre), l’inaliénabilité de l’identité numérique, le droit à la neutralité (qui impliquera une transparence épistémologique intégrale des modèles utilisés), le droit à la confidentialité de l’apprentissage, le droit à l’oubli pédagogique (afin de ne pas être assigné pour toujours à d’anciens échecs) et le droit à la neuro-augmentation, censée prévenir l’émergence d’une humanité « à deux vitesses ...."       _______________________                                                              

Vers une atrophie cognitive?

  IA: question de dosage, de feeling et de raison

    Devant ces nouveaux moyens encore au berceau, concernant les IA génératives, mais à l'évolution galopante, comment se situer? Adopter l'enthousiasme naïf de Laurent Alexandre, qui fait de l'IA une nouvelle religion, dénigrant toute formation universitaire jugée désuète? Ou garder une distance prudente et critique, car ce sont certaines de nos fonctions essentielles qui sont en question, des facultés qui peuvent en pâtir, par effet rétroactif.  Le deskilling guette...                                                                                                   Il existe un grand risque :" ...Moins de trois ans après le lancement de ChatGPT, 42 % des jeunes Français utilisent déjà les IA génératives quotidiennement1. Des études commencent cependant à pointer l’impact négatif de ces technologies sur nos capacités cognitives...L’utilisation massive d’Internet et des réseaux sociaux a déjà fragilisé notre rapport au savoir. Bien sûr, ces outils ont des applications formidables en termes d’accès à l’information. Mais contrairement à leurs promesses, ils opèrent moins une démocratisation des connaissances qu’une illusion généralisée du savoir. Je ne crois pas exagéré de dire qu’ils poussent globalement à une médiocrité intellectuelle, émotionnelle et morale. Intellectuelle parce qu’ils favorisent une surconsommation de contenus sans véritable analyse critique, émotionnelle parce qu’ils occasionnent une dépendance toujours plus profonde aux stimulations et au divertissement, et morale, parce que nous sommes tombés dans une acceptation passive des décisions algorithmiques....                                                       En 2011 déjà, une étude avait mis en évidence l’ « effet Google » : quand nous savons qu’une information est accessible en ligne, nous la mémorisons moins bien. Or, lorsque l’on n’entraîne plus sa mémoire, les réseaux neuronaux associés s’atrophient. Il a également été prouvé que les notifications, alertes et suggestions de contenus incessantes sur lesquelles s’appuient massivement les technologies digitales réduisent considérablement notre capacité de concentration et de réflexion. Moins de capacités de mémorisation, de concentration et de réflexion conduisent à une pensée appauvrie. Je crains fort que l’usage massif des IA génératives n’améliore pas la situation...des travaux3 menés par des chercheurs qataris, tunisiens et italiens indiquent ainsi qu’un usage massif des LLM fait courir le risque d’un déclin cognitif. Les réseaux neuronaux impliqués dans la structuration de la pensée, dans la rédaction de textes, mais aussi dans la traduction, dans la production créative, etc. sont complexes et profonds. Déléguer ces efforts mentaux à l’IA conduit à une « dette cognitive » cumulative : plus l’automatisation progresse, moins le cortex préfrontal est sollicité, laissant présager des effets durables en dehors de la tâche immédiate                                                                                                Les IA génératives ont tout pour nous rendre dépendants : elles s’expriment comme des humains, s’adaptent à nos comportements, semblent avoir réponse à tout, ont un fonctionnement ludique, relancent sans arrêt la conversation et se montrent extrêmement complaisantes à notre égard. Or, la dépendance est nocive non seulement parce qu’elle potentialise les autres risques mais aussi en elle-même. Elle peut engendrer un isolement social, un désengagement réflexif (si une IA peut répondre à toutes mes questions, pourquoi apprendre ou penser par moi-même ?), voire un sentiment d’humiliation profond face à l’incroyable efficacité de ces outils. Rien de tout cela n’est très enthousiasmant pour notre santé mentale..." 

                                                                             L'essentiel est donc de garder la  maîtrise. C'est un immense défi qui se présente à nous. Un défi anthropologique. "...à terme, une préoccupation plus subtile pourrait émerger. L'IA pourrait se mettre à répondre trop vite, à résoudre trop de problèmes et à exercer une influence trop marquée. Au lieu d'aider l'utilisateur à explorer ses propres pensées, le modèle pourrait finir par remplacer ce processus. En matière de soutien psychologique, une aide efficace ne se limite pas à fournir des réponses. Il s'agit aussi d'aider les gens à développer leurs propres capacités d'adaptation, leur conscience émotionnelle et leur aptitude à prendre des décisions. C'est pourquoi nous devons évaluer non seulement la sécurité de l'IA, mais aussi sa capacité à préserver l'autonomie humaine...."                                                                                                                                      Il reste encore beaucoup à apprendre sur ce sujet hautement sensible, qui est peut-être le débat du siècle...                                                                                                                                    Notes:   : 1 __ 2 __3              ___________

Larges horizons

__ La "déploration" suffira-t-elle?

__ Trump et les contre-pouvoirs: la partie n'est pas gagnée

__ Delphine et les fantômes                                                                                                               Quand la rabbin reconnaissait l'horreur

__ L'Amérique et les mollahs                                                                                                                                               La responsabilité des USA

__ Problèmes iraniens                                                                                                                                       Le régime a survécu, mais après?...

__ IA: doutes et questions:                                                                                                                                      On en parle. Un acharnement qui questionne...                                      "...Le mécanisme qui s’est enclenché ici n’est pas « n’importe quel racisme ». Il s’inscrit dans une longue tradition où les personnes noires sont « dépossédées de la capacité de réfléchir, de créer mais aussi de produire du savoir, de la pensée et de l’art ».       ___ Dans le champ de la recherche, une autre affaire a fait grand bruit cet été. Jason Arday, un universitaire noir, célébré comme le plus jeune enseignant de Cambridge, a été accusé lui aussi de plagiat dans sa thèse de doctorat. Sa mort est intervenue après une intense campagne de dénigrement lancée par un chercheur états-unien lui-même accusé de racisme. Alors qu’Arday avait été lâché par son université, il apparaît que les accusations étaient infondées, la commission de l’université d’obtention de son doctorat a conclu qu’il s’agissait d’erreurs « honnêtes et raisonnables ».                                     Cette affaire montre à quel point la place des personnes minorisées dans les espaces de savoir au sens large reste friable, quand bien même ils et elles se sont hissées à des postes prestigieux.                                 Pour Dawud Bumaye, éditrice de littérature au sein de la maison d’édition indépendante disparue Métagraphes puis de la revue féministe et antiraciste Dissidente, cette affaire démontre que « pour les auteurs racisés, le siège est toujours éjectable ». Elle poursuit : « Je pense qu’on ne peut pas faire comme si on n’était pas dans le Nord global, en France ou plus largement en Europe, dans un monde où le racisme est omniprésent dans toutes les sphères de la société. Si Thélyson Orélien avait été une personne blanche, la polémique aurait tout à fait pu exister, mais elle n'aurait jamais pris de telles proportions.   Rappelons par exemple le cas Michel Houellebecq, épinglé en 2010 pour des larges emprunts non signalés à Wikipédia pour son roman La Carte et le territoire. La polémique s’est rapidement éteinte et il a même décroché le Goncourt pour cette œuvre dans la foulée.                  De son côté, Fania Noël interroge la position singulière de cet auteur, publié dans l’une des maisons d’édition du groupe Bolloré, Grasset. Celle-ci a racheté à prix d’or les droits français du roman d’abord publié dans une maison québecoise, les Éditions du Boréal. Un groupe qui, dit-elle, « mène une guerre idéologique en France et a eu besoin d’un token [un alibi – ndlr] pour ses publications ».      Diaty Diallo n’est pas loin de penser la même chose. « Il existe un tokenisme “sincère” avec des personnes qui croient sincèrement en nos histoires, mais cela s’accompagne toujours d’une forme de comptabilité sur le nombre d’auteurs racialisés publiés et le type de récits que l’on s’attend à voir. »   Ce soutien, reprend la chercheuse, était factice. « Et aujourd’hui ce même groupe lâche cet auteur face à la meute. Et ce tandis que personne n’ose attaquer ses éditrices ou les correcteurs qui ont travaillé sur ce livre, sans avoir vu aucun problème. Tout le monde est protégé, sauf l’auteur. »      Dawud Bumaye n’est pas très étonnée que « face au harcèlement médiatique », ses éditeurs ne le soutiennent plus. « Pour ces grands groupes, le livre est un marché comme un autre. Tant qu’un auteur fonctionne, ils financent sa tournée et le poussent. Mais dès qu’une polémique éclate et qu’il ne rapporte plus, ils n’ont aucun scrupule à l’abandonner sur le bord de la route, car ils savent qu’ils pourront présenter quelqu’un d’autre. »                                     Elle rappelle aussi que les thématiques liées à l’immigration, au racisme ou même au genre sont aussi considérées dans le monde de l’édition comme des effets de mode ou un créneau éditorial à investir « de manière opportuniste » en se calquant sur les mouvements de la société comme Black Lives Matters en 2020.      Sur Instagram, l’écrivaine franco-camerounaise Hemley Boum a témoigné de son soutien à l’auteur, à qui elle s’adresse. Elle pointe « la logique mortifère qui vous a présenté comme un produit marketing et mis au firmament d’une rentrée littéraire sans vous expliquer les codes et les querelles intestines », soulignant que c’est cette même logique « qui aujourd’hui vous lynche sans âme ». Cette logique d’un monde « qui croit encore maîtriser tous les récits, dominer tous les narratifs et pouvoir choisir ceux qui méritent d’exister, quand et pourquoi, qui on encense et qui on broie ».    La romancière haïtienne primée Yanick Lahens s’est étonnée, sur Facebook, de la « couardise » du milieu littéraire et du traitement réservé à l’auteur incriminé. « Que Thélyson Orélien ait commis des erreurs, c’est une chose. Avoir été livré en pâture à une meute, c’est autre chose. La couardise qui a suivi me laisse pantoise. On ne lui a laissé ni le temps, ni le droit de s’expliquer. Va-t-on passer au même crible tous les auteurs et toutes les autrices en lice pour les grands prix de l’automne ? »   ___L’écrivain Mohamed Mbougar Sarr, lauréat du prix Goncourt en 2021, dans un entretien à Mediapart, juge que le poison du doute s’instille plus facilement autour des personnes minorisées : « L’histoire littéraire nous enseigne qu’il est plus facile, en France, depuis longtemps d’accuser un écrivain noir, plutôt qu’un autre, de n’être pas l’auteur de son texte. » Son roman primé La Plus Secrète Mémoire des hommes (Philippe Rey, 2021), avec le personnage T.C. Elimane, s’inspire de la mésaventure de Yambo Ouologuem, un écrivain malien récipiendaire en 1968 du prix Renaudot pour son roman Le Devoir de violence. Après avoir été célébré, il est accusé de plagiats, lâché par sa maison d’édition. Il finira sa vie en quasi-ermite, retiré du monde. Le parallèle est tentant car les mêmes mécanismes se mettent à l’œuvre...." (Merci à Mediapart)     __ Remettre l'humain au centre_

                                                                                                         ____ Ce que dit Chat GPT de lui-même, interrogé par mes soins. Un aveu partiel:       

                                                                                                                              "...  Les dangers de l’IA sont nombreux, et ils ne viennent pas tous de la même chose. Les principaux sont :

• Désinformation : l’IA peut produire des textes, images, vidéos ou voix très convaincants mais faux, ce qui facilite les arnaques et la manipulation.
• Erreurs et hallucinations : un système d’IA peut donner une réponse fausse avec beaucoup d’assurance. C’est particulièrement problématique dans la médecine, le droit ou la finance.
• Atteintes à la vie privée : l’IA peut analyser de grandes quantités de données personnelles et permettre une surveillance très poussée.
• Discrimination : si les données utilisées pour entraîner un système contiennent des biais, ses décisions peuvent reproduire ou amplifier ces biais, par exemple dans le recrutement ou l’accès au crédit.
• Emploi et inégalités : certaines tâches peuvent être automatisées rapidement, ce qui peut transformer des métiers et déplacer les revenus vers ceux qui possèdent les technologies.
• Cybercriminalité : l’IA peut aussi servir à automatiser le phishing, la fraude, la recherche de vulnérabilités ou la création de contenus malveillants.
• Dépendance et perte de compétences : déléguer systématiquement l’écriture, le raisonnement ou la prise de décision à une IA peut réduire certaines capacités humaines.
• Concentration du pouvoir : quelques entreprises ou États disposant de grandes quantités de données et de puissance de calcul peuvent acquérir une influence considérable.
• Risques liés aux systèmes autonomes : lorsqu’une IA est utilisée pour agir directement — par exemple pour contrôler des machines, des infrastructures ou des systèmes financiers — une erreur peut avoir des conséquences importantes.
• Risques à long terme : des chercheurs étudient également la possibilité que des systèmes futurs deviennent extrêmement capables et poursuivent des objectifs mal alignés avec les intérêts humains. Ce risque est davantage prospectif et fait l’objet de débats.

Le point essentiel est que l’IA n’est pas automatiquement dangereuse : le niveau de risque dépend beaucoup de son usage, de son autonomie, des données, des contrôles humains et du contexte.   _______