IA: question de dosage, de feeling et de raison
Devant ces nouveaux moyens encore au berceau, concernant les IA génératives, mais à l'évolution galopante, comment se situer? Adopter l'enthousiasme naïf de Laurent Alexandre, qui fait de l'IA une nouvelle religion, dénigrant toute formation universitaire jugée désuète? Ou garder une distance prudente et critique, car ce sont certaines de nos fonctions essentielles qui sont en question, des facultés qui peuvent en pâtir, par effet rétroactif. Le deskilling guette... Il existe un grand risque :" ...Moins de trois ans après le lancement de ChatGPT, 42 % des jeunes Français utilisent déjà les IA génératives quotidiennement1. Des études commencent cependant à pointer l’impact négatif de ces technologies sur nos capacités cognitives...L’utilisation massive d’Internet et des réseaux sociaux a déjà fragilisé notre rapport au savoir. Bien sûr, ces outils ont des applications formidables en termes d’accès à l’information. Mais contrairement à leurs promesses, ils opèrent moins une démocratisation des connaissances qu’une illusion généralisée du savoir. Je ne crois pas exagéré de dire qu’ils poussent globalement à une médiocrité intellectuelle, émotionnelle et morale. Intellectuelle parce qu’ils favorisent une surconsommation de contenus sans véritable analyse critique, émotionnelle parce qu’ils occasionnent une dépendance toujours plus profonde aux stimulations et au divertissement, et morale, parce que nous sommes tombés dans une acceptation passive des décisions algorithmiques.... En 2011 déjà, une étude avait mis en évidence l’ « effet Google » : quand nous savons qu’une information est accessible en ligne, nous la mémorisons moins bien. Or, lorsque l’on n’entraîne plus sa mémoire, les réseaux neuronaux associés s’atrophient. Il a également été prouvé que les notifications, alertes et suggestions de contenus incessantes sur lesquelles s’appuient massivement les technologies digitales réduisent considérablement notre capacité de concentration et de réflexion. Moins de capacités de mémorisation, de concentration et de réflexion conduisent à une pensée appauvrie. Je crains fort que l’usage massif des IA génératives n’améliore pas la situation...des travaux3 menés par des chercheurs qataris, tunisiens et italiens indiquent ainsi qu’un usage massif des LLM fait courir le risque d’un déclin cognitif. Les réseaux neuronaux impliqués dans la structuration de la pensée, dans la rédaction de textes, mais aussi dans la traduction, dans la production créative, etc. sont complexes et profonds. Déléguer ces efforts mentaux à l’IA conduit à une « dette cognitive » cumulative : plus l’automatisation progresse, moins le cortex préfrontal est sollicité, laissant présager des effets durables en dehors de la tâche immédiate Les IA génératives ont tout pour nous rendre dépendants : elles s’expriment comme des humains, s’adaptent à nos comportements, semblent avoir réponse à tout, ont un fonctionnement ludique, relancent sans arrêt la conversation et se montrent extrêmement complaisantes à notre égard. Or, la dépendance est nocive non seulement parce qu’elle potentialise les autres risques mais aussi en elle-même. Elle peut engendrer un isolement social, un désengagement réflexif (si une IA peut répondre à toutes mes questions, pourquoi apprendre ou penser par moi-même ?), voire un sentiment d’humiliation profond face à l’incroyable efficacité de ces outils. Rien de tout cela n’est très enthousiasmant pour notre santé mentale..."
L'essentiel est donc de garder la maîtrise. C'est un immense défi qui se présente à nous. Un défi anthropologique. "...à terme, une préoccupation plus subtile pourrait émerger. L'IA pourrait se mettre à répondre trop vite, à résoudre trop de problèmes et à exercer une influence trop marquée. Au lieu d'aider l'utilisateur à explorer ses propres pensées, le modèle pourrait finir par remplacer ce processus. En matière de soutien psychologique, une aide efficace ne se limite pas à fournir des réponses. Il s'agit aussi d'aider les gens à développer leurs propres capacités d'adaptation, leur conscience émotionnelle et leur aptitude à prendre des décisions. C'est pourquoi nous devons évaluer non seulement la sécurité de l'IA, mais aussi sa capacité à préserver l'autonomie humaine...." Il reste encore beaucoup à apprendre sur ce sujet hautement sensible, qui est peut-être le débat du siècle... Notes: : 1 __ 2 __3 ___________
Aucun commentaire:
Enregistrer un commentaire