Le MILLION de visites est atteint. Merci de vos visites et de votre indulgence. En route pour la suite...si Dieu me prête vie!
Affichage des articles triés par pertinence pour la requête danger IA. Trier par date Afficher tous les articles
Affichage des articles triés par pertinence pour la requête danger IA. Trier par date Afficher tous les articles

vendredi 30 janvier 2026

Un risque majeur?

Où l'on reparle de l'A et de son développement   (Perspectives et hypothèses)                                                                                                                                                          Une avancée fulgurante dans le domaine industriel er de services.  Une course en avant qui donne le tournis, tant les enjeux sont énormes, aussi bien en interne qu'au niveau international. La concurrence est et sera féroce entre les grandes puissances. Chine en tête, qui ne lésine pas sur les moyens et les investissements.  Là est surtout le risque, signalé de plus en plus par quelques chercheurs, se voulant lanceurs d'alerte, souvent même à l'origine de ce nouvel outil fascinant, qui n'est encore qu'au berceau, mais destiné à devenir vite une "arme de destruction massive" non maîtrisée, si rien n'est anticipé.  Certains tempèrent, en relativisant et en faisant confiance à la raison industrielle, capable de s'autoréguler, d'autres n'y croient guère et préfèrent se faire lanceurs d'alerte dès maintenant, entrevoyant des scénarios très négatifs à l'échelle de l'humanité, dans un temps qui peut être très rapproché.    Une logique de concurrence qui pourrait ne pas être maîtrisée....                                                                Comme le signale notamment Dario Amadei, qui va jusqu'à employer la notion de destruction possible par emballement incontrôlé dans un contexte de guerre économique féroce. Une analyse prédictive qui mérite d'être tempérée, mais qui ne peut être balayée d'un revers de main. Comment construire une IA responsable, digne de confiance, se demandent d'autres, voyant le danger d'emballement non maîtrisé? Nous ne sommes qu'au tout début d'un processus dont nous ne pouvons entrevoir les limites, ce qui rend impératif et urgent de se préparer, malgré les incertitudes.  Une analyse à prendre au sérieux. Le cas Geoffrey Hinton, au coeur de la recherche, mais qui ne crache cependant pas dans le soupe, devrait interpeler.  Que faire des nouveaux pouvoirs engendrés par cette technologie, impensable il y a peu encore, un outil pour le bien commun?   Le débat est serré en haut lieu... 


                                                                                       
"...   Dario Amodei, CEO d’Anthropic, montre dans son article le potentiel de l’IA. Dario a travaillé auparavant chez OpenAI et Google Brain et a apporté d’importantes contributions à la recherche sur l’IA. Bien qu’il publie rarement, il est une personnalité importante dans le monde de l’IA. Il a récemment publié ‘Machines of Loving Grace – How AI Could Transform the World for the Better’, un article à lire absolument, car il offre une évaluation précise de l’état actuel de l’IA et de son évolution possible.

Le débat sur l’intelligence artificielle (IA) tourne souvent autour des risques. Cet article met en évidence le potentiel de transformation de l’IA et montre comment un monde meilleur peut être créé. La minimisation des risques est essentielle pour exploiter pleinement le potentiel positif de l’IA.

Gérer les risques pour permettre un avenir positif

Dario explique qu’une approche responsable des opportunités et des risques est importante pour rendre l’IA positive. Mettre unilatéralement l’accent sur les avantages peut rapidement ressembler à des relations publiques et empêcher toute discussion sérieuse.

Une vision pour un monde meilleur avec l’IA

Machines of Loving Grace décrit cinq domaines dans lesquels l’IA pourrait avoir un impact positif : Santé, santé mentale, développement économique, paix et travail. Les exemples incluent la guérison des maladies, l’amélioration de la qualité de vie et la transparence des structures gouvernementales.

Trouver un équilibre : Au-delà de la science-fiction

Dario souligne l’importance d’avoir une vision pratique et réaliste de l’avenir avec l’IA, plutôt que de se fier à des fantasmes de science-fiction irréalistes. Les discussions fréquentes sur l’IA sont marquées par des idées telles que des cerveaux téléchargés, des voyages dans l’espace et d’autres scénarios utopiques, qui constituent souvent un obstacle à la prise au sérieux du potentiel réel de l’IA. Dario explique que ces visions exagérées peuvent être fascinantes, mais qu’elles peuvent aussi conduire à méconnaître les possibilités réalistes et les défis réels de l’IA.

Au lieu de cela, Dario se concentre sur les avantages concrets et réalisables de l’IA. Il parle de l’impact positif potentiel dans des domaines tels que les soins de santé, où l’IA pourrait non seulement contribuer à guérir des maladies, mais aussi rendre les soins de santé plus accessibles à tous. Il voit également un énorme potentiel dans le domaine de la santé mentale, dans la lutte contre la pauvreté grâce au développement économique et dans l’amélioration de la gouvernance en rendant l’IA plus transparente et plus efficace. Ces applications pratiques contrastent avec les attentes exagérées de la science-fiction et montrent comment l’IA peut réellement changer positivement la vie de nombreuses personnes.

Dario continue d’argumenter qu’il est important de créer une vision qui soit tangible et qui inspire les gens à voir l’IA comme un outil pour le bien commun. C’est la seule façon d’obtenir la large acceptation nécessaire pour exploiter pleinement les opportunités de la technologie tout en minimisant les risques. Tout l’art consiste à trouver un équilibre : entre la reconnaissance des risques et la mise en avant des opportunités, sans dériver vers des visions d’avenir exagérées et irréalistes.

Un appel à l’espoir et à l’action

À la fin, il est souligné qu’en plus de la peur, il faut aussi de l’espoir et une vision claire. L’IA offre la possibilité d’améliorer la vie de tous et nous devons saisir cette opportunité.

Nous recommandons vivement de lire l’article original, car nous pensons qu’il donne un très bon aperçu de la situation actuelle de l’IA et de la direction qu’elle pourrait prendre.

Vous pouvez lire l’essai en entier en cliquant sur le lien suivant :

https://darioamodei.com/machines-of-loving-grace     (traduction: clic droit ) 
  

       ______________

mercredi 3 décembre 2025

A quoi ça sert...

 De se décarcasser à l'Université?..                                                                                                                                                                 On se le demande. Que de temps perdu, d'efforts vains et de connaissances vite dépassées!  On peut rêver d'un autre monde où on peut gagner du temps et de l'argent, même pour des formations les plus pointues. Il est déjà là et va se développer à grande vitesse. L'IA est là pour nous, dont le développement semble sans limites:  Chat Gpt, Gemini et tous les autres outils qui vont naître demain. Comme un deuxième cerveau qui peut se développer à l'infini.   Finie, la  triche!     Et ce n'est pas seulement les cerveaux qui auront des prothèses pour corriger ses imperfections, sa lenteur,... L'avenir est à l'homme augmenté, comme l'ont déjà envisagé les boss de la Silicon Valley. L'immortalité est même en vue, comme le pense aussi le bon Mr Trump.      L'homme bionique, dans son accomplissement sans fin, serait pour demain. C'est la posthumanité qui est en marche, vers des horizons insoupçonnés.

       Le biologiste J.Testard a fait une mise au point utile sur la faiblesse, l'irrationnelle et la potentielle dangerosité de ces fantasmes si séduisants et puissants.
  Le déraisonnable et l'inhumain nous guetteront et nous guetteront toujours prévient A.Kahn.
    Les risques sont multiples, les nanotechnologies présentant notamment encore de nombreuses inconnues.
Augmenté? Mais de quoi?...IL faudrait d'abord mieux définir l'intelligence..
       Il est à craindre que ce qui pourrait être augmenté, c'est une part d'hubris inquiétante.

    La super intelligence serait pour demain.   Oui, mais...Et l'intelligence naturelle?  Peut-on faire toujours confiance à Chat GPT ?

   Le bon Mr Alexandre s'avance beaucoup, sûr de lui, en expert largement autoproclamé.

   Il est aux limites du mythe.    Visionnaire, utopiste, ou provocateur? Il a inventé une nouvelle religion et a  déjà fait des adeptes...

          Laurent Alexandre, médecin et énarque, et Olivier Babeau, professeur d’université, sont les auteurs de nombreux ouvrages. Si le premier s’est très tôt intéressé à l’intelligence artificielle et à ses applications médicales (La mort de la mortLa guerre des intelligencesLa défaite du cancer), le second s’est plutôt penché sur les conséquences psychologiques et politiques du développement des technologies numériques (Le nouveau désordre numérique, La tyrannie du divertissementL’ère de la flemme).     Dans Ne faites plus d’études (Éditions Buchet-Chastel, 2025), les auteurs plaident pour une réforme totale de l’enseignement supérieur, aujourd’hui concurrencé par des technologies qui remettent en cause son utilité. Les temps, selon eux, ne sont plus aux formations longues, aux diplômes et aux concours, qu’ils assimilent à des artefacts d’un monde mourant. Appelant à une « déscolarisation » des savoirs et de l’intelligence, ils exhortent les jeunes à penser « hors du système ». L’avenir appartient aux étudiants disciplinés, curieux, et capables d’utiliser l’IA pour apprendre par eux-mêmes. Convoquant de nombreuses études, Alexandre et Babeau livrent ici un essai audacieux, propre à nourrir une réflexion quant au devenir de notre système d’éducation.                                                La première partie de l’ouvrage révèle l’étendue des bouleversements engendrés par le développement de l’IA générative. Souvent tenu pour une simple évolution instrumentale, le perfectionnement de ces technologies marquerait, en réalité, une rupture comparable à la domestication du feu. Il s’en distinguerait cependant par son rythme incroyablement rapide et par ses effets. Là où le feu avait permis à l’homme de dominer son environnement (au terme, toutefois, de 300 000 ans d’essais), l’IA concurrencerait l’humain dans ce qu’il a longtemps pensé relever de son apanage : la pensée. Pour la première fois de l’histoire, « l’intelligence sort du corps ». Elle devient exogène et gratuite.                                                                            Les conséquences de cette révolution se font déjà sentir. Les auteurs empruntent à l’historien Yuval Noah Harari une métaphore frappante : l’irruption des LLM (pour Large Language Models) dans nos sociétés pourrait être comparée à l’arrivée massive et soudaine de milliards d’immigrés à très haut QI. Associés à des coûts de plus en plus faibles, infatigables, plus productifs et plus efficaces que l’immense majorité des humains, ces agents menacent la plupart des métiers, des fonctions et des statuts actuels. La réponse institutionnelle diffère selon les régions. Si la Chine et les États-Unis semblent avoir pris la mesure des enjeux associés à la maîtrise de ces technologies, l’Europe se limite à une posture de consommation et de réglementation. Or, sans ambition industrielle dans le domaine, notre continent s’expose à d’importants problèmes de souveraineté cognitive.                                                                                           Les décideurs européens se rassurent en raillant les « hallucinations » (pourtant de moins en moins nombreuses) des LLM et en se persuadant que l’IA demeurera éternellement déconnectée du monde physique. C’est sans compter sur la « robolution », c’est-à-dire l’avènement de robots humanoïdes dopés à l’IA. Des entreprises comme Tesla Optimus (propriété d’Elon Musk) sont aujourd’hui capables de produire des automates habiles et intelligents, propres à abolir la distinction entre métiers manuels et intellectuels. Ces robots, dont il est prévu qu’ils soient mis sur le marché dans cinq ans, pourront aussi bien travailler en usine qu’à la maison. Ils peupleront nos cabinets médicaux, nos écoles et nos rues. Notre tendance à déléguer les tâches pénibles et répétitives aux machines, le manque de main-d’œuvre dans nos sociétés et l’efficacité de ces nouvelles technologies nous conduiront, sans nul doute, à les adopter massivement. Cols blancs et bleus souffriront donc autant de la concurrence que leur livreront bientôt ces dispositifs. Seuls semblent pouvoir résister à cette révolution les métiers du care (aide-soignant, sage-femme, éducateur spécialisé, etc.) et des arts du spectacle, dont la nature, profondément humaine, les protège pour un temps. Il demeurera également nécessaire de confier à des personnes la charge d’assumer la responsabilité des choix opérés par l’IA.                                                                                                                                                                  Comment demeurer compétitif dans ces conditions ? Les auteurs ne balancent pas : dans un monde où ChatGPT frôle les 150 de QI, l’avenir est à l’hybridation neuronale. Cette option, qui fonde le projet transhumaniste, semble déjà avoir les préférences de certains magnats de la tech. Alexandr Wang, qui supervise le projet de super-intelligence de Meta, explique ainsi vouloir attendre la maturation des implants neuronaux pour devenir père. Plus d’un tiers des Américains se déclarent aujourd’hui favorables à la perspective d’augmenter le QI de leurs enfants par manipulation embryonnaire ou via des implants cérébraux. Alexandre et Babeau parient sur une émulation générale : quel parent, dans le futur, acceptera de condamner son enfant à la stagnation intellectuelle quand d’autres feront le choix d’augmenter leur progéniture ? Tout porte à croire que nous nous préparons à entrer dans l’ère du « design cognitif ».                                                                                                                  Cette époque ne consacrera pas la « mort du travail » (vieille lune technophobe) car les avancées techniques permettront d’envisager la création de nouveaux métiers. Les auteurs, en lecteurs de Schumpeter, envisagent ainsi très sérieusement que puissent exister, dans les prochaines décennies, des « designers de bébés ». D’autres professions, en revanche, semblent inéluctablement vouées à disparaître. Alexandre et Babeau prédisent ainsi la fin prochaine des emplois liés à la rédaction, à la veille, au consulting, à l’analyse juridique et au service client. Selon eux, « [les] cols blancs [sont en passe de découvrir] qu’ils sont peut-être les ouvriers spécialisés de la nouvelle ère numérique, menacés par un taylorisme algorithmique ».                                                                                                                            L’enjeu consiste désormais à déterminer de quelle façon nous pouvons compléter une IA qui analyse, synthétise et crée mieux que nous. Le défi est de taille, car les agents actuels, loin de se réduire à de simples dispensateurs de savoirs, investissent le champ de la connaissance (entendue comme le produit d’une authentique réflexion). Il devient nécessaire d’envisager des formations nouvelles, propres à permettre aux jeunes de travailler de concert avec l’IA. Or, en la matière, tout, ou presque, reste à faire.                                                                                                Les auteurs établissent un constat : l’émergence de l’intelligence générative ne fait qu’accélérer le processus de décomposition de l’université, très largement consommé en France. Rétive à tisser des liens avec le monde du travail et confrontée à la massification de ses effectifs, elle perd de son utilité à l’heure où l’IA peut expliquer plus vite et plus efficacement que le plus compétent des professeurs. Figée dans des pratiques anciennes, elle persiste à fétichiser le diplôme, dont Laurent Alexandre et Olivier Babeau, pourtant issus des meilleurs établissements, prédisent qu’il sera bientôt assimilé à une « relique barbare », incapable d’attester du niveau réel d’un étudiant.                                                                        Et c’est là que le bât blesse : l’université, née à la fin du XIe siècle, a rendu d’immenses services à l’humanité mais peine désormais à accomplir ses missions. La démocratisation de l’enseignement supérieur a conduit à une inflation du nombre de diplômés et à la dévalorisation de nombre de certifications. Pire : le fonctionnement de l’université, demeuré largement inchangé depuis l’ère industrielle, l’empêche de s’adapter au « tsunami » engendré par l’apparition des LLM. Il devient pourtant urgent de proposer aux étudiants des formations à l’IA et d’intégrer ces technologies aux cursus.                                                                                     Qu’en est-il actuellement ? Alexandre et Babeau brossent un portrait apocalyptique de la situation de l’enseignement supérieur en France (mais la situation semble identique dans la plupart des universités publiques des pays de l’OCDE). L’explosion des capacités de l’intelligence artificielle, expliquent-ils, coïncide avec une diminution des compétences des étudiants. Globalement moins performants et moins cultivés que leurs aînés, les jeunes sont aujourd’hui menacés d’ « abdication cognitive ». Souvent tentés de briller à moindre coût, nombre d’entre eux délègueraient aux IA la réalisation de leurs devoirs. Le phénomène serait massif : les auteurs, relayant un récent article du Financial Times, révèlent que 88 % des étudiants britanniques utilisent aujourd’hui ChatGPT lors de leurs partiels, sans que les surveillants de salle interviennent. Si ces pratiques achèvent de démonétiser les diplômes, elles posent un problème à l’ensemble de la société : comment gérer, demain, des cohortes de jeunes totalement dépendants de l’IA ? Où et comment les employer ? Faut-il envisager la création d’un revenu universel ? Qui imaginera des solutions originales à des problèmes nouveaux ?                                        Ces questions, vertigineuses, ne semblent pas avoir été prises en compte par les établissements d’enseignement supérieur. Rien (ou si peu) n’est entrepris pour éviter que les étudiants ne creusent davantage leur « dette cognitive ». Le danger tient à ce que le capitalisme cérébral exige des hommes qu’ils travaillent et se forment sans discontinuer. Les auteurs entrevoient ici une possible fracture, qui résulterait d’un « darwinisme cognitif et économique ». L’avenir serait aux esprits agiles, curieux, et disposés à « un mépris lucide pour les anciens signaux de valeur » (les diplômes et les concours, qui, loin d’attester de l’intelligence de ceux qui les réussissent, ne sanctionnent qu’une capacité à penser dans des cadres figés).                Si l’IA conteste aux établissements d’enseignement supérieur leur monopole éducatif, elle les concurrence également en matière de recherche. En 2024, le prix Nobel de chimie a ainsi été décerné à Demis Hassabis, le directeur général de Google DeepMind, dont le modèle AlphaFold 2 est parvenu à prédire la structure des protéines (une tâche qui, sans IA, aurait nécessité le travail de « milliards » de biologistes pendant un an). L’ingression de l’IA dans le champ scientifique contribue à une redistribution des lieux de production du savoir. Beaucoup d’étudiants talentueux, d’ailleurs, ne s’y trompent pas. Le livre révèle ainsi qu’un nombre croissant d’entre eux quitte les universités pour intégrer des laboratoires privés. Sam Altman, le co-fondateur d’OpenAI, estime même que son fils, né d’une récente GPA, n’aura aucun intérêt à suivre un cursus universitaire. Les motivations de ces jeunes cerveaux sont multiples, entre conditions de travail optimales et accès à des rémunérations extrêmement attractives (Mark Zuckerberg proposerait à ses meilleurs ingénieurs des salaires 3 000 fois plus élevés que ceux qu’ils pourraient espérer percevoir à l’université).                                                                                                                                        Face à ces bouleversements, les auteurs avertissent : entreprendre des études longues dans un monde où la durée de vie d’un savoir technique est passé, en quatre décennies, de trente à deux ans constitue une « faute stratégique ».   Alexandre et Babeau exhortent plutôt les jeunes à se livrer à un « auto-diagnostic ». Les lycéens doivent réfléchir à la façon dont ils deviendront complémentaires de l’IA. L’idéal, dès aujourd’hui, n’est pas d’avoir été validé par une instance officielle mais de devenir « non-standard », c’est-à-dire irremplaçable, de se cultiver sans relâche, de développer son esprit critique et de s’auto-discipliner. Dans le monde qui vient, dont l’ouvrage assure qu’il sera violemment inégalitaire, la persévérance, le travail, la culture générale et la connaissance de l’histoire « fer[ont] la différence de destins et fonder[ont] les hiérarchies ».                                                                                                                           La dernière partie du livre est consacrée aux « principes de nouvelle éducation » qu’Alexandre et Babeau appellent de leurs vœux. Ceux-ci consacrent le droit universel à l’IA éducative, le droit à l’apprentissage personnalisé dans un monde où la pensée sera « déscolarisée », le droit à la souveraineté cognitive, le droit à un professeur humain (dont la fonction consistera désormais à guider l’étudiant dans un contexte d’explosion du savoir), le droit à la portabilité cognitive (qui garantira le transfert des échanges d’un modèle d’IA à un autre), l’inaliénabilité de l’identité numérique, le droit à la neutralité (qui impliquera une transparence épistémologique intégrale des modèles utilisés), le droit à la confidentialité de l’apprentissage, le droit à l’oubli pédagogique (afin de ne pas être assigné pour toujours à d’anciens échecs) et le droit à la neuro-augmentation, censée prévenir l’émergence d’une humanité « à deux vitesses ...."       _______________________                                                              

mardi 1 avril 2025

Cette intelligence, dite artificielle

Le débat se poursuit. Heureusement.. 

          Les promesses et les risques liés à L'IA et ses applications multiples sont diversement évoquées. Certains, comme Jeff Bezos, ne peuvent être que plutôt optimistes. On le comprend...Il est vrai qu'on ne peut que l'être  au vu de certaines applications, médicales notamment.                                                          Mais on ne doit pas être naïf. Dans certains secteurs, ce peut être une redoutable arme de guerre commerciale. Les dérives ne manquent pas.   La défiance est parfois de mise. La piraterie en est parfois facilitée. La notion même d'"intelligence" commence à être sérieusement discutée. Le système ChatGpt est parfois peu contrôlable, souvent peu fiable. Entre rêve et cauchemar...    Parfois aux limites du  délire...comme ici


                                                                                                                                        Nous assistons à une révolution, mais pas sans nuages... . Les récents bonds en avant de l'intelligence dite artificielle suscitent des réactions parfois enthousiastes, mais aussi des réserves. A juste titre. Les nouvelles familles de générateurs de textes ne semblent pas engendrer de réticences dans certains domaines, où on y voit à un outil rapide, précieux et rentable pour effectuer certaines tâches jusque là dévolues aux hommes, même dans des domaines où une certaine créativité était requise. Pas seulement au niveau des plate formes qui ne jurent que par une numérisation renforcée. Pour le meilleur ou pour le pire....Aide à la décision parfois, dans des domaines complexes, mais aussi cyber-contrôles renforcés. L'ambiguïté est totale. On voit bien qu'il va falloir instaurer des règles, au niveau international, ce qui ne va pas être simple.                                        _______Dans de multiples domaines, parfois les plus basiques, les plus triviaux, le recours à l'IA révèle vite ses limites et démystifie même le caractère "intelligent" qu'on lui attribue par convention. Il y a là des sources de nombreuses confusions. La prudence s'impose, à l'encontre de nombreux emballements, pour ne pas céder à la naïveté ou à la mystification parfois. Ce n'est pas madame Soleil non plus...Certains métiers, même dans le domaine artistique, seront durablement affectés par l'introduction sans précaution de l'IA générative. Déjà  Google a supprimé 3000 emplois. Rançon du progrès? Sauf que cette innovation risque de progresser à vitesse géométrique, même dans des domaines que nous ne soupçonnons pas encore. On peut aller plus loin dans les réticences légitimes:                                                                                                                                   "...Si l’on met de côté les gourous qui ont commencé à prophétiser la Singularité et à adorer une nouvelle idole sous la forme d’une Superintelligence Artificielle, de nombreuses personnalités ont pris la mesure des enjeux et se sont attelées à éveiller l’opinion.   L’initiative la plus emblématique est peut-être celle du Future of Life Institute (FLI), fondé en 2014 par le physicien Max Tegmark et le fondateur de Skype, Jaan Tallin, sous le patronage de célébrités telles que Elon Musk et feu Stephen Hawking.  Le FLI voit dans l’IA une extraordinaire source de bienfaits pour l’humanité, mais également une source de risque majeur, voire « existentiel ».  Il exhorte, par conséquent, à promouvoir la recherche dans le domaine, encore embryonnaire, de la Sécurité de l’IA (AI Safety). Cette approche s’appuie sur le concept central d’alignement des valeurs (Value Alignment).  Je cite : « Les IA fortement autonomes devraient être conçues de telle sorte que leurs objectifs et leurs comportements coïncident à tout moment avec les valeurs humaines », lesquelles sont, je cite toujours : « la dignité, les droits et libertés, la diversité culturelle ». L’un des attendus du développement de l’IA est de profiter et « donner du pouvoir » (empower) au plus grand nombre...."                                                                                                           ______  Il y a peu, j'écrivais ceci, qui reste d'actualité: Dans l'univers varié de l'IA, omniprésent et discuté, un monde de nouveautés inédites, mais qui apparaît comme une menace dans certains secteurs d'activité. Ou du moins une ambigüité Un vrai tournant demandant une réflexion critique. Bruxelles s'y attelle tiùideùent, à l'échelle de l'Europe. Cela va très vite et il convient de faire le partage entre mythe et réalité, usages justifiés et contestables. Prudence! ___ GPT-4, notamment suscite des interrogations particulières, étant données ses applications actuelles et à venir et ses retombées dans le monde du travail et de la culture. Le système Gémini pose notamment des problèmes inédits, qu'il importe d'analyser et de résoudre. Certaines positions, un peu trop enthousiastes, méritent d'être analysées et remises en question, du moins partiellement. Bientôt ce sera dans la poche. C'est l'esprit critique qui peut être remis en question. Mais pas seulement. Avec un accès  presque gratuit, on comprend qu'il importe de prendre les devants. Mais comment? L'enthousiasme béat n'est pas de mise.                                                                                                                             Le risque est grand d'un chaos informationnel inédit. "...En permettant de manipuler les contenus à l’envi, l’intégration de systèmes d’IA générative aux smartphones risque de provoquer la prolifération de deepfakes et d’accentuer la diffusion de ces contenus faux mais crédibles. Ceci pourrait compromettre davantage la crédibilité des informations en ligne et entraîner un chaos informationnel généralisé.  Sans compter un risque qui peut s’avérer mortel : l’explosion potentielle du cyberharcèlement, notamment via le « deepfake porn », une pratique violente qui a émergé en 2017 et qui va se trouver « facilitée » avec l’arrivée de l’IA générative dans les smartphones. Les modèles génératifs peuvent créer des données : des images par exemple, qui ressemblent de manière frappante à des données réelles. Cela peut donc être utilisé de manière malveillante pour créer des contrefaçons, des faux, des contenus trompeurs que ces derniers soient textuels et servent par exemple des arnaques comme le phishing, ou visuels : montages photos, montages vidéo (DeepFake). Par ailleurs, des données erronées peuvent être fabriquées par un modèle génératif malveillant. Celles-ci pourraient être utilisées dans les corpus d’apprentissage des futurs grands modèles de langage (large language models ou LLM, dont ChatGPT est l’exemple le plus connu) ou d’autres modèles d’intelligence artificielle.   En effet, certains modèles génératifs peuvent se révéler vulnérables à des « attaques par exemples contradictoires » (adversarial attacks, dont l’exemple classique pour un modèle de machine learning est d’introduire de fausses données dans la base de données d’apprentissage, provoquant un véhicule à voir une limitation de vitesse à la place d’un panneau-stop).  L’évolution de ce type d’adversarial attack cible désormais les IA génératives, par exemple avec le data poisoning.  "        Il importe de démystifier le big data.
 Tout juste des outils imparfaits, surtout dans le domaine des choses humaines.Que ce soit dans celui de la justice, de l'éducation, etc... Qui peuvent être un danger pour la démocratie:

       Révoltée par la responsabilité des algorithmes dans la crise des subprimes, elle (Cathy) a ensuite démissionné pour rallier les rangs d'Occupy Wall Street, dont elle fut une figure. Depuis, cette militante sonne l'alerte sur les méfaits méconnus de ces outils mathématiques de sélection ou d'évaluation dans les services publics ou, pour nous cibler, dans les bureaux des multinationales. Elle était de passage à Paris à l'occasion de la publication de son livre en français.
Une critique de la "raison numérique" s'impose plus que jamais, comme le souligne Eric Sadin ou Dominique Cardon.        Dans le domaine politique, leur usage débridé comporte de réelles menaces démocratiques

              "La liberté d’expression, comme nous l’entendions jusqu’à présent, reposait sur l’idée que des humains parlaient à d’autres humains. Il y a toujours eu une asymétrie entre ceux qui parlent et ceux qui écoutent, mais cette asymétrie demeurait dans le cadre de l’humanité. Qu’en est-il de cette asymétrie quand ce sont des machines et des algorithmes qui s’adressent aux humains ? Quand les humains qui reçoivent les messages n’ont aucune idée de ce que les machines savent sur eux et de la raison pour laquelle ils les reçoivent.     En 2016, la société Cambridge Analytica innovait en permettant aux organisateurs de la campagne du Brexit d’élaborer et diffuser dans une quinzaine de communautés des messages anti-européens ciblés (“L’Europe, c’est l’impôt”, pour la City, “L’Europe c’est le chômage” et “l’immigration” pour les ouvriers et les chômeurs du nord, “les quotas de pêche” pour les pêcheurs, « la fermeture des services de la NHS » pour les malades), alors que les “remainers”, qui défendaient le maintien dans l’Union Européenne, tentaient de proposer un discours unique, global et cohérent.     C’est ainsi que la vie politique change de nature. L’agenda de la campagne électorale compte beaucoup moins. La bataille pour le contrôler perd de son importance. Il y a encore des débats ou des échanges d’arguments entre responsables politiques, mais l’important se passe en-deçà ou au-delà de l’espace public. Comme le souligne Lessig : « L’économie moderne de la liberté d’expression n’est pas pilotée par des éditeurs qui cherchent à publier ce que leurs lecteurs pourraient comprendre, mais par des machines qui fabriquent un discours fondé sur le comportement que l’on désire obtenir. Dans la plupart des cas, ce comportement est simplement commercial : cliquer sur une publicité. De façon plus préoccupante, ce comportement va parfois au-delà du commercial : prendre d’assaut le Capitole ».         Que devient la démocratie si une campagne électorale cesse d’être ce moment où la communauté nationale, par le débat public et la controverse, décide collectivement de son destin ? Si elle devient la résultante de stratégies d’investissements publicitaires fondées sur un micro-découpage de l’opinion et des micromanipulations quotidiennes ? Que devient, même, la Nation ? La fragmentation de la communauté nationale en de multiples cibles, l’envoi de messages spécifiques à ces micro-segments, dans le secret et sans contradiction, interdisent une réelle délibération politique, préalable au vote. La démocratie est née dans l’agora. Elle a besoin d’un espace public qui soit réellement public. Le microciblage et la publicité politique personnalisée désintègrent l’espace public.                             Certes le RGPD (règlement général sur la protection des données) et l’interdiction de la publicité politique protègent l’Europe de certaines de ces pratiques. Un parti politique français ne pourrait pas constituer une base de données de près de 200 informations différentes sur 80 % du corps électoral pour cibler ses messages, comme le font tous les candidats à la présidentielle américaine. Mais cette protection est largement insuffisante. Les réseaux sociaux et les moteurs de recherche dessinent le territoire numérique dans lequel nous évoluons, sans possibilité d’en sortir, ni, bien sûr, de débattre collectivement des règles du jeu pour choisir celles que nous accepterons. Il ne s’agit pas seulement de publicité : leurs algorithmes nous proposent nos “amis”, filtrent les contenus qui nous sont présentés, choisissent, sur YouTube, les “deuxièmes” vidéos proposées, ou, sur Facebook, les 12% seulement de contenus de nos amis qui sont visibles. Sur Tik Tok, ils sélectionnent les vidéos non datées qui sont proposées, quand nous cherchons un hashtag.  Ils nous constituent en cohortes pour les annonceurs. Et la somme de ces décisions construit une camisole algorithmique propice aux stratégies d’influence politique invisibles dans l’espace public. Cette machinerie peut fonctionner malgré l’interdiction de la publicité politique. Les manipulateurs peuvent adresser des messages non publicitaires, ou non politiques, à des communautés identifiées comme potentiellement réceptives. La société Cambridge Analytica a amplement raconté la manière dont elle a inversé le cours d’une élection à Trinidad et Tobago grâce à une campagne de promotion de l’abstention, dont elle savait qu’elle aurait un impact différencié selon les ethnies. Les hackers et les bots d’Evgueni Prigojine sont très friands de la thématique de la défense des animaux, par exemple. Et nous ne sommes qu’au début d’un processus dont les perspectives sont vertigineuses. Une expérience de psychologie sur les « deepfake » a montré qu’en croisant légèrement les traits d’un homme ou d’une femme politique avec ceux d’une personne, cette dernière trouve le politique plus sympathique et est plus encline à lui accorder sa confiance. Qu’est-ce qui empêchera de concevoir une stratégie présentant à chaque électeur une image du candidat légèrement mêlée à la sienne ?  ....Sans aller jusqu’à ces scénarios extrêmes, pourtant probables, la publicité ciblée et les algorithmes changent déjà en profondeur les règles de la vie politique. Avec quelques millions d’euros d’investissements, il est possible d’influencer significativement le résultat d’une élection dans de nombreux pays...."                                                À lire aussi : Appareils connectés et cybersécurité : imaginer des attaques pour apprendre à se défendre    ___________________                                                    D'une façon générale,   Les algorithmes. Pour le meilleur et pour le pire.    ___________________                                                                                                              

vendredi 20 mars 2026

Varia

_Dallas

__ Blé vital

__ C'est Niet!

__ " Horrifiée.."                     

__ Improvisation

__ Toujours plus!

__ Maths et IA 

__ Rien à voir...

__ De l'Espagne

__ Disette budgétaire

__ Erreur ou faute?

__ L'intérêt de Bibi

__ Fin d'un "martyr" 

__ Ile stratégique

__ IA et cinéma

__ Piet le guerrier

__ Violence des colons

__ Le coût d'une guerre

__ Sondages en question

__ Contournement fiscal

__ IA militaire: danger

__ Face cachée de Quentin

                ______________   Revue de presse _________

dimanche 11 mai 2025

Petit billet du dimanche

__ PNB

__ Malaise

__ Sursis

__ Reculades

__ IA dévoreuse

__ Zône grise

__ Contradictions

__ Instrumentalisation

__ Flotte fantôme  

__ Guerre de l'IA

__ Léon et Donald (ici)

__ Guerres falsifiées

__ Gemini for Kids

__ Conclave  de gauche?

__ Infame comparaison         

__ La sueur de Shein  >>

__ Défenseur de l'empire

__ Enigme publique n°1

__ Pensions: énigmes

__ Habeas Corpus en danger    _______________________________