IA générative: de l'euphorie à l'interrogation

 ...A la suspicion et à la crainte                                                                                                                                                                   Naguère, c'était un enthousiasme partagé, malgré quelques mises en garde concernant les mésusages potentiels de ces nouveaux outils informationnels, qui devaient développer spectaculairement la recherche et les formes diverses d'avancées dans tous les domaines. Pour un avenir radieux.      _   Puis quelques têtes pensantes commencèrent à semer le doute et à relativiser les perspectives envisagées par les plus enthousiastes et les plus intéressés par les nouvelles promesses pharaoniques de ce nouvel acquis potentiellement sans limites assignables, aux exploits formels parfois incontestables.    Mais non seulement l'IA ne tient pas lieu d'intelligence, mais des dysfonctionnements commençaient à être signalés. D'abord timidement, puis de manière plus insistante, certains envisageant même le risque de dérives majeures, pouvant même être la source de problèmes existentiels. Certains chercheurs demandent même une vigilance extrême, au vu des périls qui s'annonceraient.     Une question devenue morale et politique, face à un développement par nature potentiellement indifférent à tout problème humain. Ce ne serait pas un fantasme...analogue à celui de Frankenstein.
                                                    Les risques ne semblent pas imaginaires. Ce n'est pas un alarmisme sans fondements.     "..Sur le réseau social d'Elon Musk, puis dans le quotidien détenu par Jeff Bezos, Jacob Coxon, 27 ans, a annoncé qu’il démissionnait de son poste chez Anthropic et qu’il ne travaillerait plus pour les entreprises d’IA générative. Le chercheur en mathématiques, spécialisé dans l’entraînement de nouveaux modèles, avait précédemment travaillé chez OpenAI. Et il a un message limpide : ces entreprises « jouent à la roulette russe avec nos vies ».  « Ces systèmes deviendront bientôt surhumains, capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels », alerte-t-il. « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait nous tuer tous d’ici la fin de la décennie », « aucune autre activité humaine ne pose un tel niveau de danger », martèle-t-il.  Pour le jeune chercheur, le but déclaré d’OpenAI et d’Anthropic, développer une IA en mesure d’atteindre l’équivalent de l’esprit humain dans une large diversité de tâches (ce qu’on qualifie d’intelligence artificielle générale, AGI), ne peut être atteint de manière « responsable ». Il doit être régulé, pour parvenir à un ralentissement dans la cadence des progrès techniques..."                                                                                        Il serait urgent de ralentir avant de perdre le contrôle, préconisent certains. D'autres expriment leurs craintes en privé.  Pour des raisons justifiées.  Des problèmes de fond se posent déjà. On parle même de "virus cognitif".    Bernie Sanders est clair sur ce sujet.                              ____   J.Pachocki  prévient: "...Nous ne pensions pas aux scores spectaculaires, aux produits ou aux résultats scientifiques que cette technologie allait rendre possibles ; nous essayions plutôt d’encaisser une évidence qui donne le vertige : nous verrions de notre vivant des machines nettement plus intelligentes que nous, et nous en distinguions déjà les contours. Nous nous demandions comment faire prendre conscience de l’importance de tout cela...."                                                                                                                                                           ___ Peut-on raisonnablement penser à une telle perspective, qui vient jeter un caillou dans le mare, jouer les trouble-fêtes?    

Peut-on même parler de risque existentiel?    La question est sur la table...

                  

                         "   ...Dario Amodei, le patron d’Anthropic, l’un des leaders du secteur, a appelé à ralentir volontairement le développement de ses modèles les plus puissants. Son appel a reçu le soutien de ses principaux concurrents américains. Quelques jours plus tôt, Jacob Coxon, chercheur passé par OpenAI puis Anthropic, avait démissionné en accusant les deux entreprises de « jouer avec nos vies » dans leur course aux modèles les plus performants.   Les experts sont loin de s’accorder sur la probabilité d’une IA échappant au contrôle humain. Mais le fait que les capacités de l’IA progressent plus vite que notre compréhension des risques qu’elle pose doit alerter. Ces appels à la prudence sont difficiles à traduire en actes. Car l’IA n’est plus une technologie en devenir que l’on pourrait mettre entre parenthèses. Elle est devenue le théâtre d’une gigantesque course industrielle et géopolitique. Les Etats-Unis et la Chine y voient un instrument de puissance, avec à la clé des avantages militaires, économiques et stratégiques. Dans un tel affrontement, ralentir quand le concurrent continue d’accélérer revient à risquer de perdre une bataille décisive. Le président américain, Donald Trump, a d’ailleurs opposé une fin de non-recevoir aux appels à ralentir, jugeant prioritaire de conserver l’avance américaine sur la Chine. .." (Le Monde)    ___________________