A la croisée des chemins
Optimisme, doute et interrogations
L'IA ne fait pas disparaître l'incertitude, au coeur des plus importantes décisions
On attend beaucoup de l'intelligence artificielle et de ses avatars, dans des domaines les plus variés, de l'industrie à la médecine, jusqu'à la gestion des personnels. Avec raison. Sauf que l'on attend souvent trop, par méconnaissance ou par illusion. Dans le domaine des valeurs humaines, notamment, L'IA montre ses limites, comme c'est normal. L'anthropomorphisme doit être exclus en ce domaine, comme la surestimation des pouvoir de la technique, même dite "intelligente". L'homo sapiens ne se ramène pas à l'homo numericus. L'"hybridation technologique" ne peut(et ne doit) être que partielle et l'IA est dépendante des biais cognitifs et sociaux. Les défis que posent ces nouveaux outils méritent d'être soulignés.
L'envers du décor
On ne finit pas de vanter, voir d'exalter les vertus de l'intelligence artificielle. Jusqu'à un certain point...Nul ne contestera les bienfaits de cette technologie, aux applications multiples dans des domaines les plus variés, parfois insoupçonnables. L'imagerie médicale, par exemple, profite de ses bienfaits à une vitesse stupéfiante, comme l'assistance chirurgicale spectaculaire qu'elle fournit. Pour ne parler que de la médecine... Mais l'évolution qu'elle prend et l'horizon qu'elle prépare, sur la base d'applications déjà en cours, ne manque pas d'interroger des spécialistes eux-mêmes sur ce que l'on peut légitimement redouter dans certains domaines. Sans parler de l'IA générative. Le rapport de Cedric Villani insiste aussi sur ce point. L'ambigüité est totale.
"...Alléguant la sauvegarde de la souveraineté politique ou économique, la plupart des responsables politiques estiment qu’il est crucial de favoriser le développement d’une « industrie nationale » de l’Intelligence Artificielle. C’est qu’ils redoutent la mainmise des géants technologiques étrangers sur les données, et donc sur les personnes....Une vingtaine d’experts y décrivent les nouveaux dangers auxquels nous expose la technologie dans les cinq prochaines années.
Essaims de drones tueurs à reconnaissance faciale, rançongiciel profilant leurs cibles de manière automatique et sur une grande échelle, détournement de vidéos ou création de deepfakes (vidéo-montages hyperréalistes) aux fins de manipulation et de propagande, etc. Les scénarios ne manquent pas, limités par notre seul pouvoir d’imagination.
Disponibles un peu partout en libre accès, les algorithmes d’Intelligence Artificielle (IA) changent radicalement la donne en matière de sécurité. Là où une organisation malveillante devait investir du temps et de l’expertise pour préparer et mener à bien un petit nombre d’actions criminelles, il suffit désormais de quelques algorithmes courants et de la puissance de calcul de quelques serveurs pour agir avec efficacité et précision sur une vaste échelle....Si le champ des dérives criminelles s’annonce très vaste, que dire de celui des pratiques nuisibles, mais pas nécessairement illégales, qui deviendront possibles pour les individus, les associations ou les entreprises ? Dans un monde où la responsabilité juridique, ou même simplement morale, se dilue à proportion de la distance qu’intercalent Internet et algorithmes entre un acte et son auteur, ne faut-il pas craindre une déliquescence totale de la confiance en l’autre ? Alléguant la sauvegarde de la souveraineté politique ou économique, la plupart des responsables politiques estiment qu’il est crucial de favoriser le développement d’une « industrie nationale » de l’Intelligence Artificielle. C’est qu’ils redoutent la mainmise des géants technologiques étrangers sur les données, et donc sur les personnes. Ils craignent, en outre, l’effet des destructions d’emplois liées à la robotisation, et brandissent désormais comme une vérité indiscutable l’argument-choc selon lequel « les économies les plus équipées en intelligence artificielle et en robotique sont celles qui connaissent le moins de chômage ».
Mais le rêve de donner naissance à des champions européens de l’IA n’est pas sans contradiction dans une économie ouverte et globalisée, où lesdits champions peuvent, à tout moment, passer sous contrôle étranger.
Les entreprises technologiques promouvant l’IA, largement transnationales, l’ont bien compris puisqu’elles omettent soigneusement toute référence à une bien illusoire défense de souveraineté. Il n’est guère besoin d’invoquer celle-ci, au demeurant, pour que la compétition économique et la promesse de miracles techniques suffisent à alimenter une fuite en avant totalement débridée...."
Il en faudrait pas oublier que la science est rongée par les mythes. Une technologie n'est jamais neutre. L'exemple du transhumanisme de doux dingos de la Silicon Valley est toujours évoqué. Il faut le rappeler.
Ou tempête dans un verre d'eau? En en attendant d'autres, toujours hautement commerciales.
La recherche dans le domaine très prometteur de l'IA et de ChapGPT, qui part en flèche, est mise met en émoi le petit monde de la Silicon Valley . La liste des limites, des biais et des dangers de l'IA, dans certains domaines d'application, commence à être mieux connue. Les risques sont mieux cernés, même en haut-lieu. C'est déjà ça. La crise en cours pose même des problèmes inédits. Les usages malveillants de ce nouvel outil en plein développement, dans les domaines les plus variés, commencent à être clairement dénoncés. Un régulation à le hauteur des enjeux est expressément demandée. Mais il ne suffit pas de le dire. Il faut légiférer, avant qu'il ne soit trop tard. C'est dire que le problème ne peut pas être que technique, mais est clairement politique, comme le fait savoir Bruxelles, par la voix de Thierry Lebreton. Affaire à suivre. La guerre est déclarée, le business étant au coeur de la logique du système et de la concurrence féroce.
"... Le succès foudroyant de Chat GTP et la montée en puissance en accéléré d’autres technologies ont convaincu un grand nombre de groupes high tech que cette période est révolue. Tous souhaitent avancer au plus vite dans la phase industrielle, dans le développement de masse, sur tous les terrains, de ces technologies. Sans se préoccuper des dégâts ni des effets pervers qu’elles peuvent causer dans les sociétés. Mais la mainmise de facto de Microsoft sur une des sociétés les plus avancées de ce secteur ne pas va être sans conséquence. Les géants du numérique n’ont guère envie de laisser le champ libre à leur concurrent au risque de lui assurer une domination comparable à celle qu’il avait aux premiers temps de l’informatique avec le système d’exploitation Dos. Et ils ont toutes les ressources financières pour s’y opposer. Déjà Google ambitionne – comme OpenAI d’ailleurs – de concevoir une puissance de calcul, trouver les technologies qui pourront concevoir, fabriquer, exécuter, contrôler sans intervention humaine. Plus que jamais, les milliards vont commander. [Martine Orange] ______ Les propos de Asma Mhalla méritent d'être entendus sur ce sujet. Protéger les créateurs!
Aucun commentaire:
Enregistrer un commentaire