Casser les outils?
Quand on lit certains propositions de services américains au sujet de réactions possibles et attendues de certaines couches de la population active vis à vis de certains effets de l'IA et de ses avatars, concernant notamment des pertes rapides et massives d'emplois dans divers secteurs, on ne peut ne pas penser à la Révolte des canuts en France, en 1831. L'introduction rapide de machines à tisser à Lyon provoqua des réactions violentes des ouvriers au travail manuel complexe, qui se trouvèrent dépossédés rapidement de leurs activités spécialisées par les machines Jacquart, les transformant rapidement en des chômeurs en colère. On peut parler aussi d'une fronde américaine. Les data centers sont particulièrement visés. Le doute et l'incertitude commencent à s'installer...
Ce sont certains services US qui envisagent et redoutent, à plus grande échelle, un phénomène semblable dans certains secteurs économiques où les outils numériques complexes et la robotisation galopante pourraient produire un vent de révolte inédit, au vu de leurs exclusions potentielles et de dysfonctionnements non prévus. Déjà des mouvement ont eu lieu dans certains secteurs, même dans le monde du cinéma à Hollywood. Certains, dans de nombreux secteurs, même de pointe, se sentent dépossédés de leur tâche, et cela à une vitesse grandissante, anticipant un avenir encore plus inquiétant. Il n'y aura pas que de l'accompagnement... " Le développement des intelligences artificielles bouleverse le domaine de la création de contenu. Le rôle des journalistes et rédacteurices évoluent en raison de logiciels qui rédigent des articles et même analysent l’actualité. Les graphistes et illustrateurices sont d’autres métiers que l’IA menace. Ces spécialistes du visuel font face à des outils qui permettent de générer des images en quelques secondes, impactant ainsi leur travail qui demande plus de temps. Dans le secteur de la musique et du montage vidéo, les logiciels assistés par intelligence artificielle sont capables de créer des compositions musicales et d’éditer des vidéos avec une facilité grandissante. Néanmoins, cette technologie peut se révéler être une aide intéressante, car elle peut donner des idées, proposer des axes et ainsi produire du contenu plus pertinent et percutant. Toutefois, rappelons que ces professionnel∙les possèdent chacun∙e « une plume » ou « un coup de patte », c’est-à-dire leur marque créative personnelle qui font d’eux/elles un∙e spécialiste dans leur domaine. C’est ce qui est reproché à l’IA : le manque d’âme, le fait ne de pas ressentir d’émotions...." On peut passer de la crainte réelle ou fantasmée à la révolte possible, avec des risques encore peu prévisibles? C'est ce que soulignent des services US plutôt alarmistes. "...Des rapports et documents élaborés par plusieurs services fédéraux et locaux, dont le département de la Sécurité intérieure et le FBI, indiquent que l’administration Trump s’attend à faire face à une opposition croissante aux projets de construction de centres de données 1.En particulier, un rapport du Bureau du renseignement et de la lutte contre le terrorisme de New York alerte : « l’atmosphère chaotique qui pourrait résulter de l’émergence des technologies d’IA au cours des cinq prochaines années pourrait alimenter des manifestations à grande échelle qui dégénéreraient en troubles civils et en activités extrémistes violentes anti-technologie ».La formulation « anti-technologie », utilisée pour désigner des activistes qui s’opposent notamment aux projets de construction de centres de données, n’a jamais été publiquement utilisée par les services de renseignement américains..." Il y aurait donc urgence à réglementer. Des dérives sont déjà là, pas seulement en Chine. Mais quelles instantes régulatrices, étant donnée l'ampleur du problème qui nous attend? L’IA de frontière [modèle d’IA parmi les plus performants actuellement] comporte des risques que des chercheurs de premier plan décrivent en des termes catastrophiques, notamment la perte de contrôle humain et l’émergence de systèmes « dévoyés » agissant contre les intérêts humains. Dans un tel profil de risque, l’autolimitation volontaire est fragile. Il existe aussi une voie de traverse séduisante, mais incapable de résoudre le problème. De nombreux commentateurs voient dans le statut de public benefit corporation une solution de gouvernance. Ces statuts remplacent souvent des obligations permissives – « peut » (en anglais, may) – par des obligations impératives – « doit » (en anglais, shall).
Pourtant, la mission vit ou meurt avec la nomination des administrateurs, et les actionnaires conservent ce levier. Les dirigeants peuvent bénéficier d’un refuge juridique leur permettant d’arbitrer entre différents intérêts, mais les conseils d’administration continuent de privilégier la croissance. La réalisation de la mission dépend alors de l’altruisme discrétionnaire des fondateurs ou des mandataires élus par les actionnaires. Il faut donc passer de la confiance à une conception institutionnelle réellement contraignante. Créons des laboratoires à but non lucratif financés par les pouvoirs publics, mais clairement séparés du pouvoir d’Etat. Plaçons dans leurs conseils de véritables administrateurs indépendants ou des gardiens dédiés de la mission – comme Ben & Jerry’s l’avait fait avant que sa société mère, The Magnum Company, ne défasse ce dispositif – et fermons les canaux par lesquels les financeurs peuvent faire primer leurs intérêts sur la mission. Limitons l’accès aux intrants de frontière, tels que les puces haut de gamme et les capacités de calcul, au-delà de seuils définis, et imposons des environnements de cybersécurité confinés pour les prototypes d’IA générale jusqu’à ce qu’ils aient fait leurs preuves en conditions de quarantaine...." Il est urgent de ne pas attendre... ______________
Aucun commentaire:
Enregistrer un commentaire