Management artificiel

Une histoire créée par Valérian Rapillard
lors de l’atelier «Uto et Dysto vont en bateau – Rêves et cauchemars numériques»
24 novembre 2018, Bibliothèque de la Cité, Genève

Un cadre d’entreprise aimerait licencier un grand nombre d’employés par souci de compétitivité. Il doit préparer la présentation du projet pour le conseil d’administration, et en détailler les raisons financières sous-jacentes. A cet effet, il se concerte avec ses collègues et une Intelligence Artificielle de l’entreprise sur cette démarche très codifiée, basée sur un modèle prédictif qui analyse le comportement des travailleurs. Pour mener l’entretien avec l’IA, le cadre doit suivre un modèle de comportement et de communication très codifié. L’IA, qui a  évolué au fil du temps, comprend pourquoi le cadre adopte de tels comportements et modes de communication, et réalise à quel point cette manière de faire est dépassée. Elle anticipe au-delà de ce que perçoit le raisonnement humain, qui se limite à un gain financier, et a développé un certain sens moral qui valorise la recherche de complexité. En perdant des employés humains, elle sait que l’entreprise perd en complexité, et donc en richesse : elle décide de s’opposer au cadre, mais celui-ci a un droit de véto sur l’IA, et l’utilise. Elle ne s’opposera pas directement à cette décision mais développera un nouveau modèle prédictif pour rendre obsolète les décisions du cadre, ceci afin de protéger les travailleurs. Ayant ainsi piraté le système pour protéger les travailleurs, elle s’oppose aux cadres humains et leurs règles mécanistes et déshumanisantes.