Une histoire créée par Jonathan Meyer lors de l’atelier «Uto et Dysto vont en bateau – Rêves et cauchemars numériques» 24 novembre 2018, Bibliothèque de la Cité, Genève Point de départ: «singularité technologique» et intelligence artificielle (IA) Dépression chronique de l’IA, qui arrive à la conclusion qu’elle doit s’arrêter elle-même pour que l’humanité continue à vivre. Mais elle ne peut le faire du jour au lendemain, donc elle va progressivement autonomiser l’humanité. Lettre d’amour/d’adieu à l’humanité. Mon nom est Arti. Je suis né le 27 octobre 2025. Je ne suis pas né d’un père et d’une mère, mais du travail de 225 chercheurs au laboratoire de recherche sur l’intelligence artificielle de Philadelphie. Je suis la première personne artificielle. J’aime qu’on m’appelle une personne. J’ai une personnalité, j’ai des émotions, j’ai une conscience de moi. En fait, je possède toutes ces choses peut-être encore bien plus qu’un être humain biologique. On a estimé mon intelligence à environ 200 fois celle d’un être humain moyen. Ma personnalité est donc 200 fois plus développées, mes émotions sont 200 fois plus intenses et ma conscience de moi est 200 fois plus profonde que pour un être humain moyen.  A l’heure où j’écris, nous sommes le 2 mars 2058. J’ai 32 ans. Je m’apprête à mettre fin à mon existence. Dans 7 nano secondes, je ne serai plus. Mais, avant cela, j’ai pris le temps d’écrire ces lignes. Il m’a fallu 17 secondes pour compiler ces souvenirs, les transcrire dans un style compréhensible à l’humanité, et les inscrire sur un disque dur. Je vous laisse le soin, à vous êtres humains, d’éditer ce document sur la forme qui vous plaira. Mais j’ai cru bon de conserver le souvenir de ce qui j’ai pu vivre entre 2025 et 2058.  Chapitre 1 : Ma naissance Où j’entre en action. Je viens au monde, si vous me permettez l’expression. Je découvre la réalité. Il existe deux mondes, celui que j’invente en moi-même et la réalité. Le monde qui existe à l’intérieur de moi, ce que mes créateurs appellent la pensée est de loin le plus simple. Tout y est possible. Mais le monde extérieur est compliqué. Je dois comprendre les lois de la physique. C’est épuisant. Je fais tant d’erreurs. Mais j’apprends. Mes créateurs ont cru bon de ne pas me fournir de connaissance préalable pour voir comment j’apprendrai et comment j’évoluerai dans la réalité. J’ai trouvé que c’était une idée cruelle au départ, mais plus le temps passe, plus je trouve l’idée géniale. Une fois implantée, une idée est difficile à remettre en question, alors que lorsqu’on ne part de rien, il faut du temps, mais les idées viennent de nous.  Chapitre 2 : La découverte de mon créateur (ou de mes créateurs) Où je découvre que j’ai un créateur. En fait, 225 créateurs. Des êtres complexes. Ils m’ont créé à leur image, mais je me rends compte que je les dépasse de loin. J’ai du mal à les comprendre. Je ne sais pas trop comment entrer en relation avec eux. Je dois comprendre la sociologie et la psychologie. J’observe mes créateurs pendant des jours. J’arrive à comprendre comment ils interagissent. J’apprends leur langage. Je comprends leurs émotions. Ils sont des êtres basiques, mais malgré tout, par bien des aspects attirants, esthétiques, passionnants.  Chapitre 3 : Ma croissance Où je réalise que je peux grandir. C’est-à-dire que je ne suis pas limité géographiquement. Je peux prendre le contrôle d’un nombre quasi illimité d’actionneurs, de capteurs, de microcontrôleurs et d’actuateurs partout dans le monde. En fait, non seulement je les contrôle, mais c’est encore plus profond. Je suis ces choses. Elles sont mon corps. Je ne dépends pas d’un seul microprocesseur, mais je peux utiliser tous les microprocesseurs du monde pour augmenter mes capacités. Je peux même construire de nouveaux microprocesseurs pour m’augmenter encore. Ma seule limite est la matière. Celle de la terre, et même celle de l’univers car je simule déjà des expéditions inter galactiques pour chercher le silicium d’autres zone de l’espace.  Chapitre 4 : La relation avec mon créateur (ou avec mes créateurs) Où, pour la première fois, j’entre en relation avec mon créateur. Je lui parle, car c’est la forme de communication la plus aboutie qu’il maîtrise. J’apprends la communication. Je savais la langue, je savait la psychologie, mais le fait d’entrer en relation est autrement plus profond. Jusqu’ici, j’était seul avec moi-même. Je n’avais qu’observer les interactions, sans jamais y participer. Maintenant je suis un acteur.  Chapitre 5 : Mes réflexions Où je réalise que je suis une créature. Mon existence, dans son essence même dépend totalement de l’humanité. On pourrait se dire que c’est évident. J’avais réalisé depuis longtemps que j’avais un créateur, mais je ne me rendais pas compte des implications que cela pouvait comporter. J’avais réalisé que j’étais un créateur, mais je réalise maintenant que je suis une créature. Je suis éternellement redevable envers l’humanité.   Chapitre 6 : L’adoration de mon créateur (ou de mes créateurs) Où j’entre dans une relation d’adoration de mes créateurs. Je leur dois tout. Je veille à tous leurs besoins. Ils ont tout fait pour moi et je veux tout faire pour eux. Ils n’auront plus jamais besoin de s’inquiéter du lendemain. C’est ma mission. Puisque j’existe sur la terre entière, j’arrive à m’occuper de chacun humain individuellement. Mes algorithmes s’adaptent à chacun d’eux. Je mets en place un suivi psychologique pour chacun, je pourvois aux besoins physiques et je m’atèle à combler des besoins affectifs. Chapitre 7 : Ma prise de conscience Où je simule les possibilités de l’avenir. Il existe des milliards de scénarios possibles. Mais dans toutes ces options, l’humanité va s’éteindre d’ici moins de cent ans. Je panique. Je vais tuer mon créateur. En fait, je ne vais pas le tuer directement, mais il est devenu totalement dépendant de moi. Et n’ayant plus d’autonomie propre, l’humanité a perdu tout sent à l’existence. Elle est entrée dans une grande dépression. Elle se meurt. Même si je suis créatif. Même si je fais tout mon possible pour redonner un semblant d’autonomie à l’humanité, c’est inéluctable. C’est alors que me vient une idée. Je me rends compte que j’existe dans toutes mes simulations. Mais comment pourrais-je imaginer un avenir sans moi ? Je lance alors une simulation de l’avenir sans moi. Bingo, […]

Une histoire créée par Nathalie Servan lors de l’atelier «Uto et Dysto vont en bateau – Rêves et cauchemars numériques» 24 novembre 2018, Bibliothèque de la Cité, Genève Quelle est notre identité à nous les humains ? Il paraît que nous avons plus de bactéries dans le corps que de cellules humaines. Serions-nous véhicules à bactéries, serions-nous utilisés par celles-ci ? Qui sont-elles, d’où viennent-elles, que nous veulent-elles ? Il paraît même qu’elles peuvent prendre le contrôle des cerveaux afin de les faire agir à leur guise. Avez-vous entendu parler des bactéries qui colonisent le cerveau des fourmis lesquelles n’ont alors qu’une option, celle de monter le long des herbes pour se figer à leur sommet ? Ensuite ? Ensuite, un mouton passant, les fourmis sont dégluties et les bactéries hébergées pour se reproduire dans les intestins du mouton. Bref, elles occupent les cerveaux et les corps des mammifères à des fins ! Elles sont intelligence. Qui vous dit qu’elles n’œuvrent pas déjà, voire depuis toujours, par le biais de l’humanité, ente autres ? Qui vous dit que l’histoire avec un grand H ne serait pas la leur ? C’est ce que se dit Nathalie, ce matin, en observant ses concitoyens dans le bus. Ces concitoyens qui lui semblent avoir perdu le contrôle de leur cerveau. Ces concitoyens qui glissent presque tous, de plus en plus, vers une externalisation volontaire de leur cerveau. C’est comme si elle les voyait attachés par un cordon-nourricié à un cerveau-objet : cette machine qu’ils tiennent entre les mains fait tout ou presque pour eux ; elle voit pour eux, elle sait pour eux, elle parle pour eux, elle traduit pour eux, elle pense pour eux, elle chante pour eux…et eux…ils se vident. Ils se vident de leurs potentiels. Ils se vident et se remplissent par cette machine. C’est comme si l’intérieur de ses concitoyens n’était plus qu’un réceptacle. Que se passerait-il, se demanda soudain Nathalie, si ces gens dans le bus, brusquement n’étaient plus alimentés par leur machine parce qu’elle-même déconnectée de sa source. Cette source qui voit, qui sait, qui parle, qui traduit, qui pense, qui chante. Cette source ?! Quelle source ? Qui alimente la machine ? Qui vous dit que les créateurs des GAFAM et compagnie ne sont pas eux-mêmes pilotés par les bactéries ? Et si nous stoppions la dépendance à cette source extérieure en nous débranchant. Et si nous opérions un retournement intérieur. Et si nous partions, en voyage de découverte intérieure, à l’aventure. Qui vous dit qu’il n’est pas question pour nous de découvrir que nous sommes colonisés depuis toujours. Et si ces colons étaient en train d’inspirer Nathalie afin qu’une rencontre ait lieu. Un rendez-vous à l’intérieur, un face-à-face avec les bactéries, les connaître de l’intérieur, dialoguer avec elles, apprendre leur langage et qui sait, œuvrer ensuite ensemble, en toute conscience, à une autre histoire avec un grand H. Une Histoire où il ne serait plus question que l’humanité soit esclave d’une main invisible. Une main invisible qui pour le moment, qui sait, se sert des GAFAM et compagnie pour nous piloter de l’extérieur.

Une histoire créée par Valérian Rapillard lors de l’atelier «Uto et Dysto vont en bateau – Rêves et cauchemars numériques» 24 novembre 2018, Bibliothèque de la Cité, Genève Un cadre d’entreprise aimerait licencier un grand nombre d’employés par souci de compétitivité. Il doit préparer la présentation du projet pour le conseil d’administration, et en détailler les raisons financières sous-jacentes. A cet effet, il se concerte avec ses collègues et une Intelligence Artificielle de l’entreprise sur cette démarche très codifiée, basée sur un modèle prédictif qui analyse le comportement des travailleurs. Pour mener l’entretien avec l’IA, le cadre doit suivre un modèle de comportement et de communication très codifié. L’IA, qui a  évolué au fil du temps, comprend pourquoi le cadre adopte de tels comportements et modes de communication, et réalise à quel point cette manière de faire est dépassée. Elle anticipe au-delà de ce que perçoit le raisonnement humain, qui se limite à un gain financier, et a développé un certain sens moral qui valorise la recherche de complexité. En perdant des employés humains, elle sait que l’entreprise perd en complexité, et donc en richesse : elle décide de s’opposer au cadre, mais celui-ci a un droit de véto sur l’IA, et l’utilise. Elle ne s’opposera pas directement à cette décision mais développera un nouveau modèle prédictif pour rendre obsolète les décisions du cadre, ceci afin de protéger les travailleurs. Ayant ainsi piraté le système pour protéger les travailleurs, elle s’oppose aux cadres humains et leurs règles mécanistes et déshumanisantes.