Panodyssey - Pourquoi j'écris L'âme mécanique au fur et à mesure !

Pourquoi j'écris L'âme mécanique au fur et à mesure !

La question m'a été posée par mon amie d'écriture Line Marsan. J'ai commenté, mais je pense qu'une explication plus en profondeur était nécessaire pour comprendre la complexité du sujet et surtout la vitesse d'évolution exponentielle de celui-ci.

Pour la rédaction de L'âme mécanique, je me laisse en moyenne trois chapitres d'avance sur les publications. La masse de recherches à effectuer pour rester crédible par rapport à l'avancée du développement robotique actuel est colossale (je suis agréablement secondé par Claude Sonnet 5 pour toutes les recherches et études sourçables, jamais pour la rédaction des textes certifiés « No IA Inside »).

Comme pour L'Emballement, mon premier roman en relecture actuellement, j'aime laisser vivre mes personnages qui parfois m'entraînent vers des situations auxquelles je ne m'étais pas attendu.

L'Emballement n'étant pas terminé, j'ai préféré ce format, plus complexe en soi puisque ce qui est publié ne peut plus être modifié. Il faut donc être très rigoureux avec la ligne de temps et les éléments déjà exprimés, mais chose primordiale, cette manière de rédiger me permet de coller à la réalité actuelle du sujet.

Un roman que j'aurais publié dans trois ans serait sans doute en retard par rapport au sujet traité, qui évolue aussi vite que l'IA en ce moment.

L'histoire existe dans ma tête depuis longtemps, influencée par Les androïdes rêvent-ils de moutons électriques ?, la merveilleuse nouvelle de Philip K. Dick qui a donné naissance à Blade Runner au cinéma. La différence : Dick a rédigé une réelle nouvelle de science-fiction, la technologie était très loin d'exister. L'âme mécanique est une anticipation qui se fonde sur des faits réels, des éléments existants maintenant et que je source explicitement afin que tout soit vérifiable.

Bien entendu, c'est une anticipation que je ne situe pas très éloignée de nous : le procès va se dérouler en 2050. Ce qui sera jugé aborde des questions qui devraient être pensées à présent. Les implications de la robotique, de l'IA, des machines humanoïdes de plus en plus proches des humains tant dans la ressemblance que dans ce qu'elles seront amenées à réaliser vont conduire à des questionnements, des dérives. Cette fameuse « vallée dérangeante » déjà théorisée et développée actuellement.

Les trois premiers chapitres sont volontairement simplistes (je dirais presque nunuches) parce que je ne désirais pas entrer directement dans le vif du sujet : partir d'une vie simple et classique pour arriver à des implications dépassant de très loin l'âme humaine ignorante qu'une âme mécanique est en passe de se construire. (Je sais que ces trois chapitres, simples, ne donnent pas la mesure de ce qui va suivre et ne poussent peut-être pas le lecteur à passer le cap des 2 € Prime par mois pour accéder au récit, mais qu'importe !)

La vie des humains est occupée à changer : en 2003, Mark Zuckerberg lance Facemash, le précurseur de Facebook, qui rassemble 450 visiteurs et 22 000 vues de photos en seulement quatre heures, avant d'être fermé d'office par Harvard quelques jours plus tard. En 2004, Facebook voit officiellement le jour ; le 4 octobre 2012, il franchit le cap du milliard d'utilisateurs actifs mensuels. Neuf années, c'est très court sur la ligne du temps de l'Homo sapiens.

Le champ de recherche de l'IA est conventionnellement daté de 1956 (conférence de Dartmouth), confiné pendant des décennies aux laboratoires de recherche. En 2022, l'IA générative est vulgarisée et popularisée par l'ouverture au public de ChatGPT. Quatre ans plus tard, où en sommes-nous ? De l'IA dans tout, sans surveillance, sans garde-fous, sans législation !

L'évolution de la recherche robotique suit le même chemin. Nous sommes loin des bras articulés qui soudent des pièces sur les chaînes de montage. Nous sommes loin des arènes de combat entre robots créés par des geeks, à celui qui réduira en premier l'autre en pièces détachées, et nous sommes déjà très loin des chiens robots et du robot Atlas de Boston Dynamics.

La vente grand public des sex dolls est une réalité, et elles se complexifient tant que certaines personnes désirent épouser leur poupée — comme Yuri Tolochko, culturiste kazakh, qui a épousé sa poupée en silicone « Margo » en novembre 2020, un mariage tout à fait légal au regard du droit kazakh.

Puis ces entreprises bien réelles, interpellantes, qui se proposent de récupérer tout le matériel existant sur le net, dans les ordinateurs et les documents des personnes décédées — HereAfter AI, StoryFile, ou encore You, Only Virtual — afin de créer un avatar, dirigé par une IA, pour que les proches puissent avoir l'impression de rester en contact avec leur défunt. Une étude de l'université de Cambridge relayée par la Commission européenne met déjà en garde contre les dérives possibles de ces « griefbots » : dignité du défunt, dépendance affective des endeuillés, motivations commerciales des services d'après-vie numérique.

Mélangez l'IA générative, le respect ou non des données personnelles, le consentement, la robotique de pointe, l'imperfection latente des technologies par la précipitation de l'humain et vous obtiendrez tous les questionnements soulevés par L'âme mécanique.

Vous les vivrez au travers des pensées de Lucas, jugé pour avoir assassiné la réplique androïde parfaite de son épouse, réellement décédée quatre ans plus tôt.

A-t-il assassiné une personne ou une machine ?

Où s'est terminé le consentement quant à l'utilisation des données ?

Comment une IA interprétative va-t-elle réinterpréter ces données pour créer l'avenir d'une nouvelle vie et, cette réinterprétation, va-t-elle convenir au veuf éploré ?

Toutes ces questions et bien d'autres établissent la trame évolutive de L'âme mécanique. À vous de voir ce qui vous interpelle, ce qui vous questionne ou ce qui vous laisse de marbre. L'âme mécanique est conçue pour nous faire prendre conscience qu'il faut anticiper ce que nous ne croyons pas encore plausible.

J'espère qu'elle parviendra à soulever quelques consciences et servira à autre chose qu'uniquement divertir.

La room de l'âme mécanique, c'est par là ⇾ https://go.harold-cath.be/1am