Panodyssey - Un problème d'algo... ou plutôt un problème de données ?

Maintenant, il reste à savoir si le problème que le gros de la population rencontre, intellectuellement et pratiquement parlant, avec les algorithmes, a vraiment un rapport avec les algorithmes eux-mêmes... ou si c'est plutôt avec la collecte des données qui leur servent de support.

Parce qu'en fait, à quoi sert vraiment un algorithme ? Il sert à extraire des données et des informations à partir d'autres données de base. Et ces données de base, d'où viennent-elles ?

Eh bien, c'est comme dans les énoncés de nos jeunes années : elles sont fournies d'emblée... ou elles sont collectées telles quelles. De l'heuristique – par opposition à l'extraction, qui est le vrai travail de l'algorithme.

Sans données de base, sans énoncé, il ne peut pas y avoir de calcul. Il ne peut pas y avoir d'extraction. Il ne peut pas y avoir d'algorithme. Enfin – si, il y en a. Mais ils tournent à vide. Ils n'extraient rien. On n'extrait pas de pétrole là où il n'y a pas de gisement de pétrole. On n'extrait pas d'or là où il n'y a pas de mine d'or. Les données, c'est le pétrole. Les données, c'est l'or.

Et c'est justement ça qui inquiète les gens.

Je ne parle même pas de la façon souvent discutable dont on va y gagner accès. Cela fera l'objet d'un prochain article. Et c'est déjà tout un sujet en soi.

Je parle juste du fait en soi que l'on puisse inférer des données, ou des informations, à partir d'autres données. Rien que ce fait paraît déjà inquiétant pour beaucoup.

Ce qui impressionne, c'est la quantité incroyable de données secondaires et d'informations qu'il est possible d'inférer à partir de très peu de données primaires.

Dernièrement, sur LinkedIn, j'ai participé à une expérience menée par Johanna Bensoussan. La consigne nous disait de demander à ChatGPT ce qu'il pourrait dire de chacun d'entre nous si un jour nous mourions et si quelqu'un d'autre, à cette occasion, trouvait notre téléphone et lui demandait ce qu'il sait sur nous en tant que propriétaire de cet appareil. En ce qui me concernait, vu que mes interactions avec ChatGPT sont proches du niveau zéro (et tout à fait nulles avec les autres IA hormis Fotor – pour retouches photos – et Copilot), ce qu'il a pu dire de moi était même inférieur au minimum syndical 😆, ce qui prouvait au moins qu'il n'allait pas trifouiller dans les applis et contenus de mon Fidèle 🙂. Malgré tout, il a réussi à pondre vingt-cinq lignes pour ne pas dire grand-chose sur le fait que... il ne savait pas grand-chose de moi, mais qu'il pouvait au moins dire que je me posais des questions sur la mort et sur la trace de mon passage que j'allais laisser derrière moi (bon ben vi, c'était la consigne). Mais ce que personne n'a souligné, pas même moi sur le moment, mais que quelqu'un aurait pu remarquer... c'est que vu que je m'étais adressée à lui en parlant de moi au féminin, il en a déduit que je suis une femme. Certes, la consigne était rédigée au féminin, et comme effectivement je suis une femme, j'ai adopté la consigne telle quelle sans même penser à la remettre en question. Mais à bien y réfléchir, j'aurais pu tricher un peu et remettre la question au masculin en parlant de moi. ChatGPT en aurait-il conclu que je suis un homme ? Se serait-il interrogé sur mon genre à la lumière de nos rarissimes interactions précédentes ?...

Juste histoire de dire que dans un cas comme le mien, ce serait relativement facile de tromper une IA.

Pour beaucoup d'autres, par contre, ce le serait moins. Beaucoup de participants à l'expérience travaillaient assez régulièrement avec l'IA depuis qu'elle avait été mise à la disposition du public – notamment pour les aider à rédiger leurs articles sur les réseaux – et ChatGPT, qui était justement leur robot de référence, pouvait dire beaucoup de choses les concernant en se basant sur leurs interactions professionnelles (les commentaires en réponse au post de Johanna sont là pour en témoigner). Il traçait de chacun d'eux des portraits assez flatteurs, d'ailleurs.

Et ça, déjà rien que ça, suffit à en inquiéter plus d'un.

La police, au fond, travaille de la même façon : elle résout des mystères et des affaires compliquées en retirant des informations et en tirant des conclusions à partir d'indices très minces. Je ne dis pas qu'il faut s'imaginer voir partout de fines équipes telles que celles des "Experts" (police scientifique) ou bien d'"Esprits criminels" (profilage), ni des génies de l'enquête tels que Colombo (Peter Falk) ou Derrick (Horst Tappert) : la fiction triche un peu à partir du moment où l'auteur connaît à l'avance la clé de l'énigme, la vie réelle a plus que son lot d'affaires non résolues et tous ceux qui sont mis dessus ne sont pas forcément des incapables, la vérité met parfois des années à émerger, mais toutes les affaires qui ont fini par être résolues l'ont été sur des détails (et "Faites entrer l'accusé" !). Sur des détails auxquels le commun des mortels n'aurait jamais prêté la moindre attention et que la plupart d'entre nous n'auraient jamais jugés assez importants pour être déterminants dans un tel cadre.

En plus, quand on s'intéresse d'un peu plus près à la psychologie de vente, on peut comprendre que certains trouvent effrayant de voir leurs choix et leurs décisions manipulés, ou tout au moins manipulables, par des détails insignifiants. Ma foi, tant qu'il ne s'agit "que" de décisions d'achat, ce n'est pas encore trop grave (quoique ce soit important quand on ne dispose que du budget d'un citoyen modeste et que "c'est la crise", comme on le module un peu partout sur tous les tons depuis des décennies). Mais s'il s'agissait de décisions plus lourdes et plus importantes ? (Même si certaines décisions d'achat peuvent elles aussi orienter l'avenir de familles entières ?)

Nous l'avons vu, c'est par la puissance de son algorithme (et aussi parce qu'il fut le premier à atteindre le milliard de pages indexées) que Google a littéralement mis toute sa concurrence en faillite en six mois en l'an 2000. Aujourd'hui, le seul survivant de cette époque est Yahoo!, et depuis lors, Microsoft essaie bien de ne pas être en reste avec son Bing, et tous les deux arrivent encore à se maintenir, mais aucun des deux ne met franchement en danger la suprématie de Google. Quant aux autres qui tentent à leur tour d'émerger, comme Brave, DuckDuckGo ou Qwant, l'argument sur lequel ils tentent de faire la différence sur le marché est plus le respect de la confidentialité des données de leurs utilisateurs que la puissance de recherche de leur algorithme. Ce n'est pas sans une bonne raison.

En effet, les données personnelles sont censées être privées, et la perception normale de tout un chacun est que même si une partie d'entre elles sont publiques (dans la mesure où elles sont systématiquement recensées dans des registres officiels de population et figurent sur les cartes d'identité, les passeports, et dans les annuaires téléphoniques), elles ne sont pas censées être utilisées par quiconque sans l'accord des personnes concernées, surtout en étant reliées dans des bases de données à d'autres informations de nature plus privée, et encore moins être transmises à d'autres ainsi reliées à l'intérieur d'un "package" (comme cela arrive quand les données personnelles sont vendues par bases de données entières : ne dit-on pas en marketing en ligne que "the money is in the list" ?). Si l'identité de chacun est publique, ce qu'il fait de sa vie, y compris en termes de transactions commerciales, est censé être privé et rester strictement entre chacun et chaque entité concernée, et ne pas dépasser ce cadre sans l'accord de toutes les parties. Or dans les faits, nous allons le voir par la suite, c'est loin d'être le cas. Même les détails des transactions commerciales figurent très officiellement dans des registres que tout vendeur est censé tenir à jour, qui sont accessibles aux autorités financières de son pays et qui sont transmissibles à celles d'un autre si l'acheteur réside ailleurs.

Alors on peut très bien estimer, comme feue ma mère le faisait en son temps, que ça n'a rien de dérangeant parce qu'on n'a rien à cacher. On peut même aller encore plus loin, se montrer plus extrême et plus excessif qu'elle ne l'aurait jamais été (elle qui était avant tout une femme de mesure !), et aller jusqu'à souhaiter subir ce genre de traitement, histoire de bien prouver à tous de manière définitive que l'on n'a rien à cacher à personne parce qu'on ne fait rien de malhonnête ni rien de répréhensible et qu'on reste toujours bien dans les clous, tant du point de vue légal que du point de vue moral.

Mais la plupart des gens risquent bien d'y réagir de la même manière que dans l'appartement traversant d'E C Wallas : considérer que même s'ils ne font rien de mal ni de tort à qui que ce soit, et même s'ils n'ont aucune magouille d'aucune sorte à dissimuler ni aucune transgression d'aucune loi, une telle collecte de données sur une base aussi large représente une intrusion – et la vivre comme un véritable viol de leur intimité.

Alors certes, on va les rassurer en leur disant que tant que l'on n'a aucune raison de rechercher des informations sur eux, et tant que ce qu'ils font ou pourraient faire n'intéresse ni la police ni les autorités, ils n'ont rien à redouter de personne – d'autant moins que le simple volume de données collectées sur tous et sur chacun est tellement énorme qu'il est pratiquement ingérable, et qu'il est pratiquement impossible de savoir quoi en faire. Rendons-nous compte : aux débuts de l'informatique et de la bureautique, on parlait de "banques de données" (databanks) ou de "bases de données" (databases), sans doute parce que ce dernier terme faisait moins peur. Dans les années 1990, on parlait d'"entrepôts de données" (data warehouses), puis après 2000 de "repositoires de données" (data repositories). Aujourd'hui, je viens de lire il y a quelques jours que nous surfons désormais sur des "lacs de données" (data lakes) ! À quand l'océan ?...

Alors, oui, de tels ensembles de données nous paraissent ingérables. Mais c'est justement ici qu'interviennent les algorithmes, pour croiser les données entre elles dans des formules et des opérations grâce auxquelles on en extrait des données secondaires puis... des informations plus complexes, qui peuvent servir de support à des décisions. Prises par qui ? Dans quel but ? Et dans l'intérêt de qui ?...