On a coutume d’entendre qu'il y a toujours deux faces à la technologie : ce pourquoi elle a été créée et ce qu'on en fait. Emblématique, la maîtrise de l'énergie nucléaire est ainsi source de confort ou de menace, on parlera d’usages “civils” ou “militaires”. Mais il y a désormais un troisième aspect à prendre en compte, pour ce qui concerne les données informatiques. Et c’est peut-être l’enjeu démocratique majeur des décennies à venir.
De Gandhi à la révolution numérique
Imaginons une correspondance au vingtième siècle entre, disons, Einstein et Gandhi. Les courriers échangés, se basant sur les technologies de l'écriture, du papier et des transports postaux, sont dans cet exemple ce qui permet la communication entre ces deux personnes ; leur première intention, consciente, est cet échange. Mais imaginons à présent qu'au vingt-et-unième siècle, un riche investisseur fasse l'acquisition de cette correspondance obsolète aux enchères. Et leurs oeuvres respectives ont pu en être influencées à divers degrés. Leur usage initial ayant été largement consommé, on aurait donc pu s'attendre à ce que ces supports de communication aient disparu. On s’aperçoit cependant qu’il n'en est rien, et que ces reliques constituent désormais une marchandise. Il se peut en effet que leur acquéreur ait dépensé une somme importante, pour s'assurer le privilège de les posséder. Et il est alors probable qu'il considère ces emplettes comme un placement qu'il lui sera à l'avenir possible de monnayer encore.
Les technologies de l'information aujourd'hui, indépendamment des intentions qu'on leur prête, fonctionnent exactement de la même manière. Que nous les utilisions pour échanger des informations plus ou moins sérieuses, nous devrions systématiquement nous poser la question de savoir ce qu'il advient des traces de leur usage. L'indice le plus probant de cette nécessité étant que tant de services, soi-disant gratuits, soient dispensés par des acteurs privés. Meilleur exemple ? Pas Google, non... mais plutôt Windows 10 ! Un système d'exploitation hégémonique (même l’informatique mobile, dominée par Android, s’accapare les usages un par un) dont la migration a été menée à marche forcée, malgré de sérieuses ruptures de compatibilité. On imagine sans peine que son développement et son déploiement (un milliard de terminaux sont équipés en ce début 2020, couvrant 50% des PC de bureau) ont dû occasionner un certain coût (je n’ai pas trouvé de chiffres, mais ont sait que suite aux pertes en milliards dues aux bugs de Vista, le développement se fait désormais en mode agile). Pourtant, tout ce que l'on a demandé aux utilisateurs à été de se munir d'une connexion internet suffisante, ou de partager de bons supports de stockage peut-être, pour avoir le droit de prolonger leur ancienne licence aujourd’hui payante, mais qui dure depuis maintenant cinq ans.
Il y aurait donc une frontière floue entre différentes formes de service public ? Ou alors la question du financement des services en ligne serait-elle secondaire, dans l’ère émergente du tout numérique ? Il semblerait plutôt que, là encore, la marchandisation soit en train de s’installer. C’est à cette aune, bien sûr, que l’on doit appréhender la motivation des différents acteurs du marché à se précipiter pour apporter des “solutions” à la crise sanitaire en cours (celle du coronavirus, pour mémoire). En l’occurrence l’analyse “volontaire” des données de géolocalisation des téléphones portables de milliards d'individus ; ou devrait-on dire “consommateurs”... voire “producteurs de contenu”, dorénavant ? Quoi qu’il en soit, je considère que cette crise (qui est aussi financière, pas seulement sanitaire) n’est que l’accélérateur d’une tendance déjà solidement installée. On a souvent remarqué que les crises traumatiques renforcent des changements qui, quelques semaines auparavant, étaient jugés trop sensibles pour l’opinion. Dans ce cas, faute d’un débat public que certains experts auront tôt fait de déclarer “trop technique”, il est urgent de s’approprier le sujet, afin de tirer les conséquences de cette évolution “inévitable”.
Protéger les libertés fondamentales
C’est en 2008 que fut fondée l’association française La Quadrature du Net (LQDN), pour promouvoir les droits et libertés de la population sur l’internet. Toutes les questions liées à la liberté d’expression, aux droits d'auteur, à la neutralité des réseaux informatiques et à la régulation des opérateurs, ou au respect de la vie privée, y sont abordées en profondeur. Y compris à l’échelle européenne et mondiale. Cependant, force est de constater que la question de la science des données, le “big data”, y est analysée presque en marge, comme s’il ne s’agissait pas d’un sujet à part entière. Or aborder marginalement ce sujet, c’est prendre le risque de comprendre trop tard l’importance que ces monceaux d’informations “anonymisées” pourront avoir, plus vite qu’on ne le croit, sur nos existences. Il me paraît bien illusoire d’imaginer que l’on puisse légiférer sereinement sur quelque chose d’aussi évanescent (qui détient quoi, et en quelles quantités, c’est loin d’être clair) et d’apparence inoffensive... Car ce qui est anonyme, par définition, échappe à tout contrôle, n’est-ce pas ? Ce ne sont pas les trolls des réseaux sociaux qui diront le contraire, même s’ils se bercent d’illusion, eux, quant à leur discrétion réelle.
Est-ce que le Mahatma Gandhi aurait dû y réfléchir à deux fois, dans mon petit exercice de pensée, avant de signer sa lettre partie à travers le monde ? Est-ce qu’Albert Einstein a bien fait d’indiquer à son contemporain qui il était, en le contactant ? Auraient-ils dû tous les deux avoir la présence d’esprit d’imposer un copyright à leur correspondance, pour en réserver les bénéfices futurs à de belles causes ? Toutes ces questions, aujourd’hui, nous sommes obligés de nous les poser, d’une certaine façon, avant de choisir de rendre publiques nos grimaces et nos ébats les plus intimes. L’actualité le rappelle régulièrement : il nous est tout aussi impossible de prévoir quelle utilisation pourra être faite demain de nos “contenus” soigneusement archivés, qu’il l’était pour @albert_emc2 et @ghandichery il n’y a pas si longtemps, avant d’inventer la Relativité Générale ou de libérer l’Inde de l’Empire britannique. Il nous faudrait pouvoir penser la valeur non pas de nos informations, mais de la “nature contextuelle” de celles-ci. Comment entrevoir, prédire même, comment l’essence de nos activités en ligne pourraient se retourner contre nous ?
Quand nos données nous échappent
Alors soyons clairs et reprenons. Le premier usage des données, évident, est leur usage à but privé : vous avez le droit d’avoir des données personnelles. Mais en fait vous n’en avez pas vraiment le choix, sauf à être complètement hors circuit, sans même un numéro de sécurité sociale. Et vous avez le droit de rendre certaines de vos données publiques, en toute conscience, de les partager. C’est ce second usage de vos données qui, de bien des façons, vous confère une existence numérique ou professionnelle. Le troisième usage, c’est l’évaluation (rating) de votre profil à partir de vos données “anonymisées”, qui consiste à jauger votre potentiel par rapport à une cible donnée. Cette cible est le plus souvent commerciale, bien sûr. C’est votre marchand en ligne qui va vous suggérer de lire 50 Shades of Grey, parce que votre profil indique que comme d’autres vous avez affectionné des oeuvres apparentées, comme disons une autobiographie politique. Ou alors un marchand de fusils de chasse qui va vous contacter, car il a été repéré que vous aviez acheté une splendide canne à pêche l’an dernier. Le marchand d’armes ne sait pas que vous péchez, il a simplement acquis une liste de consommateurs potentiellement intéressés par ses produits qu’il a pu décrire comme faisant du tort aux animaux sauvages. De même, un représentant des forces de l’ordre ne saurait pas nécessairement pourquoi une fouille au corps est préconisée à votre encontre, lors de votre contrôle routier. Il saurait juste que vous avez “le profil type”. Peut-être que vous avez effectué des recherches en ligne sur la culture du chanvre, le terrorisme, ou que vous avez déclaré posséder une arme chez vous... Peut-être que dans le cadre de votre travail vous détenez une expertise en menaces informatiques ? Personne d’humain ne sait exactement pourquoi l’algorithme vous a choisi, au fond. Mais ce sont les humains, la société, le “législateur” français ou européen, qui ont décidé de fixer certains seuils. Etait-ce par désoeuvrement, ou à l’occasion d’une grave crise liée à des attentats, à une catastrophe sanitaire d’envergure mondiale ? Peu importent les circonstances, une fois les décrets d'application publiés.
Cette surveillance permanente que l’on cherche à imposer aux citoyens, au prétexte de la crise sanitaire, n’a pas pour objectif de la résoudre. Si l’on cherche à l’instaurer, c’est plutôt qu’elle répond aux attentes de l’économie industrielle. Or son besoin vital est de distribuer aux mieux-disants des ressources qui vont se raréfier les unes après les autres.
Techniciens et politiciens, mains dans la main, nous “proposent” donc urgemment d’opter pour une surveillance généralisée de nos déplacements, prétendant ainsi contrecarrer la contagion. Ce serait bien sûr louable, si l’on ne savait pas déjà que malheureusement certains parmi nous ne pourront pas éviter d’y être exposés. Ce sont les soignants et les personnels d’entretien, évidemment ; mais aussi les forces de l’ordre, et tous les premiers de corvée en général. Or aucun traçage ne va changer cela. D’autre part cette surveillance, même “volontaire”, requiert l’assistance enthousiaste de groupes privés internationaux, présentés pour l’occasion en bons samaritains. Mais ce sont les mêmes entreprises qui brassent déjà des quantités astronomiques de données personnelles, patiemment thésaurisées depuis des années, et à propos desquelles on nous informe parfois d’une “légère” fuite. Le risque, à tout prendre, ne semblait pourtant pas bien grand. Pour l’heure il ne s’agissait que d’un ciblage essentiellement publicitaire... Et puis tout à coup on a pu entendre à la télévision un éditorialiste, manifestement très respecté, envisager que l’offre de soins soit désormais conditionnée à la soumission de nos données de déplacement. Et cette collecte nous apparaît soudainement beaucoup moins ludique, n’est-ce pas ?
Une conclusion logique sur le point d’advenir
C’est tout l’enjeu de la vigilance exercée par des groupes comme LQDN1, car ne nous y trompons pas : le troisième usage est le nerf de toutes les guerres commerciales, sociales, stratégiques, et politiques, à venir. Et c’est déjà commencé, avec par exemple l’affaire “Cambridge Analytica” . Car la détermination informatique du potentiel des personnes2 (une application de la science de la donnée) est amorale. Froidement scientifique, elle ne distingue pas vos inclinations naturelles de vos intentions réelles. L’algorithme ne fera certainement pas la différence entre un pédophile actif sur les réseaux sociaux, et une personne ayant le même “profil” mais dont la morale lui interdit absolument de passer à l’acte (95% des cas, ai-je lu). Or chaque pas en direction d’un pistage plus serré (on dit le “tracking”, ou peut-être le “tracing”) est sans retour a priori. Dans un monde à bientôt dix milliards d’individus, où les ressources les plus banales vont manquer avant la fin du siècle. C’est déjà le cas du cuivre, du sable, de l'eau. La manipulation des opinions et la prévision des comportements seront au coeur du maintien de la croissance du PIB, dans la bataille pour cibler et capter les consommateurs les plus juteux. D’autant plus que les data scientists ne sont pas vraiment soumis à une véritable éthique3, en dehors du cursus universitaire. Ne nous mentons pas, le GDPR (RGPD en français) n’est que la partie émergée de l’iceberg4.
Cette nouvelle denrée immatérielle (mon œil), la data, aura très vite autant d’importance que n’en a eu la monnaie dans les échanges mondiaux, disons depuis l'avènement des taux de change ! Parce que le niveau d’inégalités atteint sera tel (pas seulement au niveau planétaire, bien souvent aussi au niveau national) que l’on ne pourra plus maîtriser l’organisation de la société productiviste ; si tant est que ce soit encore le cas. Suite au confinement en France, le tiers des travailleurs privé d’activité subit déjà une précarité que ne peut qu’imaginer un autre tiers, sauvé par son confortable télétravail. Le pouvoir d’achat de beaucoup de français dépend moins de la hausse des salaires que du bas coût de revient obtenu par délocalisation, ou par l'accélération de l'automatisation. Comme la baisse tendancielle du taux de profit est implacable, la pression commerciale sera accentuée sur les populations capables de fournir des débouchés aux produits du “marché”. Tandis que les autres seront sévèrement contrôlées, voire invisibilisées. Ce n’est bien sûr pas qu’un problème de revenus, mais une question bien plus profonde d’accès à l’emploi, le critère moderne de l’utilité sociale. c’est le troisième usage de la donnée, dernier recours des marchands, qui nous dépossèdera de ce que nous nommons Civilisation. Cet article n'a pour but immodeste que de nous aider, en tant qu’acteurs de l'industrie IT, à prendre le recul nécessaire sur l'impact que nous avons sur la société.
1 - cf. https://www.laquadrature.net/2020/04/14/nos-arguments-pour-rejeter-stopcovid/ et https://www.laquadrature.net/2020/04/27/la-cnil-sarrete-a-mi-chemin-contre-stopcovid/
2 - Lire “L'affaire Cambridge Analytica, les dessous d'un scandale planétaire” de Brittany Kaiser, ou “Mindfuck, le complot Cambridge Analytica pour s'emparer de nos cerveaux” de Christopher Wylie.
3 - cf. ACM Code of Ethics and Professional Conduct - https://www.acm.org/code-of-ethics
4 - Lire “L'appétit des géants, pouvoir des algorithmes, ambitions des plateformes” d’Olivier Ertzscheid.
