La technologie serait neutre. C'est uniquement l'usage qu'on en fait qui détermine si elle devient bénéfique ou néfaste pour la société.

Donc, par extension, les personnes qui créent la technologie seraient neutre et devraient le rester. Ces personnes ne devraient pas sortir de la sphère technologique pour parler politique par exemple.

Ça, c'est une injonction que j'ai entendue récemment.

En gros, les informaticiens à la cave pour discuter performance et jeux vidéo, pendant que les grandes personnes discutent à l'étage.

Pour être honnête, j'ai cru cette phrase dans le passé. Aujourd'hui, elle me hérisse un peu et j'aimerais qu'on en parle.

Parce que la tech, c'est tout sauf apolitique.

La technologie, c'est faire des choix

Bon déjà, entendons-nous bien, la politique ça ne se résume pas à parler devant un perchoir à l'assemblée nationale ou distribuer des tracts dans la rue.

La politique, c'est toutes les décisions qu'on prend tous les jours pour essayer de vivre avec les autres.

Au niveau individuel ça se transpose par nos actions, pour qui on vote, qu'est-ce qu'on consomme, et donc qui je finance, mais également comment on se répartit les tâches, dans l'entreprise, à la maison, ou comment on interagit dans l'espace commun.

Bref, ce sont les choix qu'on fait.

Et créer des technologies ça implique de faire beaucoup de choix.

À qui ça s'adresse ? Pour résoudre quel problème ? Avec quel compromis ?

Les choix de conceptions logicielles sont donc "politiques" dans le sens où ils ont une influence sur une partie des gens qui constituent la société.

Par exemple est ce que vous saviez qu'en 2020 les algorithmes de reconnaissance faciale de IBM, Amazon et Microsoft ont été interdits d'usage au sein de la police américaine parce qu'on s'est rendus compte que la technologie marchait moins bien sur la population noire avec un taux d'erreur très important qui a conduit à arrêter beaucoup de gens sans raison.

Avez-vous entendu parler du filtre de beauté Glow Look sur TikTok censés embellir les gens, mais qui avait la fâcheuse tendance aussi à blanchir les peaux ou débrider les yeux ?

Des choix ont été faits, qui ont eu une conséquence sur les gens, comme des arrestations injustes dans le cas du premier exemple.

Mais vous allez me dire, c'est de l'inattention, ça montre que la tech ce n'est pas parfait, il y a des bugs, mais ça ne contredit pas vraiment le fait que la tech soit neutre.

Ça peut se discuter. Comment ont été choisis les données ? Est-ce que c'était une contrainte de budget par exemple ? Est-ce qu'on a mis les bons moyens de contrôle ?

Il y a plein de questions qu'on peut se poser, mais effectivement, dans ce cas précis, ça peut se discuter.

Cependant, on peut généraliser aussi, car ces exemples ne sont que la partie visible de l'iceberg. Parlons aussi de la fracture numérique. Quand on conçoit une application ou un service en ligne, on fait le choix, conscient ou non, de déterminer qui pourra y accéder et qui en sera exclu.

Pensez aux sites administratifs qui deviennent exclusivement numériques : une personne sans équipement ou compétences informatiques se retrouve de facto exclue d'un service essentiel. Est-ce juste un "bug" ou un choix politique de privilégier certains utilisateurs au détriment d'autres ? Quand on décide de ne pas investir dans l'accompagnement numérique des populations vulnérables, c'est aussi un choix politique.

De même, quand une entreprise choisit de créer une application qui nécessite le dernier smartphone à 1000€ plutôt qu'une version légère accessible sur des appareils plus modestes, cette décision technique impacte directement qui pourra ou non utiliser ce service. Les contraintes de compatibilité, la consommation de données, la complexité de l'interface, tous ces aspects apparemment techniques, sont en réalité des choix qui déterminent qui est inclus et qui est exclu.

La fracture numérique n'est pas qu'une conséquence malheureuse du progrès, c'est aussi le résultat de décisions prises par des concepteurs.

J'espère qu'on peut au moins s'accorder sur le fait que les conséquences de la technologie peuvent être sociétales, et donc politiques.

Mais plus que ça, les problèmes que je cite, ce n'est pas juste une question de bug, il y a bien souvent une intentionnalité dans les choix qui sont faits. À tel point que parfois, le lien entre technologie et politique est beaucoup plus clair.

La tech en tant qu'arme politique et économique

Voici une réponse suggéré par Grok, l'IA de X Twitter en dessous du message de Volodymyr Zelenskyy sur X.

Ces réponses reprennent la rhétorique de son propriétaire Elon Musk contre Zelenskyy en demandant quel territoire ils sont prêts à céder pour avoir la paix.

On avait déjà vu des opérations de manipulations d'opinions sur les réseaux sociaux, des opérations visant à utiliser massivement des bots, des faux utilisateurs, pour créer des fausses informations, ou donner l'impression que telle ou telle opinion était majoritaire.

Mais cette fois, c'est un peu différent. C'est le propriétaire du réseau social qui modifie son outil pour en faire un média, pour l'aider à diffuser des informations avec une ligne éditoriale.

X n'est plus seulement utilisé comme une arme par un ensemble de groupes divers.

X devient une arme pour l'usage de son propriétaire.

Propriétaire, Elon Musk, dont le lien avec de récentes manipulations pour soutenir l'AFD, parti d'extrême droite allemande, a déjà été documenté par Arte. Propriétaire qui, de toute façon, ne se cache pas pour financer et soutenir ce parti publiquement.

TikTok n'est pas en reste, également épinglé pour une proportion de contenu pro AFD très suspect au moment des élections.

Très récemment, c'est la Russie qui était épinglé pour ses opérations de manipulation des principales IA comme ChatGPT, Perplexity ou Claude.

Russie également impliqué dans des manipulations utilisant le réseau Meta/Facebook.

Bref, les réseaux sociaux sont un champ de bataille et l'Europe est, peut-être, un peu trop attentiste sur le sujet. Aucune discussion ne semble ouverte sur une interdiction ou tout du moins une obligation de modération plus active.

Discussion pourtant ouverte aux USA pour l'interdiction de TikTok.
Discussion qui a été ouverte au Brésil et qui a entraîné l'interdiction de X pendant plusieurs semaines.

Mais les réseaux sociaux pour beaucoup, c'est inoffensif, ou, à la limite, c'est un jeu auquel il faut jouer, de toute façon, nous serions tous à armes égales, une sorte d'agora moderne.

Oui, sauf que l'entrée dans l'agora est réglementée, certains ont le droit d'utiliser des hauts parleurs, les murs sont recouverts de slogans et de publicités.

Et pourtant des exemples d'usage de la technologie en tant qu'arme, c'est plutôt légion, j'aurais pu parler de Stuxnet, le virus américano-israélien qui a retardé le programme nucléaire iranien ou même tout simplement du programme Enigma pendant la seconde guerre mondiale qui visait à déchiffrer les messages secrets Allemand.

Difficile de parler ici de neutralité de la technologie.

Technologie qui a de toute façon été longtemps financée par l'industrie militaire. Les premiers ordinateurs ou Internet sont nés d'abord pour l'armée.

Et justement puisqu'on parle de financement, là encore, il est facile de montrer que la tech, ce n'est pas neutre.

Qui décide ?

On pourrait penser que l'innovation naît au hasard d'une pomme qui tombe d'un arbre ou d'une baignoire qui déborde.

C'est un peu moins glamour que ça.

Pour développer des technologies, on a besoin de financement et ces financements suivent une logique, soit capitalistique, soit politique.

Capitalistique parce que les fonds d'investissement vont suivre des "thèses d'investissement" pour financer certains secteurs plutôt que d'autres, secteurs jugés plus prometteurs en termes de gains futurs. Il y a un effet de mode sur les types d'entreprises qui seront donc soutenus. Ce n'est pas uniquement de l'innovation libre. Certaines inventions qui pourraient être bénéfiques à l'humanité ne passeront jamais le seuil de l'idée, faute de financement possible. À l'inverse, aujourd'hui, mettez "IA" dans la description de votre projet, vous aurez du financement.

Mais politique aussi, parce qu'un état peut décider d'investissement dans des domaines précis. Lorsque Emmanuel Macron parle d'une enveloppe de 800Mds envisagé pour mettre à niveau une armée européenne, il y a des chances que cet argent comporte une enveloppe pour de la recherche, notamment dans l'IA.

Lorsque Shenzhen devient la Silicon Valley chinoise en environ 40 ans, ce n'est pas le fruit du hasard ou de la "main invisible du marché". C'est un investissement d'état.

On retrouve donc les mêmes "modes" dans le financement de la recherche publique. Un projet de recherche sera financé plus ou moins facilement s'il suit ou pas certains grands thèmes.

Donc là encore, dire que la tech est neutre, c'est carrément oublier comment elle se finance.

Une tech consciemment politique

Et si je vous disais que le lien entre politique et tech est de toute façon historique.

Si on suit le livre "La tech, quand la silicon valley refait le monde", on peut y voir que la culture startup, l'open source, le transhumanisme, le technosolutionisme, le libertarianisme sont des émanations indirectes de la contre-culture des années 60 et 70. Tous ces mouvements ont pour ambition de changer notre rapport au monde.

La tech, par ce prisme là, a toujours été politique dans le sens où elle a toujours eu des ambitions pour changer la société.

Et maintenant ?

La technologie n'est pas neutre, que ce soit par son financement qui sélectionne ce qui se concrétise ou non, par ses impacts sur la société, par son usage démontré en tant qu'arme ou tout simplement parce qu'elle n'a jamais eu l'ambition de l'être. Parce qu'historiquement elle a toujours été conçue pour changer le monde. Expression certes pénible à entendre quand elle est répétée constamment pour des innovations triviales, mais pourtant historiquement exacte.

Et c'est ça qui me hérisse aujourd'hui lorsqu'on cherche à m'imposer la neutralité en tant que "technicien". Je ne suis pas neutre. Mes actions, les actions de mon secteur ont des conséquences sur la société.

Vous n'êtes pas neutre non plus. La neutralité est déjà un choix. Et la société se construit par les choix qui sont faits par chacun d'entre nous.

Par exemple, être sur un réseau social financé par un néo nazi, est un choix. Acheter un bien de consommation ou regarder une émission de télévision qui finance l'extrême droite, est un choix.

Nous votons tous pour le monde que l'on souhaite avec notre pouvoir d'achat, ou notre temps d'attention.

À l'heure où une grande partie de la tech américaine se range derrière Trump et Musk, à l'heure où certains entrepreneurs de la tech Francaise continuent d'admirer Musk, il est peut-être temps de réaliser que l'injonction à la neutralité imposée aux autres, ceux qui pensent que la tech ce n'est pas juste les libertariens comme Musk, Thiel ou DHH, provient souvent de supporters discrets que la situation ne dérange pas trop.

Et quant à moi qui travaille dans la tech, mon rôle, ce n'est pas juste de savoir quelle technologie utiliser, dans quel cadre, ou comment elles se comparent.

Mon rôle, et celui de toutes les personnes qui travaillent dans la tech, c'est de comprendre les conséquences. C'est de savoir expliquer aussi, les choix, les compromis qui ont été faits et in fine, quel monde on essaie de construire.

C'est bien aux personnes qui font ces choix d'en parler, d'informer. Parce que ce sont les plus aptes à en comprendre les enjeux.

Car ceux qui contrôlent l'information, les données, seront ceux qui, demain, auront l'influence nécessaire sur tous les aspects de notre vie. Et ça, c'est pas neutre.