La transparence algorithmique, bataille humaniste !
L’open source a été un vrai combat de société dans les années 90s et 2000s, avec l’espoir que le logiciel libre puisse nous libérer des monopoles digitaux (à l’époque microsoft, aujourd’hui les GAFA et tous les autres). 20 ans plus tard, l’open source est partout mais les monopoles aussi. L'open source est dorénavant une distraction pour nos libertés. Le vrai combat se trouve dans la transparence algorithmique.
Petit retour en arrière pour nous permettre de situer le combat.
Dans les années 90s, Microsoft assoit son emprise sur l’informatique personnelle, avec windows bien entendu mais aussi sa suite bureautique office. Si rien n’avait été fait, l’entreprise aurait probablement réussi à nous imposer internet explorer, ses formats de fichiers audio et vidéo, et probablement toute une ribambelle de technologies qui auraient cimenté durablement sa main-mise sur nos vies numériques. Apple périclitant, les alternatives se sont faites rares. Microsoft maintenait son rival sous perfusion (en proposant notamment internet explorer et office pour mac, malgré un intérêt business limité), précisément pour ne pas être en position flagrante de monopole total.
Parallèlement, un petit système d’exploitation dont le code source est intégralement public émerge : linux. Derrière cet OS, c’est toute une communauté de développeurs un peu hippies, convaincus que le code doit être “libre” pour que la tech ne soit pas crassement mercantile. Rapidement, dans les cercles d’experts et au-delà, l’open source devient synonyme de tout ce qui est bien dans ce monde et se transforme en fer de lance dans la guerre contre l’hégémonie de microsoft.
L’open source est aujourd’hui partout, même chez les GAFA.
À vrai dire, la popularité de l’open source et son adoption par ses “ennemis” historiques ont constitué un véritable “baiser la mort” pour les valeurs qu’il était censé représenter. Les formats office sont devenus ouverts (tout le monde peut créer un document en .doc ou .xls) (je ne sais pas cependant s’ils sont stricto sensu “open source”). Android, le système d’exploitation de google, est en partie open source. Mais l’ouverture de façade ne permet pas réellement de contester le statu quo imposé par les géants de l’informatique. On pourrait même dire au contraire qu’il le renforce.
Open source, ça veut dire que le code est public et donc que ceux qui l’utilisent n’ont pas à rémunérer ses auteurs (ou s'ils doivent les rémunérer, de se permettre de ne pas le faire). Rendre open source une partie d’un logiciel, c’est assécher une source de profits pour toute une industrie. C’est empêcher des petits de pouvoir proposer un petit morceau et grandir à partir de là. Et tant qu’un logiciel n’est pas intégralement en open source, ouvrir quelques parties ne donnent pas vraiment le contrôle à qui que ce soit d’autre que le propriétaire du tout (il n’y a qu’à voir la difficulté qu’ont eu les constructeurs de smartphones chinois pour remplacer android avec des solutions maisons, malgré les “morceaux” open source à leur disposition).
L’open source maintenant monopolise les débats et devient le seul critère d’une grille de lecture biaisée et limitée pour savoir si une technologie peut être de confiance ou non, éthique ou non. Mais le débat n’est plus là (s’il l’a jamais été). Les GAFA et consorts n’ont pas besoin de garder leur code propriétaire pour assurer leur contrôle, et proposer des outils digitaux qui sont dirigés contre leurs utilisateurs.
Nous n’avons pas besoin de logiciel open source.
Nous avons urgemment besoin de logiciels transparents.
La clé est de comprendre que l’on peut avoir un logiciel open source qui n’est pas transparent… et que l’on peut avoir un logiciel transparent sans lui imposer d’être open source !
Commençons par définir ce qu’est un logiciel transparent.
Un logiciel transparent est un logiciel qui sert son utilisateur sans arrière pensée, qui respecte ses choix et ses valeurs, pour devenir une interface entre lui et le monde en laquelle il peut avoir confiance. Un logiciel transparent permet à chaque utilisateur de comprendre pourquoi il voit ce qu’il voit, dans l’ordre qu’il voit. Un logiciel transparent expose ses biais et permet à chaque utilisateur d’agir dessus. Un logiciel transparent permet de comprendre comment des données d’entrée différentes mènent à des données de sortie différentes. Enfin un logiciel transparent permet de vérifier qu’il est transparent.
Un logiciel transparent est un outil Humaniste : il permet à chacun d’exercer son libre arbitre en conscience et d’agir sur le monde en fonction de ses valeurs et de ses préférences. Malgré la grandiloquence de cette définition, il n’y a pas de besoin d’être en docteur en philosophie pour proposer un outil humaniste.
Un logiciel d’emails est transparent. Les emails sont classés selon l’ordre souhaité par son utilisateur (date de réception par exemple ou expéditeur). Toutes les données correspondant aux critères sont affichées dans l’ordre souhaité. Il n’y a pas de “biais” imposé à l’utilisateur, qui le conduirait à percevoir le monde autrement que de la façon qu’il attend.
Un feed de réseau social n’est pas transparent. Les critères d’affichage sont inconnus de l’utilisateur. L’utilisateur peut difficilement influer sur ce qu’il voit ou l’ordre dans lequel il le voit. (Il peut liker un post ou bloquer un utilisateur, mais les vraies conséquences de ses actions sont globalement imprévisibles). Les règles qui régissent l’alimentation du feed sont avant tout élaborées contre l’utilisateur : pour le rendre énervé, angoissé, amusé, excité, affamé, dans le but de lui faire bouffer plus de pubs. En conséquence, le feed est une interface catastrophique pour voir, comprendre et interagir sur le monde, car il déforme la réalité. Pire que de la déformer (après tout, toute interface déforme), il la déforme d’une façon qui n’est pas comprise ou perçue par les utilisateurs, d’une façon qui ne le sert pas. Sans grande surprise, un réseau social n’est pas un outil humaniste.
Pourquoi un logiciel transparent est un pilier de la proposition humaniste moderne ?
Dans un monde de surabondance, on ne contraint pas en limitant le choix, mais en le manipulant. Quand il existe 10 000 articles pour le camp du OUI, et 10 000 articles pour celui du NON, choisir quoi montrer à qui est redoutablement efficace, bien plus de tenter d’étouffer l’expression d’un camp en particulier.
Pour permettre le choix à l’ère de la surabondance, il est indispensable de proposer des outils (technologiques) pour armer les individus. Mais la transparence permet à chacun de s’assurer que les outils qu’il utilise agissent pour lui, et non pas contre lui.
Dans ces conditions, on comprend mieux pourquoi l’open source n’est pas là où se joue la bataille des Réhumanistes :
- Demain, facebook pourrait rendre son algorithme public, nous ne serions toujours pas mieux équipés pour reprendre le contrôle sur ce que l’on voit dans nos feeds (nous réaliserions peut-être à quel point nous sommes manipulés par ces algorithmes).
- Dès aujourd’hui, certaines entreprises d’intelligence artificielle ouvrent en partie leur algorithme via l’open source. Cela ne nous aidera pas vraiment pour comprendre et contrôler les biais de cette technologie (implémentés dans des algos, mais aussi contenus dans la donnée d’entrainement). On peut même penser que par sa nature et par la faible compréhension réelle de son fonctionnement, l’intelligence artificielle est structurellement incapable d’être vraiment transparente (comprendre comment changer ses données entrantes pour impacter de façon totalement prévisible ses données sortantes).
Pour renouveler la promesse humaniste, nous devons imaginer des outils et interfaces qui étendent la capacité de chaque individu, à la fois pour percevoir et pour agir sur le monde, en respectant son libre arbitre.
Notamment en :
- ✅ Explicitant tous les critères et biais (et notamment certaines définitions utilisées par les algorithmes, comme “popularité”, “autorité”, etc.),
- ✅ Permettant à l’utilisateur de voir, comprendre, manipuler ces critères comme il le souhaite,
- ✅ Rendant prévisible toute modification, notamment en permettant de simuler les données de sortie (ce qui permet de s’assurer qu’un logiciel est effectivement transparent).
Un facebook humaniste, par exemple, permettrait de reprendre le contrôle sur son feed, en agissant sur les différents critères utilisés pour générer l’ordre d’affichage. Tout utilisateur pourrait comprendre en détail pourquoi un post est affiché plutôt qu’un autre, et comment faire pour qu’il apparaisse plus / moins souvent, avant / après tel autre post, etc.
Et on peut faire tout cela sans exposer la moindre ligne de code.
Tout algorithme est biais.
Toute interface “teinte” et déforme le monde de multiples façons.
C’est un effet inévitable de toute intermédiation du réel.
C’est précisément l’intérêt d’un outil : servir de courroie de transmission entre l’homme (son cerveau, son corps, ses sens) et le monde, pour le rendre plus puissant et plus impactant.
L’objectif des humanistes modernes n’est pas de prétendre vouloir construire un outil ou une technologie “objective” et sans biais. Cette quête est non seulement vouée à l’échec mais l’idée même est dangereuse. Au contraire, il s’agit de réaliser que les biais sont inévitables, les exposer de la façon la plus honnête possible et redonner autant que possible le contrôle aux individus.