La confiance, moteur cassé de notre rapport au réel

La confiance est la fondation de notre rapport au monde

• Je ne sais pas vraiment si un vaccin marche, je fais confiance à la science, aux scientifiques, à la médecine, à la fois en tant qu’institution et à ceux qui la pratiquent,
• Je ne sais pas si ce qu’il se passe à l’autre bout du monde est vrai. Je fais confiance à des journalistes, qui font partie d’institutions que je juge respectables (encore une fois, la confiance),
• Je ne sais pas si ce que me promet un homme politique est vrai, mais je juge de sa crédibilité, de la crédibilité que lui accorde des spécialistes que je juge également crédibles,
• Je ne sais pas si je ne vais pas m’empoisonner avec un plat préparé par des personnes que je ne connais pas, avec des ingrédients produits par des inconnus, mais je juge une marque qui a trop à perdre pour sa réputation pour mal faire son travail.

La confiance, c’est notre interface avec le réel.

Sans confiance, je serais obligé de tout vérifier, de tout contrôler, de tout redécouvrir par moi même. La confiance, c’est ce qui a permis à nos sociétés de s’élargir depuis les tribus d’une poignée d’individus à des nations-continents.

Sans faire confiance à des institutions, l’État, des corps de métier, la justice, une presse libre, l’Autre, des marques,... il ne peut pas y avoir de commerce, d’échanges, d’information, d’associations, de collaboration, de science, de progrès, de prospérité.

C’est un liant tellement fondamental, tellement omniprésent, que l’on l’a négligé, ignoré, oublié.

Comment internet a cassé la confiance

Les réseaux “sociaux” ont caricaturé nos relations sociales pour en faire des vecteurs propices à la publicité. Mais ils n’ont en rien permis à la confiance de fonctionner à grande échelle.

Facebook a “révolutionné” le web en rendant nécessaire et utile le fait de partager sa réelle identité. Sans nos véritables noms et prénoms, il ne pouvait pas y avoir de réseau social qui permet de savoir ce que font vos camarades de classe.

Bien sûr, les réseaux sociaux n’ont plus de “social” que le nom, et se sont transformés en redoutables machines à nous faire ingurgiter de la publicité. Mais même si maintenant nous suivons des inconnus, les logiques des origines des facebook & co restent les mêmes. Il est censé toujours y avoir des “personnes” de l’autre côté du feed. Mais en réalité, les réseaux sociaux ne font que détourner notre instinct et nos repères de la confiance, sans réellement leur permettre de fonctionner pour de vrai.

Tout ce qui se trouve sur un profil de réseau social peut être falsifié. L’identité, l’histoire, les compétences. On ne peut, en réalité, même pas affirmer qu’une véritable personne produit réellement le contenu que nous absorbons. Tous les “signaux” utiles à la confiance (identité, expertise, réputation…) sont tellement simplifiés et tellement facilement falsifiables qu’ils nous donnent une dangereuse impression de familiarité ou de sécurité, mais en réalité peuvent être détournés, manipulés, weaponisés, pour détourner notre nature humaine et abuser de notre confiance pour nous faire croire à peu prés tout ce qu’on veut.

Pourquoi cette insouciance, concernant pourtant des éléments vitaux de notre rapport au réel ? Tout simplement parce que ce n’est pas rentable de tout vérifier... et cela présente pour les réseaux sociaux bien peu d'intérêt.

La seule chose qui importe, c’est que les utilisateurs n'aient pas l’impression de voir un flot continu de publicités, entrecoupées de publicités, surimposé de publicités, entre deux publicités. Et pour cela, l’illusion de la confiance, l’illusion d’interagir avec des véritables êtres humains est largement suffisante.

Le résultat ? L’illusion de la confiance, sans possibilité de confiance.

Et donc un rapport au réel biaisé, tronqué, manipulé, où l’on devient tout simplement incapable de savoir ce qui est crédible ou vrai. La popularité, sous la forme du nombre de followers ou du nombre de likes, devient le seul critère de confiance dont on dispose. Le viral devient, sans surprise, le vrai.

L'IA ne pourra pas résoudre la crise de la confiance

Le problème de l’IA générative, au-delà de tout ce que l’on entend déjà, c’est qu’elle manipule notre confiance à des niveaux jamais atteints.

Tout le monde peut prétendre être n’importe qui, avec n’importe quelle expertise, en un clic. Bien sûr pour des fakes news ou du contenu manipulateur, mais pas que. En permettant de faire une forme irréprochable, on estime assez naturellement (parce que c’est comme ça que ça marchait depuis des siècles) que le fond l’est aussi.

Quand un océan de contenus à l’apparence passable voire correcte voire franchement bien déferle sur nous, sans possibilité de réellement juger leurs créateurs, comment savoir à qui accorder notre confiance ?

Et encore, cela suppose qu’il y a encore un humain à la barre pour proposer du contenu. Cet humain peut nous manipuler, peut ne pas avoir les meilleures intentions à notre égard, il y a encore un humain que l’on peut (essayer) d’estimer.

Mais l’IA générative, notamment en tant que moteur de recherche mais bien au-delà, c’est surtout du contenu automatique, sans créateur, sans garant, sans responsable.

À qui faire confiance maintenant ?

• À “l’objectivité de la machine” ? mais tout algorithme est biais !
• À des entreprises qui ont des valeurs de liberté ? mais tout produit a des arriéres pensées mercantiles !
• À la “masse” et au libre marché qui choisirait le désirable parmi la quantité ? mais popularité n’est pas vérité !

Comment peut-on vraiment faire confiance à du non-humain ?

Il ne peut y avoir qu’une solution pour résoudre le problème de la confiance cassée : l’humain

Remettre l’humain dans la boucle, tout en rétablissant des critères fiables pour refaire marcher la confiance - ou mieux encore : permettre à la confiance de fonctionner à grande échelle.

Sans faire de raccourci et, oui, parfois, sans se soucier de la rentabilité. Des critères vérifiables, des identités vérifiées, des moyens de gérer son propre réseau de confiance aussi simplement que l’on gère ses emails. Une technologie du “nous”, qui permet à la tribu de fonctionner, plutôt qu’une technologie dont le seul but est de monétiser nos relations personnelles et notre rapport au réel.

Pour permettre à chacun de reprendre le contrôle, de faire sens à nouveau du monde, de pouvoir agir dessus, il est urgent de refaire marcher la confiance !