Dans La nouvelle servitude volontaire (éditions FYP), Philippe Vion-Dury, journaliste et essayiste, s'attaque avec rigueur et lucidité à la mutation en cours de la société sous l'effet du numérique. Le « futur » tel qu'imaginé par la science-fiction est bien là, mais il n'est pas encore aussi spectaculaire. Et c'est bien pour cette raison, dit l'auteur, que cette révolution est dangereuse. Insidieuse, elle échappe au contrôle politique, n'est que peu remise en cause par les médias, et les algorithmes auto-apprenants deviennent si complexes, qu'ils ne seront bientôt plus compris par personne. À la source, le capitalisme libéral et son insatiable quête de profit pousse les entreprises à plus de rationalité et de rentabilité. Au grand dam de l'éthique et de la liberté, y compris dans les médias.
Interview de Philippe Vion-Dury :
Comment avez-vous eu l'idée de consacrer un ouvrage à ce sujet et pourquoi ?
C'est en lisant un article du Time qui parlait de big data et de Big Brother. J'ai été frappé de voir à quel point on pouvait déjà anticiper les comportements des gens. Ce pouvoir de prédiction m'a semblé inquiétant. Pour moi il y avait un vide sur le sujet, alors j'ai commencé à flairer ce qui n'allait pas. Tout est parti de la publicité ciblée, dont les méthodes de tracking et de prédiction ont été étendues à d'autres domaines. Je me suis rendu compte que nous n'avions pas conscience de l'ampleur de ce phénomène, et que la réalité avait déjà rattrapé la fiction. Par exemple en Chine, avec Credit Sesame : il récompense les bons citoyens en fonction de leur comportement !
Sur la technologie, médias et politiques semblent unanimement enthousiastes, pas vous ?
Le seul débat admis autour de la percée de la technologie, et qui ne soit pas vu comme réactionnaire, c'est celui de la protection de la vie privée. Mais dès qu'on sort de ce sujet, on se confronte vite à la rhétorique voulant que ce qui fait du mal puisse aussi faire du bien... Le politique est pris de court par le développement de l'entreprise.
Il faudrait remettre un dogme en amont pour garder la maîtrise des choses, retarder la sortie de technologies...
Philippe Vion-Dury, La nouvelle servitude volontaire, FYP Éditions, 2016.
Que le législateur soit en retard sur ces innovations pourtant profondes, c'est inquiétant non ?
Le meilleur exemple est la Hadopi, qui s'est attaquée au téléchargement illégal alors que les internautes se mettaient au streaming. Les politiques ont du mal avec ces sujets, on n'est pas formé à l'école. De leur côté, les entreprises font tout ce qu'elles peuvent pour les mettre devant le fait accompli. Une fois qu'un service est bien intégré dans les usages (Uber), c'est là que le débat commence, mais l'entreprise elle, est passée à autre chose.
Est-ce à dire que le politique a abandonné une partie de son pouvoir à l'entreprise ?
Pas vraiment, l'entreprise ne gouverne pas le monde et n'a que les moyens que lui fournit l'État. Mais l'État se place aussi comme tremplin pour les sociétés technologiques (French Tech...) et joue un rôle d'arbitre. Le lobby est légal, rien ne n'empêche de le contrôler... mais ce n'est pas le cas. Le débat est au niveau des institutions.
Laisser l'innovation filer en avant à toute allure, sans contrôle, cela mènera où ?
Nous sommes dans une dictature du pratique, où l'on est prêt à financer une start-up des millions pour gagner quelques secondes, mais sans envisager les effets externes négatifs. Le seul effort resterait d'avoir à appuyer sur un bouton. Vous prenez un VTC ? Il n'y a pas besoin de payer ni de dire bonjour, car tout est automatisé et le chauffeur a déjà votre nom. Dans tout ça on oublie que l'efficacité est propre de la machine, pas de l'humain.
Une fois que toutes les basses besognes seront automatisées, alors que ferons-nous ?
Nous tendons vers une société de loisirs. Comme le disait Spinoza, il y a deux accès au monde : le pouvoir (qui est de faire faire) et la puissance (qui est de faire). Quand on se guide avec un GPS, on ne regarde plus le monde et on perd sa puissance, son contrôle. Et quand il tombe en panne, on est perdu. Dans la technologie, il faut voir ce qui est utile et n'enlève pas trop de puissance. Mais comme tout le monde veut éviter la friction, on optimise !
Lorsque les humains n'ont plus rien à faire d'autre que de se gaver de contenus et de nourriture, dans le film Wall-E.
Dans ce monde personnalisé et automatisé, l'algorithme retire toute notion de hasard...
Des écosystèmes comme Spotify, Netflix ou même Amazon font tout pour nous gaver. Ils affichent les contenus qui sont susceptibles de nous plaire en pondérant cela avec le retour sur investissement attendu. Il n'y a plus de sérendipité. Néanmoins, ces entreprises en prennent conscience, alors elles réintroduisent une dose de hasard... du moins en apparence, car c'est un hasard dans une réalité chiffrée. Le but est de générer du hasard rentable. La dose de hasard est déterminée en calculant ce dont a besoin l'esprit humain pour accepter la nouvelle norme.
Si nos choix sont fléchés vers la seule rentabilité, l'appauvrissement intellectuel guette !
Le sociologue Dominique Cardon pointe un risque de normalisation des comportements, et imagine aussi des outils pour enrichir le savoir humain : des algorithmes favorisant la qualité (éthique, richesse de l'information, impartialité...) et réservés à une élite, là où les autres algorithmes font passer la recherche de profit avant tout, peu importe la qualité. Le capitalisme libéral est modulaire. S'il y a un marché rentable, alors il l'investira.
« L'apparente normalité des choses est ce qui les rend dangereuses. »
Les films de SF n'avaient pas prévu que le « futur » s'installe de façon si insidieuse...
Toutes ces technologies transforment en profondeur la société, alors qu'on ne les voit pas, car ce sont des logiciels et des algorithmes. Il n'y a rien de spectaculaire à voir quelqu'un regarder une vidéo YouTube dans la rue, pourtant, on ne se rend pas compte de ce que cela suppose. L'apparente normalité des choses est ce qui les rend dangereuses... Un robot trop proche de l'homme serait rejeté car trop troublant, alors qu'un smartphone.
Sans robot, pas de « soulèvement des machines », mais une perte de contrôle quand même ?
Oui ! Ces sociétés privées ne dévoilent rien de leurs algorithmes, si bien que Google lui-même a déjà été embarrassé à expliquer comment certains fonctionnent. Au-delà des données recueillies et de comment elles sont brassées, le plus difficile est de comprendre ce qui est déduit de leur analyse (machine learning). Mais si Google lève le voile, il remet en question la concurrence car tout le monde le copiera. L'enjeu est pourtant de taille car en modulant l'affichage des articles dans les résultats, il est capable de renverser une élection ! On a vu que Facebook était capable de pousser des centaines de millions de personnes aux urnes avec ses algorithmes et même de mettre en valeur des actualités favorables à la candidate Hilary Clinton. Le pire est que même l'État ne se montre pas transparent sur ses algorithmes, en refusant d'expliquer comment marche Admission post-bac.
Si le politique lui-même est menacé par ces nouvelles règles du jeu, pourquoi ne fait-il rien ?
Le politique n'agit pas car il n'évolue pas sur la même temporalité. Lui est intéressé au court terme pour sa réélection, Facebook et les autres jouent à l'échelle d'une génération, d'une vingtaine d'années. Et puis les évolutions se font lentement, par paliers, repoussant sans cesse le niveau d'acceptation, ce qui rend la vraie mutation plus difficile à appréhender. Enfin, il n'y a pas de remise en cause possible de la technologie et de ses dérives sans confrontation frontale avec le système qui a enfanté et nourrit tout cela : le capitalisme libéral.
Est-on finalement arrivé à « la fin de l'histoire » de Fukuyama, sans contestation possible ?
Cette fin de l'histoire n'est pas possible selon moi car on aime trop la contestation, on l'a vu avec les VTC. Le problème, c'est que ça ne suffira pas car les gens sont entretenus dans un cocon de confort. Lorsqu'ils rentrent chez eux le soir, ils sont abreuvés de contenus divertissants au détriment de ce qui est important. Le système se nourrit des forces du capitalisme, mais aussi de ses faiblesses. Donc s'il ne crée pas de croissance, il s'effondre. Face à ces changements, je pense qu'il faut donc garder un réflexe critique pour éviter d'être pris pour un con.
