Selon une vision communément reprise fréquemment par les médias, certains grands acteurs de la Silicon Valley auraient mis en place des programmes de recherche en psychologie comportementale afin de concevoir des algorithmes susceptibles d’orienter, voire « manipuler » leurs utilisateurs. Plus qu’un effort de manipulation, il semblerait qu’en fait, ces entreprises réutilisent des principes de guidage inhérents aux sciences informatiques qui ont été considérablement enrichis par les apports de l’industrie du jeu vidéo.
Le New York Times a récemment publié une enquête fouillée sur les chauffeurs d’Uber. Pour son auteur, N. Scheiber, il ne fait aucun doute que l’entreprise a développé un imposant programme de recherche afin de déterminer comment « manipuler » au mieux ses conducteurs. Pour cela, elle aurait recruté des centaines de chercheurs sociologues et statisticiens. L’article décrit avec un luxe de détails ces procédés manipulatoires résultant de recherches en psychologie comportementale. Pourtant lorsque l’on étudie l’informatique selon une épistémologique historique, l’on y perçoit l’application de concepts et connaissances acquises par cette discipline depuis son origine dans les années quarante.
Un malentendu de fond
En fait, ce malentendu serait lié à une vision biaisée d’Uber : cette entreprise chercherait en priorité à comprendre ses chauffeurs et utilisateurs afin de mieux les manipuler. En réalité, Uber comme Facebook ou Google gère des populations d’individus qui ne sont, pour elle, que des agrégats composés d’entités traitant de l’information. En cela, elle suit des principes établis il y a fort longtemps avec l’apparition de la cybernétique dans les années quarante. Les mouvements de colère de ses chauffeurs en France tendent d’ailleurs à montrer que sa compréhension de ses principaux « partenaires » reste limitée.
Les efforts qu’elle fait depuis le départ de Travis Kalanick pour les séduire laissent penser qu’elle commence seulement maintenant à réellement essayer de comprendre la psychologie de ses chauffeurs. Si l’on considère qu’Uber gère de manière transitoire des véhicules doués d’intelligence humaine en attendant l’arrivée de véhicules doués d’intelligence artificielle, le caractère « manipulatoire » du système Uber paraît nettement moins évident.
En fait, lorsque l’on regarde de plus près les deux applications d’Uber : celle assurant la gestion des chauffeurs et son pendant, celle concernant les clients, l’on y voit plutôt une subtile mise en pratique, tout d’abord de principes forts anciens issus de la cybernétique et surtout, d’astuces découvertes par l’industrie des jeux vidéo.
Des structures héritées des jeux vidéo
C’est particulièrement frappant avec l’application Uber assurant la gestion des chauffeurs. Ainsi, lorsque ces derniers vont terminer leur course, l’application leur indique la prochaine course afin de les mobiliser. Le chauffeur est ainsi envisagé comme une entité qui agit et ajuste ses actions en fonction des informations reçues selon le principe de la boucle de rétroaction. Mais il est également vu comme un joueur qui doit être constamment mis sous tension et ne jamais connaître de répit.
À un certain moment de la journée, l’application Uber va leur signaler qu’ils ont déjà réalisé à moitié leurs objectifs de gain pour la journée ou la semaine. Loin de résulter d’une analyse comportementale, il s’agit d’un vieux principe cybernétique : tout système intelligent qu’il soit automatique ou humain fonctionne selon une intentionnalité, c’est-à-dire un objectif. Il doit donc être guidé en tenant compte de ce dernier. Mais cette façon d’annoncer le chemin restant à parcourir se retrouve dans de nombreux jeux vidéo. Elle y constitue un moyen de tenir le joueur en haleine en lui donnant une visibilité sur le reste des épreuves à affronter.
Les algorithmes Uber jouent sur le fait que les êtres humains ont plus peur de perdre qu’envie de gagner. Si le chauffeur veut décrocher prématurément, l’application va lui signaler l’argent qu’il aurait gagné s’il avait continué à travailler. C’est effectivement une notion de l’économie comportementale. Mais c’est aussi la façon dont le jeu vidéo s’est construit bien avant ces recherches en psychologie humaine. Les jeux vidéo pour le grand public apparus dans les années 70, Pong puis plus tard Space Invaders ne sont basés que sur ce seul principe : retarder le plus possible l’inéluctable moment ou le joueur succombe.
L’application Uber propose également des gratifications non financières avec, par exemple, des diamants pour les chauffeurs fournissant un service exemplaire, des badges et des lunettes pour ceux dont la conversation est particulièrement agréable. Il n’est d’ailleurs pas surprenant que les chauffeurs Uber cités dans l’article du New York Times aient plus l’impression d’avoir affaire à un jeu vidéo qu’à une application permettant de les guider.
Côté clients d’Uber, cette référence au jeu vidéo permet de mieux comprendre l’origine du programme Greyball censé identifier les agents de l’État utilisant l’application afin de les tromper en leur présentant une carte interactive dans laquelle la majorité des véhicules aurait disparu. Dans les jeux vidéo, les cartes ne sont pas des représentations d’une certaine réalité, elles n’existent que par rapport à un joueur dans le cadre du déroulement d’un jeu. Elles sont donc individualisées et permettent d’inciter le joueur à intenter telle ou telle action.
La carte de l’application Uber n’a de sens qu’en ce qu’elle incite, d’un côté les clients à prendre une course, en leur donnant l’impression que les véhicules se rapprochent d’eux, et de l’autre, les chauffeurs à rester dans le jeu. Ce qui s’y affiche n’est pas une réalité commune à tous comme l’est une carte mais une réalité adaptée à ce qu’à quoi l’algorithme pense que nous pourrions faire.
Le jeu vidéo comme matrice numérique
Le jeu vidéo n’est pas une technique annexe de l’informatique, il y occupe une place essentielle et a largement imprégné la culture de la Silicon Valley. La conception des réseaux sociaux en est largement influencée, que ce soit par les likes de Faceboook ou la course aux followers de Twitter. Si le premier jeu vidéo, Spacewar !, apparaît en 1962 sur un ordinateur conçu pour des applications scientifiques, ce n’est pas un hasard. Il s’agit en réalité de la première application pratique du projet de JCR Licklider qui deux ans auparavant avait publié son article fondateur « Man-Computer Symbiosis ». Il y entrevoyait un avenir où l’homme et l’ordinateur ne feraient plus qu’un et vivraient en parfaite symbiose.
Pour cela, il était nécessaire d’établir un langage et un univers communs ; le jeu vidéo en a été, bien avant l’arrivée des interfaces graphiques, l’expression concrète. Le lieu où un système guidé par des données chiffrées exactes rencontre une entité, l’homme régit par des paramètres multiformes et flous.
Qu’une application « manipule » ses utilisateurs n’a rien d’étrange si l’on se place dans le cadre de la courte histoire de l’informatique faite de guidage et de rétroactions. Les investissements conséquents d’Uber dans les véhicules autonomes paraissent un peu plus logiques. La gestion d’entités humaines, les chauffeurs, n’étant qu’une étape nécessaire, mais non voulue, avant l’arrivée des véhicules autonomes.
Eric Martel, Docteur en Sciences de Gestion/Chercheur associé au LIRSA, Conservatoire national des arts et métiers (CNAM)
La version originale de cet article a été publiée sur The Conversation.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.