Ce que la surveillance par IA ne peut pas vous dire sur vos employés

David Rice : Personne ne se donne réellement pour objectif de créer un système de surveillance de la main-d’œuvre. Cela commence par l’optimisation, l’amélioration de la productivité, la gestion du temps. Cela semble intrinsèquement positif, n’est-ce pas ? Puis, progressivement, sans que personne ne prenne consciemment une décision, vous avez franchi une limite. Dans l’émission d’aujourd’hui, je m’entretiens avec Lynn Parramore, directrice des projets spéciaux à l’Institute for New Economic Thinking, pour comprendre où se situe cette limite et pourquoi l’IA la rend plus difficile à voir.

L’argument central de Lynn est que la surveillance au travail repose sur une hypothèse erronée : tout ce qui est important au travail serait mesurable. Aider un collègue, faire preuve de discernement, de courage moral ou de créativité, rien de tout cela n’apparaît dans un journal des frappes au clavier, alors que ce sont souvent ces qualités qui rendent réellement une personne précieuse. Lorsque vous réduisez les individus à des ensembles de points de données, vous modifiez ce que vous êtes réellement en train de gérer.

Et la surveillance n’est pas neutre. Dès que vous décidez d’observer quelqu’un en permanence, vous avez déjà formulé une hypothèse à son sujet, et les employés le ressentent. Cela érode la confiance. Or la confiance, comme le souligne Lynn, est la pierre angulaire de tout le reste : l’engagement, l’innovation et la fidélisation. Aujourd’hui, nous allons donc aborder la frontière entre le suivi légitime et la surveillance, les raisons pour lesquelles l’hypothèse selon laquelle tout ce qui est important est mesurable est erronée, la relation inverse entre l’intensité de la surveillance et la confiance, ainsi que la nécessité pour les dirigeants d’adopter une approche philosophique de l’IA, et pas seulement pratique.

Je suis David Rice. Vous écoutez People Managing People et, si votre organisation considère la surveillance de la main-d’œuvre comme un outil de productivité, cette conversation mérite votre attention. Commençons.

Si vous êtes propriétaire d’une petite entreprise et embauchez votre premier salarié, la paie peut sembler être une étape importante. QuickBooks Workforce vous aide à la simplifier en regroupant la gestion de la paie, les virements directs et les dossiers des employés au même endroit. Vos employés peuvent accéder eux-mêmes à leurs bulletins de salaire et à leurs formulaires fiscaux via un portail en libre-service, ce qui vous fait gagner du temps et réduit la paperasse. Si vous souhaitez consacrer moins de temps à la gestion de la paie et davantage au développement de votre entreprise, découvrez QuickBooks Workforce.

Lynn, bienvenue dans l’émission !

Lynn Parramore : Merci de m’avoir invitée.

David Rice : Avant l’émission, nous disions que nous avons toujours mesuré le travail d’une manière ou d’une autre, mais que l’IA modifie fondamentalement l’échelle et véritablement l’intimité de ce qui est possible.

À partir de quel moment, selon vous, la mesure du travail cesse-t-elle de viser l’amélioration des performances pour devenir de la surveillance ?

Lynn Parramore : C’est une question à laquelle nous sommes tous confrontés, du côté des employés comme de celui des employeurs. Je commencerais par dire qu’il existe de bonnes applications du suivi algorithmique ou de la surveillance pilotée par l’IA, quel que soit le nom qu’on lui donne.

Par exemple, la détection de la fatigue. On peut imaginer un pilote utilisant des appareils portables pour détecter la fatigue. Je pense que la plupart d’entre nous diraient que cela a du sens. Il existe aussi des dispositifs d’IA pouvant servir à l’accompagnement ergonomique. Si quelqu’un soulève des charges lourdes, le dispositif peut détecter les mouvements les plus susceptibles de provoquer une blessure.

Il existe également des applications liées à la cybersécurité. Ces outils peuvent donc être utiles sans donner l’impression d’une atteinte à la vie privée. Mais ils doivent avoir un objectif clair et légitime, et l’employeur ne doit recueillir que les données nécessaires, sans prétendre les utiliser à une fin pour ensuite les exploiter à une autre.

L’employé doit savoir de manière transparente quelles données sont recueillies, comment elles le sont et comment elles sont stockées. Une personne doit rester impliquée dans toutes les décisions susceptibles de découler de cette collecte, qu’il s’agisse d’une promotion, d’une sanction ou d’un licenciement.

Il ne faut pas non plus utiliser ces systèmes pour appliquer automatiquement des conséquences. C’est là que les choses deviennent préoccupantes : surveillance constante par webcam, collecte de chaque frappe au clavier ou mouvement de souris, captures d’écran toutes les vingt secondes, par exemple.

Ce sont les applications qui relèvent de l’atteinte à la vie privée et qui peuvent réellement avoir un effet négatif sur les performances des employés.

David Rice : C’est intéressant, car j’ai l’impression que cela se produit progressivement. Au départ, personne ne dit : « Nous allons surveiller notre personnel. » On dit plutôt : « Améliorons la productivité, concentrons-nous sur la gestion du temps. » Cela ressemble à de l’optimisation et semble donc intrinsèquement positif. Mais, finalement, une limite est franchie. Peut-être que les dirigeants deviennent tellement concentrés sur les données recueillies qu’ils cessent de se demander si cette collecte modifie le comportement des personnes ou si elle vaut réellement la peine.

Lynn Parramore : Absolument. Cela vient d’une impulsion très humaine : nous nous inquiétons de ce que nous ne pouvons pas voir. Les employeurs se sont toujours préoccupés de ce qui se passait lorsqu’ils ne pouvaient pas observer directement le travail. Avec les usines et les effectifs plus importants, ils ont commencé à s’inquiéter de ce qui se passait au-delà de leur champ de vision.

C’est ainsi qu’est apparue l’idée du panoptique, associée au philosophe Jeremy Bentham, même si le concept venait en réalité de son frère Samuel. Le principe consistait à placer les employés autour d’une tour centrale d’observation, sans qu’ils sachent nécessairement quand ils étaient observés.

Cela maintenait tout le monde sur ses gardes et réduisait certaines activités chaotiques. Mais l’association avec la prison rend la question plus inconfortable : pourquoi sommes-nous observés et dans quel but ? La surveillance peut modifier les hypothèses que l’on formule à propos des personnes.

On passe de « voici un employé qui agit de bonne foi » à « voici une personne que je dois surveiller et contrôler en permanence ». Ce sont deux perspectives différentes, aux effets évidemment différents sur l’employé. Personne n’aime avoir le sentiment d’être constamment surveillé et soupçonné. Cela réduit le sentiment de sécurité psychologique et entraîne de nombreuses conséquences négatives. Personne ne veut avoir l’impression d’être en prison au travail.

David Rice : L’engagement est déjà suffisamment faible sans avoir en plus le sentiment d’être réellement enfermé.

Lynn Parramore : Exactement. Les progrès technologiques nous permettent de suivre les choses de manière beaucoup plus fine, y compris des éléments que nous n’aurions jamais imaginé voir surveillés par les employeurs.

Le suivi des émotions est l’un des domaines les plus controversés. Des appareils portables ou des webcams peuvent tenter de détecter les émotions exprimées dans la voix ou les mouvements du corps. Il est difficile d’imaginer une situation où cela serait appliqué d’une manière qui mettrait les employés à l’aise.

Même dans le cadre d’un programme volontaire de formation, le mot essentiel serait « volontaire ». Il ne devrait pas s’agir de mesures disciplinaires ni d’un jugement sur la valeur d’un employé, car nous n’exprimons pas tous nos émotions de la même façon selon notre genre, notre âge, notre origine ethnique ou notre culture.

Les psychologues et les sociologues qui étudient ces données constatent qu’elles sont souvent peu précises. Il ne faut donc pas prendre de décisions concernant les employés sur cette base, à la fois parce que ces données sont inexactes et parce qu’elles donnent une impression d’intrusion.

David Rice : Vous soutenez qu’il existe presque une relation inverse entre ce type de surveillance et la confiance, ce qui a bien sûr des conséquences sur le bien-être des personnes. Pourquoi le fait de mesurer davantage conduit-il les gens à faire moins confiance ?

Lynn Parramore : Cela revient aux hypothèses que vous formulez à propos des personnes qui travaillent pour vous. Viennent-elles avec l’intention de bien faire leur travail et de bonne foi ? Ou souhaitez-vous les surveiller en permanence, contrôler leur comportement et les transformer en ensembles de points de données ?

Cela renvoie à une question fondamentale : qu’est-ce qu’un employé ou un travailleur ? Sommes-nous simplement des ensembles de données ? Tout ce que nous faisons d’important au travail peut-il être mesuré ? Certains défenseurs enthousiastes des logiciels de surveillance et de la gestion algorithmique supposent que tout est mesurable. Pourtant, aider un collègue, faire preuve de discernement, de créativité ou de courage moral, ce sont autant de choses qui ne peuvent pas être mesurées et qui sont pourtant essentielles à un bon employé.

David Rice : Plus nous essayons de vérifier les comportements par la technologie, moins il reste de place pour la confiance. La confiance est extrêmement difficile à mesurer, mais elle sous-tend presque tout ce qui compte dans le monde du travail : l’engagement, l’innovation et la fidélisation.

Lynn Parramore : C’est exactement ce qui se passe dans le monde réel. Certaines entreprises ont instauré des systèmes de suivi présentés comme des outils de bien-être, mais lorsque chaque frappe au clavier est mesurée en permanence, il s’agit d’autre chose. Cela peut accroître le stress et l’anxiété, notamment lorsque les employés se demandent s’ils seront signalés après quelques minutes d’inactivité alors qu’ils réfléchissaient simplement à un problème.

Des fuites de données ont également montré les risques de ces systèmes. Des images provenant de webcams d’employés peuvent devenir publiques après une fuite ou un piratage. Ces informations peuvent être utilisées à des fins malveillantes. La méfiance s’amplifie alors, la motivation intrinsèque diminue et les employés deviennent moins loyaux envers leur employeur, voire cherchent un autre emploi.

David Rice : Les algorithmes peuvent mesurer un comportement, mais pas l’intention, le discernement ou le contexte. Si vous observez tout ce que je fais, savez-vous pourquoi je le fais ? Dans un environnement où tout est de plus en plus fondé sur les données, ne confondons-nous pas ce qui peut être mesuré avec ce qui compte réellement ?

Lynn Parramore : Il faut aussi se demander : simplement parce que vous pouvez mesurer quelque chose, devez-vous le faire ? Quelles seront les conséquences involontaires ? Un système peut signaler un représentant du service client parce que son appel dure trop longtemps, alors qu’un bon employé reste en ligne pour résoudre un problème difficile. S’il est pénalisé pour cela, il risque de raccourcir l’appel ou de transmettre le client à quelqu’un d’autre. Le client comme l’employé seront alors mécontents.

La mesure ne tient pas compte de l’intention, du contexte ni des nuances. Une personne peut passer une mauvaise journée. Les données peuvent apparaître sur le tableau de bord de l’employeur et la pénaliser sans qu’elle sache exactement quand ni pourquoi elles ont été recueillies. À terme, cela entraîne une véritable rupture de confiance entre l’employeur et l’employé.

David Rice : Le leadership a toujours consisté à interpréter les nuances : comprendre pourquoi quelque chose s’est produit, et pas seulement constater que cela s’est produit. Il existe un danger réel lorsque les dirigeants confondent des données complètes avec une compréhension complète.

Lynn Parramore : Absolument. Beaucoup de ces idées viennent du monde militaire, du sport et des prisons. Les données peuvent être utiles dans certains contextes, mais elles ne se transposent pas nécessairement au travail ordinaire. Les individus tiennent à leur vie privée et s’inquiètent aussi bien de ce qu’ils ne peuvent pas voir que du fait d’être trop observés.

L’Union européenne applique des règles plus strictes en matière de vie privée au travail. L’employeur doit démontrer une justification valable, limiter la collecte et permettre au salarié de contester les données recueillies. Aux États-Unis, la situation est plus fragmentée. Il n’existe pas de loi générale sur la vie privée au travail, et l’on considère souvent que l’entreprise peut surveiller un appareil qui lui appartient.

La pandémie a accéléré cette tendance avec le télétravail. Certains employeurs ont installé des programmes surveillant les ordinateurs toute la journée, allant parfois jusqu’à demander aux employés d’indiquer la raison de leurs pauses. La loi n’a pas suivi le rythme de ces changements.

David Rice : Si vous mesurez le nombre de ventes conclues dans la journée, quelle importance revêt le fait qu’une personne ait pris trois pauses pour aller aux toilettes ? Lorsque la surveillance devient excessive ou manque de transparence, les employés résistent et trouvent des moyens de contourner le système.

Lynn Parramore : C’est ce qui s’est produit avec les méthodes de gestion scientifique de Frederick Taylor. Les travailleurs réinitialisaient les horloges ou faisaient bouger leur souris pour donner l’impression qu’ils travaillaient. Les gens ont une résistance naturelle à la surveillance intrusive, et cela ne changera pas.

David Rice : Cette logique crée beaucoup d’activités clandestines. La transparence est nécessaire, mais elle ne signifie pas que tout le monde acceptera la surveillance.

Lynn Parramore : Même lorsqu’ils coopèrent, les employés ne donnent pas forcément le meilleur d’eux-mêmes. Un algorithme peut savoir combien de temps une tâche a pris, mais il ne sait pas si ce temps supplémentaire servait à aider un collègue. Nous avons besoin que notre humanité, nos intentions, notre bonne foi et notre complexité soient reconnues.

Les employés sont-ils des êtres humains qui apprennent et progressent, ou de simples ressources ? Nous devons pouvoir faire des erreurs sans être licenciés par un algorithme, ce superviseur invisible dont nous ne connaissons ni les critères ni les mesures.

David Rice : Un système ne comprend pas que vous avez dû faire euthanasier votre chien la semaine dernière ou que vous avez eu une dispute avec votre sœur. C’est le problème : nous supprimons des niveaux de management pour les remplacer par quelque chose qui ne comprend ni qui nous sommes ni pourquoi nous agissons comme nous le faisons.

Lynn Parramore : Une grande partie du travail nécessaire ne ressemble pas à du travail. Écrire implique parfois de regarder dans le vide ou de marcher en rond pour réfléchir. Un système algorithmique risque de me signaler, alors que ces activités sont indispensables pour bien travailler. Elles ne rentreront jamais dans des unités discrètes et mesurables.

Surveiller les pauses, les repas ou les passages aux toilettes infantilise les employés et leur retire leur dignité. Dans toute relation fondée sur la confiance, il faut accepter une certaine part d’incertitude. Un responsable n’est pas un parent : des êtres humains travaillent ensemble, et une certaine confiance mutuelle est nécessaire pour accomplir le travail.

David Rice : C’est davantage comparable à un entraîneur. Vous donnez aux joueurs un état d’esprit et un plan, puis vous les laissez agir, s’exprimer et faire valoir leur talent.

Lynn Parramore : Tout n’est pas une question d’optimisation. Même dans le sport, le suivi permanent peut devenir intrusif. Le suivi GPS d’un véhicule peut être légitime pendant les heures de travail, mais pas après. Les employés commencent à exprimer collectivement leur malaise face à ces systèmes.

Avec l’IA, certains se demandent s’ils sont surveillés pour entraîner un système qui finira par remplacer leur emploi. Les employeurs doivent associer les salariés aux décisions concernant le déploiement de ces outils et les conditions de leur utilisation. Les employés ne sont pas opposés à toutes les formes de suivi. Dans certains cas, des mesures peuvent même les aider à démontrer qu’ils sont victimes de discrimination ou qu’ils accomplissent correctement leur travail.

David Rice : C’est une conversation éthique et philosophique. Les entreprises peuvent être bénéfiques ou néfastes pour la société. Les dirigeants doivent réfléchir à la manière la plus intelligente d’utiliser cette technologie, aux objectifs réellement importants et à ce dont ils n’ont pas besoin.

Lynn Parramore : Ils doivent aussi être prêts à appuyer sur pause. Nous avons vu des entreprises déployer l’IA trop rapidement, licencier des employés en pensant que la technologie pourrait les remplacer, puis devoir les réembaucher. La société doit également prendre le temps de comprendre les conséquences des centres de données, de la consommation d’énergie et de l’utilisation de l’eau.

David Rice : Lynn, merci d’être venue dans l’émission. Cette conversation était formidable.

Lynn Parramore : Merci. Je suis heureuse que vous abordiez ce sujet. Nous aurons certainement encore beaucoup à en dire à mesure qu’il évoluera.

David Rice : Auditeurs, si vous souhaitez en apprendre davantage grâce à Lynn, retrouvez-la sur LinkedIn. Elle a publié un livre qui mérite vraiment d’être lu.

D’ici la prochaine fois, rendez-vous sur peoplemanagingpeople.com/subscribe pour vous inscrire à la newsletter et recevoir nos podcasts, nos articles et nos événements virtuels. Et surtout, n’ayez pas peur d’adopter une approche philosophique.

Avant de conclure, voici une information destinée aux entreprises dont les équipes travaillent sur le terrain. Si vous gérez des équipes sur plusieurs chantiers, le suivi des heures et des coûts de main-d’œuvre peut vite devenir difficile. Avec QuickBooks Workforce et QuickBooks Time, vous pouvez suivre le temps de travail, contrôler les coûts de main-d’œuvre par projet et maintenir la paie connectée au travail réalisé sur le terrain.

Que vous travailliez dans la construction, les services sur site ou une autre activité fondée sur des projets, QuickBooks Workforce peut simplifier la gestion de la paie et des équipes.