L’algorithme comme outil de sabotage du facteur humain

Laisser un commentaire

En 1944, la deuxième guerre mondiale se termine. Bien que les alliés dominent la situation sur le plan militaire, ils vont aller chercher un appui auprès des populations des pays adverses pour accélérer l’action. C’est ainsi que l’OSS (Office of Strategic Services), ancêtre de la CIA, loin de ce que l’imaginaire collectif conçoit généralement (poses de micros, assassinats clandestins, déguisements et couvertures, etc) va publier le « manuel de terrain du sabotage simple » que vous pouvez consulter en cliquant ci-dessous:

saboteur_manual

Ce manuel est un concentré d’idées toute simples et redoutablement efficaces pour rendre la vie difficile à un gouvernement, freiner son action et, dans le meilleur des cas, le paralyser. Il était diffusé sous forme de brochures, à la radio et à des personnes qui avaient été jugées dignes de confiance pour faire le travail.

Le premier type de sabotage ne nous intéresse pas ici (du moins pas encore), c’est le sabotage matériel. Il consiste, par exemple, à jeter une clé dans une boite à fusibles, bloquer une serrure, jeter du sable dans des engrenages lubrifiés, crever un pneu,…

Le second type de sabotage nous intéresse beaucoup plus dans le cadre de ce billet, c’est le sabotage du « facteur humain ». Ne nécessitant aucun outil, ne faisant courir quasiment aucun risque ni de dommage physique, il est basé sur « les possibilités universelles de prendre des décisions erronées, d’adopter une attitude de non-coopération, et d’inciter les autres à suivre son exemple. »

Passons sur les conseils du type « Faites des crises d’hystéries et de pleurs chaque fois que vous êtes devant un fonctionnaire » ou bien « amenez au cinéma des sacs remplis de papillons aux séances de propagande afin qu’ils gênent la diffusion du film » et focalisons nous sur les managers intermédiaires.

Voici comment la DGAFP défini synthétiquement la fonction de manager intermédiaire:

Sous la responsabilité d’un manager stratégique, le manager intermédiaire participe à la définition de la stratégie d’une structure et la décline sur un plan sectoriel ou territorial.
Il dirige les services de son périmètre de compétence. Il conçoit, met en œuvre, contrôle et évalue les plans d’action en fonction des objectifs qui lui ont été assignés. Il encadre et anime à cette fin une équipe de managers opérationnels.

Activités principales:

  • Participe à la définition des plans d’actions stratégiques;
  • Propose et met en œuvre la réalisation des objectifs;
  • Anime une ou des équipe (s) de managers opérationnels;
  • Évalue ses collaborateurs;
  • Détecte et valorise leurs potentiels et leurs compétences;
  • Rend compte de l’activité de ses services;
  • Définit des plans d’action opérationnels;
  • Représente et valorise son ou ses services tant à l’intérieur qu’à l’extérieur.

Ce rôle d’interface entre le haut de la pyramide et la base ainsi que leurs activités font des managers intermédiaires des saboteurs à convertir en priorité et à grande échelle. Que leur préconise le manuel ?

Interférences générales dans les organisations et la production:

(A) Organisations et conférences

  • Insistez pour passer par tous les canaux. Ne permettez jamais de raccourcis qui pourraient accélérer les décisions.
  • Faites des discours, prenez aussi souvent la parole que possible et faites que cela dure le plus longtemps possible. Illustrez ce que vous dites par de longues anecdotes et expériences personnelles. Ne jamais hésiter à placer quelques commentaires « patriotiques » (ou « corporate ») appropriés.
  • Lorsque cela est possible, soumettez toutes les questions à des comités, pour « une étude plus approfondies et la prise en compte de toutes les considérations ». Essayez de construire les comités les plus larges et les plus nombreux possible (jamais mois de cinq).
  • Soulevez des questions non-pertinentes le plus souvent possible.
  • Exigez toutes les communications, compte-rendus et résolutions retranscrits de la façon la plus précise possible.
  • Faites références à la dernière réunion et tentez de rouvrir des débats sur certaines décisions déjà prises.
  • Préconisez la prudence. Soyez « raisonnable » et incitez vos collègues à ne pas décider ou agir trop précipitamment, ce qui pourrait « aboutir à des difficultés ou des tracas futurs ».
  • Soyez préoccupé par toute décision prise, soulevez la question de savoir si telle mesure relève bien de la compétence du groupe et si elle n’entre pas en conflit avec les intérêts de l’échelon supérieur.

(B) Managers et superviseurs.

  • Demandez les décisions écrites.
  • Ayez du mal à comprendre les ordres. Posez des questions sans fin qui engagent des correspondances interminables, pour chaque ordre. Ergotez quand vous le pouvez.
  • Faites votre possible pour appliquer les décisions ou les transmettre avec retard. Même si certaines actions peuvent déjà être engagées, attendez que l’ensemble soit complètement prêt et validé.
  • Ne passez aucune commande de matériel tant que le stock n’est pas vide afin que le moindre retard de livraison entraîne un arrêt.
  • Exigez du matériel de haute qualité, onéreux et difficile à obtenir. Si vous rencontrez des oppositions, dites qu’avec un matériel inférieur, vous fournirez un travail inférieur.
  • Dans l’allocation de travail, occupez-vous toujours des tâches et des postes les moins importants. Faites en sorte d’assigner aux postes-clés les personnels ou les machines les moins performants.
  • Insistez pour obtenir du travail parfait, en particulier sur les points relativement peu importants. Approuvez des pièces ou du travail défectueux mais difficilement détectable.
  • Faites des erreurs de routage afin que les choses n’arrivent pas là où elles devraient aller.
  • Lorsque vous formez du nouveau personnel, donnez-lui des instructions incomplètes ou erronées.
  • Afin de faire baisser le moral et donc la production, soyez agréable avec le personnel inefficace, donnez-lui les promotions. Faites de la discrimination contre le personnel efficace, blâmez-le de façon injuste.
  • Tenez des réunions lorsque le travail est nécessaire et critique.
  • Multipliez les rapports, faites des doublons.
  • Multipliez les procédures et les autorisations pour chaque tâche. Faites en sorte que pour chaque chose, trois personnes doivent être impliquées dans la décision.
  • Appliquez toutes les réglementations à la lettre près.

La lecture de cet extrait résonnera sans doute de façon très vive et contemporaine à quiconque a été dans une organisation et cela même lorsque ses membres n’ont pas eu la volonté de saboter. La gouvernance de l’Union Européenne en est l’exemple le plus abouti.

Néanmoins, le manuel précise que les gens ne sont pas naturellement enclins à prendre des décisions stupides, c’est contraire à la nature humaine. Il faut continuellement les motiver, leur dire qu’ils doivent le faire, qu’ils font le bon choix et qu’ils ne sont pas les seuls à le faire.

Le processus de sabotage passant par le management est très efficace mais long, coûteux et demandant un suivi colossal. Il se pourrait que ce ne soit plus le cas.

——————————————–

Nous sommes déjà un pied dans un un bouleversement technologique et managérial que l’on appelle « uberisation ». Un néologisme fabriqué à partir du nom de la société californienne Uber et dont le modèle économique et le schéma de gouvernance se répandent dans de nombreux autres secteurs économiques.

3169921d98487e85ba32c3dbb3e69

Uber a crée une application mobile mettant en lien des usagers voulant se déplacer et des conducteurs prêt à réaliser ce transport. Ce faisant, l’entreprise grâce à son outil numérique est entrée très vite sur le marché et est venue concurrencer de façon puissante les acteurs traditionnels de ce marché: les chauffeurs de taxi.

Le cœur de l’application d’Uber est un algorithme dont voici la définition Wikipédia telle qu’elle existe le 25 janvier 2016:

Un algorithme est une méthode générale pour résoudre un ensemble de problèmes. Il est dit correct lorsque, pour chaque instance du problème, il se termine en produisant la bonne sortie, c’est-à-dire qu’il résout le problème posé. On mesure l’efficacité d’un algorithme notamment par sa durée de calcul, par sa consommation de mémoire RAM, par la précision des résultats obtenus, sa scalabilité (son aptitude à être efficacement parallélisé), etc.

Uber déclare qu’il n’offre qu’une plateforme logicielle qui permet seulement d’équilibrer l’offre et la demande de ce secteur, les conducteurs, libres de leur choix, ne sont donc pas des salariés.

Cette présentation est désormais contestée par deux chercheurs américains (Alex Rosenblat et Luke Stark du « Data and Society Research Institute » à l’Université de New-York) qui, comme on peut le lire dans cet article du Washington Post intitulé : « Chez Uber, l’algorithme est le nouveau boss« , avancent que l’algorithme de la société utilise des indicateurs de performance, des planning, des suggestions de comportement, des prix dynamiques, et une asymétrie d’information « comme un substitut au pouvoir de gestion et de contrôle direct».

Toujours selon eux, « les robots ne sont pas en train de nous voler le travail, ils sont en train de devenir nos chefs ». Le niveau de contrôle et de surveillance qu’ils exercent étant plus intense que celui d’un manager humain. Dans l’exemple d’Uber, le système, permet à l’algorithme de devenir le «manager intermédiaire» et d’externaliser en grande partie le management: Uber fixant une rémunération en fonction de la zone et de la demande, le client notant la prestation réalisée par le chauffeur.

Ainsi, sans avoir besoin de managers qui « aboieraient leurs ordres »,  Uber « atteint une organisation où la main-d’œuvre se comporte de façon relativement homogène ». Dit autrement: Uber, par le seul intermédiaire de son algorithme, arrive à avoir une armée de chauffeurs volontairement corvéable et malléable.

——————————————–

Pour en revenir au sabotage, il ne fait aucun doute que l’algorithme est déjà un outil de sabotage matériel (et immatériel…). Ce sabotage visant des objectifs divers:
– Réussir des tests ou répondre à des normes en truquant le matériel comme l’aurait fait Wolkswagen en truquant ses voitures afin que celles-ci soient en mesure de détecter qu’elles sont testées et réagissent spécifiquement.
– Affaiblir la concurrence en favorisant ses propres résultats et/ou en minorant les résultats de la concurrence comme l’aurait fait Google en favorisant systématiquement son propre comparateur de prix dans les pages des résultats de recherche de son moteur.
– Intégrer l’obsolescence programmée dans ses propres produits pour en forcer le changement régulier comme cela pourrait en être le cas avec l’iPhone 4S d’Apple par exemple si jamais le recours collectif engagé récemment par des consommateurs nord-américains s’avérait légitime.
– Optimiser les bénéfices en ne sélectionnant que les meilleurs clients ou les meilleurs commandes comme il est possible qu‘Auchan le fasse avec son magasin en ligne.

Nous en arrivons à la fin du raisonnement de ce billet:

– Si le management intermédiaire est une cible de recrutement privilégiée pour saboter;
– si le management intermédiaire est en train de disparaître au profit de l’algorithme;
– et si l’algorithme est déjà un outil de sabotage matériel efficace, alors:

Pourquoi l’algorithme ne pourrait pas être un outil de sabotage du facteur humain ?

Prenons le cas d’Uber pour illustrer simplement (et caricaturalement) ceci:
L’algorithme pourrait fausser les prix dynamiques pour ne pas mettre en adéquation l’offre et la demande, envoyer les chauffeurs les mieux notés dans les zones où il y a moins de clients et envoyer les plus médiocres dans les zones les plus actives ou bien les envoyer aux clients les plus fidèles au service. Il pourrait se tromper (un peu) dans l’adresse d’emplacement du client et ajouter une étoile (notation des chauffeurs sur 5 étoiles) à tous les plus mauvais chauffeurs, il pourrait aussi effacer de la carte les chauffeurs les plus proches pour prolonger l’attente du client,…
J’arrête là, je suppose qu’il pourrait exister encore une dizaine de façon de saboter Uber via son algorithme.

Dans une période où beaucoup d’entreprises se jettent dans le « Big Data » les yeux fermés, imaginons le pouvoir de déstabilisation d’une entreprise sur une autre si elle est en capacité d’agir sur le logiciel de recrutement et de gestion du personnel, les outils de reporting et d’aide à la décision, les outils de logistique et de gestion des stocks, la détection des menaces, des risques et des fraudes,…

Imaginons le pouvoir de déstabilisation d’un Etat sur un autre si celui-ci est en capacité de faire remonter des nouvelles plus anxiogènes dans le fil d’actualité des réseaux sociaux, de faire apparaître en priorité les informations des partis de l’opposition, de proposer à la lecture des livres qui lui sont favorables ou des films et des séries, de faire coïncider des profils peu compatibles sur les sites de rencontres, de jouer contre la place boursière, de fausser les résultats des logiciels de surveillance, de changer l’ordre des candidats dans les machines à voter…

Nous vivons dans un monde de plus en plus régi par les algorithmes. Ils sont souvent trop puissants, opaques ou trop complexes pour que l’on puisse en comprendre toutes les implications. Comment savoir si nos algorithmes ne sont pas manipulés lorsque même les ingénieurs qui les conçoivent ne sont plus capables de les comprendre eux-même comme c’est le cas chez Google ?
La sécurité étant souvent trop focalisée sur la protection du patrimoine matériel et immatériel, ce qui peut être détruit ou volé et moins ce qui peut être seulement faussé, il se peut que, dans un contexte où le management intermédiaire tende à disparaître, le facteur humain soit encore et toujours (plus) le maillon faible.

Liens:

Timeless Tips for ‘Simple Sabotage’:
https://www.cia.gov/news-information/featured-story-archive/2012-featured-story-archive/simple-sabotage.html

Référentiel interministériel de formation relatif aux fonctions managériales transverses du cadre intermédiaire.
http://www.fonction-publique.gouv.fr/files/files/carrieres_et_parcours_professionnel/formation/ecole_de_la_grh/pdf/fonctions_manageriales_cadre_intermediaire.pdf

Une construction européenne kafkaïenne
http://www.lemonde.fr/idees/article/2013/03/06/une-construction-europeenne-kafkaienne_1843749_3232.html

At Uber, the Algorithm Is More Controlling Than the Real Boss
http://blogs.wsj.com/digits/2015/11/04/uber-as-employer-the-boss-is-an-algorithm/

Volkswagen : le feuilleton de l’affaire depuis le 1er jour
http://www.caradisiac.com/Affaire-du-TDI-Volkswagen-tout-ce-qu-il-faut-savoir-104757.htm

Google abuse-t-il de sa position dominante ? Décryptage du dossier.
http://www.droit-technologie.org/actuality-1706/google-abuse-t-il-de-sa-position-dominante-decryptage-du-dossier.html

Mise à jour ou obsolescence programmée : Apple fait face à un recours collectif
http://www.ledevoir.com/opinion/blogues/les-mutations-tranquilles/459446/mise-a-jour-ou-obsolescence-programmee-apple-fait-face-a-un-recours-collectif

Les étranges pratiques d’ Auchandirect.fr, le magasin en ligne d’ Auchan
http://www.tubbydev.com/2015/11/les-%C3%A9tranges-pratiques-d-auchandirectfr-le-magasin-en-ligne-d-auchan.html

Sur le Web, la nouvelle police de la pensée
http://www.liberation.fr/ecrans/2015/02/01/sur-le-web-la-nouvelle-police-de-la-pensee_1193479

Un algorithme est-il un document communicable ?
http://affordance.typepad.com/mon_weblog/2016/01/un-algorithme-est-il-un-document-communicable-.html

In Machines We Trust: Algorithms Are Getting Too Complex To Understand
http://www.forbes.com/sites/kalevleetaru/2016/01/04/in-machines-we-trust-algorithms-are-getting-too-complex-to-understand/#3a76c1aa2f14

If this doesn’t terrify you… Google’s computers OUTWIT their humans
http://www.theregister.co.uk/2013/11/15/google_thinking_machines?mt=1453794639835

 

Laisser un commentaire