Réflexion sur l’éthique professionnelle en recherche utilisateur

Posted on February 2, 2021

Les créations architecturales de Charles-Édouard Jeanneret, mieux connu sous le surnom « Le Corbusier », ont été louées à maintes reprises, non seulement par ses pairs, mais par plusieurs autres. Lui et ses contemporains avaient l’intime conviction de pouvoir concevoir une architecture qui répondaient à tous les besoins des habitants d’un quartier, sans avoir à les consulter. Plusieurs décénnies plus tard, ses créations (ainsi que le mouvement architectural Brutaliste) sont perçues comme oppressantes par ceux qui y vivent¹, même si elle sont encore vues par les designers comme un exemple esthétique à suivre.

Après avoir bossé plus d’une quinzaine d’années en production de produits et d’expériences numériques pour le compte d’agences et de start-ups, je soutiens que ce type de louanges est généralisé chez les designers, les technologues, et une grande partie des intervenants du domaine du marketing. Ainsi, les trois principes directeurs qui sont au coeur de la politique des trois Conseils (le respect des personnes, la préoccupation pour le bien-être et la justice) sont plutôt perçus comme des entraves au profit et à l’innovation par plusieurs entrepreneurs privés.

Il y a quelques années, il a été révélé que Facebook avait effectué des recherches sur sa plateforme en manipulant le contenu du fil de nouvelles présenté à ses utilisateurs afin de voir si leur comportement pouvait en être affecté². De plus, cette expérience a été conduite sans le consentement explicite des utilisateurs de la plateforme et, semble-t-il, sans l’approbation du conseil éthique de la Cornell University³.

S’il peut sembler facile de pointer du doigt l’entreprise américaine pour ses ratés éthiques, il faut garder en tête qu’ici même au Québec nous faisons l’éloge de la Big Tech et de ses stratégies. Par exemple, l’entreprise montréalaise Data Sciences vante sa capacité d’identifier nominalement des utilisateurs anonymes à partir de leurs interactions sur différents sites web. Lors d’une présentation de leurs services, l’entreprise affirmait avoir travaillé sur les campagnes électorales de Justin Trudeau. Leur travail était d’adapter des messages ultra-personnalisés à présenter aux utilisateurs des différentes plateformes de réseaux sociaux afin de les convertir au message de Trudeau. Ce type de publicité ciblée ressemble énormément à l’effort de communication qui a mené Donald Trump au pouvoir aux États-Unis, et qui est décrié aujourd’hui.

Même dans les cours du HEC (ex. : Web Analytique⁴), on y présente des techniques pour améliorer la rentabilité d’un site en manipulant certains éléments suite à de seules analyses de données quantitatives. Ce type de stratégie et de design par données peut facilement mener à la création de sombres desseins (dark designs). Décrit à l’origine par Harry Brignull⁵, ce type de design malicieux utilise des stratagèmes pour s’assurer que les actions posées sur les produits numériques soient plus favorables à l’entreprise qu’à l’utilisateur. L’exemple souvent donné est la facilité avec laquelle on peut s’abonner à un produit, et à l’opposé, à quel point il est difficile de se désabonner du même service.

Dans son livre The Human Condition publié en 1958, Hannah Arendt soutient qu’il n’est pas moralement acceptable d’agir simplement parce qu’on a reçu des instructions ; il faut être critique, il faut être pleinement conscient de ses actions. Pour ma part, je tente de ne pas simplement être un jovialiste de l’innovation, je cherche à comprendre les impacts possibles des industries dans lesquelles je bosse, et des produits et expériences que je développe. Pour le reste de ce texte, je vais tenter de transposer cette intention aux trois principes directeurs sont au coeur de la politique des trois Conseils.

Explorons tout d’abord le respect des personnes. On pourrait parler de respecter le temps et l’argent des utilisateur. Ainsi, il serait de la responsabilité des designers de ne pas élaborer de sombres desseins. Quand je mentionne les designers, je ne veux pas simplement dire ceux qui concoivent un produit ou une expérience de façon graphique ou interactive. Toute personne qui affecte un produit (que ce soit en réduisant le budget alloué à une recherche ou à l’intégration de l’accessibilité, ou en choisissant les couleurs ou une technologie) fait partie de la conception du produit, et se retrouve donc avec la responsabilité morale du designer sur les épaules.

En ce qui a trait à la préoccupation pour le bien-être, je voudrais rappeler l’expérience menée par Facebook mentionnée plus haut. Ce type de manipulation malicieuse des émotions des utilisateurs d’un produit montre que les chercheurs qui ont mené l’expérience ne se préoccupaient nullement des gens qui allaient être affectés, mais plutôt simplement des résultats statistiques qu’ils allaient pouvoir compiler et présenter à leur commanditaire. Ici aussi, chacun a la responsabilité d’empêcher l’élaboration de recherches ou de produits qui peuvent causer du tort au bien être d’une personne, que ce soit physiquement, moralement ou mentalement. À ce sujet, le designer américain Mike Monteiro déclare d’ailleurs qu’il n’est pas possible de bien concevoir un fusil, puisque l’intention ultime du produit est de causer un tort physique⁶.

Enfin, du côté de la justice, bien qu’il soit évident qu’il faille respecter les lois en place lors de la conception de produits, il serait également possible d’interpréter ce point de façon à concevoir des produits justes et équitables. Ma pratique professionnelle des dernières années m’a amené à m’assurer d’intégrer l’accessibilité dans la conception de produits numériques, c’est-à-dire que les produits soient accessibles à tous, peu importe leur condition physique. Des données de Statistique Canada de 2017⁷ révèle qu’environ 20% des Canadiens déclarent être atteint d’un handicap. Tous ont droit à un accès égal aux produits numériques que nous créons, et je préfère prendre le temps nécessaire pour concevoir des produits qui leur est accessibles, plutôt que de mettre en place des get-rich-quick schemes (manigances pour s’enrichir rapidement).

J’apprécie que nous ayons l’opportunité et la responsabilité d’être confronté à des réfexions éthiques sur nos recherches et travaux futurs. À première vue, se poser ces questions peut sembler ralentir l’innovation, ou même nous faire paraître comme des Debbie Downer⁸, toutefois cela nous permet de considérer les utilisateurs non pas comme des générateurs d’argent ou comme une ressources à miner, mais bien comme des personnes à part entière. Personellement, j’apprécierais même passer plus de temps sur ce sujet, ce qui me permettrait de mieux argumenter contre certaines pratiques avec commanditaires et intervenants lors de la conception de recherches ou de produits.

Références

¹ Ardouin-Fumat, Ian. “The Radiant City.” The Office for Creative Research Journal, vol. 2, The Office for Creative Research, Nov. 2016.

² Meyer, Robinson. “Everything We Know About Facebook’s Secret Mood Manipulation Experiment.” The Atlantic, June 2014, https://www.theatlantic.com/technology/archive/2014/06/everything-we-know-about-facebooks-secret-mood-manipulation-experiment/373648/.

³ Sullivan, Gail. “Cornell Ethics Board Did Not Pre-Approve Facebook Mood Manipulation Study.” Washington Post, July 2014, https://www.washingtonpost.com/news/morning-mix/wp/2014/07/01/facebooks-emotional-manipulation-study-was-even-worse-than-you-thought/.

⁴ “TECH 60110 Web analytique.” Détails d’un cours, HEC Montréal, https://www.hec.ca/cours/detail/?cours=TECH60110.

⁵ Brignull, Harry. “Dark Patterns: inside the interfaces designed to trick you.” The Verge, August 29, 2013, https://www.theverge.com/2013/8/29/4640308/dark-patterns-inside-the-interfaces-designed-to-trick-you.

⁶ Monteiro, Mike. Ruined by Design. Mule Design, 2019.

⁷ “Nouvelles données sur les incapacités au Canada, 2017.” Statistique Canada, https://www.hec.ca/cours/detail/?cours=TECH60110.

⁸ Un personnage qui apporte toujours des nouvelles négatives et qui vient ruiner la bonne humeur.
“Debbie Downer.” Wikipedia, https://en.wikipedia.org/wiki/Debbie_Downer.