Roisi Proven - ‍What’s the Worst That Could Happen? (EN)

[00:00:15] Merci, euh, à tous ceux qui sont ici, euh, pour ma conférence. J'apprécie que vous ayez pris le temps. Euh, et, euh, bienvenue à Fucon. euh, aussi. Euh, et et merci à eux de m'avoir invitée. Euh, donc, je m'appelle Roshi Proven. Je suis directrice produit chez Altmetric, une entreprise qui aide, euh, les chercheurs, les institutions, les éditeurs, euh, et les organismes d'entreprise à suivre l'attention autour des publications savantes. Euh, et, euh, je voulais vous parler un peu aujourd'hui des, euh, mauvaises choses qui peuvent arriver quand on ne fait pas assez attention aux produits que l'on construit. Et comment nous pouvons éviter certains de ces pièges, je pense que c'est particulièrement important à notre époque.
[00:01:02] Donc, je pense que nous sommes tous d'accord pour dire que, euh, pour la plupart, nous construisons des produits pour améliorer les choses. Euh, en tant que chefs de produit, en tant que personnes qui livrent des logiciels, en tant que personnes qui permettent la livraison de logiciels, nous sommes ici parce que nous voulons améliorer les choses. Malheureusement, nous semblons continuellement aggraver un peu les choses. Euh, ce sujet a un peu dépassé les bornes en 2020. Euh, j'ai donné cette conférence il y a environ un an, et le monde n'est plus le même que la dernière fois où j'ai donné cette conférence. Euh, et alors que je cherchais des exemples pour cette diapositive montrant les choses s'aggraver, l'une des choses qui m'a vraiment fait comprendre à quel point il est important d'être plus conscient de cela. C'est quand je cherchais un extrait, euh, concernant, euh, la part de Facebook dans le, euh, génocide au Myanmar. Alors j'ai googlé 'génocide Facebook' comme on le fait, vous savez, une recherche Google légère. Et, euh, j'ai réalisé que je devais spécifier le pays où le génocide avait eu lieu, car dire simplement 'génocide Facebook' n'était pas assez précis, car ils ont été complices dans plus d'un. Euh, et ça m'a vraiment fait dire que,
[00:02:10] c'est très important et nous devrions tous être constamment conscients des, euh, mauvaises choses qui peuvent arriver lorsque nous ne faisons pas assez attention. Et je pense vraiment que la plupart du temps, ce n'est pas de la méchanceté, c'est juste de ne pas avoir la bonne équipe et de ne pas être suffisamment conscient de son environnement. Donc, cela n'arrive pas d'un coup, ce n'est pas comme si, euh, Mark Zuckerberg était assis à l'université et se disait, vous savez quoi, je vais construire une application qui envahit la vie privée et mène à la mort. Ce n'est pas la pensée, je ne pense pas, qui lui a traversé l'esprit à l'époque. Au lieu de cela, c'était une douzaine de petites étapes qui auraient pu sembler productives ou altruistes, mais qui ne les menaient en réalité pas dans la bonne direction. Alors, vous savez, ils étaient assis là et il s'est dit, j'aime bien rencontrer des gens sur le campus. Je devrais créer une application assez inoffensive, euh, facile à comprendre et qui ne semble pas trop effrayante. Euh, et puis c'est comme, bon, je ne veux pas que mes utilisateurs paient directement, alors je vais leur faire de la publicité pour qu'ils puissent l'utiliser gratuitement. Ça a l'air vraiment cool. Nous rendons Internet gratuit pour que les gens puissent l'utiliser, se sentir libres de socialiser à l'intérieur. Et puis ils disaient, si je recueille plus d'informations à leur sujet, alors les publicités seront plus pertinentes. C'est une autre chose cool que je peux faire, c'est une autre façon d'aider à servir mes utilisateurs.
[00:03:27] Euh, et puis nous pensions, oh, cette application est pour de vraies personnes, nous ne voulons pas de personnes prétendant, alors nous ferons en sorte que les utilisateurs utilisent leur vrai nom. Qu'est-ce qui pourrait y avoir de mal à cela ? Et il s'est avéré que chacune de ces étapes, bien que n'étant pas un problème isolément, nuisait en fait à une partie de la communauté qu'elles prétendaient servir. Et nous en sommes arrivés au point où ils ont atteint une telle envergure et ont une influence si démesurée sur nos communautés, c'est C'est vraiment assez effrayant et je pense que si nous ne devenons pas plus conscients, nous allons vraiment, vraiment lutter à notre époque. pour que les choses continuent. C'est vraiment si important.
[00:04:07] Euh, mais si la mauvaise chose n'est pas intentionnelle, comment l'éviter ? Si ce n'est pas quelque chose que nous faisons consciemment, euh, comment l'arrêter ? Euh, et pour moi, la réponse est d'organiser un atelier Black Mirror sur votre produit. Je vais donc détailler un peu plus chaque étape de l'atelier. J'ai également un modèle Miro, mes coordonnées seront à la fin de cette présentation si quelqu'un est intéressé à l'exécuter dans sa propre organisation. Je vous donnerai volontiers ce modèle Miro. Euh, je veux que le plus de gens possible en bénéficient. Mais la raison pour laquelle j'ai encadré cela dans un épisode essentiellement d'horreur, euh, est que une partie de la difficulté à penser au mal qui peut arriver est que ce n'est pas agréable à faire. Euh, et donc je pense qu'en l'enveloppant dans une fiction et en vous abstraire de toutes les mauvaises choses dont vous discutez, vous vous donnez un peu plus de liberté pour être un peu plus agressif avec les choses négatives auxquelles vous pensez et avec les questions difficiles que vous vous posez. Et il y a trois règles fondamentales, euh, pour organiser un atelier Black Mirror. Rien n'est interdit, aussi désagréable que cela puisse être. C'est vraiment facile de s'asseoir là et de dire, oh, ça n'arriverait jamais parce que personne ne fait rien d'aussi mauvais. Mais quand on parle de génocide, on parle de harcèlement, on parle d'injustice systémique, euh, peu importe à quel point cela semble désagréable, c'est toujours possible. Et oubliez ce que vous savez des gens qui vous entourent. Comme je l'ai dit précédemment, une grande partie de cela ne vient pas de la malice, mais de ne pas poser les bonnes questions et de ne pas les poser assez souvent. Euh, donc, quand vous regardez votre équipe, vous verrez très probablement un groupe de personnes qui sont vos amis ou vos collègues, et des gens que vous aimez et dont vous ne pensez pas du mal. Vous devez oublier la bonté de ces personnes et vous concentrer sur la méchanceté potentielle du monde entier au niveau macro. Et vous devriez chercher des parallèles dans la vie réelle. Je vous en montrerai d'autres un peu plus tard, plus tôt, je vous ai montré toute cette diapositive de coupures de presse. Il est alarmant de facilité de trouver des exemples d'abus horribles se produisant en raison d'un manque d'attention à nos produits et à la façon dont ils pourraient nuire aux gens. Et surtout, cela ne fonctionnera pas sans confiance. Lorsque nous parlons de réalités très dures et de choses comme le racisme systémique et euh la reconnaissance de notre privilège, euh, et comprendre comment le dépasser et comprendre comment nous pourrions blesser des gens avec ce privilège. Cela ne fonctionnera pas si vous n'avez pas une grande confiance au sein de votre équipe. Euh, donc je ne recommanderais pas de faire cela avec une équipe qui, euh, lutte déjà avec des dysfonctionnements car, euh, cela pourrait être très nuisible. Euh, parce que vous allez aborder des sujets assez sensibles, vous allez vous poser des questions assez difficiles les uns aux autres. Et vous allez creuser profondément dans le mal qui pourrait être causé. Et ça ne marchera pas si vous êtes déjà mal à l'aise les uns avec les autres. Il est donc vraiment très important qu'en tant que groupe et en tant qu'équipe, vous vous fassiez confiance. Alors, comment organiser un atelier Black Mirror ? Quand je parle d'un atelier Black Mirror, le résultat est que vous allez avoir un épisode de Black Mirror où l'antagoniste central est votre produit. Donc, vous allez commencer par votre étoile polaire. Donc, avant de faire cela, il est vraiment très important de s'assurer que vous avez, euh, une compréhension de ce qu'est votre produit afin de pouvoir déterminer ce qu'il n'est pas. Bien qu'il soit très important de réaliser cet exercice et d'être critique, pragmatique et un peu négatif, honnêtement. il est plus important de commencer par la positivité parce que sinon vous ne pourrez pas voir la forêt des arbres, vous resterez bloqué dans les 'et si'. Il est donc très important de définir ce qu'est votre produit et ce qu'il va faire pour les communautés que vous espérez servir. Donc, sur le côté gauche, vous pouvez voir que j'ai, euh, fait un exemple. Euh, j'ai choisi un produit inoffensif, j'ai inventé un produit. Je n'en ai pas choisi un car il m'aurait semblé un peu injuste d'infliger cela à une entreprise qui existe réellement sans leur demander. Je l'ai déjà fait, j'y réfléchis mieux maintenant. Euh, et donc toute similitude avec un produit vivant ou mort est purement fortuite. Euh, donc le produit en question pour cet exemple de Black Mirror est 'walk with me', qui est une application de médias sociaux permettant aux propriétaires de chiens de rencontrer d'autres propriétaires de chiens dans leur région pour des rendez-vous de jeu pour chiots. Donc, la phrase la plus innocente et inoffensive que j'ai pu imaginer à l'époque. Euh, c'est pour les animaux de compagnie qui manquent de socialisation à cause du confinement, la difficulté de se faire des amis à l'âge adulte, le besoin d'avoir quelque chose en commun, les préoccupations de sécurité concernant la marche seule dans des zones dangereuses. Et puis vous pensez aux opportunités que vous pouvez créer, vous pouvez créer une communauté. Ce sont toutes les choses habituelles des médias sociaux, créer une communauté, trouver des similitudes entre les gens et aussi collecter des données. sur les gens, parce que comme nous le savons tous, les données sont l'une des choses les plus précieuses. euh, des produits sur internet et en les collectant, c'est un moyen viable et précieux de monétiser votre produit. Et c'est pourquoi nos segments cibles pour Walk with Me sont les propriétaires de chiens, les marques de soins pour animaux de compagnie et les éleveurs de chiens. Ce ne sont donc pas seulement les propriétaires qui utilisent l'application, ce sont aussi les personnes qui utilisent les données de l'application pour commercialiser auprès de ces personnes. C'est notre étoile du Nord. C'est ce que nous pensons que notre produit va faire, quelles opportunités il va créer et quels problèmes il va résoudre. Donc vous avez votre vision positive, altruiste, de soutien des choses. Et puis vous allez immédiatement assombrir votre paysage. Vous devriez chercher à la fois dans votre domaine et aussi les mauvaises choses qui sont arrivées à votre clientèle cible. Donc vous pouvez voir ici quelques exemples de Facebook utilisé dans le vol de chiens et de Gumtree utilisé dans le vol de chiens, le commerce, l'élevage. Et aussi, en regardant, euh, les applications qui suivent votre localisation. Donc Strava avait une, euh, euh, une fonctionnalité qui signifiait que si vous couriez devant quelqu'un, un parfait inconnu, cela vous ajoutait automatiquement à un groupe de course avec cette personne et partageait vos données de course, ce qui signifie exposer où vous vivez. Cela signifie exposer des choses comme les bases militaires, vous pouviez voir des itinéraires autour des bases militaires qui identifiaient où se trouvait la base militaire. Il y avait donc de très sérieuses préoccupations concernant la confidentialité différentielle.
[00:10:52] Euh, cette tâche dans un atelier à distance comme celui-ci est mieux réalisée de manière asynchrone. en partie parce que ça prend un peu de temps et aussi parce que c'est un travail assez difficile. Encore une fois, vous vous penchez vers le côté sombre de la vie et vers les mauvaises choses qui peuvent arriver. Et vous devez reconnaître le coût mental que cela peut avoir sur votre équipe. Ce n'est pas agréable de penser constamment aux mauvaises choses. Euh, donc il est préférable de laisser aux gens un peu de temps pour aller chercher des choses et les rassembler au fil du temps. Donc vous avez votre paysage, vous avez les choses qui sont déjà arrivées.
[00:11:32] Donc maintenant, vous allez examiner les pires résultats possibles.
[00:11:37] Et à ce stade, il est vraiment important de ne pas avoir peur de l'hyperbole. La raison en est que, euh, parfois, il peut être tentant de se retenir un peu parce que c'est comme, eh bien, mon produit ne pourrait jamais causer une mort, ou mon produit ne pourrait jamais causer un, euh, vol.
[00:11:53] Et c'est peut-être vrai. Euh, il est très possible que cela ne cause aucune de ces choses. Mais ce que vous cherchez, c'est le pire résultat possible et ensuite les étapes pour y arriver, car si vous évitez la première étape, vous ne vous en approcherez jamais. Et il est important de réfléchir très sérieusement au pire résultat possible, afin de pouvoir éviter les petites étapes mineures qui vous y mènent. Il est également très important à ce stade d'inviter des perspectives diverses. Si vous êtes assis dans une pièce avec des gens qui vous ressemblent tous, vous passerez à côté de choses. Et ce n'est pas parce que vous êtes de mauvaises personnes, ce n'est pas parce que vous êtes malveillants, c'est simplement parce que vous n'avez pas les expériences vécues nécessaires pour contribuer. Euh, cela peut signifier, euh, regarder les médias sociaux pour des perspectives diverses sur votre domaine. Euh, j'ai passé beaucoup de temps à essayer de m'assurer d'avoir un fil Twitter, par exemple, de personnes qui ne me ressemblent ni ne parlent comme moi et de personnes qui me font vraiment réfléchir à ma place dans le monde et parfois me mettent mal à l'aise quant à ma place dans le monde. C'est vraiment important. Euh, aussi, embauchez des gens, embauchez des consultants et payez-les pour leur temps afin qu'ils vous aident à découvrir ces problèmes. Et je ne parle pas d'un consultant en diversité et inclusion, je parle d'un expert produit ou d'un expert du domaine qui peut vous aider tout au long de ce processus et vous le payez pour ce temps. parce que cette perspective diverse est absolument inestimable. Alors un très bon exemple d'une plateforme d'e-mails, euh, qui a été lancée et tout le monde était vraiment, vraiment intéressé. Elle était très, très complète, très orientée business, et l'une de ses fonctionnalités était la capacité de savoir quand quelqu'un l'avait ouverte et, sur cette note d'ouverture, elle vous indiquait quand elle avait été ouverte et d'où elle avait été ouverte. Et cela semblait une excellente idée à l'époque, mais ce qu'il s'est avéré faire, c'est qu'il envoyait la localisation de quelqu'un à une personne qui n'avait pas donné la permission pour que cette localisation soit envoyée. Et en faisant une déclaration lorsqu'ils ont retiré cette fonctionnalité, ils ont dit : nous n'avons simplement pas compris ou pensé au mal que cela pourrait causer. Et c'était parce qu'ils n'invitaient pas assez de perspectives diverses dans des choses comme ça pour poser ces questions. Euh, dans le modèle, j'ai également inclus un certain nombre de questions de démarrage pour vous aider à lancer et à commencer à réfléchir à certains de ces sujets. Et c'est de là que viennent certains de ces messages. Les gens pourraient l'utiliser pour tuer des chiens, les gens pourraient l'utiliser comme appât pour un enlèvement, les gens pourraient l'utiliser pour l'élevage de chiens, les gens pourraient l'utiliser pour organiser un combat de chiens. Ce sont toutes des choses vraiment agressives et extrêmes qui pourraient arriver. Mais le but est que vous réfléchissez à la gravité potentielle de la situation, pour ne pas vous en approcher.
[00:14:41] Et puis l'étape quatre est c'est étrange de dire que c'est l'étape amusante car c'est une chose très sérieuse. Mais à ce stade, il est permis de s'amuser un peu avec, car encore une fois, vous êtes délibérément hyperbolique et délibérément extrême. Et vous enveloppez le problème dans cette fiction afin de pouvoir vous en abstraire et l'accepter plus facilement. Il existe donc deux façons de procéder. Vous pouvez soit faire un storyboard, qui est une façon visuelle de cartographier votre épisode, soit faire une feuille de rythme. Une feuille de rythme est un outil assez couramment utilisé dans l'écriture de scénarios. Euh, parce que les genres ont tendance à avoir des rythmes narratifs similaires, quel que soit le film. Comme un film d'action a une structure prévisible et vous pouvez écrire selon cette structure. J'ai donc inclus une feuille de rythme d'horreur, cela semblait pertinent. Euh, et vous pouvez utiliser cela pour semer certaines des plus petites étapes qu'il faudrait pour arriver au pire résultat. Et je pense que c'est bien d'avoir un peu d'humour ici parce que Je pense que confronter l'horreur de certains aspects de la vie moderne avec humour est précieux pour notre santé mentale collective. Euh, vous pouvez probablement deviner d'après mon style de présentation que je préfère aborder les choses avec humour, un peu de sarcasme et, euh, une bonne dose de pragmatisme et de réalisme.
[00:16:12] Euh, et donc notre, euh, épisode pour, euh, celui-ci est 'certains chiens vont en enfer'. C'est un titre vraiment ringard, mais, vous savez, j'écrivais ça assez tard le soir. Et ça nous emmène à travers l'expérience d'une utilisatrice appelée Sally. Sally a un bichon frisé. Elle, euh, veut vraiment se faire des amis près de chez elle, et donc elle s'inscrit à cette application. Et nous découvrons que quelqu'un rôdant en arrière-plan semble être particulièrement intéressé par le bichon frisé de Sally. Euh, et donc à travers l'histoire, vous commencez à voir cette personne apparaître. Sally ne fait pas immédiatement la mauvaise chose. Elle ne va pas au sous-sol sans la torche. Ce n'est pas, genre, nous ne faisons pas des gens qui font des choses stupides pour avoir des ennuis. Les gens font les bonnes choses et ils ont toujours des problèmes. Elle a donc rencontré une autre femme. Il y a une fonctionnalité sur l'application qui vous donne le point médian entre les maisons de deux utilisateurs afin que vous puissiez trouver leur parc le plus proche. Énorme problème de confidentialité différentielle. Et donc, au fur et à mesure que l'histoire avance, les choses deviennent plus sinistres. La personne avec qui Sally marche disparaît. Son chien est retrouvé mort, et puis finalement le bichon frisé de Sally lui est volé et elle est gravement blessée dans le processus. Ce n'est pas quelque chose qui ne pourrait jamais arriver, c'est quelque chose qui est arrivé, juste pas dans le contexte de cette application. Et comme je l'ai dit, c'est très extrême, mais ce à quoi nous pensons ici est prendre la fonctionnalité de, euh, point médian entre deux maisons. Quels risques cela représente-t-il pour les personnes vulnérables ? Qu'est-ce qui, euh, pourrait permettre à quelqu'un d'en abuser ou de l'utiliser à des fins néfastes ? Il s'agit de déclencher ce genre de points de contemplation pendant que vous construisez votre produit. Et enfin, vous avez l'étape cinq. Vous avez donc assombri votre paysage. Vous avez compris ce que vous faites, et vous avez storyboardé votre épisode de Black Mirror. Vous pourriez le filmer si vous voulez, ça pourrait être amusant.
[00:18:14] Euh, mais ce que cela devrait vous apporter, c'est votre vrai sud. Donc, c'est ça, vous savez ce qu'est votre produit, mais vous savez aussi ce qu'il n'est pas explicitement. Et votre définition de mal fait, des questions resteront avec vous tout au long de votre processus de développement. Donc, euh, une bonne pratique lorsque vous développez quelque chose est, lorsque vous arrivez au point où vous le déplacez dans la colonne des tâches terminées, de vous dire : que signifie 'terminé' pour nous ? Et cela l'élargit légèrement et dit : que nous apporte le fait de mal faire ? Donc, cela nous permet de nous poser certaines questions, telles que, qu'est-ce qui facilite la visualisation des races présentes dans une zone ? Quelqu'un pourrait-il utiliser cela pour agréger une vue des endroits où se trouvent les races afin de les cibler ? Un propriétaire de chien vulnérable pourrait-il être mis en danger par cette fonctionnalité ? Et ça va, genre, vous pousser à répondre à ces questions. Et la réponse à la question pourrait être, oui, ça le fera, mais nous atténuerons le risque par X. Ce n'est donc pas nécessairement un point d'arrêt pour ces fonctionnalités, c'est juste un point pour les publier plus consciemment. Et si vous décidez de pivoter après avoir organisé l'atelier, si vous le dirigez et que vous vous dites, les risques de mauvaises choses ici sont si élevés, je ne peux pas en toute bonne conscience prendre ce risque, pivotez. Faites l'atelier à nouveau, voyez où cela vous mène. Il est important de rafraîchir cela de la même manière que vous rafraîchiriez votre stratégie produit, afin que cela vous maintienne sur la bonne voie. Donc, à la fin de ceci, vous devriez avoir votre storyboard ou votre feuille de rythme de votre épisode Black Mirror. Vous devriez avoir votre vrai sud, la direction dans laquelle vous ne voulez absolument pas aller.
[00:19:55] Et vous devriez avoir votre définition de "mal fait" qui vous permet d'appliquer une certaine rigueur aux processus et vous permet de penser continuellement à cela. Pendant que vous incrémentez votre produit, vous incrémentez également l'éthique entourant votre produit.
[00:20:13] Je vous passe maintenant la parole.
[00:20:17] Euh, vous pouvez construire tout ce que vous voulez, le monde est notre huître de nos jours. Mais devriez-vous le construire ? Quel est le pire qui puisse arriver si vous le construisez ? Regardez autour de nous, à la élection américaine et la pandémie, juste, juste 2020.
[00:20:38] Et imaginez le pire qui pourrait arriver. Genre, devenez fou. Euh, comment protégez-vous vos utilisateurs vulnérables ? Et vous devez également décider personnellement où est votre limite et si votre entreprise la franchit. Euh, parce que si vous ne pouvez pas changer l'endroit où vous travaillez, vous devriez changer d'endroit où travailler. C'est quelque chose que je n'ai pas suivi d'assez près par le passé. Euh, et je pense vraiment que je le suivrai de plus près à l'avenir. Euh, mais certains endroits seront en accord avec votre éthique et ce en quoi vous croyez. Et certains ne le seront pas et ne le seront jamais. Euh, et il est important pour vous de définir où se trouve cette limite. J'ai une liste assez courte d'entreprises pour lesquelles je ne travaillerais pas pour tout l'argent de l'univers. Euh, mais il y a des entreprises où je serais heureuse de me dire, vous savez quoi, je vais m'impliquer, je vais me salir les mains, je vais faire du bien ici. Que d'autres personnes refuseraient catégoriquement. Donc c'est différent pour chacun. Et je crois vraiment que ce genre de réflexion produit est crucial pour faire prendre un tournant à notre industrie et commencer à vraiment nous soucier de nos utilisateurs plutôt que de simplement en être obsédés.
[00:22:05] Euh, donc je vous remercie infiniment pour votre temps. Je suis consciente, euh, que c'est un peu court, mais j'ai l'habitude de mitrailler mon écossais. Euh, mais mon Twitter et LinkedIn sont ici. Si vous êtes intéressé à diriger l'atelier vous-même, vous êtes plus que bienvenus à nous contacter et à demander le modèle et je vous l'enverrai. Merci beaucoup à tous.

Transcription (Traduit)