Que font les applications de rencontres pour protéger leurs utilisateurs ?

Cette histoire a été initialement publiée sur ProPublica par Brian Edwards, Elizabeth Naismith Picciani, Sarah Spicer et Keith Cousins, Columbia Journalism Investigations . Cet article est copublié avec Columbia Journalism Investigations.

Par un après-midi ensoleillé de l'été 2019, Natalie Dong se tenait devant le siège en verre de la populaire plateforme de rencontres en ligne Tinder, au centre-ville de Los Angeles, avec un panneau d'affichage drapé autour de son cou. Il disait: "MON VIOLEUR EST TOUJOURS SUR TINDER."

Plus d'un an plus tôt, Dong, alors étudiante en ingénierie de 21 ans, a déclaré avoir été violée chez elle par un homme qu'elle avait rencontré sur un autre site de rencontres, Coffee Meets Bagel.

Il a dit à Dong qu'il était sur d'autres plateformes de rencontres, dont Tinder. Elle a signalé les événements à la police, ce qui n'a pas conduit à des accusations criminelles.

Dong s'inquiétait pour les utilisatrices de ces applications. "J'ai réalisé qu'il était probablement toujours sur ces applications de rencontres, qu'il sortait et rencontrait de nouvelles femmes", a-t-elle déclaré à propos de son agresseur présumé.

Elle a fait une liste de tous ceux qu'il a dit avoir utilisés : Bumble, Coffee Meets Bagel, Hinge et Tinder. Elle a contacté chacun d'eux pour signaler ce qui s'était passé. "J'ai besoin qu'il y ait des conséquences", a-t-elle déclaré.

Bumble a répondu à la plainte de Dong en 20 minutes. Hinge est revenue vers elle après trois jours. Coffee Meets Bagel a mis 11 jours pour répondre. Les trois plateformes se sont excusées et l'ont informée qu'elles avaient banni l'utilisateur accusé.

Mais lorsque Dong a contacté Tinder, le processus a duré des semaines. Après plusieurs échanges de courriels sans résultat visible, elle a demandé une mise à jour sur la réponse de l'entreprise.

"Il est dangereux", a-t-elle écrit dans un e-mail du 21 mai 2019, "et vos utilisatrices méritent d'être protégées".

L'industrie des rencontres en ligne de plusieurs milliards de dollars n'a pas de normes significatives pour répondre aux rapports de préjudices hors ligne et retirer les responsables de ses plateformes, ont constaté Columbia Journalism Investigations et ProPublica.

Malgré les promesses de protéger les utilisateurs des prédateurs sexuels, les entreprises ont peu fait pour les respecter. La plupart des entreprises ont des procédures vaguement définies qui obligent les employés à se fier à leur propre jugement.

Les utilisateurs d'applications de rencontres qui signalent une attaque, comme Dong, doivent souvent harceler les entreprises pour qu'elles agissent.

La responsabilité de répondre aux rapports d'agressions incombe aux travailleurs, connus sous le nom de modérateurs dans le langage de l'industrie, qui traitent les plaintes des clients.

Ils répondent à des questions sur tout, des litiges de facturation aux problèmes de compte et aux alertes d'escrocs. Certains sites de rencontres disposent d'équipes de modération spécialisées pour traiter les réclamations sensibles de fraude et d'abus.

Mais aucun site ne dispose d'une équipe exclusivement dédiée à la prise en charge d'un risque inhérent à une industrie fondée sur l'intimité : les agressions sexuelles. Les experts disent que les sociétés de rencontres en ligne échouent systématiquement à anticiper les abus et à mettre en place des mesures de protection pour les empêcher.

Des entretiens avec plus de 50 employés anciens et actuels - des modérateurs de PlentyofFish aux ingénieurs et managers d'OkCupid et eHarmony - révèlent un patchwork de systèmes d'entreprise dans lesquels les dirigeants vantent la sécurité des clients tout en poussant des politiques conçues pour émettre des remboursements plutôt que de vérifier les subtilités de la violence sexuelle .

La plupart des employés craignaient de parler publiquement de leurs expériences, certains parce qu'ils avaient signé des accords de non-divulgation. Ils décrivent de petites équipes de modération jonglant avec des centaines de plaintes par jour.

Certains employés ne gagnent que quelques dollars de plus que le salaire minimum dans leur État. Ils reçoivent peu de formation sur la façon de traiter les plaintes factuellement complexes et éventuellement criminelles impliquant un viol. D'autres encore sont confrontés à des quotas de service à la clientèle qui rendent difficile la réponse aux demandes de renseignements de routine.

Chez Hinge, par exemple, les modérateurs qui parcourent les profils d'utilisateurs signalés par le logiciel de l'entreprise comme problématiques peuvent traiter jusqu'à 60 plaintes par heure, selon deux employés et une capture d'écran de la politique de l'entreprise.

Cela donne à ces employés une minute en moyenne pour examiner, par exemple, l'utilisation de termes racistes et sexuels ou pour évaluer les détails des allégations d'agression sexuelle et les transmettre à la chaîne de modération.

Pendant ce temps, ils doivent également décider de bloquer l'utilisateur tagué et de passer au peigne fin les messages de cet utilisateur pour extraire les informations pertinentes.

Chez OkCupid, selon deux employés et une capture d'écran des références de modération de 2020, il existe un quota de 15 plaintes par heure pour ceux qui traitent les réclamations d'agression sexuelle et d'autres réclamations plus complexes.

Cela signifie que ces modérateurs disposent en moyenne de quatre minutes pour examiner les profils d'utilisateurs et les messages du plaignant et de l'accusé, et répondre à la personne qui a déposé la plainte.

Pour les modérateurs d'applications de rencontres, de nombreuses plaintes de clients ne prennent que quelques secondes à traiter. Mais les cas compliqués, comme ceux impliquant des agressions sexuelles, peuvent mettre les modérateurs derrière leurs quotas horaires pour le reste de la journée de travail, selon plusieurs employés actuels et anciens de ces plateformes de rencontres et d'autres.

De tels systèmes laissent souvent tomber les victimes. CJI et ProPublica ont entendu 224 utilisateurs d'applications de rencontres par le biais d'un questionnaire qui sollicitait l'avis de personnes «affectées par la violence sexuelle» après avoir utilisé une application de rencontres.

Parmi ceux-ci, 188 ont déclaré avoir été agressés ou harcelés après avoir utilisé une application de rencontres ou avoir été jumelés à un délinquant sexuel ou à une personne inappropriée ; 71 ont déclaré avoir signalé une agression sexuelle à une plateforme, la plupart au cours des trois dernières années.

Parmi ces utilisateurs, 34 ont déclaré n'avoir jamais eu de réponse. (CJI a pu interroger 33 des 188 qui ont déclaré avoir subi une forme d'agression ou de harcèlement et a obtenu des rapports de police ou une confirmation documentaire dans 11 de ces cas.)

Du silence de l'entreprise après le dépôt de multiples allégations aux découvertes surprises que des auteurs interdits ont refait surface sur les applications, les systèmes délabrés ont laissé les victimes de violence, la grande majorité d'entre elles étant des femmes, se sentir traumatisées une seconde fois.

CJI a partagé ces résultats avec toutes les plateformes mentionnées dans les réponses participatives et a posé des questions sur leurs processus de modération et de sécurité. Un journaliste de CJI a contacté chaque site de rencontre nommé dans cette histoire au sujet de réclamations spécifiques d'employés et de cas d'utilisateurs individuels.

Cinq plates-formes ont refusé de répondre aux questions et ont plutôt fourni une déclaration générale. Chacun a déclaré que la sécurité des utilisateurs est une priorité absolue et a défendu les efforts des entreprises pour les protéger. (Vous pouvez lire les déclarations complètes ici .)

Trois ont fourni des réponses partielles et un n'a pas répondu. Seul Bumble a accepté de mettre un cadre à disposition pour un entretien.

Miles Norris, chef de produit chez Bumble, a supervisé les équipes de modération de cette société pendant près de sept ans.

Il a déclaré que Bumble, la deuxième plate-forme de rencontres la plus populaire du pays, investit déjà dans de nouvelles mesures pour protéger ses 42 millions d'utilisateurs contre les agressions sexuelles, y compris un algorithme informatique pour détecter les drapeaux rouges dans les comportements des utilisateurs et un logiciel pour vérifier l'authenticité de l'utilisateur. photographies.

Pourtant, Norris reconnaît la nécessité d'améliorer les normes de l'industrie. "Il y a de mauvais acteurs et vous devez constamment vous améliorer", a-t-il déclaré. "Non seulement par vos systèmes et processus, mais aussi par le niveau d'empathie, la compréhension des utilisateurs, la façon dont vous y répondez."

Match Group – la société de 2,4 milliards de dollars qui possède la plupart des meilleures applications de rencontres du pays, y compris Tinder, OkCupid, PlentyofFish et Hinge – a refusé plusieurs demandes d'entretien et n'a pas répondu aux questions écrites.

Un porte-parole de Match Group a déclaré à CJI dans une enquête antérieure en 2019 que la société ne disposait pas de procédures uniformes pour répondre aux plaintes d'agression sexuelle des clients dans toutes ses marques.

En décembre 2020, la société a déclaré que «ces dernières années, nous avons travaillé à des politiques uniformes dans toutes nos sociétés».

Les dirigeants de Match Group ont déclaré que la sécurité des clients est « primordiale pour nous ». L'entreprise a embauché un nouveau chef de la sécurité l'automne dernier et a investi dans de nouvelles technologies pour améliorer ses dispositifs de sécurité.

En décembre, Match a annoncé son partenariat avec un groupe de défense des victimes pour auditer ses politiques en matière de violence sexuelle. Un e-mail obtenu par CJI suggère que l'examen est terminé.

Dans sa déclaration pour cet article, la société a déclaré qu'elle était "indignée que les célibataires puissent ressentir de la peur, de l'inconfort ou pire lorsqu'ils cherchent à rencontrer quelqu'un de spécial, et travaillera toujours à améliorer nos systèmes pour s'assurer que tout le monde sur nos applications se sente respecté et en sécurité. ”

Pour des personnes comme Dong, qui voulaient que l'homme qu'elle accusait soit expulsé des applications de rencontres, ces systèmes imposaient à l'utilisateur d'obtenir une réponse conséquente.

Peu de temps après que Dong ait signalé son viol à Tinder, en mai 2019, elle a envoyé à l'entreprise des détails sur l'homme, y compris un nom d'utilisateur, un âge et un numéro de téléphone. Les jours passèrent sans réponse.

Le 12e jour, elle a envoyé l'e-mail de suivi demandant une mise à jour et a partagé la réponse des autres applications de rencontres. Dans les 24 heures, un employé de Tinder l'a informée que l'entreprise ne pouvait pas fournir d'informations supplémentaires.

Frustrée par ce qu'elle appelle un « runaround », Dong a décidé de prendre des mesures plus drastiques. Et donc vers 15 heures le 18 juin 2019, elle s'est tenue sous le soleil brûlant devant le bureau de Tinder à Los Angeles pendant environ une heure.

Son enseigne, un panneau d'affichage noir avec des lettres blanches griffonnées dessus, a attiré l'attention des quelques piétons qui passaient. L'un d'eux a pris une photo de Dong, a-t-elle dit.

Finalement, un employé est sorti pour lui offrir de l'eau et un autre l'a approchée pour recueillir les mêmes informations qu'elle avait déjà fournies. Ce n'est qu'après cela qu'elle a reçu un e-mail de Tinder l'informant qu'il avait banni l'utilisateur accusé.

L'agacement de Dong face à l'épreuve reste palpable. "J'étais comme, 'C'était aussi simple que ça?'", a-t-elle déclaré. "Pourquoi ai-je dû aller là-bas pour que tu fasses ça ?"

À leurs débuts, les plateformes de rencontres se concentrent généralement sur un seul objectif : la croissance.

À ce stade, les dirigeants "ne pensent pas vraiment à toutes les choses terribles qui peuvent mal tourner", a déclaré Adelin Cai, un vétéran de Twitter et Pinterest qui, en 2020, a fondé la Trust and Safety Professional Association, qui vise à améliorer modération en ligne.

Les startups traitent la modération comme une réflexion après coup, a déclaré Cai, laissant une crise survenir avant de définir une politique.

Elle a noté que les entreprises Internet peuvent ne pas établir deux normes fondamentales de modération : premièrement, pour surveiller le comportement des utilisateurs par le biais d'un processus de plainte ; et deuxièmement, pour retirer les sujets qui ont enfreint les règles.

Les employés de plusieurs applications de rencontres décrivent une approche aléatoire de la surveillance du contenu et du service client qui les laissait mal équipés lorsqu'un utilisateur signalait une agression sexuelle, en particulier au début d'une application.

Chez OkCupid, par exemple, les modérateurs n'avaient aucune orientation d'entreprise depuis son lancement en 2004 jusqu'en 2015, selon des entretiens et des enregistrements. Aujourd'hui, ils suivent au moins deux semaines de formation générale couvrant la facturation, la fraude et d'autres sujets sensibles.

Dans toute l'industrie, une grande partie de la formation des modérateurs s'est concentrée sur les détails pratiques - comment accéder à une file d'attente ou classer les rapports - selon les initiés de ces applications et d'autres. Seule une fraction de celle-ci concerne les agressions sexuelles dans les rencontres en ligne.

La plate-forme One Match Group dispose d'un manuel d'environ 50 pages détaillant les cas prioritaires et les réponses recommandées pour les réclamations de fraude et d'abus telles que les escroqueries amoureuses et le harcèlement en ligne. Sa section sur les agressions sexuelles est de deux pages.

Ce passage décrit ce que les employés doivent faire pour répondre aux signalements de viol ("répondez rapidement, répondez avec empathie, donnez des ressources pour obtenir de l'aide") et ce qu'ils ne doivent pas faire ("n'envoyez pas les victimes à la police, pas d'hypothèses, choisissez la langue avec soin" ).

Les dossiers internes de l'entreprise suggèrent que ces directives sont nées d'un manuel impromptu que d'anciens employés avaient créé eux-mêmes.

Amber Tevis a vécu cette expérience ponctuelle en tant que modératrice pour la société de rencontres en ligne Zoosk entre 2010 et 2015. À l'époque, la plateforme comptait plus de 12 millions d'utilisateurs.

Elle était l'une des six modératrices chargées de répondre chaque jour à des dizaines de plaintes de clients : incidents de fraude, d'abus et, occasionnellement, de violence.

Elle s'est appuyée sur les quelques messages standard du service client que les responsables de Zoosk avaient fournis jusqu'à ce qu'un jour en 2012, une femme appelle la hotline du site pour signaler son agression. Ne sachant pas quoi faire, Tevis a mis l'utilisateur en attente.

Son superviseur a suggéré à la femme d'appeler la police. Tevis, qui a étudié la sociologie à l'université et n'a aucune formation formelle en réponse aux agressions sexuelles, se souvient avoir eu l'impression que "cette personne était seule".

L'appel a conduit les modérateurs de Zoosk à rédiger un plan pour gérer les signalements de viol : obtenez le nom, l'adresse e-mail et d'autres informations pertinentes de l'utilisateur qui signale ; interdire l'utilisateur accusé.

"Chaque fois qu'il y avait une nouvelle situation, nous l'ajoutions au matériel de formation", a déclaré Tevis, expliquant comment le plan, comme de nombreuses procédures de l'application, est devenu une partie du manuel de l'employé de Zoosk.

Zoosk et sa société mère, Spark Networks, n'ont pas répondu aux demandes d'entretien et aux questions écrites.

Les normes d'expulsion des utilisateurs accusés ne sont pas claires dans l'industrie. Certaines plateformes demandent aux modérateurs d'interdire un utilisateur après une accusation, sauf preuve contradictoire.

D'autres n'ont pas établi de protocole pour savoir comment ou quand restreindre l'accès.

Lila Gyory a travaillé dans une équipe de modération de quatre personnes à Coffee Meets Bagel de 2016 à 2018, lorsque la plateforme de rencontres comptait plusieurs millions d'abonnés.

Elle se souvient d'avoir signalé chaque plainte d'agression sexuelle à son responsable, puis d'avoir discuté de la manière de traiter chaque utilisateur accusé.

Devraient-ils bannir l'accusé? Devraient-ils plutôt faire une note sur le compte et expulser l'utilisateur si la personne commettait une deuxième infraction ? Comment devraient-ils gérer les accusations de harcèlement – peut-être avec une règle des trois coups ?

Gyory a déclaré qu'elle trouvait l'absence d'une politique d'entreprise stressante.

Lorsqu'elle a banni quelqu'un, Gyory a ajouté le profil de cet utilisateur à une feuille de calcul de noms, d'adresses e-mail et de photographies.

Pourtant, il ne lui a pas fallu longtemps avant de retrouver les mêmes comptes restreints sur le site. Elle se souvient qu'un utilisateur accusé, en colère contre son expulsion, a créé un nouveau profil Facebook pour contourner son interdiction.

Elle l'a repéré et l'a fait taire. Il a créé un autre profil - encore et encore.

"C'était comme un coup de taupe", a déclaré Gyory.

Coffee Meets Bagel n'a pas répondu aux demandes d'entretien et n'a pas répondu à la plupart des questions écrites. Un porte-parole de la société a déclaré que les modérateurs suivaient une "politique de tolérance zéro" les obligeant à "interdire rapidement les utilisateurs qui présentent un mauvais comportement", y compris les agressions sexuelles.

Ils créent « un profil complet de chaque utilisateur banni » afin que tout nouveau compte associé à l'utilisateur « soit détecté et immédiatement bloqué de la plateforme ». Interrogé pour savoir si Coffee Meets Bagel avait changé sa politique depuis l'époque de Gyory, le porte-parole n'a pas répondu.

Au fil des ans, alors que les sociétés de rencontres en ligne ont modifié leurs politiques de modération, les entretiens et les enregistrements suggèrent qu'elles n'ont pas suffisamment augmenté le personnel des équipes de modération internes.

Les employés de presque toutes les applications de rencontres ont déclaré que l'équipe ne s'était jamais agrandie lorsque des millions d'utilisateurs l'ont rejoint. Le volume de plaintes des clients, ont-ils dit, a dépassé la capacité du personnel à les gérer.

Chez PlentyofFish, par exemple, les dirigeants ont géré environ 85 employés au total dans tous les départements sur une période de cinq ans, la base d'utilisateurs enregistrés de l'entreprise ayant plus que triplé, passant de 30 millions à 100 millions. Cela signifiait, au cours des années suivantes, plus d'un million d'utilisateurs par membre du personnel.

OkCupid s'est appuyé sur des modérateurs à temps partiel et bénévoles pour traiter ses plaintes, ont déclaré quatre anciens et actuels employés. Un groupe de modérateurs indépendants gagnant 15 $ de l'heure tout en travaillant 40 à 60 heures par semaine a tenté de se syndiquer en 2015, selon des documents obtenus par CJI.

Ils ont exigé, entre autres, de meilleurs salaires et plus d'employés pour traiter les plaintes. Des entretiens et une enquête interne montrent qu'ils n'ont jamais obtenu ce soutien.

Les anciens et actuels employés d'OkCupid ont déclaré que les modérateurs du service de rencontres, désormais internes ou externes, traitent au moins 150 plaintes par jour. Match Group n'a pas répondu aux questions écrites.

La plupart des applications de rencontres promettent sur leurs pages Web de sécurité d'agir sur les plaintes d'agression sexuelle - ou, du moins, de reconnaître les avoir reçues. Beaucoup font la promotion d'outils automatisés et de messages intégrés à l'application permettant aux utilisateurs de déposer des rapports. Certains proposent des méthodes manuelles, dont la rare ligne téléphonique.

Avant son rachat par San Vincente Acquisitions en mars 2020, le site de rencontres Grindr était le seul à donner instruction à ses modérateurs de ne pas envoyer de réponses personnalisées à de telles plaintes, selon trois anciens employés.

Un porte-parole du nouveau propriétaire a déclaré qu'il avait "investi de manière significative dans l'équipe de confiance et de sécurité au cours de la dernière année" et embauché un "responsable de l'expérience client" pour revoir ses politiques en matière d'agression sexuelle.

Lorsqu'on lui a demandé si cette pratique de non-réponse personnalisée faisait partie des changements, la société a refusé de commenter.

Pour les utilisateurs d'applications de rencontres, les assurances de l'entreprise peuvent sonner vide. Parmi les 71 personnes du groupe d'enquête CJI / ProPublica qui ont déclaré s'être plaintes à une application d'une agression sexuelle – un échantillonnage volontaire et non scientifique – 37 ont déclaré ne pas avoir reçu de réponse de l'application.

Les chiffres variaient d'une application à l'autre : 8 des 10 qui ont déclaré avoir signalé une agression à Bumble ont déclaré avoir eu une réponse ; 9 sur 29 ont reçu une réponse de Tinder ; 5 sur 9 d'OkCupid; et 4 sur 6 de Match.

Même ceux qui ont reçu une réponse ont souvent exprimé leur frustration, en particulier dans les cas où ils ont reçu une réponse automatisée. Ces derniers se sentaient déshumanisants pour eux.

Sue M., 53 ans, une abonnée de PlentyofFish qui travaille dans les communications d'entreprise, est maintenant témoin dans une affaire pénale pendante déposée contre un utilisateur de POF qui, selon elle, l'a forcée à le masturber.

En juillet, six mois après s'être rendue à la police, elle l'a signalé à la plateforme de rencontres avec des détails clés comme son nom d'utilisateur. Elle a offert une copie de son rapport de police, notant que l'homme était accusé d'agression sexuelle au deuxième degré.

Un e-mail d'un employé du POF est arrivé dans la boîte de réception de Sue le lendemain – et a demandé à nouveau le nom d'utilisateur de l'accusé. Sue l'a envoyé une deuxième fois et a répété qu'elle était allée à la police.

Les captures d'écran montrent que l'employé a répondu avec le même langage passe-partout. À deux reprises, l'employé a encouragé Sue à « signaler cet incident aux forces de l'ordre », même si Sue avait mentionné à deux reprises les accusations criminelles.

En août, le profil d'utilisateur de l'accusé avait disparu de l'application, ce qui a amené Sue à croire qu'il avait été banni. Elle a envoyé un e-mail à PlentyofFish pour le confirmer, mais un employé l'a informée que l'entreprise ne "divulguait pas de détails confidentiels sur les autres membres", indique l'e-mail du 21 août 2020.

(Cai, de la Trust and Safety Professional Association, affirme qu'aucune loi n'empêche une société Internet de partager le résultat d'une plainte avec la personne qui l'a déposée. Les applications Match Group comme OkCupid et Tinder ont révélé des résultats aux utilisateurs qui ont signalé un viol. , les entretiens avec les employés et les réponses participatives le montrent.)

L'employé POF a répondu à la plainte de Sue mais a ignoré l'affaire pénale. "Je souhaite qu'ils le reconnaissent simplement", a-t-elle déclaré. Match Group n'a pas répondu aux questions écrites sur le cas de Sue, dont CJI a partagé, avec le consentement de Sue, avec l'entreprise.

Ceux qui signalent un viol considèrent souvent la réponse terne de l'entreprise - aucune réponse du tout, ou une réponse superficielle - aussi traumatisante que l'incident lui-même, disent les avocats. C'est parce que les personnes qui divulguent une agression veulent être crues et entendre des excuses.

Les plateformes de rencontres pourraient gagner la bonne volonté des utilisateurs en prenant cette mesure simple, selon Karen Baker, une défenseure des victimes qui dirige la Pennsylvania Coalition Against Rape et qui, depuis 2000, conseille les écoles, les ligues sportives professionnelles et les entreprises pour les aider à lutter contre les violences sexuelles. .

"Ils ont besoin d'entendre l'histoire de chacun … et de la reconnaître", a-t-elle déclaré. "C'est une chose humaine de dire: 'Je suis désolé que ce soit arrivé.'"

Plusieurs femmes ont déclaré à CJI dans des réponses participatives que la réponse rapide et réfléchie d'une entreprise – une réponse qui exprime de l'empathie – les faisait se sentir entendues. Mais la reconnaissance d'une entreprise ne satisfait pas toujours ceux qui recherchent un sens de la justice.

C'est ce qui a motivé Tracy Lytwyn à porter plainte auprès de Bumble en 2018 après qu'un homme qu'elle avait rencontré sur la plateforme ait retiré son préservatif sans son consentement lors d'un rapport sexuel. Certains défenseurs considèrent l'acte, appelé "furtif", comme une forme d'agression sexuelle, mais ce n'est pas une infraction pénale.

Lytwyn, une résidente de Chicago âgée de 30 ans, a déclaré qu'elle avait peu confiance en la police, mais espérait que Bumble pourrait s'assurer que l'homme ne blesserait pas d'autres utilisateurs.

Lorsque Bumble a envoyé à Lytwyn un e-mail accusant réception de son rapport, elle a supposé que le problème était résolu – jusqu'à ce que, plusieurs mois plus tard, elle s'aperçoive que l'homme était toujours sur la plate-forme. Elle s'est tournée vers Twitter pour demander une explication.

"Hé, Bumble, j'ai signalé ce type pour m'avoir agressée", se souvient-elle en tweetant à l'entreprise en mai 2018. "Pourquoi est-il toujours sur Bumble?"

Un employé a répondu par des excuses et a suggéré que l'accusé pourrait "supprimer et recréer des comptes, c'est pourquoi il réapparaît", montrent des captures d'écran. Le lendemain, l'employé a assuré à Lytwyn que Bumble avait "pris des mesures contre cet utilisateur".

Près d'un an plus tard, cependant, elle l'a revu sur l'application.

Encore une fois, elle s'est adressée à Twitter pour demander des réponses. "Un homme qui m'a violée est actuellement sur Bumble à Chicago", des captures d'écran montrent qu'elle envoie un message à l'entreprise via Twitter en octobre 2019, "et je l'ai signalé deux fois".

Un autre employé de Bumble a répondu et s'est excusé. Cet employé a déclaré que l'accusé avait réussi à "faire le tour des blocs", montrent des captures d'écran.

L'employée a assuré à Lytwyn que l'entreprise avait "pris des mesures supplémentaires pour le bloquer définitivement de Bumble" et a donné à son compte des avantages gratuits comme "un petit signe de notre appréciation" - cinq pièces Bumble d'une valeur d'environ 10 $, qu'elle a utilisées pour accéder aux fonctionnalités disponibles pour membres premium.

Trois douzaines d'utilisateurs ont déclaré à CJI qu'ils avaient revu leurs agresseurs sur diverses plateformes de rencontres. Ces femmes, comme Lytwyn, étaient plus enclines à signaler leurs allégations d'agression aux applications qu'à la police.

En général, ils pensaient que les applications seraient plus susceptibles d'agir, généralement en interdisant les utilisateurs abusifs, et ils hésitaient à se soumettre à ce qu'ils percevaient comme un processus d'application de la loi invasif.

Lytwyn a déclaré qu'elle appréciait la réponse personnalisée de Bumble mais qu'elle était frustrée que le profil de son accusé apparaisse sur l'application après la première interdiction. "Comment est-il si facile pour lui de revenir là-bas?"

Bumble a refusé de discuter de la façon dont elle traitait les rapports de Lytwyn, même après qu'elle ait signé une renonciation permettant à l'entreprise de parler de son cas. En général, Norris, son chef de produit, a déclaré que la politique de l'entreprise est de décréter un "blocage silencieux" sur le profil d'un utilisateur accusé.

Cela signifie que l'accusé peut accéder à l'application, mais les abonnés ne verront pas ses balayages et ses messages. (En théorie, l'accusé ne se rendra pas compte qu'il est bloqué et ne tentera donc pas de se reconnecter avec une nouvelle identité.)

Contrairement à une interdiction, un blocage protège la personne qui a déposé le rapport, a déclaré Norris. Pour interdire un utilisateur, la société récupère des photos, des e-mails et d'autres informations pertinentes qui empêchent la personne de créer de nouveaux comptes Bumble.

Bumble reconnaît les dommages qui se produiraient s'il développait la réputation d'héberger des violeurs, a déclaré un porte-parole.

"Je ne pense pas qu'il y ait une autre catégorie de notre entreprise dans laquelle nous puissions investir autre que la sécurité", a déclaré le porte-parole. "Nous pensons que cela peut être un grand moteur pour notre entreprise, pas seulement la bonne chose à faire."

Les dirigeants de Match Group, eHarmony et Spark Networks ont exprimé des sentiments similaires il y a près de dix ans, lorsque le bureau du procureur général de Californie, alors dirigé par Kamala Harris, a dévoilé un accord avec les trois sites de rencontres.

L'accord de 2012, présenté comme une déclaration commune de "principes commerciaux", a établi des normes de base pour ce que le bureau du procureur général a qualifié d'"importantes protections des consommateurs": des systèmes de signalement et de réponse pour lutter contre les abus hors ligne.

Dans le cadre de l'accord, qui était volontaire, les entreprises ont déclaré qu'elles procéderaient à un dépistage des délinquants sexuels enregistrés.

Ces dispositions étaient déjà en place dans certaines entreprises, ont déclaré deux sources proches de l'effort.

Et, comme ProPublica et CJI l'ont découvert dans un article précédent, Match Group les a appliqués à son produit phare, Match.com, mais pas aux sites de rencontres gratuits - dont Tinder, OkCupid et PlentyofFish - qu'il a depuis acquis.

Les entreprises ont largement maintenu leur statu quo et le bureau du procureur général a remporté une victoire politique. Le bureau du procureur général, qui n'a pas répondu aux demandes d'entretien et a refusé de répondre aux questions écrites, n'a pas fait grand-chose pour s'assurer que les applications de rencontres tiennent leurs promesses.

Maintenant, certains législateurs fédéraux lorgnent sur ces mêmes lacunes réglementaires.

En 2020, après que CJI et ProPublica ont publié un article en décembre 2019 sur l'échec des applications de rencontres pour supprimer les délinquants sexuels enregistrés de leurs sites, 11 représentants démocrates du House Energy and Commerce Committeeont exigé que Match Group divulgue ses efforts pour "répondre aux rapports". de violence sexuelle », selon une lettre datée du 20 février 2020.

Le comité a demandé des informations sur les protocoles de signalement et de réponse de l'entreprise. Selon des sources du Congrès, Match Group a proposé des réponses limitées qui suggèrent qu'il n'a pas de système standardisé.

En réponse aux conclusions du crowdsourcing, le représentant Jan Schakowsky, D-Ill. , qui a dirigé l'enquête du Congrès, a déclaré dans un communiqué qu'il était "inadmissible" que les sociétés de rencontres en ligne ne répondent pas toujours aux allégations d'agression sexuelle des clients et que les utilisateurs accusés puissent revenir sur les plateformes.

"Ils doivent répondre de leurs échecs continus", a-t-elle déclaré.

Schakowsky a présenté un projet de loi le 7 mai qui obligerait les plateformes de rencontres à appliquer leurs règles conçues pour prévenir la fraude et les abus.

Selon la proposition, les violations de cette exigence seraient classées comme des actes déloyaux ou trompeurs et soumises à l'application par la Federal Trade Commission.

Match Group a examiné le projet de loi, selon un assistant du Congrès, et a fait valoir que les sociétés de rencontres en ligne ne devraient pas être tenues responsables, citant l'article 230 de la loi fédérale de 1996 sur la décence des communications.

"La large immunité de l'article 230 garantit que la réglementation n'entrave pas l'innovation technologique ou ne supprime pas le discours en ligne", a écrit Match Group dans un dossier d'ami du tribunal et d'autres intérêts Internet déposés en 2018, "tout en encourageant en même temps la responsabilité en ligne fournisseurs de prendre des mesures pour empêcher les utilisateurs d'abuser de leurs services.

L'article 230 a été créé pour empêcher que les sites Web ne soient tenus responsables du discours de leurs utilisateurs, à moins qu'il ne soit criminel.

Mais les plateformes de rencontres, y compris Match Group, ont invoqué avec succès l'article 230 pour détourner les poursuites pour négligence pour des incidents impliquant des utilisateurs blessés par d'autres utilisateurs, y compris des victimes d'agression sexuelle.

Souvent, les juges rejettent les affaires avant qu'une partie lésée puisse même obtenir des informations sur la réponse de l'entreprise à l'agression. L'une des conséquences de cet obstacle est que très peu de poursuites civiles ont été intentées contre des sociétés de rencontres en ligne visant à les tenir responsables des préjudices subis par les utilisateurs.

Maintenant, pour la première fois en deux décennies, il y a une discussion sérieuse au Congrès - motivée par une frustration généralisée à l'égard des sites de médias sociaux tels que Facebook - sur la refonte de l'article 230.

Carrie Goldberg, une avocate des droits des victimes de New York spécialisée dans les cyberabus, a examiné le projet de loi Schakowsky. Elle pense que cela ne suffit pas et soutient que la seule solution est d'adopter une exception à la disposition qui éliminerait les dommages hors ligne de son immunité générale.

"Nous devons réformer l'article 230", a déclaré Goldberg, qui estime qu'il doit y avoir une audition au Congrès des PDG des applications de rencontres, "afin que les victimes puissent tenir responsables les entreprises dont la négligence facilite les viols".

En l'absence d'une réglementation significative, certaines sociétés Internet confrontées à un examen minutieux des politiques en matière d'agressions sexuelles ont travaillé à la réforme.

Le géant du covoiturage Uber, par exemple, a publié en 2019 un rapport de 84 pages révélant le nombre de plaintes pour agressions sexuelles formulées par ses utilisateurs et chauffeurs : près de 6 000 sur deux ans.

Uber a conçu une méthodologie unique en son genre pour suivre les incidents de violence sexuelle et auditer ses mesures de prévention.

Elle a ensuite investi dans la vérification des antécédents de ses chauffeurs, créé une équipe de soutien à la clientèle spécialisée pour le traitement des plaintes d'agression sexuelle et physique et rédigé de nouvelles règles pour agir en conséquence.

En mars, Uber s'est joint à son concurrent Lyft pour lancer une initiative visant à partager les profils des chauffeurs désactivés des plateformes en raison de violences sexuelles et physiques. Les défenseurs des victimes ont félicité l'entreprise pour sa transparence.

La transparence est une première étape essentielle pour enrayer le problème selon Baker, de la coalition anti-viol de Pennsylvanie. (Elle a également conseillé Uber sur ses efforts.) Baker pense que les sociétés de rencontres en ligne devraient publier des chiffres similaires.

Cela permettrait aux utilisateurs de choisir la plate-forme la plus sûre et au public de tenir l'industrie responsable.

"Ces problèmes se produisent dans toutes les entreprises", a déclaré Baker. "Ceux qui vous en parlent sont les bons."

Aucune application de rencontres n'a partagé de telles statistiques, même à la demande du Congrès.

Lorsque le comité du commerce de la Chambre a demandé à Match Group de divulguer le nombre de plaintes d'agression sexuelle que ses cinq plus grandes plateformes avaient enregistrées en 2019, selon un assistant du Congrès, la société n'a pas fourni de réponse.

Au lieu de cela, l'assistant a déclaré à CJI, Match Group avait révélé un chiffre différent: il a déclaré avoir renvoyé 200 demandes de ce type à la police cette année-là.

Match Group semble suivre l'exemple d'Uber par d'autres moyens. L'automne dernier, la société a embauché Tracey Breeden, chef de la sécurité d'Uber, pour diriger ses initiatives de sécurité des clients. En quelques mois, elle a annoncé que Match Group vérifiait ses politiques en matière d'agression sexuelle.

La société a également investi dans une technologie de sécurité naissante pour ses applications — premièrement, un bouton de panique sur lequel les utilisateurs peuvent appuyer pour appeler le 911 ; et deuxièmement, un service de vérification des antécédents auquel les utilisateurs peuvent accéder moyennant des frais. (Ce dernier devrait commencer son déploiement fin 2021, d'abord avec Tinder, puis avec d'autres applications.)

Match Group a refusé de mettre Breeden à disposition pour une interview. En réponse aux questions, la société a envoyé un communiqué de presse vieux de plusieurs mois sur son embauche et son audit.

"Nous nous engageons à créer des solutions exploitables en travaillant en collaboration avec des experts pour innover sur des approches de sécurité significatives et dirigées par l'industrie", a déclaré Breeden dans le communiqué du 7 décembre 2020.

Plus tôt ce mois-ci, dans une lettre aux actionnaires , Match a affirmé qu'il "établit des normes ambitieuses axées sur le bien-être émotionnel et la sécurité physique des personnes.

Cette année, nous dépenserons plus de 100 millions de dollars en produits, technologies et efforts de modération liés à la confiance et à la sécurité.

Cela peut offrir peu de consolation aux utilisateurs d'applications de rencontres comme Dong, qui, malgré l'obtention du résultat qu'elle souhaitait de Tinder, a juré de ne plus jamais utiliser le service.

L'année précédant sa manifestation, Dong avait lutté avec les retombées de son expérience de rencontres en ligne.

Elle se souvient de se réveiller chaque jour, oscillant entre le désespoir et la rage. Elle a abandonné l'école et était au chômage. Finalement, elle est allée en thérapie, où elle a décidé de canaliser ses émotions en action.

Les dossiers montrent qu'elle s'est rendue à la police mais, selon Dong, les procureurs ont refusé de poursuivre une affaire en raison de la nature de l'incident. Dong s'est tourné vers les plateformes de rencontres comme alternative.

Lorsqu'une application ne répond pas à un rapport de viol, elle a déclaré : "C'est juste un autre exemple du monde qui vous dit qu'il s'en fiche."

Aujourd'hui, Dong a déclaré qu'elle chérissait toujours la réponse d'une plate-forme : Bumble. Elle se souvient s'être sentie submergée par le "soutien immédiat" de l'entreprise, un e-mail de trois paragraphes envoyé par un employé de Bumble le 9 mai 2019.

Une phrase a résonné. "Nous sommes incroyablement attristés de lire le rapport que vous nous avez si courageusement envoyé", lit-on dans la réponse de Bumble. "Alors c'est juste horrible à entendre."

Dong, qui avait lu la réponse de Bumble à un journaliste de CJI sur FaceTime, a touché sa main à son cœur. "J'ai apprécié qu'ils aient pris le temps de faire preuve de compassion humaine", a-t-elle déclaré plus tard. Quant à Tinder, le panneau d'affichage qu'elle a transporté à son siège social est maintenant poussé sous son lit.

Brian Edwards, Elizabeth Naismith Picciani et Keith Cousins ont rapporté cet article en tant que boursiers pour Columbia Journalism Investigations, une unité de reportage d'investigation à la Columbia Journalism School. Sarah Spicer a contribué en tant qu'assistante de recherche CJI.

Le financement de CJI est fourni par la ressource de reportage d'investigation de l'école et le Centre Stabile pour le journalisme d'investigation.

Photo de l'agence Good Faces sur Unsplash