O que os aplicativos de namoro estão fazendo para proteger seus usuários?por@propublica
422 leituras

O que os aplicativos de namoro estão fazendo para proteger seus usuários?

2022/10/17
22 min
por @propublica 422 leituras
tldt arrow
PT
Read on Terminal Reader

Muito longo; Para ler

Natalie Dong, então uma estudante de engenharia de 21 anos, disse que foi estuprada em sua casa por um homem que conheceu em outro site de namoro. Ela contatou Tinder, Coffee Meets Bagel, Hinge e Tinder para relatar o que aconteceu. Todas as três plataformas pediram desculpas e informaram que haviam banido o usuário acusado. Especialistas dizem que as empresas de encontros on-line rotineiramente falham em antecipar o abuso e implementar salvaguardas para evitá-lo. Apesar das promessas de proteger os usuários de predadores sexuais, as empresas pouco fizeram para cumpri-las.
featured image - O que os aplicativos de namoro estão fazendo para proteger seus usuários?
Pro Publica HackerNoon profile picture

@propublica

Pro Publica

Pursuing stories with moral force.

Cerca de @propublica
LEARN MORE ABOUT @PROPUBLICA'S EXPERTISE AND PLACE ON THE INTERNET.
react to story with heart

Esta história foi publicada originalmente no ProPublica por Brian Edwards, Elizabeth Naismith Picciani, Sarah Spicer e Keith Cousins, Columbia Journalism Investigations . Este artigo foi co-publicado com a Columbia Journalism Investigations.

Em uma tarde ensolarada no verão de 2019, Natalie Dong estava do lado de fora da sede de vidro da popular plataforma de namoro online Tinder, no centro de Los Angeles, com uma cartolina pendurada no pescoço. Dizia: “MEU ESTUPRADOR AINDA ESTÁ NO TINDER”.

Mais de um ano antes, Dong, então uma estudante de engenharia de 21 anos, disse que havia sido estuprada em sua casa por um homem que ela conheceu em outro site de namoro, Coffee Meets Bagel.

Ele disse a Dong que estava em outras plataformas de namoro, incluindo o Tinder. Ela relatou os eventos à polícia, o que não levou a acusações criminais.

Dong se preocupava com as usuárias desses aplicativos. “Percebi que ele provavelmente ainda estava nesses aplicativos de namoro, saindo e conhecendo novas mulheres”, disse ela sobre seu suposto agressor.

Ela fez uma lista de todos os que ele disse que usava: Bumble, Coffee Meets Bagel, Hinge e Tinder. Ela entrou em contato com cada um deles para relatar o ocorrido. “Preciso que haja consequências”, disse ela.

Bumble respondeu à reclamação de Dong em 20 minutos. Hinge voltou para ela depois de três dias. Coffee Meets Bagel levou 11 dias para responder. Todas as três plataformas pediram desculpas e informaram que haviam banido o usuário acusado.

Mas quando Dong entrou em contato com o Tinder, o processo se arrastou por semanas. Depois de várias trocas de e-mail sem resultado visível, ela buscou uma atualização sobre a resposta da empresa.

“Ele é perigoso”, escreveu ela em um e-mail de 21 de maio de 2019, “e suas usuárias merecem ser mantidas seguras”.

A indústria multibilionária de namoro online não tem padrões significativos para responder a relatórios de danos offline e remover os responsáveis de suas plataformas, descobriram a Columbia Journalism Investigations e a ProPublica.

Apesar das promessas de proteger os usuários de predadores sexuais, as empresas pouco fizeram para cumpri-las. A maioria das empresas tem procedimentos vagamente definidos que forçam os funcionários a confiar em seu próprio julgamento.

Usuários de aplicativos de namoro que relatam um ataque, como Dong, geralmente precisam pressionar as empresas para que tomem medidas.

A responsabilidade de responder às denúncias de agressões recai sobre os trabalhadores, conhecidos como moderadores na linguagem do setor, que tratam das reclamações dos clientes.

Eles respondem a perguntas sobre tudo, desde disputas de cobrança até problemas de conta e alertas de golpistas. Alguns sites de namoro têm equipes de moderação especializadas em denúncias delicadas de fraude e abuso.

Mas nenhum site tem uma equipe dedicada exclusivamente a lidar com um risco inerente a uma indústria baseada na intimidade: a agressão sexual. Especialistas dizem que as empresas de encontros on-line rotineiramente falham em antecipar o abuso e implementar salvaguardas para evitá-lo.

Entrevistas com mais de 50 funcionários antigos e atuais - de moderadores da PlentyofFish a engenheiros e gerentes da OkCupid e eHarmony - revelam uma colcha de retalhos de sistemas da empresa nos quais os executivos defendem a segurança do cliente enquanto pressionam políticas destinadas a emitir reembolsos em vez de examinar as complexidades da violência sexual .

A maioria dos funcionários temia falar publicamente sobre suas experiências, alguns porque haviam assinado acordos de confidencialidade. Eles descrevem pequenas equipes de moderação lidando com centenas de reclamações por dia.

Alguns funcionários ganham apenas alguns dólares a mais do que o salário mínimo em seus estados. Eles recebem pouco treinamento sobre como lidar com queixas factualmente complexas e possivelmente criminais envolvendo estupro. Outros ainda enfrentam cotas de atendimento ao cliente que dificultam a resposta a consultas de rotina.

Na Hinge, por exemplo, moderadores que vasculham perfis de usuários sinalizados pelo software da empresa como problemáticos podem processar até 60 reclamações por hora, de acordo com dois funcionários e uma captura de tela da política da empresa.

Isso dá a esses funcionários uma média de um minuto para revisar, digamos, o uso de termos racistas e sexuais ou para avaliar os detalhes das denúncias de agressão sexual e encaminhá-las à cadeia de moderação.

Nesse momento, eles também devem decidir se desejam bloquear o usuário marcado e vasculhar as mensagens desse usuário para extrair informações relevantes.

No OkCupid, de acordo com dois funcionários e uma captura de tela dos benchmarks de moderação de 2020, há uma cota de 15 reclamações por hora para aqueles que lidam com reclamações de agressão sexual e outras reclamações mais complexas.

Isso significa que esses moderadores têm quatro minutos em média para examinar os perfis dos usuários e as mensagens do denunciante e do acusado e responder ao denunciante.

Para moderadores de aplicativos de namoro, muitas reclamações de clientes levam apenas alguns segundos para serem resolvidas. Mas casos complicados, como os que envolvem agressão sexual, podem colocar os moderadores atrás de suas cotas de horas pelo resto do dia de trabalho, de acordo com vários funcionários atuais e antigos dessas e outras plataformas de namoro.

Tais sistemas freqüentemente falham com as vítimas. A CJI e a ProPublica ouviram 224 usuários de aplicativos de namoro por meio de um questionário que buscou informações de pessoas que foram “afetadas por violência sexual” depois de usar um aplicativo de namoro.

Desses, 188 disseram que sofreram agressão ou assédio após usar um aplicativo de namoro ou foram combinados com um agressor sexual ou pessoa inadequada; 71 disseram que relataram uma agressão sexual a uma plataforma, a maioria delas nos últimos três anos.

Desses usuários, 34 disseram que nunca tiveram uma resposta. (A CJI conseguiu entrevistar 33 dos 188 que disseram ter sofrido algum tipo de agressão ou assédio e obteve relatórios policiais ou confirmação documental em 11 desses casos.)

Desde o silêncio da empresa após várias denúncias, até as descobertas surpreendentes de que perpetradores banidos ressurgiram nos aplicativos, sistemas em ruínas deixaram vítimas de violência, a grande maioria mulheres, sentindo-se traumatizadas pela segunda vez.

A CJI compartilhou essas descobertas com todas as plataformas mencionadas nas respostas de crowdsourcing e perguntou sobre seus processos de moderação e segurança. Um repórter da CJI entrou em contato com cada site de namoro mencionado nesta história sobre reivindicações específicas de funcionários e casos de usuários individuais.

Cinco plataformas se recusaram a responder a perguntas e, em vez disso, forneceram uma declaração geral. Cada um disse que a segurança dos usuários é uma prioridade e defendeu os esforços das empresas para protegê-los. (Você pode ler as declarações completas aqui .)

Três forneceram respostas parciais e um não respondeu. Apenas Bumble concordou em disponibilizar um executivo para uma entrevista.

Miles Norris, chefe de produto da Bumble, supervisionou as equipes de moderação dessa empresa por quase sete anos.

Ele disse que a Bumble, a segunda plataforma de namoro mais popular do país, já está investindo em novas medidas para proteger seus 42 milhões de usuários de agressão sexual, incluindo um algoritmo de computador para detectar bandeiras vermelhas no comportamento do usuário e um programa de software para verificar a autenticidade do usuário. fotografias.

Ainda assim, Norris reconhece a necessidade de melhorar os padrões da indústria. “Existem atores ruins por aí e você precisa melhorar constantemente”, disse ele. “Não apenas por seus sistemas e processos, mas também pelo nível de empatia, compreensão dos usuários, como você responde a eles.”

Match Group - a corporação de $ 2,4 bilhões que possui a maioria dos principais aplicativos de namoro do país, incluindo Tinder, OkCupid, PlentyofFish e Hinge - recusou vários pedidos de entrevista e não respondeu a perguntas por escrito.

Um porta-voz do Match Group disse à CJI em uma investigação anterior em 2019 que a empresa carecia de procedimentos uniformes para responder às reclamações de agressão sexual dos clientes em suas marcas.

Em dezembro de 2020, a empresa afirmou que “nos últimos anos, temos trabalhado para políticas uniformes em todas as nossas empresas”.

Os executivos do Match Group disseram que a segurança do cliente é “fundamental para nós”. A empresa contratou um novo chefe de segurança no outono passado e investiu em novas tecnologias para aprimorar seus recursos de segurança.

Em dezembro, a Match anunciou que está fazendo parceria com um grupo de defesa das vítimas para auditar suas políticas de violência sexual. Um e-mail obtido pelo CJI sugere que a revisão está completa.

Em sua declaração para este artigo, a empresa disse que está “indignada que os solteiros possam sentir medo, desconforto ou pior ao procurar conhecer alguém especial, e sempre trabalhará para melhorar nossos sistemas para garantir que todos em nossos aplicativos se sintam respeitados e seguros. ”

Para pessoas como Dong, que queria que o homem que ela acusou fosse expulso de aplicativos de namoro, esses sistemas colocam o ônus no usuário para obter uma resposta consequente.

Pouco depois de Dong ter denunciado seu estupro ao Tinder, em maio de 2019, ela enviou à empresa detalhes sobre o homem, incluindo nome de usuário, idade e número de telefone. Os dias se passaram sem uma resposta.

No 12º dia, ela enviou o e-mail de acompanhamento solicitando uma atualização e compartilhou como os outros aplicativos de namoro responderam. Dentro de 24 horas, um funcionário do Tinder informou a ela que a empresa não poderia fornecer informações adicionais.

Frustrada com o que ela chama de “contorno”, Dong decidiu tomar medidas mais drásticas. E então, por volta das 15h do dia 18 de junho de 2019, ela ficou sob o sol escaldante do lado de fora do escritório do Tinder em Los Angeles por cerca de uma hora.

Sua placa, uma cartolina preta com letras brancas rabiscadas, chamou a atenção dos poucos pedestres que passavam. Um tirou uma foto de Dong, disse ela.

Eventualmente, um funcionário saiu para oferecer água e outro se aproximou dela para coletar as mesmas informações que ela já havia fornecido. Só depois disso ela recebeu um e-mail do Tinder informando que havia banido o usuário acusado.

A irritação de Dong com a provação permanece palpável. “Eu fiquei tipo, 'Foi tão fácil assim?'” ela disse. “Por que eu tive que ir até lá para conseguir que você fizesse isso?”

Quando Natalie Dong entrou em contato com o Tinder, o processo se arrastou por semanas. Crédito: Cortesia de Natalie Dong

Quando Natalie Dong entrou em contato com o Tinder, o processo se arrastou por semanas. Crédito: Cortesia de Natalie Dong

Em sua infância, as plataformas de namoro normalmente se concentram em um objetivo: crescimento.

Nesse estágio, os executivos “não estão realmente pensando em todas as coisas terríveis que podem dar errado”, disse Adelin Cai, um veterano do Twitter e Pinterest que, em 2020, fundou a Trust and Safety Professional Association, que visa melhorar moderação online.

As startups tratam a moderação como uma reflexão tardia, disse Cai, deixando uma crise surgir antes de definir uma política.

Ela observou que as empresas de internet podem falhar em definir dois padrões fundamentais de moderação: primeiro, para monitorar o comportamento do usuário por meio de um processo de reclamação; e segundo, para remover sujeitos que violaram as regras.

Funcionários de vários aplicativos de namoro descrevem uma abordagem aleatória para monitoramento de conteúdo e atendimento ao cliente que os deixou mal equipados quando um usuário relatou uma agressão sexual, especialmente durante os primeiros dias de um aplicativo.

No OkCupid, por exemplo, os moderadores não tiveram nenhuma orientação corporativa desde seu lançamento em 2004 até 2015, mostram entrevistas e registros. Hoje, eles têm pelo menos duas semanas de treinamento geral que abrange cobrança, fraude e outras questões delicadas.

Em todo o setor, grande parte do treinamento de moderadores se concentrou em porcas e parafusos – como acessar uma fila ou classificar relatórios – de acordo com especialistas desses e de outros aplicativos. Apenas uma fração dele aborda agressão sexual em namoro online.

A plataforma One Match Group tem um manual de cerca de 50 páginas detalhando casos de alta prioridade e respostas recomendadas para reivindicações de fraude e abuso, como golpes de romance e assédio online. Sua seção sobre agressão sexual tem duas páginas.

Essa passagem descreve o que os funcionários devem fazer para responder a denúncias de estupro (“responda rapidamente, responda com empatia, dê recursos para ajudar”) e o que não devem fazer (“não envie vítimas à polícia, sem suposições, escolha a linguagem com cuidado” ).

Os registros internos da empresa sugerem que essas diretrizes surgiram de um manual improvisado que os funcionários anteriores criaram por conta própria.

Amber Tevis viveu essa experiência ad hoc como moderadora da empresa de namoro online Zoosk entre 2010 e 2015. Na época, a plataforma tinha mais de 12 milhões de usuários.

Ela era uma das seis moderadoras encarregadas de responder diariamente a dezenas de reclamações de clientes: incidentes de fraude, abuso e, ocasionalmente, violência.

Ela confiou nas poucas mensagens padrão de atendimento ao cliente que os gerentes do Zoosk forneceram até que, um dia em 2012, uma mulher ligou para a linha direta do site para relatar sua agressão. Sem saber o que fazer, Tevis colocou o usuário em espera.

Seu supervisor sugeriu que a mulher chamasse a polícia. Tevis, que estudou sociologia na faculdade e não teve educação formal em resposta a agressão sexual, lembra-se de sentir como se “aquela pessoa estivesse sozinha”.

A ligação levou os moderadores do Zoosk a esboçar um plano para lidar com denúncias de estupro: obter o nome, e-mail e outras informações relevantes do usuário denunciante; banir o usuário acusado.

“Sempre que havia uma nova situação, adicionávamos isso aos materiais de treinamento”, disse Tevis, explicando como o plano, como muitos dos procedimentos do aplicativo, tornou-se parte do manual do funcionário do Zoosk.

A Zoosk e sua controladora, a Spark Networks, não responderam a pedidos de entrevista e perguntas por escrito.

Os padrões para expulsar usuários acusados não são claros em todo o setor. Algumas plataformas instruem os moderadores a banir um usuário após uma acusação, exceto evidências contraditórias.

Outros não tiveram nenhum protocolo definido para como ou quando restringir o acesso.

Lila Gyory trabalhou em uma equipe de moderação de quatro pessoas no Coffee Meets Bagel de 2016 a 2018, quando a plataforma de namoro tinha vários milhões de assinantes.

Ela se lembra de sinalizar todas as queixas envolvendo agressão sexual para seu gerente e, em seguida, discutir como lidar com cada usuário acusado.

Devem proibir o acusado? Em vez disso, eles deveriam fazer uma anotação na conta e expulsar o usuário se a pessoa cometesse uma segunda infração? Como eles devem lidar com acusações de assédio – talvez com uma regra de três golpes?

Gyory disse que achou estressante a ausência de uma política corporativa.

Quando ela bania alguém, Gyory adicionava o perfil desse usuário a uma planilha de nomes, endereços de e-mail e fotografias.

No entanto, não demorou muito para que ela descobrisse as mesmas contas restritas no site. Ela lembra que um usuário acusado, irritado com sua expulsão, criou um novo perfil no Facebook para contornar sua proibição.

Ela o viu e o desligou. Ele configurou outro perfil - de novo e de novo.

“Foi como uma toupeira”, disse Gyory.

Coffee Meets Bagel não respondeu aos pedidos de entrevista e não respondeu à maioria das perguntas escritas. Um porta-voz da empresa disse que os moderadores seguem uma “política de tolerância zero” exigindo que eles “banam rapidamente os usuários que exibem mau comportamento”, incluindo agressão sexual.

Eles constroem “um perfil abrangente de cada usuário banido” para que quaisquer novas contas associadas ao usuário “sejam detectadas e imediatamente bloqueadas na plataforma”. Questionado se o Coffee Meets Bagel mudou sua política desde a época de Gyory, o porta-voz não respondeu.

Ao longo dos anos, conforme as empresas de encontros online alteraram as políticas de moderação, entrevistas e registros sugerem que elas não aumentaram adequadamente o número de funcionários nas equipes internas de moderação.

Funcionários de quase todos os aplicativos de namoro disseram que a equipe nunca aumentou quando milhões de usuários se juntaram. O volume de reclamações dos clientes, disseram eles, ultrapassou a capacidade da equipe de lidar com elas.

Na PlentyofFish, por exemplo, os executivos administraram cerca de 85 funcionários em todos os departamentos durante um período de cinco anos, enquanto a base de usuários registrados da empresa mais que triplicou de 30 milhões para 100 milhões. Isso significou, nos últimos anos, mais de 1 milhão de usuários por funcionário.

O OkCupid conta com moderadores voluntários e de meio período para lidar com suas reclamações, disseram quatro ex-funcionários e atuais. Um grupo de moderadores autônomos que ganham US$ 15 por hora e trabalham de 40 a 60 horas semanais tentou se sindicalizar em 2015, segundo documentos obtidos pela CJI.

Eles exigiam melhores salários e mais funcionários para atender às reclamações, entre outras coisas. Entrevistas e uma pesquisa interna mostram que eles nunca tiveram esse apoio.

Funcionários antigos e atuais do OkCupid disseram que os moderadores do serviço de namoro, agora internos ou terceirizados, atendem a pelo menos 150 reclamações por dia. O Match Group não respondeu às perguntas por escrito.

A maioria dos aplicativos de namoro promete em suas páginas da web de segurança agir em relação a reclamações de agressão sexual - ou, pelo menos, reconhecer que as recebeu. Muitos promovem ferramentas automatizadas e mensagens no aplicativo para os usuários arquivar relatórios. Alguns oferecem métodos manuais, incluindo a rara linha telefônica.

Antes de sua compra pela San Vincente Acquisitions em março de 2020, o site de encontros Grindr era o único a instruir seus moderadores a não enviar respostas personalizadas a tais reclamações, de acordo com três ex-funcionários.

Um porta-voz do novo proprietário disse que “investiu significativamente na equipe de confiança e segurança no ano passado” e contratou um “chefe de experiência do cliente” para revisar suas políticas de agressão sexual.

Questionada se essa prática de não resposta personalizada estava entre as mudanças, a empresa se recusou a comentar.

Para usuários de aplicativos de namoro, as garantias da empresa podem soar vazias. Entre os 71 no pool de pesquisa CJI/ProPublica que relataram ter reclamado para um aplicativo sobre uma agressão sexual - uma amostragem voluntária e não científica - 37 disseram que não receberam uma resposta do aplicativo.

Os números variaram de aplicativo para aplicativo: 8 dos 10 que disseram ter relatado uma agressão ao Bumble disseram que tiveram uma resposta; 9 de 29 obtiveram uma resposta do Tinder; 5 de 9 do OkCupid; e 4 de 6 de Match.

Mesmo aqueles que receberam uma resposta muitas vezes expressaram frustração, principalmente nos casos em que receberam uma resposta automática. Este último parecia desumano para eles.

Sue M., 53, uma assinante do PlentyofFish que trabalha em comunicações corporativas, agora é testemunha em um processo criminal pendente movido contra um usuário da POF que ela disse que a forçou a masturbá-lo.

Em julho, seis meses depois de ir à polícia, ela o denunciou à plataforma de namoro junto com detalhes importantes, como seu nome de usuário. Ela ofereceu uma cópia de seu relatório policial, observando que o homem foi acusado de agressão sexual de segundo grau.

Um e-mail de um funcionário da POF chegou à caixa de entrada de Sue no dia seguinte – e pedia novamente o nome de usuário do acusado. Sue o enviou pela segunda vez e reiterou que havia ido à polícia.

As capturas de tela mostram que o funcionário respondeu com a mesma linguagem clichê. Por duas vezes, o funcionário encorajou Sue a “relatar este incidente às autoridades policiais”, embora Sue tivesse mencionado duas vezes as acusações criminais.

Em agosto, o perfil de usuário do acusado havia desaparecido do aplicativo, levando Sue a acreditar que ele havia sido banido. Ela enviou um e-mail para PlentyofFish para confirmar isso, mas um funcionário a informou que a empresa não “divulga detalhes confidenciais sobre outros membros”, afirma o e-mail de 21 de agosto de 2020.

(Cai, da Trust and Safety Professional Association, diz que não há lei que impeça uma empresa de internet de compartilhar o resultado de uma reclamação com a pessoa que a apresentou. Aplicativos Match Group como OkCupid e Tinder revelaram resultados para usuários que denunciaram um estupro , entrevistas com funcionários e as respostas de crowdsourcing mostram.)

O funcionário da POF respondeu à denúncia de Sue, mas ignorou o processo criminal. “Gostaria que eles apenas reconhecessem isso”, disse ela. O Match Group não respondeu às perguntas por escrito sobre o caso de Sue, cujos detalhes a CJI compartilhou, com o consentimento de Sue, com a empresa.

Aqueles que denunciam estupro muitas vezes consideram a resposta medíocre da empresa – nenhuma, ou uma resposta superficial – tão traumatizante quanto o próprio incidente, dizem os defensores. Isso porque as pessoas que denunciam uma agressão querem acreditar e ouvir um pedido de desculpas.

As plataformas de namoro podem conquistar a boa vontade dos usuários ao dar esse passo simples, de acordo com Karen Baker, uma defensora das vítimas que dirige a Pennsylvania Coalition Against Rape e, desde 2000, aconselha escolas, ligas de esportes profissionais e empresas a ajudá-los a combater a violência sexual. .

“Eles precisam ouvir a história de todos... e reconhecê-la”, disse ela. “É uma coisa humana dizer: 'Lamento o que aconteceu.'”

Várias mulheres disseram à CJI em respostas de crowdsourcing que a resposta rápida e atenciosa de uma empresa - uma que expressa empatia - as fez se sentirem ouvidas. Mas o reconhecimento de uma empresa nem sempre satisfazia aqueles que buscavam um senso de justiça.

Foi isso que motivou Tracy Lytwyn a fazer uma denúncia ao Bumble em 2018, depois que um homem que ela conheceu na plataforma removeu a camisinha sem o consentimento dela durante o sexo. Alguns defensores consideram o ato, chamado de “stealthing”, uma forma de agressão sexual, mas não é um crime.

Lytwyn, uma moradora de Chicago de 30 anos, disse que tinha pouca confiança na polícia, mas esperava que Bumble pudesse garantir que o homem não machucaria outros usuários.

Quando Bumble enviou a Lytwyn um e-mail reconhecendo seu relatório, ela presumiu que o problema estava resolvido - até que, vários meses depois, ela viu que o homem ainda estava na plataforma. Ela recorreu ao Twitter para pedir uma explicação.

“Ei, Bumble, denunciei esse cara por me agredir”, ela lembrou de twittar para a empresa em maio de 2018. “Por que ele ainda está no Bumble?”

Um funcionário respondeu com um pedido de desculpas e sugeriu que o acusado poderia estar “excluindo e recriando contas, e é por isso que ele está reaparecendo”, mostram as capturas de tela. No dia seguinte, o funcionário garantiu a Lytwyn que Bumble havia “tomado medidas contra esse usuário”.

Quase um ano depois, no entanto, ela o viu novamente no aplicativo.

Mais uma vez, ela foi ao Twitter para exigir respostas. “Um homem que me estuprou está atualmente no Bumble em Chicago”, capturas de tela mostram sua mensagem para a empresa via Twitter em outubro de 2019, “e eu o denunciei duas vezes”.

Outro funcionário do Bumble respondeu e pediu desculpas. Esse funcionário disse que o acusado conseguiu “circunnavegar os quarteirões”, mostram as capturas de tela.

A funcionária garantiu a Lytwyn que a empresa havia “tomado medidas adicionais para bloqueá-lo permanentemente do Bumble” e deu à sua conta vantagens gratuitas como “um pequeno símbolo de nossa gratidão” - cinco Bumble Coins no valor de cerca de US $ 10, que ela usou para acessar os recursos disponíveis para membros premium.

Três dezenas de usuários disseram ao CJI que viram seus agressores de volta em várias plataformas de namoro. Essas mulheres, como Lytwyn, estavam mais inclinadas a denunciar suas denúncias de agressão aos aplicativos do que à polícia.

Em geral, eles achavam que os aplicativos teriam maior probabilidade de agir, geralmente banindo usuários abusivos, e hesitavam em se sujeitar ao que consideravam um processo invasivo de aplicação da lei.

Lytwyn disse que apreciou a resposta personalizada de Bumble, mas ficou frustrada porque o perfil de seu acusado apareceu no aplicativo após o primeiro banimento. “Como é tão fácil para ele voltar lá?”

Bumble se recusou a discutir como lidou com os relatórios de Lytwyn, mesmo depois que ela assinou um termo de responsabilidade permitindo que a empresa falasse sobre seu caso. Em geral, Norris, seu chefe de produto, disse que a política da empresa é decretar um “bloqueio silencioso” no perfil de um usuário acusado.

Isso significa que o acusado pode acessar o aplicativo, mas os assinantes não verão seus deslizes e mensagens. (Em teoria, o acusado não perceberá que está bloqueado e, portanto, não tentará se inscrever novamente usando uma nova identidade.)

Ao contrário de uma proibição, um bloqueio protege a pessoa que apresentou a denúncia, disse Norris. Para banir um usuário, a empresa pega fotos, e-mails e outras informações relevantes que impedem a pessoa de criar novas contas no Bumble.

Bumble reconhece o dano que ocorreria se desenvolvesse uma reputação de abrigar estupradores, disse um porta-voz.

“Acho que não existe nenhuma outra categoria de nosso negócio na qual possamos investir além da segurança”, disse o porta-voz. “Achamos que isso pode ser um grande impulsionador para o nosso negócio, não apenas a coisa certa a fazer.”

Tracy Lytwyn foi ao Twitter depois de ver um homem que ela havia denunciado ao Bumble reaparecer no site. Crédito: Cortesia de Tracy Lytwyn

Tracy Lytwyn foi ao Twitter depois de ver um homem que ela havia denunciado ao Bumble reaparecer no site. Crédito: Cortesia de Tracy Lytwyn

Os executivos do Match Group, eHarmony e Spark Networks expressaram sentimentos semelhantes há quase uma década, quando o escritório do procurador-geral da Califórnia, então liderado por Kamala Harris, revelou um acordo com os três sites de namoro.

O acordo de 2012, anunciado como uma declaração conjunta de “princípios de negócios”, estabeleceu padrões básicos para o que o gabinete do procurador-geral chamou de “proteções importantes do consumidor”: sistemas de denúncia e resposta para lidar com o abuso off-line.

Como parte do acordo, que era voluntário, as empresas disseram que iriam rastrear criminosos sexuais registrados.

Essas disposições já estavam em vigor em algumas empresas, disseram duas fontes familiarizadas com o esforço.

E, como o ProPublica e o CJI descobriram em um artigo anterior, o Match Group os aplicou ao seu carro-chefe, Match.com, mas não aos sites de namoro gratuitos - incluindo Tinder, OkCupid e PlentyofFish - que adquiriu desde então.

As empresas mantiveram em grande parte seu status quo e o gabinete do procurador-geral obteve uma vitória política. O escritório do procurador-geral, que não respondeu aos pedidos de entrevista e se recusou a responder a perguntas por escrito, fez pouco para garantir que os aplicativos de namoro cumpram suas promessas.

Agora, alguns legisladores federais estão de olho nessas mesmas lacunas regulatórias.

Em 2020, depois que a CJI e a ProPublica publicaram um artigo em dezembro de 2019 sobre o fracasso de aplicativos de namoro em remover criminosos sexuais registrados de seus sites, 11 representantes democratas do Comitê de Energia e Comércio da Câmaraexigiram que o Match Group divulgasse seus esforços para “responder a relatórios de violência sexual”, de acordo com uma carta datada de 20 de fevereiro de 2020.

O comitê buscou informações sobre os protocolos de relatórios e respostas da empresa. De acordo com fontes do Congresso, o Match Group ofereceu respostas limitadas que sugerem que falta um sistema padronizado.

Em resposta às descobertas de crowdsourcing, o deputado Jan Schakowsky, D-Ill. , que liderou a investigação do Congresso, disse em um comunicado que é "inconcebível" que as empresas de encontros on-line nem sempre respondam às alegações de agressão sexual dos clientes e que os usuários acusados possam voltar às plataformas.

“Eles devem responder por suas falhas contínuas”, disse ela.

Schakowsky apresentou um projeto de lei em 7 de maio que exigiria que as plataformas de namoro aplicassem suas regras destinadas a evitar fraudes e abusos.

De acordo com a proposta, as violações desse requisito seriam categorizadas como atos injustos ou enganosos e sujeitas à fiscalização da Federal Trade Commission.

O Match Group revisou o projeto de lei, de acordo com um assessor do Congresso, e argumentou que as empresas de namoro online não devem ser responsabilizadas, citando a Seção 230 da Lei Federal de Decência nas Comunicações de 1996.

“A ampla imunidade da Seção 230 garante que a regulamentação não restrinja a inovação tecnológica ou suprima o discurso online”, escreveu o Match Group em um resumo de amigo do tribunal e outros interesses da Internet arquivados em 2018, “enquanto, ao mesmo tempo, incentivando o comportamento online responsável os provedores tomem medidas para impedir que os usuários façam uso indevido de seus serviços”.

A Seção 230 foi criada para proteger os sites de serem responsabilizados pelo discurso de seus usuários, a menos que seja criminoso.

Mas as plataformas de namoro, incluindo o Match Group, invocaram com sucesso a Seção 230 para evitar ações judiciais alegando negligência por incidentes envolvendo usuários prejudicados por outros usuários, incluindo vítimas de agressão sexual.

Freqüentemente, os juízes encerram os casos antes que uma parte prejudicada possa obter informações sobre a resposta da empresa ao ataque. Um resultado desse obstáculo é que pouquíssimas ações civis foram movidas contra empresas de encontros on-line buscando responsabilizá-las por danos sofridos pelos usuários.

Agora, pela primeira vez em duas décadas, há uma discussão séria no Congresso – motivada pela frustração generalizada com sites de mídia social como o Facebook – sobre a revisão da Seção 230.

Carrie Goldberg, uma advogada de direitos das vítimas da cidade de Nova York especializada em abuso cibernético, revisou o projeto de lei de Schakowsky. Ela acredita que é insuficiente e argumenta que a única solução é aprovar uma exceção à disposição que eliminaria danos off-line de sua imunidade geral.

“Temos que reformar a Seção 230”, disse Goldberg, que acredita que deve haver uma audiência no Congresso dos CEOs de aplicativos de namoro, “para que as vítimas possam responsabilizar as empresas cuja negligência está facilitando os estupros”.

Na ausência de regulamentação significativa, algumas empresas de internet que enfrentam escrutínio sobre as políticas de agressão sexual trabalharam para reformar.

A gigante do compartilhamento de viagens Uber, por exemplo, divulgou um relatório de 84 páginas em 2019 revelando o número de reclamações de agressão sexual feitas por seus usuários e motoristas: quase 6.000 em dois anos.

A Uber desenvolveu uma metodologia inédita para rastrear incidentes de violência sexual e auditar suas medidas de prevenção.

Em seguida, investiu na verificação de antecedentes de seus motoristas, criou uma equipe especializada de atendimento ao cliente para lidar com reclamações de agressão sexual e física e elaborou novas regras para agir sobre elas.

Em março, o Uber se juntou ao concorrente Lyft para lançar um esforço para compartilhar os perfis de motoristas que são desativados das plataformas por causa de violência sexual e física. Os defensores das vítimas elogiaram a empresa por sua transparência.

A transparência é um primeiro passo crítico para conter o problema de acordo com Baker, da coalizão anti-estupro da Pensilvânia. (Ela também aconselhou o Uber em seu esforço.) Baker acredita que as empresas de namoro online devem divulgar números semelhantes.

Isso permitiria aos usuários escolher a plataforma mais segura e ao público responsabilizar o setor.

“Esses problemas estão acontecendo em todas as empresas”, disse Baker. “Os que estão falando sobre isso são os bons.”

Nenhum aplicativo de namoro compartilhou essas estatísticas - nem mesmo quando solicitado pelo Congresso.

Quando o comitê de comércio da Câmara pediu ao Match Group que divulgasse quantas reclamações de agressão sexual suas cinco maiores plataformas haviam registrado em 2019, de acordo com um assessor do Congresso, a empresa não forneceu uma resposta.

Em vez disso, disse o assessor à CJI, o Match Group havia revelado um número diferente: disse que havia encaminhado 200 reclamações desse tipo à polícia naquele ano.

O Match Group parece estar seguindo o exemplo do Uber de outras maneiras. No outono passado, a empresa contratou Tracey Breeden, chefe de segurança do Uber, para liderar suas iniciativas de segurança do cliente. Em poucos meses, ela anunciou que o Match Group estava auditando suas políticas de agressão sexual.

A empresa também investiu em tecnologia de segurança nascente para seus aplicativos - primeiro, um botão de pânico que os usuários podem pressionar para ligar para o 911; e segundo, um serviço de verificação de antecedentes que os usuários podem acessar mediante o pagamento de uma taxa. (Este último está programado para começar a ser lançado no final de 2021, primeiro com o Tinder, depois com outros aplicativos.)

O Match Group se recusou a disponibilizar Breeden para uma entrevista. Em resposta a perguntas, a empresa enviou um press release de meses atrás sobre sua contratação e sua auditoria.

“Estamos comprometidos em criar soluções acionáveis trabalhando em colaboração com especialistas para inovar em abordagens de segurança significativas lideradas pelo setor”, disse Breeden no comunicado de 7 de dezembro de 2020.

No início deste mês, em carta aos acionistas , a Match afirmou que está “estabelecendo padrões ambiciosos focados em manter as pessoas emocionalmente bem e fisicamente seguras.

Este ano, gastaremos mais de US$ 100 milhões em produtos, tecnologia e esforços de moderação relacionados à confiança e segurança”.

Isso pode oferecer pouco consolo para usuários de aplicativos de namoro como Dong, que, apesar de obter o resultado que queria do Tinder, jurou nunca mais usar o serviço.

No ano anterior ao seu protesto, Dong lutou contra as consequências de sua experiência de namoro online.

Ela se lembra de acordar todos os dias, vacilando entre o desespero e a raiva. Ela abandonou a escola e estava desempregada. Por fim, ela foi para a terapia, onde decidiu canalizar suas emoções para a ação.

Os registros mostram que ela foi à polícia, mas, de acordo com Dong, os promotores se recusaram a prosseguir com o caso por causa da natureza do incidente. Dong voltou-se para as plataformas de namoro como alternativa.

Quando um aplicativo não responde a uma denúncia de estupro, ela disse: “É apenas mais um exemplo do mundo dizendo que eles não se importam”.

Hoje, Dong disse que ainda aprecia a resposta de uma plataforma: Bumble. Ela se lembra de ter se sentido sobrecarregada com o “suporte imediato” da empresa, um e-mail de três parágrafos enviado por um funcionário da Bumble em 9 de maio de 2019.

Uma frase ressoou. “Estamos incrivelmente tristes ao ler o relatório que você tão corajosamente nos enviou”, dizia a resposta de Bumble. “Então é horrível ouvir isso.”

Dong, que leu a resposta de Bumble a um repórter da CJI no FaceTime, levou a mão ao coração. “Apreciei que eles dedicaram tempo para mostrar compaixão humana”, disse ela mais tarde. Quanto ao Tinder, o cartaz que ela levou para a sede agora está enfiado debaixo da cama.


Brian Edwards, Elizabeth Naismith Picciani e Keith Cousins relataram este artigo como bolsistas da Columbia Journalism Investigations, uma unidade de reportagem investigativa da Columbia Journalism School. Sarah Spicer contribuiu como assistente de pesquisa do CJI.

O financiamento para o CJI é fornecido pelo Investigative Reporting Resource da escola e pelo Stabile Center for Investigative Journalism.

Foto da Agência Good Faces no Unsplash

HISTÓRIAS RELACIONADAS

L O A D I N G
. . . comments & more!
Hackernoon hq - po box 2206, edwards, colorado 81632, usa