出会い系アプリはユーザーを保護するために何をしていますか?

この記事はもともと、ブライアン エドワーズ、エリザベス ナイスミスピッチアーニ、サラ スパイサー、キース カズンズによってProPublicaに掲載されました。この記事は、Columbia Journalism Investigations と共同発行されています。

2019 年の夏の晴れた日の午後、ナタリー ドンは、ロサンゼルスのダウンタウンにある人気のオンライン デート プラットフォーム Tinder のガラス張りの本社の外に立って、首からポスター ボードを掛けていました。 「私のレイピストはまだTINDERにいます」と書かれていました。

1 年以上前、当時 21 歳の工学部の学生だったドンは、別の出会い系サイト、Coffee Meets Bagel で知り合った男性に自宅でレイプされたと語った。

彼はドンに、Tinder を含む他の出会い系プラットフォームを利用していると語った。彼女は事件を警察に報告したが、刑事告発には至らなかった。

ドンは、これらのアプリの女性ユーザーを心配しています。 「彼はおそらくまだこれらの出会い系アプリを利用していて、外出して新しい女性と出会っていることに気付きました」と彼女は攻撃を受けたとされる人について語った.

彼女は、彼が使用したと言ったすべてのもののリストを作成しました.Bumble、Coffee Meets Bagel、Hinge、Tinder.彼女はそれぞれに連絡を取り、何が起こったのかを報告しました。 「結果が必要です」と彼女は言いました。

バンブルは、20 分でドンの苦情に対応しました。ヒンジは3日後に彼女に戻ってきました。 Coffee Meets Bagel からの返信には 11 日かかりました。 3つのプラットフォームすべてが謝罪し、告発されたユーザーを禁止したことを彼女に知らせました.

しかし、Dong が Tinder に連絡したとき、プロセスは何週間も続いた.目に見える結果が得られない数回の電子メール交換の後、彼女は会社の対応に関する最新情報を求めました。

「彼は危険です」と彼女は 2019 年 5 月 21 日の電子メールに書いています。

数十億ドル規模のオンラインデート業界には、オフラインでの被害の報告に対応し、責任者をプラットフォームから排除するための意味のある基準がないことが、Columbia Journalism Investigations と ProPublica によって判明しました。

ユーザーを性的捕食者から保護するという誓約にもかかわらず、企業はそれをほとんど守っていません。ほとんどの企業は、従業員が自分の判断に頼ることを強いる大まかな手順を定義しています。

ドンのように、攻撃を報告した出会い系アプリのユーザーは、多くの場合、企業に行動を起こさせる必要があります。

暴行の報告に対応する責任は、業界用語でモデレーターとして知られる、顧客の苦情を処理する労働者にあります。

請求に関する紛争からアカウントの問題、詐欺師の警告まで、あらゆる質問に対応します。一部の出会い系サイトには、専門のモデレーション チームがあり、詐欺や悪用に関するデリケートな申し立てに対応しています。

しかし、親密さに基づいて構築された業界に固有のリスクである性的暴行に対処することに専念するチームを持っているサイトはありません.専門家によると、オンラインの出会い系企業は日常的に、虐待を予測できず、それを防ぐための安全策を講じていません。

PlentyofFish のモデレーターから、OkCupid や eHarmony のエンジニアやマネージャーまで、50 人以上の元および現在の従業員へのインタビューでは、複雑な性的暴力を精査するのではなく、払い戻しを行うように設計されたポリシーを推進しながら、幹部が顧客の安全を宣伝する会社のシステムのパッチワークが明らかになりました。 .

ほとんどの従業員は、秘密保持契約に署名していたため、自分の経験を公に話すことを恐れていました。彼らは、小規模なモデレーション チームが 1 日に何百もの苦情を処理していると説明しています。

一部の従業員は、州の最低賃金よりもわずか数ドル多いだけです。彼らは、レイプを含む事実上複雑で、場合によっては刑事告訴を処理する方法について、ほとんど訓練を受けていません。さらに、定期的な問い合わせへの回答を困難にする顧客サービスの割り当てと競合する人もいます.

たとえば、Hinge では、会社のソフトウェアによって問題があるとフラグが付けられたユーザー プロファイルを精査するモデレーターは、2 人の従業員と会社のポリシーのスクリーンショットによると、1 時間あたり最大 60 件の苦情を処理できます。

これにより、これらの従業員は平均 1 分で、人種差別用語や性的な用語の使用を確認したり、性的暴行の申し立ての詳細を評価してモデレーション チェーンに転送したりできます。

この時点で、タグ付けされたユーザーをブロックするかどうか、およびそのユーザーのメッセージをくまなく調べて関連情報を引き出すかどうかも決定する必要があります。

OkCupid では、2 人の従業員と 2020 年のモデレーション ベンチマークのスクリーンショットによると、性的暴行の申し立てやその他のより複雑な申し立てを処理する人には、1 時間あたり 15 件の苦情の割り当てがあります。

つまり、これらのモデレーターは、原告と被告の両方のユーザー プロファイルとメッセージを精査し、苦情を申し立てた人に応答するために、平均 4 分間の猶予を与えられます。

出会い系アプリのモデレーターの場合、多くの顧客からの苦情に対処するのに数秒しかかかりません。しかし、性的暴行を含むような複雑なケースでは、モデレーターが残りの勤務時間の時間割り当てを下回ってしまう可能性があると、これらおよび他の出会い系プラットフォームの現在および元の複数の従業員によると.

このようなシステムは、被害者に失敗することがよくあります。 CJI と ProPublica は、224 人の出会い系アプリ ユーザーから、出会い系アプリを使用した後に「性的暴力の影響を受けた」人々からの意見を求めるアンケートを通じて聞き取りを行いました。

そのうちの 188 人は、出会い系アプリを使用した後に暴行や嫌がらせを経験したり、性犯罪者や不適切な人物とマッチングしたりしたと述べています。 71 人がプラットフォームに性的暴行を報告したと述べており、そのほとんどが過去 3 年間に報告されました。

それらのユーザーのうち、34 人は返事がないと言いました。 (CJI は、188 人のうち 33 人にインタビューすることができました。彼らは、何らかの形で暴行または嫌がらせを受けたと述べ、そのうち 11 人で警察の報告書または文書による確認を得たと述べています。)

複数の申し立てが提出された後の会社の沈黙から、禁止された加害者がアプリに再び現れたという驚くべき発見まで、壊れそうなシステムは暴力の犠牲者を残し、その大多数は女性であり、2度目のトラウマを感じています.

CJI は、クラウドソーシングによる回答で言及されたすべてのプラットフォームとこれらの調査結果を共有し、モデレーションと安全プロセスについて尋ねました。 CJI の記者は、この記事で名前が挙げられている各出会い系サイトに、特定の従業員の主張と個々のユーザー ケースについて問い合わせました。

5 つのプラットフォームは質問への回答を拒否し、代わりに一般的な意見を述べました。それぞれが、ユーザーの安全が最優先事項であると述べ、ユーザーを保護するための企業の取り組みを擁護しました。 （声明全文はこちらで読むことができます。）

3 人は部分的な回答を提供し、1 人は無回答でした。バンブルだけが、役員をインタビューに応じさせることに同意した.

バンブルのプロダクトチーフであるマイルズ・ノリスは、同社のモデレーションチームを7年近く監督してきた。

彼によると、国内で 2 番目に人気のある出会い系プラットフォームである Bumble は、4,200 万人のユーザーを性的暴行から保護するための新しい対策にすでに投資しており、これには、ユーザーの行動の危険信号を検出するためのコンピューター アルゴリズムや、ユーザーの信憑性を検証するためのソフトウェア プログラムが含まれます。写真。

それでも、Norris は業界標準を改善する必要性を認識しています。 「そこには悪い俳優がいて、常に改善する必要があります」と彼は言いました。 「システムやプロセスだけでなく、共感のレベル、ユーザーへの理解、ユーザーへの対応方法によっても異なります。」

Match Group — Tinder、OkCupid、PlentyofFish、Hinge など、国内トップの出会い系アプリのほとんどを所有する 24 億ドル規模の企業 — は、複数のインタビューのリクエストを断り、書面による質問には回答しませんでした。

Match Group の広報担当者は、2019 年の以前の調査で CJI に、同社はブランド全体で顧客の性的暴行の苦情に対応するための統一された手順を欠いていると語った.

2020 年 12 月、同社は「ここ数年、すべての会社で統一されたポリシーに向けて取り組んでいる」と述べました。

Match Group の幹部は、顧客の安全は「私たちにとって最優先事項」であると述べています。同社は昨年の秋に新しい安全責任者を雇い、安全機能を強化するための新しい技術に投資しました。

12 月、Match は、被害者擁護団体と提携して性的暴力に関するポリシーを監査していると発表しました。 CJI が取得した電子メールは、レビューが完了したことを示唆しています。

この記事の声明で、同社は「独身者が特別な人に会いたいときに恐怖、不快感、または悪化を経験する可能性があることに憤慨しており、アプリのすべての人が尊重され、安全であると感じられるようにシステムを改善するために常に取り組んでいます. 」

彼女が告発した男性が出会い系アプリから追放されることを望んでいたドンのような人々にとって、これらのシステムは結果的な反応を得る責任をユーザーに負わせました.

ドンがレイプを Tinder に報告して間もなく、2019 年 5 月、彼女はユーザー名、年齢、電話番号など、男性に関する詳細を会社に送信しました。返事がないまま、日が経ちました。

12 日目に、彼女は更新を求めるフォローアップ メールを送信し、他の出会い系アプリがどのように返信したかを共有しました。 24 時間以内に、Tinder の従業員は、会社が追加情報を提供できないことを彼女に知らせました。

彼女が「回り道」と呼んでいるものに不満を感じたドンは、より抜本的な行動を取ることにしました。 2019 年 6 月 18 日の午後 3 時頃、彼女は Tinder の LA オフィスの外で焼けつく太陽の下で約 1 時間立っていました。

白い文字が走り書きされた黒いポスターボードである彼女のサインは、通り過ぎる数人の歩行者の目を引きました。一人はドンの写真を撮った、と彼女は言った。

最終的に、従業員が彼女に水を提供するために出てきて、別の従業員が彼女に近づいて、彼女がすでに提供したのと同じ情報を収集しました.その後、彼女は Tinder から、告発されたユーザーを禁止したことを知らせるメールを受け取りました。

試練に対するドンの苛立ちは明白です。 「『そんなに簡単だったの？』って感じでした」と彼女は言いました。 「なぜ私はあなたにこれをさせるためにそこに行かなければならなかったのですか？」

初期段階では、出会い系プラットフォームは通常、成長という 1 つの目標に焦点を当てています。

その段階では、エグゼクティブは「うまくいかない可能性のあるすべての恐ろしいことについて実際に考えているわけではありません」と、2020年に信頼と安全の専門家協会を設立したTwitterとPinterestのベテランであるアデリン・カイは述べています。オンラインモデレーション。

新興企業は節度を後付けとして扱い、ポリシーを設定する前に危機が生じるのを許す、と Cai 氏は述べた。

彼女は、インターネット企業が 2 つの基本的なモデレーション基準を設定できない可能性があると指摘しました。第二に、ルールに違反したことが判明した被験者を削除します。

複数の出会い系アプリの従業員は、特にアプリの初期の段階で、ユーザーが性的暴行を報告したときに、コンテンツの監視と顧客サービスへの無計画なアプローチについて説明しています.

たとえば、OkCupid では、2004 年の立ち上げから 2015 年まで、モデレーターは企業のガイダンスを受けていなかったことが、インタビューや記録で示されています。現在、彼らは請求、詐欺、その他のデリケートな問題をカバーする一般的なトレーニングを少なくとも 2 週間受けています。

これらのアプリや他のアプリのインサイダーによると、業界全体で、モデレーターのトレーニングの多くは基本的なこと (キューにアクセスする方法やレポートを分類する方法) に焦点を当てています。オンラインデートの性的暴行に触れているのはほんの一部です.

One Match Group プラットフォームには、ロマンス詐欺やオンラインハラスメントなどの詐欺や虐待の申し立てに対する最優先事項と推奨される対応を詳述した約 50 ページのマニュアルがあります。性的暴行に関するセクションは 2 ページです。

この一節は、従業員がレイプの報告に対応するために何をすべきか (「迅速に回答し、共感を持って対応し、助けを求めるリソースを提供する」)、すべきでないこと (「被害者を警察に送らない、思い込みを持たない、慎重に言葉を選ぶ」) を概説しています。 ）。

社内記録によると、これらのガイドラインは、過去の従業員が独自に作成した即興のハンドブックから派生したものです。

Amber Tevis は、2010 年から 2015 年にかけてオンライン デート会社 Zoosk のモデレーターとして、このアドホックな経験をしました。当時、このプラットフォームには 1,200 万人以上のユーザーがいました。

彼女は、毎日数十件の顧客からの苦情に対応する任務を負った 6 人のモデレーターの 1 人でした。

2012 年のある日、ある女性がサイトのホットラインに電話して暴行を報告するまで、彼女は Zoosk のマネージャーが提供したいくつかの定型的な顧客サービス メッセージに頼っていました。何をすべきかわからないので、Tevis はユーザーを保留にしました。

彼女の上司は、その女性に警察に通報するよう提案しました。大学で社会学を学び、性的暴行への対応に関する正式な教育を受けていないテビスは、「あの人は独りぼっちだった」と感じたことを覚えています。

この電話により、Zoosk のモデレーターはレイプの報告を処理するための計画を作成しました。報告したユーザーの名前、電子メール、その他の関連情報を取得します。告発されたユーザーを禁止します。

「新しい状況が発生するたびに、それをトレーニング資料に追加します」と Tevis 氏は述べ、この計画が、アプリの多くの手順と同様に、Zoosk の従業員マニュアルの一部になったことを説明しました。

Zoosk とその親会社である Spark Networks は、インタビューのリクエストと書面による質問に応答しませんでした。

告発されたユーザーを追放する基準は、業界全体で明確ではありません。一部のプラットフォームでは、矛盾する証拠を除いて、1 回の告発後にユーザーを禁止するようモデレーターに指示しています。

また、いつ、どのようにアクセスを制限するかについて、プロトコルが設定されていないものもあります。

Lila Gyory は、2016 年から 2018 年まで、Coffee Meets Bagel の 4 人のモデレーション チームで働きました。このとき、デート プラットフォームには数百万人の加入者がいました。

彼女は、マネージャーのために性的暴行に関連するすべての苦情にフラグを立て、告発されたすべてのユーザーを処理する方法について話し合ったことを覚えています。

彼らは被告人を出入り禁止にするべきですか？代わりに、アカウントにメモを作成し、ユーザーが 2 回目の違反を犯した場合はユーザーを追放する必要がありますか?彼らは嫌がらせの告発にどのように対処すべきでしょうか?おそらくスリー ストライク ルールで?

Gyory 氏は、企業ポリシーの欠如がストレスになっていると述べた。

彼女が誰かを禁止したとき、Gyory はそのユーザーのプロフィールを名前、電子メール アドレス、写真のスプレッドシートに追加しました。

しかし、同じ制限付きアカウントがサイトに戻ってくるのを発見するまでに、それほど時間はかかりませんでした。彼女は、告発されたユーザーの 1 人が、彼の追放に腹を立て、彼の禁止を回避するために新しい Facebook プロフィールを作成したことを思い出します。

彼女は彼を見つけて黙らせた。彼は別のプロファイルを設定しました — 何度も何度も。

「モグラたたきのようでした」とジョリーは言いました。

Coffee Meets Bagel はインタビューのリクエストに応じず、書面による質問のほとんどに回答しませんでした.同社の広報担当者は、モデレーターは性的暴行を含む「悪い行動を示すユーザーを迅速に禁止する」ことを要求する「ゼロ・トレランス・ポリシー」に従っていると述べた。

彼らは「禁止された各ユーザーの包括的なプロファイル」を構築し、そのユーザーに関連付けられた新しいアカウントが「検出され、プラットフォームから即座にブロックされる」ようにします。 Coffee Meets Bagel は、Gyory の時代からポリシーを変更したかどうかを尋ねられたが、広報担当者は答えなかった.

何年にもわたって、オンラインデート会社はモデレーションポリシーを修正してきましたが、インタビューや記録は、社内のモデレーションチームの人員を十分に増やしていないことを示唆しています.

ほぼすべての出会い系アプリの従業員は、何百万人ものユーザーが参加したため、チームがスケールアップしたことはないと述べています。彼らによると、顧客からの苦情の量は、スタッフの対応能力を上回っていました。

たとえば、PlentyofFish では、同社の登録ユーザー ベースが 3,000 万から 1 億へと 3 倍以上に増加したため、幹部は 5 年間にわたってすべての部門で合計約 85 人の従業員を管理していました。これは、後年、スタッフ 1 人あたりのユーザー数が 100 万人を超えたことを意味します。

OkCupid は、苦情の処理を非常勤およびボランティアのモデレーターに依存してきた、と 4 人の元および現在の従業員は述べた。 CJI が入手した文書によると、週 40 時間から 60 時間働きながら時給 15 ドルを稼いでいるフリーランスのモデレーターのグループが 2015 年に組合を結成しようとした。

彼らは、苦情に対処するために、より良い賃金とより多くの従業員を要求しました。インタビューと内部調査によると、彼らはこのサポートを受けていませんでした.

元および現在の OkCupid の従業員によると、デート サービスのモデレーターは現在、社内または外部委託されており、1 日あたり少なくとも 150 件の苦情を処理しています。マッチ グループは、書面による質問に回答しませんでした。

ほとんどの出会い系アプリは、安全性に関する Web ページで、性的暴行の苦情に対処することを約束しています。または、少なくとも、苦情を受け取ったことを認めています。多くは、ユーザーがレポートを提出するための自動ツールとアプリ内メッセージを宣伝しています。まれな電話回線など、手動の方法を提供するものもあります。

3 人の元従業員によると、2020 年 3 月に San Vincente Acquisitions が買収する前は、出会い系サイト Grindr だけがモデレーターにそのような苦情に対して個別の応答を送信しないように指示していました。

新しい所有者の広報担当者は、「昨年、Trust and Safety チームに多額の投資を行い」、「カスタマー エクスペリエンスの責任者」を雇って性的暴行ポリシーを見直したと述べました。

このパーソナライズされていない回答の慣行が変更の中に含まれているかどうかを尋ねられたとき、同社はコメントを拒否しました.

出会い系アプリのユーザーの場合、会社の保証は空っぽになる可能性があります. CJI/ProPublica の調査対象者のうち、性的暴行についてアプリに苦情を申し立てたと報告した 71 人のうち 37 人は、アプリから回答が得られなかったと述べています。

数字はアプリごとに異なり、バンブルへの暴行を報告したと答えた 10 人中 8 人が、報告を受けたと答えました。 29 人中 9 人が Tinder から回答を得ました。 5 of 9 OkCupid から;マッチからの4/6。

応答を受け取った人でさえ、特に自動応答を受け取った場合に、不満を表明することがよくありました。後者は彼らにとって非人間的だと感じました。

PlentyofFish の加入者で、企業の広報担当者である Sue M. さん (53 歳) は、自慰行為を強要されたという POF ユーザーに対して提起された係属中の刑事訴訟の証人になりました。

警察に出頭してから 6 か月後の 7 月、彼女は、ユーザー名などの重要な詳細情報とともに、彼を出会い系プラットフォームに報告しました。彼女は警察の報告書のコピーを提示し、その男が重罪の第 2 級性的暴行で起訴されたことを指摘しました。

翌日、POF の従業員からの電子メールが Sue の受信トレイに届き、被告人のユーザー名を再度尋ねました。スーはそれをもう一度送信し、警察に行ったことを繰り返しました。

スクリーンショットは、従業員が同じボイラープレート言語で返信したことを示しています。スーは刑事告発について 2 回言及したにもかかわらず、従業員は 2 回、スーに「この事件を法執行機関に報告する」ように勧めました。

8 月までに、被告人のユーザー プロフィールがアプリから削除されたため、スーは自分が禁止されていると信じていました。彼女はそれを確認するためにPlentyofFishに電子メールを送りましたが、従業員は、会社が「他のメンバーに関する機密情報を開示しない」ことを彼女に通知しました、と2020年8月21日の電子メールは述べています.

（Trust and Safety Professional AssociationのCai氏は、インターネット企業が苦情の結果をそれを提出した人と共有することを禁止する法律はないと述べています.OkCupidやTinderなどのMatch Groupアプリは、レイプを報告したユーザーに結果を明らかにしました. 、従業員のインタビュー、およびクラウドソーシングによる回答が表示されます。)

POF の従業員はスーの苦情に答えたが、刑事事件は無視した。 「彼らがそれを認めてくれればいいのに」と彼女は言った。 Match Group は、CJI が Sue の同意を得て会社と共有した詳細について、Sue のケースに関する書面による質問に回答しませんでした。

レイプを報告する人々は、会社の精彩を欠いた対応 (まったく何もないか、おざなりな対応) を、事件自体と同じくらいトラウマになると考えることが多い、と擁護者は言います。それは、暴行を公表する人々は、信じてもらい、謝罪を聞きたいからです。

被害者の擁護者であり、ペンシルベニア州レイプ反対連合を率い、2000 年以来、学校、プロ スポーツ リーグ、企業に性的暴力と闘うのを支援するよう助言してきたカレン ベイカーによると、出会い系プラットフォームは、この簡単な手順を踏むことでユーザーから好意を得ることができます。 .

「彼らはみんなの話を聞く必要があります...そしてそれを認める必要があります」と彼女は言いました. 「『申し訳ありません』と言うのは人間の行動です。」

複数の女性が、CJI のクラウドソーシングによる回答の中で、同社の迅速で思慮深い回答 (共感を表すもの) により、自分の意見を聞いてもらえたと感じたと語っています。しかし、企業の承認は、正義感を求める人々を常に満足させるものではありませんでした。

それが、プラットフォームで出会った男性がセックス中に彼女の同意なしにコンドームを外した後、2018年にTracy LytwynがBumbleに報告を提出する動機となった.一部の擁護者は、「ステルス」と呼ばれる行為を性的暴行の一形態と見なしていますが、犯罪ではありません。

シカゴ在住の 30 歳の Lytwyn さんは、警察をほとんど信頼していないと述べたが、Bumble がその男が他のユーザーを傷つけないように保証してくれることを望んでいた.

Bumble が Lytwyn に報告を確認するメールを送ったとき、問題は解決したと思っていましたが、数か月後、その男がまだプラットフォームにいることに気づきました。彼女はツイッターで説明を求めた。

「ねえ、バンブル、私はこの男が私を暴行したと報告しました」と彼女は2018年5月に会社をツイートしたことを思い出しました.「なぜ彼はまだバンブルにいるのですか?」

従業員は謝罪し、被告人が「アカウントを削除して再作成している可能性があるため、彼が再び現れた」と示唆した.翌日、その従業員は、Bumble が「このユーザーに対して措置を講じた」ことを Lytwyn に保証しました。

しかし、ほぼ 1 年後、彼女は再び彼をアプリで見ました。

繰り返しになりますが、彼女はツイッターで回答を求めました。 「私をレイプした男は現在、シカゴのバンブルにいます」とスクリーンショットは、2019 年 10 月に彼女が Twitter を介して会社にメッセージを送信したことを示しています。

別のバンブルの従業員が応答し、謝罪しました。この従業員は、スクリーンショットが示すように、被告人が「ブロックを迂回する」ことに成功したと述べました。

その従業員は、会社が「彼を Bumble から永久にブロックするために追加の措置を講じた」ことを Lytwyn に保証し、「私たちの感謝の小さなトークン」として彼女のアカウントに無料の特典を与えました。プレミアム会員。

30 人のユーザーが CJI に、攻撃者がさまざまな出会い系プラットフォームで戻ってきたのを見たと語っています。これらの女性は、Lytwyn のように、暴行の申し立てを警察よりもアプリに報告する傾向がありました。

一般に、彼らはアプリが行動を起こす可能性が高いと考えており、通常は虐待的なユーザーを禁止しており、侵略的な法執行プロセスであると認識しているものに自分自身をさらすことをためらっていました.

Lytwyn は、Bumble のパーソナライズされた対応に感謝していると述べたが、最初の禁止後に被告人のプロフィールがアプリに表示されたことに不満を感じていた. 「彼がそこに戻るのはどうしてそんなに簡単なのですか？」

バンブルは、会社が彼女のケースについて話すことを許可する権利放棄に彼女が署名した後でも、Lytwyn のレポートをどのように処理したかについて話すことを拒否しました.同社の製品責任者である Norris 氏は、一般的に、告発されたユーザーのプロフィールに「サイレント ブロック」を適用することが会社のポリシーであると述べています。

つまり、被告人はアプリにアクセスできますが、購読者は彼のスワイプやメッセージを見ることができません。 (理論的には、被告人は自分がブロックされていることに気付かないため、新しい ID を使用して再度サインアップしようとはしません。)

禁止とは異なり、ブロックは報告を提出した人を保護します、とノリスは言いました。ユーザーを禁止するために、会社は写真、電子メール、その他の関連情報を取得して、そのユーザーが新しい Bumble アカウントを作成できないようにします。

バンブルは、レイプ犯をかくまっているという評判が広まれば、損害が発生することを認識している、と広報担当者は述べた.

広報担当者は、「安全以外に投資できる事業は他にないと思う」と語った。 「私たちは、それが正しいことであるだけでなく、私たちのビジネスにとって大きな原動力になると考えています。」

Match Group、eHarmony、Spark Networks の幹部は、ほぼ 10 年前、当時カマラ・ハリスが率いていたカリフォルニア州司法長官室が 3 つの出会い系サイトとの合意を発表したとき、同様の感情を表明しました。

「ビジネス原則」の共同声明として請求された2012年の取引は、司法長官室が「重要な消費者保護」と呼ぶもの、つまりオフラインでの虐待に対処するための報告および対応システムの基本基準を確立しました。

自発的な合意の一環として、企業は登録された性犯罪者をスクリーニングすると述べた。

これらの規定は、一部の企業ではすでに実施されていると、この取り組みに詳しい 2 人の情報筋は述べています。

また、以前の記事で ProPublica と CJI が見つけたように、Match Group はそれらを旗艦の Match.com に適用しましたが、その後買収した Tinder、OkCupid、PlentyofFish などの無料の出会い系サイトには適用しませんでした。

企業はおおむね現状を維持し、司法長官のオフィスは政治的勝利を収めました。インタビューの要請に応じず、書面による質問への回答も拒否した司法長官のオフィスは、出会い系アプリが約束を守ることを保証するためにほとんど何もしていません.

現在、一部の連邦議員は、これらの同じ規制のギャップに注目しています。

2020 年、 CJI と ProPublica が 2019 年 12 月に出会い系アプリが登録性犯罪者をサイトから削除できなかったという記事を公開した後、11 人の下院エネルギー商業委員会の民主党代表は、Match Group に対し、「報告に対応する」取り組みを開示するよう要求しました。 2020 年 2 月 20 日付の書簡によると。

委員会は、会社の報告および対応手順に関する情報を求めました。議会筋によると、Match Group は、標準化されたシステムがないことを示唆する限られた回答しか提供していません。

クラウドソーシングによる調査結果に応えて、下院議員 Jan Schakowsky, D-Ill.議会調査の先頭に立っている .

「彼らは継続的な失敗に答えなければなりません」と彼女は言いました。

Schakowsky は 5 月 7 日に、詐欺や悪用を防ぐために設計されたルールをデート プラットフォームに強制する法案を提出しました。

提案の下では、この要件の違反は不当または欺瞞行為として分類され、連邦取引委員会による執行の対象となります。

議会補佐官によると、Match Group は法案を検討し、1996 年の連邦通信品位法第 230 条を引用して、オンラインの出会い系企業は責任を問われるべきではないと主張した.

「第 230 条の広範な免除により、規制が技術革新を阻害したり、オンラインでの言論を抑圧したりしないことが保証されます」と Match Group は、2018 年に提出された裁判所の友人およびその他のインターネットの利害関係者に提出された説明書に書いています。プロバイダーは、ユーザーがサービスを悪用するのを防ぐための措置を講じる必要があります。」

セクション 230 は、ユーザーの言論が犯罪でない限り、ウェブサイトが責任を問われないようにするために作成されました。

しかし、Match Group を含む出会い系プラットフォームは、セクション 230 を行使して、性的暴行の被害者を含む、他のユーザーによって傷つけられたユーザーが関与する事件の過失を主張する訴訟をかわすことに成功しています。

多くの場合、裁判官は、被害者が暴行に対する会社の対応に関する情報を入手する前に、訴訟を却下します。この障害の結果の 1 つは、オンラインの出会い系企業に対して、ユーザーが被った損害の責任を負わせようとしている民事訴訟がほとんど起こされていないことです。

現在、20 年ぶりに、Facebook などのソーシャル メディア サイトに対する広範な不満に動機付けられて、230 条の見直しについて議会で真剣な議論が行われています。

サイバー虐待を専門とするニューヨーク市の被害者の権利弁護士であるキャリー・ゴールドバーグは、シャコウスキーの法案を検討しました。彼女はそれが不十分であると信じており、唯一の解決策は、その包括的な免責からオフラインの害を切り開く条項に例外を渡すことであると主張しています.

ゴールドバーグ氏は、「第 230 条を改革しなければならない」と述べ、出会い系アプリの CEO に対する議会公聴会が必要だと考えている。

有意義な規制がないため、性的暴行に関するポリシーをめぐって精査に直面している一部のインターネット企業は、改革に取り組んでいます。

たとえば、ライドシェア大手の Uber は 2019 年に84 ページのレポートを発行し、ユーザーとドライバーによる性的暴行の申し立ての数を明らかにしました。2 年間で約 6,000 件です。

Uber は、性的暴力の事件を追跡し、その防止策を監査するための、この種のものとしては初の方法論を考案しました。

その後、ドライバーの身元調査に投資し、性的および身体的暴行の苦情を処理するための専門の顧客サポート チームを作成し、それらに対処するための新しい規則を起草しました。

3 月、Uber は、性的および身体的暴力のためにプラットフォームから非アクティブ化されたドライバーのプロファイルを共有する取り組みを開始するために、競合他社の Lyft に参加しました。被害者の擁護者は、同社の透明性を称賛しています。

ペンシルベニア州の反レイプ連合のベイカー氏によると、透明性は問題を抑制するための重要な第一歩です。 (彼女はまた、Uber の取り組みについても助言を行った。) ベイカーは、オンラインの出会い系会社も同様の数字を公表すべきだと考えている。

これにより、ユーザーは最も安全なプラットフォームを選択でき、一般の人々は業界に責任を負わせることができます.

「これらの問題は、あらゆる企業で発生しています」と、Baker 氏は言います。 「それについてあなたに話しているのは良い人です。」

そのような統計を共有している出会い系アプリはありません。議会からそうするように求められた場合でも.

議会補佐官によると、下院商業委員会がMatch Groupに、5つの最大のプラットフォームが2019年に記録した性的暴行の苦情の数を開示するよう求めたとき、同社は回答を提供しませんでした.

その代わりに、補佐官は CJI に、Match Group は別の数を明らかにしたと語った：それはその年に 200 件のそのような申し立てを警察に付託したと言った.

Match Group は別の方法で Uber の後を追っているようだ。昨年の秋、同社は Uber の安全責任者である Tracey Breeden を採用し、顧客の安全に関する取り組みを率いました。数か月以内に、彼女はマッチ グループが性的暴行ポリシーを監査していると発表しました。

同社はまた、アプリ向けの初期の安全技術にも投資してきました。もう 1 つは、ユーザーが有料でアクセスできるバックグラウンド チェック サービスです。 (後者は、2021 年末に、最初に Tinder で、次に他のアプリで展開を開始する予定です。)

マッチ・グループは、ブリーデンをインタビューに応じることを断った。質問に答えて、同社は彼女の採用と監査に関する1か月前のプレスリリースを送った。

Breeden 氏は 2020 年 12 月 7 日のリリースで次のように述べています。

マッチは今月初め、 株主への手紙の中で、「人々の精神的健康と身体的安全を維持することに焦点を当てた野心的な基準を設定している.

今年は、信頼と安全に関連する製品、技術、モデレーションの取り組みに 1 億ドル以上を費やす予定です。」

これは、Dong のような出会い系アプリのユーザーにとって、ほとんど慰めにはならないかもしれません。Dong は、Tinder で望んでいた結果を得たにもかかわらず、二度とこのサービスを使用しないと誓っています。

抗議の前年、ドンはオンラインデートの影響に苦しんでいました。

彼女は毎日目を覚まし、絶望と怒りの間を行き来していたことを覚えています。彼女は学校を中退し、失業した。最終的に彼女はセラピーに行き、感情を行動に移すことにしました。

記録によると、彼女は警察に出頭したが、ドンによれば、検察は彼女が言った事件の性質のために事件を追求することを拒否した.代わりに、ドンは出会い系プラットフォームに目を向けました。

アプリがレイプの報告に応答しない場合、彼女は次のように述べています。

今日、Dong は、あるプラットフォームからの返信を今でも大切にしていると言いました。Bumble です。彼女は、2019 年 5 月 9 日に Bumble の従業員から送信された 3 段落の電子メールである、会社の「即時サポート」に圧倒されたことを思い出します。

一文が響きました。 「あなたが勇敢に私たちに送ってくれたレポートを読んで、私たちは信じられないほど悲しんでいます」とバンブルの返事は読みました. 「ですから、これを聞くのはただひどいです。」

FaceTime で CJI のレポーターに対するバンブルの応答を読んだドンは、彼女の心に手を触れました。 「彼らが人間の思いやりを示すために時間を割いてくれたことに感謝しています」と彼女は後で言いました. Tinderに関して言えば、彼女が本部に持ってきたポスターボードは今、彼女のベッドの下に押し込まれている.

Brian Edwards、Elizabeth Naismith Picciani、Keith Cousins は、Columbia Journalism School の調査報告ユニットである Columbia Journalism Investigations のフェローとして、この記事を報告しました。 Sarah Spicer は CJI の研究助手として貢献しました。

CJI の資金は、学校の調査報告リソースと調査ジャーナリズムのための安定センターによって提供されます。

Unsplash のGood Faces Agencyによる写真