オンラインの憎しみコミュニティをデプラットフォーム化することはどのくらい難しいですか?

Authors:

(1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre (anh.vu@cl.cam.ac.uk)

(2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk)

(3) ケンブリッジ大学とエディンバラ大学のロス・アンダーソン(ross.anderson@cl.cam.ac.uk)

左のテーブル

抽象と1 Introduction

2.デプラットフォーム化とその影響

2.1 関連する仕事

2.キウイ農場の破壊

3. 方法、データセット、倫理、および 3.1. フォーラムおよびイメージボードの議論

3.2. Telegram Chats and 3.3. Web Traffic and Search Trends Analytics ウェブトラフィックと検索トレンド分析

3.4 オンラインコミュニティによるツイートと 3.5 データライセンス

6.倫理的考慮事項

フォーラムの活動とトラフィックへの影響、および4.1 大規模な干渉の影響

4.2 プラットフォーム移転

3.交通分散

5. 関連する利害関係者への影響と 5.1 キャンペーンを開始したコミュニティ

5.2 業界の反応

5.3 フォーラム運営者

5.4 フォーラムメンバー

6.緊張、課題、影響、および6.1 破壊の効果

6.2 言論の自由に対する検閲

6.3.Content Moderationにおける業界の役割

6.4 政策の影響

6.5 制限と将来の仕事

7. Conclusion, Recognitions, and References (結論、承認、参照)

サプリメントA

Abstract—Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum KIWI FARMS in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. The disruption largely affected casual users (of whom roughly 87% left), while half the core members remained engaged. It also drew many newcomers, who exhibited increasing levels of toxicity during the first few weeks of participation. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them.

1.導入

オンラインコンテンツは現在普及し、広くアクセスでき、公共の議論を形成することに影響を及ぼしているが、オンラインサイトが言論の自由を促進する一方で、オンラインサイトは憎しみの発言を促進する一方で、両者の間の境界線はしばしば議論されている。Gamergateのような追い詰め、いじめ、およびdoxxingのいくつかのケースは、暴力的な犯罪や政治的動員を含む現実世界の結果を生み出している。コンテンツモーレーションはテクノロジー企業の重要な機能となっているが、また政治的な混乱の場となっているため、虐待的なアカウントはオンラインコミュニティに大きく異なる方法で影響を与える可能性がある。オンラインソーシャルプラット

デプラットフォーム化は個々のユーザーをブロックすることを意味するかもしれないが、時にはターゲットは単一の悪い俳優ではなく、犯罪に関わる一つのコミュニティ(11)などである。それは、Cloudflare、GoDaddy、Google、およびいくつかの他の企業が、2017年のバージニアで行なわれたUnite the Rightの集会後のDaily Stormerのサービスをブロックしたときのように、業界が起業した場合のように、Cloudflare、GoDaddy、Google、およびいくつかの他の企業が、2017年のバージニアで行なわれたUnite the Rightの集会後のサービスをブロックしたときのように、業界のターゲットは、2017年の8CHANと2019年8CHANのために、または法執行機関によって、2018年の14、15、20、

KIWI FARMSは、過去最大かつ最も長く実行されているオンライン嫌がらせフォーラムである[21]。それはしばしば、フェミニスト、ゲイ権利活動家や障害者、トランスジェンダー、自閉症の人々などの少数派に対するリアルなトロリングおよびドクシングキャンペーンと関連付けられています。いくつかは、過去に嫌がらせを受けた後、自殺しました[22]。不愉快で幅広く議論的であるにもかかわらず、フォーラムは10年間オンラインで行われており、CloudflareのDDoS保護によって長年にわたり保護されていました。これは、カナダのトランスアクティビティストのフォーラムメンバーによる深刻な嫌がらせの後に終わりました。それらは、2022年8月にDDoS保護サービス、ケース

既存の研究は、ソーシャルメディアのユーザーをデプラットフォーム化する効果を調査した(28、29、30、31、32、33、34)、しかし、この論文は、管理者がコンテンツを完全にバックアップし、復元することができるように、より抵抗力がある傾向があるニュースボードフォーラムなどの独立した憎悪コミュニティに対する業界の干渉の効果について、量的にも質的にも限られた研究が行われています。

当社の最終目標は、フォーラム活動およびトラフィックへの影響を評価し、フォーラム運営者およびキャンペーンを開始したコミュニティに及ぼす影響と課題を理解することです。当社の主要な研究質問は、次のセクションで取り扱われます:フォーラム活動およびトラフィックへの影響は、4セクションで評価されます;フォーラムメンバーの行動の変化は、集会場所が妨げられるとき、フォーラム運営者およびキャンペーンを開始したコミュニティに及ぼす影響は、5セクションで検討されます。

この紙はARCHIV で利用可能CC BY 4.0 DEED ライセンス

[1]これは、被害者の自宅で進行中の暴力犯罪を不正に報告し、特殊兵器戦術(SWAT)チームが施設を襲撃し、被害者と家族を危険にさらすことにつながる場合です。