Os autores: (1) Anh V. Vu, Universidade de Cambridge, Centro de Cibercrime de Cambridge (anh.vu@cl.cam.ac.uk); (2) Alice Hutchings, Universidade de Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk); (3) Ross Anderson, Universidade de Cambridge e Universidade de Edimburgo (ross.anderson@cl.cam.ac.uk). Authors: (1) Anh V. Vu, Universidade de Cambridge, Centro de Cibercrime de Cambridge (anh.vu@cl.cam.ac.uk); (2) Alice Hutchings, Universidade de Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk); (3) Ross Anderson, Universidade de Cambridge e Universidade de Edimburgo (ross.anderson@cl.cam.ac.uk). Mesa da esquerda Abstracto e 1 introdución Desplatformación e os seus impactos 2.1 Traballos relacionados 2.2.A perturbación das granxas de kiwi Métodos, conxuntos de datos e ética, e 3.1. 3.2. chat de Telegram e 3.3. tráfico web e tendencias de busca Análise 3.4. tweets feitos pola comunidade en liña e 3.5. licenzas de datos 3.6 Consideracións éticas O impacto sobre a actividade e o tráfico do foro, e 4.1. 4.2 Deslocalización da plataforma 3.3 Fragmentación do tráfico Os impactos sobre as partes interesadas relevantes e 5.1.A comunidade que iniciou a campaña 5.2 Reaccións da industria 5.3 Operadores do foro 5.4 Membros do Foro Tensións, retos e implicacións e 6.1.A eficacia da interrupción 6.2 Censura versus liberdade de expresión O papel da industria na moderación de contidos 4.4 Implicacións políticas 6.5 Limitacións e traballo futuro Conclusións, recoñecementos e referencias Anexo A. —Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum KIWI FARMS in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. The disruption largely affected casual users (of whom roughly 87% left), while half the core members remained engaged. It also drew many newcomers, who exhibited increasing levels of toxicity during the first few weeks of participation. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them. Abstract Abstraccións 1 Introdución Aínda que os sitios en liña facilitan a liberdade de expresión, fan o mesmo para o discurso de odio [1], e a liña entre os dous é a miúdo contestada. Algúns casos de persecución, bullying e doxxing como Gamergate tiveron consecuencias do mundo real, incluíndo o crime violento e a mobilización política [2]. A moderación de contido converteuse nunha función crítica das empresas tecnolóxicas, pero tamén un espazo político, xa que as contas abusivas poden afectar ás comunidades en liña de maneiras significativamente diferentes [3]. As plataformas sociais en liña empregan diversos mecanismos, por exemplo, a intelixencia artificial [4], para detectar, moderar e suprimir contidos obxectivos [5], incluíndo técnicas "hard" e "soft" [6]. Estes van desde informar aos usuarios de contidos ilegais á polic Desplatforming pode significar bloquear usuarios individuais, pero ás veces o obxectivo non é un só actor malo, pero unha comunidade enteira, como un implicado no crime [11]. Pode ser emprendido pola industria, como cando Cloudflare, GoDaddy, Google e algunhas outras empresas terminaron o servizo para o DAILY STORMER despois do rally Unite the Right en Virxinia en 2017 [12] e para 8CHAN en agosto de 2019 [13]; ou pola policía, como co FBI derrubando servizos de DDoS-forhire en 2018 [14], [15] e 2022 [16], [17], e capturando FORUMS RAID en 2022 [18]. A disrupción da industria foi a miúdo de curta duración; tanto 8CHAN e DAILY STORMER reemergido ou relocado pouco despois de ser interrompido. A intervención é KIWI FARMS é o maior e máis longo foro de acoso en liña [21]. A miúdo está asociado con campañas de trolling e doxxing en vida real contra feministas, activistas de dereitos homosexuais e minorías como discapacitados, transexuais e autistas; algúns suicidáronse despois de ser acosados [22]. A pesar de ser desagradable e amplamente controvertido, o foro estivo en liña durante unha década e estivo protexido pola protección DDoS de Cloudflare durante anos. Isto chegou a un fin despois de que os membros do foro dun activista trans canadense se acosaran seriamente, culminando nun incidente de acoso en agosto de 2022.[1] Isto resultou nunha campaña dirixida pola comunidade en Twitter para presionar a Cloudflare e outras empresas tecnolóxicas a abandonar o foro [23]. Isto Estudos existentes investigaron a eficacia da desplataformación dos usuarios de redes sociais [28], [29], [30], [31], [32], [33], [34], pero houbo unha investigación limitada -tanto cuantitativa como cualitativa- sobre a eficacia das perturbacións da industria contra as comunidades de odio independentes, como os foros de boletíns, que tenden a ser máis resilientes xa que o contido pode ser completamente backup e restaurado polos administradores. O noso obxectivo final é avaliar a eficacia do esforzo e comprender os impactos e desafíos do desplatforming como medio para suprimir o odio e o acoso en liña. As nosas principais cuestións de investigación son abordadas nas seccións seguintes: o impacto do desplatforming na actividade e o tráfico do foro é avaliado no §4; os cambios no comportamento dos membros do foro cando o seu lugar de reunión é interrompido, así como os efectos sobre os operadores do foro e a comunidade que iniciaron a campaña son examinados no §5. Este artigo está dispoñible en arquivo baixo a licenza CC BY 4.0 DEED. Este artigo está dispoñible en arquivo baixo a licenza CC BY 4.0 DEED. [1] Isto é cando un acosador reporta falsamente un crime violento en curso na casa da vítima, resultando na chegada dun equipo especial de armas e tácticas (SWAT) para invadir as instalacións, poñendo a vítima e a súa familia en perigo.
