Författare : (1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre (anh.vu@cl.cam.ac.uk) (2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk) (3) Ross Anderson, University of Cambridge och University of Edinburgh (ross.anderson@cl.cam.ac.uk). Authors: (1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre (anh.vu@cl.cam.ac.uk) (2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk) (3) Ross Anderson, University of Cambridge och University of Edinburgh (ross.anderson@cl.cam.ac.uk). Tabell från vänster Abstract och 1 introduktion Deplatforming och dess effekter 2.1 Relaterat arbete 2.2.2 Störningen av Kiwi Farms Metoder, datamängder och etik, och 3.1. forum och bildbordsdiskussioner 3.2. telegram chattar och 3.3. webbtrafik och söktrender Analytics 3.4. Tweets gjorda av online-gemenskapen och 3.5. data licensiering 3.6 Etiska överväganden Effekten på forumets aktivitet och trafik, och 4.1. 4.2 Plattformsförflyttning 4.3 Fragmentering av trafiken Effekterna på relevanta intressenter och 5.1.Gemenskapen som startade kampanjen 5.2 Industrins reaktioner 5.3 Forumets operatörer 5.4 Forumets medlemmar Spänningar, utmaningar och konsekvenser och 6.1. 6.2 Censur mot yttrandefrihet 6.3 Industrins roll i innehållsmoderering 6.4 Politiska konsekvenser 6.5 Begränsningar och framtida arbete Slutsats, erkännanden och referenser Bilaga A till. —Legislators and policymakers worldwide are debating options for suppressing illegal, harmful and undesirable material online. Drawing on several quantitative data sources, we show that deplatforming an active community to suppress online hate and harassment, even with a substantial concerted effort involving several tech firms, can be hard. Our case study is the disruption of the largest and longest-running harassment forum KIWI FARMS in late 2022, which is probably the most extensive industry effort to date. Despite the active participation of a number of tech companies over several consecutive months, this campaign failed to shut down the forum and remove its objectionable content. While briefly raising public awareness, it led to rapid platform displacement and traffic fragmentation. Part of the activity decamped to Telegram, while traffic shifted from the primary domain to previously abandoned alternatives. The forum experienced intermittent outages for several weeks, after which the community leading the campaign lost interest, traffic was directed back to the main domain, users quickly returned, and the forum was back online and became even more connected. The forum members themselves stopped discussing the incident shortly thereafter, and the net effect was that forum activity, active users, threads, posts and traffic were all cut by about half. The disruption largely affected casual users (of whom roughly 87% left), while half the core members remained engaged. It also drew many newcomers, who exhibited increasing levels of toxicity during the first few weeks of participation. Deplatforming a community without a court order raises philosophical issues about censorship versus free speech; ethical and legal issues about the role of industry in online content moderation; and practical issues on the efficacy of private-sector versus government action. Deplatforming a dispersed community using a series of court orders against individual service providers appears unlikely to be very effective if the censor cannot incapacitate the key maintainers, whether by arresting them, enjoining them or otherwise deterring them. Abstract Abstrakt 1 Introduktion Online-innehåll är nu vanligt förekommande, allmänt tillgängligt och inflytelserikt i formandet av offentlig diskurs. Men medan online-platser underlättar yttrandefrihet, gör de detsamma för hatpropaganda [1], och gränsen mellan de två är ofta omtvistad. Vissa fall av förföljelse, mobbning och doxxing som Gamergate har haft verkliga konsekvenser, inklusive våldsbrott och politisk mobilisering [2]. Innehållsmoderering har blivit en kritisk funktion för teknikföretag, men också ett politiskt gräl utrymme, eftersom missbrukande konton kan påverka online-samhällen på betydligt olika sätt [3]. Online sociala plattformar använder olika mekanismer, till exempel artificiell intelligens [4], för att upptäcka, moderera och undertrycka invändigt innehåll [5], inklusive "hår Deplatforming kan innebära att blockera enskilda användare, men ibland är målet inte en enda dålig aktör, utan en hel gemenskap, till exempel en som är inblandad i brottslighet [11]. Det kan genomföras av industrin, som när Cloudflare, GoDaddy, Google och några andra företag avslutade tjänsten för DAILY STORMER efter Unite the Right-rally i Virginia 2017 [12] och för 8CHAN i augusti 2019 [13]; eller av brottsbekämpande myndigheter, som med FBI: s nedläggning av DDoS-forhire-tjänster 2018 [14], [15] och 2022 [16], [17], och beslagtagande av RAID FORUMS 2022 [18]. Industriens störningar har ofta varit kortlivade; både 8CHAN och DAILY STORMER återuppstod eller flyttades kort efter KIWI FARMS är det största och längst löpande online trakasserier forumet [21]. Det är ofta förknippat med verkliga trolling och doxxing kampanjer mot feminister, homosexuella rättighetsförespråkare och minoriteter såsom funktionshindrade, transpersoner och autistiska individer; vissa har dödat sig efter att ha blivit trakasserade [22]. Trots att det är obehagligt och allmänt kontroversiellt, har forumet varit online i ett decennium och har varit skyddat av Cloudflares DDoS-skydd i åratal. Detta kom till ett slut efter allvarlig trakasserier av forummedlemmar av en kanadensisk transaktivist, som kulminerade i en swatting incident i augusti 2022.[1] Detta resulterade i en gemenskapsledd kampanj på Twitter för att trycka Cloudflare Befintliga studier har undersökt effektiviteten av deplatforming användare av sociala medier [28], [29], [30], [31], [32], [33], [34], men det har varit begränsad forskning - både kvantitativ och kvalitativ - i effektiviteten av bransch störningar mot fristående hat gemenskaper såsom bulletin-board forum, som tenderar att vara mer motståndskraftiga eftersom innehållet kan säkerhetskopieras och återställas av administratörerna. Vårt yttersta mål är att utvärdera effektiviteten av ansträngningen och att förstå effekterna och utmaningarna av deplatforming som ett sätt att undertrycka hat och trakasserier på nätet. Våra primära forskningsfrågor behandlas i följande avsnitt: effekten av deplatforming på forumets aktivitet och trafik utvärderas i §4; förändringarna i forummedlemmarnas beteende när deras mötesplats störs samt effekterna på forumoperatörerna och samhället som startade kampanjen granskas i §5. Vi diskuterar branschens roll när det gäller att ta itu med onlinebaserat trakasserier, censur och innehållsreglering samt de juridiska, etiska och politiska konsekvenserna av incidenten i §6. Den här artikeln finns tillgänglig på arkiv under CC BY 4.0 DEED-licens. Den här artikeln finns tillgänglig på arkiv under CC BY 4.0 DEED-licens. [1] Detta är när en mobbare falska rapporterar en våldsbrott pågår på offrets hem, vilket resulterar i ankomsten av en special-vapen-och-taktik (SWAT) team för att storm lokaler, sätta offret och familj i fara.
