Forfattere af: (1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre (anh.vu@cl.cam.ac.uk) (2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk) (3) Ross Anderson, University of Cambridge og University of Edinburgh (ross.anderson@cl.cam.ac.uk). Authors: (1) Anh V. Vu, University of Cambridge, Cambridge Cybercrime Centre (anh.vu@cl.cam.ac.uk) (2) Alice Hutchings, University of Cambridge, Cambridge Cybercrime Centre (alice.hutchings@cl.cam.ac.uk) (3) Ross Anderson, University of Cambridge og University of Edinburgh (ross.anderson@cl.cam.ac.uk). Bord til venstre Abstrakt og 1 introduktion Deplatforming og konsekvenserne 2.1 Relateret arbejde 2.2 Forstyrrelsen af Kiwi Farms Metoder, datasæt og etik og 3.1. 3.2. telegram chats og 3.3. webtrafik og søgning trends Analytics 3.4. Tweets lavet af online-fællesskabet og 3.5. data licensering 3.6 Etiske overvejelser Virkningen på forumaktivitet og trafik, og 4.1. 4.2 Udskiftning af platformen 4.3 Fragmentering af trafikken Virkningerne på relevante interessenter og 5.1.Fællesskabet, der startede kampagnen 5.2 Industriens reaktioner 5.3 Forumets operatører 5.4 Medlemmer af forummet Spændinger, udfordringer og konsekvenser og 6.1. Censur versus ytringsfrihed 6.3 Industriens rolle i moderering af indhold 6.4 Politiske konsekvenser 6.5 Begrænsninger og fremtidigt arbejde Konklusion, anerkendelser og referencer Bilag A. 6.3 Industriens rolle i moderering af indhold En teenager med så lidt som $ 10 kan bruge en DDoS-for-leje-tjeneste til at slå din hjemmeside offline [101], så kontroversielle websteder er afhængige af nåde og favør af et stort hostingfirma eller en specialist DDoS-forebyggelse entreprenør. Dette er kun et aspekt af en bredere trend i teknologi: at internettet bliver mere centraliseret omkring et lille antal store virksomheder, lige fra online sociale platforme, hosting virksomheder, transitnetværk, til tjenesteudbydere og udvekslingspunkter [102]. Mens nogle giver moderation værktøjer, der er foretrukket af indholdsskabere [103], nogle hævder at være forpligtet til at bekæmpe had, chikane og misbrug, men er uforholdsmæssigt ansvarlige for at tjene online dårlig indhold [ Private virksomheder skal overholde og fjerne ulovligt indhold fra deres infrastruktur, når de er instrueret til at gøre det ved en retskendelse. Men deplatforming af KIWI FARMS eller andre kunder krænker ikke princippet om ytringsfrihed. Det er i det væsentlige en kontraktlig sag; de har ret til at stoppe deres støtte til et websted, der overtræder deres politikker. Infrastrukturudbydere kan lejlighedsvis have brug for at arbejde omhyggeligt med retshåndhævelse i tilfælde af en umiddelbar trussel mod livet. De fleste udbydere har udarbejdet måder at gøre dette på, men mekanismerne kan være for langsomme. Cloudflare forsøgte at samarbejde med retshåndhævende myndigheder for at løse sagen om KIWI FARMS, men processen kunne ikke følge med de eskal Budapestkonventionen [108] kriminaliserer nogle materialer, som alle stater er enige om, såsom billeder af seksuelt misbrug af børn, men selv der er grænserne omtvistede [109] . Onlinemarkeder som Silk Road og HANSA MARKET er blevet nedlagt på grund af andre love – narkotikalove – som også nyder international standardisering og samarbejde. Ophavsretskrænkelser får også opmærksomhed fra internationale traktater og koordineret handling af tech majors, selv om civilretten spiller en større rolle her end straffeloven. Så er der materiale om, at nogle stater føler sig stærkt, men andre ikke; ‘en mands frihedskæmper er en anden mands terrorist’. Og så er der en stor bølge af falske nyheder, dyrekrænkelighed, konspirationsteorier og andet materiale, som mange 6.4 Politiske konsekvenser Content moderation er blevet en politisk, politisk og offentlig bekymring [110], [111]. Den britiske Online Safety Bill foreslår en ny regulator, der vil være i stand til at ansøge om en retskendelse, der pålægger tech-firmaer at forstyrre en anfægtelig online aktivitet [43]. Man kan forestille sig Ofcom beslutter at nedlægge KIWI FARMS, hvis deres mål var en bosiddende i Storbritannien i stedet for Canada, og gå til de forskellige teknologibedrifter, der var involveret i forstyrrelsen, vi beskriver her, tjener dem en efter en med ordrer underskrevet af en dommer i High Court i London. Selv hvis alle virksomhederne skulle overholde, i stedet for at appellere eller bare ignorere retten i det hele taget, er det svært at se, hvordan en sådan operation kunne være noget så hurtigt En faktor, der bidrager til modstandsdygtigheden hos KIWI FARMS, er forumets ejeres tekniske kompetence. Han har konsekvent og i stand til at håndtere DDoS-angreb på forummet, vedligeholde sin kodebase, efter at xenForo stoppede deres licens, opgradere serverhardware og netværksfunktionalitet og udvikle interne DDoS-beskyttelsesmekanismer. Deplatforming kan være mere effektiv, hvis vedligeholderen af en åbenlyst ulovlig hjemmeside kan arresteres og fængsles (eller på anden måde inaktiveres), som det skete med SILK ROAD. Med et forum som KIWI FARMS, hvis operatør har anmeldt kriminelle handlinger begået via sin infrastruktur [55], kan den strafferetlige mulighed simpelthen ikke være tilgængelig. Tidligere arbejde har også undersøgt, hvorfor regeringer er mindre i stand til at fjerne dårlige websteder end private aktører [11]; at arbejde analyseret enkeltwebsteder med klart ulovligt indhold, såsom dem, der er vært for malware, phishing tricks eller sex-misbrug billeder. Denne undersøgelse viser, hvorfor fjerne et aktivt fællesskab er sandsynligvis endnu sværere. Selv når flere teknologibedrifter ruller deres ærmer op og forsøger at undertrykke et fællesskab, hvis medlemmer nogle har begået kriminalitet, og mod hvem der er en branche konsensus, nettoeffekten kan være beskeden i bedste fald. Vores casestudie kan være det bedste resultat, der kan forventes for online censur, men det reducerer kun brugere, indlæg, tråde og trafik med omkring halvdelen. Vores resultater tyder på, at brugen af indholdsm 6.5 Begrænsninger og fremtidigt arbejde Måling af sammenhængen mellem fysisk chikane og KIWI FARMS samt omkostningerne ved de faktiske skader forårsaget af forummedlemmerne til ofre i den virkelige verden ville være et værdifuldt bidrag. Men vi mangler grundlæggende sandhedsdata om virkelige begivenheder, som ikke kun kan observeres fra forumdiskussioner. Undersøgelse af doxxing-relaterede indlæg, der deler ægte offeroplysninger, ville være en god start, men hovedudfordringen er validering af data postet af upålidelige brugere i skala, i mangel af en robust måde at identificere brugere. Vores forumdata er begrænset til at studere bruger migration fra KIWI FARMS til sin konkurrent LOLCOW FARM, da pseudonymer ikke er tilgængelige på LOLCOW FARM, så det Vores data skrabere kører i næsten realtid, men der er stadig en chance for at mangle beskeder, der er postet, men fjernes hurtigt derefter. Vi forventer, at antallet af sådanne manglende beskeder vil være relativt lille. Flere indsigter kan afsløres fra private eller beskyttede indlæg, da folk kan være mere ekstreme, når de poster i privat. Men vi vælger ikke at analysere dem på grund af potentiel skade, lovlighed og etiske spørgsmål. KIWI FARMS er nu tilbage online, og kan godt lykkes i at opretholde sin tilgængelighed på clearnet. Vi vil fortsætte med at overvåge det, og udvide vores måling til de nyere hændelser i en opfølgningsrapport. Denne artikel er tilgængelig på arkiv under CC BY 4.0 DEED licens. Denne artikel er tilgængelig på arkiv under CC BY 4.0 DEED licens.
