Big Tech 的版主是我们当今社交媒体和互联网体验的无名英雄。如果你愿意的话,interwebz 的清洁工。他们工作的证据对我们一无所知。只有当意外的失误发生时,后果才会蔓延到互联网上,混乱随之而来。
在 2019 年对基督城清真寺的悲惨恐怖袭击中,袭击者在进行他的杀戮狂欢时正在直播。虽然大屠杀仍在继续,而且在数小时后,这些令人发指的视频不断出现在 Facebook、Twitter、Reddit、YouTube 和其他社交媒体上。这些平台上的版主努力跟上。它变成了一场猫捉老鼠的游戏,普通用户争先恐后地报告出现的帖子,以便版主可以快速查看并删除它们。
如果没有足够的节制,您或您孩子的 YouTube 供稿可能看起来像这样(来源:参考 #1)
不用说,版主日复一日地经历着像这些令人不安的经历,这样我们就不必这样做了。他们的工作确保恶意内容远离互联网。往往涉及无法形容的人类残忍——从暴力极端主义、谋杀、动物折磨、虐待儿童、强奸、自残、仇恨言论、恐怖主义宣传等等。有时,它是像Elsagate或色情图片这样的故意令人震惊的材料。在其他时候,这是直接的非法事务,例如违禁品征集。去年接受 VICE 采访的一位主持人估计,他们在工作过程中看到的 5-10%(来源:参考文献#2 )可能会造成创伤。
媒体和科技公司,尤其是那些允许用户生成媒体的公司,例如 Facebook、Twitter、YouTube、Instagram、Reddit、Telegram 等,具有通常基于常识原则和成文法的社区标准。为了确保发布在其平台上的内容遵循指南,这些公司采用 AI/ML(人工智能/机器学习)算法自动过滤掉令人反感的内容。漏掉的东西会转到版主(或模组)队列进行人工审查。
当用户报告任何内容时,它会通过自动或手动审查过程
模组的名称可以从社区模组到流程执行人员到内容经理再到合法删除助理(来源:参考#3 )等。如果他们检测到有问题的内容或响应用户的报告,他们可以主动操作。根据他们的评估,他们可以选择保留、删除或将标记的材料上报给上级。政治问题等灰色地带会升级。用户也可以根据他们的行为被暂时暂停或永久禁止进入平台。一些公司还采取了措施,让模组可以向警方报告用户。
第三方合同工的报酬在1 美元/小时到 15 美元/小时之间(来源:参考文献 #4 ),而直接雇用的版主则可以从这项工作中获得更好的报酬。但是,每小时查看 2000 张标记的照片(来源:参考 #5 )或每天 400 条报告的帖子所带来的心理创伤,以及由此产生的保持高精度分数的压力对所有人来说都是一样的。由于长时间接触可能最糟糕的内容,这些主持人中的许多人会发展出长期的心理健康障碍,例如 PTSD(创伤后应激障碍)和慢性焦虑症。
当像这样暴露在黑穗病中时,惊恐发作和在工作中感到恶心并不少见(来源)
分享一些个人经验,作为各种加密货币项目的社区经理,我在 Telegram 频道、Discord 服务器和聊天论坛中遇到了各种令人反感的材料——从种族主义笑话到贩毒到 CSAM(儿童性虐待材料)招揽。行动范围从永久禁令到向联邦调查局报告此事。至少可以说,这些事件中的每一个都令人痛苦。
游戏和社交媒体一直以 MMORPG(大型多人在线角色扮演游戏)的形式相互交叉,例如魔兽世界、RuneScape、英雄联盟、部落冲突、Eve Online 或大逃杀游戏,例如 Fortnite、PUBG、Call of Duty、Apex Legends 甚至其他在线多人游戏,例如我们当中、Minecraft、Pokemon Go、FarmVille 等。玩家通过游戏内频道、Discord 服务器、聊天室、Twitch 等通过文本、音频、视频进行互动和文件传输。
MMROPG 之类的 Old School RuneScape (OSRS) 在任何特定时刻都有数以万计的玩家互动(来源)
因此,游戏版主(或游戏管理员)在处理这些论坛时面临与上述类似的挑战。然而,与社交媒体相比,游戏论坛中令人发指的内容更少。相反,这里的版主必须更多地关注诸如骚扰、垃圾邮件、拖钓、作弊、欺凌等问题,并确保游戏规则不被破坏。由于游戏的竞争性质,这些沟通渠道可能会变得很激烈,让模组手忙脚乱。版主可能受雇于具有高信任度的社区的出版商/开发者或志愿者。
在 90 年代,即互联网的早期,人们普遍担心网络会导致色情内容的传播,由此产生的滥交会破坏社会结构。媒体报道会使用各种名称,例如将互联网称为“全球计算机连接”(来源:参考文献#5 )。恐惧散布到了理性主义者不得不反对一再呼吁审查互联网的阶段。
像这样的恐怖故事在互联网起步阶段造成了公众对互联网的负面看法(来源)
随后,《通信规范法》第 230 条获得批准。这保护了平台免受出版商的责任,以及根据“好心人条款”删除不良内容的豁免权。这项具有里程碑意义的法律允许互联网发展到我们今天看到的规模和形式。这也为版主提供了保护,让他们可以继续他们的工作,而不必担心受到受影响方的报复。
随着游戏和社交互动进入元节(稍后会详细介绍),同样的法律将保护那些“监管”这些领域以过滤不良行为的模组。但是,这些设置中的交互会更加复杂,需要新的模组操作指南。仅举一个例子,在虚拟世界中可能存在 摸索或跟踪的情况,需要版主介入并采取纠正措施。如果没有明确的 SOP(标准操作程序),主持人可能会对采取决定性措施持怀疑态度。
Metaverse 是一个松散的术语,通常用于描述一个共享的沉浸式虚拟领域,有些人将其设想为互联网的未来。在以加密货币和 NFT(非同质代币)形式出现可证明拥有的数字资产之前,这在很大程度上是科幻小说的主题。真正的元宇宙体验最接近的前身将是各种游戏世界。然而,迄今为止,传统游戏社区和工作室一直对加密货币及其相关技术保持警惕。因此,像 Decentraland 和 The Sandbox 这样的加密原生公司催生了类似元宇宙的世界,用户可以在其中拥有资产(便携式和非便携式)。虚拟世界的体验包括参观艺术展览(来源:参考文献#6 )、参加音乐节、玩游戏等等。
VICE 的 Michael Moynihan 和 Outlier Venture 的 Jamie Burke 探索 Decentraland(来源:参考文献 #7)
需要注意的是,虽然各种传统游戏开发者从游戏玩法的角度表达了对可移植性的担忧(来源:参考文献 #8 和 #9 ),但 Web3 开发者从资产所有权的角度考虑可移植性。这是两种不同观点之间的根本脱节。我在去年的一次采访中探讨了元宇宙的加密原生前景。双方可能同意的一件事是,虚拟世界中的“土地”应该是无限的。真正的无许可、去中心化领域的承诺还应该包括无限的可扩展性。加密思想领袖 6529 的Open Metaverse (来源:参考文献 #10 )试图创建一个无限的 Metaverse,人们可以在其中从一个领域跳到另一个领域,同时保留其资产的所有权和使用权。正如该网站所提到的,“元宇宙中的空间很丰富”。
Facebook 最近广为人知的向 Meta 过渡的重点也是建立自己的元宇宙。反数字仇恨中心首席执行官伊姆兰·艾哈迈德 (Imran Ahmed) 表示,Facebook 的举动“是社交媒体发展中不可避免的下一步。允许您从世界各地连接到的人的虚拟物理存在“(来源:参考 #11 )。目前尚不清楚 Meta 是否会融入加密的精神(去中心化、无需许可、自我监管),或者用自己的数字资产和钱包架构建造一个有围墙的花园。
Meta 计划通过硬件和软件的结合创造高度身临其境的体验(来源)
但是,如果Twitter 、 Instagram 、 YouTube 、 Reddit 、 Shopify 、 Stripe 、 eBay和许多其他公司的最新发展是一个迹象,那么 NFT、加密货币、区块链、Web3 以及随之而来的一切都是不可避免的。游戏工作室的实例(来源:参考 #12 )现有的数字环境(资产、分数、进度等)继续为 Web3 开发提供依据。然而,正如一些批评者指出的那样,在区块链可以发挥重要作用的世界中,牢记不良行为的载体很重要。
这就是版主进来的地方。元节模式将与现有媒体(即文本、图像、视频、声音、文件等)有完全不同的体验。在元节中,除了上述媒体之外,还会有模仿人类行为的化身并使用数字资产来扩展那些也需要适度的行为。对于试图保持文明和控制坏苹果的肉类空间警察来说,这将是真实的。版主的工作将以新的范式进行。
就雇主而言,他们必须确保这项工作不仅得到适当的奖励,而且还照顾到相关人员的心理健康。社交媒体已经给出了它对模组造成的损失的想法。这种新的社会体验迭代不应该让他们失望,因为他们努力为我们其他人维护元宇宙的神圣性。
披露:作者在本文中提到的任何项目中都没有既得利益。文章中的任何信息均不应被视为财务建议。
其他参考:
Youtube #ElsaGate(The Outer Light)上发生了一些奇怪的事情:
成为 Facebook 版主的可怕之处 |线人(副):
Google 和 YouTube 版主大声疾呼(The Verge):
在 Facebook 版主(The Verge)的创伤生活中:
内容审核和言论自由 | Hasan Minhaj 的爱国者法案 | Netflix(Netflix 是个笑话):
来自沙盒的推文: https ://twitter.com/TheSandboxGame/status/1536408399730057216
加密货币中的一切都是骗局吗? (副新闻):
来自 Xavier Coelho-Kostolny 的推文: https ://twitter.com/xavierck3d/status/1480259615174455298
来自 Rami Ismail 的推文: https ://twitter.com/tha_rami/status/1480404367459168258
来自 6529 的推文: https ://twitter.com/punk6529/status/1514718020849000461
为什么你应该担心 Facebook 的 Metaverse |系统错误(VICE 新闻):
Eurogamer 的推文: https ://twitter.com/eurogamer/status/1534590449012310017