序言 互联网的背后

我花了八年时间研究互联网商业性内容审核（commercial content moderation）、审核员，以及这项工作如此重要却“不可见”的原因，这本书就是最终的成果。商业性内容审核员是一群职业化员工，他们为那些想要吸引用户参与的公司有偿审核在线社交媒体平台上的内容。他们的工作是评估用户上传的在线内容，并决定它们能否留在平台上。他们的工作节奏很快，一天往往要审核成千上万份图片、视频和文本。他们不像早期互联网和现在一些著名网站上的在线社群管理员那样在其管理的互联网平台上拥有特殊或可见的地位。恰好相反，他们的一个工作要点就是尽量保持隐蔽，不要被人察觉。
在线社交空间和信息空间里的内容审核并不新鲜，自从网络社交空间诞生以来，在过去40年里，一直有人在制订和推行各种参与规则。但是由一群职业化员工为大型商业机构（比如社交媒体公司、新闻媒体、需要管理线上业务的公司、各种应用程序和约会软件等）从事大规模、有组织的有偿审核工作，这是一种新兴现象。随着社交媒体和数字信息检索的流行，在线社交等活动成为我们日常生活的一部分，这种现象也随之大规模发展起来。
主流社交媒体平台拥有全球性的巨大规模、影响范围和影响力，需要一支分散在全球各地的劳动力队伍，为其提供全天候的内容监测和品牌保护服务。当我了解到这项工作的规模后，我意识到需要创造一个描述性的词汇来讨论这项工作及其从业者。最终我决定使用“商业性内容审核”这个术语来指代这种新现象。有时候我会使用其他词汇来指代商业性内容审核员，比如“moderator”“mod”“screener”，以及一些更普遍的通称。除非特别说明，本书中的这些词汇指的都是将内容审核作为一种谋生职业的职业化员工。描述这项工作及其从业者的词汇有很多，雇主和审核员可能使用其中任意一个，或者更加抽象的术语。
当然，商业性内容审核员并非真的完全“不可见”。事实上，只要你想，全世界都能找到他们的身影。他们可能在舒适的硅谷科技公司总部，可能在仓库或摩天大楼中的隔间办公室里，可能在美国某个乡村或者超级城市马尼拉，也可能在太平洋西北地区的家中用笔记本电脑办公，同时照料着孩子。那些支付且依赖这项服务的平台用户，大多对他们的工作内容、工作条件和待遇一无所知。事实上，这种隐蔽性是人为设定的。
本书的目的就是要揭开这层面纱，将审核员和他们的工作公之于世，让更多人了解到一线审核工作的焦虑和艰难。读者也能从书中获得有用信息，从而能带着更多细节、更多洞察力去讨论社交媒体对于人际关系、公民生活和政治生活的影响。如果不了解互联网的幕后运作，我们就很难有效地参与到这类讨论之中。
在识别和研究商业性内容审核现象的过程中，我接触了许多处于不同人生阶段、来自不同社会阶层、来自不同文化背景、拥有不同生活经验的人们。我到访了世界上一些我先前并不熟悉的地方，阅读了历史和政治领域的学术著作，研究了菲律宾等地的人民，也认真考察了艾奥瓦州乡村居民的生活日常。这段经历帮助我在硅谷和印度之间、在加拿大和墨西哥之间、在那些并不认为彼此是同行的互联网从业者之间建立了联系。在这一时期，我形成了相应的理论框架和洞见，这也指引着我的研究方向。我希望能为这些人和我们所有人建立一种跨越时空的联系。
在美国，早在互联网诞生之初，就有人将它用于通信和社交。例如加利福尼亚大学洛杉矶分校（UCLA）的研究者在1969年就通过阿帕网（ARPANET，互联网的前身，由美国国防部资助）在两台计算机之间传输信息，不过结果是系统崩溃。阿帕网发展成了互联网，一些有影响力的带有实验性质的新型社交空间也作为计算和连通性技术革命的一部分而发展起来。这些基于文本的空间有着像密码一样的奇特缩写，比如MOO、MUD、BBS。人们在Unix操作系统上使用命令行程序（command-line programs），比如“talk”（聊天）来进行即时通信，那时候离短信（texting）的发明还有很长一段时间。后来，电子邮件作为一种新型的通信方式，一度成为互联网上大部分数据的传输途径。还有一些人在新闻组（Usenet）里分享时事、讨论政治、谈论喜爱的音乐或者传播色情内容。这些都是某种形式的在线社群，它们早在Facebook创始人出生多年以前，就已经将不同的计算机用户连接了起来。这些通信站点都发展出了各自的协议、广为用户接受的操作或模式，以及自身独特的氛围、规范和文化。
互联网诞生的头十年，接入网络的计算机并不多（那时候大部分计算机甚至都不是个人电脑），能够接触到新兴互联网的人大多在高校和研发机构，主要分布在美国、英国和北欧。尽管这些早期用户的背景看起来基本相似，但他们仍然在网络上争吵不休。政治、宗教、各种社会议题的争论，连篇累牍的讨论，羞辱、挑衅和谩骂的言辞都屡见不鲜——直到现在，我们还在为这些网络现象而头疼不已。
在很多早期网络社交空间里，为了应对这些挑战，同时培养、增强社群认同感，用户们往往会自行制定规则、指南、行为规范和其他自治和管理的形式。他们会选定自己或其他用户作为超级管理员，从社交和技术两方面执行这些规范。简而言之，用户的行为和内容在这些空间里会受到审核。我曾经援引亚历山大·R.加洛韦（Alexander R. Galloway）和弗雷德·特纳（Fred Turner）的研究，在一个百科全书的词条里这样解释早期的社交网络：

互联网及其许多底层技术，在数据传输方面都高度程序化、依赖协议，但其中的内容在主题和本质上向来都是高度自由的。事实上，许多互联网拥护者早期对它的一个核心愿景，便是互联网的架构和伦理观决定了它对任何形式的审查都具有高度的抵抗力。不过，在早期的在线社群中已经出现了不同形式的内容审查，这项任务通常由一些人自愿承担，根据是社群内部的社群规范和用户行为的参与规则。社群内部的审查方式和风格会带来不同的社群氛围，比如有的社群强调严格遵守规则，有的社群则提倡无政府主义式的管理。服务于旧金山湾区的在线社群“电子链接”（WELL）为人津津乐道的是，它在成立的头六年里只封禁过三位用户，而且只是短期封禁。

了解这一背景之后，读者应当知道，互联网在当下的治理、监控和干预色彩比以往任何时候都要浓厚，互联网也比以往任何时候都承载了更多以商品性质流通的信息。本书所介绍的商业性内容审核员，就处在这样的环境之下。互联网已经成长为全球性的商业和经济领域的庞然大物，商业性内容审核也随之萌芽、扩大、变得不可或缺。过去20年，我亲身体会了这种变化，而这种变化对我的人生有着重要的影响。接下来，我将简单地回顾那段时光，让读者们对过去和现在的互联网环境有更好的理解。

……

本书第一章讲述了职业互联网审核员的工作首次突破行业限制，显著地曝光在公众面前的过程，这要归功于《纽约时报》上的一篇文章，本章也对其做了介绍。我回顾了2010年的这一时刻，并介绍了互联网生态系统内其他被遮蔽的人力劳动和介入，目的是阐述商业性内容审核及其影响的范围与风险、过去和当下。
第二章详细介绍了商业性内容审核的概念，以及人们从事这项工作的环境。这一章从背景和理论两方面勾勒了内容审核的概念，并且将审核工作分成了几个类别，用实例阐述了商业性内容审核的工作模式和工作条件，这有助于我们把它放在数字劳动和数字经济过去和当下的讨论中加以考察。我介绍了最近的一些著名案例，并进行了相应的分析。
第三章介绍了一家大型硅谷互联网巨头MegaTecha（化名）的三位合同工。这一章主要通过他们自己的话语，介绍了硅谷合同工的职场文化和日常体验。他们讲述了这个岗位给他们的工作和生活带来的压力和负面影响。我认为，他们对于内容审核这一工作在劳动性质上的看法，揭示了社交媒体经济以及更广泛意义上的互联网文化和政策背后的复杂、病态的一面。他们有很强的自知之明和敏锐的洞察力，这一章通过许多强有力的访谈摘选和我自己的分析，抓住了他们的发言和经历中所蕴含的丰富信息。
本书的分析框架，得益于早期对于薪酬和地位较低的类似工作（比如呼叫中心）的研究，以及对甄别检查相关工作的研究。丽萨·帕克斯（Lisa Parks）研究了机场的安检人员，她提到，在一次国会听证会上，这种不停地通过影像检查行李的工作被描述成一种“重复、单调、压力重重的工作，不能有一丝松懈”。而内容审核员的工作不仅单调，还要经常面对令人不适的画面，他们承受的危害没有引起人们的关注，因为这些危害不一定会反映在身体上，也不一定会立刻显现出来或者被人理解。
介绍完硅谷MegaTech公司的合同工之后，第四章介绍了在另外两种环境下工作的两位审核员，其中一位在一家专业社交媒体审核公司里担任高管，另一位则给一个数字新闻网站当过合同工。他们分享了对这些特定环境的重要见解，阐明了不同环境下商业性内容审核的差异，且在全球各地的审核员的经历和观察之间建立了联系。