跳转到内容
← 返回研究前沿
数字社会2020s10 分钟阅读

平台治理的系统风险转向

Platform Governance and Systemic Risk

2024 年以后,平台治理的前沿不再只是“删不删某条内容”,而是转向一个更大的问题:平台的设计、推荐、广告、审核和数据访问,是否会制造社会层面的系统风险。 欧盟《数字服务法》(Digital Services Act, DSA)把这一转向制度化。超大型在线平台和搜索引擎需要评估并缓解非法内容、基本权利、公共讨论、选举过…

平台治理系统风险DSA算法透明公共领域

2024 年以后,平台治理的前沿不再只是“删不删某条内容”,而是转向一个更大的问题:平台的设计、推荐、广告、审核和数据访问,是否会制造社会层面的系统风险。

欧盟《数字服务法》(Digital Services Act, DSA)把这一转向制度化。超大型在线平台和搜索引擎需要评估并缓解非法内容、基本权利、公共讨论、选举过程、性别暴力、未成年人保护、公共健康和心理福祉等风险。这意味着社会学研究对象也改变了。过去我们研究平台上的用户互动。现在还必须研究平台作为制度:它如何定义可见性,如何分配申诉权,如何把商业目标写进公共空间。

破除误解

平台治理不是“政府管互联网”这么简单。平台本身已经在治理。它们通过推荐算法、热榜、封禁、限流、内容审核、广告竞价、账号验证和接口开放,持续决定什么能被看见,谁能获得流量,谁能申诉,哪些风险被提前处理。第二个误解,是把治理理解成透明度报告。透明度报告重要,但如果外部研究者无法验证数据,报告就可能变成公关文件。

真正的前沿问题是:怎样把平台内部的风险评估、独立审计、研究者数据访问和公共问责接起来。第三个误解,是认为平台风险只来自“坏用户”。社会学更关心结构风险:商业模式是否奖励极端内容,推荐系统是否放大骚扰,广告系统是否制造歧视,平台劳动规则是否转嫁成本,审核制度是否让某些语言和地区更容易被误判。

核心问题

平台治理的开放问题,是如何衡量系统风险。一条违法内容可以被截图、删除和统计。但“公共讨论被扭曲”“选举诚信受损”“少数群体被系统性骚扰”“青少年心理健康受到影响”,这些都不是单一帖子能解释的。它们来自长期、分布式、跨系统的机制。推荐模型改变可见性。账号网络改变扩散速度。

广告系统改变激励。审核规则改变表达边界。用户群体的脆弱性又决定同样机制在不同社会中的后果。这就要求社会学把内容分析、计算社会科学、组织研究、法律研究和政治传播结合起来。

谁在做、做到哪一步

欧盟委员会是当前制度前沿的核心行动者。DSA 让超大型平台承担年度风险评估、外部审计、研究者数据访问和危机应对义务。各成员国的 Digital Services Coordinators 负责本国平台监管,欧盟委员会则直接监督超大型平台和搜索引擎。学术界和政策机构正在研究第一轮风险报告和审计报告的质量。

Georgetown 的 Knight-Georgetown Institute 对第一轮 DSA 系统风险评估进行分析,指出报告格式、可比性、证据公开和审计可验证性仍有明显缺口。Stanford、牛津、阿姆斯特丹、Weizenbaum Institute 等机构也在研究平台风险、数据访问和算法问责。

2020 年代的真实前沿,是制度与方法同时试验:监管机构在学习如何审平台,平台在学习如何写风险报告,研究者在争取能验证这些报告的数据。

路线想解决的问题当前难点
风险评估让平台主动识别系统风险平台自评可能选择性披露
独立审计外部检查平台治理过程审计者能否访问足够数据
研究者数据访问让公共研究验证平台影响隐私、商业秘密和接口限制冲突
算法透明解释推荐、排序、广告和审核透明不等于可理解,也不等于可问责

平台治理的三难:没有一个方案能同时满足三件事

关于内容治理的争论之所以长期无解,一个结构性原因是它面对一个三难权衡——三个目标两两之间都能兼顾,三者同时满足则不可能:

目标要求与谁冲突
一致性同样的内容得到同样的处理与情境敏感冲突:同一句话在不同社群含义相反
情境敏感考虑语言、地域、群体、时事与规模化冲突:情境判断无法自动化
规模化每天处理数十亿条内容与一致性冲突:规模化必须依赖粗糙规则

于是任何治理方案都是在这三者间选一个牺牲品,而公众批评通常只盯着被牺牲的那一项:批评"一刀切"的人要的是情境敏感;批评"标准双重"的人要的是一致性;批评"审核不及时"的人要的是规模。三种批评可以同时成立,且互相矛盾。

理解这一点的实际价值:它把"平台治理做得好不好"这个无法回答的问题,替换成一个可以回答的问题——它在三难中选择了什么,是否公开说明了这个选择。透明度之所以是治理的核心要求,不是因为它能消除权衡,而是因为它让权衡可以被外部讨论。

为什么"更多人工审核"不是答案

一个常见的政策直觉是增加人工审核。它的局限同样是结构性的:

  • 量级不匹配:内容量以指数增长,审核人力只能线性增长。
  • 判断本身不稳定:同一条边界内容交给不同审核员,结论常常不一致——这不是培训问题,而是边界内容本来就没有唯一正确答案
  • 代价被外部化:大规模内容审核的心理健康代价,落在通常位于低薪国家的外包审核员身上。把治理难题转成人力,实际上是把它转成了一种劳动条件问题(与 ai-and-labor 讨论的算法管理属同一结构)。

所以前沿讨论正在从"人工还是自动"转向制度设计:申诉权是否实质有效、决策依据是否可查、独立监督机构是否有权调阅数据。判断一个治理体系的关键,不是它判得多准,而是判错之后有没有救济渠道。

代价与争议

平台治理最难的争议,是谁来定义风险。如果由政府定义,可能压缩表达自由。如果由平台定义,可能优先保护商业利益。如果由研究者定义,又会遇到数据访问和民主授权问题。另一个争议是地域差异。欧盟的制度能力较强,能够把 DSA 变成监管基础设施。但许多全球南方国家既承受平台外部性,又缺少谈判能力。

同一个平台产品在不同语言、政治制度和媒介生态中产生不同后果,却常由北美和欧洲团队设计、测试和审核。还有一个方法争议:系统风险很难形成简单因果证据。平台可以说社会极化早已存在,平台只是反映它。批评者则认为平台改变了扩散速度、注意力结构和经济激励。

社会学需要的不只是“平台有害”或“平台无害”的口号,而是机制级证据。

未知的边界

  • 独立审计能否真正突破平台的信息优势,目前没有定论。
  • 研究者数据访问怎样同时保护隐私、商业机密和公共问责,仍在制度试验中。
  • 系统风险指标是否会变成可被平台优化的“考试”,需要持续观察。
  • 全球南方语言、少数族群语言和低资源语境如何进入平台治理,仍是巨大空白。
  • 生成式 AI 内容进入平台后,风险评估是否需要重写,仍未稳定。

跨域连接

  • 言论自由:平台治理无法套用国家—公民的言论框架——平台不是政府,却行使着类似的规则制定与执行权。这使经典的"政府不得限制言论"原则不直接适用,而"私人主体可自由设定规则"同样不足以处理它的实际权力规模,两难正在于此。
  • 推荐系统:治理讨论多集中在删除什么,而更有效的杠杆在排序:不删除但降低分发,其效果在规模上远大于逐条审核。这也带来新的问题:降权是不可见的,因而既难以被申诉,也难以被外部审计——这是当前监管提案的主要盲区。
  • 数字伦理:审核的规模使个案判断不可能,规则必须被写成可判定的形式,其代价是系统性地误判反讽、引用与少数群体的内部用语。申诉成本由被误判者承担,而这一分配本身是治理设计的一部分,却很少被当作核心问题讨论。
  • 公共池塘资源治理:奥斯特罗姆归纳的自治原则(边界清晰、规则由使用者制定、分级制裁、低成本冲突解决)给平台治理提供了一份可对照的清单,而多数平台在"规则由使用者制定"与"低成本申诉"两项上完全不合格。这一对照的价值在于它来自大量实证案例,而非规范推演。
  • 国际法:平台跨境运营而规则属地,这使一国的合规要求实际上外溢为全球标准(企业倾向采用最严格的一套以降低成本)。这一"布鲁塞尔效应"式的机制使监管竞争的结果不是趋底而可能是趋顶,而它是否成立取决于市场规模与技术可分割性。

参考文献

  • European Commission. The Digital Services Act: ensuring a safe and accountable online environment. 2024-2026 updates.
  • European Union. Regulation (EU) 2022/2065 on a Single Market for Digital Services.
  • Knight-Georgetown Institute. Systemic Risk Assessment under the Digital Services Act. 2025.
  • Keller, Daphne and Leerssen, Paddy. Facts and Where to Find Them: Empirical Research on Internet Platforms and Content Moderation. 2020.
  • Gillespie, Tarleton. Custodians of the Internet. Yale University Press, 2018.