计算文学研究能被复现吗
Can Computational Literary Studies Be Replicated
二〇一九年春季号《批判探索》(Critical Inquiry)刊出 Nan Z. Da 的长文《反对计算文学研究的计算论证》。文章不只批评几张词频图,而是做了一件人文学科很少公开做的事:把已经发表的定量研究再走一遍,看结论是否还站得住。她的主张很硬:计算文学研究(computational literary studies,CLS)把文学的复杂性减得太狠,减完之后剩下的统计,常常既不能支持原来的人文问题,也经不起数据科学自己的检验。
回应来得很快。被点名的作者、数字文学文体学兴趣小组,以及《文化分析》期刊上的一组声明,几乎同时出现。争论看起来像「人文对算法」的对决。更有用的读法是把它当成一次迟到的方法课:文学研究能不能、应不应该把复现写成一种认识方式。克里斯托夫·舍希(Christof Schöch)二〇二三年十一月六日在《国际数字人文学刊》发表的论文,不再围着 Da 的对错打转,而把「重复性研究」拆成问题、数据、方法、团队与结论五个维度。开放问题从「CLS 有没有用」换成了:「同一次计数,究竟重复了哪一层。」
破除误解
误解
第一种误解:复现就是心理学复制危机的文学版。实情心理学争论的是实验效应能不能在新样本上再现。文学语料往往是封闭的历史对象:狄更斯的一部小说不会在明年再被写一遍。舍希把完全相同的重复写成几乎做不到的极限,更常见的是再分析、再调查与有意识的近似。把 CLS 写成「又一场 p 值崩溃」,会借错邻科的恐慌。
第二种误解:Da 已经证明定量方法对文学无效,或回应者已经证明她无效。她指出的是具体操作:分类器目标与人文问题错位、显著性被误用、复杂度被一次性削掉。回应者指出她漏看了句法、标注与计算机辅助细读,也指出她批评的某项步骤其实做过。两边都是对已发表研究的再阅读。谁也没有测量出「文学拒绝数字」。
第三种误解:远读已经把复现问题解决了。弗兰科·莫雷蒂的远读是规模论证:细读处理不了未进入课表的那一大堆书。规模论证不自动提供可重复的操作。斯坦福文学实验室把实验写成小册子,正是因为图表会失败。失败要能被别人再走一遍,才变成方法,而不是实验室的口头传统。
现场:先复现一条十九世纪的词长曲线
一八八七年,托马斯·C·门登霍尔在 Science 发表《构图的特征曲线》。他的想法简单得像课堂演示:统计词长分布,看能不能认出作者。他为狄更斯《雾都孤儿》前一千个词画出一条曲线。这不是神经网络,甚至不是数字文本。它是手工计数的风格学祖先。
二〇一五年前后,斯特凡·辛克莱与杰弗里·罗克韦尔用古腾堡计划的数字文本把这条实验再做一次。前一千词的曲线几乎重叠。他们接着把整部小说都算进去,分布仍然认得出来,却明显偏离门登霍尔的原图。偏离不是丑闻。它说明:样本长度本身就是方法的一部分。复现成功,恰恰把原实验没写进标题里的条件写了出来。
罗克韦尔把这件事称作「作为认识方式的复现」。它不是为了揭穿门登霍尔造假。它是为了看见:一次经典定量研究依赖哪些未言明的切口。CLS 后来的争论,很多其实是在争切口。语料是哪一个版本?功能词算不算?句子边界按谁的规则切?图表上的「文类」是出版商标签、图书馆分类,还是事后聚类?切口不同,重复就不是同一实验。
Da 的文章把这类切口从友好的再演,推进到对抗性的再分析。她选择已经发表、已经产生学科影响的研究,按数据科学的标准去问:这一步对原问题有没有用。被批评的作者可以回答「我其实做了另一步」。这种来回本身就是复现文献,只是发表在评论栏而不是代码仓库。它证明的不是人文已经变成实验室科学,而是:一旦你把文学论题操作化成可计数的对象,别人就有权问这个对象是不是还指着原来的问题。
谁在测、测到了哪一步
二〇一九年之后,争论分成三条可以分开记账的线。
第一条是学科边界。数字文学文体学兴趣小组在回应里强调:数字方法包含关键词索引、注释、计算机辅助细读,并不等于「不顾位置、句法与语义的词频」。Da 把 CLS 写成一种还原;他们把同一名称写成一个方法家族。名称之争会改变谁被算进被批评的集合。集合一变,复现的对象就变。
第二条是术语。舍希二〇二三年的论文把 repetitive research 写成伞名,下分 replication、reproduction、revision、reanalysis、reinvestigation、reuse。五个维度是:问题或假设、数据集、分析方法、团队、结果或结论。对齐其中几维,就会得到不同的场景。对齐数据与方法、换一个团队,是一种重复;对齐问题、换一套数据,是另一种。没有这张表,两个人说「我们复现了」,可能在说完全不同的事。
第三条是基础设施。可重复首先要求别人拿得到语料、代码与参数。许多文学文本仍受版权限制,许多实验室只发布图表。门登霍尔那条曲线能被再走,部分是因为狄更斯已在公有领域。当代语料、付费语料库与网站抓取,会把复现从方法问题变成许可问题。训练语料诉讼处理的是另一套复制,见本板块相邻的前沿文;这里只需记住:不能分享的数据,无法成为公共的失败。
斯坦福文学实验室二〇一一年的小册子《定量形式主义:一次实验》测的是:只用最高频功能词,统计模型能不能把文类分开。成功只说明虚词携带文类信号。它不说明读懂了一部小说。把这次实验再跑一遍,需要同一批文本、同一套词表、同一种分类器。缺任何一项,你做的就不是复现,而是一篇新论文。新论文可以更有意思。它不再是对旧主张的检验。
代价与争议
对抗性复现的代价,是把学科争论写成人格对决。Da 的文章被读成对数字人文的全面否定;回应被读成行会自卫。两边都可能是真的,也都可能挡住真正可核对的一点:操作化有没有把原问题替换掉。叙事学问叙述者、时序与聚焦;词频问的是另一类对象。用词频回答叙事学的问题,失败并不证明叙事学失败,只证明对象被换了。
另一边的代价,是把「可重复」写成唯一的知识标准。细读处理反讽、否定和戏仿,证据在页面上,却很难变成另一台机器上的同一输出。要求细读提供随机种子,是在用邻科的可重复性欺负另一种证据。舍希自己限定:他的术语主要适用于以数字数据与算法方法工作的计算人文学。不是所有数字人文,更不是所有文学研究。
还有一种代价发生在教学。学生看到一张文类曲线,会以为文学史已经被画出来了。复现训练若只教软件,不教切口,曲线会变成新的权威文本。门登霍尔的前一千词与全书的差异,是比任何「算法发现作者」的标题更有用的课堂:数字会随窗口移动。移动不是作弊。不写窗口,才是作弊。
Ted Underwood 二〇一九年的 Distant Horizons 把预测模型写成文学史工具,也把不确定性和错误写成必须公开的部分。Da 与他的来回,有一处已经具体到「某一步到底做了没有」。这种颗粒度比「人文是否应该量化」有用。颗粒度要求引用页码与代码,而不是引用阵营。
未知的边界
- 没有共享语料与代码的 CLS 论文,还能不能被写成可检验的知识?目前大量研究停在图表。
- 版权限制下,复现是否只能发生在公有领域语料,从而使「可重复的文学史」偏向已经过期的正典?
- 大语言模型进入文学分析之后,随机性与闭源接口会不会让「同一方法」失去意义?
- 复现应不应该成为发表门槛,还是继续作为偶尔出现的高成本评论?
跨域连接
- 远读与数字人文:规模论证提出了必须放弃逐页阅读的理由;复现问的是:放弃之后留下的模型,别人能不能再走一遍。走不通的步骤,规模再大也还是一次性演示。
- 细读:页面上的否定与戏仿仍是词频最容易认错的一层。复现不能把这一层自动补回来。计数重复了,反讽仍可能被写成正面出现。
- 叙事学:叙述者与时序是理论对象。把它们写成网络节点或时序标签,已经是一次改写。改写之后的重复,重复的是标签,不是原来的理论。标签手册一换,可重复的就换成了另一套对象。
- 正典之争:可重复的语料往往是已经数字化、已经过期、已经进库的书。方法的公开性,可能在暗中加厚正典。能被别人再跑一遍的,常常是已经最容易被看见的书。
- 假设检验:预注册特征与分割,是为了让否定结果也有地址。事后从词表里捞到的显著性,复现时往往会先消失。
- 可重复性危机与开放科学 把代码和数据公开,只是让失败可以被定位。没有预注册的特征清单,公开仓库仍可能只重复一次幸运的显著性。能定位失败,公开才从姿态变成方法。
- 因果推断 词频差异常常混进时代、出版社和数字化优先级。不拆开选择过程,风格变化就会被写成文本内部的定律。
参考文献
- Da, Nan Z. “The Computational Case against Computational Literary Studies.” Critical Inquiry 45, no. 3 (2019): 601–639. DOI: 10.1086/702594.
- Schöch, Christof. “Repetitive Research: A Conceptual Space and Terminology of Replication, Reproduction, Revision, Reanalysis, Reinvestigation and Reuse in Digital Humanities.” International Journal of Digital Humanities (2023). DOI: 10.1007/s42803-023-00073-y.
- Mendenhall, Thomas C. “The Characteristic Curves of Composition.” Science 9, no. 214 (1887): 237–246.
- Underwood, Ted. Distant Horizons: Digital Evidence and Literary Change. University of Chicago Press, 2019.
- Allison, Sarah, Ryan Heuser, Matthew Jockers, Franco Moretti, and Michael Witmore. “Quantitative Formalism: An Experiment.” Stanford Literary Lab Pamphlet 1, 2011.
延伸阅读
- Special Interest Group on Digital Literary Stylistics. “Response by the Special Interest Group on Digital Literary Stylistics to Nan Z. Da’s Study.” Cultural Analytics, 2019. DOI: 10.22148/001c.11827.
- Rockwell, Geoffrey, and Stéfan Sinclair. 关于复现门登霍尔词长曲线的公开演示与后续讨论,见二人数字人文工具研究(2015 前后)。