computer-science / frontier
研究 前沿
人类在计算机科学领域当下正在推进的最前沿——尚未解决的问题、谁在攻关、近年的突破, 以及仍然未知的边界。这里收录的是“正在发生的知识”,而非已盖棺定论的结论。
18 个前沿议题
形式化验证与程序合成
Formal Verification and Program Synthesis — From CompCert to AI-Assisted Proof
2023 年 11 月,菲尔兹奖得主陶哲轩(Terence Tao)和合作者 Timothy Gowers、Ben Green、Freddie Manners 共同宣布证明了多项式 Freiman–Ruzsa(PFR)猜想。这不只是一个数学定理的证明。
Xavier Leroy(INRIA,CompCert) · Leonardo de Moura(Microsoft Research → Amazon,Lean) · Terence Tao(UCLA,AI 辅助证明)
神经程序综合:从规约到代码的开放问题
Neural Program Synthesis — Open Problems from Specification to Code
形式化验证那一篇讲的是 CompCert、seL4、Lean 与「证明对象如何被机器检查」。本篇不重复那条链。2020 年代另有一条已经进入生产的路径:用神经网络从自然语言、输入输出例子或残缺代码里提出程序,再用测试、类型或偶尔的证明去筛。
Armando Solar-Lezama(MIT,SKETCH / 程序综合) · Sumit Gulwani(Microsoft,编程示例综合) · Yujia Li 等(DeepMind AlphaCode)
神经形态与后 CMOS 计算:当搬运数据比计算更贵
Neuromorphic and Beyond-CMOS Computing — When Moving Data Costs More Than Computing
现代处理器有一个被算力叙事掩盖的真相:一次乘加运算的能耗,远低于把参与运算的数从内存搬到运算单元的能耗。在典型工艺下,从片外 DRAM 读一个数所耗的能量,可以做几百次乘加。
Carver Mead(Caltech,神经形态一词的提出者) · Dharmendra Modha(IBM,TrueNorth / NorthPole) · Mike Davies(Intel Neuromorphic Computing Lab)
计算的碳足迹:可持续计算的实测与分歧
The Carbon Footprint of Computing — Sustainable Computing
2025 年 4 月,国际能源署(IEA)发布《Energy and AI》特别报告,给出了两个被反复引用的数字:全球数据中心 2024 年用电约 415 太瓦时(TWh),占全球用电量约 1.5%;在基准情景下,2030 年将增至约 945 TWh——超过今天日本全国的用电量。报告同时把增长的主要驱动点名:AI。
Eric Masanet(UC Santa Barbara / Northwestern) · Jonathan Koomey(能源效率研究者) · Emma Strubell(卡内基梅隆大学)
集群训练系统:把模型铺到一千张卡上
Cluster Training Systems — Spreading a Model across a Thousand Accelerators
Meta 在 Llama 3 405B 的预训练里动用 16,384 张 H100,论文给出的总算力约为 $3.8\times 10^{25}$ FLOPs。
Mohammad Shoeybi 等(Megatron-LM) · Samyam Rajbhandari 等(DeepSpeed ZeRO) · Ziheng Jiang 等(MegaScale)
零知识证明与隐私计算
Zero-Knowledge Proofs and Privacy-Preserving Computation
想象这样一个场景:你想向一家医院证明你没有某种遗传性疾病,但不想透露你的基因数据。你想向银行证明你的信用分足以申请贷款,但不想暴露你的财务明细。你想证明你年满 18 岁,但不想给对方看你的身份证。
Shafi Goldwasser(MIT / Weizmann,零知识证明奠基人) · Silvio Micali(MIT,零知识证明奠基人) · Eli Ben-Sasson(Technion,StarkWare 联合创始人)
全同态加密:在密文上计算
Fully Homomorphic Encryption — Computing on Ciphertexts
2009 年,Craig Gentry 在斯坦福的博士论文里第一次给出了全同态加密(Fully Homomorphic Encryption, FHE)的可行构造:不解密,也能对密文做任意计算,解密后得到的结果等于对明文做同样计算。
Craig Gentry(Stanford / IBM Research,首个 FHE 方案) · Zvika Brakerski、Vinod Vaikuntanathan(BGV) · Jung Hee Cheon 等(CKKS)
后量子密码:在机器造出来之前更换全世界的锁
Post-Quantum Cryptography — Replacing the World's Locks Before the Machine Exists
密码学史上从没出现过这样的局面:一种尚不存在的机器,正在迫使全世界更换正在使用的锁。
Peter Shor(MIT) · Michele Mosca(滑铁卢大学 IQC) · Wouter Castryck & Thomas Decru(KU Leuven)
机密计算:把信任从运维手里收回硬件
Confidential Computing — Moving Trust from the Operator into the Silicon
云计算有一个从第一天起就存在、却长期被默认接受的漏洞:你的数据在云上是加密的——除了它正在被使用的时候。
Georgia Tech / Purdue 的 TEE.fail 研究团队 · Battering RAM 研究团队(KU Leuven / 伯明翰大学) · Daniel Genkin 等(微架构侧信道)
大语言模型与基础模型
Large Language Models and Foundation Models
2022 年 11 月 30 日,OpenAI 把一个叫 ChatGPT 的系统悄悄放到了互联网上。没有发布会,没有大型广告。五天后,它有了 100 万用户;两个月后,1 亿用户。这是消费级应用历史上最快的用户增长。
Ashish Vaswani 等(Google Brain,Transformer 论文) · OpenAI(GPT 系列) · Anthropic(Claude 系列)
机制可解释性:从可命名特征到因果机制
Mechanistic Interpretability from Named Features to Causal Mechanisms
2021 年,OpenAI 研究者在 CLIP 中观察到一个“蜘蛛侠神经元”:蜘蛛图像、单词 spider 的图像和蜘蛛侠角色都会激活它。这说明模型内部可能出现跨文字、符号和视觉形式的抽象响应。
Chris Olah · Neel Nanda · Aaron Mueller
AI 驱动的科学发现:从蛋白质到天气再到数学
AI for Science — Machine Learning as an Instrument of Discovery
2024 年 10 月,诺贝尔化学奖一半授予 David Baker,另一半授予 Demis Hassabis 与 John Jumper——表彰计算蛋白质设计与蛋白质结构预测。一个本质上是机器学习系统的成果拿到了科学最高奖,这在诺贝尔奖历史上没有先例。
John Jumper 与 Demis Hassabis(Google DeepMind,AlphaFold) · Remi Lam 等(Google DeepMind,GraphCast) · Amil Merchant 与 Ekin Dogus Cubuk(Google DeepMind,GNoME)
推理时计算与推理模型:让机器学会"多想一会儿"
Inference-Time Compute and Reasoning Models
2024 年 9 月 12 日,OpenAI 发布 o1-preview,博客标题只有一句话:Learning to Reason with LLMs。模型的用法看起来很反常——它在回答之前会"沉默"几十秒甚至几分钟,生成一大段用户看不见的推理过程,然后才给答案。
OpenAI(o1 / o3 系列) · DeepSeek 团队(R1 / R1-Zero) · Hunter Lightman 等(OpenAI,过程奖励模型)
扩散模型:从噪声里长出分布
Diffusion Models — Growing a Distribution out of Noise
2020 年,Ho、Jain 与 Abbeel 的 DDPM 把一条看起来像物理的程序——把图像一步步加噪直到变成高斯,再学着把它一步步去噪——做成了能在 CIFAR-10 上打出 FID 3.17 的生成模型。
Jonathan Ho、Ajay Jain、Pieter Abbeel(DDPM) · Yang Song、Stefano Ermon、Jascha Sohl-Dickstein(分数 / SDE) · Robin Rombach 等(潜扩散 / Latent Diffusion)
混合专家:稀疏激活的大模型
Mixture of Experts — Sparsely Activated Large Models
2023 年 12 月,Mistral AI 放出 Mixtral 8×7B 的开放权重:总参数约 467 亿,但每个 token 只激活约 129 亿。它在多数公开基准上匹配或超过 Llama 2 70B,推理成本却按“激活参数”而不是总参数来付。
Noam Shazeer(稀疏门控 MoE,2017) · William Fedus、Barret Zoph、Noam Shazeer(Switch Transformer) · Albert Q. Jiang 等(Mixtral)