跳转到内容

computer-science / frontier

研究 前沿

人类在计算机科学领域当下正在推进的最前沿——尚未解决的问题、谁在攻关、近年的突破, 以及仍然未知的边界。这里收录的是“正在发生的知识”,而非已盖棺定论的结论。

12 个前沿议题

编程语言与系统1
计算体系结构2
量子计算1
密码学1
密码学与安全2
人工智能4
2020s

大语言模型与基础模型

Large Language Models and Foundation Models

2022 年 11 月 30 日,OpenAI 把一个叫 ChatGPT 的系统悄悄放到了互联网上。没有发布会,没有大型广告。五天后,它有了 100 万用户;两个月后,1 亿用户。这是消费级应用历史上最快的用户增长。 但 ChatGPT 只是冰山水面上的一角。真正引发技术界震动的,是它背后所代表的——一种完全不同于以往…

Ashish Vaswani 等(Google Brain,Transformer 论文) · OpenAI(GPT 系列) · Anthropic(Claude 系列)

2020s

机制可解释性:从可命名特征到因果机制

Mechanistic Interpretability from Named Features to Causal Mechanisms

2021 年,OpenAI 研究者在 CLIP 中观察到一个“蜘蛛侠神经元”:蜘蛛图像、单词 spider 的图像和蜘蛛侠角色都会激活它。这说明模型内部可能出现跨文字、符号和视觉形式的抽象响应。 但一个容易理解的神经元不是完整解释。它可能只在特定数据上相关,可能与其他方向共同编码概念,也可能不是产生最终输出所必需的计算…

Chris Olah · Neel Nanda · Aaron Mueller

2020s

AI 驱动的科学发现:从蛋白质到天气再到数学

AI for Science — Machine Learning as an Instrument of Discovery

2024 年 10 月,诺贝尔化学奖一半授予 David Baker,另一半授予 Demis Hassabis 与 John Jumper——表彰计算蛋白质设计与蛋白质结构预测。一个本质上是机器学习系统的成果拿到了科学最高奖,这在诺贝尔奖历史上没有先例。同年 5 月,AlphaFold 3 登上 Nature,把预测范…

John Jumper 与 Demis Hassabis(Google DeepMind,AlphaFold) · Remi Lam 等(Google DeepMind,GraphCast) · Amil Merchant 与 Ekin Dogus Cubuk(Google DeepMind,GNoME)

2020s

推理时计算与推理模型:让机器学会"多想一会儿"

Inference-Time Compute and Reasoning Models

2024 年 9 月 12 日,OpenAI 发布 o1-preview,博客标题只有一句话:Learning to Reason with LLMs。模型的用法看起来很反常——它在回答之前会"沉默"几十秒甚至几分钟,生成一大段用户看不见的推理过程,然后才给答案。在国际数学奥林匹克资格赛(AIME)这类题目上,o1 的…

OpenAI(o1 / o3 系列) · DeepSeek 团队(R1 / R1-Zero) · Hunter Lightman 等(OpenAI,过程奖励模型)

人工智能系统1