共计 1635 个字符,预计需要花费 5 分钟才能阅读完成。
编辑丨%
对于 Michael Frank,效率一直是一个主要关注点。作为 1990 年代的学生,他最初对人工智能感兴趣。但是,当他意识到这项技术会消耗多少能源时,他就把研究转向了另一个方向:计算的物理极限。
他很快找到了一个利用热力学特性的候选方案:一种既能正向运行也能反向运行的计算设备。通过从不删除数据,这种「可逆」计算机可以避免浪费能量。
如今,随着传统计算的进步放缓——新的芯片遇到了根本性的物理限制,无法继续缩小——可逆计算或许能够继续推动计算的进步。
相关链接:https://www.nature.com/news/the-chips-are-down-for-moore-s-law-1.19338
感受熵增
最早研究可逆计算的是 IBM 的一位著名物理学家 Rolf Landauer。20 世纪 60 年代,他在信息处理领域做出了重要贡献。他的研究主要探讨了熵(衡量无序程度的指标)与信息之间的关系。
简而言之,对系统了解得越多其结构就越有序,反之就越无序。原子从可预测的行为转变为不可预测的运动,正是导致某些物理过程不可逆的原因。
在 1961 年,Rolf Landauer 证明了这些原理同样适用于计算机。当计算机系统删除信息时,计算机芯片中的电子会从已知路径变为未知路径。这些被丢弃的电子实际上已经丢失,它们的能量会以热量的形式逸出。
相关链接:https://ieeexplore.ieee.org/document/5392446
他证明了这是一个不可避免的事实:无论计算机是如何构建的,它在删除每个比特信息时都必须释放一定量的最小热量。这种损失普遍存在于计算机运行的进程中。
Rolf Landauer 怀疑如果一台机器从未删除数据,是否可以绕过这一限制。这样的设备需要记录每一项操作,每一步中每一对数字的加法。这样的操作会迅速填满内存,他认为这是一条死胡同。
但在十年后,他发现自己的判断有误。
反向操作
1973 年,IBM 的 Charles Bennett 提出了另一种选择。与其保存每一条信息碎片,不如在计算前运行每个计算,存储结果,然后反向运行该计算。他称这个过程为「反计算」。
相关链接:https://ieeexplore.ieee.org/document/5391327
反计算意味着你只会保留你需要的数据,并且永远不会失去对这些数据的追踪。因为初始信息没有被删除,所以永远不会因为散热而浪费能量。
但很不幸,这种计算所需的时间是普通计算的两倍,在当时属于不切实际的想法。
1989 年,Bennett 展示了通过使用稍微多一点的内存,可以大大减少反计算所需的时间。但计算机在删除数据时并不会仅仅失去能量,因此为了从可逆计算中节省能量,计算机必须从设计之初就考虑低热损耗的问题。
20 世纪 90 年代,麻省理工学院的一组工程师致力于此。但在当时的时代,芯片还不具备实际节省能源的能力,这让为此加入该团队的 Frank 一度消沉。
在 2022 年,当时在剑桥大学工作的 Hannah Earley 提交了一份严谨的报告,其中指出可逆计算机比传统计算机散发出的热量要少得多,通过精确的计算,Earley 证明了可逆计算机运行得越慢,散发的热量就越少。
这项结论揭示了热量与速度之间的关系对于可逆计算最具前景的应用:人工智能。AI 计算中,许多计算是并行的,因此可以完成这样的操作:大幅降低可逆芯片运行速度,并增添更多芯片。
低速芯片的节能会抵消数量上的损耗,运行得足够慢,甚至可能不需要那么多的冷却设备,从而扩大集成规模,再次节省传输时间。
Earley 与 Frank 显然注意到了这一点,他们已经着手开发可逆芯片的商用版本。
参考链接:https://www.quantamagazine.org/how-can-ai-researchers-save-energy-by-going-backward-20250530/