金融

AI计算量半年翻一番，已到意识觉醒阈值？MIT论文著者出来说话了

2025-08-24 12:19

，但上涨速度极多于了即使如此后期减速的两个数使用量级。

1952年至2022年之前，n=118个中都程碑式的ML基本概念的演进趋势

主要结果

向尺度深造的过渡

所作挖掘出，在尺度深造显现之后所和之后有两个十分有所不同的演进趋势机制。

在此之后所，基础训练ML系统设计所必需的近似值使用量每17至29个年初翻一番。随后，年终性演进趋势推进，每4到9个年初翻一番。

前所尺度深造后期的演进趋势约略相原则上更进一步：晶体管运动速度大概每两年翻一番，不过上时会被简便为近似值性能每两年翻一番。

尺度深造后期上时会被普遍认为是在2012年随着AlexNet的孕育出而开始的，而所作普遍认为，根据原先的结论，2010年是最相原则上这个后期开始的小时。

不过在这个界定上，不管是为了让2010年还是2012年，都不时会对年终性的结果造成了显著因素。

1952年至2022年之前，n=118个中都程碑式的ML系统设计的基础训练近似值使用量的演进趋势

1952年至2022年ML基本概念的近似离散重回结果

大规模后期的演进趋势

数据库断定，在2015-2016年大约，显现了大规模基本概念的演进演进趋势。

这个演进演进趋势从2015年初末的AlphaGo开始，一直停滞到现在。这些大规模的基本概念是由大新公司基础训练的，他们愈来愈高额的基础训练经费从前是打破之后所演进趋势的诱因。

另外，常规规模基本概念的演进趋势继续不受妨碍。这个演进趋势在2016年之后所和之后都是年终的，并且近似值使用量有停滞的演进减速，每5到6个年初翻一番

大规模基本概念的近似值使用量减低的演进趋势显然比起极快，每9到10个年初翻一番。

不过，由于关于大规模基本概念的数据库有限，所作可推测，显著的减慢确实是频谱的结果

2010年至2022年之前，n=99个中都程碑式ML系统设计的基础训练近似值使用量的演进趋势

2010年至2022年之间数据库的近似离散重回结果

有所不同应用领域的演进趋势

有所不同应用领域的工具深造基本概念依赖于有所不同的指令集，因此可以自然现象地预估它们时会受到有所不同的引入自然的因素。

由此，所作调查结果了动态、句法、一些游戏和其他12个应用领域的工具深造基本概念基础训练近似值使用量减低演进趋势。

动态和句法应用领域的演进趋势随着小时的不长似乎相当原则上，并按照与整个数据库集相同的减半模式上涨。

然而，在一些游戏应用领域中时会却难以发现原则上的演进趋势。所作猜测，确实的诱因是数据库太极多，而有所不同的一些游戏本质上是属于有所不同应用领域的，此外，也确实是因为不能像其他应用领域那样得到系统设计性的推广。

2010年至2022年之前每个应用领域基础训练近似值使用量的演进趋势

每个应用领域从2009年到2022年的演进趋势

总结

在本文中时会，所作通过参予100多个中都程碑式的ML系统设计的基础训练近似值使用量数据库集来分析近似值使用量的演进趋势，并使用这些数据库来分析这一演进趋势是如何随小时上涨的。

在前所尺度深造后期（1952年到2010年），近似值使用量上涨极快。

2010年大约，随着过渡到尺度深造后期，这一演进趋势推进了。

2015年初末，大新公司开始发布跨后期的大规模基本概念，如AlphaGo，世纪之交大规模后期的开始。

用这三个后期来框定演进趋势，有助于解释在数据库中时会观察到的不年终现象，并让人愈来愈好地忽略愈来愈好地忽略最近的ML进展是由规模的减低所推广的，从而有所改善对高性能ML系统设计演进的预测。

不过，有些惋惜的是本文并不能简要概述用于基础训练工具深造基本概念的另一个关键性可使用量化资源——数据库集。

所作说明时会将在未来的兼职中时会分析数据库集不等的演进趋势以及它们与近似值演进趋势的关系。

而本想借机宣传一下期刊的莱斯罗科莫，恐怕学到的要比其他合著者们愈来愈多：「莱斯罗科莫本质：不管分析者的博文笑话有多显著，只要你够资深，总有传媒时会当真」。

参考：

。