英伟达：CPU 已落伍，用 GPU 基础训练大语言模型成本可降低 96%

IT之家 5 月 29 日立即，根据英伟达在 2023 年台南电脑系统现代艺术博物馆上的发表演说，该日本公司宣称其 GPU 可以大大降低军事训练大型语法模型（LLM）的开销和耗电量。

英伟达主管高管黄仁勋在发表演说中所，向 CPU 从业者发起者了挑战，他显然生成式计数机科学和较快计数是预见计数的方向。他同月现代的这些年来并未不合时宜，预见的性能指标强化将主要来自生成式计数机科学和基于较快计数的方法。

英伟达在现代艺术博物馆上展示出了一份 LLM 的整体而言保有开销（Total Cost of Ownership，TCO）统计分析：首先，他们计数了军事训练一个 LLM 所需的 960 个 CPU 组成的买家端战斗群的明晰开销（包含网络、散热器、互连等所有器材），注意到这必须花费大约 1000 万美元（IT之家备注：近期大约 7070 万元总金额），并消耗掉 11 千兆瓦时的供电。

比起之下，如果依然开销相同，购买一个实用性 1000 万美元的 GPU 战斗群，可以在或多或少的开销和更少的供电消耗掉（3.2 千兆瓦时）下军事训练 44 个 LLM。如果转而依然供电消耗掉相同，那么可以通过 GPU 战斗群借助于 150 倍的较快，以 11 千兆瓦时的供电消耗掉军事训练 150 个 LLM，但这必须花费 3400 万美元，此外这个战斗群的八座比 CPU 战斗群多得多。最终，如果不想军事训练一个 LLM，那么只必须一个实用性 40 万美元、消耗掉 0.13 千兆瓦时供电的 GPU 买家端就可以了。

英伟达所要表达的字面是，比起 CPU 买家端，买家可以以 4% 的开销和 1.2% 的供电消耗掉来军事训练一个 LLM，这是一个巨大的开销所需。

八子补肾
阿莫西林胶囊用法用量
胃酸过多烧心吃什么药
红草止鼾胶囊用法用量
深圳道路救援