3489
在半导体寒冬中依靠AI突围的英伟达芯片成为全球科技大厂疯抢的对象，旗下的H100近期更被投行分析师曝出，利润率接近1000%！在这款芯片已经缺货到明年的情况下，其给英伟达带来的盈利更是惊人。
H100利润率达1000%
近日，据《巴伦周刊》资深撰稿人Tae Kim最近在社交媒体上发布的帖子估计，其援引投行Raymond James数据称，英伟达制造一颗H100 GPU的成本为3320美元，但向客户给出的售价为2.5万至3万美元。并且，Raymond估计的物料清单(BOM)也涵盖高带宽内存(HBM)。
Tom`s Hardware随后报导，这份报告意味着对英伟达来说，H100芯片的成本利润率接近1,000%。然而，目前尚不清楚BoM（物料清单）成本分析有多深入：如果这是纯粹的制造成本问题（在考虑良率的情况下平均每片晶圆和其他组件的价格），那么英伟达仍然需要支付相当大的销售费用。
图源：Tom's Hardware
举例来说，产品开发需要时间和资源，考虑到H100等产品的产品开发生命周期中的工程师和其他参与者，在计算每款平均产品开发成本之前也必须考虑到英伟达的研发成本。据Glassdoor称，英伟达电子硬件工程师的平均年薪约为20.2万美元，这还只是单个人，开发像H100这样的芯片很可能需要多名专业工作者的数千小时的投入。所有这些也必须被考虑进去。
H100是目前训练大语言模型最需要的图形处理器（GPU），因为它对于大模型的推理和训练都是速度最快的，通常也是推理方面性价比最高的。它可以应用于各种AI场景，如AI聊天机器人、推荐引擎、视觉AI、数据分析、高性能计算等。
价格炒到4.5万美元
此外，值得注意的是，虽然H100给到客户的报价是2.5万至3万美元，但在其它渠道，价格也被持续炒到新高。例如，8月初eBay网站上H100的售价已经高达4.5万美元，这较今年4月份4万美元的价格涨幅超过10%，而且货源较上半年也显著减少。
近日还有消息称，下一代GPT大模型GPT5需要5万张英伟达最高配置的H100芯片，全球市场对H100芯片的需求量达到43万张，英伟达的产能可能难以满足如此大的算力需求。
但研究机构Gartner芯片分析师盛陵海表示：“目前GPU的缺口多大不好预估，需求是被炒起来的，越是缺，市场就越是要。”
对于供应受限的原因，花旗分析师Atif Malik表示，部分涉及先进封装及HBM。其中台积电 CoWoS先进封装产能明显供不应求，但明年CoWoS产能有望倍增。
CoreWeave共同创办人Brian Venturo也表示，英伟达H100在2023年或都会缺货。对物流、资源有合理规划的客户，目前预测的到货时间点落在明年第1~2季。
石油大国也加入抢芯
目前除了谷歌、Meta、亚马逊为首的互联网大厂在疯抢H100，连石油大国也不例外。
据谷歌资料显示，目前已经建成包含26000个H100的A3服务器，还部署了数十台TPU V4超级计算机，每台拥有4096个TPU芯片；亚马逊官方资料显示，它们即将推出的EC2超级集群可以扩展至20000个互联的H100；Meta资料显示，亚马逊云已经拥有2000个DGX A100服务器，配备了超过16000个A100 GPU，亚马逊专家表示未来他们还会采购3万片H100
沙特阿拉伯最近以4万美元单价购入了至少3000块英伟达H100 GPU芯片。此外阿联酋也同样购买数千颗英伟达芯片，并将它们部署在阿布扎比马斯达尔市的国有技术创新研究所内，用于创建了名为“Falcon”的大型语言模型上。
英伟达真的“不可替代”吗？
在AI芯片极度供不应求的背景下，市场也在关注有望与英伟达一争高下的AMD。
AMD公司先前已经宣布，预计将在年底前推出英伟达GPU的替代解决方案——MI300 AI芯片。AMD首席执行官苏姿丰(Lisa Su)在公司财报电话会议上表示：“客户对我们的人工智能解决方案表现出了浓厚的兴趣，我们已经取得了重大进展。”
但由于业内对于AMD的芯片是否能够真正替代英伟达的产品仍持怀疑态度，AMD财报公布后股价暴跌约6%。
“AMD的人工智能芯片值得期待，但是到底有多少客户会用现在还是未知数，而从行业角度来看，多一种选择总是好的。”一位芯片领域资深人士表示。
在全球范围内，其他新兴的人工智能芯片初创公司近期也宣布了不少融资消息。由芯片行业资深人士凯勒（Jim Keller）领导的加拿大初创公司Tenstorrent正在开发对标英伟达的人工智能芯片，该公司近期从现代汽车集团和三星投资基金等公司方面筹集了1亿美元资金，估值达10亿美元。
人工智能初创公司d-Matrix创始人兼CEO谢思（Sid Sheth）认为，芯片的短缺可能还会迫使企业寻求其他创造性的方法来解决问题，比如开发能够提高芯片生产效率的新技术。
注：部分信息参考科创板日报、钜亨网、MoneyDJ等， 文章仅供学习和交流之用，不构成任何建议，不代表本号立场，如有任何问题，敬请联系我们，谢谢。
下载ECAD模型
