加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

英伟达研究:NVIDIA目标不是AI芯片,而是AI工厂

05/29 15:15
1227
阅读需 6 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

佐思汽研发布《2024年英伟达AI与汽车业务分析报告暨 汽车新四化每周观察2024年5月第1期》报告

英伟达以销售AI芯片著称。2024年5月22日,英伟达公布最新财季实现营收260亿美元,同比增长262%;其毛利率78.9%,净利润达到148.1亿美元,同比上升628%。其中:

数据中心业务营收为226亿美元,创下公司历史上的新纪录,与上年同期相比大幅增长427%,与上一财季相比增长23%;汽车业务为英伟达第四大业务,最新财季营收为3.29亿美元,与上年同期相比增长11%,与上一财季相比增长17%。

谷歌、微软、Meta、亚马逊、特斯拉等科技巨头一方面采购英伟达的GPU,另一方面也在抓紧研发和部署自己的GPU,减轻对英伟达的产品依赖。

随着AI大模型应用的爆发,对AI芯片的需求出现了爆发式增长。为什么科技大厂做AI训练都选择英伟达而非英特尔或AMD?大致有这几方面原因:

    • CUDA生态系统的成熟
    • 英伟达芯片的性能优势
    • 经过验证的市场先发优势
    • 软件硬件的紧密结合
    • 强大的行业生态

CUDA实际上已成为一些高性能计算和AI应用的行业标准。许多流行的深度学习框架如TensorFlow、PyTorch等,都提供了对CUDA的原生支持,这意味着开发者可以无缝地在英伟达GPU上运行他们的代码,无需额外的适配工作。

2023-2024年,我们可以看到特斯拉减少了对汽车研发的投入,苹果放弃了造车,他们纷纷把投入重点转移到AI大模型开发及落地。

4月28日,马斯克表示:2024年特斯拉将会投资约100亿美元用于AI的训练和推理,而推理主要用于汽车。特斯拉截至到2024年4月共有3.5万个GPU用于训练自动驾驶系统

5月27日,马斯克旗下的人工智能初创企业xAI宣布,已经成功完成60亿美元的B轮融资,公司估值达到180亿美元。训练xAI的大模型Grok 2需要约2万个英伟达H100 GPU,Grok 3型号及以上型号将需要10万个英伟达H100芯片。

在4月12日,xAI发布Grok1.5V(Vision),这是xAI首款能同时处理文本和视频的多模态模型,还包括图表、屏幕截图和照片。英伟达高级科学家Jim Fan表示Grok-1.5V最让人兴奋的是解决自动驾驶边缘案例的潜力。未来如果Grok 2和Grok 3发布,解决自动驾驶边缘案例的能力将大大加强。

特斯拉、华为百度等少数IT巨头能够解决自动驾驶所需超大算力。对于大多数OEM而言,则不可能自己部署和运营超大规模智算中心。因此,英伟达推出了AI工厂。

黄仁勋称,英伟达构建的不仅仅是GPU处理器,而是AI工厂,包括了CPU、GPU、内存、NVlink、InfiniBand以及以太网交换机。英伟达将专注于AI生成的新型数据中心定义为“AI工厂”。

2023年10月,英伟达表示将扩大与富士康的持续合作,以加速AI驱动的电动汽车机器人平台的开发。双方合作重点是AI工厂的建设。富士康宣布计划建造大量基于NVIDIA CPU、GPU及其网络技术的计算系统,同时配备NVIDIA的硬件和NVIDIA AI Enterprise软件,这些系统将出售给那些希望建立自己AI数据工厂的客户。

这种“AI工厂”有望成为特斯拉Dojo超级计算机的直接竞争对手。Dojo被用于训练特斯拉的神经网络,这些神经网络用于支持、训练和改进其“全自动驾驶”。

黄仁勋称,英伟达将为整个行业生产AI,英伟达将专注于发明AI模型技术、提供模型定制开发工具,并建设便于模型微调和部署的基础设施。

英伟达不仅连接了AI生态系统的各个参与者,还降低了行业门槛,提供了专业化支持和资源共享。英伟达的工作主要有三大块:

发明AI模型技术,运行AI模型并对其进行封装,也就是NIM;

提供模型定制开发工具,NeMo微服务可以帮助用户整理和准备数据,以便对AI进行初始训练;

提供基础设施,便于实现模型的微调和部署,用户可以部署在DGX Cloud基础设施上,也可以部署在本地,或是他们需要的任何地方。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
ATSAMD20J18A-AUT 1 Microchip Technology Inc IC MCU 32BIT 256KB FLASH 64LQFP

ECAD模型

下载ECAD模型
$4.06 查看
MCF5282CVM66J 1 Freescale Semiconductor IC,MICROCONTROLLER,32-BIT,COLDFIRE CPU,CMOS,BGA,256PIN,PLASTIC
暂无数据 查看
MK60DN512VMC10 1 Freescale Semiconductor Kinetis K 32-bit MCU, ARM Cortex-M4 core, 512KB Flash, 100MHz, Ethernet, MAPBGA 121
$10.69 查看
英伟达

英伟达

NVIDIA(中国大陆译名:英伟达,港台译名:辉达),成立于1993年,是一家美国跨国科技公司,总部位于加利福尼亚州圣克拉拉市,由黄仁勋、克里斯·马拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同创立。公司早期专注于图形芯片设计业务,随着公司技术与业务发展,已成长为一家提供全栈计算的人工智能公司,致力于开发CPU、DPU、GPU和AI软件,为建筑工程、金融服务、科学研究、制造业、汽车等领域的计算解决方案提供支持。

NVIDIA(中国大陆译名:英伟达,港台译名:辉达),成立于1993年,是一家美国跨国科技公司,总部位于加利福尼亚州圣克拉拉市,由黄仁勋、克里斯·马拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同创立。公司早期专注于图形芯片设计业务,随着公司技术与业务发展,已成长为一家提供全栈计算的人工智能公司,致力于开发CPU、DPU、GPU和AI软件,为建筑工程、金融服务、科学研究、制造业、汽车等领域的计算解决方案提供支持。收起

查看更多

相关推荐

电子产业图谱

佐思汽车研究:致力于汽车、TMT、新能源(特别是新能源汽车、智能汽车、车联网)领域的产业研究、专项调研、战略规划和投资咨询服务。