Meta造芯!首个训练+推理加速器MTIA面世(来自小扎的FB)
老石解读:
扎克伯格更新了自己的FB,放出了几条重磅信息:Meta的第一款AI加速器芯片已经造出来了,名叫MTIA(Meta Training and Inference Accelerator),下图中小扎手里拿的就是。不仅如此,Meta还搭建了一个AI超级计算机,包含16000个GPU,为训练大模型而生。
下面是小扎FB的原文翻译:
首先,我们推出了一种专为人工智能优化的新型数据中心设计,配备了支持大规模训练和推理的液冷硬件和支持大规模超级集群的网络。
其次,我们的超级计算机集群——RSC,它拥有16,000个GPU和高速互联,是世界上最快的超级计算机之一。我们用它来训练自己的大型语言模型,以及世界上第一个面向口述语言的人工智能翻译系统。自己构建这个集群让我们可以调整它来训练我们的下一代基础模型。
第三,MTIA(Meta训练和推理加速器)是我们设计的第一代定制芯片,用来支持我们的人工智能推荐系统,从而更快地确定向您展示的最佳内容。
最后,CodeCompose是我们构建的生成式人工智能编码助手,旨在帮助我们的工程师编写代码。我们的长期目标是构建更多的人工智能工具,以支持我们整个软件开发过程中的团队,并希望开源更多这些工具。
前两天刚刚有消息说Meta不知道怎么用大模型,结果今天小扎亲自下场辟谣,连发四个重磅消息。虽然没说具体细节,但也算打了一针强心针。这更加印证了之前的判断:在大模型时代,谁掌握了算力,才是真正的王。
定了!阿里云将完全分拆,独立上市!(特大号)
老石解读:
阿里巴巴集团宣布,云智能集团将分拆独立上市,成为一家完全独立的公司。根据财报数据,2023财年第一季度,阿里云收入为185.8亿元人民币,同比下降2.1%。整个2023财年,阿里云总收入为772.03亿元,利润为14.22亿元,同比增长24%。这是阿里云诞生的第14年,它已成为亚洲第一、全球前三的公共云服务提供商,并正向智能时代发展。阿里巴巴集团董事会主席兼CEO张勇在内部信中表示,计划在未来12个月内完成云智能集团的分拆上市,并引入外部战略投资者。张勇表示,这是阿里云的二次创业的新开始,需要拥有创业心态和职责担当,平衡短期增长和长期发展目标。他希望全体阿里云员工珍惜客户信任、坚持技术理想,并保持创业心态,共同打造一家世界级的科技公司。
辟谣|小米玄戒大会是“解散大会”?辟谣:小米对造芯很坚决(爱集微)
老石解读:
小米旗下芯片公司玄戒将召开员工大会,在当下的时间节点,引发外界猜测。据悉,此次会议旨在稳定内部团队,小米对造芯坚定决心,正常招聘进行中,计划从哲库离职人员中吸纳人才。玄戒成立于2021年,是小米全资控股的集成电路芯片设计公司,公司法人代表曾学忠担任小米高级副总裁。小米自2017年起推出一系列芯片,包括手机芯片、影像ISP芯片、充电芯片和电池管理芯片等。
缺芯|AI服务器涨价20%?服务器厂商称英伟达芯片短缺(澎湃新闻)
老石解读:
随着ChatGPT引发新一轮人工智能(AI)浪潮,科技公司相继入局大模型赛道,推理和训练的算力需求大幅上升,多个机构预测AI服务器市场规模持续增长,2022年至2026年复合成长率将达到10.8%。AI服务器可适用于医疗影像智能分析、人脸识别、语音识别、指纹识别、安防监控、金融服务等场景。国内市场前8家厂商出货量占比92%,其中浪潮占据市场37%的份额。由于英伟达芯片短缺,AI服务器的价格也在水涨船高。GPU在训练服务器中价值量占比超过80%,而目前英伟达是GPU市场的主导者,全球独立显卡市占率高达80%,且在未来的需求还将显著上升。2021年全球GPU市场规模335亿元,2028年全球GPU市场规模有望达到4774亿元。
竞争|边缘AI芯片战升温!英飞凌、ST等大厂竞相布局 芯片迭代有望加速(财联社)
老石解读:
当前边缘AI芯片的性能已能与中高端智能手机AP相媲美。意法半导体推出第二代STM32 MPU,提高了工业和物联网边缘应用的性能和安全性,预计将于2024上半年批量生产。英飞凌收购初创公司Imagimob,加强其在边缘AI市场的产品。谷歌宣布其PaLM2大模型的最轻量化版本Gecko可在移动端运行,有望带动边缘AI计算成长,加速边缘硬件市场更新迭代。多家机构认为,在AI的助力下,边缘侧终端和芯片迭代有望加速,多家IC设计厂商包括联发科、联咏和瑞昱正在加紧开发AI芯片,目前国内布局边缘AI芯片的厂商包括寒武纪、华为海思、瑞芯微、全志科技等。