加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    •  01、信创和AI算力,筑基智算赛道
    •  02、AI原生场景赋能,“致广大而尽精微”
    •  03、AI行业加速,聚合生态创新
    •  04、结语
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

AI狂想时代,谁能打造加速引擎?

05/13 09:50
1856
阅读需 13 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

作者:九林

如果说2023年是生成式AI的元年,那么2024年是生成式AI加速普及的一年。

ChatGPT发布后,人工智能由此进入大模型时代。生成式AI的出现开始推动人类进入数字文明阶段。

AI将企业卷入变革的浪潮,正如神州数码董事长郭为所说:“未来十年所有企业的企业战略将充分利用三个原生(云原生、数字原生、AI原生)来颠覆自己的业务,神州数码也愿意成为企业的数字化转型全生命周期的合作伙伴,让我们一起共同来迎接这样一个伟大的时代。”

 01、信创和AI算力,筑基智算赛道

信创,即信息技术应用创新产业,是数据安全网络安全的基础,也是新基建的重要组成部分,是各行各业数字化升级的“发动机”。立足信创,神州数码持续打造“神州鲲泰”自主品牌,形成了覆盖“数据计算、终端产品、数据网络”的三大产品线,在“国产化算力+智算”持续布局。

过去一年,神州鲲泰问学一体机、KunTaiA924训推一体AI服务器等一系列自主品牌产品相继面世;神州鲲泰14款服务器通过“通用服务器政府采购需求标准专题测评”。

随着AI的发展,大模型所使用的算力数据量和参数规模呈现“指数级”增长,这带来智能算力需求的爆发式增加。IDC预计,国内2026年智能算力规模有望进入每秒十万亿亿次浮点计算级别,2021-2026年智能算力规模年复合增长率有望达52.3%。

神州数码副总裁、神州数码信创控股董事长韩智敏也表示:“当前AI发展面临巨大的算力挑战,除了互联网厂商有大的模型和大的算力集群,千行百业也需要大量的算力基础。”而一系列基础设施层的问题和挑战也随之涌现。

一方面是智算集群间以及集群内部的复杂兼容及利用率问题。目前,国内企业处于复杂的商业环境,异构的智算基础设置已经成为必然,但异构的智算集群可以实现的模型浮点利用率还存在大量的提升空间。举个例子,OpenAI在训练ChatGPT4时,MFU的使用率只有在32%~36%之间。目前MFU利用率的平均的行业利用率是在30%~40%,提高到50%都极为困难。由此,神州鲲泰推出了HISO异构智算调度运营平台和全新的异构智算融合加速平台HICA。

异构智算调度运营平台(HISO),基于100%云原生技术,整合GPU硬分片和虚拟分片技术,实现了GPU资源的池化和跨集群调度能力,提升GPU服务器集群的资源使用率。

异构智算融合加速平台(HICA),具有一云多芯特性,支持华为昇腾、英伟达、英特尔等国内外主流AI芯片,可实现训练推理任务在不同品牌、不同型号芯片组成的智算集群的混合训练推理,预计降低20%GPU闲置算力。

另一方面,生成式AI模型的参数量大,算力和高能耗成为需要解决的核心问题。为解决在智算中心算力需求,神州鲲泰打造了多款AI服务器,覆盖从训练到推理的全部场景。

针对智算中心的高能耗痛点,神州鲲泰还推出了一体化交付的全液冷整机柜,现场无需安装调试,效率提升10倍;最大单柜功率60kW+,一柜顶传统4~8柜,1.5倍于国内友商的能效比。

在过去的一年中,智算中心的建设在中国大地上可谓如火如荼。

政策层面,“新质生产力”首次写入政府工作报告,“人工智能+”行动全面开启,还有国资委召开的“AI赋能产业焕新”专题会,提出:加快建设一批智能算力中心。

2023年全国新建智算中心项目超过100个,预算基本是上亿。从国家启动“东数西算”工程开始,传统IT企业、云厂商和电信运营商就已经在紧锣密鼓地布局智算中心。

神州数码在智算中心深度参与,神州鲲泰作为“鲲鹏+昇腾”计算产业生态重要参与者之一,为智算中心提供专业基础设施硬件目前,神州数码、神州控股已经参与了包括长春新区智算中心、沈阳人工智能计算中心、厦门鲲鹏超算中心、香港特区政府大模型智算中心等的建设和运营。

值得一提的是,今年一月份,为了给生态伙伴提供最基础的技术环境,聚焦AI算力,神州数码深圳人工智能计算中心项目已经正式启动。预计不久之后,这个搭载神州问学平台的智算中心就会正式向市场、向生态提供算力、模型、应用、解决方案相关的服务。

从财报来看,AI的入局和产品的合力,使得神州数码信创业务实现爆发性增长。2023年度神州数码信创业务整体营收突破34亿,连续三年保持高增长。2024年一季度神州鲲泰AI算力相关业务单季营收规模接近去年全年。

 02、AI原生场景赋能,“致广大而尽精微”

过去一年,AI大模型技术飞速发展,如何用好大模型实现降本增效、推动业务增长,成为了企业真正关心的问题。在这个“百模大战”甚至“千模大战”的时代,如何将技术转化成真正的生产力?答案是以生态之力破局,加速生成式AI在企业级的落地。

2023年,神州问学的推出,成为助力企业AI落地的新范式。

目前,神州问学已对接了数十家主流大模型,并发布慧阅读、慧解析、慧问答等敏捷应用,成功帮助医药、零售等行业客户落地生成式AI应用场景。

在数云原力大会2024上,神州问学新版本发布,包含Agent工程、企业知识治理、模型训练与管理三大模块。

以神州问学新版本的三大功能板块作为切入点,神州数码有自己的考量:现实中,企业有大量需要AI赋能的场景。对于企业来说,AI场景如何与每个业务更好地结合,如何让内部IT部门和业务部门更智能化地配合,仅靠简单的开发者平台是无法满足的。因此,企业需要已经被实践证明过的高效完备的AI应用开发框架和规范;需要工具的持续地沉淀;知识治理的持续地深化,更需要若干个企业模型的持续地训练和优化。同时为了保证数据安全,这都需要在企业的私域中完成。这么来看,企业的AI原生创新需要一个平台持续地赋能和加速。神州问学就是这样的AI原生应用赋能平台,三大板块全部覆盖企业客户需求。

神州数码副总裁、CTO李刚表示:“当‘致广大’已被充分表达,神州数码反而愈加坚定以客户为中心的‘尽精微’,才是真正实现AI着陆的当务之急。”关于大家关心的企业数据安全方面,李刚在接受采访时分享到,神州问学通过三个方面进行企业数据安全的保护。

第一,神州问学部署的场景是私有化场景。完全在客户可控的环境中进行部署。第二,神州问学纳管的大模型,无论是商业化模型还是开源模型,经过微调和预训练后,同样是本地化部署。这两点上来说,就能够保证基本的安全性问题。第三,是一个企业内部如何保证知识的可访问性。企业会因为部门不同,而需要多个模型,比如人力模型、财务模型等,关键在于给企业数据一个“安全围栏”。李刚说到:“确保模型回答它能够回答的正确问题,而不回答不相关的问题。”再叠加这一点,将进一步确保企业数据安全问题。

另外,我们还看到神州数码充分发挥在“算力+AI”软硬件产品的自主创新能力,打造了神州鲲泰问学一体机。基于KunTaiA924训推一体AI服务器,可以训练推理无缝衔接、同时进行,大大提高大模型训练效率。预装神州数码自研生成式AI产品“神州问学”,开机即用,极简部署、免调优,快速部署企业专属AI大模型。

 03、AI行业加速,聚合生态创新

Chat GPT的横空出世,让生成式AI一夜之间出现在每个人的眼前。

对于这种革命性的技术,每个企业都处于焦虑的状态,希望能从中找到自己创新的机遇。但在探索AI的过程中,还有很多现实的问题在眼前。

需求侧,很多企业面对生成式人工智能的迭代速度无所适从,他们需要在投入和回报之间找到平衡;供给侧,在商业化落地的过程中,单个企业有时候很难把整个AI技术栈跟客户的行业需求结合起来;人才上,人才的短缺是人工智能持续发展的现在最大的阻碍。

神州数码联席董事长、首席执行官王冰峰说到:“在这些现实的问题以及我们所看到人工智能未来巨大的颠覆潜力下,没有一个企业可以独自前行。我们相信生态会变成AI落地加速中必不可少而且是强有力的驱动力。”

神州数码希望打造一个新型的生态伙伴关系,从三个方面入手:一个是解决方案和技术的生态,第二个是人才的生态,第三个是市场的生态。

解决方案和技术的生态上,技术本身不会颠覆任何事情,只有能够落地的解决方案、应用和商业模式才会。AI原生应用能够解决过去解决不了的问题。只有大家一起努力,产生足够多的AI原生的解决方案和应用,才能形成一个健康的生态环境。让人工智能从企业工具演进为企业独立的智能体Agent。

在人才生态上,神州数码将联合国际国内最领先的人工智能的企业,共同建设人工智能的培训和认证的体系。目前,神州数码是中国大陆地区唯一的一家同时拥有Microsoft、AWS、Google三家官方授权的培训合作伙伴,同时也是阿里云、腾讯、天翼、华为、华为云、Oricle、IBM等数十家先进企业的培训合作伙伴。

在市场生态上,依托神州数码2035实验室以及人工智能研究院,不断地强化神州数码跟高校、院所、机构、协会之间的合作,来共同推进人工智能在技术生态上长期发力。

 04、结语

生成式AI已狂奔了近一年时间后,至今仍持续高热。

AGI时代号角已经吹响,神州数码将聚焦三件事:AI原生场景赋能、多云异构绿色智算、国际化AI生态创新。

在数云原力大会开幕式的最后,神州数码董事长郭为(数字分身)说到:“我们提出了神州数码在AGI时代的新主张:以客户为中心的AI着陆加速引擎。数云融合也再上一个新的台阶,升级为AI驱动的数云融合。神州数码将在“人工智能+”的中国式现代化道路上持续探索,以国际创新中心这个未来AI新地标为载体,开展更多的互动和协同创新。”

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
STM32F405RGT6TR 1 STMicroelectronics High-performance foundation line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 168 MHz CPU, ART Accelerator

ECAD模型

下载ECAD模型
$13.5 查看
MKL02Z16VFG4 1 NXP Semiconductors RISC MICROCONTROLLER
$2.9 查看
CP2102N-A02-GQFN24R 1 Silicon Laboratories Inc USB Bus Controller, CMOS, QFN-24

ECAD模型

下载ECAD模型
$2.59 查看

相关推荐

电子产业图谱

公众号:半导体产业纵横。立足产业视角,提供及时、专业、深度的前沿洞见、技术速递、趋势解析,链接产业资源,构建IC生态圈,赋能中国半导体产业,我们一直在路上。