加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    • 根要深,叶要茂,政企AI之路的挑战
    • 技术之根深入大地,一棵坚韧不拔的AI之榕
    • 生态之叶繁茂参天,百行百业的智能生长
    • 一榕参天,万物生长
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

以全栈智算拥抱生态,为AIGC种一棵向上生长的巨榕

04/30 11:30
1622
阅读需 14 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

榕树,被称为百木之王。它既有极深的根,又有繁茂的叶。只要一棵榕树长成,就能够独木成林,遮天蔽日。更可贵的是,榕树可以为树荫下繁茂的生态提供支撑,形成“一榕生,万物长”的格局。

开年以来,OpenAI推出了炸裂的Sora文生视频模型,再一次将AIGC技术竞赛的天花板拉高,科技巨头苹果也宣布大力投资生成式AI。

种种迹象都表明,狂飙了一年的AIGC,仍在吸引大量行业和企业的涌入,我们已经很少见到科技与互联网公司说他们不关心大模型、不想做AI。

然而,在大模型及AIGC的落地实践中,大型政企会面临一个困难局面:既希望确保AI技术与基础设施全栈可靠,具有高自主、高安全的特征,同时又希望接入开放多元的生态,满足行业专属场景定制化、个性化需求,实现生态化发展。

如何帮助政企平衡二者的发展?今天的AIGC和大模型,需要一棵榕树般根深叶茂的支撑。其中,根,就是AI技术;叶,则是AI生态。

产业用好AIGC、激活新质生产力的现实需求,也驱动着基础设施服务商们不断升级。

以新华三为例,就选择将AI技术的“根”扎得很深很牢,又要让AI产业生态枝繁叶茂,催生应用落地繁荣生长。

如何更快地利用AI技术长出新质生产力,是这个春天很多企业都在思考的问题。那么不妨一起来看看新华三是如何以端到端的全栈智算解决方案助万物生长。

根要深,叶要茂,政企AI之路的挑战

在讨论新华三这棵AI巨榕之于产业的价值之前,我们有必要先了解一下,从2023年春季的爆火,AIGC狂飙一年之后,如今的政企所面对的技术与产业背景。

整体来看,中国大模型和AIGC产业已经达到了惊人的成就,相关应用也开始尝试向具体的业务场景探索,展现出强劲的增长态势。大模型、AIGC作为新质生产力,目前已经成为各行各业的共识。

然而这一年来的落地实践,也让我们看到了存在于国内AI产业的深层隐忧:大型政企、科研院校做AI大模型,有着三大难以兼顾的发展挑战。

1. 技术不易贯通。AI及大模型训练,是一项复杂且技术密集的任务,要求异构算力的深度整合以及高效的分布式并行计算,其中的技术挑战层出不穷。比如异构算力意味着要将不同类型的计算硬件,如GPU、FPGA甚至ASIC,进行有效协同。然而,不同硬件之间的接口、通信协议以及优化方法各不相同。此外,分布式并行训练要求在多个计算节点之间,实现数据的快速传输和同步。网络延迟、数据不对称以及节点故障等问题,都可能影响到训练的性能和稳定性。可以说,想要利用多种计算资源来提供算力,必须实现对分布式并行计算的“一体化”贯通/协作,以满足模型训练的复杂需求,这是做AI的首要难关。

2. 信息安全无法保障。AI作为新质生产力,与各行各业的结合才刚刚开始,其中包括大量国计民生关键行业。训练AI模型时,往往需要使用大量的用户数据,这些数据可能包含商业机密或隐私信息,在公域环境下,如何确保这些数据不被泄露或滥用,成了一个巨大的挑战。此外,AI的训练推理都十分依赖高性能计算硬件及相关软件人工智能基础设施的供应链韧性与安全性难以保障,也是很多企业的顾虑所在。

3.生态难以发展。我们知道,大型政企或实体行业在落地AI时,需要的软硬件很多,往往会考虑一揽子工程。这时,一个繁荣且富有活力的AI生态,可以为政企提供多样化的AI产品和服务。但生态建设需要各方以开放的态度,愿意共享资源,携手合作创新,而目前部分科技巨头更希望将生态伙伴锁定在自身的软硬件体系内,这让很多不想“把鸡蛋放在一个篮子”的政企,无法加速拥抱AI的脚步。

不难看出,生态的融合是部署AIGC能力落地、推进智能化升级的关键。

有没有一种可行的解决办法,能同时实现三者的兼顾与平衡,帮助政企加速部署AI能力呢?今天的新华三,就提供了一种解题思路:

端到端的全栈的灵犀智算解决方案,如同一颗AI巨榕。新华三选择将AI之根扎进深处,打造安全坚实的AI软硬件底座;用一体化的技术枝干,让AI开发使用全栈贯通;将生态之叶伸向苍穹,携手优选生态模型,孕育出AI应用与服务的繁花万千。

技术之根深入大地,一棵坚韧不拔的AI之榕

政企做AI最担心的是什么?一开始引入AI应用或大模型很容易,但那只是“首付”。AI技术与业务场景的结合,需要长时间的适配、迭代、升级。如果在这个过程中,出现了“算力买不到”“模型用不了”的风险,会给相关业务和服务带来持续的危机。因此,一个高可靠、高安全的AI基础软硬件生态,对于政企市场来说必不可少。

坚韧不拔的AI巨榕,必须将技术牢牢扎根。目前,业界已形成共识,那就是我国的AIGC行业可以分为基础设施层、模型层和应用层三个层级结构。但能够将三层一体贯通的厂商仍属少数。新华三发布的灵犀智算解决方案,就是新华三自身所打造的、面向AI时代的全栈技术体系,在这个体系里,三个层面将一体贯通,让技术之根向下扎入底层创新、向上抵达应用末梢。

首先是基础设施层。

如前所说,单一的计算资源,难以满足AIGC及大模型的训练需求,需要综合利用多种计算硬件,而将不同架构、不同类型的计算资源有效地整合并实现协同工作,是一个巨大而重要的问题。尤其是自2024开年 Sora文生视频大模型惊艳亮相以来,更强大的AIGC模型与万亿参数规模LLM的研发进程还将进一步加速,中国算力瓶颈的突围变得愈发紧迫。对此,新华三利用自身的技术积累,充分发挥“算力×联接”的乘数效应,将新华三领先的算力和联接技术进行最佳的调优与配合,带来倍增的技术整合优势和智算效率,放大智算资源价值,发挥AIGC应用的最大潜能。   

 “算力多元化”,聚合多种算力资源,提供CPU和GPU多元化选择,满足市场与客户的多样化需求,并加强供应链的供给保障。

 “联接标准化”,推动联接标准化,通过服务器内、外部GPU联接标准化,实现异构GPU的智算集群,降低算力部署和应用的成本,并通过软件生态的标准化,打通智算孤岛,促进资源共享与产业共同繁荣。

这一智算底座,将为“AI巨榕”下的政企用户们,提供源源不断的算力“养分”。

其次是模型层。

去年,新华三推出国内首个面向To B、To G领域的私域大模型百业灵犀(LinSeer),支持在私域环境下进行数据分析和模型训练,可以确保政企客户在安全、专属的环境下使用大模型,解决了很多国计民生行业的后顾之忧。今年,新华三在模型层上有了更显著的提升,首先是在知识蒸馏上,以推动模型基座小型化实现数据高精度、高质量和高表现,其次是在输出校准上,以精炼模型回答提升用户体验,同时针对特定场景设计专用算法,增强AI使用的精准度,最后是在模型使能上,通过模型、知识、应用及安全等多层次的融合,解决更加复杂的问题。

然后是应用层。

想要让更多行业用户能够轻松上手,降低使用成本至关重要。因此,新华三打造了一站式灵犀应用使能平台(LinSeer Hub),可实现多元模型组合管理、AI Agent开发、模型服务等功能,能够灵活兼容新华三百业灵犀私域大模型及其他国内外主流模型,不断降低AI使用门槛,助力政企客户快捷构建智能应用,实现“模型使用自由”。

总的来说,依托新华三这棵AI之榕,政企可以一站式获得覆盖各层级的软硬件支持,让自身的AI能力快速生根发芽。

生态之叶繁茂参天,百行百业的智能生长

但如前文所说,构建一个开放的AI生态实属不易。对于投入了大量资源的AI厂商来说,将AI开发者、ISV服务商、客群关系都绑定在自身的生态内,可以更早地建立竞争壁垒,实现商业回报。但这也给AI使用者和政企客户带来了不便,比如无法灵活选择更适合自己的大模型,难以得到充分及时的技术支持。

在一个开放多元的繁荣生态中,政企用户可以收获更多。为什么这么说?我们可以从新华三今天的回答中找到一些解题思路。

新华三提出“1+N”大模型策略(即百业灵犀私域大模型+N个优选通用大模型和行业细分大模型),代表着将以开放兼容的态度,携手业内各垂直领域的杰出者,共同推动AIGC应用发展。AI不是闭门造车,作为一个方兴未艾的产业,AI高度依赖于产业各方的深度合作,汇聚多方智慧和资源,共同攻克技术难题,推动AI技术向应用转化。因此,开放协作是AI创新的源泉。

更多选择。新华三结合行业应用场景,优选N个生态大模型,百行百业客户可以在这里找到全套弹性扩展方案,灵活地满足自身业务对个性化、专属化的AI需求,而无需担心只能使用某一厂商的模型,有着更充分的选择空间。

更高效益。丰富多元化的产业生态,也为政企客户提供了更具成本优势、效益优势的产品和服务。比如在医疗、交通、制造等领域,新华三都提出了端到端的AI解决方案,助力客户实现数字化转型的智能化升级。

更多资源。政企的智能化升级是一个长期的综合工程,其间的创新迭代升级,需要一系列的技术、人才、金融、政策等支持,远离产业集群会大大增加成本。新华三与各地政府合作,打造全国知名的AIGC产业发展先行区、产业集聚地和人才新高地——图灵小镇,让各地形成有影响力的AI产业集群。目前“图灵小镇”模式已在杭州、郑州、咸阳等多地先行落地。

都说“背靠大树好乘凉”,总体来看,依托新华三所打造的开放、多元的繁荣生态体系,政企的智能化升级之路,也会走得更稳、更轻松、更可持续。

一榕参天,万物生长

以大模型为首的人工智能技术是新一轮科技革命和产业变革的重要驱动力量,为各行各业注入源源不断的新质生产力,是很多企业不想错过、不敢错过的技术大潮。

面向大型政企私域部署的需求,新华三已经培育出了一棵天时地利的参天巨榕。从核心底层技术支撑、安全可靠AI大模型部署方案,到开放的生态选择、合作机制间的贯通,实现了技术可信、安全可靠、生态可依的兼顾与平衡。

在AIGC时代快节奏、高效率的进程中,以新华三为代表的ICT厂商,将为百行百业提供新质生产力的动能。

“一榕参天,万物生长”,坚韧而生机勃勃的AI巨榕,正向我们袒露出一片智能时代的盎然春意。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
DSPIC33EP512MU814-I/PH 1 Microchip Technology Inc 16-BIT, FLASH, 60 MHz, MICROCONTROLLER, PQFP144, 16 X 16 MM, 1 MM HEIGHT, LEAD FREE, PLASTIC, TQFP-144

ECAD模型

下载ECAD模型
$13.09 查看
STM32F103CBT6 1 STMicroelectronics Mainstream Performance line, Arm Cortex-M3 MCU with 128 Kbytes of Flash memory, 72 MHz CPU, motor control, USB and CAN

ECAD模型

下载ECAD模型
$11.49 查看
ATXMEGA256A3U-AU 1 Atmel Corporation RISC Microcontroller, 16-Bit, FLASH, AVR RISC CPU, 32MHz, CMOS, PQFP64, 14 X 14 MM, 1 MM THICKNESS, 0.80 MM PITCH, GREEN, PLASTIC, MS-026AEB, TQFP-64

ECAD模型

下载ECAD模型
$6.75 查看
新华三

新华三

新华三集团作为数字化解决方案领导者,致力于成为客户业务创新、数字化转型值得信赖的合作伙伴。作为紫光集团旗下的核心企业,新华三拥有计算、存储、网络、5G、安全、终端等全方位的数字化基础设施整体能力,提供云计算、大数据、人工智能、工业互联网、信息安全、智能联接、边缘计算等在内的一站式数字化解决方案,以及端到端的技术服务。同时,新华三也是HPE®服务器、存储和技术服务的中国独家提供商。

新华三集团作为数字化解决方案领导者,致力于成为客户业务创新、数字化转型值得信赖的合作伙伴。作为紫光集团旗下的核心企业,新华三拥有计算、存储、网络、5G、安全、终端等全方位的数字化基础设施整体能力,提供云计算、大数据、人工智能、工业互联网、信息安全、智能联接、边缘计算等在内的一站式数字化解决方案,以及端到端的技术服务。同时,新华三也是HPE®服务器、存储和技术服务的中国独家提供商。收起

查看更多

相关推荐

电子产业图谱

你的困惑,来自于无路贴近未知。我们在技术、思想、传播的异界,贩来极限脑量下的TMT。