加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    • 01.低功耗、独立显卡、NPU三大AI引擎架构更新,本地跑200亿参数大模型
    • 02.从聊天机器人到AI Agent六大AI场景应用爆发
    • 03.结语:英特尔商用AI PC打通行业落地最后一公里
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

英特尔AI PC开启商用元年!打造6大AI场景应用,三大AI引擎助力本地跑20B大模型

04/03 10:30
1958
阅读需 13 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

作者 |  香草,编辑 |  漠影

英特尔史上最大CPU技术变革,酷睿Ultra已落地100+本土应用。

AI PC在商用领域,能带来什么样的新质生产力?芯东西4月2日报道,近日,英特尔重磅推出全新商用客户端AI PC产品,将基于英特尔酷睿Ultra处理器的AI特性扩展至商用领域,在AI PC规模应用元年,踏出行业落地的关键一步。

酷睿Ultra处理器是英特尔40年来最大的架构变革,其首次引入两颗低功耗内核、首次集成独立显卡架构,并集成了NPU(神经元处理器),通过三大AI引擎架构革新,可本地运行200亿参数大模型,无需联网即可秒级生成高质量多模态数据。

本次发布将酷睿Ultra的能力从个人延伸至行业,在视频会议、多媒体处理等商用场景中,相比上一代产品处理器功耗下降最高36%,生产力提升最高47%,视频编辑的AI性能提升2.2倍

发布会现场,英特尔与超35家ISV(独立软件开发商)及10家OEM(原厂设备制造商)合作伙伴分享了酷睿Ultra在商用AI PC中的应用爆发,全方位瞄准AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理六大AI场景,在经济、物理、数据保密三大AI PC法则的指导下推动各行业数字化转型

那么,英特尔此次升级的产品点具体有哪些?六大AI场景中,具体有哪些创新应用?为什么说本地生成式AI是必然的趋势?芯东西通过现场调研,寻找这些问题的答案。

01.低功耗、独立显卡、NPU三大AI引擎架构更新,本地跑200亿参数大模型

英特尔酷睿Ultra处理器专为AI PC打造,其采用全新英特尔4制程工艺,基于3D性能混合架构,将两个内核微架构组合至同一个处理器芯片上,并可提供内置英特尔锐炫GPU。

据英特尔客户端事业部副总裁、细分市场部总经理冯大为介绍,面向企业用户,酷睿Ultra处理器在CPU+GPU+NPU三大AI引擎上做了重大架构更新,能够支持200亿参数大模型在本地运行,无需联网即可秒级生成高质量图片或视频。

一是CPU上的低功耗管理。酷睿Ultra首次引入两颗低功耗内核,其专为多线程可扩展性能和分载后台任务而设计,更优的性能核和能效核带来更高数据吞吐量,办公场景性能提升最高可达47%。

二是GPU首次集成了独立显卡架构,英特尔锐炫GPU带来最高2.2倍的性能及性能功耗比提升,让视频剪辑速度更快,视频体积更小。

三是采用NPU进行AI推理,在视频会议等场景中功耗最高下降36%,基于Intel 4制程工艺和3D高性能混合架构的设计,大幅提升续航能力,让AI体验更省电。此外,此次酷睿Ultra内置的ARC显卡已达到移动工作站的性能需求,在3D渲染评分上最高达到上一代产品12倍的性能。

02.从聊天机器人到AI Agent六大AI场景应用爆发

工业和信息化部赛迪研究院数据显示,到2035年,生成式AI有望为全球贡献近90万亿元的经济价值,其中中国将突破30万亿元。AI市场蕴含着巨大的潜能,其中丰富的创新AI应用成为商用AI PC产业发力的重点。英特尔中国区技术部总经理高宇描绘了英特尔锚定的六大AI场景应用图,以AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理为横坐标,医疗、教育、法务等各行业为纵坐标,形成一张巨大的应用场景蓝图。

英特尔发布会现场,有35+家本土ISV合作伙伴向我们展示了商用AI PC在六大AI场景+AI行业应用等垂直领域的潜能。1AI Chatbot:直击行业应用痛点,提供专业领域问答操作系统技术提供商中科创达人工智能中心副总裁杨新辉,演示了魔方智能法务助手,其基于基础语言大模型,结合百万条法律大数据训练得到70亿参数规模的AI PC端侧大模型,提供案件分析、文书撰写等法律相关功能。

中科创达大模型产品负责人邱瑞翔告诉芯东西,法律卷宗等数据隐私性很高,需要进行严格的数据监管。同时律师群体出差频率高,常遇到在飞机上办公等无网络的场景。AI PC将大模型搬到了终端上,杜绝了信息泄露和断网的影响。

2AI PC助理:AI智能控制,简化各种PC操作

智谱AI基于酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用问答、文档内容提炼等功能。其COO张帆展示了该应用的智能操作功能,输入一句包含静音、切换性能、打开文件3个操作的指令,PC便按顺序完成了3个操作。

值得注意的是,在打开文件的指令中用户无需给出完整准确的文件名,只需采用“上次打开的”“昨天没看完的”等模糊描述,大模型就可以根据使用记录或用户习惯,找到需要的文件。

3AI Office助手玩转办公三件套”,提高办公效率

专注Office“办公三件套”扩展工具开发的ExtendOffice的CEO林洁演示了基于本地AI的全新插件Kutools AI。表格工具Excel中有许多复杂的公式,造成了一定的学习成本,同时企业客户的大量数据具有高度隐私性,上传到云端会有泄露风险,这使得本地化的离线数据处理极为重要。Kutools AI以侧边栏形式呈现在应用中,用户可使用自然语言输入指令。如用户想将“金额”一栏的数值按汇率换算成人民币,只需输入“美元转人民币”指令,Kutools AI便会弹出对应聊天框,再输入相应的汇率即可自动完成换算。

4AI本地知识库:深挖企业私域数据,快速文档处理和知识检索

星环科技副总裁杨一帆介绍了RAG(检索增强生成)产品无涯-问知,基于AI PC能力,它能快速将本地文件资料转换成知识,支持多种格式和模态、不限长度文件自动入库。

该产品契合AI PC全部三条法则。首先数据在本地处理,避免了云服务费用,从而降低了AI服务成本;其次避免了数据传输中的瓶颈,满足物理法则;最后数据全部保存在本地设备上,保障了安全性和隐私性。

5AI图像视频处理:随时随地后期,开辟全新媒体制作方式

在多媒体处理赛道,视频等大文件的传输十分考验网络速率。当虹科技CTO黄进展示了基于AI PC打造的视频慢动作解决方案,用大模型生成更多的视频帧,实现3倍慢动作视频生成。

一方面,本地化的视频处理降低了数据传输和云服务成本。另一方面,在酷睿Ultra加持下原本只能在专业服务器和大型工作站才能实现的能力,现在也可以普惠到企业用户。

6AI PC管理:借助NPU处理能力,增强设备资产安全性

在商用领域,资产安全性极为重要。火绒安全、贝锐向日葵、VMware等厂商基于NPU强大的处理能力,将AI运用到威胁检测、安全风险管控、远程操作等应用中,解放了CPU算力,提升了商用PC管理效率。

这六大应用场景,延伸到具体的垂直行业领域中,又能带来不一样的想象力。在医疗行业,AI制药头部企业英矽智能通过在AI PC部署大模型,推出AI生物学软件PandaOmics,基于超过20种预测模型和生成生物学模型,实现专业的靶点筛选、排序和分析,提升了药物研发效率。

在应用展区,英矽智能BD吴剑宇向芯东西演示了PandaOmics的知识图谱和问答功能,通过来自公开文献、科研基金、临床试验的文本数据,该软件能自动生成知识图谱,用户可在左侧交互窗口进一步追问。据其介绍,医院内部数据具有高度隐私性,本地化的大模型和算力可在满足数据安全的前提下,提升医生和科研人员在药物研发阶段的效率。在数字人领域,英麒智能利用酷睿Ultra处理器和OpenVINO深度学习套件,打造了低成本、高质量的数字人解决方案,实现快速精准的数字人智能问答。据英麒智能介绍,用户只需录制约2分钟的视频,通过10分钟左右的云端计算,即可生成专属数字人模型,之后便可结合本地大语言模型离线使用。高宇展示了他在会前录制的数字人模型,其口型同步、手部动作等十分生动,几乎达到“以假乱真”的程度。

总的来说,在经济法则中,AI数据在本地处理可降低云服务成本,优化经济性;在物理法则中,AI服务的及时性和准确性要求提升云与端之间的传输速度,解决瓶颈;在数据保密法则中,需要保证用户数据的安全和隐私,防止滥用和泄露。AI PC三大法则为AI应用指明了方向,生成式AI本地化成为必然趋势。

03.结语:英特尔商用AI PC打通行业落地最后一公里

通过三大AI引擎架构升级,英特尔为AI PC应用打通了落地最后一公里,基于经济、物理、数据保密三大法则,提供了AI本地化的底层基础。去年10月,英特尔开启“AI PC加速计划”,5个月以来已累计2120个报名团队,孕育出1083个高质量的创新AI应用。值得一提的是,报名团队中超30%都来自高校大学生。为了激励更多开发者加入,英特尔宣布“AI PC加速计划”再添两项新举措,新增“AI PC开发者计划”,并吸纳独立硬件供应商加入,以加速在2025年前为超过1亿台基于英特尔平台的PC带来AI特性。相信未来,我们会看到更多本地化AI应用,为商用场景带来更多新质生产力。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
LM6171AIM 1 National Semiconductor Corporation IC 1 CHANNEL, VIDEO AMPLIFIER, PDSO8, SO-8, Audio/Video Amplifier
$6.08 查看
GS12070-IBE3 1 Semtech Corporation Consumer Circuit,
暂无数据 查看
SII1136CTU 1 Lattice Semiconductor Corporation Consumer Circuit,

ECAD模型

下载ECAD模型
暂无数据 查看
英特尔

英特尔

英特尔在云计算、数据中心、物联网和电脑解决方案方面的创新,为我们所生活的智能互连的数字世界提供支持。

英特尔在云计算、数据中心、物联网和电脑解决方案方面的创新,为我们所生活的智能互连的数字世界提供支持。收起

查看更多

相关推荐

电子产业图谱