加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
    • 基于生成式AI RAG的聊天机器人,跨越数据障碍
    • 企业AI开放平台是大规模生成式AI RAG应用的关键
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

生成式AI走进巴黎奥运会,突破数据障碍打造沉浸式互动体验

07/23 08:33
2255
阅读需 7 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

奥运会一直是高精尖科技争相亮相的舞台,一方面它是前沿技术最好的试炼场,另一方面也是出于高水准赛事的迫切需求。随着生成式AI的发展和推广,这项技术正在奥运会上展现出新的落地方向和应用空间,不论是提升运动员表现、优化赛事管理,还是增强观众体验等方面,都为即将到来的2024年巴黎奥运会注入了新的活力。

日前,英特尔分享了与国际奥林匹克委员会(IOC)的一些合作细节,并披露了以行业需求为导向所打造的生成式AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于至强处理器和Gaudi AI加速器的开放式AI系统及平台,帮助开发者和企业应对AI高速发展所带来的需求。

基于生成式AI RAG的聊天机器人,跨越数据障碍

AthleteGPT是国际奥委会与英特尔合作开发的一款聊天机器人,是一款基于英特尔至强处理器和Gaudi加速器的RAG解决方案,它可以说六种语言,包括英语、法语、西班牙语、普通话、俄语和阿拉伯语,11,000名运动员将能够访问这些语言,这几乎涵盖了他们的第一或第二语言。它不仅能够应答运动员的日常询问并进行互动,同时将在运动员入住巴黎奥运村期间,为其按需提供信息,使运动员能够专注于自身训练和比赛。

对于奥运会这样的国际大型赛事来说,英特尔通过与国际奥委会的合作,展示了AI普及化的一种方式。尽管这种获取信息和互动的方式很好,但毫无疑问,“信息量”是一个主要挑战。一直以来,AI的训练和部署在数据方面存在一定的制约和局限。对于企业来说,他们拥有大量数据,这些数据往往是专有数据或历史数据,是企业宝贵的数字资产。LLM虽然是一项伟大创新,但如果无法安全访问和应用这些数据的话,也无法发挥力量。

英特尔方面认为,RAG的技术和范式可以将数据和LLM结合在一起,既可以确保企业数据的安全性,又能够借助企业数据的具体性和准确性,使得LLM发挥出该有的价值。

据了解,AthleteGPT提供了RAG驱动的前端,它可以在幕后检索数据,无需运动员进行复杂操作,就可以有意义地解释大量数据集中的信息。

企业AI开放平台是大规模生成式AI RAG应用的关键

在大规模应用的生成式AI RAG解决方案中,一个重要根基是英特尔与行业合作伙伴共同创建了开源、可互操作的解决方案,用于轻松部署RAG。正是因为企业AI开放平台(OPEA),能够提供开源、标准化、模块化,以及异构的RAG流水线(pipeline),并致力于为开放式模型及多种编译器和工具链的开发提供支持,加速了针对垂直领域用例的容器化AI集成与交付。

下图是RAG的具体工作流程,该生成式AI一站式解决方案将基于OPEA的微服务组件集成至用于部署英特尔至强处理器和Gaudi AI系统的、可扩展的RAG解决方案中,可通过Kubernetes、Red Hat OpenShift等经验证的编排框架进行无缝扩展,并提供兼具可靠性和系统遥测功能的标准化API

英特尔方面表示,几乎所有大型语言模型(LLM)的开发都基于高级抽象框架PyTorch,该框架受英特尔Gaudi和至强技术的支持,使得在英特尔AI系统或平台上进行开发变得轻而易举。通过与OPEA合作,英特尔为RAG和LLM部署开发了一个开放的软件堆栈,该堆栈针对GenAI交钥匙解决方案进行了优化,并基于PyTorch、Hugging Face服务库(TGI和TEI)构建。

关于生成式AI RAG解决方案的重要意义,英特尔方面认为,部署生成式AI解决方案会带来诸如成本、规模、准确性、开发需求、隐私和可靠性等方面的挑战。作为一种关键的生成式AI工作负载,RAG可以让企业安全地利用专有数据,增强AI产出结果的及时性与可靠性。这将极大地提高AI应用的质量和实用性。通过以协作的方式帮助开发者构建定制化的生成式AI RAG解决方案,可以满足企业的多样化需求。此外,英特尔亦将持续提供开放、强大且可组合的多供应商生成式AI解决方案。

除了生成式AI RAG聊天机器人,英特尔在支持巴黎奥运会的边缘AI应用中,还携手三星打造基于AI技术的沉浸式互动体验,能够带领观众体验一系列专业的训练与分析,并为其匹配出最为合适的比赛项目。此外,还有帮助视障人士提高赛事观赏体验的AI解决方案,以及包括了全新体积视频的3D播报形式,带给观众沉浸式的实时体验。

当前,如何将最新的AI计算技术应用到实际场景中,并推动关键业务成果落地,是企业亟待解决的问题。通过与广大行业合作伙伴的战略合作,英特尔正为由生成式AI和RAG解决方案驱动的AI服务创造更多的可能性。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
ATXMEGA128A1-CUR 1 Atmel Corporation RISC Microcontroller, 16-Bit, FLASH, AVR RISC CPU, 32MHz, CMOS, PBGA100, 9 X 9 MM, 1.20 MM HEIGHT, 0.80 MM PITCH, GREEN, CBGA-100
$10.58 查看
FT2232HL-TRAY 1 FTDI Chip USB Bus Controller, CMOS, PQFP64, LEAD FREE, LQFP-64

ECAD模型

下载ECAD模型
$5.88 查看
ATMEGA328P-MU 1 Microchip Technology Inc IC MCU 8BIT 32KB FLASH 32VQFN

ECAD模型

下载ECAD模型
$2.5 查看
英特尔

英特尔

英特尔在云计算、数据中心、物联网和电脑解决方案方面的创新,为我们所生活的智能互连的数字世界提供支持。

英特尔在云计算、数据中心、物联网和电脑解决方案方面的创新,为我们所生活的智能互连的数字世界提供支持。收起

查看更多

相关推荐

电子产业图谱

与非网资深行业分析师。主要关注人工智能、智能消费电子等领域。电子科技领域专业媒体十余载,善于纵深洞悉行业趋势。欢迎交流~