加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 推荐器件
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

从实验室到应用:推动生成式AI的成功

06/18 08:16
680
阅读需 6 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

2023年,生成式AI在科技领域异军突起。随着ChatGPT获得了巨大的成功,亚马逊、微软和谷歌等公司纷纷加快步伐,掀起了一股创新浪潮,以重塑企业和用户利用科技提高生产力的方式。生成式AI已在制药和法律等多个领域取得了显著进展,但这只是一个开始。根据麦肯锡的调查,中国企业人工智能与业务相结合的能力有很大的进步空间,当前只有9%的中国企业可借助AI实现10%以上的收入增长。只有当企业走出实验阶段,开始在实际应用中更广泛地使用生成式AI时,其真正的作用才能更好地展现。

但是,想要将生成式AI的价值最大化,企业必须克服成本和信任的挑战。而要做到这一点,就需要一个充分利用云的强大数据路线图。

成本和信任是最大的障碍

在生成式AI应用中,如果模型是基于不可信的数据训练而成的,它生成有用结果的可能性就会很小。当前的挑战在于,许多企业的数据治理和安全仍处于初级阶段,关键信息往往被锁在孤岛中。如果不进行高成本的整合,这些信息实际上是无法被使用的。在实践中,这意味着AI训练数据的质量可能很差,缺乏关键的业务背景。这可能会导致幻觉,即看似真实的虚构信息或缺乏必要背景的事实反应。无论哪种情况,都对企业无益。

另一个关键痛点是自主运行生成式AI项目的成本高昂。虽然外包存在安全、合规和其他潜在风险,但自主完成所有工作的成本过于高昂。一个专门用于运行大语言模型(LLM)的尖端GPU大约需要3万美元。而一家企业如果要运行一个拥有1750亿个参数的模型,可能需要2000个GPU,成本高达数千万美元。

将实验室中的生成式AI投入到实际应用中

将云基础设施作为AI基础逐渐成为趋势。云提供商拥有GPU资源,可帮助客户扩展生成式AI项目的规模,客户只需按照使用量支付费用即可。这使得企业能够使用生成式AI进行实验,并在完成修补后关闭模型,不必在本地环境中配置GPU。这种方式不仅节省了资本支出,还为企业提供了在必要时重新进行内部运行的灵活性。

所以,在决定使用云后,企业如何才能让生成式AI项目走出实验室,并在实际应用中为企业带来价值呢?在这方面,可以借鉴BRIESO(构建、完善、识别、实验、扩展和优化)模型:

构建(Build):构建现代数据架构和通用企业数据网格。无论是在本地还是在云中,这种构建都将帮助企业获得对数据的可见性和控制权。而且,这还有助于企业建立一个统一本体,用于映射、保护和实现所有数据孤岛合规性。所以,企业应寻找不仅能够满足当前需求,而且能够根据未来增长进行扩展的工具。通常情况下,开源解决方案最为灵活。

完善(Refine):根据当前业务需求完善和优化数据。在这一阶段,尽可能准确预测未来需求非常重要,这将减少迁移过多非必要数据的可能性,这些数据不会带来任何价值,还会大幅增加项目成本。

识别(Identify):寻找将云用于特定工作负载的机会。工作负载分析将帮助企业确定在哪些方面可以产生最大价值。这个阶段的关键在于通过打通各个位置(无论是本地还是多个云)的数据来优化项目。这时也是考虑潜在开发用例的好时机。

实验(Experiment):尝试使用预构建的第三方生成式AI框架,找到最符合业务需求的框架。可供选择的框架很多,例如AWS的Bedrock(Hugging Face)、Azure的OpenAI(ChatGPT)和谷歌的AI Platform(Vertex)。重要的是不要过早做出决定。为提高项目成功的可能性,模型必须与现有企业数据紧密结合。

扩展和优化(Scale and Optimise):在选择了合适的平台后,就可以考虑选择一到两个用例扩展为生产模型。企业应持续优化流程,但也要密切关注与GPU相关的成本,以防成本大幅提高。当企业的生成式AI应用能力开始提高时,应寻找进一步优化其使用的方法。灵活的AI平台是保证长期成功的关键。

未来近在眼前

IT和企业领导人对生成式AI应用的变革潜力感到兴奋是可以理解的。全球98%的高管认为AI基础模型将在诸如在改进客户服务方面,或是在实现无缝衔接的供应链管理和大幅加强开发运维方面,在未来3-5年战略中发挥重要作用。

企业仍然需要做很多工作。任何AI项目要想取得成功,就必须以现代数据架构为起点,然后进行完善、识别、实验、扩展和优化。企业可以利用生成式AI取得成功的未来已指日可待。

推荐器件

更多器件
器件型号 数量 器件厂商 器件描述 数据手册 ECAD模型 风险等级 参考价格 更多信息
FT232RL-REEL 1 FTDI Chip USB Bus Controller, CMOS, PDSO28, 10.20 X 5.30 MM, GREEN, SSOP-28

ECAD模型

下载ECAD模型
$4.79 查看
STM32F429IET6 1 STMicroelectronics High-performance advanced line, Arm Cortex-M4 core with DSP and FPU, 512 Kbytes of Flash memory, 180 MHz CPU, ART Accelerateur, Chrom-ART Accelerator, FMC with SDRAM, TFT

ECAD模型

下载ECAD模型
$23.92 查看
STM32F429IGT6 1 STMicroelectronics High-performance advanced line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 180 MHz CPU, ART Accelerator, Chrom-ART Accelerator, FMC with SDRAM, TFT

ECAD模型

下载ECAD模型
$14.94 查看

相关推荐

电子产业图谱