缓存

• 艾体宝洞察丨透过语义缓存，实现更快、更智能的LLM应用程序
  本文探讨了语义缓存在提升大型语言模型（LLM）应用程序性能中的关键作用。与传统缓存不同，语义缓存理解用户查询背后的语义，提供更快、更相关的响应。这种技术通过嵌入模型、矢量搜索等组件，显著提高了自动化客户支持、实时翻译等应用的效率，为企业优化操作和提升用户体验提供了新路径。

  虹科技术

  771

  08/30 09:32

  人工智能 应用程序
• 使用弹性缓存实现视觉指令跟随模型的高效推理
  论文 Efficient Inference of Vision Instruction-Following Models with Elastic Cache 介绍了一种名为Elastic Cache的新型KV缓存管理技术，旨在提高多模态指令跟随模型的时间和内存效率，同时保持其生成长且连贯输出的能力。

  智澜初起

  1162

  08/06 11:05

  视觉技术 缓存
• 五分钟技术趣谈 | 本地缓存技术探索
  

  缓存技术在高流量、大并发的应用服务中是一把利器，使用缓存可以降低数据库访问压力、提高接口响应速度。缓存技术分为本地缓存和分布式缓存，二者各有利弊。本地缓存无法在集群中进行共享，存在应用服务重启数据丢失、需要重新预热加载的问题，而分布式缓存如redis、Memcached可以解决此类问题。但是由于本地缓存没有分布式缓存的网络io耗时和集中化依赖问题，依然在很多业务场景中有着独到的应用。本文主要介绍现有的主流本地缓存技术以及挑战，并提出一种自研本地缓存技术。

  移动Labs

  2308

  2023/11/13

  缓存
• Redis Enterprise vs ElastiCache——如何选择缓存解决方案？
  

  为了提高 Web 应用程序和数据驱动服务的性能与效率，使用 Redis 或 Amazon ElastiCache 来作为缓存加速已经是业界主流的解决方案。随着业务规模的增长，其需要处理的数据越来越多，使用有效的缓存机制更是尤为重要，如何选择适合的缓存解决方案呢？

  虹科技术

  2820

  2023/10/20

  Redis 缓存
• 什么是Cache？
  缓存（caching）是将内容（网页、图片等）存储在请求者附近的过程，以便这些内容加载更快。

  Astroys

  2208

  2022/08/25

  缓存
• 深入了解汽车系统级芯片SoC连载之四：缓存、超标量、乱序执行
  我们看到CPU参数经常会提到1、2、3级缓存容量，有时还有L1$的标识，这是什么呢。

  佐思产研

  1829

  2022/03/04

  汽车SoC 缓存
• L1和L2 CPU Cache为何如此重要？
  Cache（高速缓存）的发展是计算历史上最重要的事件之一。

  Astroys

  2560

  2021/09/24

  CPU 缓存
• 什么是缓存
  缓存就是数据交换的缓冲区。由于缓存的运行速度比内存快得多，故缓存的作用就是帮助硬件更快地运行。

  短腿老头

  5328

  2021/08/16

  缓存
• 二级缓存和三级缓存的区别
  在计算机系统中，缓存是一种用于暂时存储数据的技术，在提高系统性能和降低延迟方面发挥着重要作用。在多层缓存体系中，二级缓存和三级缓存是两个常见概念。本文将探讨二级缓存和三级缓存之间的区别，以及它们在计算机体系结构中的作用。

  eefocus_3901714

  1.1万

  04/24 17:30

  数据存储 缓存

正在努力加载...