加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入

缓存

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

缓存(cache),原始意义是指访问速度比一般随机存取存储器(RAM)快的一种高速存储器,通常它不像系统主存那样使用DRAM技术,而使用昂贵但较快速的SRAM技术。缓存的设置是所有现代计算机系统发挥高性能的重要因素之一。

缓存(cache),原始意义是指访问速度比一般随机存取存储器(RAM)快的一种高速存储器,通常它不像系统主存那样使用DRAM技术,而使用昂贵但较快速的SRAM技术。缓存的设置是所有现代计算机系统发挥高性能的重要因素之一。收起

查看更多
  • 艾体宝洞察丨透过语义缓存,实现更快、更智能的LLM应用程序
    本文探讨了语义缓存在提升大型语言模型(LLM)应用程序性能中的关键作用。与传统缓存不同,语义缓存理解用户查询背后的语义,提供更快、更相关的响应。这种技术通过嵌入模型、矢量搜索等组件,显著提高了自动化客户支持、实时翻译等应用的效率,为企业优化操作和提升用户体验提供了新路径。
  • 使用弹性缓存实现视觉指令跟随模型的高效推理
    论文 Efficient Inference of Vision Instruction-Following Models with Elastic Cache 介绍了一种名为Elastic Cache的新型KV缓存管理技术,旨在提高多模态指令跟随模型的时间和内存效率,同时保持其生成长且连贯输出的能力。
  • 五分钟技术趣谈 | 本地缓存技术探索
    五分钟技术趣谈 | 本地缓存技术探索
    缓存技术在高流量、大并发的应用服务中是一把利器,使用缓存可以降低数据库访问压力、提高接口响应速度。缓存技术分为本地缓存和分布式缓存,二者各有利弊。本地缓存无法在集群中进行共享,存在应用服务重启数据丢失、需要重新预热加载的问题,而分布式缓存如redis、Memcached可以解决此类问题。但是由于本地缓存没有分布式缓存的网络io耗时和集中化依赖问题,依然在很多业务场景中有着独到的应用。本文主要介绍现有的主流本地缓存技术以及挑战,并提出一种自研本地缓存技术。
    2309
    2023/11/13
  • Redis Enterprise vs ElastiCache——如何选择缓存解决方案?
    Redis Enterprise vs ElastiCache——如何选择缓存解决方案?
    为了提高 Web 应用程序和数据驱动服务的性能与效率,使用 Redis 或 Amazon ElastiCache 来作为缓存加速已经是业界主流的解决方案。随着业务规模的增长,其需要处理的数据越来越多,使用有效的缓存机制更是尤为重要,如何选择适合的缓存解决方案呢?
    2822
    2023/10/20
  • 什么是Cache?
    缓存(caching)是将内容(网页、图片等)存储在请求者附近的过程,以便这些内容加载更快。
    2208
    2022/08/25