微服务_微服务资讯

服务网格DPU卸载解决方案

1. 背景介绍 1.1. 业务背景服务网格（Service Mesh）是微服务架构中的一种重要技术，它主要处理服务之间的通信，为服务间的信息交换提供更安全、更快速且更可靠的基础设施层。服务网格将服务治理从业务逻辑中剥离出来，拆解为独立的进程，实现异构系统的统一治理和增强网络安全。一个典型的服务网格部署示意图如下：其中绿色方块为应用服务，蓝色方块为代理。应用服务之间通过代理进行通信，整个服务通

中科驭数

1114

09/18 09:26

云计算 DPU

英伟达颠覆传统：NVIDIA NIM正推动企业及开发者部署AI新革命

对于英伟达来说，卖GPU从来不只是卖GPU，其更大的商业愿景在于让AI的蛋糕更大，让它更易用，更便于规模化，这样一来，销售GPU也好，AI软件服务也好，都是水到渠成，形成完美商业闭环。

张慧娟

2133

09/10 09:00

与非观察 GPU

NVIDIA AI Foundry 为全球企业打造自定义 Llama 3.1 生成式 AI 模型

NVIDIA 宣布推出全新 NVIDIA AI Foundry 服务和 NVIDIA NIM™ 推理微服务，与同样刚推出的 Llama 3.1 系列开源模型一起，为全球企业的生成式 AI 提供强力支持。借助 NVIDIA AI Foundry，企业和各国现在能够使用 Llama 3.1 以及 NVIDIA 软件、计算和专业知识，为其特定领域的行业用例创建自定义“超级模型”。企业可以使用自有数据以

与非网编辑

446

07/24 09:23

AI NVIDIA

主推高算力低能耗芯片，英伟达GTC AI应用聚焦赋能医疗及制造业

NVIDIA GTC趋势，硬件方面，今年亮点产品为Blackwell AI服务器架构平台，辅以第二代Transformer引擎与第五代NVLink技术可支援高达10兆参数模型之AI训练与实时LLM推理，并以此为基础推出B100、B200与GB200等AI芯片，为市场AI应用预备。由于NVIDIA产品迭代快速，提升产品成效是关键，在成本与能耗比大幅优化的前提下，上述产品有望在2024年底陆续上市，并

与非网编辑

3390

03/21 15:36

NVIDIA 电动车

NVIDIA 推出生成式 AI 微服务

NVIDIA 于今日推出数十项企业级生成式 AI 微服务，企业可以利用这些微服务在自己的平台上创建和部署定制应用，同时保留对知识产权的完整所有权和控制权。这些云原生微服务目录在 NVIDIA CUDA® 平台上开发，其中包括 NVIDIA NIM™ 微服务，可适用于 NVIDIA 及合作伙伴生态系统中 20 多个热门的 AI 模型进行推理优化。此外，用户现能够以 NVIDIA CUDA-X 微服

与非网编辑

2207

03/19 14:52

NVIDIA AI应用

虹科干货丨设计微服务架构的原则

微服务是一种软件架构策略，将应用程序分解为一组解耦的、自治的服务。这些独立的应用服务通过API相互通信。每个服务都由其专业领域的专家团队管理，以便每个软件开发团队可以控制自己的开发周期，按照自己的时间表进行测试和部署，使用自己的企业工具和资源，加速上线时间。为了评估你的团队是否需要采用微服务架构。这里有一些值得深入讨论的细节。