LPU_LPU是什么意思 - 与非网

类型

资讯

Groq芯片的创新意义

前一阵子，Groq芯片刷屏了，据说Groq芯片计算速度远远超过英伟达GPU，经网友测试，Groq每秒生成速度接近500 tok/s，碾压GPT-4的40 tok/s。Groq是一家成立于2016年的AI创企，据其官网介绍，LPU是一种专为AI推理所设计的芯片。LPU的工作原理与GPU截然不同。它采用了时序指令集计算机（Temporal Instruction Set Computer）架构，这意味着它无需像使用高带宽存储器（HBM）的GPU那样频繁地从内存中加载数据。

土人观芯

3132

03/01 13:18

推理芯片 LPU
AI芯片的一百种死法

前几天，英伟达成为首家市值达到2万亿美金的芯片公司，创造了历史。同一时间，一家名为Groq的初创公司横空出世，扬言“三年之内赶超英伟达”。Groq狠话的底气，来源于它所开发的芯片——LPU。

远川科技评论

4063

02/26 09:50

GPU AI芯片
AI芯片黑马一夜爆红：成本推算争议不断，前员工现员工互撕

2月21日报道，在OpenAI推出又一爆款力作AI视频生成模型Sora后，连带着偏上游的AI芯片赛道热度一点即着。创始成员来自谷歌TPU团队的美国存算一体AI芯片公司Groq便是最新赢家。这家创企自称其自研AI推理引擎LPU做到了“世界最快推理”，由于其超酷的大模型速度演示、远低于GPU的token成本，这颗AI芯片最近讨论度暴涨。连原阿里副总裁贾扬清都公开算账，分析LPU和H100跑大模型的采购和运营成本到底差多少。

芯东西

2695

02/22 12:20

AI芯片存算一体

与非星榜

相关标签