Transformer_Transformer资讯

EdgeNAT: 高效边缘检测的 Transformer

边缘检测是许多计算机视觉任务的基础，旨在从输入图像中精确提取物体边界和视觉显著的边缘。然而，由于图像中存在远距离物体、复杂背景中的模糊边界以及物体内部的颜色变化等挑战，边缘检测任务变得十分困难。传统的边缘检测方法主要依赖于颜色和纹理等局部信息，而基于卷积神经网络（CNN）的深度学习方法虽然可以扩展感受野以捕捉全局特征，但容易丢失细节信息。

智澜初起

1485

08/26 15:03

Transformer 边缘检测

智驾行业BEV+Transformer到端到端“追热词”为夺技术终局优势？

自去年以来，业界不断讨论和提及“BEV+Transformer”这一概念，即鸟瞰视图与基于自注意力机制的神经网络架构。卷了半年时间，今年，“端到端”这一概念又迅速成为人们热议的焦点。这两个概念看似截然不同，实则在视觉路线建立的基于Transformer 的架构上有着共通之处，也共同印证了人工智能技术从深度学习向多模态大模型演进的趋势。汽车领域始终处于自动驾驶技术革新的前沿。

智车科技

1884

08/22 11:00

智能驾驶端到端

RefMask3D: 基于语言引导的3D指代分割Transformer

论文 RefMask3D: Language-Guided Transformer for 3D Referring Segmentation 提出了一种新的方法来解决3D点云中的目标识别和分割问题，特别是基于语言描述的目标识别。

智澜初起

1235

08/06 09:45

Transformer 语音识别技术

AI的未来发展：分治法在左，端到端在右

阳萌或许是我接触过的最懂技术的CEO：他是北大计算机本科，硕博连读机器学习专业，但博士读了一半就跑了；他是百亿营收大厂安克创新的创始人，也曾在谷歌做搜索算法的研发；他的公司主要做的是充电宝、扫地机器人这些消费类电子产品，但我们聊的是人工智能、芯片等等硬科技。

老石

3641

05/17 09:55

AI 存算一体

三大角度解读地平线征程6芯片——全面升维，加速智驾全场景落地

地平线立足于推动智能驾驶全场景解决方案的落地，其一系列最新突破和进展，也让业界看到了它在智驾领域的巨大潜力。未来，随着智驾数据量的积累、视觉大模型及多模态大模型技术框架与效果的提升，智能驾驶的能力有望达到新的高度。而地平线在全栈开发方面的积累和产业链影响力，都有助于它拥抱行业未来的高速发展。

张慧娟

4074

04/29 07:54

与非观察智能驾驶

AI 2024：回望哇声一片，前瞻道阻且长

在Transformer大模型热战于云端之际，业界已经看到了它在端侧、边缘侧的市场机会。如何使Transformer在硬件设备尤其是端侧和边缘侧硬件高效运行，将成为硬件厂商未来的重点方向。

张慧娟

4074

01/05 10:21

与非观察 AI芯片

大模型是不是有点太多了？

上个月，AI业界爆发了一场“动物战争”。一方是Meta推出的Llama（美洲驼），由于其开源的特性，历来深受开发者社区的欢迎。NEC（日本电气）在仔细钻研了Llama论文和源代码后，迅速“自主研发”出了日语版ChatGPT，帮日本解决了AI卡脖子难题。另一方则是一个名为Falcon（猎鹰）的大模型。今年5月，Falcon-40B问世，力压美洲驼登顶了“开源LLM（大语言模型）排行榜”。

远川科技评论

2516

2023/10/19

大模型 AI大模型

Transformer流行的背后

许多技术公司都在大肆宣扬自己拥有比其他公司更好的处理transformer算法的解决方案。但其实业界transformer的基准测试尚未推出。Generative AI（GAI）的蓬勃发展已经颠覆了整个AI世界，似乎是这样。大语言模型（LLM），如ChatGPT所示，大多局限于语言建模和文本生成。但transformer（一种支撑LLM和其他GAI应用的总体深度学习架构）提供了一种可用于文本、语音、图像、3D和视频等数据流或任何传感数据的模型。

Astroys

5485

2023/08/30

神经网络 Transformer

高能低耗易部署，爱芯元智AX650N成Transformer最佳落地平台

近来，ChatGPT成为社会各界关注的焦点。从技术领域看，ChatGPT的爆发是深度学习领域演进、发展和突破的结果，其背后代表着Transformer结构下的大模型技术的飞速进展。因此，如何在端侧、边缘侧高效部署Transformer也成为用户选择平台的核心考量。

与非网编辑

2181

2023/05/30

人工智能爱芯元智

一文看懂BEVFormer技术及其背后价值

近期，理想、蔚来、小鹏、小马智行、百度等多家主流车企、自动驾驶方案解决商推出相关量产方案。一时间，BEV越发“火”了起来。

赛博汽车

5761

2023/05/16

自动驾驶智能驾驶

存算一体视觉SoC 破解端侧Transformer处理难题

目前，AI模型的主干网络正从CNN转变为Transformer，因为后者具有精度高、全局性特征、多模态和迁移性强的特点。在云端，用Transformer已经可以实现虚拟教师、AI智能对话（例如ChatGPT），代码自动生成等场景，可以用GPU加速计算Transformer，但在端侧——如机器人、智慧教育等场景——目前的处理器在Transformer的加速计算上还面临难题。