大模型_大模型资讯

五分钟技术趣谈 | 大语言模型格式化输出方法浅析

本文试图从输出格式化的角度,为大语言模型应用提供一些格式对齐方法。我们将讨论输出结果的可预测性、一致性等问题，以及可能的解决方案。此外，本文中的所有例子以智慧家庭运营中心安全大模型为例，同时参考了LangChain实现的部分常见的格式化输出提示的用法。

移动Labs

2.3万

2024/09/25

大模型

大模型独角兽，上海备选名单中都有谁？

日前，胡润研究院发布了“2024全球独角兽榜”。榜单显示，中国独角兽主要来自人工智能、半导体和新能源行业。此外，数据还显示，美国独角兽主要来自软件服务、金融科技和人工智能，其中OpenAI价值增长最快，增长近5700亿元人民币，以7100亿元成为全球第三大独角兽。综合全球来看，金融科技、人工智能、区块链和新能源是过去一年增长最快的行业。

张通社

5540

2024/04/11

大模型 AIGC

大模型没过“试用期”

生成式AI代表未来已经成为业内共识，“断舍离”再难成为选项之一的同时，一众企业不得不迎难而上，冲突亦在这一过程中不断上演。

光子星球

5142

2024/04/23

大模型生成式AI

国内运营商AI布局

人工智能浪潮加速演进，上半年国务院国资委召开中央企业人工智能专题推进会指出，中央企业要把发展人工智能放在全局工作中统筹谋划。对国内三大电信运营商来说，人工智能已成为转型创新之路上的重要抓手，其不仅仅是提升自身能力的重要技术，而且正在成为赋能行业、加速产业数字化转型升级的驱动力。本文整理国内三大运营商在AI上的布局和进展，包括大模型、智算资源及网络、应用等。

5G行业应用

4379

2024/06/20

AI 大模型

无人配送研究：大模型推动无人配送多场景常态化应用

目前，无人配送在快递、商超、无人零售等场景中均已应用。其中，在快递企业中已实现常态化应用，从地区分布来看：据统计，2023年初-2024年5月期间，无人配送车在快递企业常态化运营主要集中在华东、华北、西北地区。具体而言：华东地区投入最多，主要集中在江苏省、安徽省、浙江省；从省份来看，江苏省＞安徽省＞陕西省＞浙江省＞山西省＞四川省＞河北省/北京市。

佐思产研

4201

2024/05/31

大模型无人配送

英特尔火力全开，打造生成式AI开放竞技场

英特尔举办了面向客户和合作伙伴的英特尔on产业创新大会（Intel Vision）。这次大会，英特尔面向生成式AI火力全开，CPU、AI加速器、AI互连网络、AI软件等都有重要升级。

张慧娟

4068

2024/04/16

与非观察大模型

大模型或带来汽车革命

摘要：“加快推动大模型在汽车领域创新应用”高端研讨会在京召开大模型技术已经成为推动科技进步的重要力量，对汽车全生命周期的设计、制造、运营和服务等多个环节起到巨大推动作用，甚至对智能座舱、自动驾驶为代表的新能源汽车智能化下半场带来革命性变革。但是，大模型落地汽车行业，会带来数据、算力、算法等方面的难题，以及系统级的安全问题，大模型“上车”还缺乏一系列标准。基于大模型在汽车行业应用这一产业内非常关

车百智库

3869

2024/05/18

大模型智能座舱

车载大模型计算分析：存储带宽远比算力重要

车载大模型的定义尚无，传统大模型即LLM的参数一般在70亿至2000亿之间，而早期的CNN模型参数通常不到1000万，CNN模型目前大多做骨干网使用，参数飞速增加。特斯拉使用META的RegNet，参数为8400万，消耗运算资源很少，得分82.9也算不低；小米UniOcc使用META的ConvNeXt-B，参数8900万，消耗运算资源最少，得分83.8；华为RadOcc使用微软的Swin-B，参数8800万。相对于早期的CNN模型，这些都可以叫大模型，但要与真正意义上的ChatGPT之类的LLM大模型比，这些是小模型都称不上，只能叫微模型。

佐思产研

3710

2024/06/18

自动驾驶大模型

大模型端侧部署激战！GPGPU创企亮出AI加速卡，小体积跑70亿参数大模型

近日，清华系AI芯片创企芯动力科技面向大模型推出了一款新产品——AzureBlade L系列M.2加速卡。M.2加速卡是目前国内最强的高性能体积小的加速卡，其强大的性能使其能够顺利运行大模型系统。M.2加速卡的大小仅为80mm（长）x22mm（宽），并已经实现与Llama 2、Stable Diffusion模型的适配。

芯东西

3641

2024/03/06

AI芯片大模型

人工智能为港口生产筑起安全防线

以大模型为代表的人工智能引发的新一轮科技革命和产业变革正向纵深发展，千行百业将面临巨大的机遇和颠覆性的挑战。在工业领域，人工智能是推进新型工业化的关键变量，工业大模型的落地生根将为制造企业探索新型工业化提供全新路径。

中国电子报

3622

2024/04/10

人工智能大模型

深扒大模型价格战：15家45款模型比拼，谁真便宜谁“打幌子”？

5月27日报道，618的风还是吹到了AI界。最近几天，大模型厂商近乎疯狂地打起了价格战，这边阿里云刚宣布降价97%，那边百度就宣布两款模型全面免费，好不热闹！据智东西不完全统计，截至发文，国内已有7家大模型企业“参战”，包括字节跳动、阿里云、百度、腾讯云等互联网大厂，智谱AI、深度求索等AI创企，以及垂直赛道头部玩家科大讯飞，纷纷争夺“最便宜”“最高性价比”大模型这块蛋糕。

智东西

3614

2024/05/28

大模型 AI大模型

AI变现，博通暴涨只是前奏？

2025年的AI应用市场正处在关键转折点上，商业变现的可能性与不确定性并存。

张慧娟

3493

01/17 08:10

与非观察 AI芯片

巨头狂卷代码大模型

让AI写代码正在越来越流行。今天蚂蚁集团智能研发平台CodeFuse推出了“图生代码”技术，这一技术集成在CodeFuse上，可将网页、App等设计图一键转化成前端代码。不只是蚂蚁，阿里云、百度、360、OpenAI、微软、GitHub、Google等科技巨头均在持续加码代码大模型，探索AI“自编程”。

雷科技

3471

2024/04/14

AI 大模型

大模型的耐力游戏

2010年，世界上首款量产纯电车型日产汽车（Nissan）聆风上市的时候，没人能想到日产汽车公司乃至整个日本汽车行业都将在十余年后的今天沦为陪跑。

光子星球

3427

2024/02/28

AI 大模型

华为最新发布无线智能体，把“通信+AI”玩明白了

2024年，通信行业最引人关注的焦点是什么？答案当然是5G-A。众所周知，3GPP R18版本即将在上半年正式冻结。R18的冻结，意味着5G-A将全面进入商用阶段。最近这几个月，大家应该能够明显感觉到，关于5G-A的话题越来越多，新闻报道也越来越密集。

鲜枣课堂小枣君

3415

2024/04/24

AI 大模型

大模型性能全面对决，Jetson上系列产品哪款最强？

就在最近这一两年，大型语言模型（LLMs）已经彻底颠覆了人们对于人工智能（AI）领域的看法。从增强自然语言处理（NLP）的能力到推动机器学习（ML）的新应用，它们已成为推动技术创新的关键力量。这些模型通过处理巨大的数据集来学习语言的复杂性、语境和细微差别，使得机器能够执行诸如语言翻译、内容创作、情感分析等高级任务，甚至在图像识别和生物医药研究等领域展现出前所未有的潜力。

MIIVII TECH

3352

2024/02/26

大模型边缘计算

大模型应用开发-走进大模型应用

在人工智能的浩瀚星空中，大模型就像是那颗闪耀的北极星，不仅指引着科技的发展方向，也照亮了我们对未来的无限畅想。

写代码的中年人

3309

2024/09/23

大模型大型语言模型

创新性引入大语言模型技术，智现未来发力赋能泛半导体+中高端制造

根据中国工业互联网研究院最新数据，截至目前，全国已累计建成数字化车间和智能工厂近8000个；另据工信部数据，截至2023年，入选年度智能制造示范工厂的单位已达212家。

与非网编辑

3250

2024/03/14

人工智能大模型

AI推理速度提升超10倍，Groq LPU能否取代英伟达GPU？

2月20日消息，美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于，采用了全新的Tensor Streaming Architecture (TSA) 架构，以及拥有超高带宽的SRAM，从而使得其对于大模型的推理速度提高了10倍以上，甚至超越了英伟达的GPU。

芯智讯

3215

2024/02/21

大模型 SRAM