杨净 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI
你敢信,为了让你的手机能直接拍出大片效果,工程师们竟干出了这种事:投入300+人力,死磕造芯。
此前,他们从零到一,花费两年时间为了让夜景拍摄更清晰。
这次仅半年时间,他们又迭代出Plus版本,将人像又升级到新的水准……
什么时候开始,手机的影像系统已经卷到这种程度了?
一直以来,影像系统是各大手机厂商发布会上的主角这无可厚非,毕竟这是用户最能直观感受到的。但起初也只是拼拼像素、比比摄像头数。或者更高阶一些,就是看有哪些个性化算法,比如美颜区分男女生、场景识别、夜景降噪之类。
现在怎么就有厂商专门研发起芯片来了。
而且这种趋势还有增无减,已经开启逐年迭代的模式。
为什么手机影像探索,现在要靠芯片了?究竟还有哪些发挥空间?
手机影像逐步走入内卷
要搞清楚手机影像的“内卷”逻辑,需要着眼于整个手机影像发展史来看。
自世界上第一台具备相机功能的手机夏普J-SH04诞生之日(2000年)起,影像就已经成为手机厂商比拼的新赛道。
硬件包括摄像头、传感器以及摄像模组、芯片等;软件即算法。
但从时间维度来讲,手机影像可以说是一段回归本原的过程。
表面上来看,手机影像的前十几年,一直处在硬件“内卷”的时代。
当时各个厂商的思路是模拟相机、超越并代替相机。
最早开始内卷的是以CMOS材质为代表的图像传感器,尤其是2010年iPhone 4搭载的背照式传感器,后来直接将各大手机像素提升到了几千万的水平。
理论上在暗光拍摄时,可以大幅降低噪点。而且随着CMOS面积越大,影像也就越清晰,也就是数码圈常说的“底大一级压死人”、“底大为王”。
但手机留给CMOS的空间实在有限,想要从物理上(传感器面积变大)达到相机的效果,短期内显然是行不通的。
之后即便在摄像头质量、数量上有突破,但都很快成为手机标配,在行业里没有激起太多水花。
这时候,一些厂商开始着力于手机本身的优势,打造适用于手机拍摄场景的技术,也先后探索了多条不同的路径。
最终事实证明,真正可以让手机影像打出差异化的,在相机算法上:自动HDR、夜景自拍、超级人像、模拟大光圈、舞台模式、4K视频……
这些应接不暇的功能,相信你也或多或少有所感知。
此时手机的成像过程,已经不再像是相机那样直给,而是在最终画面呈现之前,还要经过ISP、DSP、DPU等多个处理器的实时计算优化。
这也就给手机算力带来了挑战,尤其在面临多个摄像头时,计算数据量更是成倍增长。
如果算力不能支撑,算法再怎么优秀用户也无法感知。
这时候,留给手机厂商的有两条路径,一种依赖于上游SoC平台升级来优化算法,另一种则是主动研发兼容的影像芯片,来满足自身算法的实现。
一种是十分被动,还可能面临不兼容的困境;另一种则是风险高,一旦失败所耗费的成本不堪设想。
显然,第二种是一条更难而正确的路,也是当下主流厂商选择的一种方式。
如果说,传感器的局限性倒逼手机厂商思考手机本身的可能性;那么,算法的局限则是再次倒逼手机厂商回归本原思考——了解用户究竟需要什么,才能给出更个性化的算法体验。
去年,这种自研影像芯片的趋势十分明显,其中以手机影像第一梯队的vivo最具代表性。他们率先在自己的旗舰X70系列搭载了自研的V1芯片,还提出了行业指向标——“双芯标准“。
V1芯片真正解决了包括实时夜景拍摄在内的一系列业界公认的影像技术瓶颈。
在vivo自研芯片V1的加持下,手机能够以低功耗运行实时超高清夜景拍摄的去噪和插帧。
事实上,通过自研芯片来解决技术瓶颈的案例不在少数。
而且随着最近vivo V1+芯片发布,我们发现自研影像芯片给手机带来的可能性,已经远不局限于影像本身。
这次Plus版有啥看头?
这次新发布的V1+芯片,定位变成了ASIC(专用集成电路)。
相比V1芯片更侧重影像处理,V1+无论是在性能还是功能上,相比V1都要有所提升。
先来看性能参数。
V1+的数据吞吐速度平均在8GB/s,理论上最高能达到25GB/s;功耗降低72%(V1约降低50%),能效则提升了3倍。
这是什么概念?
直观来看,这让手机能运行更多以往“吃不消”的高性能算法。例如,手机影像中几乎最消耗性能的三个算法,就能一口气全部硬件化封装到V1+芯片中:3D实时立体夜景降噪、MEMC插帧和AI超分辨率算法。
其中,MEMC插帧和实时夜景降噪从V1芯片延续而来,不仅能让手机以低功耗运行超高清夜景拍摄的实时去噪和插帧,还通过进一步升级,直接用算法把手机打造成了一部专业级的“夜视仪”。
这一特性,让手机在照度小于1lux的极暗环境下,也能进行实时视频拍摄(常规阅读所需照度大约在300~400lux)。
至于AI超分辨率算法,更是vivo在移动端的首次实现,让V1+跳出了大伙儿对它“影像处理”的认知。
嗯,现在压力来到了手游厂商这边(手动狗头)。
那么问题来了,V1+芯片究竟是怎么做到上述功能的?
一方面,V1+针对自身架构进行了优化,例如在芯片上集成了一块SRAM,用于缓解存储墙、降低访存功耗,进一步提升能效;
另一方面,V1+芯片这次并非“单打独斗”,而是和天玑9000芯片进行了双芯联合调试。
这次调试耗时近350天,团队规模达到300人以上,整个过程一共产生了30多项专利。
还把影像玩出了“排列组合”
跳出芯片来看,vivo这次还自研了更多影像算法,并将它们“排列组合”出更多好玩的功能。
单就人像来看,vivo表示“每张人像照片,背后都隐藏了数十个复杂算法”。
几个人的美颜只是小打小闹,vivo甚至直接针对多人场景搞了个“质感人像合影”功能,最高支持同时处理30个人。
也就是说,AI人脸超清、立体肤色及肤质优化多个算法能够针对最高30个人同时运行,算法性能(执行时间、占用内存等)相比优化前最高提升了4倍。
这样一来,即使站在合影边缘也能看清自己的脸了。
人像以外,vivo还搞出了“地平线照片”等功能,将实时位置检测、防抖修正补偿等算法同时运行。这样拍完不用修,直接就能发朋友圈(狗头):
除了这些让照片“更好看”的算法,vivo这次还借助蔡司自然色彩2.0进一步提升了摄影照片的“准确性”,其中亮度准确性能提升16%,白平衡最高提升了12%。
基于AI感知引擎,vivo自研了“智能白加黑减”和“智能自动白平衡”技术,前者目的是得到曝光合适的照片,后者则降低光源对物体颜色的影响,而这些原本都是靠摄影“老法师”们手动进行调整的。
综上从性能和功能两方面来看,vivo并不打算如业界多数手机影像内卷的那样,以参数对标“专业相机”。
毕竟受硬件等因素所限,参数上对标专业相机,也绝非手机相机的“专长”,相比之下,手机影像更应该思考的是如何打出差异化路线。
事实上,相比专业相机,手机同时作为影像的竞技者(拍照)和裁判者(显示),理应在显示上具有更大的话语权。
vivo察觉到了这一点,除了提升影像性能以外,也一并提升了屏幕显示的效果。
将拍照和显示色域扩展至Display P3色域,色彩范围扩充25%;安卓首发自研的XDR Photo技术,让照片高亮区域亮度最高可提升350%,真正将影像的效果在屏幕上展示出来。
没错,在镜头和算法之外,vivo连屏幕也主动卷起来了,可谓将手机影像所有可能发力的空间,都抄起来卷了一遍。
放到整个国产旗舰机发展历程中来看,这样的拼命“内卷”并不罕见。
留给国产旗舰的空间不多了
回顾整个手机技术发展的过程,“内卷”似乎是一种非常普遍的现象。
它并非只在影像中出现,而是遍布手机身上的每一块“技术域”。
从手机硬件性能开始,内存从几十MB进化到4GB再到8GB,芯片核数越叠越多;到后来的屏幕显示,从1080p到2k到现在部分厂商研发的4k,清晰度越来越高;再到各种创新的功能……
几乎每当一片新领域被开发出来,厂商们就会一拥而上,争相研发相关技术,唯恐被落下。
这也已经成为手机厂商们“心照不宣”的一种默认发展方向:只要新技术跟进得够及时,参数够格,料堆得够多,看上去就是一款“业界顶流”的手机,而用户就会为此买账。
可以感知到,每个技术一旦探近成熟的极点,“内卷”的速度就会被加快,而影像“内卷”不过是这一过程具象化的体现。
一方面,新技术研发成本高,试错机会少,一旦大力投入研发,后果很可能是有投入没产出,一如当初堆叠小像素但最后销声匿迹的影像传感器路径。
另一方面,相比自研手机技术,市场、销量等因素往往更能成为手机厂商关注的焦点。
相比自研更多技术、或是将更多专利握在手中,不断基于成熟的、经过市场验证的技术推出新机、或是打价格战,显然是更稳妥的方法。
然而,这样“内卷”的结果也导致手机并不具备真正的竞争力,一旦市场发生变动就可能被落下。
如去年受缺芯等因素影响,去年年末,苹果就成功以23%的市场份额,占据中国手机市场榜首。
这种情况下,留给国产旗舰作出改变的空间不多了。
是继续保持参数的“内卷”,还是想办法在已有的技术上推陈出新,厂商们各自有各自的思路:例如推出旗舰子品牌,或是将中低端机型和高端区隔开来,再或是分割出一块业务专门主打旗舰……
但无论怎样基于品牌的改变,只要不真正推出新技术,本质的路径都还是一样:回归内卷。
这种情况下,以用户需求为导向,主动自研新技术,或许是摆脱内卷的唯一出路。
回顾vivo X系列的发展历程,这种靠自研冲出“内卷”的案例并不罕见:Hi-Fi音乐手机、2K屏幕、双2.5D弧面玻璃屏、前置柔光双摄、屏下指纹、微云台防抖镜头……
可以看到的是,他们倒也不是为了行业卷而卷。
因为相比堆叠硬件和参数在手机市场上卷出的一条“血路”,vivo的选择更像是一场厂商与用户双赢的结果——厂商自卷,用户受益。
毕竟任何一件产品,最终需求在用户。产品好不好,用户一用就知道,如此形成的用户与厂商之间的闭环,这个行业才能健康可持续地发展。
如今这块即将用在X80系列上的V1+芯片,或许也是vivo在打破“内卷”上再次尝试的新路径。