字节旗下火山引擎暴露自研芯片 牵手英伟达缓解视频算力压力
五月天综合网

五月天综合网

让建站和SEO变得简单

让不懂建站的用户快速建站,让会建站的提高建站效率!

字节旗下火山引擎暴露自研芯片 牵手英伟达缓解视频算力压力

发布日期:2023-09-14 16:55    点击次数:53

近日,字节向上旗下火山引擎视频云文书其自研的视频编解码芯片已得手出片。与具备通用计较才气的CPU芯片比较,该自研芯片仅支握视频编解码任务,在特定场景具备更高的计较密度。

另外,这次火山与NVIDIA的和洽东如果通过NVIDIA GPU进行算力方面的和洽与调养,同期和洽开源BMF(Babit MultiMedia Framework)多媒体处理框架,通过由CPU、GPU以及视频编解码专用芯片等构成的异构计较资源底层,撑握表层,擢升复用与扫尾,裁减聚积视频职业的计较、存储及传输带宽成本。

牵手英伟达GPU布局框架平台

在架构干系上,BMF异构层包括了CPU、CUDA、FPGA,以及字节这次自研的ASIC算力。再之上分辨是包括视频编解码在内的模块层、框架层,以及哄骗层。

视频自研芯片与BMF框架的出身基于当下视频化逐步普及的趋势。火山引擎总裁谭待暗意,视频数据量呈爆发式增长,哄骗场景也在络续拓展。初心成本合鼓舞谈主许旸洋以为视频正吞食一切是当下大的趋势,而视频化的样子将变得愈加黎民化,每个东谈主王人不错是视频创作家,视频多量出现倒逼底层技巧升级。

NVIDIA开导与技巧部门亚太区总司理李曦鹏对记者暗意,这次火山引擎与NVIDIA的和洽东如果指新的视频处理框架。往常的视频处理主要通过FFmpeg(一种敕令行器具,用来对视频文献出动方法),后者花样主要包括调用C + + 的API,以及敕令教导。但在视频复杂及时交互的裁剪需求下,FFmpeg很难与现存AI哄骗相接起来。现在该框架主要面向开导者群体,会令往常使用FFmpeg等AI框架进行视频处理的开导者受益,也利于更多的更动出身。

谈及这次与火山在BMF框架方面的和洽,NVIDIA 高档计较群众王晓伟对记者暗意,NVIDIA对框架进行了深度篡改,增强框架的GPU亲和力,在框架层面提供更多的GPU加快才气,改进了BMF对FFmpeg CUDA filter的支握,添加GPU数据方法出动以及已毕BMF与其他深度学习框架和SDK的数据兼容,这些特色不错肤浅开导者更快地在GPU上定制所需的BMF模块,从而快速反映业务需求,使用BMF搭建GPU活水线。

同期,NVIDIA还提供了很多缜密优化的BMF模块,这些模块不错作念到开箱即用,况且看成示例向开导者展示怎么高效地开导 BMF GPU 模块。如BMF中的东谈主脸识别示例使用 NVIDIA TensorRT(一种高性能深度学习推理优化器和启动时加快库)对模子推理进行加快,况且调用 CV-CUDA (NVIDIA开导的专用于构建加快型端到端计较机视觉和图像处理管谈的开源名目)进行模子后处理,完好地展示了如安在 GPU 上使用 BMF 开导一个CV活水线及关联GPU模块。

王晓伟对记者暗意,BMF大致提供简易易用的跨谈话接口、机动的调养和扩张性,以模块化的花样动态扩张、措置和复用视频处理的原子才气;而现存的常用框架基本王人存在着谈话接口单一,调养扩张不机动以及开导门槛高等问题,限度了 AI 时期下业务场景的进化。

通过硬件更动缓解算力瓶颈

这次火山并未具体显现自研视频芯片的具体代工场等信息,字节向上视频架构认真东谈主火山引擎视频云架构技巧总监王悦暗意,这次推出火山引擎自研视频编码芯片,不错使一台芯片职业器的转码才气迥殊于百台CPU职业器的算力;压缩扫尾比行业主流硬件编码器擢升30%+。据此将单个视频的计较、存储和传输的边缘成本达到均衡。

另外,王悦暗意,该芯片支握ASIC算力,是一种比较折中的算力资源,朦拢天然差一些,但其上风是可擦写、更机动,大致完成渐进迭代,也为火山ASIC决策提供了先行考据。

现在火山视频云的图片和动图转码职业王人跑在FPGA上,部分点播、直播职业里也在使用FPGA。此外,王悦暗意,火山还有ARM板卡阵列,这个决策底本是用来支握云游戏、云手机等场景需求而研发的,火山把编转码和处理引擎在ARM指示集上深度集成和优化之后,流程大鸿沟实测发现这种算力资源在密度、成本方面相较X86职业器也有很大上风,因此也在点播场景里络续擢升这种资源的使用量,作念到与云游戏等场景的并池降本。王悦称现在最新一代板卡一经支握开源大模子llama2。

对视频芯片的自研过问早已在海表里大厂内进行,2016年,时任谷歌云计较副总裁的帕塔·兰加纳坦(Partha Ranganathan )向时任YouTube 副总裁 Scott Silver 央求视频芯片名目。2021年,YouTube 暴露自研视频芯片Argos的发达。本年,Facebook 母公司Meta首度公开了其自研 AI 芯片的发达,不错支握其最近推出的告白臆想打算和创作器具的生成式 AI技巧。

2022年,腾讯公布自研视频转码芯片“沧海”于2022年3月5日流片。2022年8月,快手文书研制出云表智能视频处理SoC(System on Chip)芯片SL200。火山引擎方面东谈主士对记者暗意,不同平台的视频自研芯片适用于各自不同的业务场景,火山自研视频芯片对内主要职业于抖音业务。

火山引擎视频云架构技巧总监王悦以为,“视频编码每升级一代,质地码率减少50%,但大鸿沟的视频数据量增长不啻2倍,视频编码措施的迭代速率一经追逐不上视频数据量的增长速率,必须通过硬件更动来冲破算力瓶颈”。

第一财经告白和洽,请点击这里此内容为第一财经原创,文章权归第一财经悉数。未经第一财经籍面授权,不得以任何花样加以使用,包括转载、摘编、复制或建立镜像。第一财经保留根究侵权者法律职守的权益。 如需赢得授权请策划第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作家

吕倩

要津字

自研芯片开源框架ASICGPU

关联阅读 英伟达AI芯片被限度销往部分中东国度

英伟达本周备案的一份监管文献骄傲,该公司用于大模子测验的东谈主工智能芯片A100和H100芯片出口中东也需要额外的许可,但暗意这一限度不会对其功绩产生“获胜的内容性影响”。

08-31 15:03 商汤过问1万张GPU测验大模子 上半年景本激增毛利骤降

毛利着落的主要原因是销售成本的飞腾。由于本年上半年客户需求的推动,使得硬件以及AI数据中心(AIDC)关联成本占收入百分比增多所致。

08-28 18:46 本年最热好意思股财报来袭!英伟达能否不负众望

期权商场交投火热,英伟达股价或出现两位数波动。

08-23 15:23 现场展示:十年前的GPU长啥样?与最新GPU的差距有多大?|数新风

06-27 18:53 半年股价翻两倍,英伟达缘何特出英特尔

英伟达的CPU+GPU+DPU家具矩阵全面变成,为客户提供一站式职业,进一步将英特尔和AMD挡在AI海浪以外,也威慑了潜在进入者。

06-20 10:28 一财最热 点击关闭

五月天综合网

近日,字节向上旗下火山引擎视频云文书其自研的视频编解码芯片已得手出片。与具备通用计较才气的CPU芯片比较,该自研芯片仅支握视频编解码任务,在特定场景具备更高的计较密度。 另外,这次火山与NVIDIA的和洽东如果通过NVIDIA GPU进行算力方面的和洽与调养,同期和洽开源BMF(Babit MultiMedia Framework)多媒体处理框架,通过由CPU、GPU以及视频编解码专用芯片等构成的异构计较资源底层,撑握表层,擢升复用与扫尾,裁减聚积视频职业的计较、存储及传输带宽成本。 牵手英伟