智东西

智东西9月11日报谈，上个月，MiniMax开源通用视频模子MiniMax H3。在第三方评测平台Artificial Analysis上，该模子一度登顶有声视频裁剪榜榜首，Elo得分达到1130。凭借洞开权重、视频生成质料和性价比，H3很快在开发者社区内养殖出多数适配和新玩法。

模子开源搞定了“能不行部署”的问题，但距离着实着实进入创作历程，中间还有一王人速率门槛。关于需要反复颐养画面的创作家来说，生成速率径直影响创作节拍。

针对这一痛点，RunningHub近期推出并开源了H3视频生成加速决策H3 Lightning。在一组5秒视频生成对照测试中，RunningHub将H3的生成耗时从348.8秒裁汰至28.7秒，全体推理速率达到基础决策的约12倍，恭候时代减少约92%。

目下，联系手艺决策和复现讲明照旧在GitHub公开。有多卡拓荒的用户不错参考决策进行土产货部署，莫得拓荒的精深创作家也不错径直在RunningHub上使用。

技俩开源地址：

https://github.com/RH-RunningHub/MiniMax-H3-MultiGPU-Lightning

H3开源后飞速受到创作家眷注，但本色部署后，一个问题随之流露：模子权重天然不错下载，生成速率却依然影响使用体验。

在RunningHub的一组对照测试中，测试环境配备4张NVIDIA RTX 6000D专科显卡，生成一段5秒、1344×768辞别率的视频。承袭BF16基础决策，完成这一过程需要50步，耗时348.8秒，接近6分钟。

RunningHub领先引入RH后考验加速模子，将生成步数从50步压缩至9步，用更少的忖度轮次完成视频生成。在这一建立下，生成耗时裁汰至60秒，速率达到基础决策的5.8倍。

在此基础上，RunningHub进一步叠加算子和编译优化，将生成耗时赓续压缩至28.7秒。相较基础决策，全体推理速率提高约12倍，恭候时代减少约92%。

为考证这一身手，智东西也在RunningHub平台进行了测试，咱们先让H3生成了一段5秒的视频，内容是一只流浪猫吃猫粮，平台用时28秒完成生成，全体过程较为剖释。

▲5秒视频生成用时28秒（生成过程经倍速处理）

随后，咱们提高测试难度：将视频时长加多到15秒，让模子生成一段发生在高档餐厅的都市短剧，脚色变多、还加上了台词。

▲15秒视频生成用时54秒（生成过程经倍速处理）

这段视频用时约54秒完成。视频中，又名身穿红裙、披着西装的女子带着两名保镖震怒地冲进餐厅，文告“在场的扫数东谈主，一个都不许走”，现场敌视飞速变得垂危。实测来看，画面全体完成度较高，脚色手脚衔接天然，东谈主物激情或者配合情节变化，台词、口型与画面基本匹配，声息也较为明晰，很有短剧的嗅觉。

除了文生视频，RunningHub这套加速决策还可用于多参考图视频生成。在另一组测试中，RunningHub使用8张RTX 6000D显卡，以4步生成15秒、768×1344辞别率的竖屏视频。其中，文生视频耗时约48秒，凭证两张参考图生成视频耗时约73秒。

值得施展的是，H3 Lightning在提高速率的同期兼顾生成成果，仍保留BF16数值精度，且各项建立均经过组合测试和画质验收。

生成时长裁汰，意味着创作家不错更快看到生成律例、颐养领导词并尝试下一个版块。关于依赖反复迭代的AI视频创作，单次恭候时代的裁汰，最终会更始为扫数这个词创作历程效用的提高。

从近6分钟裁汰至不到30秒，背后是一套阴事模子忖度和硬件相助的系统优化。

领先，视频生成需要经过多轮忖度渐渐酿成画面，频繁生成步数越多，耗尽的时代越长。RH后考验加速模子将对照测试的生成步数从50步压缩至9步，使耗时由348.8秒裁汰至60秒，率先已毕5.8倍提速。

减少生成范例之后，RunningHub赓续提高剩余忖度的试验效用。SageAttention2用于加速施展力忖度，Cache-DiT通过缓存复用部分中间律例，减少后续范例中的访佛忖度，torch.compile则对模子的忖度历程进行编译优化，使其以更合适GPU的表情试验。

三项手艺与RH后考验加速模子叠加后，5秒视频的生成耗时由60秒进一步裁汰至28.7秒，相较BF16基础决策已毕约12倍的全体加速。

终末一层优化，是让多张显卡配合得更好。多卡视频生成不仅需要拆分忖度任务，还需要在不同显卡之间交换数据。显卡之间怎么单干，会径直影响生成速率、通讯支出和显存占用。

针对主要通过PCIe一语气、莫得NVLink高速互联的多卡环境，RunningHub聘用了TP2＋Ulysses4的并行组合。在8张RTX 6000D的测试中，这一组合比拟TP4＋Ulysses2快约12%，同期减少约14GiB显存占用。

RunningHub将后考验加速、施展力优化、忖度缓存、编译优化和多卡并行等设施赞成整合进SGLang的multimodal_gen推理引擎，由统一套推理历程完成退换和试验。

一套加速决策的本色价值，不单体目下跑得多快，也取决于它能落到什么样的硬件上，以及精深创作家能否着实用起来。

目下，不少视频生成加速决策多建立在B300等高端数据中心GPU上。此类硬件天然性能强，但采购和部署门槛较高，精深责任室和创作家较难按照公开建立复现。

在上头测试中，RunningHub承袭8张RTX 6000D专科显卡，这些显卡主要通过PCIe一语气，不依赖NVLink高速互联，就已毕了生成速率的大幅提高，老本更低，更面对责任室的硬件条款。

为了让土产货部署更便捷，RunningHub在GitHub中提供了环境装配、模子下载、作事启动和推理测试范例。有多卡拓荒的用户不错参考公开决策，在我方的作事器上部署H3，并将模子接入已有的创作历程。莫得多卡拓荒的精深创作家，也不错径直在RunningHub上使用，不错说是已毕了东谈主东谈主可用，土产货可部署。

这也不是RunningHub第一次参与H3开源生态设立。H3上线后，RunningHub先完成模子接入，随后洞开全套ComfyUI节点，这次又进一步公开H3 Lightning加速决策。

据RunningHub败露，H3上线以来，RunningHub平台上已有上千名创作家开源近万条联系责任流，阴事电商、短剧、漫剧、声息克隆、手脚克隆和音频驱动等场景。节点、责任流和加速决策的抓续洞开，也为开发者进一步创作和开发提供了基础。

目下，RunningHub的企业级API已接入上千家企业，日均调用量达到千万级。从模子接入、用具封装到推理优化，RunningHub在H3生态中的脚色，也渐渐转向手艺决策孝顺者。

H3 Lightning的推出，离不开RunningHub母公司海马云十余年的GPU工程齐集。海马云成立于2014年，是一家覆以GPUaaS为底座，业务阴事基础设施、模子作事和智能体诓骗的原生AI公司。

跟着AI手艺正从基础设施设立走向诓骗爆发和原生诓骗酿成，行业眷注的问题也从智能能否被范围化供给，转向这些智能怎么被调用、怎么被组织成着实或者完成任务的产物。在这一过程中，算力经久是支抓模子来源和诓骗落地的基础。

往时十余年，海马云围绕GPU容器退换、图形诬捏化和及时流媒体等要津进行手艺参加，并在国内设立60余个角落节点，为跳动3000万月作事用户提供云渲染作事。在这一过程中，海马云齐集了GPU资源退换、多任务并发和内容及时刻发等工程身手，并渐渐将这些身手延长至AI推理。

在此基础上，海马云酿成了从底层算力到表层诓骗的AI产物矩阵。其中，RunningHub已面向群众140多个国度和地区提供作事，接入170余个模子API；HaimaAPI面向企业团员350余个主流模子；RHTV、RHStory和VibeX等智能体用具，则进一步将模子身手延长到视频相等他内容坐褥要津。

海马云不径直考验基础模子，其要点是搞定模子发布和开源之后的来源问题，包括新模子怎么快速接入、如安在有限的硬件条款下提高推理效用，以及怎么更始为创作家不错径直使用的产物。

具体到H3，RunningHub先完成模子接入，随后洞开ComfyUI节点，再进一步公开H3 Lightning加速决策。这一过程也体现了海马云在发展过程中的身手演进：从搞定高性能内容“奈何跑”，到搞定AI模子“奈何调用、奈何落地”。H3 Lightning恰是其GPU工程身手在AI推理要津的一次具体诓骗。

模子开源，给了开发者自行部署、修改和二次开发的聘用；推理优化，则进一步影响每次生成需要恭候多久、消耗若干忖度资源。当视频生成从尝鲜走向日常坐褥，生成质料除外，速率、相识性、老本和部署条款，也会径直影响创作家的聘用。

RunningHub的H3 Lightning，鼓吹模子权重走向本色坐褥：有多卡拓荒的创作家不错参考公开决策土产货部署欧洲杯体育，莫得拓荒的创作家也不错在线使用。跟着开源模子越来越多，推理加速、硬件适配和责任流生态，正在成为决定模子能否着实进入创作历程的要害要津。