出品|网易科技《态度》栏目
作者|定西
具备掀桌子实力的玩家下场了。字节跳动正式宣告进军 AI 视频生成。
日前,旗下火山引擎一举发布了豆包视频生成-PixelDance、豆包视频生成-Seaweed 两款大模型,面向企业市场开启邀测。而字节版 Sora 的主要特点,是能实现自然连贯的多拍动作与多主体复杂交互。做到这点并不容易。
从策略上看,火山引擎的思路是,先在 ToC 打磨产品,模型能力具备竞争优势后开始拓展 ToB 市场。我们注意到,豆包视频生成模型的早期版本早在今年 2 月就在即梦(Dreamina)上应用,并且持续迭代优化。这次官宣,说明火山引擎做好了十足的把握。
从产品上看,字节版 Sora 也打出差异化,此前视频生成模型大多只能完成简单指令,豆包视频生成模型则能实现自然连贯的多拍动作与多主体复杂交互。有创作者在抢鲜体验豆包视频生成模型时发现,其生成的视频不仅能够遵循复杂指令,让不同人物完成多个动作指令的互动,人物样貌、服装细节甚至头饰在不同运镜下也保持一致,接近实拍效果。
破局多主体互动和一致性难题
据火山引擎介绍,豆包视频生成模型基于 DiT 架构,通过高效的 DiT 融合计算单元,让视频在大动态与运镜中自由切换,拥有变焦、环绕、平摇、缩放、目标跟随等多镜头语言能力。
基于此,全新设计的扩散模型训练方法攻克了多镜头切换的一致性难题,在镜头切换时可同时保持主体、风格、氛围的一性。
这被称为是这次豆包视频生成模型“独树一帜的技术创新”。
网易科技了解到,此前经过剪映、即梦 AI 等业务场景打磨,豆包视频生成模型已经具备专业级光影布局和色彩调和。不仅如此,深度优化的 Transformer 结构,则大幅提升了豆包视频生成的泛化能力,支持 3D 动画、2D 动画、国画、黑白、厚涂等多种风格,适配电影、电视、电脑、手机等各种设备的比例,适用于电商营销、动画教育、城市文旅、微剧本等企业场景,也能为专业创作者和艺术家们提供创作辅助。
这样的泛化能力,正是当下,豆包视频生成模型的想象空间,出手 ToC,剑指 ToB。
目前,新款豆包视频生成模型正在即梦 AI 内测版小范围测试,未来将逐步开放给所有用户。剪映和即梦 AI 市场负责人陈欣然认为,AI 能够和创作者深度互动,共同创作,带来很多惊喜和启发,即梦 AI 希望成为用户最亲密和有智慧的创作伙伴。
大模型要从卷价格走向卷性能了
火山引擎总裁谭待说,大模型的应用成本已经得到很好解决。大模型要从卷价格走向卷性能,卷更好的模型能力和服务。
据披露,截至 9 月,豆包语言模型的日均 tokens 使用量超过 1.3 万亿,相比 5 月首次发布时猛增十倍,多模态数据处理量也分别达到每天 5000 万张图片和 85 万小时语音。
谭待认为,大模型价格已不再是阻碍创新的门槛,随着企业大规模应用,大模型支持更大的并发流量正在成为行业发展的关键因素。
谭待透露,业内多家大模型目前最高仅支持 300K 甚至 100K 的 TPM(每分钟 token 数),难以承载企业生产环境流量。例如某科研机构的文献翻译场景,TPM 峰值为 360K,某汽车智能座舱的 TPM 峰值为 420K,某 AI 教育公司的 TPM 峰值更是达到 630K。为此,豆包大模型默认支持 800K 的初始 TPM,还可根据需求灵活扩容。
性能之外是服务,这次,豆包大模型不仅新增视频生成模型,还发布了豆包音乐模型和同声传译模型,已全面覆盖语言、语音、图像、视频等全模态,可以满足不同行业和领域的业务场景需求。
然而,豆包大模型的杀手锏还有生态。
今年 5 月,火山引擎与 OPPO、vivo、荣耀、小米、三星、华硕宣布成立智能终端大模型联盟。同在 5 月,火山引擎联合中国电动汽车百人会与一汽、吉利、长城、广汽、捷途、智己等 20 余家厂商,宣布成立汽车大模型生态联盟。8 月,汽车大模型生态联盟迎来第二批成员单位加入,包括领克汽车、吉利银河、几何汽车、上汽荣威、上汽名爵、雄狮科技、大圣科技等厂商。还有今年 8 月,火山引擎携手多点 DMALL 成立零售大模型生态联盟,联盟首批成员包括物美集团、抖音电商、抖音生活服务、百胜、麦当劳、中国飞鹤、海底捞、居然之家、南7-11、重庆百货、百果园、波司登、天虹、三得利、绝味、名创优品、NielsenIQ、电通等。
雄心勃勃的豆包大模型已经迫不及待在企业市场大展拳脚。在 ToC 市场一骑绝尘的豆包,正在以全家桶的形式卷土重来。
豆包能否复制豆包,拭目以待。