1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:快手开源多模态推理模型Keye-VL 1.5:视频理解新标杆

快手开源了新一代多模态推理模型Keye-VL 1.5,具备128k超长上下文窗口、0.1秒级视频定位能力及跨模态推理功能。相比此前版本,新模型在时序定位和跨模态推理上显著提升,并创新性提出Slow-Fast双路编码机制,在性能与效率间实现平衡。

Keye-VL 1.5在多个公开基准测试中表现出色。例如,在Video-MME短视频基准中获得73.0的高分,领先同级模型;在MMBench、OpenCompass等综合基准中超越Qwen2.5-VL 7B,取得多项SOTA成绩。此外,内部评测显示,该模型在正确性、完整性、相关性等五项指标上综合得分3.53,较预览版提升0.51分。

模型的核心亮点包括精准的视频元素定位、详细描述能力和推理能力。例如,它能准确判断特定物品在视频中的出现时间(精确到0.1秒),并对画面内容进行细致描述。同时,它还能根据前序视频内容推断后续事件原因,展现强大的逻辑推理能力。

架构上,Keye-VL 1.5采用“视觉Transformer+MLP投影器+语言解码器”三段式设计,并引入SigLIP预训练方法增强语义对齐能力。针对视频处理,创新性提出Slow-Fast编码策略,通过动态调整帧分辨率与token分配,在保证细节的同时降低计算成本。

训练过程分为四阶段渐进式预训练,从单模态对齐到多模态扩展,逐步优化模型性能。最后通过监督微调、链式思考冷启动和强化学习等后处理步骤,进一步提升推理能力和用户偏好一致性。

Keye团队还在多个顶会上发布了重要成果,包括ICML 2025的多模态RLHF框架MM-RLHF、KDD 2025的VLM治理框架,以及CVPR 2025的交错图文数据集CoMM等。这些技术正在快手内部应用于内容审核、智能剪辑等场景,验证了复杂视频理解技术在实际业务中的高效性。

技术报告与代码已开源,可访问以下链接获取:
技术报告:https://arxiv.org/pdf/2509.01563
代码:https://github.com/Kwai-Keye/Keye/blob/main/Kwai_Keye_v1_5.pdf
模型权重:https://huggingface.co/Kwai-Keye/Keye-VL-1.5-8B
在线DEMO:https://huggingface.co/spaces/Kwai-Keye/Keye-VL-1_5-8B

原文链接
本文链接:https://kx.umi6.com/article/24778.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
vivo发布端侧多模态模型,只有3B可理解GUI界面,20项评测表现亮眼
2025-07-10 17:25:30
Mistral 发布首款多模态模型,挑战 OpenAI等竞争对手
2024-09-12 16:52:34
阿里通义千问宣布推出多模态模型 Qwen VLo,实现从感知到生成的跨越
2025-06-28 00:15:30
DeepSeek 深夜再放大招:7B 参数人人可用的视觉多模态模型 Janus-Pro-7B 开源
2025-01-28 01:38:40
3D打印火出圈了?一众网友秀“成果” 幕后推手竟是这款AI模型
2025-09-01 13:19:49
阶跃生态开放日:聚焦智能终端 Agent,率先布局端侧全产业
2025-02-25 17:06:04
具身智能实力派!十年多模态打底,世界模型开路,商汤悟能来了
2025-07-28 10:08:25
突破短视频局限!MMBench 团队构建中长视频开放问答评测基准,全面评估多模态大模型视频理解能力
2024-10-30 17:14:43
天问大模型再升级,不仅能“看”懂视频,更能快速实现小目标识别、场景关系理解
2024-10-24 13:07:41
视频理解新标杆,快手多模态推理模型开源:128k上下文+0.1秒级视频定位+跨模态推理
2025-09-05 22:26:24
全球顶级AI科学家许主洪加盟阿里!IEEE Fellow,五万被引论文数,曾任Salesforce集团副总裁
2025-02-08 14:22:14
独家|华为昇腾适配阶跃星辰多模态开源模型
2025-03-10 14:41:01
全球最大开源视频模型,现在也Created in China了,阶跃出品
2025-02-18 13:15:12
24小时热文
更多
扫一扫体验小程序