如果说过去两年多模态模型的卖点是“能看懂图”,那么最新的行业动向是让它“看完图还能把事情做完”。近期,国内多家大模型厂商在产品更新中不约而同地把视觉理解与工具调用、代码执行能力捆绑发布,推动多模态模型嵌入Agent工作流。这一变化看似是功能叠加,实则改变了多模态模型的定位——从被动的内容理解组件,变成可以主动操作软件、读取界面、校验结果的执行单元。
具体来看,智谱在其GLM系列中强调图文交错输入与函数调用的配合,模型可以读取一张系统界面截图,识别其中的按钮与表单字段,再调用相应工具完成填写或查询。这类能力在RPA(机器人流程自动化)场景中颇具吸引力,因为传统RPA依赖控件坐标与固定脚本,界面一改就容易失效;而具备视觉理解能力的模型可以基于截图语义重新定位目标,显著提升流程的鲁棒性。业内已有团队尝试用多模态模型替代部分RPA脚本维护工作,将“界面变更导致流程中断”的处理成本降下来。
阿里通义千问在多模态与Agent结合上走的是另一条路径:借助开源生态,让开发者在自有环境中把视觉模型与业务工具链拼接。其开源多模态版本支持视觉定位与结构化输出,开发者可以将其接入内部的工单系统、仓储管理系统或质检平台,由模型读取现场照片或仪表截图,输出结构化判断结果并触发后续动作。这种模式在制造业与能源行业较受欢迎,因为这些企业的数据往往不出内网,且业务流程高度定制化,闭源API难以覆盖。
字节豆包则依托其在大规模调用上的工程积累,把多模态能力嵌入到办公与内容生产工具中。典型用法包括:上传一份带图表的报告截图,模型识别数据后调用计算工具完成汇总,再生成一段结论文字;或在短视频制作流程中,模型读取分镜截图并自动匹配字幕与标签。这类“视觉输入—工具处理—文本输出”的链路,正是Agent工作流的基本形态。日调用量达到亿级规模,也从侧面说明这类组合用法已具备相当的工程稳定性。
Kimi延续长上下文优势,在多模态Agent场景中主打“长材料+跨页推理”。用户可以一次性上传数十页带图文档,要求模型比对不同页面的数据并调用检索工具核实外部信息。法律尽调、投研报告整理与招投标文件核对是其主要落地场景,这些任务的特点是材料多、图表杂、人工核对耗时,模型的价值在于先做一轮粗筛与定位,再由人复核关键结论。
不过,多模态Agent落地仍面临几道坎。首先是错误传播问题:视觉识别一旦出错,后续工具调用会沿着错误路径执行,因此置信度输出与人工确认节点不可或缺。其次是延迟与成本,视觉编码的计算开销高于纯文本,在高频流程中需要靠缓存、批处理与模型裁剪来控制。第三是评测体系尚不统一,如何衡量“看懂界面并正确操作”的能力,业界还没有公认基准。
总体而言,国产多模态模型正从“识图工具”向“执行组件”演进,这一趋势与Agent热潮相互强化。对企业的实际建议是:优先选择流程清晰、错误可回滚的场景做试点,例如单据录入、报表核对与界面巡检,跑通后再扩展到更复杂的链路。多模态模型的价值不在于单点识别多准,而在于能否稳定地嵌进业务流程并持续降低人工介入比例。
标签:多模态,Agent,智谱,通义千问,豆包
