智谱GLM-Omni论文曝光,统一多模态模型面临“会画不会说”瓶颈
清华大学与智谱AI联合发表论文,首次披露内部模型GLM-Omni。实验显示其图像生成正确率达54%,但文字问答仅14.57%,揭示统一多模态模型中视觉知识难以转化为语言推理的核心挑战。
智谱AI内部一款代号为GLM-Omni的多模态模型,近日通过一篇学术论文悄然浮出水面。该研究由清华大学与智谱AI联合完成,智谱首席科学家、清华大学教授唐杰担任通讯作者,论文题为《Can Visual Generation Expand What Unified Multimodal Models Know?》(视觉生成能否扩展统一多模态模型的知识?),已发布于arXiv平台。
论文并未直接宣称这是下一代GLM-5.5,但因其技术路径与当前GLM-5系列演进方向高度一致,迅速引发业界对智谱下一款原生多模态大模型的广泛猜测。尤其值得注意的是,该研究聚焦一个被长期忽视却至关重要的问题:模型通过图像生成任务学到的视觉知识,是否真能被语言推理能力所调用?
实验设计极具巧思。研究人员构建了一个名为MagicWorld的虚构世界,其中所有实体(如虚构球队Arvenbrock)及其属性(如球衣号码10)仅通过训练图像呈现,文字提示中刻意避免泄露答案。模型需先根据名称生成图像,再接受纯文字提问——例如“Arvenbrock的球衣号码是多少?”——以检验其是否真正将图像中的知识内化为可语言表达的关联。
结果令人警醒:在数字类任务中,GLM-Omni生成正确球衣号码的比例高达72%,但若仅靠文字提问,正确率骤降至2%。这一巨大落差并非个例。在涵盖颜色、数量、形状、空间关系等7类共350条受控知识的测试中,GLM-Omni的平均图像生成正确率为54.00%,而纯文字问答准确率仅为14.57%。对比模型BAGEL与SenseNova-U1也呈现类似趋势,后者在号码任务中图像正确率达88%,文字回答却为0%。
这一现象直指当前统一多模态架构的根本性瓶颈:参数共享不等于能力互通。图像生成任务优化的是像素级重建能力,只要实体与属性的关联有助于还原画面,就能被强化;而语言推理则需沿着独立的语言输出通路,将隐式视觉表征显式转化为字符序列。两条路径虽共用部分参数,却尚未实现真正的知识迁移。
研究团队进一步探索了缓解路径。当训练时强制模型将“生成图像→观察图像→文字作答”纳入同一序列,GLM-Omni的文字问答准确率从12.57%提升至26.86%;若允许模型在回答前主动生成并观察图像,准确率进一步跃升至41.14%。这表明,引入“图像作为中间媒介”的推理链,可显著弥合视觉与语言间的鸿沟。
值得注意的是,GLM-Omni的技术底座源于GLM-4.1V-Thinking,并接入基于X-Omni的离散图像Tokenizer,属于典型的“理解+生成”一体化架构。这与智谱今年8月发布的GLM-5.3-Flash形成呼应——后者虽被定义为GLM-5系列首款“原生多模态模型”,支持图像/视频输入并用于Coding Agent工作流,但其输出仍以文本为主,未实现原生图像生成。
换言之,当前行业存在两条技术路线:一条侧重多模态输入统一理解(如GLM-5.3-Flash),另一条则致力于统一理解与生成的深度融合(如GLM-Omni所代表的方向)。后者难度更高,其价值不仅在于“能画图”,更在于让视觉知识真正成为模型认知世界的通用语料库。
论文还提出“KTP”(Knowledge Transfer Protocol)框架,系统性划分了五级生成能力:L1原子生成(one-shot映射)、L2条件生成(结构化指令遵循)、L3上下文生成(长文本/多条件联动)、L4智能体生成(多轮交互控制)、L5世界建模生成(因果物理与干预预测)。GLM-Omni主要处于L2-L3阶段,而L4-L5涉及的规划、验证与未来推演,正是具身智能与长时程Agent的关键基础。
这一研究的现实意义远超技术细节。在大模型竞争进入深水区的当下,单纯提升参数量或推理速度已难构成壁垒,如何让模型在跨模态间高效迁移知识,成为决定下一代模型上限的核心命题。智谱选择公开GLM-Omni的局限性而非仅展示优势,恰恰体现其对技术本质的清醒认知。
市场反应亦印证了该研究的关注度。10月27日,智谱股价盘中一度大涨近13%,市值突破2650亿港元。同日,《2026胡润百富榜》发布,创始人刘德兵与唐杰分别以395亿元、275亿元财富位列新人前十,AI与半导体赛道成为新质生产力的核心造富引擎。
不过需明确,GLM-Omni目前仍是实验室模型,论文未透露其是否将直接升级为商用产品。但其揭示的问题——“会画却不会说”——已成为全球多模态研发的共同挑战。OpenAI、Anthropic等厂商的新模型线索频现,但若无法解决知识在模态间有效流转的问题,所谓“统一多模态”仍将停留在功能叠加层面。
智谱官方尚未就GLM-Omni发表声明,但10月21日曾向编程套餐用户发送补偿通知,末尾提及“新模型发布后还会再额外赠送一次重置卡”,暗示重大更新临近。无论GLM-5.5是否采用类似架构,可以确定的是:下一代大模型的竞争,已从“能否处理多模态”转向“能否让多模态知识真正协同工作”。
