首页 > AI教程资讯

清华+智谱团队开源多模态“14变形满分战士”超能大模型CogVLM-17B，在线可玩

文章来源：万象ai发布时间：2024-12-27 17:03:29

看看这张图中有几个房子？

如果你回答3个，就和GPT-4V的答案一样。

但是最新开源的国产多模态模型CogVLM-17B，就能看出另有玄机。

甚至能区分在图中完整可见的房子有3个，部分可见的房子有1个。

CogVLM由清华和智谱AI合作开发，通讯作者为唐杰和丁铭，论文和开源代码已上传到GitHub。

除这个单独案例之外，CogVLM-17B还在10项权威跨模态基准上取得了SOTA性能。

另外在VQAv2. OKVQA, TextVQA, COCO captioning取得第二，超越或匹配谷歌的PaLI-X 55B。

与之前的开源多模态大模型相比，可以算是14边形战士。

雷达图中包含13个基准，最后一个TDIUC单独展现。

CogVLM可以回答各种类型的视觉问题，比如从马斯克的阴阳怪气中推理出小扎假装去旅行了，回避约架。

认出照片中的C罗，并回答他在2018年世界杯中有多少进球。

带图的编程题也能给出代码了。

甚至能完成复杂的目标检测，并打上标签，自动数据标注成了。

从浅层对齐到深度融合

CogVLM模型包含4个基本组件

ViT编码器MLP适配器大型预训练语言模型视觉专家模块

其中，每层中都添加了可训练的视觉专家模块，以实现图像特征和文本特征的深度对齐，而不会牺牲任何NLP任务的性能。

之前主流的浅层对齐方法，如BLIP-2.图像特征和语言模型之间缺乏深度融合,导致性能不佳。

但微调语言模型的全部参数又会损害其NLP能力。

CogVLM的方法可以说是改变了视觉语言模型的训练范式，从浅层对齐转向深度融合。

另外值得注意的是，CogVLM训练数据中没有专门的OCR数据，但表现出了很强的文字识别能力。

CogVLM开源并给出了在线试玩。

不过目前仅支持英文，后续会提供中英双语版本支持，可以持续关注。

试玩地址：http://36.103.203.44:7861

开源及论文地址：https://github.com/THUDM/CogVLM

— 完 —

追踪人工智能新趋势，关注科技行业新突破

Photoshop AI升级Firefly 2大模型：AI帮你撰写关键词，小白也能轻松生成美图

上一篇: Photoshop AI升级Firefly 2大模型：AI帮你撰写关键词，小白也能轻松生成美图

10月11日凌晨，Adobe的AIGC生图大模型Firefly最近进行了一次大更新。Adobe直接把它命名为Firefly Image 2。Firefly Image 2模型可生成质量明显更高的图像。

GPT-4多模态测评_ChatGPT多场景测评使用_ChatGPT文生图

下一篇: GPT-4多模态测评_ChatGPT多场景测评使用_ChatGPT文生图

自从3月GPT4发布，惊鸿一瞥一来，无数人都期待着GPT4真正完全体的到来，而9月25号，OpenAI也终于宣布，两周内正式推出识图功能，多模态终于能跟大家见面了，而我也玩了两天，大概整理了一些有趣的案例，来给大家演示一下多模态的牛逼超神之处。

相关攻略更多

热门AI工具更多

最新资讯更多

PhotoG - AI图片生成

PhotoG - AI图片生成

AI工具

更新时间：2025-01-08