去年组会上,导师抛出一个灵魂拷问:"一个生下来就失明的人,通过触觉和语言学习,能否理解'红色'这个概念?如果能,他算不算具有视觉能力?如果不能,我们现在的多模态大模型算什么?"
整个会议室沉默了半分钟。
这个问题触及了计算机视觉最根本的追问:视觉的本质到底是什么?是像素层面的感知能力,还是在概念层面理解和推理视觉世界的能力?
如果放在五年前,答案似乎不言自明。视觉当然是感知——从图像中提取特征,进行检测、分割、识别。这些都是经典的视觉任务,每个任务有明确的输入输出,有标注好的数据集,有量化的评价指标。视觉领域的研究范式在过去十年里已经被打磨得近乎完美:找一个问题,收集一个大规模标注数据集,设计一个深度学习模型,刷榜。
但大语言模型的崛起彻底搅乱了这潭水。GPT-4V和Gemini Pro Vision这些多模态模型展现出的"视觉能力"令人困惑。它们能描述图片内容,能回答关于视觉细节的问题,能进行空间推理,甚至能理解漫画里的幽默。但它们从来没"看"过任何东西——它们只是把图像切成patch,用Transformer处理后和文本token混在一起做自回归生成。
这算什么?这是视觉吗?
更令人不安的是,这些模型在某些需要"理解"而非"感知"的任务上,表现出了远超传统视觉模型的水平。给一张满是餐具的杂乱厨房照片,问它"这个家庭可能刚刚吃了什么",传统的检测模型只能输出"碗、盘子、杯子"这些物体列表。而多模态LLM会观察残留在碗底的汤色、桌上的调料瓶、用过的餐巾数量,然后推断"可能吃了火锅,而且至少有三个人一起用餐"。
这种推理能力是传统视觉系统完全不具备的。但与此同时,多模态LLM在一些看似基础的感知任务上却表现得令人尴尬。你让它数照片里有几个人,如果人稍微多一点或者有重叠遮挡,它经常数错。你让它精确标定物体的边界,它做不到,因为它没有像素级别的输出能力。你让它判断两个人脸是不是同一个人,它的精度远低于专门的FaceNet模型。
所以多模态LLM到底获得了什么?它获得的是一种概念层面的视觉理解。它知道物体的名称、属性、用途、相互关系、场景典型配置、文化含义。它知道"红色的苹果通常放在果盘里,而不是放在马桶上"。它知道"雨天的街道会有积水和倒影,行人会打伞"。这些知识让它的描述和推理听起来像模像样,但它缺乏对像素的精确把握。
这让我想起认知科学里的盲视现象。某些脑损伤患者声称自己看不见,但如果强迫他们猜测面前物体的位置或运动方向,他们的正确率显著高于随机水平。他们拥有视觉处理的能力,但失去了对视觉的主观体验。多模态LLM是不是反过来——拥有类似视觉体验的概念理解,但缺乏精确的底层视觉处理?
从认知架构上看,传统视觉模型和多模态大模型代表了两种不同的路径。传统路径是bottom-up的——从像素到边缘到部件到物体再到场景,逐层抽象。大模型路径更像是top-down的——从语言习得的概念网络向下投射到视觉域,用语言作为锚点来组织视觉理解。
这解释了为什么多模态LLM在描述和理解方面出色,但在精确感知方面吃力。它的视觉能力是通过语言这面棱镜折射出来的,语言能捕捉到的东西它能做得好,语言难以描述的东西它就处理不了。你能用语言精确描述一个人的面部几何以至于可以用于身份识别吗?很难。所以多模态LLM在人脸识别这类任务上必然不如专用模型。
那么这两种路径能否融合?目前的前沿探索正是朝这个方向走。一些工作在尝试给多模态LLM装上像素级别的输出头,让它不仅能"谈论"图像,还能"操作"图像——做分割、做深度估计、做图像编辑。另一些工作则试图把传统视觉模型的精确感知能力作为工具接入LLM的推理框架,让语言模型学会调用这些工具。
但我觉得最根本的问题还是我们一开始说的那个:视觉到底是什么?如果视觉的核心是对物理世界的概念性理解,那么多模态LLM已经走在正确的道路上了。如果视觉的核心是精确的像素级感知,那么传统的卷积网络和Transformer仍然不可替代。如果视觉是两者的结合——就像人类视觉系统既有低级的特征检测也有高级的语义理解——那么未来一定属于能让这两种能力无缝协作的架构。
回到导师那个问题。通过触觉和语言学习的盲人,能否真正理解"红色"?我觉得他能理解"红色"在概念空间中的位置——它和"暖色"的关系,它在文化中的含义,它产生的情绪联想。但他永远无法拥有看到红色时的那个质感,那种无中介的、直接的感官体验。多模态大模型或许也是这样——它能概念性地"理解"视觉世界,但它没有那个质的感受。
但话说回来,对于绝大多数实际应用场景,我们需要的是理解而非感受。一个医生AI助手不需要感受X光片上的病灶带来的视觉质感,它只需要准确识别和分析。从这个角度看,多模态LLM的"伪视觉"可能已经足够解决很多真实问题了。
而我们这些做传统计算机视觉出身的人,可能需要重新审视自己领域的边界了。