☰
『分割』还是『理解』?SAM3 引发的路线之争,正在改写视觉 AI 的剧本
2026/10/12 9:59:10 网站建设 项目流程

『分割』还是『理解』?SAM3 引发的路线之争,正在改写视觉 AI 的剧本

【免费下载链接】sam3项目地址: https://ai.gitcode.com/hf_mirrors/facebook/sam3

2025 年 10 月,Meta 官宣 SAM 3 系列模型,紧接着一篇被社区冠以「ICLR 2026 重磅」的论文引爆了中文技术圈。「SAM 3 不止分割一切,它开始理解世界了」——这类标题在 CSDN、智源社区、36Kr 等平台迅速刷屏,与此同时,另一种声音同样尖锐:「这不过是一个披着『概念理解』外衣的检测器加分割器」。

两种叙事针锋相对,背后是视觉 AI 领域一场蓄积已久的路线之争:传统像素级分割的忠实信徒,与高举「概念级理解」旗帜的革新者。作为吃瓜工程师,我们真正需要关心的不是口水,而是:SAM3 的代码里,究竟哪些设计支撑了「理解」的说法?它又改写了哪些工程与学术的既有规则?本文结合社区情报与hf_mirrors/facebook/sam3仓库的源码与配置,把这场争论摊开来讲清楚。

从「分割一切」到「概念分割」:SAM3 到底改了什么

要理解路线之争,先要看清 SAM3 相对于 SAM / SAM2 的增量。原始 SAM 的命题是「promptable segmentation」:给定一个点、一个框或一块掩码,把一个目标从像素层面抠出来。SAM2 在此基础上加了视频记忆机制,把分割扩展到时序追踪。它们共同的技术底座是「交互式实例分割」(即仓库 README 中所称的 Promptable Visual Segmentation,PVS)——模型本质上回答的是「这个像素属于你指的那个东西吗」。

SAM3 引入了一个全新的任务范式:Promptable Concept Segmentation(可提示概念分割,PCS)。官方 README 的第一段就把话挑明了:

SAM 3 is a unified foundation model for promptable segmentation in images and videos. It can detect, segment, and track objects using text or visual prompts such as points, boxes, and masks... SAM 3 introduces the ability to exhaustively segmentall instancesof an open-vocabulary concept specified by a short text phrase or exemplars.

关键词有三个:开放词汇(open-vocabulary)、穷尽式(exhaustively)、所有实例(all instances)。用户不再需要逐一点击目标,只需输入一句文本「ear」或「dial」,模型就返回图中所有匹配该语义概念的掩码、边界框和置信度。从「指哪打哪」到「说一句,全部捞出来」——提示方式变了,模型回答的问题也变了:从「这个像素属于谁」变成「图中哪些像素属于这个概念」。

从 config.json 的架构配置可以还原出这套能力的硬件基础。SAM3 的检测头是一个标准的 DETR 解码器(model_type: sam3_detr_decoder,6 层、8 注意力头、num_queries: 200),并显式开启了use_presence_token: true——对应社区解读中反复提到的「存在性判断」:模型要判断某个概念在场景中是否存在,而不仅是画出掩码。文本侧挂载的是一个 CLIP 文本编码器(24 层、hidden size 1024、词表 49408,见text_config),负责把自然语言短语编码成与视觉特征对齐的语义向量;视觉侧则是 32 层 ViT 骨干(patch size 14,输入分辨率 1008×1008,见 processor_config.json),配合几何编码器与多级 FPN 特征(scale_factors: [4.0, 2.0, 1.0, 0.5])构成检测-分割流水线。

这套「文本编码器 + DETR 检测 + 掩码解码器」的组合,在结构上正是 open-vocabulary 检测/分割的经典配方。Meta 自己给出的评测数据也很能说明问题:他们新建了 SA-CO 基准,包含27 万个独特概念,比现有 benchmark 多出50 倍以上,而 SAM3 在其上能达到人类表现的75%–80%。智源社区的报道则补充了性能侧的事实:30 毫秒处理 100 个检测对象,相对前代实现约 2 倍的效率提升。

路线之争:像素派与概念派的核心论据

围绕 SAM3 的争论,本质是对「视觉 AI 的主任务应该是什么」的分歧。

支持者(概念派)的核心论据,可以归纳为四点:

其一,任务边界的迁移。PCS 把「分割」从几何问题升级为语义问题。CSDN 那篇「万字硬核解读」就据此断言模型「开始理解世界了」——因为它不再依赖逐目标的几何提示,而是通过语言与示例(exemplars)直接绑定概念。

其二,多模态提示的灵活组合。仓库 README 展示了非常丰富的提示工程:文本 + 负向框(input_boxes_labels=[[0]])可以精确排除干扰项(比如分割「handle」时排除烤箱把手);多个正向框可以精化概念;同一 batch 内不同图像可以使用不同类型的提示(text=["laptop", None]+input_boxes=[None, [box2_xyxy]])。这种「语义 + 几何」混合的交互方式,是 SAM2 时代做不到的。

其三,视频中的概念追踪。SAM3 Video 可以仅凭一句文本提示,在视频全片检测并追踪该概念的全部实例(README 中propagate_in_video_iterator的示例代码),而 SAM3.1 的报道进一步把视频分割推到「一次跟踪 16 个目标」。概念不再是静态标注,而是可以在时间维度上被持续锚定。

其四,语义分割的副产品。README 明确展示了outputs.semantic_seg输出——除了逐实例掩码,模型还直接给出单通道语义分割图。这暗示概念表征已经内化到特征空间,而非仅靠后处理拼接。

质疑者(像素派)的核心论据,同样值得严肃对待:

第一,「理解」的名实之辨。从架构看,SAM3 的本质仍是判别式检测 + 分割:一个 DETR 检测器负责定位,一个掩码解码器负责抠图,CLIP 文本编码器负责把语言投影到视觉空间。它并没有引入生成式推理、关系推理或因果建模,「理解世界」更多是产品叙事而非技术本质。正如一位部署工程师在社区里调侃的:它依然是「detect everything, segment everything」,只是换了个更好听的 title。

第二,任务分裂带来的生态割裂。一个容易被忽略的事实是:SAM3 内部其实保留了两套完全不同的任务家族。README 写得很清楚——Sam3Tracker 与 Sam3TrackerVideo 执行 PVS(交互式视觉分割),"It is an updated version of SAM2 that maintains the same API while providing improved performance, making it adrop-in replacementfor SAM2 workflows";而 Sam3Model 与 Sam3VideoModel 才执行新的 PCS。换言之,SAM3 并没有「统一」分割,而是把旧范式(PVS)作为兼容层保留、把新范式(PCS)作为增量推出。老用户换模型不换代码,新用户换范式不换模型——这既是产品上的聪明,也是路线上的妥协。

第三,中文提示的软肋。CSDN 多篇实战文章都专门讨论了「中文兼容性」问题:SAM3 的文本编码器继承自 CLIP,其词表(vocab.json、merges.txt,BPE 分词)以英文语料为主,中文短语需要先被切分、映射到英文语义空间,效果与英文提示存在明显差距。对中文社区而言,这直接削弱了「开放词汇」承诺的含金量。

第四,部署成本的现实拷问。本仓库中的 model.safetensors 权重约 3.4 GB(LFS 记录 size 3439938512),输入分辨率被推到 1008×1008,检测头、文本编码器、几何编码器、掩码解码器、视频记忆模块(tracker_config中max_object_pointers_in_encoder: 16、max_cond_frame_num: 4等)层层叠加。C# OnnxRuntime、TensorRT、8bit 量化、分块推理等部署教程在 CSDN 上扎堆出现,本身就说明「跑起来」和「跑得快」是两道坎。质疑者据此发问:为了「概念分割」,值得付出远超 SAM2 的显存与延迟代价吗?

风向已变:下游应用与论文选题正在被改写

无论争论如何,SAM3 已经实质性地改变了视觉 AI 的生态位。

应用侧,提示方式的重构带来了交互范式的降维。在内容审核、电商检索、自动驾驶、医学影像、AR/VR 等场景,自然语言提示把「标注-训练-部署」的传统链路压缩成「一句话 + 零样本」。CSDN 上涌现的 Gradio WebUI、镜像部署、RESTful API 集成教程,反映的是同一件事:分割正在从算法工程师的玩具变成产品经理的可操作接口。医疗领域甚至出现了 MedSAM3 等专用基础模型的跟进工作,把「通用概念分割」迁移到解剖结构、病灶等医学概念上。

学术侧,论文选题风向的变化更为深远。围绕 SAM3 的衍生工作呈现出两条清晰的脉络:一是提示粒度的精细化——例如 Paint-Anything 尝试用十六进制颜色作为分割提示,把「概念」的定义权从文本拓展到任意模态;二是概念与三维的耦合——SAM3D 与 SA3D 等方向把概念分割推向三维场景,用 NeRF 等结构先验让「分割结果直出 3D」。这些工作共享同一个母题:分割的边界不再由像素决定,而由「概念」决定。

更值得注意的是评测体系的连锁反应。SA-CO 基准的 27 万概念意味着,研究者再也不能用二三十个类别的固定词汇表「刷榜」了。任何声称 open-vocabulary 的模型,都必须接受跨越 50 倍规模的概念分布的检验——这对评测设计、数据收集和消融实验的颗粒度都提出了新要求,也客观上抬高了入局门槛。

结语:分割的终点,是理解吗

回到开头的论战:SAM3 是「分割」还是「理解」?从 README.md 与 config.json 的源码证据看,它更接近一个用语义概念重新组织起来的判别式分割系统——它在「理解」的路上迈出了关键一步(开放词汇、穷尽实例、概念追踪、语义输出),但距离真正意义上的场景理解(关系、意图、因果)仍有结构性距离。

但这恰恰是它最重要的价值:它把「分割什么」这个曾经由数据集和人工标注决定的问题,第一次真正交还给了用户的自然语言。路线之争的胜负手,从来不是谁的定义更漂亮,而是谁先让下游应用和社区生态站队。从 27 万概念的基准、医疗/3D/提示粒度的衍生工作、以及遍布中文社区的部署实践中可以看到:至少在这条「概念级分割」的岔路口上,站队已经开始了。

接下来值得盯住三件事:其一,中文提示的适配是否会被 Meta 或社区补上;其二,PCS 与 PVS 两套范式何时真正合流;其三,SA-CO 基准之上,下一个「超越人类 80%」的模型会是谁。

【免费下载链接】sam3项目地址: https://ai.gitcode.com/hf_mirrors/facebook/sam3

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询