Django 搭建 AI 本地知识库:文档上传、向量检索与智能问答
把 PDF 上传到服务器,再调用一次大模型,并不等于拥有“本地知识库”。一个真正可用的 Django 知识库至少要解决六件事:文件归属、文本切块、向量生成、相似度检索、权限过滤和答案引用。
本文以 PostgreSQL、pgvector 和 Django ORM 为主线,并把方案放进本地 RuyiDjangoCRM 的文档与多租户搜索边界中验证。最重要的结论是:先确定用户能看哪些文档,再在可见集合内做向量排序;不能先搜全库再补权限。
一条完整的知识库链路
上传后的原始文件仍然要保留,便于重新解析和审计;真正用于检索的是切块后的文本。每个文本块至少记录:
- 原文档主键和组织主键;
- 页码或章节位置;
- 原始文本;
- 嵌入模型名称与版本;
- 固定维度的向量;
- 内容哈希,避免重复入库。
安装扩展:
pipinstallpgvector psycopg[binary]在 PostgreSQL 中启用向量类型:
CREATEEXTENSIONIFNOTEXISTSvector;用 Django 模型保存文本块和向量
fromdjango.dbimportmodelsfrompgvector.djangoimportHnswIndex,VectorFieldclassKnowledgeChunk(models.Model):org_id=models.UUIDField(db_index=True)document=models.ForeignKey("common.Document",on_delete=models.CASCADE)position=models.PositiveIntegerField()content=models.TextField()content_hash=models.CharField(max_length=64,db_index=True)embedding_model=models.CharField(max_length=80)embedding=VectorField(dimensions=1536)classMeta:constraints=[models.UniqueConstraint(fields=["document","content_hash"],name="uq_document_chunk_hash",)]indexes=[HnswIndex(name="chunk_embedding_hnsw",fields=["embedding"],m=16,ef_construction=64,opclasses=["vector_cosine_ops"],)]向量维度必须和嵌入模型一致。换模型时不要悄悄覆盖旧向量,应记录模型版本并安排重建,否则同一列里混入不同向量空间,排序结果没有意义。
切块不是越碎越好
固定字符数切块适合做最小实验,但生产系统应优先保留标题、段落、列表和代码块等结构。块太大,召回内容噪声多;块太小,语义被截断,还会增加向量数量和成本。
defchunk_text(text:str,size:int=800,overlap:int=120):start=0whilestart<len(text):yieldtext[start:start+size]start+=size-overlap这个函数足以验证流程,但面对 Markdown、PDF 表格和代码文档时,应替换为结构化解析器,并把页码或标题锚点一起保存。
先做权限过滤,再做向量排序
RuyiDjangoCRM 的真实文档查询会同时检查组织、创建者、被分享用户和团队。向量检索必须复用同一套可见性条件:
fromdjango.db.modelsimportQfrompgvector.djangoimportCosineDistancedefsearch_chunks(profile,query_vector,limit=5):visible_documents=Document.objects.filter(org=profile.org,status="active",).filter(Q(created_by=profile.user)|Q(shared_to=profile)|Q(teams__in=profile.teams.all()))return(KnowledgeChunk.objects.filter(org_id=profile.org_id,document__in=visible_documents).annotate(distance=CosineDistance("embedding",query_vector)).order_by("distance")[:limit])如果先从全库取前 20 个相似块,再在 Python 中删除无权访问的结果,既可能泄露标题、分数和片段,也可能导致合法结果被越权结果挤出前 20 名。权限条件必须进入数据库查询本身。
管理员分支也要显式处理。不要为了“方便”把所有知识库查询统一成管理员视角,更不能依赖前端隐藏结果。
让回答带上可核验引用
检索结果不要只拼正文,还要给每一块分配稳定引用编号:
context="\n\n".join(f"[{i}]{chunk.document.title}/ 片段{chunk.position}\n{chunk.content}"fori,chunkinenumerate(chunks,start=1))prompt=f""" 只依据下面资料回答。每个关键结论使用 [1] 这样的编号引用; 资料不足时明确说不知道,不要补写不存在的事实。{context}"""引用不是装饰。服务端还应保存本次回答命中的块主键、距离和文档版本,以便用户点击原文,也便于后续复盘错误召回。
本地验证暴露出的两个误区
我用一个可重复的关键词向量实验验证了上传后切成 3 块、余弦排序、返回引用片段的完整链路,相关 11 项单元测试全部通过。这个实验故意不冒充真实语义模型:关键词向量只能证明检索管线正确,不能证明语义质量。
第二个误区是只测“能搜到”。RuyiDjangoCRM 的搜索测试还验证了跨组织隔离、普通用户只能看到自己创建或被分配的对象,以及组织内知识条目的可见规则。AI 知识库接入后,这些测试应继续存在,并增加“越权向量即使更相似也不能返回”的回归用例。
结论
一个可靠的本地知识库,不是模型回答得像不像人,而是每条材料从哪里来、谁有权看到、命中了哪一段、换模型后如何重建,都能被解释和复现。
参考资料
- pgvector 官方项目
- pgvector-python 的 Django 用法