☰
【含视频】官方WorkBuddy应用师认证教程05 安 全 与 合 规
2026/10/5 2:25:20 网站建设 项目流程

对应视频:

WorkBuddy应用师认证教程05安全与合规01使用决策-CSDN直播

WorkBuddy应用师认证教程05安全与合规02权限边界-CSDN直播

WorkBuddy应用师认证教程05安全与合规03输出验证-CSDN直播

WorkBuddy应用师认证教程05安全与合规04防线配置-CSDN直播


第 五 章 · 安 全 与 合 规

建立数据安全、账号安全与高风险边界三道防线,让每一次输入、上传、授权和输出都更安全、更可控。

4节约25分钟0个 FAQ

AI 越强大,边界越重要。本章不讲空泛的合规条款,只讲真问题:什么场景该用 AI、给他多大权限、回答能信几分、五个入口怎么守住。

WorkBuddy 平台安全机制 — 平台的保护不等于您的免责

在了解您需要注意什么之前,先认识 WorkBuddy 从架构层面已部署的保护措施。这些机制是第一条防线,但任何技术防线都无法覆盖所有人为决策场景——安全是平台与用户共同分担的责任。

执行计划预览弹窗

安全机制具体做了什么
本地执行文件处理在本地完成,Excel、PDF、合同等原始文件不离开电脑。需调用云端大模型时,仅传输必要指令和最小化上下文
沙箱隔离所有 AI 操作在独立隔离环境运行,文件、进程、网络三维隔离。即使 AI 被诱导执行高危指令,也无法访问沙箱外的系统资源
执行前确认每个任务启动前弹出执行计划预览,明确列出将读取哪些文件夹,用户手动确认后才执行
自动拦截系统级敏感目录自动禁止访问;高危命令(rm -rf、format 等)被云端安全中台直接拦截
危险操作确认删除文件等操作需二次确认,不是一句话就删了
Skill 审核官方 Skills 经过安全审核;第三方 Skill 安装前自动扫描,覆盖供应链投毒和注入风险
微信直连微信仅作为消息通道,不获取私人数据,指令在后端执行
凭据保护API Key 仅加载到内存,不落盘、不上报
全链路审计操作全程可追溯,满足等保合规要求

提 示

上述机制从技术层面拦截了大部分风险,但以下三类关键决策仍由使用者自行把控——授权哪些文件夹、输入什么数据、是否核实输出来源。本章后续四节即围绕这些使用者可控的安全边界展开。

5.1使用决策:什么该用、什么不该用

🎯 学 习 目 标

读完这节,你能回答:

  1. 数据在 WorkBuddy 中分别流向了哪里?哪些离开了你的电脑?
  2. 用 80/15/5 分级法怎么快速判断一份数据能直接给、需要脱敏还是绝对不能输入?
  3. 六个常见工作场景中,哪些事该让 AI 做、哪些不该?
  4. 输入前花两秒扫一眼,要扫什么?

一、数据流向全景:您的信息分别去了哪里

WorkBuddy 不是一个 AI 在运转,而是多个组件协作。不同的数据去了不同的地方,了解这个流向是安全使用的前提。

数据类型流向风险等级关键认知
对话内容所选 LLM 服务商(混元/DeepSeek/GLM/Kimi 等)中对话文本离开电脑,传输到模型服务商
上传文件本地沙箱处理,默认不离电脑低文件在本地读取和处理
上传文件(切换云端沙箱后)腾讯云服务器中文件上传云端处理,任务结束后清除
授权文件夹本地文件系统低AI 可读写授权目录内的文件
远程指令经 IM 平台(微信/企微等)转发中指令文本经过 IM 服务器
API Key仅存于 WorkBuddy 本地配置🔴 高一旦截图或写进文档即扩散
连接器授权第三方服务(QQ邮箱/腾讯文档等)中授权后 AI 可直接操作您的外部账户

提 示

本地沙箱与云端沙箱的切换 桌面端默认使用本地沙箱,文件不离开电脑(🟢 低风险)。切换至云端沙箱由您主动选择执行模式触发,非系统自动切换: 触发场景 沙箱模式 风险 桌面端日常使用 本地沙箱(默认) 低 移动端 App / 微信小程序 → 选择「云端工作」 云端沙箱 中 移动端 App / 微信小程序 → 选择「本机模式」 本地沙箱(远程操控) 低 处理敏感文件时,优先使用桌面端或移动端「本机模式」,避免文件上传云端。

可视化流向:

您输入一句话 │ ├──→ 对话内容 ──→ LLM 服务商(混元/DeepSeek/GLM 等) │ 您选哪个模型,对话文本就传给哪家 │ 风险:如果对话里含敏感信息,它离开了您的电脑 │ ├──→ 上传文件 ──→ 本地沙箱(默认不离开电脑) │ 文件内容在本地被读取、处理 │ 注意:主动切换云端沙箱模式后,文件才会上传云端 │ ├──→ 授权文件夹 ──→ 本地文件系统 │ AI 可以读、写授权目录里的文件 │ 风险:授权范围太大 → AI 可能误读到敏感文件 │ ├──→ 远程指令 ──→ IM 服务器(微信/企微/飞书/钉钉) │ 指令文本经过 IM 平台转发 │ 风险:IM 平台可能留存您的指令记录 │ ├──→ API Key ──→ 仅存在 WorkBuddy 本地配置中 │ 但截图/复制/写进文档 → 扩散 │ 风险:泄露后别人可冒用您的密钥调用模型 │ └──→ 连接器 ──→ 第三方服务(QQ邮箱/腾讯文档等) OAuth 授权后 AI 可直接操作您的外部账户 风险:授权范围过大 → AI 可能误发邮件、误删文档

安全这事,怕的不是 AI 偷数据——怕的是你不知道数据去了哪儿。上面的流向表已经把每种数据的去处列清了,接下来逐项看怎么守住。

谁在看您的数据 — 逐层分析:

数据去向谁能看到风险等级真实场景
LLM 服务商模型提供商(混元/DeepSeek/GLM/Kimi 等)中您在对话里粘贴了客户手机号 → 这条信息传输到了模型提供商的服务器
IM 平台微信/企微/飞书/钉钉服务器中您远程发指令「查客户张三的合同金额」→ 这条消息经过 IM 服务器
您的电脑本地您自己(及能访问您电脑的人)低文件在本地沙箱处理 → 不离开电脑 → 但共享电脑或未锁屏时有风险
云端沙箱腾讯云服务器中切换云端沙箱模式 → 文件上传到腾讯云处理
被盗的 API Key拿到您 Key 的任何陌生人🔴 高Key 截图发群里 → 任何人拿到都能冒用您的额度、调用模型
连接器授权被授权的第三方服务中连接 QQ邮箱并授权「读取所有邮件」→ AI 能扫描全部收件箱

说到底,风险出在权限上,不是出在 AI 身上。

跨境数据注意:手动配置海外模型(通过自定义模型接入非中国境内服务商)时,对话内容将传输至该服务商所在法域的服务器,构成数据出境。根据《个人信息保护法》第38条等规定,向境外提供个人信息需通过安全评估、标准合同或认证等合规路径。建议跨国企业使用前确认所选模型的服务商所在地,并结合企业法务评估数据出境合规性;优先选用境内部署的模型以避免此类风险。

二、三个最常见的高风险操作

高危操作数据流向泄露给了谁后果
在对话中粘贴 API Key 或密码您的输入 → LLM 服务商服务器模型提供商的日志系统Key 可能被记录、缓存、出现在训练数据中
把远程控制二维码截图发群二维码 → 群聊所有人 → 扫码者任何扫码的人陌生人可以直接远程操控您的电脑
授权整个桌面或下载目录桌上所有文件 → AI 可读写无外部泄露,但误操作风险极大AI 可能误读合同、误删文件、把隐私写进生成的报告

高风险操作就两类:把不该出去的数据送出去了,或者把不该进来的人放进来了。

三、数据分级:80 / 15 / 5 法则(实践建议)

不是所有数据都要小心翼翼。实际工作中,数据分三类:

您的日常数据 ████████████████ 80% — 直接给,不用管 ███ 15% — 简单处理就行 █ 5% — 绝对不能给
占比典型场景怎么做示例
80% 直接用写会议通知、改文案语气、生成周报、分析销售趋势直接丢给 AI纯模板 + 无可识别个人信息 = 零风险
15% 简单处理分析客户反馈、处理含人名的报表、整理面试简历花 10 秒脱敏:姓名替换为「客户A」、删除手机号、只传摘要去掉可识别到具体人的信息即可
5% 绝对不碰API Key、Token、密码、未公开合同、生产配置、身份证号拒绝输入,不要觉得「就这一次没事」Key 可能被日志记录、合同可能被缓存

为什么要脱敏:脱敏的本质不是您信不过 AI,是您管不了数据离开您之后的去向。如果含客户手机号的对话文本传到 LLM 服务商,可能违反《个人信息保护法》。

脱敏底线判断:问自己——「这段数据如果被第三个人看到了,谁会有麻烦?」答不上来 → 安全。答得上来 → 脱敏。

相关法规速查:以下为与日常 AI 使用直接相关的核心条款,非法律意见,仅供风险自检参考。

法规核心要求与 AI 使用的关联
《个人信息保护法》未经本人同意,不得向他人提供个人信息(第23条);处理个人信息应遵循最小必要原则(第6条)将含客户姓名、手机号、身份证号的文本输入外部 LLM → 构成向模型服务商"提供"个人信息,需确保已获授权或已完成脱敏
《数据安全法》重要数据的处理者应定期开展风险评估并向主管部门报告(第30条)将内部业务数据库、客户清单等可能构成"重要数据"的信息接入 AI → 需评估是否触发风险评估义务
《生成式人工智能服务管理暂行办法》提供和使用生成式 AI 应遵守法律法规,尊重社会公德和伦理道德;应提升生成内容的准确性和可靠性(第4条)直接使用 AI 生成内容对外发布而未核实事实 → 可能涉及虚假信息传播责任

提 示

建议结合所在企业的法务或合规部门,针对具体业务场景确认适用条款。

四、六个场景判断:AI 适合做什么、不该做什么

场景AI 能做AI 不能做原因
内容创作生成初稿、改写语气、整理结构直接作为正式发布内容需核对事实和口径
数据分析汇总统计、趋势发现、图表生成作为财务/审计最终结论数据口径可能偏、来源可能缺失
决策支持列出选项、对比优劣、提供参考代替您做出最终决策责任不会转移
法律合同辅助起草、格式整理作为正式法律文件必须专业人员审核
客户沟通生成回复草稿直接对外发送需人工确认授权口径
人事工作整理简历格式、生成面试问题作为筛选决策依据涉及公平性和隐私

判断标准:「这个输出如果出错,后果由谁承担?」由您承担的事,AI 只能当参谋。

五、输入前两秒判断

不需要背清单,只需要一个瞬间判断:

任何东西输入之前扫一眼:

  • 有没有具体人的信息?(姓名/手机号/身份证/邮箱/地址)→ 有 → 花 10 秒替换或删除
  • 有没有 Key、密码、Token?→ 有 → 立即停止,绝对不输入
  • 以上都没有?→ 直接发,不用多想

判断标准不是「安不安全」,而是「值不值得」—— 为了一份周报纠结半天脱敏 = 过度消耗;为了一个客户手机号赌「应该没事」 = 不值得。

📝 本 节 总 结

核心要点回顾
  1. 数据流向不等于数据泄露——了解每种数据去了哪里,是安全判断的基础
  2. 80% 的数据直接给,15% 简单处理后再给,5% 绝不输入——别把三者搞反
  3. 六个场景各有边界:内容创作可放心用,法律人事财务须有人把关
  4. 输入前两秒判断:个人信息先脱敏,密钥密码绝不碰

实战挑战(5 分钟)

列出你工作中经常需要 AI 处理的三类材料,按 80/15/5 分个类。哪一类你以前没注意过脱敏?下次输入前花两秒扫一眼,看能扫出什么。

5.2权限边界:给 AI 多大的操作权限

🎯 学 习 目 标

读完这节,你能回答:

  1. 三种工作模式的安全差异是什么?怎么根据任务敏感度选模式?
  2. 拿不准的时候怎么退一档?
  3. 怎么按最小授权原则管理文件访问范围?

一、三种模式的安全刻度

从安全视角看,三种模式的风险等级与平台保护机制如下:

模式风险等级主要风险平台已做的保护
Ask低输出内容本身可能不准确—
Plan中确认环节容易被习惯性跳过执行前弹窗预览
Craft🔴 高可能误删、误改、误覆盖删除二次确认 + 系统目录拦截 + 高危命令云端阻断

提 示

模式是效率开关也是安全开关。越往右风险越高,但平台底层保护始终生效——即使是 Craft 模式也非裸奔。

二、什么时候该降级

任务特征建议模式为什么
任务目标明确,流程熟悉Craft风险可控,直接执行效率最高
涉及多文件批量操作,怕跑偏Plan先看方案,确认了再动手
只问问题,不需要操作Ask零风险,AI 碰不到任何文件
不确定该不该让 AI 动手先 Ask 问清楚 → 再决定不要在犹豫时直接给最高权限

关键场景:处理重要文件前先备份 → 降到 Plan 预览改动 → 确认无误再执行。

拿不准的时候,退一档。权限这件事,够用就行,多了反而危险。

三、文件授权:别给 AI 整把钥匙

最常见的危险操作:图省事直接把桌面、下载、文档全部授权。

做法风险
授权整个桌面个人照片、合同扫描件、银行回单全暴露
授权下载目录临时文件、压缩包、敏感附件混杂
只授权临时目录只放本次必需文件,任务结束移除

最小授权原则:

  1. 新建一个临时文件夹
  2. 只放入本次任务必需的文件
  3. 只授权这个文件夹
  4. 任务完成后移除授权(设置 → 文件授权 → 移除)

一个真实教训:小李让 AI 批量整理文件,图省事授权了整个桌面。AI 在执行过程中读到了桌面上一份尚未公开的报价单,并在生成的汇总报告中引用了其中的价格数据。虽然文件没离开电脑,但这份含敏感数据的报告如果被不小心转发,后果不堪设想。

给 AI 的权限,刚好够完成这件事就行。多给一份,就多一份风险。

📝 本 节 总 结

核心要点回顾
  1. 三种模式安全风险逐级上升:Ask 最安全 → Plan 可控制 → Craft 要小心
  2. 拿不准就退一档:犹豫时不直接给最高权限
  3. 文件授权只给临时目录,不给整盘或大范围文件夹

实战挑战(5 分钟)

下次做批量文件操作前,先切到 Plan 模式预览一遍方案再确认。同时检查一下你当前授权的文件夹范围——是不是给大了?

5.3输出验证:AI 的回答能信多少

🎯 学 习 目 标

读完这节,你能回答:

  1. 为什么说 AI 的输出永远是初稿?
  2. 三步核实法怎么用,才能变成肌肉记忆?
  3. 可信、需验证、不可直接信三类输出怎么区分?

一、底层心态:把 AI 输出当初稿来看

把 AI 的输出当初稿来看——尤其是涉及数据、结论、专业判断的内容。格式整理类输出基本可以直接用,但只要涉及事实、数字或专业建议,多看两眼总没错。

AI 输出类型常见问题真实风险
数字和结论编造数据、口径不清「市场规模 500 亿」— 来源可能是训练数据里的虚假信息
引用和来源编造出处、链接打不开「据某研究报告」— 报告可能根本不存在
专业解释概念混淆、遗漏前提「法律上您应该…」— 可能是错误的法条引用
方案建议忽略真实约束「预算 10 万就能做」— 不了解您公司的实际情况

AI 很少主动认不确定——它更习惯给一个"看起来挺对"的答案,至于对不对,得你自己判断。

二、三步核实法:让审核变成肌肉记忆

收到 AI 输出后的标准动作: ① 核数据 → 数字有没有来源?日期对不对?人名准不准? → 找不到原始来源的数据 → 标注「待验证」 ② 核逻辑 → 结论有没有被前面的分析支撑?有没有跳跃推理? → 有逻辑断点 → 让 AI 补充推理链路或自己去验证 ③ 核场景 → 这个输出适合当前公司、客户、流程吗? → 不匹配 → 人工调整到适合当前场景

口诀:三步不过,不发出去。

AI 负责加速,你负责品控——两件事不能混着来。

三、信任分级:什么能直接信,什么必须验证

信任等级内容类型处理方式
可信语法润色、格式整理、语气改写可直接使用
需验证数据引用、趋势分析、方案建议核实来源和逻辑后使用
🔴 不可直接信法律解读、财务结论、医疗建议、对客户承诺必须专业人员审核

一个典型案例:市场部让 AI 写竞品分析,AI 输出「A 公司市场份额 35%,同比下降 5 个百分点」。数字看起来很专业,但经核实发现这个数据来自三年前的一篇自媒体文章。真实情况是 A 公司去年已被收购,市占结构完全变了。如果直接引用进正式报告,不仅误导决策,还可能被客户质疑专业性。

越像"专业结论"的输出,越得多看两眼。

四、AI 输出的版权提示

AI 生成内容的版权归属是目前法律实践中的活跃议题,尚无统一立法明确界定。以下为基于现有司法判例的基本立场,非法律意见:

情形版权风险建议
纯 AI 生成,未做修改当前司法实践倾向于认为纯粹由 AI 生成、无人类创造性贡献的内容,不构成著作权法意义上的"作品",无法获得版权保护不直接以 AI 原始输出作为最终交付物主张版权
AI 辅助创作,人为实质性修改若人类在内容选择、结构调整、观点提炼等方面进行了具有独创性的智力贡献,整体成果可能获得版权保护保留修改过程的版本记录,以证明人类的创造性参与
AI 生成内容用于对外发布如无法主张版权,第三方可能自由使用相同或相似内容,影响企业竞争优势涉及品牌、营销、对外发布的核心内容,人工深度改写后再使用

提 示

建议企业在使用 AI 生成内容作为对外发布材料或商业产品时,结合法务评估版权保护策略;内部使用(如周报、纪要)的版权风险相对较低。

五、联网搜索结果的额外验证

联网搜索增加了「实时信息」的能力,也增加了「假信息」的风险:

风险表现对策
链接幻觉AI 编造了看似合理但打不开的链接(这种现象称为"幻觉")每条链接必须点击验证
来源偏差引用了自媒体或标题党文章优先看政府网站、权威媒体、官方公告
数据冲突不同来源对同一数据有不同版本多来源交叉验证,不一致的标注「存疑」

联网搜索拿到的不等于事实——搜完必验,验完再用。

📝 本 节 总 结

核心要点回顾
  1. AI 输出的永远是初稿——不是成品
  2. 三步核实法:核数据 → 核逻辑 → 核场景,三步不过不发出去
  3. 越像「专业结论」的输出越不能直接信
  4. 联网搜索结果同样需要验证,链接要点击检查,来源要交叉比对

实战挑战(5 分钟)

找一份最近的 AI 输出,逐项走一遍三步核实:数字有没有来源?逻辑有没有跳跃?结论适合你当前的场景吗?至少找出一个需要修正的地方。

5.4防线配置:五个入口一个不能松

🎯 学 习 目 标

读完这节,你能回答:

  1. 账号、远程控制、API Key、文件授权、Skill 安装五个入口分别有什么安全风险?
  2. 怎么按最小权限原则完成每项配置?
  3. 怎么定期检查并及时收回不再需要的权限?

一、入口一:账号 — 安全的第一道门

风险行为后果正确做法
借用同事账号责任不清,任务记录混淆只使用本人账号
让别人代扫码登录后续操作不在您掌控中本人扫码、本人确认
共享电脑不退出后来者能看到您的对话和文件用完退出、锁屏离开

一个被忽视的场景:小陈在共享会议室的电脑上登录了 WorkBuddy 处理一份合同,开完会直接走人,没有退出。下午另一个同事用这台电脑时,直接看到了小陈的任务列表、对话记录和已授权的文件夹内容。

账号就是责任边界——从登录那一刻起,后面的操作都挂在你名下。

二、入口二:远程控制 — 别让二维码成漏洞

远程控制让您手机遥控电脑——二维码就是数字钥匙。需要说明的是:微信仅作为消息通道,WorkBuddy 不会通过微信获取您的联系人、聊天记录等私人数据。

风险为什么危险怎么防
截图二维码发到群里谁扫到谁就能远程控制您的电脑不截图、不转发、只当面扫
长期不用还绑着多一个远程入口多一个暴露面不再使用及时解绑
远程指令含敏感信息IM 平台可能留下记录不通过远程发客户隐私、密钥

远程控制二维码就像家门钥匙——不给别人看,不用了就换锁。

三、入口三:API Key — 这不是普通配置项

重要机制:WorkBuddy 默认模式下无需配置 API Key,所有模型调用由腾讯云端中台统一处理。只有当您手动开启「自定义模型」模式时,才需要配置自己的 API Key。

错误做法后果正确做法
把 Key 写进项目文档谁看文档谁拿走您的密钥只在 WorkBuddy 设置页填写
截图发群聊「大家用这个」瞬间扩散,无法追溯每人用自己的 Key,或企业统一授权
怀疑泄露还在用被盗刷、数据外发立即禁用旧 Key,重新生成

API Key 就像你家门钥匙——丢了的后果是别人能冒用你的额度。怎么防?只在 WorkBuddy 设置页填写,不截图不分享。万一怀疑泄露了,立刻去模型服务商后台重新生成一个,旧的就作废了。

四、入口四:文件授权 — 够用就好,用完收回

原则为什么
只给必要新建临时目录,只放本次文件
操作前备份批量处理前复制一份,错了还能挽回
高危确认删除/覆盖/脚本执行前看清提示
用完收回任务结束检查并移除不再需要的授权

文件授权的安全,不在一次性设好,而在每次都检查——范围够不够小、用完了没收回。

五、入口五:Skill 安装 — 只装可信的扩展

Skill 能扩展 WorkBuddy 的能力,但也可能引入风险。虽然官方 Skills 经过安全审核,但第三方 Skill 需要您自己判断。

风险行为后果正确做法
安装来源不明的 Skill可能包含恶意代码或数据窃取逻辑只安装官方或可信来源的 Skill
不查看 Skill 权限说明不知道 Skill 能访问哪些数据安装前阅读权限说明
长期不清理已安装 Skill过期或不再需要的 Skill 仍保留权限定期检查并移除不再使用的 Skill

Skill 就像给 AI 配操作手册——装上 xlsx 技能,AI 就多了"读 Excel、画图表"的本事。只装你了解并信任的。

六、全章安全决策速查

阶段关键问题决策口诀
该不该用数据能分级吗?场景适合 AI 吗?先判断,再输入
给多少权限选什么模式?要不要降级?授权范围够不够小?拿不准就退一档
能信几分核数据了吗?核逻辑了吗?核场景了吗?三步不过,不发出去
门守住了吗账号谁的?二维码安全吗?Key 泄露了吗?授权收回了吗?Skill 可信吗?五个入口,定期检查

📝 本 节 总 结

核心要点回顾
  1. 账号只本人用,不代登录、不共享——责任从登录开始
  2. 远程控制二维码不截图不转发,不用了及时解绑
  3. API Key 默认模式下无需配置,开启自定义模型模式后密钥仅存本地、不外传
  4. 文件授权按最小权限原则,建临时目录、用完收回
  5. Skill 只安装官方或可信来源,定期检查并移除不再使用的扩展

实战挑战(5 分钟)

逐一检查五个入口:账号是不是只有你在用?远程绑定有没有过期的?API Key 状态正常吗?文件授权有没有忘了收回的?已装 Skill 有没有不再用的?

本章总结

章节要点
5.1 使用决策不是所有事都该交给 AI——先判断数据等级和场景风险,再决定用不用
5.2 权限边界拿不准就退一档——从 Craft 到 Plan 到 Ask,权限越小越安全
5.3 输出验证三步不过,不发出去——核数据、核逻辑、核场景
5.4 防线配置五个入口定期查——账号、远程、API Key、文件授权、Skill 一个不漏

定期更新提醒:安全是一个持续的过程。建议您定期检查 WorkBuddy 版本更新,及时安装安全补丁;同时关注已安装 Skill 的更新,确保使用最新版本。

安全习惯不是在限制你用 AI——恰恰相反,养成了这些习惯,你才能放心地越用越深。

本章你已经建立起安全使用 AI 的习惯;下一章,我们走进企业场景,看看如何构建和管理面向团队的企业智能体,把个人能力放大到整个组织。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询