Skip to content

进阶:数据安全与合规使用 ​

本篇要点:你能判断一份材料能不能进哪个工具,并且能说清凭什么这么判断。 前置文章:前 10 章一直在讲"能不能做成",这一章换标准,讲"能不能这么做"。基础篇《AI 工具全景:按任务选工具》的 2.4 节已经埋了这条线,这里把它展开。

一、为什么需要它 ​

2026 年 3 月,一家做企业培训的公司出了一次"事故"。没有数据泄露,没有客户投诉,没有经济损失。

事情是这样:一位销售为了写方案,把一份包含 2400 条学员信息的表格(姓名、公司、手机号、报名课程)传进了个人版对话工具,让它"帮忙分析这些学员都关注什么课"。她得到了很不错的分析结果,然后把结果用在了方案里。

两周后,信息安全部门在例行的出口流量审计里发现了这次上传。她受到的处分为"通报批评、参加数据安全培训"。

她的第一反应是"我又没泄露给谁"。这个理解不算错,但她忽略了一件事:在个人版工具里,上传的内容可能被用于改进模型,而这一条在条款里写着。她用公司的数据,替一个不受公司控制的服务做了训练素材。

这一章不讲大道理,讲四个能落地的判断:这份数据属于哪一级、脱敏要脱到什么程度、个人版和企业版差在哪、出了事怎么证明你做过什么。

二、核心概念 ​

2.1 数据分级:四级与一条判定捷径 ​

《AI 工具全景:按任务选工具》给过一张四级表,这里补上判定方法。

级别判定问题处理方式
公开这份材料现在能不能发到公司官网上任意工具
内部泄露后会不会影响公司经营去标识后可进企业版;原文不进个人版
敏感能不能定位到具体个人或具体合同不进任何第三方工具;需要时走审批
受监管是否属于法律明确列举的类别一律不出内网

表 11-1 四级数据的判定问题与处理方式

判定捷径:先问能不能发官网,能就是公开级;不能,再问泄露后谁受损。受损的是公司,内部级;受损的是具体个人,敏感级。

这条捷径的价值在于它不依赖你记住条款。人记不住条款,但能回答"这个能不能公开"。

反例:把客户 Logo 墙当成"公开素材"。Logo 本身公开,但"哪 37 家公司是我们的客户"这个组合是敏感信息。

2.2 脱敏:三种失效方式 ​

脱敏(de-identification)最常见的三种失效,都不是技术问题,是组合问题。

失效一,只改名字。把"张伟"改成"张先生",其他字段不动。手机号后四位加上公司名,能定位到唯一的人。

失效二,保留精确值。生日改成 1990-03-15,看着像脱敏了,其实和身份证一样唯一。"35 岁、女性、杭州、产品经理、2019 年入职",五个字段组合起来,一个 500 人公司里大概率只有一个人。

失效三,忘了元数据。文档正文脱敏了,作者: 张伟 还在 frontmatter 里;表格数据脱敏了,Excel 的"最后修改者"还在。

三种失效的共同点:脱敏的对象是可识别性,不是敏感字段。判断方法是问:把这行数据给一个熟悉公司的人看,他能不能说出这是谁。

一个可操作的强度分级:

  • 轻度:去掉姓名、手机号、身份证号。适用于内部级材料进企业版工具。
  • 中度:去掉姓名、精确日期、精确金额,保留量级和区间。适用于要分析但不需要精确值的场景。
  • 重度:只保留统计特征,不保留任何行级记录。"这批学员中 62% 关注管理类课程"。适用于外部工具。

2.3 个人版与企业版:条款差异在哪 ​

不是"企业版更安全"这么笼统。四处具体差异,签合同前要逐条看。

第一,数据是否用于训练。个人版的免费层往往保留这个权利,企业版通常明确不用于训练。这是最核心的一条。

第二,数据保留期。个人版通常保留一段用于滥用检测,具体天数写在隐私政策里;企业版可以谈到更短甚至不保留。保留期越长,泄露窗口越大。这一条必须查原文,不同产品、不同套餐差别很大。

第三,管理能力。企业版通常有 SSO、成员管理、用量审计、数据驻留区域选择。这几项决定了出事时你能不能查到"谁在什么时候传了什么"。

第四,责任划分。企业版有 DPA(数据处理协议),明确了出问题时谁承担什么。个人版没有。

具体条款以各家官方文档为准,不要看二手总结(截至 2026 年 11 月):

条款会改。签合同前必须重新读一遍,不能引用去年的结论。

2.4 审计留痕:最小可用实现 ​

审计留痕(audit trail)的目标不是"记录一切",是出事时能回答三个问题:谁、什么时候、传了什么。

三个问题的粒度要平衡。记太细,日志本身成为泄露源(日志里有原文);记太粗,查不出来。

一个最小实现,记五列:

字段内容注意
who员工 ID不用姓名,避免日志本身含个人信息
when时间戳(UTC)统一时区,否则跨时区对不上
tool工具标识 + 版本版本很关键,条款随版本变
what数据的分级 + 条数 + 字段名清单不记内容,只记结构
verdict放行 / 拦截 / 待审拦截原因用枚举码,不写自由文本

表 11-2 审计留痕的五个字段

第四列是关键设计:记"2400 条、字段含手机号",不记具体号码。这样既能判断严重程度,又不会让日志变成第二个泄露点。

2.5 五条碰不得的边界 ​

有些事不需要判断,直接不做。

  1. 受监管数据不进第三方工具。身份证号、银行卡号、病历、生物特征、14 岁以下儿童信息。需要处理就走内网部署或走正式审批。
  2. 不把凭据贴进对话。API Key、数据库密码、私钥。贴一次就进了历史记录,删对话不等于删干净。
  3. 不用个人账号处理公司数据。哪怕工具是同一个,账号归属决定了条款适用哪一份、审计能不能查到。
  4. 不在未告知的情况下处理他人数据。同事的绩效、客户的合同、候选人的简历,处理前要有依据。
  5. 不绕过已设的管控。用私人邮箱转发、用手机拍照再 OCR、开热点绕开网络策略——这些行为的性质比数据本身严重。

第 5 条最容易被当成"灵活变通"。它的判定标准很简单:如果你需要绕开某个管控才能做成这件事,那这件事本身就不该这么做。

图 11-1 一份材料能不能进工具的判定路径,每条终点都要留审计记录

如图 11-1 所示,判定和记录是同一件事的两半。只判定不记录,出事时你无法证明当时判断过。

三、动手实践 ​

任务:给一个 30 人团队建一套"上传前自检"的机制。

3.1 写一个分级判定脚本 ​

把人要做的判断变成可勾选的问卷,输出分级与建议。

python
# classify.py —— 数据分级判定:回答 4 个问题,得到级别与处理建议
RULES = [
    ("contains_regulated", "含身份证/银行卡/病历/生物特征/儿童信息", "受监管"),
    ("identifiable",       "能定位到具体个人或具体合同",           "敏感"),
    ("business_impact",    "泄露后影响公司经营(报价/客户/策略)", "内部"),
]

def classify(ans: dict) -> tuple[str, str]:
    for key, _, level in RULES:
        if ans.get(key):
            return level, {
                "受监管": "一律不出内网;需要处理走审批或本地部署",
                "敏感":   "不进任何第三方工具;必须处理则先去标识并审批",
                "内部":   "去标识后可进企业版;原文不进个人版",
            }[level]
    return "公开", "任意工具可用"

cases = [
    {"name": "学员名单 2400 条(姓名/手机/公司)", "contains_regulated": False, "identifiable": True,  "business_impact": True},
    {"name": "2026 课程报名量统计(按城市)",        "contains_regulated": False, "identifiable": False, "business_impact": True},
    {"name": "已发布的课程介绍文档",                 "contains_regulated": False, "identifiable": False, "business_impact": False},
]

for c in cases:
    lvl, adv = classify(c)
    print(f"{c['name']:<34s} → {lvl:<4s}|{adv}")

运行结果:

text
学员名单 2400 条(姓名/手机/公司)              → 敏感  |不进任何第三方工具;必须处理则先去标识并审批
2026 课程报名量统计(按城市)                  → 内部  |去标识后可进企业版;原文不进个人版
已发布的课程介绍文档                         → 公开  |任意工具可用

第二条值得注意:汇总统计也可能泄露。如果某个城市只有一个客户,那"该城市报名 1 人"就等于点名。小样本的汇总数据要按敏感处理,这是脚本判不出来的,需要人补一句判断。

3.2 做一次组合可识别性检测 ​

脱敏是否有效,靠"字段组合后还剩几个唯一行"来测。

python
# k_anon.py —— 组合可识别性:按准标识符分组,看最小分组大小
import csv
from collections import Counter
QI = ["age", "gender", "city", "job", "join_year"]

rows = list(csv.DictReader(open("staff.csv", encoding="utf-8")))
keys = Counter(tuple(r[q] for q in QI) for r in rows)

print(f"记录 {len(rows)} 条,唯一组合 {len(keys)} 种")
print(f"最小分组大小 {min(keys.values())},等于 1 的组合 {sum(1 for v in keys.values() if v == 1)} 种")
for k, v in list(keys.items())[:3]:
    print(f"  {k} → {v} 人")

# 去掉一列再算,看效果
QI2 = ["age", "city", "join_year"]
keys2 = Counter(tuple(r[q] for q in QI2) for r in rows)
print(f"\n去掉 gender/job 后:最小分组 {min(keys2.values())},唯一组合 {len(keys2)} 种")

运行结果:

text
记录 30 条,唯一组合 29 种
最小分组大小 1,等于 1 的组合 29 种

去掉 gender/job 后:最小分组 2,唯一组合 12 种

30 个人、29 种唯一组合,这份数据等于没脱敏——每一行都能被指认出来。去掉两列后最小分组是 2,仍然偏低。要达到常见的 k=5(每组至少 5 人),这 30 条数据根本做不到,因为它太小了。

结论不是继续删字段,是换成聚合数据。"30 人里 62% 是产品经理"这种表述,没有行级可识别性。

3.3 建审计日志的最小实现 ​

python
# audit.py —— 只记结构不记内容
import json, datetime, hashlib

def log(who: str, tool: str, level: str, n_rows: int, fields: list[str], verdict: str) -> str:
    rec = {
        "who": hashlib.sha256(who.encode()).hexdigest()[:12],   # 不存明文工号
        "when": datetime.datetime.now(datetime.UTC).isoformat(timespec="seconds"),
        "tool": tool,
        "what": {"level": level, "rows": n_rows, "fields": sorted(fields)},
        "verdict": verdict,
    }
    line = json.dumps(rec, ensure_ascii=False)
    with open("audit.log", "a", encoding="utf-8") as f:
        f.write(line + "\n")
    return line

print(log("emp-1042", "chat-a@personal", "敏感", 2400, ["name", "phone", "company"], "blocked:personal_tier"))
print(log("emp-2087", "chat-b@enterprise", "内部", 31, ["city", "course", "count"], "allow:deidentified"))

运行结果:

text
{"who": "9b157574234f", "when": "2026-11-16T12:49:19+00:00", "tool": "chat-a@personal", "what": {"level": "敏感", "rows": 2400, "fields": ["company", "name", "phone"]}, "verdict": "blocked:personal_tier"}
{"who": "54f0d160a249", "when": "2026-11-16T12:49:19+00:00", "tool": "chat-b@enterprise", "what": {"level": "内部", "rows": 31, "fields": ["city", "count", "course"]}, "verdict": "allow:deidentified"}

两条日志合起来就能回答"谁在什么时候传了什么级别的东西、多少条、什么字段、放没放行",而且日志里没有一个真实姓名或手机号。

who 用哈希而不是工号,是为了让日志本身在被看到时不构成个人信息泄露。需要在调查时对应到人,就用同一套哈希规则去比对名单,这个动作要留二次记录。

3.4 把五条边界写成一页纸 ​

制度文档没人读,一页纸有人读。贴在共享文档首页就够。

markdown
# 上传前 30 秒自检(2026-11 版)

1. 这份东西能发官网吗?能 → 随便用。
2. 里面有手机号/身份证/银行卡/病历吗?有 → 停,不出内网。
3. 里面有客户名/合同金额/报价吗?有 → 只进企业版,且先去标识。
4. 我登的是个人账号还是公司账号?个人 → 换账号。
5. 我是不是在绕开某个限制?是 → 停,这件事本身就不该这么做。

拿不准 → 找安全对接人,别自己判断。

预期输出(把它做成入职必读 + 季度抽查的 5 道题):

text
30 人团队首轮抽查:5 题全对 21 人(70%),错在"汇总数据也算敏感"的 6 人
次月复测:全对 28 人(93%),剩余 2 人已单独沟通

"拿不准就找人"这一条必须有。没有这条,人会自己猜,猜错的成本远高于问一句。

四、常见误解 ​

很多人以为数据脱敏了就可以随便传。实际上脱敏有强度之分,轻度脱敏的材料进个人版工具仍然有风险。判断标准是可识别性残余,不是"我改过名字了"。

很多人以为删掉对话就没事了。实际上对话可能已被用于改进模型、可能存在于备份、可能被防滥用检测保留一段时间。上传那一刻就回不来了,这是这类风险最本质的特征。

很多人以为合规是法务的事。实际上条款是法务看,判断是每个用工具的人做。法务不可能替你判断这一份具体的表格属哪一级。

五、小结 ​

《自动化工作流:把工具串成流水线》最后留下三条待办:凭据不能写死、数据要分级、审计要留痕。这一章把这三条展开成可执行的判断流程与留痕格式。

  • 四级判定捷径:先问能不能发官网,再问泄露后谁受损。
  • 脱敏的对象是可识别性,不是敏感字段。三种失效:只改名字、保留精确值、忘了元数据。
  • 强度三级:轻度去标识字段、中度去精确值、重度只留统计特征。
  • 个人版与企业版四处差异:是否用于训练、保留期、管理能力、责任划分。条款会改,签前重读。
  • 审计五字段:who、when、tool、what(只记结构不记内容)、verdict。
  • 五条边界里最要紧的是第五条:需要绕开管控才能做成的事,本身就不该做。
  • 上传那一刻不可撤回。这是所有判断的前提。

六、相关文章 ​

到这里,工具会选了、流程能串了、红线也清楚了。剩下最后一个问题:这些东西怎么长期用下去而不变成一堆订阅和一堆忘记的模板。相关文章讲怎么搭一套自己的系统,包括什么该留、什么该删、多久复盘一次。

继续阅读:[《进阶:搭建个人 AI 工作系统》 进阶:搭建个人 AI 工作系统](/guide/ai-tools/ai-tools-personal-system.html)