当规则的变化快过你的发布周期
AI 与隐私法规的变化速度已经超过多数产品周期。持久的问题是:下一次变化到来时,你能否消化它,还是选择退出那个市场。本文说明我们如何看待这个决定。
三个职能,三种时钟
每当我们考虑进入一个新市场,都会出现同一场讨论,而且很少能干净利落地收场。
产品问这个市场是否值得进入。法务问我们要承担哪些责任。工程问要做到需要构建什么。每个职能给出的答案单独看都正确,放在另外两个旁边却都不完整。产品可能想要一个法务仍在界定的市场。法务可能描述一项工程需要一年才能满足的义务。工程可能为一个始终没有到来的监管体制做准备。
一种解决办法是选定一个视角,让它主导。在地面稳定时,这样做可行。眼下,地面正在移动。
今年夏天发生了什么
几周之内发生了两件事,方向相反。
欧盟通过了一套简化方案,于 2026 年 7 月 27 日生效。它将《人工智能法》附件三中的高风险义务从 2026 年 8 月 2 日推迟到 2027 年 12 月 2 日,并将附件一下嵌入产品的系统推迟到 2028 年 8 月 2 日。这是代价最高的一层:风险管理体系、合格评定、CE 标志、质量管理、注册登记、上市后监测。官方给出的理由是时间安排。欧洲标准化机构仍在起草协调标准,而认证需要一份已发布的标准。
与此同时,第 50 条于 2026 年 8 月 2 日按原定日期开始执行。它适用于任何直接与人交互的系统,无论其风险等级,并要求告知对方正在与 AI 打交道。生成的内容必须加以标记。罚款上限为 1500 万欧元或全球营业额的百分之三。
加拿大走向了另一个方向。AIDA 随 C-27 法案在 2025 年 1 月议会休会时失效。主管部长表示,未来的任何框架都应保持轻量。目前在推进的联邦立法是隐私和数字安全方面的法律。
在加拿大,具有约束力的义务来自省级隐私法。魁北克《第 25 号法》自 2024 年 9 月起全面生效,罚款最高可达 2500 万加元,其关于自动化决策的条款与欧洲规定非常相似:告知当事人,解释逻辑和标准,允许其提交意见,并应要求提供人工复核。
"我们合规吗"是有保质期的
把两者放在一起看,有用的结论高于任何一个司法管辖区。
一个为 2026 年 8 月构建了整套高风险机制的组织,提前十六个月花了这笔钱,所对照的标准当时仍处于草案阶段。一个什么都没构建的组织,则错过了一项已开始执行、附带真实罚款的透明度义务。两者犯了同一个错误。各自都把一项变动中的要求当作固定要求,并过早押注于一个方向。
"我们合规吗"的答案,其保质期以月计算。
真正持久的问题
能够经受反复变动的问题,是一个交付问题:
当下一次重大变化到来时,我们能否满足它,还是退出那个市场?
两种答案都是正当的。决定退出一个市场是真正的战略选择,最好是经过深思熟虑、尽早并有书面记录地做出。需要避免的结局,是发现某项变化无法应对,原因是多年前出于与监管毫无关系的理由所做的一个决定。
回答这个问题,需要知道法律变化时负担落在哪里,并让这些具体环节保持灵活。
负担会落在哪里
对于运营系统中的 AI 功能,我们关注一份简短的清单。每一项都是规则变化时会承受压力的地方。
模型提供商。 在我们这里,它是管理员选择的一项设置,保存在数据库中,流程的其余部分可与任何已配置的提供商配合工作。
数据存放在哪里,受哪部法律管辖。 这是两个不同的问题。每个客户一个实例、一个数据库,位于客户选择的司法管辖区,使这两个问题可以分别回答。
是否有人参与决策环节。 助手提出建议,由人来应用或放弃。人工监督几乎出现在我们研究过的每一个监管体制中,从设计之初就纳入要容易得多。
哪些内容会离开实例。 在请求发出之前,姓名、电子邮件和电话号码会被替换为确定性令牌。反向映射保存在客户自己的数据库中。
事后能证明什么。 审计日志记录谁在何时做了什么。我们读过的每个监管体制都要求保存记录。它们在保存期限和格式上各有不同,而一旦记录存在,保存期限和格式都很容易调整。
披露。 这是目前在欧洲可执行的义务,也是满足成本最低的一项。它需要每种支持语言中的一段文字,以及对生成内容的标记。我们的助手在每条回复上标注生成它的 AI 提供商名称。
组织层面的那一半
上面是一份架构清单,而架构是较容易的那一半。在组织层面,团队往往比自己意识到的更受束缚。
是否有客户协议指定了某个具体的模型提供商?已签署的数据处理协议是否锁定了一个国家,而离开它需要重新谈判?如果监管机构要求提供文件,你会直接从记录中生成,还是需要专门配备人手来完成?谁在关注下一个第 50 条,他们又会如何得知?当一个市场不再值得投入时,由谁来做这个决定?
难点在于组织层面。
证明你认真对待治理的那些文件,往往也正是削弱你应变能力的文件。 认证有范围。合同承诺有期限。数据驻留保证会指明一个地点。每一项在签署当天都显得严谨,而每一项都会收窄你明年能做的事。这种张力要在法务与工程共同兼顾双方的对话中化解。
最后一个开关属于客户
我们销售的是运营软件。AI 让其中一部分工作更轻松。
这带来一个我们认为在任何监管环境下都正确的设计结果。助手在新实例上默认关闭,直到管理员将其开启。这个开关掌握在客户手中。如果客户自身的义务发生变化、议会表明立场,或者他们决定不再使用,他们可以自行关闭,无需我们发布新版本,也无需提出请求。
"敏捷"在这里的含义
敏捷通常被描述为团队规划工作方式的一种特性。在这样的环境中,它更像是两种速度的比较:地面移动得有多快,以及你能多快作出响应。
当地面移动得更快时,流程就必须改变。退出一个市场是这种比较的正当结果。错误在于做出决定时,却没有意识到这个决定正在形成。