返回博客

用你所构建的东西来治理 AI

隐私实践靠封堵起作用,因为组织拥有数据所在的地方。AI 的使用发生在一个不属于组织的文本框里。在那里起作用的控制,是一条留有记录的更好的路径。

上次说到哪里

上一篇我们看了加拿大的国家 AI 战略 AI for All。它设定了一个带有年份的采用目标,即到 2034 年有 60% 的企业采用,并把这个目标建立在一部自 2000 年起生效的联邦隐私法之上。我们当时写道,在这部法律下运营的企业,已经知道前方义务的大致形态。

此后我们争论最多的正是最后这句话。法律可以沿用。问题在于围绕它建立起来的实践有多少也能沿用,我们看得越久,答案就越清楚地分成了两半。

隐私实践擅长什么

隐私实践从数据出发。组织梳理自己持有的数据,对其分类,限制谁可以访问,并按计划删除。这些技术已经成熟。对标识符做令牌化,也就是把姓名或账号换成在系统之外毫无意义的替代值,多年来一直是常规做法。

这一切都建立在一个很少被明说的条件上。组织拥有数据所在的地方:它的服务器、它的应用程序和它发放的笔记本电脑。正是这种所有权让工具箱里最有力的工具成为可能,这个工具就是封堵。关闭端口。锁定文件夹。有人离职时清空笔记本电脑。

地方变了

AI 工具是作为消费级产品来到人们手中的,这改变了那个条件。

设想一位办事员,下班前要回复四十份居民投诉。浏览器里的一个聊天窗口几秒钟就能为每一份起草一封像样的回复。它只要求把投诉粘贴进去,而投诉里有姓名、地址和电话号码。

这个过程没有碰到组织拥有的任何一台服务器。那个文本框属于别人。一个人在自己的办公桌前,为了眼前的任务,决定往里面放什么,而两层楼之上写好的数据分类根本没有出场。

这条捷径还会立刻见效。这正是它难以禁止的原因。办事员可以准时回家。一条说“不”的规定,每个工作日都在和这种回报竞争,而人们会绕开挡在自己和更快的工作方式之间的封堵。

把路修出来

所以,在这里起作用的控制是一条路径。给人们一个比他们自己找到的更好用的工具,选择就不言自明。没有人会为了更差的结果去承担风险或成本。

从构建者的角度看,设计很清楚。做一道让工作自然流过的门,并把控制放在门里。

我们是做软件的,所以说说这在我们的软件里是什么样子。产品里的每一个 AI 请求,无论来自哪个界面,都从代码里的同一道门出去。在请求离开之前,这道门会在审计记录里写下一行:谁在问,为了什么,针对哪条记录,由哪个 AI 服务作答。在同一步里,它把通讯录中人员的姓名,以及它找到的电子邮箱和电话号码,替换成令牌,并在答案返回时把它们换回来。客户的管理员选择门的另一边是哪个 AI 服务,客户自己托管的服务也在选项之中。

对那位办事员来说,受治理的工具就是屏幕上已经打开的那一个,就在他正在处理的记录里。它是通往回复的最短路径。整个设计就是这样。

这降低了风险。仍有一部分风险存在,而审计记录会显示它在哪里。

治理因此改变了什么

关于治理的讨论也随之改变。过去的问题是封堵什么。新的问题是构建什么:人们得到哪个工具,它记录什么,它在任何内容离开之前去掉什么,以及事后谁来查看记录。

这样,政策就有了可以指向的对象。“请使用批准的工具”这条规定,在批准的工具就是最省事的工作方式时,人们会遵守。当它是较慢的方式时,人们会抵触。

你所在司法辖区写下的规则,仍然决定这道门必须做什么。构建是组织达到要求的方式。

小结

  • 隐私实践靠封堵起作用,因为组织拥有数据所在的地方。
  • AI 工具是作为消费级产品来到人们手中的。办事员把一份投诉粘贴进浏览器,这个过程没有碰到组织拥有的任何服务器。
  • 捷径会立刻见效,而人们会绕开挡在自己和更快的工作方式之间的封堵。
  • 起作用的控制是一条路径。它是一个把工作做得更好的工具,每个请求都经过同一道门。
  • 在我们自己的产品里,这道门记录谁在问、为了什么,把姓名、电子邮箱和电话号码替换成令牌,并把选择哪个 AI 服务交给客户。
  • 治理从封堵什么转向构建什么。你所在司法辖区的规则决定这道门必须做什么。

申请演示

联系我们。我们会用您指定的记录类型演示 Aptli。