Volver al blog

Gobernar la IA con lo que se construye

La práctica de privacidad funciona bloqueando porque una organización es dueña de los lugares donde viven sus datos. El uso de la IA ocurre en un cuadro de texto que no le pertenece. El control que funciona ahí es un camino mejor que deja registro.

Dónde lo dejamos

La última vez miramos AI for All, la estrategia nacional de IA de Canadá. Fija una meta de adopción con un año puesto, el 60 por ciento de las empresas para 2034, y apoya esa meta en una ley federal de privacidad en vigor desde 2000. Escribimos que una empresa que trabaja bajo esa ley ya conoce la forma de la obligación que tiene por delante.

Esa última frase es la que seguimos discutiendo después. La ley se traslada. La pregunta es cuánto de la práctica construida a su alrededor se traslada también, y cuanto más mirábamos, más se separaba la respuesta en dos mitades.

Lo que la práctica de privacidad hace bien

La práctica de privacidad parte de los datos. Una organización inventaría lo que tiene, lo clasifica, limita quién puede acceder y lo elimina según un calendario. Las técnicas están maduras. Tokenizar un identificador, es decir, cambiar un nombre o un número de cuenta por un sustituto que no significa nada fuera del sistema, es trabajo habitual desde hace muchos años.

Todo eso descansa en una condición que rara vez se dice en voz alta. La organización es dueña de los lugares donde viven los datos: sus servidores, sus aplicaciones y los portátiles que entrega. Esa propiedad es lo que hace posible la herramienta más fuerte del conjunto, y esa herramienta es el bloqueo. Cerrar el puerto. Bloquear la carpeta. Borrar el portátil cuando alguien se va.

El lugar se movió

Las herramientas de IA llegaron a las personas como productos de consumo, y eso cambia la condición.

Imagine a un empleado con cuarenta quejas de residentes por responder antes de que acabe el día. Una ventana de chat en el navegador redacta una respuesta decente para cada una en segundos. Solo pide que se pegue la queja, y la queja trae un nombre, una dirección y un número de teléfono.

Nada en esa historia toca un servidor que sea de la organización. El cuadro de texto pertenece a otro. Una sola persona decide qué entra en él, en su escritorio, para la tarea que tiene delante, y la clasificación de datos escrita dos pisos más arriba nunca entra en escena.

El atajo además rinde de inmediato. Eso es lo que lo hace difícil de prohibir. El empleado se va a casa a su hora. Una regla que dice que no compite con esa recompensa cada día de trabajo, y la gente rodea un bloqueo que se interpone entre ella y una forma más rápida de hacer su trabajo.

Construir el camino

Por eso el control que funciona aquí es un camino. Dé a las personas una herramienta que haga el trabajo mejor que la que encontrarían por su cuenta, y la elección se hace sola. Nadie asume riesgo o costo por un resultado peor.

Desde el lado de quien construye, el diseño es sencillo. Haga una sola puerta por la que el trabajo pase de forma natural, y ponga los controles en la puerta.

Construimos software, así que esto es lo que significa en el nuestro. Cada solicitud de IA en el producto, desde cualquier pantalla, sale por una sola puerta en el código. Antes de que la solicitud salga, la puerta escribe una línea en el registro de auditoría: quién preguntó, para qué, sobre qué registro y qué servicio de IA respondió. En el mismo paso sustituye por tokens los nombres de las personas del directorio, junto con los correos y los números de teléfono que encuentra, y los devuelve a su sitio cuando llega la respuesta. El administrador del cliente elige qué servicio de IA está al otro lado, y uno alojado por el propio cliente está entre las opciones.

Para el empleado, la herramienta gobernada es la que ya está abierta en la pantalla, dentro del registro en el que trabaja. Es el camino más corto hacia la respuesta. Ese es todo el diseño.

Eso reduce el riesgo. Parte del riesgo permanece, y el registro de auditoría muestra dónde.

Lo que cambia para la gobernanza

La conversación sobre gobernanza cambia con ello. La pregunta de antes era qué bloquear. La nueva es qué construir: qué herramienta recibe la gente, qué registra, qué retira antes de que algo salga y quién lee el registro después.

Una política tiene entonces algo que señalar. «Use la herramienta aprobada» es una regla que la gente sigue cuando la herramienta aprobada es la forma fácil de trabajar. Es una regla que la gente resiente cuando es la forma lenta.

La regla que escribió su propia jurisdicción sigue decidiendo lo que la puerta debe hacer. Construir es la manera en que una organización la cumple.

Resumen

  • La práctica de privacidad funciona bloqueando porque la organización es dueña de los lugares donde viven sus datos.
  • Las herramientas de IA llegaron a las personas como productos de consumo. Un empleado pega una queja en un navegador, y nada de eso toca un servidor que sea de la organización.
  • El atajo rinde de inmediato, y la gente rodea un bloqueo que se interpone entre ella y una forma más rápida de trabajar.
  • El control que funciona es un camino. Es una herramienta que hace mejor el trabajo, y cada solicitud cruza una sola puerta.
  • En nuestro propio producto la puerta registra quién preguntó y para qué, sustituye nombres, correos y números de teléfono por tokens, y deja al cliente la elección del servicio de IA.
  • La gobernanza pasa de qué bloquear a qué construir. La regla de su jurisdicción decide lo que la puerta debe hacer.

Solicite una demostración

Contáctenos. Le mostramos Aptli con los tipos de registro que usted indique.