Gouverner l'IA par ce que l'on construit
La protection de la vie privée fonctionne par blocage parce qu'une organisation possède les lieux où vivent ses données. L'usage de l'IA se passe dans une zone de texte qu'elle ne possède pas. Le contrôle qui fonctionne là est un meilleur chemin qui garde une trace.
Où nous en étions
La dernière fois, nous avons regardé AI for All, la stratégie nationale du Canada en matière d'IA. Elle fixe une cible d'adoption assortie d'une année, 60 pour cent des entreprises d'ici 2034, et elle appuie cette cible sur une loi fédérale sur la protection de la vie privée en vigueur depuis 2000. Nous avons écrit qu'une entreprise soumise à cette loi connaît déjà la forme de l'obligation qui l'attend.
C'est sur cette dernière phrase que nous avons continué à débattre. La loi se transpose. La question est de savoir quelle part des pratiques bâties autour d'elle se transpose aussi, et plus nous regardions, plus la réponse se séparait en deux moitiés.
Ce que la protection de la vie privée fait bien
La protection de la vie privée part des données. Une organisation recense ce qu'elle détient, le classe, limite qui peut y accéder et le supprime selon un calendrier. Les techniques sont mûres. Remplacer un identifiant par un jeton, c'est-à-dire échanger un nom ou un numéro de compte contre un substitut qui ne signifie rien hors du système, est un travail courant depuis de nombreuses années.
Tout cela repose sur une condition que l'on dit rarement à voix haute. L'organisation possède les lieux où vivent les données : ses serveurs, ses applications et les ordinateurs portables qu'elle remet. La possession est ce qui rend possible l'outil le plus fort de la trousse, et cet outil est le blocage. Fermer le port. Verrouiller le dossier. Effacer le portable quand quelqu'un part.
Le lieu a changé
Les outils d'IA sont arrivés chez les gens comme des produits grand public, et cela change la condition.
Imaginez un commis qui doit répondre à quarante plaintes de résidents avant la fin de la journée. Une fenêtre de discussion dans le navigateur rédige une réponse convenable à chacune en quelques secondes. Elle demande seulement que l'on y colle la plainte, et la plainte contient un nom, une adresse et un numéro de téléphone.
Rien dans cette histoire ne touche un serveur que l'organisation possède. La zone de texte appartient à quelqu'un d'autre. Une seule personne décide de ce qui y entre, à son bureau, pour la tâche qu'elle a devant elle, et la classification des données rédigée deux étages plus haut n'entre jamais en jeu.
Le raccourci paie aussi tout de suite. C'est ce qui le rend difficile à interdire. Le commis rentre chez lui à l'heure. Une règle qui dit non est en concurrence avec cette récompense chaque jour de travail, et les gens contournent un blocage qui se dresse entre eux et une façon plus rapide de faire leur travail.
Construire le chemin
Le contrôle qui fonctionne ici est donc un chemin. Donnez aux gens un outil qui fait le travail mieux que celui qu'ils trouveraient seuls, et le choix se fait de lui-même. Personne n'assume un risque ou un coût pour un résultat moins bon.
Du côté de ceux qui construisent, la conception est simple. Créez une seule porte par laquelle le travail passe naturellement, et placez les contrôles dans la porte.
Nous construisons du logiciel, alors voici à quoi cela ressemble dans le nôtre. Chaque demande d'IA dans le produit, depuis n'importe quel écran, sort par une seule porte dans le code. Avant que la demande ne parte, la porte écrit une ligne dans le journal d'audit : qui a demandé, dans quel but, sur quel enregistrement et quel service d'IA a répondu. Dans le même passage, elle remplace par des jetons les noms des personnes de l'annuaire, ainsi que les adresses courriel et les numéros de téléphone qu'elle trouve, et elle les remet en place quand la réponse revient. L'administrateur du client choisit le service d'IA qui se trouve de l'autre côté, et un service qu'il héberge lui-même fait partie des choix.
Pour le commis, l'outil gouverné est celui qui est déjà ouvert à l'écran, dans l'enregistrement sur lequel il travaille. C'est le chemin le plus court vers la réponse. Toute la conception tient là.
Cela réduit le risque. Une part de risque demeure, et le journal d'audit montre où.
Ce qui change pour la gouvernance
La conversation sur la gouvernance change avec elle. L'ancienne question était de savoir quoi bloquer. La nouvelle est de savoir quoi construire : quel outil les gens reçoivent, ce qu'il enregistre, ce qu'il retire avant que quoi que ce soit ne parte et qui lit le journal ensuite.
Une politique a alors quelque chose à désigner. « Utilisez l'outil approuvé » est une règle que les gens suivent quand l'outil approuvé est la façon simple de travailler. C'est une règle qu'ils subissent quand il est la façon lente.
La règle écrite par votre propre juridiction décide toujours de ce que la porte doit faire. Construire est la manière dont une organisation s'y conforme.
Résumé
- La protection de la vie privée fonctionne par blocage parce que l'organisation possède les lieux où vivent ses données.
- Les outils d'IA sont arrivés chez les gens comme des produits grand public. Un commis colle une plainte dans un navigateur, et rien de cela ne touche un serveur que l'organisation possède.
- Le raccourci paie tout de suite, et les gens contournent un blocage qui se dresse entre eux et une façon plus rapide de travailler.
- Le contrôle qui fonctionne est un chemin. C'est un outil qui fait mieux le travail, et chaque demande franchit une seule porte.
- Dans notre propre produit, la porte consigne qui a demandé et dans quel but, remplace les noms, les adresses courriel et les numéros de téléphone par des jetons, et laisse au client le choix du service d'IA.
- La gouvernance passe de ce qu'il faut bloquer à ce qu'il faut construire. La règle de votre juridiction décide de ce que la porte doit faire.
Demander une démo
Contactez-nous. Nous vous présentons Aptli sur les types d'enregistrements que vous nommez.