Hier, un client m'a dit avec enthousiasme :

« Nous avons intégré l'intelligence artificielle dans notre entreprise! Un nouveau système d'analyse de crédit en ligne, et mes adjointes utilisent désormais ChatGPT. C'est solide, non? »

Ma réponse fut simple : « Solide à quel point, exactement? »

Parce que l'intelligence artificielle n'est pas une "Switch" interrupteur qu'on actionne. C'est d'abord et avant tout une décision de gouvernance.

La transparence : un idéal qui peut devenir un piège

On présente souvent la transparence comme une solution universelle. « Soyez transparents et tout ira bien! » Pourtant, ce n'est pas si simple.

Les travaux de Vuarin et Steyer (2023, École Polytechnique) ont clairement démontré qu'une transparence mal comprise peut se retourner contre l'organisation elle-même. Trop d'informations finit par noyer l'essentiel : qui lit vraiment une politique de confidentialité du début à la fin sur le site web? Un contrôle trop formel peut étouffer le jugement : cocher une case n'est pas comprendre. Et la peur de « mal expliquer » pousse certains experts à se taire.

La transparence utile ne consiste pas à tout exposer, mais à rendre l'information compréhensible, documentée et ajustable.

La loi : un cadre, pas une liste de vérification

Gouverner l'IA de manière responsable, c'est aussi comprendre le rôle de chacun.

Côté client (donneur d'ouvrage)

  • Faire l'évaluation des facteurs de risques vous permettra de savoir si la collecte est proportionnée à ces objectifs (En appliquant un test en trois volets rapide en prémice la ligne de direction sera plus clair : lien rationnel, minimisation, et balance avantages/préjudice).
  • Obtenir des consentements valides
  • Définir les durées de conservation et les droits d'accès
  • Gérer les demandes d'accès, de rectification et de suppression
  • etc...

Côté fournisseur (prestataire)

  • Traiter les données uniquement pour les finalités convenues
  • Mettre en place une sécurité renforcée (authentification multifacteur, chiffrement, audits)
  • Aviser tout incident dans les 24 heures
  • Restituer ou détruire les données à la fin du contrat
  • Être transparent quant à l'hébergement et aux mesures technique
  • etc..

Ce n'est pas une conformité aveugle, mais un équilibre, à trouver projet par projet, décision par décision.

Gouverner avant d'automatiser

La conformité ou certification ne se déclare pas ; elle se démontre. Avant d'adopter un service d'IA ou infonuagique, quelques réflexes sont essentiels.

Avant l'adhésion

  • Vérifiez l'emplacement des données (Canada, États‑Unis, Union européenne, etc.)
  • Exigez un DPA (Data Processing Agreement) ou des clauses contractuelles types
  • Évaluez les véritables mesures de sécurité du fournisseur
  • Confirmez la finalité réelle du traitement

Collecte

  • Transmettez uniquement le minimum d'informations nécessaires
  • Anonymisez ou pseudonymisez les champs non essentiels
  • Interdisez l'envoi de données sensibles, sauf obligation contractuelle claire

Utilisation

  • Assurez-vous que vos données ne servent pas à l'entraînement global du fournisseur
  • Exigez des clauses de confidentialité renforcée
  • Vérifiez que vos flux ne contiennent pas d'informations nominatives

Sécurité

  • S'assurez d'activez la MFA et segmentez les accès selon les rôles de chacun
  • Journalisez les activités pour assurer la traçabilité
  • Garantissez la suppression complète des données à la fin du contrat

Redonner sa place à l'humain

Les chercheurs et la Commission d'accès à l'information du Québec le rappellent : une organisation résiliente est celle qui ose le doute. Dans un monde de décisions automatisées, le doute devient un réflexe de gouvernance.

Une IA responsable, c'est une IA qu'on peut questionner. Une entreprise responsable, c'est celle qui encourage ce questionnement. Et non, ce n'est pas refuser le changement, c'est faire preuve d'intelligence organisationnelle.

La voie québécoise

L'intelligence artificielle n'est ni bonne ni mauvaise : elle reflète la maturité de ceux qui la déploient. Entre opacité technologique et excès de transparence, il existe une voie proprement québécoise : la transparence proportionnée, guidée par le bon sens, la Loi sur la protection des renseignements personnels et le respect du citoyen.

Parce qu'au fond, la véritable intelligence… c'est celle de savoir quand s'arrêter.

Sources

  • Commission d'accès à l'information du Québec (CAI)
  • Vuarin & Steyer, L'injonction à la transparence (2023, École Polytechnique)

Publié à l'origine sur LinkedIn.