Microsoft a conclu en septembre 2026 un accord intégrant une nouvelle norme sur la sécurité de l’IA et la protection de la vie privée (la « norme ») qui fournit des protections contractuelles détaillées relativement à certains produits d’IA utilisés dans les écoles américaines.
Bien que la norme ne confère actuellement pas aux conseils scolaires canadiens le droit de bénéficier des mêmes protections, elle indique ce que Microsoft juge raisonnable d’encadrer contractuellement en ce qui concerne l’utilisation de l’IA à des fins éducatives. Les conseils scolaires américains pourront utiliser la norme pour :
- exiger d’autres fournisseurs d’IA des protections équivalentes à celles fournies par Microsoft;
- renforcer les conditions d’accords de protection des données classiques en ce qui a trait aux services d’IA;
- définir leurs propres règles de gouvernance de l’IA, en particulier pour les utilisations destinées aux élèves et les utilisations à haut risque.
Les conseils scolaires canadiens devraient porter une attention particulière aux dispositions de la norme qui traitent d’entraînement de l’IA, de minimisation stricte des données, de profilage, de mémoire et de personnalisation de l’IA, de supervision humaine, de compagnons IA, d’IA agentique et de modifications importantes aux produits.
La norme
La norme est intégrée à un protocole d’accord exécutoire conclu entre la National Academy for AI Instruction et Microsoft Corporation. Microsoft est actuellement le seul fournisseur d’IA participant mentionné dans l’accord.
À compter du 1er novembre 2026, les conseils scolaires américains pourront demander à Microsoft d’intégrer, dans leurs accords existants avec elle, des protections qui satisfont à la norme ou la dépassent. Un conseil scolaire ne deviendra pas partie à l’accord de l’Academy : ses droits découleront de son propre accord modifié conclu avec Microsoft.
La norme s’applique aux produits d’IA générative authentifiés qui sont conçus et commercialisés principalement à des fins éducatives. Elle exclut les produits de productivité, de collaboration, de recherche, d’infonuagique et d’aide au travail « à usage général ».
La norme énonce dix principes visant les sujets suivants :
- l’utilisation des données des élèves et des enseignants pour l’entraînement de l’IA;
- la minimisation des données (limitation de la collecte de données au strict nécessaire);
- la gestion, la conservation et la suppression des données des clients;
- la supervision humaine et l’explicabilité;
- la reddition de comptes et l’application de la loi;
- la sécurité;
- la transparence pour les familles;
- l’équité et l’accessibilité;
- le contrôle des fonctionnalités, et la possibilité de changer de fournisseur;
- le maintien de la responsabilité à l’égard des données après la fin du contrat.
Pas d’entraînement à partir de données scolaires
La norme interdit l’utilisation des données des élèves, des enseignants ou des clients pour développer, peaufiner, mettre à jour, évaluer ou améliorer de quelque autre manière un modèle d’IA. L’interdiction ne peut être contournée par la dépersonnalisation ou l’agrégation des données. Les données scolaires ne peuvent pas non plus être utilisées pour créer des données d’entraînement synthétiques. Cette restriction s’applique aux données antérieures, s’étend aux sous-processeurs et reste en vigueur indéfiniment après la fin du contrat.
Microsoft doit fournir, sur demande, une attestation annuelle signée par un cadre supérieur confirmant que les données scolaires n’ont pas été utilisées pour l’entraînement de l’IA sauf pour une exception circonscrite liée à la sécurité, et que ces données ou les connaissances acquises par l’IA n’ont pas migré des systèmes de sécurité exclus vers d’autres modèles ou produits.
Minimisation stricte des données
La norme autorise le fournisseur à traiter uniquement les données « strictement nécessaires » à la fourniture du produit éducatif en question.
Elle limite également le suivi comportemental, l’enregistrement de la frappe, la surveillance passive de l’attention, le profilage à long terme, la localisation précise, l’utilisation de la biométrie, le suivi du regard et l’inférence émotionnelle.
La minimisation des données est essentielle à la sécurité des produits d’IA. Non seulement les données des élèves et des enseignants peuvent aider l’IA à apprendre, elles constituent aussi un mécanisme d’analyse du potentiel humain – et, dans le cas d’un conseil scolaire, du potentiel humain de ses élèves.
Contrôle à l’égard de l’évolution des produits
La norme tient compte du fait que les produits d’IA évolueront pendant la durée du contrat. Si le fournisseur ajoute des fonctionnalités importantes faisant intervenir de nouvelles données, de nouveaux traitements ou des actions autonomes, il devra en aviser le conseil scolaire et donner à ses administrateurs la possibilité de les activer ou de les désactiver.
Incidences pour les conseils scolaires canadiens
L’application au Canada et les produits visés restent incertains
Bien que l’engagement explicite de Microsoft ne s’applique qu’aux établissements d’enseignement américains, les conseils scolaires canadiens pourraient raisonnablement demander à Microsoft et à d’autres fournisseurs d’IA d’expliquer pourquoi des protections équivalentes ne devraient pas s’appliquer aux élèves et aux enseignants canadiens.
Comme la norme exclut les produits d’IA qui ne sont pas conçus principalement à des fins éducatives, Microsoft pourrait faire valoir qu’elle ne s’applique pas aux versions standard de Microsoft 365 Copilot et de Copilot Chat. Les conseils scolaires devraient exiger, s’ils concluent des accords avec Microsoft, que celle-ci précise quels produits et quelles fonctionnalités sont couverts par des protections équivalentes à celles prévues dans la norme.
Un puissant levier contractuel
Microsoft a accepté que des restrictions détaillées concernant l’entraînement, les données dérivées, la mémoire, le profilage, les modifications apportées aux produits et les fonctionnalités d’agentique puissent être encadrées par contrat.
Les conseils scolaires devraient porter une attention particulière à la disposition interdisant l’utilisation des données à des fins d’entraînement de l’IA. La norme montre qu’une clause exhaustive relative à l’entraînement de l’IA pourrait couvrir les sujets suivants :
- le peaufinage et l’évaluation comparative;
- les requêtes, les extrants et les métadonnées;
- les données anonymisées, agrégées et dérivées;
- la génération de données synthétiques;
- l’amélioration des produits;
- les sous-processeurs.
La norme pourrait influer sur les attentes
Bien que la norme ne fasse pas autorité en droit canadien, elle fait ressortir des risques nouveaux que les conseils scolaires doivent connaître pour bien élaborer leurs politiques et gérer les risques de responsabilité.
Par exemple, le principe 4 interdit aux enseignants d’utiliser l’IA aux fins suivantes :
- l’automatisation de la correction, sans intervention humaine;
- l’automatisation des décisions ou des recommandations disciplinaires;
- l’automatisation des tests de niveau scolaire, du groupement par aptitudes ou de l’orientation vers des services d’éducation spécialisée;
- l’évaluation de l’état émotionnel ou psychologique;
- la surveillance à des fins de prédiction comportementale.
De plus, la norme :
- interdit l’utilisation de compagnons IA conçus pour favoriser l’attachement émotionnel ou la dépendance, simuler une amitié, prolonger l’interaction au-delà de la tâche d’apprentissage ou encourager la divulgation de renseignements sensibles;
- exige que les fonctionnalités d’IA agentique puissent être désactivées pour les élèves; si ces fonctionnalités peuvent agir hors des systèmes du fournisseur, elles doivent être désactivées par défaut, à moins qu’un administrateur autorisé ne les active en y associant des permissions limitées, une surveillance humaine et la tenue d’un journal d’audit;
- exige que le client désactive la mémoire persistante ou la personnalisation qui n’est pas régie par ses politiques de conservation et de suppression des données ou par des contrôles équivalents; si le produit conserve les données des élèves d’une séance à l’autre, il doit permettre aux utilisateurs, sur demande et dès que cela s’applique, de consulter et d’effacer les renseignements stockés, ainsi que de désactiver la mémoire sans perdre l’accès au service.
Ces dispositions peuvent donner une idée de ce que les parents, le personnel enseignant, les directions d’école, les administrateurs, les vérificateurs et les organismes de réglementation souhaiteront voir pris en considération par les conseils scolaires, même si la norme elle-même ne s’applique pas.
Conclusion
En matière d’IA, les accords, la gouvernance, la mise en œuvre opérationnelle et la surveillance doivent être abordés comme un tout. Des conditions contractuelles rigoureuses ne corrigeront pas à elles seules une application inappropriée ou une surveillance insuffisante, pas plus que des règles de saine gouvernance pourront compenser des engagements insuffisants du fournisseur et une mise en œuvre déficiente. Même avec un cadre de gouvernance robuste et des conditions contractuelles conformes, une surveillance continue restera indispensable pour garantir la sécurité dans un contexte qui ne cesse d’évoluer sur les plans de la réglementation et de la responsabilité.
Les juristes de BLG peuvent accompagner les conseils scolaires dans divers types de dossiers : gouvernance de l’IA, évaluations de la sécurité et de la protection de la vie privée, déploiement de Microsoft Copilot, accords avec des fournisseurs spécialisés dans l’IA. N’hésitez pas à communiquer avec les auteurs ou l’une des personnes-ressources ci-dessous.
