Loi sur la gouvernance de l’intelligence artificielle et de la cybersécurité au sein du secteur public

Résumé#

Cette loi du Manitoba établit des règles sur la façon dont les organismes publics utilisent l'intelligence artificielle (IA) et protègent leurs systèmes informatiques. Son objectif est de rendre l'utilisation de l'IA plus transparente et équitable, et d'élever les normes de cybersécurité dans le secteur public. La loi est en vigueur mais prend effet à une date fixée par le gouvernement.

• S'applique à certains organismes du secteur public (province, agences, municipalités et autres) qui seront nommés ultérieurement par règlement.
• Couvre les outils d'IA qu'ils construisent, achètent, utilisent publiquement ou font fabriquer par d'autres.
• Exige des informations publiques sur l'utilisation de l'IA, des plans de responsabilité, des vérifications des risques et des biais, et une supervision humaine dans certains cas.
• Permet au gouvernement d'établir des normes techniques et, dans certains cas, d'interdire certaines utilisations de l'IA (par exemple, la création de contenu artistique ou créatif).
• Établit des exigences en matière de cybersécurité, y compris des programmes, de la formation, des réponses aux incidents et des rapports d'incidents.
• Permet au ministre de publier des directives publiques sur la cybersécurité à des entités spécifiques.
• Exige une consultation publique avant la plupart des règlements et un examen de chaque règlement dans les trois ans.
• Indique que les décisions gouvernementales restent valables même si un organisme ne respecte pas les règles de cette loi.

Ce que cela signifie pour vous#

• Résidents utilisant des services publics

  • Vous pourriez voir des avis plus clairs lorsqu'un bureau utilise l'IA dans un service ou une décision.
  • Vous pouvez obtenir plus d'informations sur la façon dont l'IA a été utilisée et comment poser des questions.
  • Une personne doit superviser l'utilisation de l'IA dans certaines situations à risque élevé.
  • Il devrait y avoir des étapes pour détecter et réduire les biais injustes dans les décisions de l'IA.
  • Des normes de cybersécurité plus strictes visent à mieux protéger vos données et à réduire les pannes de service dues aux cyberattaques.

• Fonctionnaires et gestionnaires

  • Vous devrez suivre de nouvelles politiques sur l'IA, documenter comment l'IA est utilisée et réaliser des évaluations des risques et des impacts.
  • Vous devrez peut-être tester les biais et suivre la performance de l'IA au fil du temps.
  • Une formation et des rôles clairs pour la cybersécurité, la réponse aux incidents et la récupération seront requis.
  • Vous devrez peut-être signaler certains incidents de cybersécurité au ministre ou à un fonctionnaire désigné.
  • L'achat d'outils d'IA et de cybersécurité suivra de nouvelles règles d'approvisionnement.

• Municipalités et gouvernements locaux

  • Si prescrit, vous devez respecter des normes de cybersécurité établies et pourriez avoir besoin d'un programme formel de cybersécurité.
  • Vous pourriez recevoir des directives spécifiques à l'entité et devez les rendre publiques.
  • La conformité pourrait signifier de nouveaux outils, de la formation et des obligations de rapport.

• Fournisseurs et entrepreneurs

  • Les contrats pourraient exiger le respect des normes d'IA et de cybersécurité, des évaluations des risques et des impacts, et des tests de biais.
  • Vous devrez peut-être fournir de la documentation et soutenir la supervision par les organismes publics clients.

Dépenses#

Aucune information disponible publiquement.

Point de vue des partisans#

• Renforce la confiance du public en exigeant des informations claires sur quand et comment l'IA est utilisée.
• Réduit la discrimination en appelant à la détection et à l'atténuation des biais dans les systèmes d'IA.
• Garde les humains dans la boucle pour les utilisations de l'IA à risque élevé, ajoutant un contrôle de sécurité.
• Renforce la protection des données personnelles et des services grâce à des programmes et des normes de cybersécurité formels.
• Offre de la flexibilité pour suivre l'évolution rapide de la technologie en permettant l'adoption et la mise à jour de normes et de codes techniques.
• Exige une consultation publique et des examens réguliers des règlements, ajoutant responsabilité et transparence.
• Permet au ministre de répondre rapidement aux risques cybernétiques urgents avec des directives ciblées vers l'entité concernée.

Point de vue des opposants#

• La portée est incertaine car de nombreux détails sont laissés à des règlements futurs, créant de la confusion pour les agences et les fournisseurs.
• La conformité pourrait être coûteuse et lourde, en particulier pour les petites municipalités avec un personnel et des budgets limités.
• Le ministre peut émettre des directives à des entités uniques, ce que les critiques peuvent considérer comme un traitement inégal ou incohérent.
• Les décisions restent valides même si une entité ne respecte pas les règles, ce qui peut affaiblir la responsabilité en cas d'erreurs.
• Des interdictions ou des limites potentielles sur les utilisations de l'IA (y compris les tâches créatives) pourraient réduire l'efficacité ou étouffer l'innovation dans le gouvernement.
• Les règles concernant les informations qui doivent être partagées incluent des exemptions, de sorte que la transparence peut varier et laisser des lacunes pour le public.