Loi réglementant I'utilisation des hypertrucages en ligne

Résumé#

Le projet de loi C-277 établirait des règles sur la manière dont les plateformes en ligne gèrent les « deepfakes » (images, audio ou vidéo modifiés ou générés par IA qui semblent ou sonnent réels et utilisent l'apparence ou la voix de quelqu'un). Il exige que les plateformes détectent, étiquettent et retirent les deepfakes qui pourraient causer des dommages significatifs. Il crée également un système de pénalités administratives (non criminelles) pour faire respecter ces obligations. L'objectif déclaré est de protéger les gens des dommages émotionnels, réputationnels et financiers et d'accroître la transparence en ligne.

Changements clés :

• Les plateformes et les services en ligne accessibles au Canada doivent mettre en place des moyens d'identifier les deepfakes, y compris des outils de signalement par les utilisateurs.
• Elles doivent prendre des mesures raisonnables pour étiqueter clairement les deepfakes partagés sur leurs services.
• Elles doivent prendre des mesures raisonnables pour empêcher le partage de deepfakes qui pourraient causer des « dommages significatifs » et retirer ce contenu dès que possible après son identification.
• Elles doivent conserver les dossiers nécessaires pour prouver leur conformité. Le cabinet fédéral peut établir des règles détaillées de conservation des dossiers.
• Un système de pénalité monétaire administrative est créé. Le cabinet déterminera quelles violations peuvent être sanctionnées, les montants ou plages de pénalités, les procédures, les défenses possibles et les processus d'appel/revue.
• Les directeurs et les dirigeants d'entreprise qui dirigent ou participent à une violation peuvent être personnellement responsables des pénalités.
• Les violations ne sont pas des infractions criminelles.

Ce que cela signifie pour vous#

• Utilisateurs

  • Vous devriez voir des étiquettes plus claires sur le contenu identifié comme des deepfakes.
  • Vous aurez des outils de signalement pour signaler des deepfakes suspects.
  • Les deepfakes nuisibles vous concernant ou concernant d'autres devraient être retirés une fois identifiés.

• Personnes ciblées par des deepfakes

  • Les plateformes doivent agir pour empêcher le partage de deepfakes qui pourraient causer des dommages significatifs (par exemple, vol d'identité, perte d'emploi, humiliation).
  • Les deepfakes nuisibles doivent être retirés dès que possible après leur identification.

• Créateurs et affichage de contenu

  • Si vous partagez des médias modifiés ou générés par IA utilisant l'image ou la voix d'une personne réelle, les plateformes exigeront probablement une étiquetage clair.
  • Le contenu qui pourrait causer des dommages significatifs pourrait être bloqué ou retiré.

• Plateformes et services en ligne (y compris les réseaux sociaux)

  • Vous devez construire et exploiter des systèmes pour détecter les deepfakes, permettre les signalements des utilisateurs, étiqueter les deepfakes et prévenir et retirer ceux qui pourraient causer des dommages significatifs.
  • Vous devez conserver des dossiers pour prouver votre conformité. Les détails peuvent être fixés par de futures réglementations.
  • Vous risquez des pénalités administratives pour violations. Les directeurs et les dirigeants peuvent être personnellement responsables s'ils ont participé à la violation.
  • La loi utilise « des mesures raisonnables », mais ne définit pas exactement ce qui est requis. Ce qui est considéré comme « raisonnable » n'est pas clair et peut dépendre des réglementations futures.

• Gouvernement

  • Le ministre de l'Industrie superviserait le système et peut désigner des personnes pour le gérer.
  • Le cabinet fédéral fixera de nombreux détails clés par réglementation (montants des pénalités, procédures, appels, défenses et qui applique).

Dépenses#

Aucune information disponible publiquement.

Domaines de coûts possibles :

• Les plateformes peuvent faire face à des coûts pour construire ou mettre à niveau des outils de détection, des systèmes de signalement, des fonctionnalités d'étiquetage, des processus de modération et de conservation des dossiers.
• Les plateformes peuvent faire face à des pénalités pour non-conformité ; les montants ne sont pas encore spécifiés.
• Le gouvernement peut faire face à des coûts pour développer des réglementations et faire respecter le système ; aucune estimation n'est fournie.

Point de vue des partisans#

• Le projet de loi semble destiné à réduire les véritables dommages causés par les deepfakes, y compris la fraude, le vol d'identité, le harcèlement et les dommages réputationnels.
• Il pourrait accroître la transparence en exigeant un étiquetage clair des deepfakes afin que les gens sachent quand le contenu est synthétique.
• Il place la responsabilité sur les plateformes - les lieux où les deepfakes se propagent - de détecter, d'étiqueter et de retirer rapidement le contenu nuisible.
• L'utilisation de pénalités administratives (et non de charges criminelles) pourrait favoriser une conformité plus rapide et plus flexible.
• Le préambule indique que les lois actuelles ne protègent pas adéquatement les gens contre les dommages causés par les deepfakes ; ce projet de loi pourrait combler ces lacunes.

Point de vue des opposants#

• Le projet de loi ne définit pas clairement à quoi ressemblent les « mesures raisonnables ». Cela pourrait créer de l'incertitude pour les plateformes et une application inégale.
• Les « dommages significatifs » incluent des dommages psychologiques et réputationnels, qui peuvent être subjectifs. Les plateformes pourraient retirer du contenu limite pour éviter des pénalités, ce qui pourrait affecter la satire, l'art ou le discours politique.
• L'obligation de « prévenir » les deepfakes nuisibles pourrait être interprétée comme nécessitant un scan ou une surveillance proactive. Cela pourrait soulever des préoccupations en matière de confidentialité ou entraîner un retrait excessif si les outils de détection sont imparfaits.
• De nombreux éléments clés (montants des pénalités, défenses, procédures, appels, rôles d'application) sont laissés à de futures réglementations. Jusqu'à ce qu'ils soient fixés, il est difficile de juger de l'impact et de l'équité complets.
• La technologie de détection peut faire des erreurs. Le mauvais étiquetage ou le retrait de contenu authentique est un risque possible.
• La conformité pourrait être coûteuse ou difficile pour les services plus petits qui manquent d'équipes internes d'IA et de modération. Le projet de loi ne fixe pas de seuils ou d'exemptions basés sur la taille.