Dans un avis diffusé le 21 mai, Les risques éthiques des systèmes d'IA pour l'intégrité électorale et les débats publics, la Commission de l'éthique en science et en technologie (CEST) analyse les risques éthiques posés par les utilisations des systèmes d'IA générative (SIA) pour la démocratie, et présente 21 recommandations pour les gérer et atténuer leurs effets négatifs.  

Les SIA fournissent à divers acteurs politiques de puissants outils pour 1) créer des contenus en grande quantité (automatisation) ou d'un grand réalisme (hypertrucages) ; 2) filtrer, sélectionner et diffuser les contenus (p. ex. les agents conversationnels); et 3) collecter des renseignements sur les personnes et établir leur profil (p. ex. à des fins de microciblage publicitaire ou de surveillance).

Certaines utilisations des SIA peuvent entraîner des répercussions négatives sur l'intégrité électorale et la qualité des débats publics. Neuf grands risques éthiques sont analysés dans cet avis, qui concernent :

1. Les cyberviolences ;
2. La désinformation politique ;
3. La désinformation de groupes ciblés ;
4. La manipulation de l'opinion publique ;
5. La surveillance de masse ;
6. La fragmentation de l'information ;
7. La prolifération de la mésinformation électorale et politique ;
8. L'optimisation du microciblage des communications politiques ;
9. La manipulation des consultations publiques.

La Commission propose 21 recommandations qui s'adressent à plusieurs ministères et organismes publics afin de : 

• Renforcer le respect des lois et des droits en ligne :
  • Par exemple, en modifiant la Loi concernant le cadre juridique des technologies de l'information afin de clarifier les responsabilités des plateformes numériques et des systèmes d'IA (recommandations n^os 1 et 2).
• Garantir l'intégrité du processus électoral :
  • Par exemple, en mettant en place un mécanisme légal pour faciliter le retrait des hypertrucages non consentis de personnes candidates en période électorale (recommandation n^o 5).
  • Ou en rehaussant les capacités publiques de veille et d'analyse pour mieux comprendre la circulation de l'information électorale et politique, et surveiller l'évolution des utilisations problématiques des systèmes d'IA (recommandation n^o 9).
• Soutenir la qualité des débats publics :
  • Par exemple, en s'assurant d'une utilisation éthique des nouvelles capacités de veille des médias sociaux appuyées par l'IA (recommandations n^os 17 et 18).
  • Ou en soutenant les réseaux de partage des connaissances sur les impacts des SIA sur la vie démocratique (recommandation n^o 20).

Pour plus de détails, vous pouvez consulter l'avis complet ou le sommaire détaillé à l'adresse suivante : https://www.ethique.gouv.qc.ca/publications/les-risques-ethiques-des-systemes-dintelligence-artificielle-pour-lintegrite-electorale-et-les-debats-publics/