IA : le Conseil canadien de la magistrature trace la ligne rouge pour les juges

Usages permis, limités ou interdits : le CCM met à jour ses lignes directrices sur l'IA et publie un guide pour repérer les hypertrucages en preuve.

Le Conseil canadien de la magistrature (CCM) a publié le 20 octobre la deuxième édition de ses Lignes directrices sur l'utilisation de l'intelligence artificielle dans les tribunaux canadiens, qui remplacent celles de 2024. Elles visent les juges de nomination fédérale, dont ceux de la Cour supérieure et de la Cour d'appel du Québec.

Le Conseil publie aussi un nouveau document d'orientation pour aider les juges à évaluer la preuve provenant des médias numériques, lorsqu'on allègue, ou qu'il est possible, qu'elle ait été fabriquée ou altérée par l'IA générative.

« L'essor de l'intelligence artificielle représente le plus important développement technologique » à toucher le système de justice ces dernières années, affirme le juge en chef du Canada et président du CCM, Richard Wagner. Les juges doivent être outillés pour l'utiliser de manière responsable, ajoute-t-il.

Trois catégories

Principale nouveauté : les usages de l'IA par les juges sont désormais classés en trois catégories.

Sont permis, notamment, l'aide administrative et rédactionnelle, l'organisation de documents, les chronologies établies à partir de faits non contestés, les résumés à vérifier ensuite et l'amélioration de la forme d'un texte rédigé par le juge.

Sont jugés à risque élevé, donc limités, le repérage d'incohérences dans la preuve, l'identification de fourchettes de peines ou de dommages-intérêts et la traduction de motifs préliminaires. Ces usages exigent une vérification indépendante.

Sont interdits, enfin, le versement de documents judiciaires dans des outils qui ne relèvent pas du tribunal, le règlement des questions de droit ou de fait, l'évaluation de la crédibilité, l'exercice du pouvoir discrétionnaire et les décisions sur la culpabilité ou la peine.

En revanche, l'utilisation de l'IA par un juge à titre individuel « ne nécessite généralement pas de divulgation », précise le document. La transparence est plutôt exigée des tribunaux, à l'égard des systèmes d'IA qu'ils déploient.

Le texte encadre aussi la gouvernance de l'IA dans l'administration des tribunaux, de l'évaluation des outils avant leur déploiement à leur suivi continu, et aborde de nouveaux enjeux comme les attaques par injection de requêtes et les futurs agents d'IA autonomes.

Après Québec

Le CCM avait annoncé ces travaux à la fin septembre, en évoquant notamment le guide sur les hypertrucages.

Ces lignes directrices s'ajoutent à celles que les quatre juges en chef du Québec ont rendues publiques le 4 septembre, qui affirment que « juger est un acte exclusivement humain ». Les deux textes convergent sur l'essentiel : l'IA ne peut ni trancher, ni apprécier la crédibilité.