Éducaloi réécrit ses contenus pour être mieux cité par l'IA

Gemini, ChatGPT et Copilot citent Éducaloi, mais confondent souvent le droit québécois avec celui d'ailleurs. Depuis un an, l'organisme revoit ses textes.

« L'IA n'a pas de concept de territorialité de l'information. Et en droit, c'est capital. »

C'est ainsi que Me Aurélie Gagnon, avocate et vulgarisatrice chez Éducaloi, résume le problème dans une dépêche de La Presse Canadienne publiée le 31 octobre.

Les robots conversationnels comme Gemini, ChatGPT et Copilot citent le contenu d'Éducaloi, mais pas toujours correctement. « Ils peuvent très aisément se tromper avec de l'information qui vient d'autres provinces, des États-Unis, de la France », explique-t-elle.

Ce n'est pas la seule erreur. Selon l'avocate, ces outils ratent des changements législatifs, font des affirmations générales qui ignorent les exceptions, et vont jusqu'à inventer des lois et de la jurisprudence.

Depuis environ un an, Éducaloi retravaille donc ses contenus Web pour que l'IA les lise et les reprenne plus fidèlement. L'organisme a reformulé certains textes, ajouté davantage de contexte autour de certaines affirmations et fourni à l'IA des extraits de contenu « ciblés et pertinents » pour limiter les hallucinations.

« Ça ne veut pas dire de rendre le contenu plus adapté pour l'IA que pour l'humain », nuance Aurélie Gagnon. « On essaie de faire des contenus qui ressortent fort, qui sont faciles à comprendre. »

Les chiffres montrent l'ampleur du phénomène. Selon ses données, Éducaloi a été cité 9,18 millions de fois sur Gemini en quatre mois. Depuis mai, ses contenus ont généré 11,5 millions d'impressions dans les aperçus IA de Google.

Revers de la médaille : l'achalandage de son site a diminué. L'organisme ne s'en inquiète pas outre mesure. « Les internautes arrivent moins souvent "par accident" sur notre site, mais ceux qui le consultent y consacrent davantage de temps », observe l'avocate.

L'enjeu n'est pas que théorique pour les justiciables. Les fausses informations générées par l'IA causent des délais dans le système judiciaire, rappelle Aurélie Gagnon. Et « de plus en plus, les tribunaux ont tendance à donner des amendes, des pénalités aux gens qui font ça ».

En août, la Cour d'appel a ainsi condamné un justiciable à payer 1 000 $ pour avoir déposé plusieurs fausses décisions générées par l'IA. Le phénomène est mondial : une base de données recense déjà plus d'un millier de hallucinations juridiques dans des décisions de tribunaux.

Éducaloi a d'ailleurs publié un article sur l'utilisation de l'IA pour préparer un dossier judiciaire, et sur ce qu'il faut vérifier avant de le déposer. L'organisme recommande notamment de valider les décisions dans CanLII ou SOQUIJ. Il documente aussi ses expérimentations internes en IA sur un blogue.