Un cabinet montréalais dédié à l’IA responsable

L’utilisation des données et de l’intelligence artificielle (IA) ouvre de nouvelles voies aux cabinets d’avocats.

Me Dobah Carré a fondé le cabinet Prudence AI en 2019, avec la volonté d’« offrir sous un même toit tous les services qui touchent aux données », explique celle qui est avocate, enseignante, chercheuse et entrepreneure. Sa clientèle s’est étoffée d’entreprises de toutes tailles, de banques, d’universités et de jeunes pousses.

C’est durant son doctorat, portant sur la loi applicable aux transferts de biens virtuels à l'Université de Montréal et à l'Université de Paris 1-Sorbonne, que l’avocate montréalaise s’est intéressée à l’intelligence artificielle et aux données.

Ce barreau 2006 fait un post-doctorat en droit et éthique de l’IA en santé, avec le programme Mitacs Élévation, qui met en relation des doctorants de tout le Canada, et de domaines variés.

« J’étais la seule en droit; il y avait des spécialistes de l’intelligence artificielle, des mathématiques, des études vétérinaires… »

Ce postdoc la mène à travailler au volet légal de AI Fred, une firme qui utilise l’IA pour prédire le médicament le plus adapté aux personnes qui vivent une dépression.

Suite au postdoc, Dobah Carré décide d’ouvrir son propre cabinet, pour prévenir tous les risques liés à l’IA, du point de vue juridique, du management et de la sécurité. La force du cabinet réside dans sa vision complète en matière d’analyse de risques.

Les entreprises disposent d’un volume parfois immense de données. « Les grandes entreprises déploient des scientifiques des données pour les structurer avec le souhait d’en faire quelque chose », explique Me Carré.

« Je m’assois avec les entreprises pour voir ce qui peut être fait du point de vue éthique et technologique », explique celle qui est aussi chargée de cours en droit des affaires à la faculté de droit de l’Université de Montréal.

Si Dobah Carré tient à s’adresser à tous les marchés, le domaine de la santé représente la moitié de sa clientèle, en raison de toutes les questions éthiques que peuvent se poser les entreprises de ce secteur.

D’autres secteurs sont amenés à se poser de telles questions éthiques, de l’entreprise qui utilise des algorithmes qui vérifient l’humeur des employés au travail, à la fintech qui s’adressent aux enfants pour les aider à gérer leur porte-monnaie.

La loi 25 comme épée de Damoclès

Un pan important de l’activité de Prudence AI est présentement d’accompagner les entreprises à se conformer à la loi 25, qui renforce les obligations de protection des renseignements personnels au Québec depuis septembre dernier.

En septembre prochain, la mise en application de nouvelles mesures de la loi 25 aura des conséquences concrètes. « Des amendes vont tomber! Tout le monde a peur de ça! » prévient Dobah Carré. Les sanctions peuvent atteindre un montant maximal de 25 millions de dollars ou 4 % du chiffre d’affaires mondial de l’entreprise.

Là aussi, Dobah Carré mise sur son approche polyvalente. « Je fais des entrevues; je leur demande toute leur documentation; je fais une analyse de ce qu'ils ont, de ce qu'il faut refaire, de ce qu'on peut garder et de ce qui est réellement mis en œuvre », énumère l’avocate. « Même les meilleures politiques ne servent à rien si on ne les met pas en œuvre. »

Le processus aboutit à une cartographie des données « qu’on fait en combinant le côté juridique, le côté gouvernance et le côté technologique », explique Me Carré. Fidèle à son souhait d’offrir tous les services sous le même toit, l'avocate peut alors fournir un rapport et un plan d'action, y compris la formation, en précisant le délai requis.

Me Carré reconnaît que « le téléphone sonne beaucoup depuis deux ans » pour demander des programmes de protection des renseignements personnels de A à Z, incluant la mise en œuvre concrète.

Les appels proviennent d’entreprises conscientes des risques mais qui ne sont pas structurées pour y répondre. Certaines ont peur de l’épée de Damoclès qui pourrait leur faire perdre 4 % de leurs revenus. Il y a aussi le risque réputationnel: « des entreprises bien établies comme des jeunes pousses ne veulent pas perdre la confiance de leurs clients ».

Et il y a parfois des appels d’entreprises qui entendent se conformer à la loi, mais prêtes à bâcler le travail nécessaire. « J’ai déjà refusé de tels clients », affirme Dobah Carré.