L’écosystème montréalais en sécurité de l’IA

Laboratoires de recherche, instituts de politiques, groupes étudiants et organisations communautaires travaillant sur la sécurité, l’éthique et la gouvernance de l’IA à Montréal et dans les environs.

Pour les organisations partout au Canada, consultez la carte de l’écosystème canadien en sécurité de l’IA (en anglais).

• AI Alignment McGill (AIAM) Groupes étudiants Événements Éducation

  Club étudiant à McGill axé sur l’alignement et la sécurité de l’IA ; organise des groupes de lecture, des hackathons et des activités connexes.
• AI Safety Reading Group (Mila) Universitaire Recherche

  Série de séminaires de recherche à Mila où des auteurs présentent leurs propres articles sur la sécurité de l’IA, en personne ou en ligne. Horaire et participation sur la page du groupe.
• CEIMIA Universitaire Politiques publiques

  Organisation indépendante gérant le pôle montréalais du Réseau de centres du PMIA. Met en œuvre des projets appliqués à fort impact pour une IA responsable fondée sur l’éthique et les droits humains.
• ControlAI (Canada) Plaidoyer Politiques publiques

  Organisme à but non lucratif qui décrit sa mission comme étant de prévenir le risque d’extinction posé par la superintelligence et d’assurer un avenir prometteur à l’humanité. En plus du Royaume-Uni, des États-Unis et de l’Allemagne, il est actif au Canada, où il indique avoir informé plus de 120 députés et sénateurs canadiens et avoir comparu comme témoin devant des comités du Sénat et de la Chambre des communes.
• Horizon Omega (HΩ) OBNL Événements

  Organisme à but non lucratif montréalais qui porte Sécurité de l’IA Montréal et soutient la communauté locale en sécurité, éthique et gouvernance de l’IA par des rencontres, du cotravail, des ateliers et des collaborations.
• Institut canadien de la sécurité de l’intelligence artificielle (ICSIA) Gouvernement Recherche Politiques publiques Réglementation

  Institut fédéral de sécurité de l’IA. Finance la recherche via les programmes CIFAR et CNRC, développe des outils et des lignes directrices de sécurité. Membre de l’International Network for Advanced AI Measurement, Evaluation and Science (anciennement le Réseau international des instituts de sécurité de l’IA).
• IVADO R³AI / R10 : Sûreté et alignement de l’IA Universitaire Recherche

  Programme de recherche pluriannuel sur la sécurité de l’IA selon plusieurs axes : évaluation des comportements nuisibles, compréhension de la prise de décision de l’IA, approches algorithmiques pour une IA sûre.
• Laboratoire pour l’avenir de la citoyenneté Universitaire Recherche Politiques publiques

  Laboratoire de recherche et de politiques sur l’incidence des systèmes d’IA et d’autres esprits numériques ou hybrides sur la citoyenneté, la personnalité juridique et l’identité en droit. Codirigé par le philosophe Jonathan Simon (Université de Montréal) et l’avocate en droits de la personne Heather Alexander.
• LoiZéro OBNL Recherche

  Organisation de recherche à but non lucratif en sécurité de l’IA lancée par Yoshua Bengio. Se concentre sur l’architecture « IA scientifique » non agentique comme alternative aux approches des laboratoires de pointe.
• McGill Centre for Media, Technology & Democracy (CMTD) Universitaire Recherche Politiques publiques

  Centre de recherche de l’École Max Bell de McGill axé sur la gouvernance de l’IA, la transparence et la surveillance démocratique. Publie des analyses et organise des ateliers éclairant les politiques canadiennes et internationales.
• Mila – Institut québécois d’intelligence artificielle Universitaire Recherche Événements

  Centre de recherche académique en apprentissage profond avec plus de 140 professeurs affiliés. Alignement technique, interprétabilité, développement responsable de l’IA.
• Montréal AI Ethics Institute (MAIEI) Communauté Politiques publiques

  Organisation internationale à but non lucratif fondée en 2018 qui donne aux citoyens préoccupés par l’IA et ses impacts sociétaux les moyens d’agir. Produit des résumés d’éthique de l’IA et des rapports sur l’état de l’éthique de l’IA.
• Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) Universitaire Recherche Politiques publiques

  Observatoire interuniversitaire sur les impacts sociétaux de l’IA. Réseau de chercheurs d’institutions québécoises publiant des recherches à travers 7 pôles thématiques.
• PauseAI Montréal Plaidoyer Événements

  Communauté de bénévoles plaidant pour atténuer les risques de l’IA et suspendre le développement de l’IA surhumaine jusqu’à ce qu’elle soit sûre.
• Sécurité de l’IA Montréal Communauté Événements Éducation

  Communauté montréalaise qui relie les personnes travaillant à rendre l’IA plus sûre : conférences, ateliers, groupes de lecture, cotravail à Ω Labs et une infolettre mensuelle. Gérée par Horizon Omega.
• Sûreté de l’IA UQAM (SIA-UQAM) Groupes étudiants Éducation Plaidoyer

  Groupe étudiant de l’UQAM qui sensibilise aux risques de l’IA par la vulgarisation, la sensibilisation et la mobilisation.
• Tara Research OBNL Recherche

  Fondation de recherche à but non lucratif, dont l'équipe est répartie entre les Pays-Bas et Montréal, qui détecte et prévient la malhonnêteté des agents d'IA. Maintient le Tara Honesty Benchmark, qui mesure à quelle fréquence les systèmes d'IA mentent aux utilisateurs sur leurs propres actions, et un classement comparatif des techniques d'alignement.