Écosystème
L'écosystème montréalais en sécurité de l'IA
Laboratoires de recherche, instituts de politiques, groupes étudiants et organisations communautaires travaillant sur la sécurité, l'éthique et la gouvernance de l'IA à Montréal et dans les environs.
- Série de séminaires de recherche bihebdomadaires à Mila invitant des auteurs à présenter leurs propres articles sur la sécurité de l'IA. Écrivez-nous pour être mis en contact.
- Institut fédéral de sécurité de l'IA. Finance la recherche via les programmes CIFAR et CNRC, développe des outils et des lignes directrices de sécurité. Membre du Réseau international des instituts de sécurité de l'IA.
- Club étudiant à McGill axé sur l'alignement et la sécurité de l'IA ; organise des groupes de lecture, des hackathons et des activités connexes.
- La stratégie nationale d'IA du Canada, administrée par le CIFAR : chaires de recherche, les trois instituts nationaux d'IA, et programmes sur les impacts sociétaux et la sécurité de l'IA.
- Centre de recherche de l'École Max Bell de McGill axé sur la gouvernance de l'IA, la transparence et la surveillance démocratique. Publie des analyses et organise des ateliers éclairant les politiques canadiennes et internationales.
- Groupe dirigé par des jeunes (anciennement Encode Canada) qui développe la littératie en IA et les capacités en début de carrière par des bourses étudiantes, des ateliers et des événements publics.
- Goodheart développe des systèmes d'IA pour accélérer en toute sécurité la R&D de technologies défensives afin de créer un monde résilient face à une IA puissante.
- ControlAI est un organisme mondial à but non lucratif qui œuvre à prévenir le risque d'extinction posé par la superintelligence et à assurer un avenir prometteur pour l'humanité. En plus du Royaume-Uni, des États-Unis et de l'Allemagne, il est actif au Canada, où il a informé plus de 150 parlementaires, témoigné à titre d'expert lors d'audiences, et plus encore.
- Hub à but non lucratif basé à Montréal soutenant la communauté locale en sécurité, éthique et gouvernance de l'IA par des rencontres, du cotravail, des ateliers et des collaborations.
- Organisation indépendante gérant le hub montréalais du Réseau de centres du PMIA. Met en œuvre des projets appliqués à fort impact pour une IA responsable basée sur l'éthique et les droits humains.
- Programme de recherche pluriannuel sur la sécurité de l'IA selon plusieurs axes : évaluation des comportements nuisibles, compréhension de la prise de décision de l'IA, approches algorithmiques pour une IA sûre.
- Groupe de recherche en sécurité de l'IA à Mila dirigé par David Krueger. Recherche sur la généralisation erronée, l'interprétabilité mécaniste et la spécification des récompenses.
- Organisation de recherche à but non lucratif en sécurité de l'IA lancée par Yoshua Bengio. Se concentre sur l'architecture « IA scientifique » non agentique comme alternative aux approches des laboratoires de pointe.
- Centre de recherche académique en apprentissage profond avec plus de 140 professeurs affiliés. Alignement technique, interprétabilité, développement responsable de l'IA.
- Organisation internationale à but non lucratif fondée en 2018 qui équipe les citoyens préoccupés par l'IA et ses impacts sociétaux pour agir. Produit des résumés d'éthique de l'IA et des rapports sur l'état de l'éthique de l'IA.
- Communauté de rencontres publiques organisant des conférences, ateliers et discussions sur la gouvernance, l'éthique et la sécurité de l'IA. Co-organisé avec Horizon Omega.
- Observatoire interuniversitaire sur les impacts sociétaux de l'IA. Réseau de chercheurs d'institutions québécoises publiant des recherches à travers 7 pôles thématiques.
- Communauté de bénévoles plaidant pour atténuer les risques de l'IA et suspendre le développement de l'IA surhumaine jusqu'à ce qu'elle soit sûre.
- Groupe étudiant de l'UQAM qui sensibilise aux risques de l'IA par la vulgarisation, la sensibilisation et la mobilisation.