À PROPOS

Le General-Purpose AI Policy Lab a été co-fondé en 2024 par Tom David, Président-directeur général, et Lola Carbonell, Secrétaire générale et Directrice des affaires internationales.

Le GPAI Policy Lab est le fruit d'un constat : celui d'un écart structurel entre l'avancée rapide des capacités des modèles d'IA frontière et les progrès encore limités de la recherche sur notre capacité à les sécuriser. À ce jour, la communauté scientifique ignore comment disposer de garanties de contrôle effectives sur des systèmes d'IAs amenés à égaler ou dépasser les capacités cognitives humaines dans tous les domaines.

Les prémices de la création du Lab remontent à 2019, période charnière du développement de l'IA à usage général, au cours de laquelle les premières générations de modèles - dont GPT-2 - commencent à révéler leur potentiel disruptif. C'est aussi la période à laquelle Tom David commence à travailler activement sur les enjeux de sécurité associés.

Après plusieurs expériences au Centre de Recherche de la Gendarmerie Nationale, et au Cabinet de la Préfecture de l'Yonne, Tom David contribue à lancer dans les quatre ENS (École Normale Supérieure) une des premières organisations françaises dédiée à la recherche sur l'IA à usage général et les enjeux de sécurité associés, notamment en formant des chercheurs sur ces questions alors peu étudiée.

Au regard de l'avancée rapide des capacités des modèles d'IA et des investissements encore limités dans la recherche sur leur sécurisation - dont les progrès restent structurellement plus lents - les enjeux de gouvernance et de coordination internationale s'imposent comme un levier d'action complémentaire et de plus en plus central.

En 2023, Tom David rejoint ainsi l'Institut Montaigne où il prend la charge des sujets IA. Il y mène un travail de prospective approfondi sur la trajectoire d'évolution de la technologie, sur l'horizon temporel probable dans lequel des systèmes d'IA pourraient égaler ou dépasser les humains dans tous les domaines cognitifs, ainsi que sur les enjeux de sécurité associés et les conséquences pour la France.

En parallèle, il co-fonde PRISM Eval en 2024, une start-up spécialisée dans le red teaming automatique des systèmes d'IA à usage général, afin d'en évaluer la robustesse et la sécurité.

Les travaux de PRISM Eval sont récompensés l'année suivante par le prix "Sécurisation de l'IA" décerné conjointement par l'Agence Innovation Défense (AID) et le Commandement de la Cyberdéfense (COMCYBER). Dans un contexte d'émergence des AI Safety Institutes et d'acteurs de l'évaluation au Royaume-Uni ou aux États-Unis, PRISM Eval a été fondée dans l'ambition de répondre, au niveau français, au besoin de développer la science de l'évaluation et la métrologie nécessaires à l'acquisition d'une meilleure compréhension du fonctionnement de ces systèmes et, par là même, à renforcer notre capacité à en piloter le développement.

Tom David (GPAI) reçoit le Prix du Ministère des Armées, remis par le général Aymeric Bonnemaison (DRSD) et l'Ingénieur général Patrick Aufort (AID). Le prix est décerné dans le cadre du Défi Sécurisation de l'IA, organisé par l'Agence Innovation Défense et le COMCYBER.

En novembre 2024, Tom David et Lola Carbonell co-fondent le General-Purpose AI Policy Lab, d'abord à Sciences Po - avec l'ambition d'apporter une expertise technique sur les enjeux de sécurité de l'IA dans une institution disposant une expertise sur les enjeux géopolitique et de gouvernance au sens large.

Tom David et Lola Carbonell, Enabling AI Adoption, Securing Frontier Models, France-India Pre-Impact Summit Forum.

Passée par l'École de la Recherche de Sciences Po Paris, Lola a d'abord travaillé à l'Institut Montaigne puis à la Coordination Nationale IA - au Ministère de l'Économie et des Finances, où mobilisée sur les enjeux de sécurité de l'IA, elle était notamment chargée de coordonner la présentation du rapport International sur la sécurité de l'IA lors de l'AI Action Summit - avant de se dédier entièrement au GPAI Policy Lab.

Le GPAI Policy Lab vise ainsi à construire une expertise de pointe, au service des institutions françaises, en matière de recherche et d'anticipation stratégique sur les enjeux de sécurité associés au développement des modèle d'IA frontière, et notamment sur la question des conditions socio-techniques pouvant permettre de bâtir une coordination internationale solide sur la gouvernance de cette technologie. C'est dans ce cadre, et depuis la France, que le GPAI Policy Lab se donne pour mission de mener un travail rigoureux de documentation, de priorisation et de prospective sur les enjeux de sécurité posés par le développement des modèles frontière - au service des institutions appelées à en appréhender les ruptures et à y répondre.