La recherche au GPAI Policy Lab

Documentation et analyse des problèmes de sécurité. Le Lab conduit un travail de documentation et d'analyse des problèmes de sécurité associés au développement de l'IA frontière, au regard des méthodes d'entraînement privilégiées et des pressions de sélection qui s'exercent sur le développement des modèles. Il en analyse les implications pour la sécurité nationale et internationale.

Modélisation et anticipation de la trajectoire technologique. Le Lab travaille à la modélisation de la trajectoire d'évolution des capacités des modèles d'IA à usage général, et notamment à l'identification des horizons probables d'émergence de capacités critiques, celles permettant l'automatisation de tâches cognitives complexes dans des domaines tels que le cyber, le NRBC, la persuasion ou l'automatisation de la recherche et développement.

Mécanismes de vérification et coordination internationale. Le Lab mène des travaux de recherche sur les mécanismes de vérification susceptibles de créer les conditions socio-techniques d'une coordination internationale sur la gouvernance de l'IA frontière, en s'inspirant notamment des régimes de vérification développés dans le cadre de la non-prolifération nucléaire.