Le P.I.A.F a été actif en 2024-2025 et a organisé plusieurs événements.
Les événements ci-dessous sont visibles dans un but d'archivage, ils ne représentent pas nos activités actuelles.
Conférences Asimov 4
Les conférences sur l’impact du numérique sur notre civilisation.
Le projet
Le cycle Asimov est dirigé par une vision, inspirée par l’auteur de science-fiction Isaac Asimov. C’est une vision du monde dans laquelle les machines automatiques sont à la source d’une transformation irréversible de l’humanité. Une vision où les technologies numériques progressent jusqu’à atteindre les compétences humaines, et changent en profondeur le fonctionnement de l’humanité. Une vision où l’intelligence croissante des robots, différente de celle des humains, rend leur contrôle extrêmement difficile.
Et dans cette vision, les ingénieurs et les scientifiques ont un rôle particulier à jouer. Ils doivent saisir les immenses opportunités qu’offrent ces technologies, tout en ayant une vision claire des risques. Dans le domaine de l’énergie, du transport, pour l’aéronautique et pour le médical, les ingénieurs sont formés pour connaître les enjeux et les risques de leurs innovations sur la société. Dans le numérique, ce n’est pas le cas.
Nous pensons qu’au contraire, de nombreux étudiants veulent avoir une vision des risques causés par le domaine dans lequel ils travaillent. Le discours sur ce sujet est occupé par les entreprises, avec souvent un discours très techno-solutionniste. Aux vu des enjeux, il faut un discours plus impartial, et plus critique.
Cette série de conférence a été notre plus grand projet de 2024-2025, il est maintenant clôturé.
Jeud'IA 3
Venez découvrir les défis de la sécurité de l’IA lors du Jeud’IA.
Nous vous proposons plusieurs exposés de 30 minutes, à la fois par des étudiants et des chercheurs. Pas de prérequis : les exposés commencent par des explications très vulgarisées, avec une partie technique pour les plus curieux.
La séance se terminera par des échanges informels autour des sujets évoqués.
Organisation
Organisé par le PIAF et le Centre pour la Sécurité de l’IA, le Jeud’IA a lieu environ tous les mois, un jeudi soir dans une école sur le plateau de Saclay. Cet événement est inspiré du Mercred’IA.
Les Jeud’IA passés sont ci-dessous.
Groupe de lecture 17
Le PIAF propose un groupe de lecture hebdomadaire sur la sûreté de l’IA.
Principe
Lors d’une séance, un chercheur, un doctorant ou un étudiant présente un exposé sur un article de recherche de son choix. Cette réunion permet à chacun d’apprendre plus sur la sûreté de l’IA et de se renseigner sur les avancées dans le domaine. L’exposé est accessible aux non-experts et est accompagné d’un temps de questions.
Ce groupe de lecture a depuis été remplacé par les Piailleries.
23/10/2025
Scaling Trustworthiness in the Era of Large Language Models
Towards LLM-scale methods for Privacy Auditing, Memorization Localization, and Uncertainty Quantification
Présenté par : Jérémie Dentan (https://dentanjeremie.github.io)
08/10/2025
Les modèles de raisonnement ne disent pas toujours ce qu'ils pensent
Peut-on contrôler des LLMs qui ne pas honnêtes sur leurs intentions ?
Papier : Reasoning Models Don't Always Say What They Think
Présenté par : Thomas Winninger (https://sckathach.github.io)
11/05/2025
Quand les LLMs deviennent RADIOACTIFS ☢️
Concevoir des watermarks qui se transmettent de modèle en modèle
23/03/2025
Alignement Multi-Objectif
Comment étendre le RLHF et la DPO pour satisfaire plusieurs préférences
Papier : Beyond One-Preference-Fits-All Alignment: Multi-Objective Direct Preference Optimization
16/03/2025
Controle démocratique des valeurs des IA
Les LLMs ont un système de valeurs morales, et on peut les modifier démocratiquement
Papier : Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs
9/03/2025
Broad misalignment from narrow finetuning
Ou pourquoi faire dire '666' à des LLMs les rend dangereux
Papier : Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
26/01/2025
Scalable oversight: blue team vs red team
Des methodes innovantes pour diminuer les risques d'IA de plus en plus intelligentes
Papier : AI Control: Improving Safety Despite Intentional Subversion
01/12/24
Un framework pour penser la confiance en les IA
Comment formaliser l'idée de confiance en une IA pour pouvoir l'implémenter ?
Papier : Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI
24/11/24
Data Ownership Verification with Data Poisoning
Empoisonner pour signer des données, plus puissant que le watermarking ?
Papier : DATA TAGGANTS: DATASET OWNERSHIP VERIFICATION VIA HARMLESS TARGETED DATA POISONING
11/11/24
Introspection in LLMs
En un sens, on peut finetune les LLMs actuels pour qu'ils soient capables d'introspection
Papier : Looking Inward: Language Models Can Learn About Themselves by Introspection
20/10/24
Représentants algorithmiques
L'opportunité de donner nos droits de vote à des algorithmes
Papier : WeBuildAI: Participatory Framework for Algorithmic Governance
13/10/24
Privacy backdoors & MIA
Récupérer des données confidentielles qui ont servi à entrainer le modèle
Papier : Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models
6/10/24
Fundamentals limits of alignment in LLMs
Un résultat fondamental sur l'imperfection des IA
22/09/24
Watermarking LLMs
Comment introduire une signature invisible dans les textes générés par IA
15/09/24
Limits of Machine Unlearning
Pourquoi on ne peut jamais vraiment faire oublier des IA
Papier : Machine Unlearning Fails to Remove Data Poisoning Attacks
08/09/24
Inference Time intervention using semantic vectors
Modifier les comportements des modèles de manière chiurgicale
01/09/24