« Pôle emploi construit une IA de service public, éthique et citoyenne » (Richard Ruot)
• Finalité et légitimité des algorithmes,
• L’humain au centre,
• Equité et non discrimination,
• Liberté de choix,
• Transparence,
• Sécurité,
• Impact environnemental.
Tels sont les 7 engagements de Pôle emploi « pour garantir le développement et l’utilisation éthiques des algorithmes et de l’intelligence artificielle ».
« Nous avons compris que l’éthique associée à l’IA pouvait servir :
• de colonne vertébrale pour supporter nos travaux autour de sept grandes familles de capacités qui permettent de passer l’IA à l’échelle au sein de Pôle,
• de boussole pour structurer notre démarche et prioriser nos travaux », déclare Richard Ruot, directeur en charge du Développement et Ancrage des Pratiques au sein de la direction Offre de Services de Pôle emploi, à News Tank le 09/05/2022.
« Pour faire vivre cette charte pour une IA éthique, nous avons mis en place une gouvernance entre :
• un comité interne pour le pilotage et l’opérationnalisation des solutions IA,
• un comité externe composé d’experts éthiques, techniques et juridiques et de représentants de Pôle emploi.
L’objectif étant d’instaurer une confiance vis-à-vis des solutions développées et de solliciter ces groupes d’expertise pour qu’ils fournissent des recommandations ou des préconisations en fonction des nouveaux projets », indique Samira Bounaasse
Cheffe de projet éthique @ France Travail
, cheffe de projet éthique IA à Pôle emploi.
8 services exploitant l’IA ont été généralisés par Pôle emploi pour répondre aux besoins des conseillers, des demandeurs d’emploi et des recruteurs. Une vingtaine d’autres sont en cours de qualification ou exploités sous forme de POC.
Richard Ruot et Samira Bounaasse répondent aux questions de News Tank
Comment Pôle emploi lie l’éthique à l’IA ?
Notre démarche éthique & IA est née d’une réflexion liée au projet Intelligence Emploi que j’ai porté avec Michel Cottura à partir de 2018 au sein de Pôle emploi dans le cadre d’un appel à projets du FTAP (Fonds de transformation pour l’action publique).
Appels à projets FTAP : 3 familles de cas d’usages métiers
Dans le cadre de cet appel à projets du FTAP pour lequel Pôle emploi a été retenu, trois familles de cas d’usages métiers ont été établies :
• Efficience interne : comment soulager nos conseillers des tâches lourdes avec l’IA (en particulier la gestion des e-mails : identification, classification et propositions de réponses automatiques) et gagner du temps pour l’accompagnement des demandeurs d’emploi ? « Nous avons utilisé ses gains ETP (Equivalent Temps Plein) obtenus par l’IA pour couvrir de nouveaux dispositifs comme le CEJ (Contrat d’Engagement Jeunes) », indique Richard Ruot.
• Demandeurs d’emploi : comment fournir davantage de recommandations personnalisées dans sa recherche d’emploi ?
• Entreprises et Recruteurs : comment renforcer l’attractivité et la visibilité des offres d’emploi du recruteur lors du dépôt chez Pôle emploi ?
Nous avions déjà mené des POC sur l’IA depuis 2014 et nous avions reconnu sa valeur et sa pertinence technique. Depuis, nous avons atteint une certaine maturité. Mais si nous voulions vraiment intégrer l’IA comme un levier d’efficience de transformation, et d’amélioration de la qualité de service rendu auprès des usagers, des conseillers et des recruteurs, il fallait sortir de cette dimension de POC.
En menant le projet Intelligence Emploi entre 2019 et 2021 (finalement étendu jusqu’en octobre 2022), Pôle emploi peut vraiment embarquer l’IA dans une vision systémique et l’appliquer dans nos 896 agences de proximité et relais Pôle emploi de sites d’accueil sur le territoire national voire l’étendre dans la sphère publique pour faire bénéficier de notre expérience à d’autres organismes.
Dans ce contexte, nous avons compris que l’éthique pouvait servir :
- de colonne vertébrale pour supporter nos travaux autour de sept grandes familles de capacités qui permettent de passer l’IA à l’échelle au sein de Pôle emploi : éthique, conduite du changement, compétences & expertises, gouvernance des données, socles technologiques, méthodologies et comités, écosystèmes),
- de boussole pour structurer notre démarche et prioriser nos travaux.
Nos objectifs consistent à :
- livrer une IA de service public à la fois citoyenne et éthique au nom de la souveraineté de la France et de l’Europe,
- s’appuyer sur les analyses de nos comités éthiques (interne et externe) sur l’IA,
- pousser le développement des solutions IA dans les pratiques opérationnelles de Pôle emploi pour qu’il soit incarné dans nos processus digitaux, de data sciences et de gestion de projets,
- accompagner la conduite du changement pour que les conseillers Pôle emploi comprennent la finalité des cas d’usages des solutions IA et qu’ils en informent les demandeurs d’emploi.
Samira Bounaasse : Les premières réflexions pour une IA éthique remontent en 2019 à travers la constitution d’un groupe pluridisciplinaire composé de demandeurs d’emplois et de conseillers Pôle emploi. Ce qui a permis de poser les bases de notre approche en prenant en compte les comportements humains et informatiques.
Une validation des premiers objectifs de la charte pour une IA éthique a vu le jour en 2020 par le conseil d’administration de Pôle emploi.
En prenant en compte cette charte pour une IA éthique basée sur 7 enjeux qui vient d’être publiée, nous avons élaboré un outil d’évaluation qui accompagne la réflexion des chefs de projets dans leur travail de développement de services utilisant de l’IA.
Pour faire vivre cette charte pour une IA éthique, nous avons mis en place une gouvernance entre :
- un comité interne (direction générale, service juridique, DSI, représentants de régions…) pour le pilotage et l’opérationnalisation des solutions IA,
- un comité externe composé d’experts éthiques, techniques et juridiques et de représentants de Pôle emploi : conseil d’administration, représentants d’usagers et de « sachants emploi » (A compétence égale, WeTakeCare, Emmaüs Connect).
L’objectif étant d’instaurer une confiance vis-à-vis des solutions développées et de solliciter ces groupes d’expertise pour qu’ils fournissent des recommandations ou des préconisations en fonction des nouveaux projets.
De quel modèle vous vous êtes inspirés pour ériger cette charte ?
Il n’existe pas de modèle de charte éthique IA pour la sphère publique. En revanche, nous nous sommes inspirés de travaux internationaux et nationaux dont notamment :
- la Déclaration de Montréal pour une IA responsable de 2017,
- les travaux de la Commission européenne et de son groupe d’experts de haut niveau sur l’IA notamment ces « lignes directrices en matière d’éthique pour une IA digne de confiance ».
- des benchmarks réalisés sur le recours à l’IA dans le cadre des services publics de l’emploi en Europe.
Nous nous sommes donc inspirés des meilleures pratiques et nous les avons adaptées à notre contexte, à notre offre de services et aux spécificités de nos publics pour construire une IA de service public, éthique et citoyenne.
Sur les 7 principes édictés dans cette charte, quels sont les principaux points à retenir ?
L’objectif n’est pas de faire de l’IA à tous crins. »Je pense que ceux portant sur l’équité très lié avec la non-discrimination, la transparence et la liberté de choix font partie de l’ADN d’un service public.
L’IA a une réelle plus-value dans certaines partie des process métiers mais elle doit être intégrée de façon raisonnée et efficiente avec l’apport de valeur de la compétence des humains.
L’objectif n’est donc pas de faire de l’IA à tous crins. Elle doit toujours rester au service de l’humain. L’impact environnemental, également inscrite dans la charte IA, est aussi un parti pris fort pour une IA raisonnée, responsable et de confiance.
Pour assurer la transparence des algorithmes, quels efforts réalisez-vous du côté de Pôle emploi ?
Samira Bounaasse : Pôle emploi prend le soin d’informer l’utilisateur final de l’exploitation de solutions qui comportent de l’IA.
- Pour le conseiller Pôle emploi comme pour le demandeur d’emploi, le choix de suivre la recommandation de l’IA ou de faire son propre choix est toujours possible, cela correspond à notre enjeu, l’humain au centre et la liberté de choix.
- Une ligne éthique & déontologie a été mise en place en interne pour les conseillers qui souhaitent avoir des précisions sur les usages des services IA. Nous disposons aussi d’un réseau de 19 correspondants régionaux en charge de l’éthique.
Richard Ruot : La question de la transparence des algorithmes s’inscrit dans le prolongement :
- de la loi pour une République numérique promulguée le 07/10/2016,
- de la Mission Bothorel « pour une politique publique de la donnée » de 2020.
Il est possible d’afficher le code source mais cela ne rendra pas la démarche plus transparente, compte tenu des compétences techniques pré-requises pour saisir l’approche.
En revanche, en termes de recommandation méthodologique et pédagogique, nous dissocions le volet des prédictions issues de l’algorithme IA et les règles de gestion métier qui les exploitent pour favoriser l’explicabilité et éviter que l’IA soit perçue comme une boîte noire.
Avez-vous établi des limites d’exploitation à ne pas dépasser avec l’IA ?
Nous ne disposons pas de liste noire de sujets IA à ne pas traiter.
Nous disposons désormais de cette charte pour alimenter nos réflexions et sécuriser nos choix et nos actions dans le cadre de nos missions de service public. Pas de limites à priori mais donc un cadre qui permet d’étudier tous les cas qui se présentent à nous qu’ils soient concrets et exprimés par nos métiers ou qu’ils soient conceptuels.
Notre prisme et nos limites ne viennent pas des technologies de l’IA, nous pouvons exploiter le machine learning comme le deep learning, mais du respect à notre cadre éthique que nous avons posé à Pôle emploi .
Cette charte IA est applicable à combien de services exploités par Pôle emploi ?
8 services ont été généralisés pour répondre aux besoins des conseillers, des demandeurs d’emploi et des recruteurs. Une vingtaine d’autres sont en cours de qualification ou exploités sous forme de POC.
| Categories de solutions IA | Noms des applications | Objets d’exploitation |
| Solutions orientées conseillers | Gestion des contacts via mails A1 | Optimise le traitement des mails des conseillers et renforce la personnalisation er la réactivité des échanges par mails |
| Solutions orientées demandeurs d’emploi | Recommandations personnalisées | Propose des services du catalogue de Pôle emploi et ses partenaires comme des leviers au retour à l’emploi du demandeur d’emploi (déploiement sur les régions Bourgogne, Franche Comté et Centre Val de Loire + sur les départements des Landes et de l’Aisne). |
| Analyse automatique de CV | Met en qualité le profil des demandeurs d’emploi sur la base d’extraction des données du CV (mis en service pour les demandeurs d’emploi primo inscrits). | |
| Accès simplifié à l’information | Améliore l’expérience utilisateur sur la recherche d’information depuis le site pole-emploi.fr. | |
| Solutions orientées recruteurs | Prédiction de la probabilité de pourvoi d’une offre à 30 jours | Apporte une aide à la priorisation des actions de relance des conseillers pour anticiper le contacte des recruteurs pour les offres dont le délai de pourvoir risque de dépasser les 30 jours. |
| Contrôle automatique de légalité d’une offre | Reconnait des offres légales/illégales et de gère la validation de la légalité des offres. | |
| VADORE | Permet de réaliser un projet mené dans le cadre du partenariat entre Pôle emploi et l’institut Polytechnique de Paris - mobilise toutes les données disponibles pour améliorer le rapprochement entre la demande et l’offre d’emploi en utilisant au-delà des critères communs de recherche, des informations à forte valeur (tests en cours). | |
| Solution déployée en interne | Smart emploi/Data emploi | Analyse le marché de l’emploi à une maille territoriale et expose une base d’indicateurs locaux certifiés sur le marché du travail accessible pour l’interne comme pour l’externe Pôle emploi. |
Parcours
Cheffe de projet éthique
Auditeur
Manager
Établissement & diplôme
Master en management, marketing
Fiche n° 46007, créée le 10/05/2022 à 17:50 - MàJ le 10/05/2022 à 18:11
France Travail
• Établissement public à caractère administratif chargé de l’emploi en France (a remplacé Pôle emploi le 01/01/2024)
• Missions :
- Accueillir et accompagner toutes les personnes - qu’elles soient ou non déjà en poste - dans la recherche d’un emploi, d’une formation, d’un conseil professionnel, d’une aide à la mobilité ou à l’insertion sociale et professionnelle
- Prospecter et mettre en relation les entreprises avec les demandeurs
- Contrôler la recherche d’emploi en France
- Indemniser les ayants-droit pour le compte de l’organisme gestionnaire du régime d’assurance chômage et pour le compte de l’État
- Maîtriser les données relatives au marché du travail et à l’indemnisation des demandeurs d’emploi
- Relayer les politiques publiques
- Coopérer avec les autres acteurs de l’emploi, de l’insertion et de la formation réunis au sein du Réseau pour l’emploi
• Implantations : près de 900 agences et relais de proximité ainsi qu’un réseau de partenaires sur l’ensemble du territoire
• Effectif : 55 000 collaborateurs
• Directeur général : Thibaut Guilluy
• Directeur général délégué : Paul Bazin
• Président du CA : Alexandre Saubot, président de France Industrie
• Vice-présidents : Patricia Ferrand (CFDT) et Hubert Mongon (Medef)
• Directrice de la Communication : Pauline Calmès
• Contact presse : Valérie Sebalj
• Tél. : 06 27 20 79 70
Catégorie : Etat
Adresse du siège
1-5 avenue du Docteur Gley75020 Paris France
Fiche n° 5645, créée le 01/09/2017 à 17:25 - MàJ le 20/11/2024 à 14:06