L’Intelligence Artificielle au service de la Sécurité Sociale ? Entretien avec Nicolas Amar

L’Intelligence Artificielle au service de la Sécurité Sociale ? Entretien avec Nicolas Amar, ancien conseiller de Cédric O (Secrétaire d'État chargé du Numérique) et CEO /co-fondateur de Workka.

En tant que cabinet travaillant auprès d’acteurs publics et privés du monde de la protection sociale, nous avons cherché à savoir en quoi les récentes évolutions de l’IA - avec notamment l’essor de l’IA Générative en libre disposition - pouvaient avoir un impact sur les métiers et l’organisation de nos clients. Dans cette démarche nous avons consulté des acteurs de la protection sociale - retraite, santé, emploi, données sociales - pour avoir une première vision des différents cas d’usages et des types d’IA employées ou envisagées dans ces secteurs.

‍

Sous-titre :Cartographie des usages de l’IA dans la protection sociale (YCE Partners)

Nous avons ensuite eu la chance d’échanger avec Nicolas Amar, co-auteur du rapport sur les cas d'usages de l'intelligence artificielle dans la Sécurité sociale pour l’EN3S. 

Le terme “Intelligence Artificielle” est protéiforme et sert parfois de mot valise pour des fonctionnements très distincts, comment l’avez-vous défini dans le cadre de vos recherches ?

Nous avons choisi une définition fonctionnelle en faisant de l’IA l’ensemble des techniques contribuant à l’automatisation de tâches. On couvre ainsi tout ce qui permet l’automatisation, de l’IA prédictive à la générative, quelle que soit la méthode algorithmique utilisée.

Cette approche fonctionnaliste n’empêche pas de distinguer les différentes typologies d’IA mais elle permet surtout de distinguer les cas d’usages facilités par leur technologie. Nous avons ainsi abouti à un regroupement de ces usages par métier : gestion des connaissances et processus, informatique, agents et management augmentés, contrôle et lutte contre la fraude et relation usager.

Ces différentes typologies d’usages sont nées d’atelier menés avec les caisses nationales – en particulier au niveau des directionsInnovation/Digital – avec pour objectif de trouver des cas d’usages prospectifs pertinents et d’étudier les impacts que cela pourrait représenter sur les missions de ces organismes.

Comment la Sécurité sociale a-t-elle fait sienne l’usage de l’IA ?

Les Organismes de Sécurité sociale (OSS) ont bien identifié le potentiel que pouvait représenter ces technologies et c’est pourquoi nous retrouvons déjà l’IA sous certaines formes chez chacun d’entre eux.

L’usage qui s’est répandu depuis déjà de nombreuses années est l’automatisation de processus (RPA) permettant à un robot de suivre un process avec des règles précises qui lui sont données, et pouvant donc remplacer des tâches répétitives aux conditions simples.

L’usage pour lequel l’innovation s’incrémente sans cesse est la lutte contre la fraude : l’IA analytique et sa facilité à créer des clusters d’individus à partir de leurs pratiques et habitudes communes est un outil privilégié pour mener cette lutte.

Exemple d’usage de l’IA pour la lutte contre la fraude : l’IA permet une amélioration continue de la détection de fraudes grâce à la combinaison des apprentissages supervisé et non-supervisé. À l’issue du contrôle par l’agent, des schémas de fraudes encore inconnus peuvent être décelés en croisant l’aptitude de détection d’anomalies de l’IA et sa capacité de scoring de risque.

https://en3s.fr/wp-content/uploads/2024/05/lia-dans-la-securite-sociale-rapport-mai-2024-1.pdf

L’IA générative n’est à ce jour que rarement intégrée dans les OSS, et si l’on retrouve bien des robots conversationnels, ils sont de 1^ère génération et sont donc régis par un ensemble de règles plus que par intégration d’un corpus documentaire permettant de répondre de manière autonome à l’ensemble des questions.

Quant à l’usage le plus plébiscité, il s’agit de l’aide à la programmation informatique, qui est à court terme l’usage avec le plus de facilité à être implémenté pour un gain de temps bien délimité. Il convient toute fois d’être vigilant sur les risques propres à l’usage de l’IA pour la production de code informatique (perte de maîtrise et d’expertise sur le code, manque de confidentialité, etc.).

L’automatisation des process via la technologie est donc bien déjà intégrée au fonctionnement des organismes de Sécurité sociale, l’objectif est-il aussi de profiter des formes d’IA les plus récentes ?

Tous les organismes ont entamé une réflexion ou déjà conduits des expérimentations d’utilisation des technologies d’IA les plus récentes (IA Générative, LLM, RAG).

Parmi ces études, les deux champs que l’on retrouve le plus souvent comme promesses de développement à moyen terme sont :

-             L’amélioration de la relation à l’usager : robots conversationnels, lutte contre le non-recours en permettant de cibler et d’alerter les individus pouvant bénéficier d’aides au vu de leurs caractéristiques afin de limiter les risques d’appauvrissement, de non-accès au soin, etc.

Exemple d’usage de l’IA pour lutter contre le non-recours : on s’aide des données recueillis sur les pratiques de l’individu et ses caractéristiques pour identifier s’il peut ou non être dans un moment de vie nécessitant une aide et un besoin d’entrer un contact avec un agent (aller vers). Dans les faits, la détection des personnes en situation de risque est déjà grandement automatisée, ce sont donc les modalités de prise de contact qui pourraient bénéficier d'une couche d’IA pour catégoriser les personnes selon let ype d'approche adapté afin de la proposer à l’agent.

On remarquera que la décision n’est pas prise directement par l’IA, cette dernière donne une recommandation en indiquant un risque pour un individu et c’est bien un agent qui décide - de par son expertise et expérience - de contacter ou non directement l’individu. Cela nécessite donc d’autant plus que la recommandation de l’IA soit facilement compréhensible et explicable : on parle d’interprétabilité.

-             L’agent augmenté (assistants métiers) : offrir aux agents la possibilité d’interagir avec une IA conversationnelle entrainée sur la documentation spécifique à leurs enjeux métiers. L’IA peut non seulement répondre à leurs questions, mais également leur proposer plusieurs suggestions de mails ou les aider à structurer un rapport. Le contrôle humain à chaque niveau est ici central : il est essentiel de suivre un processus par étapes intermédiaires(proposition de plan, une synthèse, puis rédaction, etc) afin de garantir la qualité de la production de l’IA. Les récents progrès du questionnement documentaire (RAG) sont importants dans ce cadre, permettant à l’IA d’étudier un texte non pour copier sa structure mais pour intégrer les questions et réponses sous-tendues dans le corpus étudié.

Exemple d’usage de l’IA pour aider à la rédaction d’un support :

https://en3s.fr/wp-content/uploads/2024/05/lia-dans-la-securite-sociale-rapport-mai-2024-1.pdf

Le découpage en plusieurs étapes permet de structurer au maximum le format de réponse de l’IA et donc de limiter les risques d’hallucination (réponses faussées). Ici encore, c’est bien l’agent qui a la décision finale sur l’envoi ou non du document.

En définitive, le paysage que vous avez dessiné des usages de l’IA dans la sécurité sociale vous a-t-il permis de noter des enseignements communs ?

Le ROI reste aujourd’hui délicat à évaluer ab initiomais les externalités positives sont claires (qualité de service, réduction des tâches répétitives et à faible VA pour les travailleurs…). Ce qui ressort le plus est que pour que l’expérience de l’usage de l’IA soit positive, il est essentiel de prendre en compte certains prérequis : garantir une boucle qualité (avec mise en place de tests et de retours humains pour améliorer les retours de l’IA en continu), un accompagnement à la transformation et à la formation, un déploiement progressif, etc. Ce sont notamment ces prérequis qui nous mènent avec ce rapport à plusieurs propositions pour permettre aux acteurs de la Sécurité Sociale de bénéficier au maximum des opportunités présentées par l’IA.

Enfin, l’enseignement qui nous semble le plus pertinent pour les OSS est de privilégier un maximum la mutualisation. Elle peut s’appliquer aux expériences et connaissances accumulées par ces organismes, mais peut aussi se matérialiser sous la forme de briques communes de solutions IA. En effet, même si les spécificités de chaque organisme ne sont pas à sous-estimer (notamment en matière de lutte contre la fraude), certaines verticales mériteraient des travaux de mise en commun des coûts pour un usage partagé d’outils fiables avec une réelle maitrise de la donnée et de son hébergement.

Annexes : les propositions du  rapport pour l’EN3S

Renforcer les infrastructures et les  mutualisations nécessaires au déploiement de l’IA

-               Proposition 1 : Créer un centre d’excellence pour l’Intelligence  Artificielle

-               Proposition 2 : Améliorer la circulation des données entre  caisses de sécurité sociale par une politique de la donnée efficace

-               Proposition 3 : Mutualiser les solutions IA autant que possible

Démontrer l’intérêt de  l’intelligence artificielle pour le service rendu aux usagers

-               Proposition 4 : S’inscrire dans la doctrine administration  proactive de la Dinum

-               Proposition 5 : Expérimenter des solutions d’IA sur des sujets  majeurs et visibles du grand public

-               Proposition 6 : Communiquer sur les apports positifs de l’IA pour  les usagers

Accélérer le déploiement de nouveaux  cas d’utilisations de l’IA au sein de la Sécurité sociale

-               Proposition 7 : Systématiser la documentation du ROI sur les  prochains cas d’usage déployés en IA

-               Proposition 8 : Expérimenter la génération de réponses écrites  par l’IA et évaluer les impacts de l’amélioration de la qualité

Accompagner la transformation, clé  du succès

-               Proposition 10 : Impliquer les collaborateurs sur la base du  volontariat

-               Proposition 11 : Proposer des formations accompagnantes aux  personnels

-               Proposition 12 : Accompagner le déploiement de l’IA à des fins de  codage au sein des services informatiques des caisses de sécurité sociale

-               Proposition 13 : Stabiliser la compréhension et l’interprétation  qu’ont les organismes de sécurité sociale des réglementations propres à l’IA  et aux données personnelles

https://en3s.fr/wp-content/uploads/2024/05/lia-dans-la-securite-sociale-rapport-mai-2024-1.pdf

‍