S08E02 · Data & IA dans le secteur public

0:03 Un mantra que je répète à longueur de journée, c'est arrêter de me faire une demande orientée solution, expliquez-moi quels sont vos besoins. La machine est toujours plus puissante que nous sur ses domaines de compétences et d'expertise. J'espère qu'on va montrer à tout le monde que le secteur public est loin d'être à la traîne. Bonjour, je suis ravi de vous accueillir aujourd'hui pour ce nouveau podcast de Tech.Rocks qui est dédié au speaker du prochain Tech.Rocks Summit qui aura lieu le 30 novembre et le 1er décembre 2026 à Paris, au Théâtre de Paris. Je suis Laurent Hache, je suis Chief Data and AI Officer chez Solocal. J'ai aussi été CTO de Quant, CTO de Rakuten France et je suis dans le domaine de l'IA et de la data depuis... Très longtemps. L'IA, ça a été beaucoup de choses suivant les époques et aujourd'hui, c'est bien sûr l'IA générative et donc on va parler de ça avec Antoine, Antoine Carette, qui est directeur de la donnée à la région Île-de-France. Bonjour Antoine et je vais te laisser te présenter.

1:05 Super, merci. Donc Antoine Carette, je suis directeur de la data et de l'IA à la région Île-de-France depuis 2022. On est une équipe de 28 personnes au sein d'un pôle transformation numérique qui a été créé lui aussi il y a 4 ans pour accélérer la transformation de la région. Est-ce que tu peux nous dire justement par rapport à ce domaine Data IA, à quel moment dans... Ta vie professionnelle, c'est devenu vraiment un sujet pour... Pour toi, alors que je crois qu'initialement, ta formation, c'est plutôt dans le domaine de l'économie ? Absolument, oui. Je suis ingénieur économiste et d'ailleurs, je suis arrivé à la région comme telle. Je suis arrivé puisque la région s'occupe de différents domaines, dont l'investissement dans les infrastructures de transport. Et j'ai basculé progressivement. Alors, le rapport entre l'économie et la data, il est assez immédiat et assez naturel. Et à l'époque où je me suis formé, il n'y avait pas vraiment de formation proprement data. Par contre, quand on fait de l'économétrie, quand on fait des maths, la data, c'est quelque chose qu'on a à la fois en consommation, en modélisation, en simulation.

2:07 Et donc, la transition a été assez naturelle. Et est-ce que ça, les changements récents, évidemment, c'est vrai que la data et même l'IA, c'est un domaine ancien, mais tout le monde sait qu'il y a eu des bouleversements récemment. Est-ce que dans ton organisation, ça a été des changements plutôt dans le domaine technique ou bien plutôt du côté de l'organisation, des changements culturels? Alors, chez nous, je dirais que les changements, ils sont plutôt d'ordre culture, d'organisation. Côté technique, bien sûr qu'il y a des évolutions de la stack régulière, mais j'ai envie de dire plutôt en palier, plutôt progressive, itérative. Côté culturel, déjà, il y a quatre ans, quand on a créé une direction de la data, Un objectif était d'appuyer et d'accélérer la culture data, la culture du pilotage, de l'évaluation au sein de l'entreprise. La collectivité. Il y avait un certain nombre d'outils et de méthodes présents, mais c'était un challenge. Et aujourd'hui, pour moi, les enjeux, ils sont beaucoup autour du développement de l'agilité et de la culture produit, qui ne sont pas des identifiants naturels

3:15 dans le secteur public, dans une collectivité, et qui sont pourtant essentiels parce que rendre un service de qualité, c'est essentiel. Donc c'est aussi un état d'esprit par rapport au data-driven et aux nouvelles technologies, via génératif? Absolument. On travaille la data en mode produit de plus en plus, c'est l'objectif. Et donc on ne cherche pas le grand soir technologique, la prouesse, etc. Mais surtout à trouver la meilleure méthode pour déployer un service, pour déployer un produit qui va satisfaire un besoin. Ce qui est marrant, c'est qu'en fait, il y a une certaine continuité dans les approches, les méthodes, dans les bonnes pratiques qu'on essaie de mettre en place par rapport à la data et l'IA. En fait, on retrouve des principes et des bonnes pratiques qu'on essayait de mettre en place avant, mais qu'on est encore plus incité à suivre aujourd'hui. Oui, je suis complètement d'accord. Un mantra que je répète à longueur de journée, c'est arrêtez de me faire une demande orientée solution, expliquez-moi quels sont vos besoins. Et ça, avec l'IA, rien ne change.

4:17 C'est exactement ça qui doit rester notre ligne de conduite, parce qu'on ne veut pas faire de la solution pour de la solution. Enfin voilà, je n'en fonce que des portes ouvertes, mais c'est quelque chose qui est évidemment toujours pas naturel. Oui, mais c'est vrai que c'est tout à fait un risque maintenant. Maintenant, parce que c'est un tel changement technologique lié à Génératif qu'on a incité à partir des capacités techniques, alors que toujours partir de l'utilisateur, du produit, du business. C'est ça. C'est comment faire simple et utile et efficace, ça reste un enjeu. Après, évidemment, la technologie, l'infra, etc. Va déterminer des limites, et puis les ressources budgétaires et humaines. Mais aujourd'hui, en termes de technique et de solution, il n'y a plus grand-chose qui n'est pas accessible. à nos organisations. Oui, à la limite, c'est plus accessible qu'avant, parce que c'est plus de l'intégration de solutions qui sont à disposition aujourd'hui. Si tu es d'accord, on peut aborder un autre sujet qui est important aussi dans ces domaines, c'est la souveraineté technologique. Est-ce que, j'imagine que c'est un sujet important, est-ce que c'est devenu vraiment un sujet central pour la région Île-de-France?

5:20 Et quelles contraintes ça impose? Est-ce que ça freine dans une certaine mesure les innovations ou les projets? Alors déjà, je pense que la souveraineté, c'est une évidence. Le mot souveraineté lui-même, il peut vouloir dire beaucoup de choses, on peut y mettre beaucoup de réalité derrière. La souveraineté à proprement parler, pour moi, c'est une question qui se réfléchit et qui se pense à l'échelon national, européen, dans les équilibres géopolitiques qu'on connaît aujourd'hui. Et nous, à la région Île-de-France, c'est un sujet qui est ancré dans nos cœurs, je ne peux pas le dire autrement, parce que c'est quelque chose qui nous importe. Les régions sont en charge du développement économique et du soutien à l'innovation au titre du développement économique. Donc, ce serait très incohérent qu'on aide d'un côté les acteurs français à se développer, et puis de l'autre qu'on ne soit pas sensible opérationnellement à cette question au quotidien. En revanche, pour notre collectivité au quotidien, les enjeux, c'est la résilience et l'indépendance, en tout cas le fait de ne pas être dépendant d'un acteur dans notre continuité d'activité.

6:23 Donc, c'est d'assurer que la collectivité reste maîtresse de ses choix dans la durée, éviter les effets de kill switch dont on parle. On parle régulièrement actuellement, c'est souvent le sujet qui revient, mais concrètement c'est ça. C'est comment on fait des choix qui ne mettent pas les œufs tous dans le même panier, comment on s'assure d'avoir un équilibre entre les différentes approches qui nous permettent, dans la durée, d'éventuellement mettre un peu plus d'énergie d'un côté, un peu plus d'énergie de redresser, d'être agile, mais pas au sens agilité telle que méthodologique, mais plus flexibilité et possibilité de se retourner. Avec des compromis aussi, j'imagine. C'est difficile d'être complètement intransigeant sur le sujet et d'avoir aussi les moyens de travailler. Il faut rendre un service et à la fois la qualité de service et la continuité de service, c'est les enjeux numéro un. On le voit, et d'ailleurs je peux donner un exemple sur notre plateforme d'IA interne. Finalement, on considère qu'on est en concurrence avec les outils externes.

7:24 On a fait le choix dès le départ de ne pas interdire l'usage des chats GPT, Entropique et tout ça. Pourquoi? Parce qu'on était convaincus que bloquer un usage par la règle, ça fonctionne assez mal et on avait la chance de ne pas avoir des contraintes réglementaires que peuvent avoir les secteurs banque et assurance pour le faire. Et on a vu, on le voit dans les statistiques, dans les articles de presse, que finalement les collectivités qui ont interdit ces usages, fermé ces usages, en fait les utilisateurs sont passés à droite, à gauche et par-dessus la barrière. En considérant qu'on est en concurrence avec ces acteurs, évidemment on n'a absolument pas les mêmes moyens, ni marketing, ni en termes... de développement de capacités à concevoir des fonctionnalités. Par contre, ça nous oblige à être astucieux. Et pour moi, la souveraineté, elle se gagne dans l'astuce, dans le fait qu'on va être très focus, je reviens à la logique produit, sur le besoin et ce qui va être différenciant pour nos utilisateurs. Et donc, quand je parle de plateforme IA, notre force en interne, ça va être le contexte, la pertinence des réponses par rapport à l'effort que l'utilisateur va mettre dans son compte pour obtenir ce qu'il cherche.

8:32 Donc vous encadrez aussi l'usage de ces chatbots? Oui, on recommande. Alors, on est toujours dans, on recommande, on sensibilise, on forme. Donc ça, le change, il est essentiel. Et en même temps, on ne bloque pas. C'est un choix, justement, est-ce que ça freine l'innovation, la souveraineté? On ne veut pas freiner l'innovation. Je vous dis, la région, dans son ADN, elle a le soutien à l'innovation. Donc ça, c'est une chose d'essentiel et une impulsion de la présidente de région très forte dans ce sens. Donc, notre stratégie, c'est surtout d'encadrer, d'accompagner, de sensibiliser, de permettre, sur le shadow, sur les pratiques shadow, AI, etc., on fait surtout de l'observation. De l'observation à la fois quantitative, puis de nombreuses enquêtes qualitatives, interviews, pour comprendre éventuellement qu'est-ce qui va faire que les pratiques vont se rabattre sur notre plateforme ou vont au contraire aller à l'extérieur. Il y a aussi des modes et du mode. C'est-à-dire qu'il y a des grosses différences de performance dans les plateformes et aussi un peu les LLM, mais il y a aussi des modes.

9:36 C'est-à-dire qu'en ce moment, tout le monde veut faire du cloud, et parfois, c'est des usages pour lesquels, c'est des cas d'usage où il n'y a absolument pas besoin de cloud, et il y a beaucoup d'autres solutions qui marchent aussi bien ou mieux même, suivant les outils qui sont intégrés. Donc, il faut gérer ça aussi, ces demandes liées aux modes. Oui, à la mode, en effet. Dans le shadow, on voit bien qu'il y a un acteur qui tire son épargne du jeu. Chez nous, c'est... OpenAI, pour le coup, parce que c'est un assez grand public. Au cœur des fonctions IT et tech, c'est plutôt en effet Claude qui tire son épingle du jeu. En revanche, et ce sur quoi on est assez fiers, c'est que finalement, on a déployé un certain nombre de LLM en infra maîtrisé, donc des LLM open source, open way. Et aujourd'hui, la majorité des usages sont réalisés sur ces modèles-là, ce qui montre bien qu'en fait, l'utilisateur, si on l'oriente bien, dès qu'il a la valeur qu'il attend, il s'arrête là, il ne va pas forcément toujours chercher. Il y a un petit effet mode, mais généralement, quand l'utilisateur a sa réponse, ils sont satisfaits.

10:40 Est-ce qu'il y a des relations avec d'autres acteurs publics? Est-ce que vous mutualisez certains moyens, par exemple pour l'hébergement des modèles ou sur d'autres sujets? Oui, on a un enjeu très clair de ressources et on ne va pas chercher à développer chacun son infra dans son coin et de manière infinie. Et quand on est héberge, soit on est sur des instances auprès de clouders qu'on connaît, soit un des modèles qu'on a développé à la région Île-de-France depuis maintenant plus de cinq ans avec Val d'Oise Numérique, notamment l'INSERM et un certain nombre d'universités. C'est un modèle de data center pour des acteurs publics et qui nous permet de développer progressivement des offres IAS, puis PAS, avec du GPU pour nos besoins d'inférence principalement. Et donc ça, ça nous permet de lisser la charge, ça nous permet d'optimiser l'utilisation de la... Et un autre volet dans les usages, pour rester sur comment est-ce qu'on évite de surdimensionner l'infra, c'est comment on ordonnance les cas d'usage, sachant que dans les cas d'usage bureautique, du quotidien, tâches du quotidien, il y en a beaucoup qui n'ont pas nécessité de réponse immédiate.

11:51 Et donc ça, on invite toujours, quand on travaille le cas d'usage avec les métiers, à rechercher qu'est-ce qui peut être asynchrone, Je dépose mon batch de dossier le lundi matin et je reviens les chercher plus tard dans la semaine quand c'est prêt. Et comment vous... C'est un sujet aussi avec l'arrivée de l'IA générative, il y a tellement de choses possibles et d'idées qu'il y a à la fois des enjeux de favoriser l'adoption, mais aussi de gérer toutes les initiatives, de prioriser les sujets. Comment vous gérez ça dans votre organisation? Alors, on a décidé, on a structuré progressivement un programme IA en agilité à l'échelle qui nous permet d'embarquer l'ensemble des pôles et directions de la région. La région, c'est une quinzaine, on va dire, de compétences, l'environnement, les transports, le développement économique, la culture, la formation professionnelle, l'aménagement, etc. Et j'en passe. Et donc, dans chacune de ces verticales métiers, on va chercher à impliquer le métier à la fois pour faire de l'expression de besoins, de cas d'usage, et puis aussi pour prioriser, parce qu'en termes de ressources, c'est nécessaire.

13:00 Et puis, c'est toujours sain de mettre le métier face à ses propres besoins et priorisations. Donc ça, c'est comment est-ce qu'on priorise. Donc, on va surtout chercher la notion d'impact, la notion de ROI à proprement parler, elle est difficile à quantifier dans le public, mais pour autant, c'est quand même cette logique qu'on va chercher, c'est-à-dire le cas d'usage paillette, on va dire, il va y avoir moins de points. Ça ne nous empêche pas de temps en temps de se dire, on va traiter un cas d'usage parce qu'il va être visible, qu'il va nous permettre d'acculturer, d'avancer. Vous avez mis en place des guidelines, par exemple, il y a des manières éthiques pour utiliser l'IA qui doivent être imposées, ou des règles, etc. Bon, il y a des règlements aussi, bien sûr. Non, mais on a un règlement européen sur l'IA qui est assez exigeant, et en même temps qui offre un cadre opérationnel assez clair. Et donc finalement, être conforme à ce cadre, c'est déjà une belle ambition pour nous. Je pense qu'on est tous dans ce challenge. Notre conviction, c'est que ça se construit by design, C'est-à-dire qu'on voit bien dans les discussions qui ont lieu en ce moment entre la Commission et le Parlement européen qu'il y a des décalages de deadlines de mise en conformité qui vont avoir lieu.

14:12 Pour autant, on ne se relâche pas sur cet effort parce qu'on préfère traiter les sujets par conception plutôt que de les rattraper dans un an. Donc c'est quelque chose qui est déjà dans la continuité de la conformité RGPD. Finalement, il y a beaucoup d'identifs en commun. D'ailleurs, cette fonction de conformité n'est pas… côté juridique dans notre organisation, mais depuis 2020-2021, on l'a intégré dans la fonction data. Et donc, ça nous permet d'être plus proche, que ces enjeux de conformité soient vraiment au lieu de la conception des produits data. Il y a aussi des considérations de nouveaux rapports entre humains et machines, à la fois dans l'entreprise, mais pour les utilisateurs. Comment vous gérez? Est-ce que vous vous intéressez à cet aspect? humain et quelle approche vous avez par rapport à ça ? Oui, nous c'est surtout l'IA-GEN qui a fait entrer l'IA dans le fonctionnement de la région, puisque pour plein de bonnes raisons, on a des travaux surtout administratifs, bureautiques et peu d'exploitation de services.

15:18 Il y a quelques domaines sur lesquels il y a de l'algorithmie plus conventionnelle, plus classique, mais sinon c'est avec l'IA-GEN. Et donc, on a commencé début 2023 de manière très pointilliste et empirique. Et là, c'était surtout sur quelques cas d'usage. Lancer quelques projets pilotes pour observer ce que ça allait impacter en termes d'usage, en termes de conduite du changement, en termes de construction de produits, etc. Et assez vite, les enseignements que ça nous a donnés, c'est la nécessité de construire une gouvernance très articulée entre la transformation numérique et la fonction RH. Et donc ça, c'est un des premiers actes début 2024 de construction d'un pilotage conjoint qui aujourd'hui fonctionne dans l'équipe cœur, justement, Agile at Scale. Il y a vraiment des collègues à la fois transformation numérique et RH au quotidien. Et puis, on a construit un certain nombre de dispositifs. Dès 2023, des semaines d'acculturation spécifiques pour les collaborateurs, les agents de la région, pour ouvrir un peu le débat, ouvrir les chakras, apporter des éléments de réflexion.

16:30 apporter de réponses, être dans une posture vraiment d'éclairage, d'ouverture d'esprit. On a fait venir des philosophes, Julien Gobin, on a fait venir des sociologues du travail, Yann Ferguson, on a fait venir plus récemment d'ailleurs Albert Moukébert, qui est neuropsychologue si je ne me trompe pas, et donc qui apporte des éclairages et finalement une prise de distance, parce qu'en effet ce qu'on observe concrètement c'est que Dans l'usage de l'IA générative, c'est surtout sa propre observation de soi, ce qu'on peut appeler l'esprit critique, ou ce que les psychologues appellent la vigilance épistémique. C'est comment j'ai un regard critique sur ce qui est proposé et que ça ne m'enferme pas dans mes propres biais psychologiques à moi. On parle souvent des biais de l'IA, mais peut-être que l'IA embarque des biais. Mais c'est surtout nous-mêmes, comment est-ce qu'on se positionne par rapport aux réponses de ces modèles. Oui, se positionner par rapport à l'IA génétique, c'est vraiment un gros sujet. Et on a aussi à gérer les changements que ça apporte, à la fois chez des personnes qui sont très enthousiastes et qui partent dans tous les sens, ou chez des gens qui sont réticents à abandonner certaines tâches qu'ils aimaient et qui peuvent être en partie automatisées.

17:40 Donc il y a aussi cette difficulté. Ce que je dis souvent, c'est que dans l'automatisation, finalement, si on avait cherché le potentiel du RPA à son plein potentiel ces 10-15 dernières années, on l'aurait fait. Et donc finalement, aujourd'hui, je pense que la crainte, et d'ailleurs on l'observe, parmi les dispositifs qu'on a mis en place, il y a un baromètre. Mètre annuel depuis début 2023, qui nous permet d'observer l'appropriation, la compréhension, l'appréhension autour de l'IA dans les pratiques professionnelles auprès de l'ensemble des agents de la région. Et ce qu'on observe en croisant les éléments, c'est que plus les personnes pratiquent, plus leur inquiétude décroît. Parce que finalement, quand on pratique, on voit bien où se positionne sa propre valeur par rapport à ce que la machine apporte. La machine est toujours plus puissante que nous sur ces domaines de compétences et d'expertise. Par contre, l'approche holistique, l'impulsion, l'intention, etc., ça reste l'humain qui est aujourd'hui…

18:42 à cette prédominance, on va dire. Et donc, voilà, dans les craintes, on observe que c'est quelque chose qui décroît. Par contre, et il ne faut pas le nier, ça invite, et je trouve ça intéressant parce que j'ai régulièrement au cours de la semaine des retours de collègues en ce sens, c'est finalement, ça requestionne le finalement, qu'est-ce qui fait de moi quelqu'un qui apporte de la valeur à l'organisation, Finalement, sur mon expertise, c'est peut-être plus précisément sur une expertise, mais finalement dans la capacité à croiser des expertises. C'est quelque chose qui forcément requestionne le positionnement de chacun dans ses tâches. Oui, il ne faut pas lutter sur des sujets perdus d'avance, mais par contre, il y a des... Il y a beaucoup d'aspects du travail de chacun qui dépassent de beaucoup les capacités des LLM encore aujourd'hui. Absolument. Un peu plus concrètement, dans le job des gens qui travaillent, Dans le domaine data et IA, est-ce qu'il y a des... Par exemple, chez vous, vous avez encore beaucoup de data scientists. Quels profils techniques sont utiles pour vous en ce moment dans ces domaines-là, sur les projets IA, par exemple, avec l'IA générative, ça change pas mal le profil des gens qui travaillent sur les projets.

19:49 Comment ça se passe? Complètement. La région, et je pense comme beaucoup de collectivités publiques, ça a été ces 10-15 dernières années au moins, des choix d'acheter plutôt que... faire beaucoup parce qu'il y avait des solutions spécialisées dans les besoins au cœur du service public local. Et donc finalement, il y a eu une forte externalisation et finalement, dans les fonctions DSI, beaucoup d'acheteurs finalement. Je vais loin en disant acheteurs, mais des profils dits chefs de projet, MOA, MOE, etc. Ce qu'on a fait en créant la direction de la donnée dès le départ, c'est de réintroduire des fonctions de data science en interne. Progressivement pour montrer que, enfin quelque chose qui me tenait à cœur, c'est de dire avant d'aller chercher à l'extérieur une solution, parfois on peut trouver quelque chose de simple et efficace en interne. Et ça, ça fonctionne assez bien, on a aujourd'hui du recul sur les 4-5 dernières années de cette fonction-là. Du coup, avec l'IAGN, c'est des fonctions qui ont On a identifié assez vite, fin 2023, début 2024, la nécessité de même renforcer la capacité d'architecture algorithmique.

20:56 On a un staff engineer dans l'équipe et c'était des fonctions qui étaient peu valorisées, peu visibles et peu comprises jusque-là. Et ça nous permet aussi... d'animer tout un réseau. On a construit une communauté des data et AI builders dans la collectivité. Et j'entends par là toutes les personnes qui se sont mises à VibeCoder, qui se sont remises, qui ont des profils un peu bricoleurs, bricoleuses, qui ont certainement un parcours un peu technique, un peu ingé au départ. Mais qui sont depuis parfois 20 ans, 30 ans. sur complètement autre chose, sur du management, et qui finalement, en voyant l'IA-GEN arriver avec la capacité de développer assez rapidement, se sont mis à prototyper. Et ça, il y a deux aspects. Soit ça peut faire du shadow AI, shadow IT, et générer du risque. Soit, et nous c'est comme ça qu'on l'a considéré, c'est la capacité à avoir des prototypers proches du besoin, proches du métier, à démultiplier notre capacité à faire.

21:57 Et donc les enjeux qu'on a autour de cette communauté, c'est surtout d'encadrer les pratiques, d'accompagner, de recommander les bonnes pratiques. Et puis, ce qui est assez marrant pour une collectivité comme la région, qui n'avait plus du tout cette pratique-là, qui n'a jamais vraiment développé une pratique de DevOps, c'est de reconstruire une logique de CICD, des process, des méthodes, des normes. Donc ça, c'est quelque chose qu'on est en train de reconstruire à la région. Oui, comme on disait, ça remet en avant des... Et des bonnes pratiques qu'on essayait de développer avant et qui sont maintenant indispensables encore plus avec l'IA générative. La table ronde va être vraiment très intéressante. J'ai hâte de vous entendre. Le sujet, ça va être comment les grands acteurs nationaux et publics déploient l'IA. Et il y aura RATP Smart System et France Travail avec la région Île-de-France. Qu'est-ce que tu attends de cette discussion? Qu'est-ce que tu as envie de susciter chez les personnes qui vont assister à la... J'espère qu'on va montrer à tout le monde que le secteur public est loin d'être à la traîne.

22:59 L'innovation est loin d'être à la traîne. Ce n'est pas toujours quelque chose qu'on attend de la part du service public. Et pourtant, il y a des makers qui innovent, qui construisent des choses utiles, concrètes, une approche très pragmatique. Je pense que là-dessus, on se rejoint avec beaucoup d'autres organisations, notamment du privé. Super, merci beaucoup. J'ai trouvé ça très intéressant et j'ai hâte d'être au Summit. Il y aura lieu le 30 novembre et 1er décembre 2026 au Théâtre de Paris. J'invite tout le monde à venir y assister. Merci encore Antoine. Merci Laurent.