Rester une organisation de confiance à l’ère de l’IA – Jean-Gabriel Ganascia et Sieglin Stevens Dampierre

Ecoutez les derniers épisodesEcoutez tous les épisodes sur Deezer, Spotify et Apple podcast. Vous pouvez voir le transcript de l’épisode en haut de cette page.Dans cet épisodeLa conformité réglementaire suffit-elle à rendre une organisation digne de confiance ? RGPD, AI Act, le droit trace des lignes rouges. Mais entre le permis et l’interdit, il reste toute une zone grise où la décision continue de revenir à l’organisation elle-même et c’est précisément là que l’éthique joue son rôle.Pour ce deuxième épisode, je reçois Jean-Gabriel Ganascia, professeur d’informatique à Sorbonne Université et président du comité consultatif éthique externe de France Travail (ex-Pôle emploi) et Sieglin Stevens, directrice chez Eurogroup Consulting, qui accompagne depuis plus de dix ans les transformations numériques d’organisations publiques et privées sur les sujets de gouvernance, d’éthique et de conformité de la donnée et de l’IA.On revient sur l’encyclique du pape Léon XIV, Magnifica Humanitas et sur les deux mythes bibliques qu’elle mobilise, Babel, la tentation d’une langue unique qui efface les cultures et Néhémie, une appropriation de l’IA à hauteur de chaque communauté plutôt qu’imposée d’en haut. Jean-Gabriel y voit une réponse directe à la notion d’alignement portée par des entreprises comme Anthropic : avant de demander aux machines de respecter des valeurs, il faut déjà s’accorder sur lesquelles, sachant qu’elles sont souvent en tension les unes avec les autres, comme la vie privée et la transparence, ou l’inclusion et la non-discrimination. Sieglin et Jean-Gabriel racontent comment ils ont vécu ce passage de la théorie à la pratique chez Pôle emploi, devenu France Travail, avec son programme « intelligence emploi » : une charte co-construite, un comité interne chargé de la faire vivre au quotidien et un comité consultatif externe, chargé de trancher les dilemmes les plus sensibles, complétés par un guide qui décline ces engagements métier par métier, du data scientist au chef de projet. Jean-Gabriel rappelle qu’il n’existe pas d’« éthique algorithmique » à proprement parler et que l’enjeu central n’est pas le biais en soi, dont nous sommes tous porteurs, mais la discrimination qu’il peut produire une fois intégré à une décision. Avec l’IA générative, ce travail change d’échelle : ce n’est plus un projet identifié qu’on audite, mais des usages portés par tout le monde, ce qui appelle des chartes plus agiles et des comités plus réactifs.Jean-Gabriel et Sieglin posent enfin deux conditions pour qu’une organisation reste digne de confiance à l’ère de l’IA : préserver la confiance de ses salariés, qui doivent continuer à donner du sens à leur métier sans craindre d’être réduits à de simples superviseurs de machines et préserver celle du public ou des clients, qui se détourneront vite d’un dispositif qui ne l’inspire plus. RéférencesOù trouver les intervenants :* Linkedin Jean-Gabriel Ganascia https://www.linkedin.com/in/jganascia/* Linkedin Sieglin Stevens Dampierre https://www.linkedin.com/in/sieglinstevens/ Get full access to Les dessous de l'IA at www.ldia.eu/subscribe