L’IA peut-elle vraiment détecter l’IA ? (🎤 Thomas Jacquesson, Lucide AI)

Les détecteurs d’IA peuvent-ils réellement identifier un texte généré par une machine ? Thomas Jacquesson, président de Lucide AI, explique comment ces outils sont entraînés et pourquoi leur verdict doit rester un indice, jamais une preuve.🎤 INTERVIEW : Thomas Jacquesson - Président de Lucide AIL'essentielLes détecteurs d’IA ne seront jamais fiables à 100 %.Claude ou ChatGPT ne peut pas dire si un texte a été produit par une IA ou pas.Le détecteur d’IA, c’est un peu comme le détecteur de fumée.=================================Comment fonctionne un détecteur d’IA ?L’idée est de vérifier si un texte a été généré par une IA, en totalité ou en partie, ou si un humain est à l’origine du texte. Les premiers détecteurs fonctionnaient avec des règles basées sur des caractéristiques fréquemment observées dans les textes générés par les IA. Les meilleurs détecteurs actuels sont entraînés avec des centaines de milliers de textes dont on connaît l’origine. L’IA apprend ainsi à distinguer mathématiquement les textes humains des textes générés par des machines. Il n’y a pas de watermark ni de marque secrète dans le texte.Pourquoi les détecteurs peuvent-ils donner des résultats différents ?Les différences peuvent venir des méthodes d’entraînement. Certains outils peuvent être davantage fondés sur des règles ou avoir été moins entraînés sur certains styles d’écriture. Nous avons nous-mêmes un taux général de bonne réponse autour de 97 %, avec un taux de faux positifs inférieur à 1 %. Mais tous les détecteurs peuvent se tromper, y compris le nôtre. La précision dépend notamment du registre d’écriture et de la quantité de texte disponible.Pourquoi faut-il se méfier d’un verdict présenté comme une preuve ?Un détecteur ne sera jamais fiable à 100 %, notamment parce que la langue évolue en permanence et que les IA évoluent elles aussi. Les textes courts sont également difficiles à analyser : il faut au bas mot 300 à 400 mots pour disposer de suffisamment de matière. Dans l’éducation, nous recommandons donc de ne pas considérer le résultat comme une preuve, mais comme un indice qui doit conduire à interroger l’étudiant et à vérifier s’il maîtrise réellement le sujet. C’est une démarche de levée de doute.Comment éviter les erreurs sur des textes anciens ou des styles particuliers ?Il faut entraîner les modèles sur des écrits anciens et sur des styles différents. Nous avons déjà rencontré des cas où une ancienne version de notre modèle accusait à tort des écrivains ou des textes anciens. La longueur du texte joue aussi beaucoup : un poème peut être trop court pour permettre un verdict fiable. C’est pourquoi nous affichons, comme nos concurrents, un indice de confiance fortement lié à la longueur du texte fourni.Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.