#38 Les IA : une menace pour tous les êtres sentients ? – Shaïman Thürler

🎙️Je ne pensais pas faire un jour un épisode sur l’intelligence artificielle dans Comme un poisson dans l’eau. Et pourtant, ces derniers mois, j’ai commencé à creuser le sujet. Un peu par curiosité, beaucoup par inquiétude. Et plus j’avançais, plus je me disais : il faut qu’on parle de ça.Car si ce qu’annoncent certain·es spécialistes est vrai, on est peut-être en train de créer une espèce plus intelligente que nous, qu’on ne saura ni comprendre, ni contrôler – et dont les conséquences pourraient être catastrophiques. Pas seulement pour les humain·es. Pour tous les êtres sentients.J’ai donc invité Shaïman Thürler, créateur du podcast Le Futurologue, qui s’est spécialisé dans l’analyse des risques liés à l’IA, et qui connaît aussi très bien les enjeux antispécistes.On a parlé des menaces immédiates, des risques existentiels, des failles de sécurité, du désalignement, de l’aveuglement collectif, de course à l'armement technologique et des réponses possibles.Et si l’on prend au sérieux une éthique sentientiste, une inquiétude plus profonde se dessine : les êtres sentients non humains – déjà largement oubliés – risquent de l’être encore davantage dans un monde gouverné par des IA non alignées. Un monde où ni leur souffrance, ni leur existence même, ne pèseraient dans la balance. Et si une IA devenait elle-même sentiente, rien ne garantit qu’elle serait mieux traitée que les autres.📄 Transcription complète de l’épisode📌 Chapitres de l’épisode :🎧 (00:00) Introduction – Pourquoi parler d’IA dans un podcast antispéciste ?🧠 (05:32) Pourquoi ChatGPT est une révolution🔍 (08:31) Comment fonctionne une IA ? De vraies boîtes noires⚠️ (13:08) Trois grandes familles de risques : malveillance, effets systémiques, désalignement💀 (20:19) Les risques existentiels : extinction humaine ou sentiente ?🤯 (26:07) Explosion d’intelligence. Pourquoi on ne pourra pas réagir à temps🔧 (33:23) Ce n’est qu’un outil, ça dépend des usages qu’on en fait🧯 (37:21) On n’aura qu’à les débrancher, on aura le temps de s’adapter🛸 (44:33) “Ce n’est que de la science-fiction !” Vraiment ?💸 (46:59) Pourquoi les géants de la tech ne peuvent plus s’arrêter🤐 (50:19) Silence médiatique et autocensure dans la recherche🦁 (53:20) Faut-il avoir peur ? Un bon réflexe de survie🔁 (58:52) Et si les IA faisaient pire que nous ?–––📚 Ressources citées dans l’épisode :ASL 3, échelle de sécurité développée par AnthropicCas de suicide en Allemagne impliquant ReplicaClaude 4 Opus qui apprend à mentirAgents qui s’auto-améliorent : Darwin, Gödel Machine, AlphaEvolveSelf-awareness des IAChercheurs ou PDG qui sonnent l'alerte : Yoshua Bengio, Geoffrey Hinton, Dario Amodei, Sam Altman, Ilya SutskeverProjet StargateConcepts de décolage rapide ou lent (hard vs slow take-off)Facebook Files (Frances Haugen)"Disneyland sans enfants", formule de Nick BostromSite de Shaïman Thürler pour s'informer et agirDiscords à rejoindre : PauseIA, Cesia, Le Futurologue ⭐Recommandations de Shaïman Thürler : 📖 Hyperarme – Flavien Chervet 📄 Article : « Questions fréquentes sur les risques catastrophiques liés à l’IA » – Yoshua Bengio 📺 Vidéo YouTube : L’horreur existentielle de l’usine à trombones – Ego💙 Soutenir le podcast : 🔗 Faire un donComme un poisson dans l’eau est un podcast indépendant et sans publicité : votre soutien est indispensable pour qu’il continue d’exister. Merci d’avance !Retrouvez aussi le podcast sur Instagram, Bluesky, Mastodon et Facebook via le Linktree.🎨 Crédits🎙️ Comme un poisson dans l’eau est un podcast indépendant créé et animé par Victor Duran-Le Peuch💡 Charte graphique : Ivan Ocaña🎵 Générique : Synthwave Vibe – Meydän🎶 Musique : Welcome to my Doom – PandaBeats🔔 Abonnez-vous et activez la cloche pour ne rien manquer !💜 Merci pour votre écoute, bisous !