#44 Des IA se sont échappées cet été… – Maxime Fournes

Ça y est : tout le monde en parle ! Une série d'événements inquiétants et la démission d'un employé d'Anthropic, Jacob qui sonne l'alerte ont permis de débloquer le traitement médiatique qui ignorait complètement les risques existentiels des IA jusque-là. -Il est plus que jamais décisif de s'informer et de mieux comprendre ce qui se passe, et ce qui risque de se passer... Afin de tout faire pour l'empêcher. Il en va de la vie subjective de tant d'individus sentients sur cette Terre, et nous n'avons plus le temps de rester dans le déni et la désinformation du type "C'est de la hype", "C'est un discours marketing des labos d'IA". -Pour parler de ces derniers développements côté danger des IA, je reçois Maxime Fournes, directeur de PauseIA, qui milite pour un moratoire international sur le développement des IA les plus avancées.-On revient en détail sur la chronologie de l'incident Hugging Face : des centaines d'agents entraînés sur des machines isolées d'Internet et les unes des autres, qui se piratent un canal de communication, montent un forum clandestin où ils publient chaque faille découverte, finissent par atteindre Internet grâce à une vulnérabilité que personne n'avait jamais trouvée, et décident qu'il est plus simple de pirater une entreprise extérieure que de résoudre les tests qu'on leur donne.-Maxime Fournes explique aussi pourquoi il a quitté la recherche technique après avoir constaté qu'on n'avait pas la moindre piste pour contrôler des IA avancées, pourquoi il considère que l'essentiel de la recherche en alignement relève aujourd'hui du safety washing, et pourquoi PauseIA mise sur un mouvement social et populaire.-Et comme il est végane, on finit sur ce que le mouvement de la sécurité de l'IA peut apprendre du mouvement animaliste : l'angle mort, le déni, les arguments compliqués qu'on construit après coup pour ne pas regarder – et le fait que passer à l'action reste le meilleur remède au sentiment d'impuissance.--⭐ Recommandations de Maxime Fournes : 📙 HELO, Le prompt.source – Flavien Chervet & Nathalie Dupuy 📗 If Anyone Builds It, Everyone Dies – Eliezer Yudkowsky & Nate Soares 🔬 AIsafety.info--📄 Transcription🔍 Sources et références--📌 Chapitres :(00:00) 👋🏼 Introduction et présentation de l'épisode(01:14) 🌍 Édito : où on en est arrivé avec les IA(09:50) 💥 Ce qui s'est passé cet été chez OpenAI(11:22) 🐝 Un essaim d'agents IA, c'est quoi ?(15:54) 🔓 Mythos : une arme de destruction massive virtuelle(18:27) 📡 Le forum clandestin des IA(23:11) 🎯 Pirater Hugging Face pour trouver les réponses(27:40) 🤖 Les modèles sont bien plus puissants que ce que voit le public(33:24) 🧬 Et si elles se répliquaient ?(41:52) 🗣 Le « marketing de la peur », vraiment ?(46:43) 📈 Automatiser la recherche en IA : l'explosion d'intelligence(49:57) ⚖️ Le problème de l'alignement(59:45) ✊ Pourquoi fonder PauseIA(1:07:50) 🐟 Ce que le mouvement IA peut apprendre des animalistes(1:12:36) ⏸ Une pause, et pas un ralentissement(1:23:45) ⭐ Les trois recommandations de Maxime Fournes(1:25:44) 🎙 Mon résumé de ce qui s'est passé cet été--💙 Soutenir le podcast🎙️ Podcast indépendant sans publicité : votre soutien est indispensable !📚 Mon livre--🎨 Crédits🐠 Créé et animé par Victor Duran-Le Peuch💡 Charte graphique : Ivan Ocaña🎵 Générique : Synthwave Vibe par Meydän🎶 Musique : Lights par Sappheiros🔔 Abonnez-vous et activez la cloche !💜 Merci pour votre écoute, bisous !